1 CONSIDERAÇÕES INICIAIS

Este documento tem como finalidade apresentar informações básicas para ajudar na Integração do Módulo Bot com o ChatGPT.

Histórico de Alterações

2 O QUE É CHATGPT?

O ChatGPT ou “Chat Generative Pre-Trained Transformer” (em tradução livre para o português: Transformador pré-treinado generativo de bate-papo) foi criado pela empresa OpenAI.

Trata-se de um modelo de inteligência artificial (IA) que gera textos, em linguagem natural, semelhante aos humanos. Ele é capaz de responder a diversas perguntas, com total precisão e grande embasamento. 

Seu grande diferencial é que, ao interagir com o robô, ele não te retorna com outra pergunta. Pelo contrário, ele traz, apenas, respostas. Ou seja, apresenta soluções. 

Por exemplo, se você deseja saber mais sobre “canais digitais para e-commerce”, ele vai mostrar um compilado estruturado de informações sobre o assunto. Caso você queira fazer perguntas, ainda mais específicas, do tipo “como utilizar o WhatsApp de forma profissional?”, basta digitar, que ele irá retornar com uma pesquisa mais direcionada. 

O ChatGPT é capaz de resolver equações matemáticas, traduzir idiomas, criar resumos de textos, fazer recomendações, explicar tarefas e muito mais. Ele foi treinado a partir de um grande banco de dados, de diversas fontes. Todo o seu raciocínio é feito por meio das informações que foram inseridas nesse banco. Ou seja, ele não faz cruzamento de dados externo, apenas, interpreta e esclarece solicitações com base no que já sabe. 

Segundo os seus desenvolvedores, a ideia é que, com o uso repetitivo do robô, a sua IA seja aprimorada. Para que, assim, possa produzir, por conta própria, novos bancos de conhecimento.

Link para acesso ao ChatGPT: https://chat.openai.com/

3 PRECIFICAÇÃO CHATGPT API

Para utilizar os recursos do ChatGPT em chatbots, é necessário o uso da API do ChatGPT. A API é um serviço que possibilita o uso de dados e sistemas de servidores da OpenAI em sistemas de terceiros, como o Módulo Bot da Plataforma Code7.

A cobrança pelo uso da API do ChatGPT é baseada no consumo de tokens. Os tokens são pedaços de palavras, sendo que 1.000 tokens correspondem a cerca de 750 palavras.

Cada modelo de linguagem utilizado pelo ChatGPT possui um valor de token diferenciado. O modelo de linguagem corresponde a “precisão” da IA utilizada, pelo ChatGPT, para responder a uma solicitação. O modelo escolhido interfere na velocidade de retorno da resposta da API, no valor do token cobrado e na precisão e sofisticação dos textos fornecidos.

Atualmente, a Integração do Módulo Bot utiliza a versão GPT-3 do ChatGPT. E ele possui 4 tipos de modelos de linguagem para uso na API, sendo o Ada é o mais rápido, enquanto o Davinci é o mais poderoso.

Abaixo apresentamos um pequeno resumo de cada modelo:

Ada: é uma versão menor do GPT-3, com cerca de 1,2 bilhões de parâmetros, o que o torna mais rápido e econômico de utilizar, em comparação com os modelos maiores.

É indicado para quem não precisa de recursos muito avançados e deseja realizar tarefas menos complexas. Ele é suficiente, por exemplo, para responder a perguntas básicas ou para gerar pequenos trechos de texto.

Preço: $0.0004 por 1K tokens.

Babbage: é um modelo de linguagem eficiente e confiável, sendo uma opção mais econômica em comparação aos modelos maiores. Possui 6 bilhões de parâmetros e é capaz de gerar textos coerentes e úteis para uma variedade de tarefas.

Por se tratar de um modelo menor, é limitado a tarefas menos complexas e textos menos avançados.

Preço: $0.0005 por 1K tokens.

Curie: modelo de linguagem de tamanho intermediário e que oferece equilíbrio entre desempenho e preço. Possui cerca de 13 bilhões de parâmetros e pode gerar textos mais complexos e sofisticados, do que modelos Ada e Babbage.

Indicado para tarefas que necessitam de uma linguagem mais sofisticada e uma compreensão mais profunda do contexto, como: redação de notícias; textos de marketing; resumos de documentos etc.

Preço: $0.0020 por 1K tokens.

Davinci: é o maior e mais poderoso modelo de inteligência da OpenAi e contém cerca de 175 bilhões de parâmetros. Tem capacidade de gerar textos altamente sofisticados e precisos, contando com a compreensão profunda de contexto e diversos recursos de linguagem.

Indicado para projetos que exigem alta qualidade de texto, como: chatbots de alta performance; redação de conteúdo complexo; geração de texto em diferentes idiomas etc.

Preço: $0.0200 por 1K tokens.

Para saber mais sobre a precificação da API do ChatGPT, acesse: https://openai.com/pricing .

Na prática, ao configurar o seu fluxo no Módulo Bot da Code7, você deverá indicar o modelo de linguagem que o ChatGPT deve utilizar para executar a tarefa descrita, via prompt.

Open

Logo, indica-se avaliar, previamente, a complexidade da tarefa a ser executada e o grau de precisão de retorno esperado. Para que assim, você evite escolher modelos avançados e com preço mais elevado para tarefas simples.

É possível escolher diferentes modelos de linguagem, em um mesmo fluxo conversacional, construído pelo Módulo Bot da Code7.

Caso queira se aprofundar nos modelos de linguagem oferecidos pela OpenAI, acesse: https://platform.openai.com/docs/models

4 CRIAÇÃO DE CONTA NA OPENAI

O primeiro passo para você conseguir integrar o seu chatbot ao ChatGPT é a criação de uma conta na OpenAI. Para isso, acesse: https://platform.openai.com/signup

Open

Use seu e-mail para criar uma conta e castre uma senha com, pelo menos, 8 caracteres.

Você receberá um e-mail de confirmação no endereço informado. Clique em “Verify email address” para verificar sua conta.

Em seguida, você será redirecionado para o site da OpenAI para completar sua inscrição. Informe seu nome, sobrenome e empresa.

Informe o número do seu celular e um código de confirmação será enviado a ele, via SMS.

Digite o código recebido, por SMS, na tela e faça login na sua conta.

Ao fazer o cadastro na OpenAI, cada celular obtém 5 dólares de crédito para experimentação da API, válidos por 3 meses. Esse crédito fica atrelado ao número de celular utilizado para verificação da conta, logo, se você criar diferentes contas com o mesmo número, a OpenAI não disponibilizará um novo valor.

Após o uso dos créditos, ou finalização do tempo de teste (3 meses), você será cobrado de acordo o uso da API. Para saber mais sobre a precificação da API do ChatGPT, clique aqui.

5 COMO OBTER CHAVE DE API

Uma vez logado na sua conta do OpenAI, vá até o canto superior direito e clique em “View API keys” (visualizar chaves de API) ou acesse o atalho aqui.

Em seguida, clique em “Create new secret key” (criar nova chave secreta).

Clique no botão indicado na imagem abaixo, para copiar sua chave.

Tudo pronto aqui. Agora, vá para o Módulo Bot para realizar a integração da sua conta da OpenAi.

6 CONFIGURAÇÃO DA INTEGRAÇÃO

Acesse https://new.boteria.com.br/ e faça seu login. Caso ainda não tenha uma conta, é necessário criá-la.

Após acessar sua conta, selecione o bot em que você deseja configurar a integração com o ChatGPT. Se você não possui um bot criado, clique em “Criar Bot” e configure o seu primeiro chatbot.

No bot criado, clique em “Integrações”.

Depois, vá até o card correspondente a integração do ChatGPT.

Por fim, insira sua chave de API e clique em “Salvar”.

Pronto! Seu chatbot já está integrado ao ChatGPT.

7 CRIAÇÃO DE FLUXO DO BOT

Agora, é hora de começar a configurar o fluxo do seu chatbot. Para isso, vá em “Editar Fluxo”.

Dentro do criador, clique no botão de adicionar blocos e procure pela opção ChatGPT.

Em seguida, clique no bloco e arraste para a tela do fluxo.

Ao selecionar o bloco, serão abertas diversas opções de configuração. Vamos apresentar, a seguir, cada uma delas.

Modelo: campo para escolher o modelo de linguagem, que o ChatGPT deverá usar no bloco. Para saber mais sobre modelos de linguagem, clique aqui.

Temperatura: slider para indicar a quantidade de insumos, que o ChatGPT deverá utilizar para apresentar a resposta. Quanto maior a temperatura, maior o tempo de retorno da resposta.

Tamanho máximo: slider para indicar o tamanho máximo de tokens que o ChatGPT deverá usar no bloco. Quanto mais tokens (tamanho máximo mais próximo de 4k), maior o custo de retorno da resposta.

Armazenar variável: se ativo, esse checkbox armazena o retorno da requisição do ChatGPT em uma variável.

Essa configuração é utilizada para armazenamento, manipulação e tratamento dos dados. Por exemplo, quando deseja-se fazer uma chamada de API com o retorno do ChatGPT ou enviá-lo via e-mail ou SMS.

Vale lembrar que ao armazenar o retorno do ChatGPT em uma variável, ela não será exibida, por mensagem, ao usuário do bot.

Manter contexto: se ativo, o cliente permanecerá no bloco GPT e suas perguntas poderão ser feitas mantendo o tema do texto anterior. Para sair do bloco, ele deverá digitar uma das palavras do gatilho de saída cadastradas.

No campo mensagem, deve ser inserida uma frase, para seu usuário, informando quais palavras ele deve digitar para sair da interação com o ChatGPT. Por exemplo: Para encerrar a interação com o ChatGPT, digite “cancelar” ou “sair”.

Em gatilho de saída, você cadastra quais palavras servirão para encerrar a conversa naquele contexto e para continuar com o fluxo do bot.

Editar prompt: ao clicar nesse botão, é aberta a tela de edição de prompt. Nela, você irá realizar a requisição ao ChatGPT, ou seja, irá digitar o que deseja que a integração retorne.

Por exemplo: Você é um atendente da empresa ‘Code7’ e recebeu o seguinte questionamento ‘{texto}’. Formate um e-mail salientando que recebemos esse questionamento e já refizemos o repasse interno. Marque os principais pontos da pergunta. Caso for uma reclamação, se desculpe e diga que o problema será ajustado em breve. Agora, ser for um elogio agradeça e diga que faremos de tudo pra melhorar a experiencia do cliente. 

Para mais exemplos de prompt acesse o link:

Escape: campos para configuração de contingência para situações em que a OpenAI retorne um erro de continuidade da API (como: falta de crédito ou limite de tokens atingido).

O escape do Bloco de ChatGPT segue o mesmo princípio dos demais blocos do Módulo Bot.