O Guia Essencial para Engenharia de Prompt no ChatGPT

Desde o seu lançamento, o ChatGPT tem feito ondas na esfera de IA, atraindo mais de 100 milhões de usuários em tempo recorde. O segredo para o desempenho impressionante e a versatilidade do ChatGPT reside em uma arte sutilmente aninhada em sua programação – a engenharia de prompt.

Lançado em 2022, o DALL-E, MidJourney e StableDiffusion destacaram o potencial disruptivo da IA Geradora. Mas foi o Open AI com o ChatGPT que realmente assumiu o centro das atenções no final de 2022. E esse momentum não mostrou sinais de desaceleração.

O anúncio do Bard da Google e a resposta da Meta com o Llama 2 ao ChatGPT da OpenAI amplificou significativamente o momentum da corrida de IA. Ao fornecer esses modelos com entradas, estamos guiando seu comportamento e respostas. Isso nos torna todos engenheiros de prompt em certo grau. A indústria de tecnologia notou. Os capitalistas de risco estão investindo fundos em startups que se concentram em engenharia de prompt, como a Vellum AI. Além disso, a Forbes relata que os engenheiros de prompt comandam salários que excedem $300.000, indicativo de um mercado de trabalho próspero e valioso.

Neste artigo, vamos desmistificar o mundo da engenharia de prompt no contexto do ChatGPT. Vamos explorar os princípios e técnicas centrais e examinar suas aplicações comerciais.

Vamos primeiro entender como o ChatGPT funciona e o papel fundamental que a engenharia de prompt desempenha nesse processo.

A Mecânica Por Trás da Engenharia de Prompt do ChatGPT

O segredo por trás do sucesso do ChatGPT é sua capacidade de entender e imitar as nuances da conversa humana. O modelo é treinado em uma ampla gama de textos da internet, mas crucialmente, não conhece documentos ou fontes específicas em seu conjunto de treinamento, garantindo generalização sobre especificidade. Essa abordagem de treinamento permite que o ChatGPT gere respostas criativas, navegue por diálogos complexos e até exiba um senso de humor. No entanto, é importante lembrar que o ChatGPT não entende ou tem crenças; ele gera respostas com base em padrões que aprendeu durante o treinamento.

A capacidade do ChatGPT de entender e responder à linguagem humana de maneira sutil e ciente do contexto o torna uma ferramenta incrivelmente versátil.

A mecânica desses modelos baseia-se no conceito de ‘tokens’ – porções discretas de linguagem que podem variar de um caractere a uma palavra inteira. Esses modelos trabalham com um número específico de tokens de cada vez (4096 para o GPT-3.5-Turbo ou 8192 ou 32768 para o GPT-4), prevendo a sequência subsequente de tokens mais prováveis. Os modelos processam os tokens usando álgebra linear complexa, prevendo o token subsequente mais provável.

Por exemplo, uma frase simples de nove palavras pode se tornar dez tokens. Até mesmo uma palavra complexa pode se tornar vários tokens, o que ajuda o modelo a entender e gerar linguagem melhor. Até mesmo línguas com estruturas de palavras complexas, como o alemão, são gerenciadas por meio de tokenização.

Os modelos GPT (Gerador de Transformador Pré-treinado) funcionam gerando um token de cada vez, começando do primeiro token e continuando até o último. Após gerar cada token, o modelo revisita a sequência inteira e a processa novamente para gerar o token seguinte. Esse processo iterativo continua até que o token final seja gerado, tornando a geração de texto semelhante a um grande laço for.

Mas aqui está a pegadinha – a qualidade dessas respostas depende muito dos prompts que recebe. Assim como direcionar uma conversa com um humano, guiar um diálogo com o ChatGPT requer um certo nível de habilidade e compreensão. É aí que a engenharia de prompt entra em jogo.

O que é Engenharia de Prompt?

A Engenharia de Prompt é a arte de criar prompts/prompt precisos e eficazes para guiar modelos de IA (NLP/Visão) como o ChatGPT para gerar saídas mais custo-eficazes, precisas, úteis e seguras.

A engenharia de prompt não se limita apenas à geração de texto, mas tem aplicações abrangentes em todo o domínio da IA. Está sendo cada vez mais empregada em áreas como automação de processos robóticos, ativos 3D, scripts, instruções de robô e outros tipos de conteúdo e mídia digital. Ela fornece uma combinação única de lógica, codificação, arte e, em certos casos, modificadores especiais.

Embora um prompt possa incluir texto de linguagem natural, imagens ou outros tipos de dados de entrada, a saída pode variar significativamente entre serviços e ferramentas de IA. Cada ferramenta tem seus modificadores especiais que descrevem o peso das palavras, estilos, perspectivas, layout ou outras propriedades da resposta desejada.

Esse campo é essencial para criar serviços de IA melhorados e obter resultados superiores de ferramentas de IA geradora existentes. Desenvolvedores empresariais, por exemplo, frequentemente utilizam engenharia de prompt para personalizar Large Language Models (LLMs) como o GPT-3 para alimentar um chatbot voltado para o cliente ou lidar com tarefas como criar contratos específicos da indústria.

Esse processo iterativo de refinamento de prompt e medição do desempenho da IA é um elemento-chave para permitir que os modelos de IA gerem respostas altamente direcionadas e úteis em vários contextos.

Tornando-se um Engenheiro de Prompt

A habilidade do modelo GPT-4 em compreender instruções complexas e resolver problemas intricados com precisão o torna um recurso inestimável. No entanto, existem diferentes métodos para acessar as capacidades desse modelo, e entender esses métodos pode ser crucial para o papel de um engenheiro de prompt na otimização de eficiência e custo-eficácia.

Existem basicamente duas maneiras de interagir com modelos GPT, como o GPT-4. Uma delas é por meio da API do OpenAI, onde os custos são calculados por token de entrada e saída. Nesse cenário, os custos por 1K tokens podem flutuar com base no tamanho do contexto. Por exemplo, em um contexto maior de 32K, o custo poderia chegar a $0,06 para tokens de entrada e $0,12 para tokens de saída. Portanto, ao lidar com um grande volume de solicitações, o custo de uso pode se acumular rapidamente.

Alternativamente, o ChatGPT, que aproveita o modelo GPT-4, opera em um modelo de assinatura.

Outra tarefa-chave na engenharia de prompt envolve o ajuste de parâmetros do modelo. Esse processo envolve ajustar as variáveis que o modelo usa para fazer previsões. Ao ajustar esses parâmetros, os engenheiros de prompt podem melhorar a qualidade e a precisão das respostas do modelo, tornando-as mais relevantes e úteis.

Embora muitos engenheiros de prompt venham de um background técnico, a natureza multidisciplinar do campo torna-o acessível a indivíduos de diversas origens profissionais. Cada vez mais, escritores, pesquisadores e até mesmo artistas estão aproveitando suas habilidades únicas para melhorar a eficácia dos modelos de IA. Essa mudança é refletida no mercado de trabalho, com um número crescente de empresas procurando engenheiros de prompt com uma ampla gama de habilidades e backgrounds.

Projeto e Engenharia de Prompt no ChatGPT

O Projeto e a Engenharia de Prompt desempenham um papel crítico na otimização do desempenho dos modelos de linguagem e envolvem mais do que apenas criar perguntas; eles exigem uma compreensão profunda do modelo de IA e uma abordagem altamente iterativa e refinada.

Projeto de Prompt

O projeto de prompt, em sua essência, é a arte e a ciência de criar o prompt perfeito para um modelo de linguagem grande (LLM), como o ChatGPT, para alcançar um objetivo claramente declarado. É uma combinação de:

• Compreensão do LLM: Diferentes modelos de linguagem podem responder variadamente ao mesmo prompt. Além disso, certos modelos de linguagem podem ter palavras-chave ou gatilhos únicos que interpretam de uma maneira específica.
• Conhecimento de Domínio: A expertise no campo relevante é crucial ao projetar prompts. Por exemplo, gerar um prompt para inferir um diagnóstico médico exigiria conhecimento médico.
• Aproach Iterativo e Medição de Qualidade: O processo de criar o prompt ideal frequentemente envolve tentativa e erro. Portanto, ter uma maneira de avaliar a qualidade da saída além do julgamento subjetivo é vital, especialmente quando usando o prompt em uma escala maior.

Engenharia de Prompt

A engenharia de prompt é um domínio estendido do projeto de prompt que inclui vários processos críticos:

• Projeto de Prompts em Escala: Esse processo inclui o design de meta-prompts (prompts que geram outros prompts) e modelos de prompt parametrizados, que podem ser instanciados em tempo de execução.
• Design de Ferramentas e Integração: Prompts podem incluir resultados de ferramentas externas, e integrar essas ferramentas de forma transparente ao sistema é crucial.
• Fluxo de Trabalho, Planejamento e Gerenciamento de Prompts: Implantar uma aplicação LLM, como um chatbot, frequentemente requer gerenciar bibliotecas de prompts, planejar e escolher os prompts certos e integrar várias ferramentas de forma eficiente.
• Avaliação e Garantia de Qualidade de Prompts: Esse aspecto inclui definir métricas e processos para avaliar os prompts tanto automaticamente quanto com envolvimento humano.
• Otimização de Prompt: O custo e a latência do modelo de IA podem depender da escolha do modelo e do comprimento do prompt (número de tokens).

Muitas abordagens automatizadas de design de prompt, ferramentas e estruturas foram desenvolvidas para gerenciar prompts em escala. No entanto, é importante entender que nenhuma dessas ferramentas pode substituir a compreensão sutil, o julgamento e a experiência de um engenheiro de prompt experiente.

Engenharia de Prompt: Técnicas e Melhores Práticas

1) Colocação e Descrição de Prompt

Colocar instruções no início do prompt pode impactar significativamente a compreensão e a resposta do AI. Considere a tarefa de resumir um texto em formato de lista de pontos principais. Uma abordagem menos eficaz seria:

Usuário: Resuma o texto abaixo como uma lista de pontos principais em forma de bullet points.
{entrada de texto aqui}

Já uma técnica mais eficaz poderia ser:

Usuário: Resuma o texto abaixo como uma lista de pontos principais em forma de bullet points.
Texto: “””
{entrada de texto aqui}
“””

Ao separar claramente as instruções e o contexto com símbolos como ### ou “”, o modelo de IA pode melhor delimitar sua tarefa e o texto que precisa processar, proporcionando respostas mais precisas e relevantes.

Em segundo lugar, ser específico, descritivo e detalhista sobre o contexto, resultado esperado, comprimento, formato, estilo e assim por diante pode melhorar significativamente a precisão das respostas do AI. Suponha que você precise gerar uma visão geral concisa de um artigo científico de forma atraente e acessível a leigos. Uma instrução vaga como “Resuma o artigo científico” renderia resultados menos eficazes em comparação com um prompt específico e detalhado:

Usuário: Gere uma visão geral concisa (aproximadamente 200 palavras) do artigo científico a seguir. A visão geral deve ser compreensível por alguém sem conhecimento científico, refletindo com precisão as principais descobertas do artigo.
Artigo: “””
{texto do artigo científico aqui}
“””

2) Padrão de Persona

O Padrão de Persona é uma estratégia que configura o AI para funcionar a partir de uma perspectiva específica, como um papel profissional ou um personagem fictício. Essa tática permite que o modelo forneça saídas relacionadas aos papéis que a persona lidaria. Por exemplo, você poderia instruir o AI a agir como um especialista em segurança cibernética durante uma revisão de código. Esse padrão é particularmente útil quando os usuários precisam de assistência, mas não têm certeza sobre os detalhes exatos necessários na saída.

Considere o exemplo a seguir:

Usuário: “Assuma a persona de um historiador sênior especializado na Revolução Francesa. Dada essa persona, explique os principais eventos e razões que levaram à queda da monarquia francesa.”

Nesse cenário, o AI é esperado para responder com uma análise aprofundada da Revolução Francesa, focando na queda da monarquia, como um historiador faria.

Introduzindo Nova Informação

O ChatGPT não possui conhecimento além de seu corte de treinamento, portanto, não pode fornecer informações sobre eventos recentes ou atualizações pós-treinamento. No entanto, você pode introduzir nova informação ao modelo por meio de seus prompts.

Usuário: “O que é criptomoeda?”
ChatGPT: “Criptomoeda é um tipo de moeda digital ou virtual que usa criptografia para segurança. A criptomoeda mais conhecida é o Bitcoin.”

Agora, se adicionarmos um pouco mais de contexto ao prompt, podemos tornar a explicação ainda mais intuitiva:

Usuário: “Explique o conceito de criptomoeda para um estudante do ensino médio que estuda finanças digitais”
ChatGPT: “Imagine que você está jogando um jogo online e há uma moeda do jogo que você pode ganhar para comprar upgrades ou novos personagens. A criptomoeda é tipo isso, mas em vez de ser limitada ao jogo, você pode usá-la para comprar bens e serviços reais. É como dinheiro digital que nenhum banco ou governo controla.”

3) Limitações de Tamanho de Prompt

Entender as limitações de tamanho do ChatGPT é essencial, pois isso afeta diretamente o volume e o tipo de informação que podemos inserir. Os modelos de linguagem não são projetados para processar dados ilimitados de uma vez. Eles têm uma restrição inerente ao tamanho do prompt que podemos criar e inserir. Essa limitação tem implicações profundas para o design e a execução dos prompts.

O ChatGPT tem um limite de token (geralmente 2048 tokens), que inclui tanto o prompt quanto a resposta gerada. Isso significa que prompts longos podem limitar o comprimento da resposta. Portanto, é importante manter os prompts concisos, mas informativos.

Na prática, devemos agir como editores, selecionando cuidadosamente a informação mais relevante para a tarefa em questão. Imagine escrever um artigo ou uma peça com um limite de palavras ou páginas – você não pode simplesmente incluir fatos aleatórios, mas deve selecionar e estruturar informações relevantes para o assunto.

Usuário: “Dada a limitação de tokens do modelo, resuma os principais eventos da Segunda Guerra Mundial em menos de 1000 palavras.”

Ao reconhecer as limitações de tokens do modelo, esse prompt direciona o AI a fornecer um resumo conciso, mas abrangente, da Segunda Guerra Mundial.

Prompts para Uso Reiterado: Em um cenário conversacional, você pode reutilizar prompts ou refiná-los com base em respostas anteriores. Isso fornece um fluxo conversacional e mantém o contexto na interação.

4) Padrão de Refinamento de Pergunta

O ChatGPT também pode ajudar a refinar suas perguntas. Por exemplo, se você fizer uma pergunta, ele pode sugerir uma pergunta melhor formulada para resultados mais precisos.

O Padrão de Refinamento de Pergunta envolve o LLM refinando as perguntas feitas pelo usuário. É particularmente útil quando os usuários não são especialistas em um domínio ou estão incertos sobre como formular sua pergunta.

Um exemplo de prompt pode ser:

Usuário: “Sempre que eu faça uma pergunta sobre ciência de dados, sugira uma pergunta mais refinada considerando aspectos específicos de análise estatística e pergunte se eu quero prosseguir com a pergunta refinada.”

Aqui, o AI é esperado para refinar as perguntas gerais de ciência de dados do usuário para perguntas mais detalhadas considerando aspectos de análise estatística.

5) Padrão de Verificador Cognitivo

O Padrão de Verificador Cognitivo divide perguntas complexas em sub-perguntas menores e gerenciáveis. As respostas a essas sub-perguntas são então combinadas para fornecer uma resposta abrangente à pergunta principal. Essa abordagem é útil quando as perguntas iniciais são muito genéricas ou quando é necessária clareza adicional para fornecer uma resposta completa.

Por exemplo:

Usuário: “Se eu fizer uma pergunta sobre mudanças climáticas, divida-a em três perguntas menores que ajudariam a fornecer uma resposta mais precisa. Combine as respostas a essas sub-perguntas para dar a resposta final.”

Nesse cenário, o AI irá dividir a pergunta complexa sobre mudanças climáticas em três perguntas menores gerenciáveis. Após receber respostas a essas sub-perguntas, o AI combinará essas respostas para fornecer uma resposta mais abrangente e precisa.

Esse padrão envolve a geração de múltiplas perguntas para obter uma resposta final mais precisa. É um processo de verificação e consolidação de informações para uma saída final robusta.

6) Abordagem de Prompt de Poucos Exemplos

A abordagem de prompt de poucos exemplos é uma técnica poderosa para ensinar modelos de IA a seguir padrões específicos ou realizar tarefas. A ideia é alimentar o modelo com uma série de exemplos antes de fazer a pergunta desejada. Isso ajuda a estabelecer o comportamento desejado e guiar as respostas do modelo.

Considere um cenário em que um usuário está tentando criar uma cópia de marketing concisa e atraente para um novo gadget de tecnologia:

Usuário: “Aqui estão alguns exemplos de cópias de marketing de tecnologia: ‘Experimente a música como nunca antes com nossos fones de ouvido sem fio de ponta.’ ‘Capture o seu mundo em 4K impressionante com nossa câmera de ação ultra-elegante.’ Dadas essas amostras, crie uma cópia de marketing para o nosso novo relógio inteligente com IA.”

ChatGPT: “Potencialize seu estilo de vida com o nosso relógio inteligente com IA, seu companheiro para saúde, conectividade e produtividade.” A característica notável dessa técnica é que não exige uma descrição detalhada de como realizar a tarefa. Em vez disso, requer demonstrações do que está sendo feito, o que pode torná-la adequada para muitas aplicações.

Além disso, essa técnica se estende além do par de entrada-saída simples. O modelo também pode ser ensinado a lidar com etapas intermediárias para alcançar um objetivo.

7) Abordagem de Encadeamento de Pensamento

Em um artigo de pesquisa recente, “Encadeamento de Pensamento para Elicitar Raciocínio em Modelos de Linguagem Grande“, os autores Jason Wei e equipe visam estimular o raciocínio dentro de modelos de linguagem grande. Em vez de usar prompts tradicionais e diretos, a equipe faz uso de uma série de prompts interconectados, formando uma ‘cadeia de pensamento’.

Por exemplo, um usuário pode estar interessado no impacto potencial da inteligência artificial nos mercados de trabalho:

Usuário: “Pode me explicar brevemente o conceito de inteligência artificial?”

ChatGPT: “Inteligência Artificial, ou IA, refere-se à capacidade de uma máquina imitar o comportamento inteligente humano. É sobre projetar máquinas que possam pensar e aprender como os humanos, permitindo que realizem tarefas como tradução de linguagem, tomada de decisão e resolução de problemas, entre outros.”

Usuário: “Como a IA está influenciando o mercado de trabalho atual?”

ChatGPT: “A IA está criando novos empregos e alterando a natureza dos existentes. Por um lado, ela automatiza tarefas rotineiras, levando ao deslocamento de empregos em certos setores. Por outro lado, está criando demanda por papéis que não existiam anteriormente, como oficiais de ética de IA, analistas de dados e engenheiros de aprendizado de máquina. Além disso, a IA pode aumentar os papéis humanos, permitindo que as pessoas realizem tarefas de forma mais eficiente e precisa.”

A abordagem de encadeamento de pensamento segue uma sequência de prompts relacionados, mantendo uma ‘conversa’ com o modelo que o direciona para respostas mais precisas e contextualmente apropriadas.

Entendendo a API do ChatGPT e a Engenharia de Prompt de uma Perspectiva de Desenvolvedor

De uma perspectiva de desenvolvedor ou pesquisador, a engenharia de prompt é um processo mais complexo. Ela envolve o design de algoritmos e técnicas para ajudar o modelo de IA a entender e responder a prompts de forma mais eficaz. Isso pode incluir estratégias para lidar com prompts ambíguos, identificar o contexto dos prompts ou encadear prompts para estimular processos de pensamento mais complexos na IA.

Na ilustração acima, um usuário interage com uma interface de chat, impulsionada pelo GPT-4. A entrada do usuário é aprimorada para clareza e consistência contextual por um módulo especializado antes de ser alimentada ao modelo de IA. O papel desse módulo é refinar e melhorar a entrada do usuário para uma melhor compreensão, mantendo também o contexto da conversa. A resposta do AI, criada com base no prompt refinado, é retornada ao usuário por meio da interface de chat. O histórico de interação é atualizado consistentemente, mantendo o contexto conversacional. Em geral, essa ilustração demonstra um fluxo de conversa dinâmico entre o usuário e o AI, habilitado por técnicas de engenharia de prompt.

A interface da API do ChatGPT é projetada com vários hiperparâmetros que permitem aos usuários refinar as respostas do AI aos prompts, tornando-as mais eficazes e versáteis. Esses incluem os parâmetros de Temperatura, Comprimento Máximo, Sequências de Parada, Top P, Penalidade de Frequência e Penalidade de Presença. Vamos explorar como eles funcionam e podem ser utilizados em diferentes contextos.

1) Temperatura

O parâmetro de temperatura influencia a aleatoriedade das respostas do AI. Uma temperatura mais alta, como 1,0, encoraja saídas mais aleatórias, resultando em respostas diversificadas, mas potencialmente fora do contexto. Em contraste, uma temperatura mais baixa, como 0,2, direciona o AI a selecionar respostas mais determinísticas, que podem ser benéficas para saídas focadas e específicas, mas podem carecer de variedade.

Exemplo: Se você está escrevendo uma história criativa e deseja elementos imprevisíveis e imaginativos, configure a temperatura para um valor mais alto. Um prompt poderia ser: “Escreva uma história curta sobre um gato viajante no tempo.” Com uma temperatura alta, você pode obter uma história selvagem e fantástica com reviravoltas imprevisíveis.

2) Comprimento Máximo

Esse parâmetro controla o comprimento máximo de token da saída do modelo, que inclui tanto os tokens na mensagem de entrada quanto na saída. Configurar um limite mais alto permite respostas mais extensas, enquanto um limite mais baixo mantém a saída concisa.

Exemplo: Para respostas breves a perguntas de trivia, como “Quem ganhou o Prêmio Nobel de Literatura em 2020?”, você pode querer configurar o comprimento máximo para um valor baixo, garantindo que a resposta seja concisa e direta.

3) Sequências de Parada

As sequências de parada são strings de texto específicas onde, quando o modelo as encontra, ele para de gerar saída adicional. Essa característica pode ser útil para controlar o comprimento da saída ou instruir o modelo a parar em pontos lógicos de término.

Exemplo: Para uma carta formal, você poderia usar “Atenciosamente,” como uma sequência de parada para garantir que o AI não gere texto adicional além do fechamento adequado da carta.

4) Top P

O parâmetro ‘Top P’, também conhecido como amostragem de núcleo, é um método que fornece uma seleção dinâmica do número de palavras consideradas a cada etapa das previsões do modelo. Um valor mais baixo, como 0,5, leva a saídas mais seguras e focadas. Um valor mais alto, como 0,9, inclui uma seleção mais ampla de palavras, resultando em saídas mais diversificadas.

Exemplo: Se você está criando um AI para escrever poemas e deseja que ele use uma ampla gama de vocabulário e frases estilísticas, você pode configurar ‘Top P’ para um valor mais alto. Um prompt poderia ser: “Componha um poema sobre a beleza do outono.”

5) Penalidade de Frequência

A Penalidade de Frequência controla o quanto o modelo deve favorecer palavras menos frequentes. Uma penalidade mais alta (até 1) encoraja o modelo a usar palavras menos comuns, enquanto um valor mais baixo (até -1) encoraja o uso de palavras mais comuns.

Exemplo: Se você está gerando uma proposta de negócios e deseja evitar jargões, você pode configurar a penalidade de frequência para um valor mais baixo para manter a linguagem clara e acessível.

6) Penalidade de Presença

A Penalidade de Presença afeta o quanto o modelo é penalizado por gerar novas ideias ou tópicos que não estavam presentes na história da conversa. Valores mais altos encorajam o modelo a se ater a tópicos já mencionados, enquanto valores mais baixos permitem que o modelo introduza novos conceitos mais livremente.

Exemplo: Para sessões de brainstorming, você pode configurar a penalidade de presença para um valor mais baixo para encorajar uma ampla gama de ideias. Você poderia usar um prompt como: “Gere estratégias de marketing inovadoras para uma plataforma de educação online.”

Aplicação Industrial da Engenharia de Prompt