O Guia Essencial para Prompt Engineering no ChatGPT

Desde o seu lançamento, ChatGPT vem causando impacto na esfera da IA, atraindo mais de 100 milhões de usuários em tempo recorde. O segredo do desempenho e da versatilidade impressionantes do ChatGPT reside em uma arte sutilmente inserida em sua programação: a engenharia ágil.

Lançados em 2022, DALL-E, MidJourney e StableDiffusion ressaltaram o potencial disruptivo da IA ​​generativa. Mas era IA aberta's ChatGPT que realmente ocupou o centro do palco no final de 2022. E esse ímpeto não mostrava sinais de desaceleração.

Anúncio do Bard pelo Google e Lamma 2 de Meta  A resposta ao ChatGPT da OpenAI ampliou significativamente o ímpeto da corrida da IA. Ao fornecer informações a esses modelos, estamos orientando seu comportamento e respostas. Isso nos torna, até certo ponto, engenheiros ágeis. A indústria de tecnologia percebeu isso. Capitalistas de risco estão investindo em startups com foco em engenharia ágeis, como Velino AI. Além disso, a Forbes informa que os engenheiros de prompt comandam salários superiores a $ 300,000, indicativo de um mercado de trabalho próspero e valioso.

Neste artigo, desmistificaremos o mundo da engenharia de prompts no contexto do ChatGPT. Exploraremos os princípios e técnicas fundamentais e examinaremos suas aplicações comerciais.

Vamos primeiro entender como o ChatGPT funciona e o papel fundamental que a engenharia de prompts desempenha nesse processo.

A mecânica por trás da engenharia de prompt do ChatGPT

O segredo do sucesso do ChatGPT é sua capacidade de compreender e imitar as nuances da conversa humana. O modelo é treinado com uma gama diversificada de textos da internet, mas, crucialmente, não reconhece documentos ou fontes específicas em seu conjunto de treinamento, o que garante generalização em vez de especificidade. Essa abordagem de treinamento permite que o ChatGPT gere respostas criativas, navegue por diálogos complexos e até mesmo exiba senso de humor. No entanto, é importante lembrar que o ChatGPT não entende ou tem crenças de verdade; ele gera respostas com base em padrões aprendidos durante o treinamento.

A capacidade do ChatGPT de entender e responder à linguagem humana de maneira diferenciada e contextualizada o torna uma ferramenta incrivelmente versátil.

A mecânica desses modelos baseia-se no conceito de "tokens" — blocos discretos de linguagem que podem variar de um único caractere a uma palavra inteira. Esses modelos trabalham com um número específico de tokens por vez (4096 para GPT-3.5-Turbo ou 8192 ou 32768 para GPT-4), prevendo a próxima sequência de tokens prováveis. Os modelos processam os tokens usando álgebra linear complexa, prevendo o token subsequente mais provável.

Por exemplo, uma frase simples de nove palavras pode se transformar em dez tokens. Mesmo uma única palavra complexa pode se transformar em vários tokens, o que ajuda o modelo a entender e gerar linguagem melhor. Mesmo idiomas com estruturas de palavras complexas, como o alemão, são gerenciados por tokenização.

Os modelos GPT (Transformador pré-treinado generativo) funcionam gerando um token por vez, começando do primeiro token e continuando até o último. Depois de gerar cada token, o modelo revisita toda a sequência e a processa novamente para gerar o próximo token. Esse processo iterativo continua até que o token final seja gerado, tornando a geração de texto semelhante a um grande loop for.

Mas aqui está o problema: a qualidade dessas respostas depende em grande parte dos prompts recebidos. Assim como conduzir uma conversa com um humano, conduzir um diálogo com o ChatGPT exige um certo nível de habilidade e compreensão. É aí que a engenharia de prompts entra em ação.

O que é Prompt Engenharia?

A Engenharia de Prompt é a arte de criar prompts/entradas precisos e eficazes para guiar a IA (PNL/Vision) como ChatGPT para gerar os resultados mais econômicos, precisos, úteis e seguros.

A engenharia imediata não se limita apenas à geração de texto, mas tem aplicações abrangentes em todo o domínio da IA. Ele está sendo cada vez mais empregado em áreas como bots de automação de processos robóticos, ativos 3D, scripts, instruções de robôs e outros tipos de conteúdo e mídia digital. Ele fornece uma combinação única de lógica, codificação, arte e, em certos casos, modificadores especiais.

Embora um prompt possa incluir texto em linguagem natural, imagens ou outros tipos de dados de entrada, a saída pode variar significativamente entre serviços e ferramentas de IA. Cada ferramenta tem seus modificadores especiais que descrevem o peso das palavras, estilos, perspectivas, layout ou outras propriedades da resposta desejada.

Este campo é essencial para criar melhores serviços baseados em IA e obter resultados superiores de ferramentas de IA generativas existentes. Os desenvolvedores corporativos, por exemplo, geralmente utilizam engenharia imediata para adaptar Modelos de Linguagem Grande (LLMs) como GPT-3 para alimentar uma interface voltada para o cliente chatbot ou lidar com tarefas como a criação de contratos específicos do setor.

Esse processo iterativo de refinamento imediato e medição do desempenho da IA ​​é um elemento-chave para permitir que os modelos de IA gerem respostas úteis e altamente direcionadas em vários contextos.

Tornando-se um Engenheiro Prompt

A capacidade do modelo GPT-4 de compreender instruções complexas e resolver problemas complexos com precisão o torna um recurso inestimável. No entanto, existem diferentes métodos para acessar as capacidades deste modelo, e compreendê-los pode ser crucial para o papel de um engenheiro ágil na otimização da eficiência e da relação custo-benefício.

Existem essencialmente duas maneiras de interagir com modelos GPT como o GPT-4. Uma delas é por meio da API da OpenAI, onde os custos são calculados por tokens de entrada e saída. Nesse cenário, os custos por tokens de 1K podem variar de acordo com o tamanho do contexto. Por exemplo, em um contexto maior de 32K, o custo pode chegar a US$ 0.06 para tokens de entrada e US$ 0.12 para tokens de saída. Assim, ao lidar com um alto volume de solicitações, o custo de uso pode se acumular rapidamente.

Como alternativa, o ChatGPT, que utiliza o modelo GPT-4, opera em um modelo baseado em assinatura.

Outra tarefa fundamental na engenharia de prompts envolve o ajuste dos parâmetros do modelo. Esse processo envolve o ajuste das variáveis ​​que o modelo utiliza para fazer previsões. Ao ajustar esses parâmetros, os engenheiros de prompts podem melhorar a qualidade e a precisão das respostas do modelo, tornando-as mais relevantes e úteis em termos de contexto.

Embora muitos engenheiros de ponta tenham formação em tecnologia, a natureza multidisciplinar da área a torna acessível a indivíduos de diversas origens profissionais. Cada vez mais, escritores, pesquisadores e até artistas estão aproveitando suas habilidades únicas para aprimorar a eficácia dos modelos de IA. Essa mudança também se reflete no mercado de trabalho, com um número crescente de empresas buscando engenheiros de ponta com uma gama diversificada de habilidades e formações.

Prompt Design e Engenharia no ChatGPT

O Prompt Design and Engineering desempenha um papel crítico na otimização do desempenho dos modelos de linguagem e envolve mais do que apenas elaborar perguntas; eles exigem uma compreensão profunda do modelo de IA e uma abordagem altamente iterativa e refinada.

Projeto de solicitação

O design de prompts, em sua essência, é a arte e a ciência de criar o prompt perfeito para um determinado modelo de linguagem de grande porte (LLM), como o ChatGPT, a fim de atingir um objetivo claramente definido. É uma combinação de:

• Compreensão do LLM: Diferentes modelos de linguagem podem responder de forma variável ao mesmo prompt. Além disso, certos modelos de linguagem podem ter palavras-chave ou gatilhos únicos, que eles interpretam de uma maneira específica.
• Conhecimento do domínio: a experiência no campo relevante é crucial ao projetar prompts. Por exemplo, gerar um prompt para inferir um diagnóstico médico exigiria conhecimento médico.
• Abordagem iterativa e medição de qualidade: o processo de criação do prompt ideal geralmente envolve tentativa e erro. Portanto, ter uma maneira de avaliar a qualidade da saída além do julgamento subjetivo é vital, principalmente ao usar o prompt em uma escala maior.

Engenharia imediata

A engenharia de prompt é um domínio estendido do design de prompt que inclui vários processos críticos:

• Design de prompts em escala: esse processo inclui o design de meta prompts (prompts que geram outros prompts) e modelos de prompt, que são prompts parametrizados que podem ser instanciados em tempo de execução.
• Design e integração de ferramentas: às vezes, os prompts podem incluir resultados de ferramentas externas, e a integração dessas ferramentas perfeitamente no sistema é crucial.
• Fluxo de trabalho, planejamento e gerenciamento de prompts: a implantação de um aplicativo LLM, como um chatbot, geralmente requer o gerenciamento de bibliotecas de prompts, planejamento e escolha dos prompts certos e integração eficiente de várias ferramentas.
• Avaliação e Garantia de Qualidade de Prompts: Este aspecto inclui a definição de métricas e processos para avaliar os prompts de forma automática e com envolvimento humano.
• Otimização de prompt: o custo e a latência do modelo de IA podem depender da escolha do modelo e do comprimento do prompt (número de tokens).

Muitas abordagens, ferramentas e estruturas de design de prompts automatizados foram desenvolvidas para gerenciar prompts em escala. No entanto, é importante entender que nenhuma dessas ferramentas pode substituir a compreensão, o julgamento e a experiência de um engenheiro de prompts experiente.

Engenharia de Prompt: Técnicas e Melhores Práticas

1) Posicionamento e descrição de solicitação

Colocar instruções no início do prompt pode impactar significativamente a compreensão e a resposta da IA. Considere a tarefa de resumir um texto em tópicos. Uma abordagem menos eficaz seria:

Utilizador: Resuma o texto abaixo como uma lista de marcadores dos pontos mais importantes.
{entrada de texto aqui}

Por outro lado, uma técnica mais eficaz poderia ser:

Utilizador: Resuma o texto abaixo como uma lista de marcadores dos pontos mais importantes.
Texto: """
{entrada de texto aqui}
"" "

Ao separar claramente as instruções e o contexto com símbolos como ### ou “””, o modelo de IA pode delinear melhor sua tarefa e o texto que precisa processar, dando assim respostas mais precisas e relevantes.

Em segundo lugar, ser específico, descritivo e detalhado sobre o contexto, resultado esperado, extensão, formato, estilo e assim por diante pode aumentar significativamente a precisão das respostas da IA. Suponha que você precise gerar uma breve visão geral de um artigo científico em um estilo envolvente e amigável para leigos. Uma instrução vaga como “Resuma o artigo científico” produziria resultados menos eficazes em comparação com um prompt específico e detalhado:

Utilizador: Crie um resumo breve (aproximadamente 200 palavras) e envolvente do seguinte artigo científico. O resumo deve ser compreensível para alguém sem formação científica, refletindo com precisão as principais descobertas do artigo.
Papel: """
{texto de artigo científico aqui}
"" "

2) Padrão de Persona

O Padrão de Persona é uma estratégia que define a IA para funcionar a partir de uma determinada perspectiva, como um papel profissional ou personagem fictício. Essa tática permite que o modelo forneça saídas relacionadas às funções específicas que a persona administraria. Por exemplo, pode-se instruir a IA a atuar como especialista em segurança cibernética durante uma revisão de código. Esse padrão é particularmente útil quando os usuários precisam de assistência, mas não têm certeza sobre os detalhes exatos exigidos na saída.

Tome o seguinte como exemplo:

Utilizador: “Assuma a personalidade de um historiador sênior especializado na Revolução Francesa. Dada essa persona, explique os principais eventos e razões que levaram à queda da monarquia francesa.”

Nesse cenário, espera-se que a IA responda com uma análise aprofundada da Revolução Francesa, focando na queda da monarquia, como faria um historiador.

Apresentando novas informações

O ChatGPT não possui conhecimento além do seu limite de treinamento, portanto, não pode fornecer informações sobre eventos recentes ou atualizações após o treinamento. No entanto, você pode introduzir novas informações ao modelo por meio de seus prompts.

Utilizador: “O que é criptomoeda?”
ChatGPT: “Criptomoeda é um tipo de moeda digital ou virtual que usa criptografia para segurança. A criptomoeda mais conhecida é o Bitcoin.”

Agora, se adicionarmos um pouco mais de contexto ao prompt, podemos tornar a explicação ainda mais intuitiva:

Utilizador: “Explique o conceito de criptomoeda para um aluno do ensino médio que estuda finanças digitais”
ChatGPT: “Imagine que você está jogando um videogame online e tem dinheiro que você pode ganhar para comprar melhorias ou novos personagens. Criptomoedas são mais ou menos assim, mas em vez de se limitarem ao jogo, você pode usá-las para comprar bens e serviços do mundo real. É como dinheiro digital que nenhum banco ou governo controla.”

3) Limitações de tamanho de prompt

Compreender a limitação de tamanho do ChatGPT é essencial, pois afeta diretamente o volume e o tipo de informação que podemos inserir. Os modelos de linguagem não são construídos para processar dados ilimitados de uma só vez. Eles têm uma restrição inerente ao tamanho do prompt que podemos criar e inserir. Essa limitação tem profundas implicações para o design e a execução dos prompts.

O ChatGPT tem um limite de tokens (geralmente 2048 tokens), que inclui tanto o prompt quanto a resposta gerada. Isso significa que prompts longos podem limitar o tamanho da resposta. Portanto, é importante manter os prompts concisos, mas informativos.

Na prática, devemos atuar como editores, escolhendo seletivamente as informações mais relevantes para a tarefa em questão. Imagine escrever um artigo ou artigo com um limite de palavras ou páginas – você não pode simplesmente descartar fatos aleatórios, mas selecionar e estruturar cuidadosamente as informações relevantes para o assunto.

Utilizador: “Dadas as limitações simbólicas do modelo, resuma os principais eventos da Segunda Guerra Mundial em menos de 1000 palavras.”

Ao reconhecer as limitações do modelo, este prompt direciona a IA a fornecer um resumo conciso, porém abrangente, da Segunda Guerra Mundial.

Solicitações para uso repetido: em um cenário de conversação, você pode reutilizar as solicitações ou refiná-las com base nas respostas anteriores. Isso dá um fluxo de conversação e mantém o contexto na interação.

4) Padrão de refinamento de perguntas

O ChatGPT também pode ajudar a refinar suas perguntas. Por exemplo, se você fizer uma pergunta, pode sugerir uma pergunta melhor formulada para resultados mais precisos.

O Padrão de Refinamento de Perguntas envolve o LLM refinando as perguntas feitas pelo usuário. É particularmente útil quando os usuários não são especialistas em um domínio ou não sabem como formular suas perguntas.

Um prompt de exemplo pode ser assim:

Utilizador: “Sempre que eu fizer uma pergunta sobre ciência de dados, sugira uma pergunta mais refinada considerando as especificidades da análise estatística e pergunte se eu quero prosseguir com a pergunta refinada.”

Aqui, espera-se que a IA refine as perguntas gerais de ciência de dados do usuário para perguntas mais detalhadas, considerando aspectos de análise estatística.

5) Padrão de Verificação Cognitiva

O Cognitive Verifier Pattern divide questões complexas em subperguntas menores e gerenciáveis. As respostas a essas subperguntas são combinadas para fornecer uma resposta abrangente à pergunta principal. Essa abordagem é útil quando as perguntas iniciais são de alto nível ou quando é necessária clareza adicional para fornecer uma resposta completa.

Por exemplo:

Utilizador: “Se eu fizer uma pergunta sobre mudança climática, divida-a em três perguntas menores que o ajudariam a fornecer uma resposta mais precisa. Combine as respostas a essas subperguntas para obter a resposta final.”

Nesse cenário, a IA dividirá a complexa questão sobre a mudança climática em três subquestões gerenciáveis. Depois de receber as respostas a essas subperguntas, a IA as combinará para fornecer uma resposta mais abrangente e precisa.

Este padrão envolve a geração de múltiplas perguntas para obter uma resposta final mais precisa. É um processo de verificação e consolidação de informações para um resultado final robusto.

6) Abordagem de Orientação de Poucos Disparos

A sugestão de poucas tentativas é uma abordagem poderosa para ensinar modelos de IA a seguir padrões específicos ou realizar tarefas. A ideia é alimentar o modelo com uma série de exemplos antes de fazer a pergunta desejada. Isso ajuda a definir o comportamento desejado e a orientar as respostas do modelo.

Considere um cenário em que um usuário está tentando redigir uma cópia de marketing concisa e atraente para um novo gadget de tecnologia:

Utilizador: “Aqui estão alguns exemplos de textos de marketing de tecnologia: 'Experimente música como nunca antes com nossos fones de ouvido sem fio de última geração'. 'Capture seu mundo em 4K impressionante com nossa câmera de ação ultrafina'. Com base nesses exemplos, crie um texto de marketing para nosso novo smartwatch com tecnologia de IA.”

ChatGPT: “Potencialize seu estilo de vida com nosso smartwatch com tecnologia de IA, seu companheiro para saúde, conectividade e produtividade.” A característica marcante do aprendizado de poucas tentativas é que ele não exige uma descrição detalhada de como executar a tarefa. Em vez disso, requer demonstrações do que está sendo feito, o que pode torná-lo uma boa opção para muitas aplicações.

Além disso, esta técnica vai além do simples emparelhamento de entrada-saída. O modelo também pode ser ensinado a lidar com etapas intermediárias para atingir um objetivo.

7) Sugestão de cadeia de pensamento

Em seu recente trabalho de pesquisa, “Sugestão de Cadeia de Pensamento Produz Raciocínio em Grandes Modelos de LinguagemOs autores Jason Wei e sua equipe visam estimular o raciocínio em modelos de linguagem abrangentes. Em vez de usar prompts tradicionais e diretos, a equipe utiliza uma série de prompts interconectados, formando uma "cadeia de pensamento".

Por exemplo, um usuário pode estar interessado no impacto potencial da inteligência artificial nos mercados de trabalho:

Utilizador: “Você poderia explicar brevemente o conceito de inteligência artificial?”

ChatGPT: “Inteligência Artificial, ou IA, refere-se à capacidade de uma máquina de imitar o comportamento humano inteligente. Trata-se de projetar máquinas que possam pensar e aprender como humanos, permitindo-lhes realizar tarefas como tradução de idiomas, tomada de decisões e resolução de problemas, entre outras.”

Utilizador: “Como a IA está influenciando o mercado de trabalho atual?”

ChatGPT: “A IA está criando novos empregos e mudando a natureza dos existentes. Por um lado, ela automatiza tarefas rotineiras, levando à substituição de empregos em certos setores. Por outro, está criando demanda por funções que não existiam antes, como agentes de ética em IA, analistas de dados e engenheiros de aprendizado de máquina. Além disso, a IA pode aprimorar as funções humanas, permitindo que as pessoas realizem tarefas com mais eficiência e precisão.”

A solicitação de cadeia de pensamento segue uma progressão de solicitações relacionadas, mantendo uma "conversa" com o modelo que a orienta em direção a respostas mais precisas e contextualmente apropriadas.

Compreendendo a API do ChatGPT e a Engenharia de Prompts da Perspectiva de um Desenvolvedor

Da perspectiva de um desenvolvedor ou pesquisador, a engenharia de prompts é um processo mais complexo. Envolve o design de algoritmos e técnicas para ajudar o modelo de IA a compreender e responder aos prompts de forma mais eficaz. Isso pode incluir estratégias para lidar com prompts ambíguos, identificar o contexto dos prompts ou encadear prompts para estimular processos de pensamento mais complexos na IA.

Na ilustração acima, um usuário interage com uma interface de bate-papo, alimentada pelo GPT-4. Sua entrada é aprimorada para maior clareza e consistência contextual por um módulo especializado antes de ser alimentada ao modelo de IA. A função deste módulo é refinar e aprimorar a entrada do usuário para melhor compreensão, mantendo o contexto da conversa. A resposta da IA, elaborada com base no prompt refinado, é retornada ao usuário por meio da interface de bate-papo. O histórico de interações é atualizado consistentemente, mantendo o contexto da conversa. Em geral, este diagrama ilustra um fluxo dinâmico de conversa entre usuário e IA, possibilitado por técnicas de engenharia de prompts.

A APIs do ChatGPT A interface foi projetada com vários hiperparâmetros que permitem aos usuários refinar as respostas da IA ​​aos prompts, tornando-as mais eficazes e versáteis. Entre eles estão os parâmetros Temperatura, Comprimento Máximo e Sequências de Parada. Vamos explorar como eles funcionam e podem ser utilizados em diferentes contextos.

1) Temperatura

O parâmetro de temperatura influencia a aleatoriedade das respostas da IA. Uma temperatura mais alta, como 1.0, incentiva resultados mais aleatórios, resultando em respostas diversas, mas potencialmente fora do tópico. Em contraste, uma temperatura mais baixa, como 0.2, leva a IA a selecionar respostas mais determinísticas, o que pode ser benéfico para resultados focados e específicos, mas pode carecer de variedade.

Exemplo: Se você estiver escrevendo uma história criativa e quiser elementos imprevisíveis e imaginativos, defina a temperatura para um valor mais alto. Um prompt poderia ser: "Escreva uma história curta sobre um gato viajante no tempo". Com uma temperatura alta, você pode obter uma história selvagem e fantástica com reviravoltas imprevisíveis.

2) Comprimento Máximo

Este parâmetro controla o comprimento máximo do token da saída do modelo, que inclui tanto os tokens na entrada quanto na saída da mensagem. Definir um limite mais alto permite respostas mais extensas, enquanto um limite mais baixo mantém a saída curta e concisa.

Exemplo: para respostas breves a perguntas triviais como “Quem ganhou o Prêmio Nobel de Literatura em 2020?” você pode querer definir o comprimento máximo para um valor baixo, garantindo que a resposta seja concisa e direta.

3) Sequências de parada

Sequências de parada são sequências de texto específicas em que, quando o modelo as encontra, ele para de gerar saída adicional. Esse recurso pode ser útil para controlar o comprimento da saída ou instruir o modelo a parar em pontos finais lógicos.

Exemplo: para uma carta formal, você pode usar “Atenciosamente” como uma sequência de parada para garantir que a IA não gere nenhum texto adicional além do final adequado da carta.

4) P superior

O parâmetro "Top P", também conhecido como amostragem de núcleo, é um método que fornece uma seleção dinâmica do número de palavras consideradas em cada etapa das previsões do modelo. Um valor menor, como 0.5, resulta em resultados mais seguros e focados. Um valor maior, como 0.9, inclui uma seleção mais ampla de palavras, resultando em resultados mais diversos.

Exemplo: Se você estiver criando uma IA para escrever poemas e quiser que ela use uma ampla gama de vocabulário e frases estilísticas, você pode definir "Top P" com um valor mais alto. Um prompt poderia ser: "Componha um poema sobre a beleza do outono".

5) Multa de frequência

A penalidade de frequência controla o quanto o modelo deve favorecer palavras menos frequentes. Uma penalidade maior (até 1) encoraja o modelo a usar palavras menos comuns, enquanto um valor menor (até -1) encoraja o modelo a usar palavras mais comuns.

Exemplo: se você estiver tentando gerar uma proposta comercial e quiser evitar jargões, poderá definir a penalidade de frequência para um valor menor para manter a linguagem clara e acessível.

6) Penalidade de Presença

O parâmetro Penalidade de presença afeta o quanto o modelo é penalizado por gerar novas ideias ou tópicos que não estavam presentes no histórico da conversa. Valores mais altos incentivam o modelo a se ater aos tópicos já mencionados, enquanto valores mais baixos permitem que o modelo introduza novos conceitos com mais liberdade.

Exemplo: Para sessões de brainstorming, você pode definir a penalidade de presença para um valor mais baixo para encorajar uma gama diversificada de ideias. Você pode usar um prompt como “Gerar estratégias de marketing inovadoras para uma plataforma educacional on-line”.

Aplicação industrial de engenharia imediata