O Guia Essencial para Prompt Engineering no ChatGPT

Desde o seu lançamento, ChatGPT vem fazendo ondas na esfera da IA, atraindo mais de 100 milhões de usuários em tempo recorde. O molho secreto para o impressionante desempenho e versatilidade do ChatGPT reside em uma arte sutilmente aninhada em sua programação - engenharia imediata.

Lançados em 2022, DALL-E, MidJourney e StableDiffusion ressaltaram o potencial disruptivo da IA ​​generativa. Mas era IA aberta's ChatGPT que realmente ocupou o centro do palco no final de 2022. E esse ímpeto não mostrava sinais de desaceleração.

O anúncio do Google sobre Bard e Meta's Lama 2  A resposta ao ChatGPT da OpenAI ampliou significativamente o ímpeto da corrida da IA. Ao fornecer entradas a esses modelos, estamos orientando seu comportamento e suas respostas. Isso nos torna todos engenheiros rápidos até certo ponto. A indústria de tecnologia percebeu. Os capitalistas de risco estão despejando fundos em startups com foco em engenharia imediata, como Velino AI. Além disso, a Forbes informa que os engenheiros de prompt comandam salários superiores a $ 300,000, indicativo de um mercado de trabalho próspero e valioso.

Neste artigo, iremos desmistificar o mundo da engenharia imediata no contexto do ChatGPT. Exploraremos os princípios e técnicas fundamentais e examinaremos suas aplicações comerciais.

Vamos primeiro entender como o ChatGPT funciona e o papel fundamental que a engenharia imediata desempenha nesse processo.

A mecânica por trás da engenharia de prompt do ChatGPT

O molho secreto por trás do sucesso do ChatGPT é sua capacidade de entender e imitar as nuances da conversa humana. O modelo é treinado em uma ampla variedade de textos da Internet, mas, fundamentalmente, não conhece documentos ou fontes específicas em seu conjunto de treinamento, garantindo a generalização sobre a especificidade. Essa abordagem de treinamento permite que o ChatGPT gere respostas criativas, navegue em diálogos complexos e até exiba senso de humor. No entanto, é importante lembrar que o ChatGPT não entende ou tem crenças verdadeiras; ele gera respostas com base nos padrões que aprendeu durante o treinamento.

A capacidade do ChatGPT de entender e responder à linguagem humana de maneira diferenciada e sensível ao contexto os torna ferramentas incrivelmente versáteis.

A mecânica desses modelos baseia-se no conceito de 'tokens' - blocos discretos de linguagem que podem variar de um único caractere a uma palavra inteira. Esses modelos funcionam com um número específico de tokens por vez (4096 para GPT-3.5-Turbo ou 8192 ou 32768 para GPT-4), prevendo a próxima sequência de tokens prováveis. Os modelos processam os tokens usando álgebra linear complexa, prevendo o token subsequente mais provável.

Por exemplo, uma frase simples de nove palavras pode se transformar em dez tokens. Mesmo uma única palavra complexa pode se transformar em vários tokens, o que ajuda o modelo a entender e gerar linguagem melhor. Mesmo idiomas com estruturas de palavras complexas, como o alemão, são gerenciados por tokenização.

Os modelos GPT (Transformador pré-treinado generativo) funcionam gerando um token por vez, começando do primeiro token e continuando até o último. Depois de gerar cada token, o modelo revisita toda a sequência e a processa novamente para gerar o próximo token. Esse processo iterativo continua até que o token final seja gerado, tornando a geração de texto semelhante a um grande loop for.

Mas aqui está o problema - a qualidade dessas respostas depende muito dos prompts que recebe. Assim como conduzir uma conversa com um humano, conduzir um diálogo com o ChatGPT requer um certo nível de habilidade e compreensão. É aí que a engenharia imediata entra em ação.

O que é Prompt Engenharia?

A Engenharia de Prompt é a arte de criar prompts/entradas precisos e eficazes para guiar a IA (PNL/Vision) como ChatGPT para gerar os resultados mais econômicos, precisos, úteis e seguros.

A engenharia imediata não se limita apenas à geração de texto, mas tem aplicações abrangentes em todo o domínio da IA. Ele está sendo cada vez mais empregado em áreas como bots de automação de processos robóticos, ativos 3D, scripts, instruções de robôs e outros tipos de conteúdo e mídia digital. Ele fornece uma combinação única de lógica, codificação, arte e, em certos casos, modificadores especiais.

Embora um prompt possa incluir texto em linguagem natural, imagens ou outros tipos de dados de entrada, a saída pode variar significativamente entre serviços e ferramentas de IA. Cada ferramenta tem seus modificadores especiais que descrevem o peso das palavras, estilos, perspectivas, layout ou outras propriedades da resposta desejada.

Este campo é essencial para criar melhores serviços baseados em IA e obter resultados superiores de ferramentas de IA generativas existentes. Os desenvolvedores corporativos, por exemplo, geralmente utilizam engenharia imediata para adaptar Modelos de Linguagem Grande (LLMs) como GPT-3 para alimentar uma interface voltada para o cliente chatbot ou lidar com tarefas como a criação de contratos específicos do setor.

Esse processo iterativo de refinamento imediato e medição do desempenho da IA ​​é um elemento-chave para permitir que os modelos de IA gerem respostas úteis e altamente direcionadas em vários contextos.

Tornando-se um Engenheiro Prompt

A destreza do modelo GPT-4 em compreender instruções complexas e resolver problemas intrincados com precisão o torna um recurso inestimável. No entanto, existem diferentes métodos para acessar os recursos desse modelo, e compreendê-los pode ser crucial para a função de um engenheiro de agilidade na otimização da eficiência e da relação custo-benefício.

Existem essencialmente duas maneiras de se envolver com modelos GPT como GPT-4. Uma forma é por meio da API da OpenAI, onde os custos são calculados por tokens de entrada e saída. Nesse cenário, os custos por tokens de 1K podem flutuar com base no tamanho do contexto. Por exemplo, em um contexto maior de 32K, o custo pode chegar a US$ 0.06 para tokens de entrada e US$ 0.12 para tokens de saída. Assim, ao lidar com um grande volume de solicitações, o custo de uso pode se acumular rapidamente.

Como alternativa, o ChatGPT, que utiliza o modelo GPT-4, opera em um modelo baseado em assinatura.

Outra tarefa importante na engenharia de prompt envolve o ajuste de parâmetros do modelo. Esse processo envolve o ajuste das variáveis ​​que o modelo usa para fazer previsões. Ao ajustar esses parâmetros, os engenheiros de prompt podem melhorar a qualidade e a precisão das respostas do modelo, tornando-os mais relevantes e úteis contextualmente.

Embora muitos engenheiros de prompt tenham formação técnica, a natureza multidisciplinar do campo o torna acessível a indivíduos de diversas formações profissionais. Cada vez mais, escritores, pesquisadores e até artistas estão aproveitando suas habilidades únicas para aumentar a eficácia dos modelos de IA. Essa mudança também se reflete no mercado de trabalho, com um número cada vez maior de empresas que buscam engenheiros prontos com uma gama diversificada de habilidades e formações.

Prompt Design e Engenharia no ChatGPT

O Prompt Design and Engineering desempenha um papel crítico na otimização do desempenho dos modelos de linguagem e envolve mais do que apenas elaborar perguntas; eles exigem uma compreensão profunda do modelo de IA e uma abordagem altamente iterativa e refinada.

Projeto de solicitação

O design de prompt, em sua essência, é a arte e a ciência de criar o prompt perfeito para um determinado modelo de linguagem grande (LLM), como o ChatGPT, para atingir um objetivo claramente definido. É uma mistura de:

• Compreensão do LLM: Diferentes modelos de linguagem podem responder de forma variável ao mesmo prompt. Além disso, certos modelos de linguagem podem ter palavras-chave ou gatilhos únicos, que eles interpretam de uma maneira específica.
• Conhecimento do domínio: a experiência no campo relevante é crucial ao projetar prompts. Por exemplo, gerar um prompt para inferir um diagnóstico médico exigiria conhecimento médico.
• Abordagem iterativa e medição de qualidade: o processo de criação do prompt ideal geralmente envolve tentativa e erro. Portanto, ter uma maneira de avaliar a qualidade da saída além do julgamento subjetivo é vital, principalmente ao usar o prompt em uma escala maior.

Engenharia imediata

A engenharia de prompt é um domínio estendido do design de prompt que inclui vários processos críticos:

• Design de prompts em escala: esse processo inclui o design de meta prompts (prompts que geram outros prompts) e modelos de prompt, que são prompts parametrizados que podem ser instanciados em tempo de execução.
• Design e integração de ferramentas: às vezes, os prompts podem incluir resultados de ferramentas externas, e a integração dessas ferramentas perfeitamente no sistema é crucial.
• Fluxo de trabalho, planejamento e gerenciamento de prompts: a implantação de um aplicativo LLM, como um chatbot, geralmente requer o gerenciamento de bibliotecas de prompts, planejamento e escolha dos prompts certos e integração eficiente de várias ferramentas.
• Avaliação e Garantia de Qualidade de Prompts: Este aspecto inclui a definição de métricas e processos para avaliar os prompts de forma automática e com envolvimento humano.
• Otimização de prompt: o custo e a latência do modelo de IA podem depender da escolha do modelo e do comprimento do prompt (número de tokens).

Muitas abordagens, ferramentas e estruturas de design de prompt automatizado foram desenvolvidas para gerenciar prompts em escala. No entanto, é importante entender que nenhuma dessas ferramentas pode substituir a compreensão diferenciada, o julgamento e a experiência de um engenheiro experiente.

Engenharia de Prompt: Técnicas e Melhores Práticas

1) Posicionamento e descrição de solicitação

Colocar instruções no início do prompt pode afetar significativamente a compreensão e a resposta da IA. Considere a tarefa de resumir um texto em um formato de marcador. Uma abordagem menos eficaz seria:

Utilizador: Resuma o texto abaixo como uma lista de marcadores dos pontos mais importantes.
{entrada de texto aqui}

Por outro lado, uma técnica mais eficaz poderia ser:

Utilizador: Resuma o texto abaixo como uma lista de marcadores dos pontos mais importantes.
Texto: """
{entrada de texto aqui}
"" "

Ao separar claramente as instruções e o contexto com símbolos como ### ou “””, o modelo de IA pode delinear melhor sua tarefa e o texto que precisa processar, dando assim respostas mais precisas e relevantes.

Em segundo lugar, ser específico, descritivo e detalhado sobre o contexto, resultado esperado, extensão, formato, estilo e assim por diante pode aumentar significativamente a precisão das respostas da IA. Suponha que você precise gerar uma breve visão geral de um artigo científico em um estilo envolvente e amigável para leigos. Uma instrução vaga como “Resuma o artigo científico” produziria resultados menos eficazes em comparação com um prompt específico e detalhado:

Utilizador: Gerar um breve (aprox. 200 palavras), resumo envolvente do seguinte artigo científico. O resumo deve ser compreensível para alguém sem formação científica, enquanto reflete com precisão as principais descobertas do artigo.
Papel: """
{texto de artigo científico aqui}
"" "

2) Padrão de Persona

O Padrão de Persona é uma estratégia que define a IA para funcionar a partir de uma determinada perspectiva, como um papel profissional ou personagem fictício. Essa tática permite que o modelo forneça saídas relacionadas às funções específicas que a persona administraria. Por exemplo, pode-se instruir a IA a atuar como especialista em segurança cibernética durante uma revisão de código. Esse padrão é particularmente útil quando os usuários precisam de assistência, mas não têm certeza sobre os detalhes exatos exigidos na saída.

Tome o seguinte como exemplo:

Utilizador: “Assuma a personalidade de um historiador sênior especializado na Revolução Francesa. Dada essa persona, explique os principais eventos e razões que levaram à queda da monarquia francesa.”

Nesse cenário, espera-se que a IA responda com uma análise aprofundada da Revolução Francesa, focando na queda da monarquia, como faria um historiador.

Apresentando novas informações

O ChatGPT não possui conhecimento além do limite de treinamento, portanto, não pode fornecer informações sobre eventos recentes ou atualizações após o treinamento. No entanto, você pode introduzir novas informações no modelo por meio de seus prompts.

Utilizador: “O que é criptomoeda?”
ChatGPT: “Criptomoeda é um tipo de moeda digital ou virtual que usa criptografia para segurança. A criptomoeda mais conhecida é o Bitcoin.”

Agora, se adicionarmos um pouco mais de contexto ao prompt, podemos tornar a explicação ainda mais intuitiva:

Utilizador: “Explique o conceito de criptomoeda para um aluno do ensino médio que estuda finanças digitais”
ChatGPT: “Imagine que você está jogando um videogame online e há dinheiro do jogo que você pode ganhar para comprar atualizações ou novos personagens. A criptomoeda é mais ou menos assim, mas em vez de se limitar ao jogo, você pode usá-la para comprar bens e serviços do mundo real. É como dinheiro digital que nenhum banco ou governo controla.”

3) Limitações de tamanho de prompt

Compreender a limitação de tamanho do ChatGPT é essencial, pois afeta diretamente o volume e o tipo de informação que podemos inserir. Os modelos de linguagem não são construídos para processar dados ilimitados de uma só vez. Eles têm uma restrição inerente ao tamanho do prompt que podemos criar e inserir. Essa limitação tem profundas implicações para o design e a execução dos prompts.

O ChatGPT tem um limite de token (geralmente 2048 tokens), que inclui o prompt e a resposta gerada. Isso significa que prompts longos podem limitar a duração da resposta. Portanto, é importante manter os prompts concisos, mas informativos.

Na prática, devemos agir como editores, escolhendo seletivamente as informações mais relevantes para a tarefa em questão. Imagine escrever um artigo ou um artigo com um limite de palavras ou páginas – você não pode simplesmente despejar fatos aleatórios, mas selecionar e estruturar cuidadosamente as informações relevantes para o assunto.

Utilizador: “Dadas as limitações simbólicas do modelo, resuma os principais eventos da Segunda Guerra Mundial em menos de 1000 palavras.”

Ao reconhecer as limitações de token do modelo, esse prompt direciona a IA para fornecer um resumo conciso, mas abrangente, da Segunda Guerra Mundial.

Solicitações para uso repetido: em um cenário de conversação, você pode reutilizar as solicitações ou refiná-las com base nas respostas anteriores. Isso dá um fluxo de conversação e mantém o contexto na interação.

4) Padrão de refinamento de perguntas

O ChatGPT também pode ajudar a refinar suas perguntas. Por exemplo, se você fizer uma pergunta, pode sugerir uma pergunta melhor formulada para resultados mais precisos.

O padrão de refinamento de perguntas envolve o refinamento do LLM das perguntas feitas pelo usuário. É particularmente útil quando os usuários não são especialistas em um domínio ou não têm certeza de como formular suas perguntas.

Um prompt de exemplo pode ser assim:

Utilizador: “Sempre que eu fizer uma pergunta sobre ciência de dados, sugira uma pergunta mais refinada considerando as especificidades da análise estatística e pergunte se eu quero prosseguir com a pergunta refinada.”

Aqui, espera-se que a IA refine as perguntas gerais de ciência de dados do usuário para perguntas mais detalhadas, considerando aspectos de análise estatística.

5) Padrão de Verificação Cognitiva

O Cognitive Verifier Pattern divide questões complexas em subperguntas menores e gerenciáveis. As respostas a essas subperguntas são combinadas para fornecer uma resposta abrangente à pergunta principal. Essa abordagem é útil quando as perguntas iniciais são de alto nível ou quando é necessária clareza adicional para fornecer uma resposta completa.

Por exemplo:

Utilizador: “Se eu fizer uma pergunta sobre mudança climática, divida-a em três perguntas menores que o ajudariam a fornecer uma resposta mais precisa. Combine as respostas a essas subperguntas para obter a resposta final.”

Nesse cenário, a IA dividirá a complexa questão sobre a mudança climática em três subquestões gerenciáveis. Depois de receber as respostas a essas subperguntas, a IA as combinará para fornecer uma resposta mais abrangente e precisa.

Esse padrão envolve a geração de várias perguntas para obter uma resposta final mais precisa. É um processo de verificação e consolidação de informações para um resultado final robusto

6) Abordagem de Orientação de Poucos Disparos

A solicitação de poucos tiros é uma abordagem poderosa para ensinar modelos de IA a seguir padrões específicos ou realizar tarefas. A ideia é alimentar o modelo com uma série de exemplos antes de fazer a pergunta desejada. Isso ajuda a definir o comportamento desejado e guiar as respostas do modelo.

Considere um cenário em que um usuário está tentando redigir uma cópia de marketing concisa e atraente para um novo gadget de tecnologia:

Utilizador: “Aqui estão alguns exemplos de cópias de marketing de tecnologia: 'Experimente música como nunca antes com nossos fones de ouvido sem fio de última geração.' 'Capture seu mundo em 4K impressionante com nossa câmera de ação ultraelegante.' Dados esses exemplos, elabore uma cópia de marketing para nosso novo smartwatch com inteligência artificial.”

ChatGPT: “Capacite seu estilo de vida com nosso smartwatch com inteligência artificial, seu companheiro para saúde, conectividade e produtividade.” A característica notável do aprendizado de poucos tiros é que ele não requer uma descrição detalhada de como executar a tarefa. Em vez disso, requer demonstrações do que está sendo feito, o que pode torná-lo adequado para muitos aplicativos.

Além disso, esta técnica vai além do simples emparelhamento de entrada-saída. O modelo também pode ser ensinado a lidar com etapas intermediárias para atingir um objetivo.

7) Sugestão de cadeia de pensamento

Em seu recente trabalho de pesquisa, “Sugestão de Cadeia de Pensamento Produz Raciocínio em Grandes Modelos de Linguagem” os autores Jason Wei e sua equipe visam estimular o raciocínio dentro de grandes modelos de linguagem. Em vez de usar prompts diretos e tradicionais, a equipe faz uso de uma série de prompts interconectados, formando uma 'cadeia de pensamento'.

Por exemplo, um usuário pode estar interessado no impacto potencial da inteligência artificial nos mercados de trabalho:

Utilizador: “Você poderia explicar brevemente o conceito de inteligência artificial?”

ChatGPT: “Inteligência Artificial, ou IA, refere-se à capacidade de uma máquina de imitar o comportamento humano inteligente. Trata-se de projetar máquinas que possam pensar e aprender como humanos, permitindo-lhes realizar tarefas como tradução de idiomas, tomada de decisões e resolução de problemas, entre outras.”

Utilizador: “Como a IA está influenciando o mercado de trabalho atual?”

ChatGPT: “A IA está criando novos empregos e mudando a natureza dos existentes. Por um lado, automatiza tarefas rotineiras, levando ao deslocamento de empregos em determinados setores. Por outro lado, está a criar procura por funções que não existiam anteriormente, como oficiais de ética em IA, analistas de dados e engenheiros de aprendizagem automática. Além disso, a IA pode aumentar as funções humanas, permitindo que as pessoas realizem tarefas com mais eficiência e precisão.”

O prompting em cadeia de pensamento segue uma progressão de prompts relacionados, mantendo uma 'conversa' com o modelo que o orienta para respostas mais precisas e contextualmente apropriadas.

Compreendendo a API do ChatGPT e a engenharia de prompts da perspectiva de um desenvolvedor

Do ponto de vista de um desenvolvedor ou pesquisador, a engenharia imediata é um processo mais complexo. Envolve o design de algoritmos e técnicas para ajudar o modelo de IA a entender e responder aos prompts de maneira mais eficaz. Isso pode incluir estratégias para lidar com prompts ambíguos, identificar o contexto dos prompts ou encadear prompts para estimular processos de pensamento mais complexos na IA

Na ilustração acima, um usuário interage com uma interface de bate-papo desenvolvida por GPT-4. Sua entrada é aprimorada para clareza e consistência contextual por um módulo especializado antes de ser alimentada ao modelo AI. A função deste módulo é refinar e aprimorar a entrada do usuário para melhor compreensão, mantendo também o contexto da conversa. A resposta da IA, elaborada com base no prompt refinado, é retornada ao usuário por meio da interface de bate-papo. O histórico de interação é atualizado de forma consistente, mantendo o contexto da conversa. No geral, este diagrama ilustra um fluxo dinâmico de conversa de IA do usuário habilitado por técnicas de engenharia de prompt.

A API do ChatGPT A interface é projetada com vários hiperparâmetros que permitem aos usuários refinar as respostas da IA ​​aos prompts, tornando-os mais eficazes e versáteis. Isso inclui os parâmetros Temperatura, Comprimento máximo e Sequências de parada. Vamos explorar como eles funcionam e podem ser utilizados em diferentes contextos.

1) Temperatura

O parâmetro de temperatura influencia a aleatoriedade das respostas do AI. Uma temperatura mais alta, como 1.0, estimula uma saída mais aleatória, resultando em respostas diversas, mas potencialmente fora do tópico. Em contraste, uma temperatura mais baixa, como 0.2, solicita que a IA selecione respostas mais determinísticas, o que pode ser benéfico para saídas focadas e específicas, mas pode carecer de variedade.

Exemplo: se você estiver escrevendo uma história criativa e quiser elementos imprevisíveis e imaginativos, defina a temperatura para um valor mais alto. Um prompt poderia ser: “Escreva um conto sobre um gato que viaja no tempo”. Com uma temperatura alta, você pode ter uma história selvagem e fantástica com reviravoltas imprevisíveis.

2) Comprimento Máximo

Esse parâmetro controla o comprimento máximo do token da saída do modelo, que inclui os tokens na entrada e na saída da mensagem. Definir um limite mais alto permite respostas mais estendidas, enquanto um limite mais baixo mantém a saída curta e concisa.

Exemplo: para respostas breves a perguntas triviais como “Quem ganhou o Prêmio Nobel de Literatura em 2020?” você pode querer definir o comprimento máximo para um valor baixo, garantindo que a resposta seja concisa e direta.

3) Sequências de parada

Sequências de parada são sequências de texto específicas em que, quando o modelo as encontra, ele para de gerar saída adicional. Esse recurso pode ser útil para controlar o comprimento da saída ou instruir o modelo a parar em pontos finais lógicos.

Exemplo: para uma carta formal, você pode usar “Atenciosamente” como uma sequência de parada para garantir que a IA não gere nenhum texto adicional além do final adequado da carta.

4) P superior

O parâmetro 'Top P', também conhecido como amostragem de núcleo, é um método que fornece uma seleção dinâmica do número de palavras consideradas em cada etapa das previsões do modelo. Um valor mais baixo, como 0.5, leva a saídas mais seguras e focadas. Um valor mais alto, como 0.9, inclui uma seleção mais ampla de palavras, levando a resultados mais diversos.

Exemplo: se você estiver criando uma IA para escrever poemas e quiser usar uma ampla variedade de vocabulário e frases estilísticas, defina 'Top P' para um valor mais alto. Um prompt poderia ser: “Componha um poema sobre a beleza do outono”.

5) Multa de frequência

A penalidade de frequência controla o quanto o modelo deve favorecer palavras menos frequentes. Uma penalidade maior (até 1) encoraja o modelo a usar palavras menos comuns, enquanto um valor menor (até -1) encoraja o modelo a usar palavras mais comuns.

Exemplo: se você está tentando gerar uma proposta de negócios e deseja evitar o jargão, pode definir a penalidade de frequência para um valor mais baixo para manter a linguagem clara e acessível.

6) Penalidade de Presença

O parâmetro Penalidade de presença afeta o quanto o modelo é penalizado por gerar novas ideias ou tópicos que não estavam presentes no histórico da conversa. Valores mais altos incentivam o modelo a se ater aos tópicos já mencionados, enquanto valores mais baixos permitem que o modelo introduza novos conceitos com mais liberdade.

Exemplo: Para sessões de brainstorming, você pode definir a penalidade de presença para um valor mais baixo para encorajar uma gama diversificada de ideias. Você pode usar um prompt como “Gerar estratégias de marketing inovadoras para uma plataforma educacional on-line”.

Aplicação industrial de engenharia imediata