ChatGPT e Engenharia de Prompt Avançada: Impulsionando a Evolução da IA

A OpenAI tem sido fundamental no desenvolvimento de ferramentas revolucionárias, como o OpenAI Gym, projetado para treinar algoritmos de reforço, e os modelos GPT-n. O holofote também está sobre o DALL-E, um modelo de IA que cria imagens a partir de entradas textuais. Um modelo que tem chamado a atenção considerável é o ChatGPT da OpenAI, um exemplo brilhante no domínio dos Grandes Modelos de Linguagem.

GPT-4: Engenharia de Prompt

O ChatGPT transformou o cenário dos chatbots, oferecendo respostas semelhantes às humanas às entradas do usuário e expandindo suas aplicações em domínios – desde desenvolvimento e teste de software até comunicação empresarial e até a criação de poesia.

Nas mãos de empresas e indivíduos, o GPT-4, por exemplo, poderia servir como um reservatório inesgotável de conhecimento, proficiente em assuntos que variam desde Matemática e Biologia até Estudos Jurídicos. Tais modelos de IA sofisticados e acessíveis estão prestes a redefinir o futuro do trabalho, do aprendizado e da criatividade.

Modelos geradores como o GPT-4 podem produzir novos dados com base em entradas existentes. Essa característica distinta permite que eles realizem tarefas diversas, incluindo a geração de texto, imagens, música e vídeo.

No contexto do ChatGPT e dos modelos da OpenAI, um prompt é a entrada que os usuários fornecem aos modelos, geralmente na forma de texto. Os prompts servem como o principal meio de controlar a saída gerada por esses modelos, tornando-os cruciais para conversas bem-sucedidas e relevantes.

O Impacto da Qualidade do Prompt

Usar prompts bem definidos é a chave para se envolver em conversas úteis e significativas com sistemas de IA. Prompts mal definidos podem resultar em saídas que não são úteis para o usuário e podem até levar a conteúdo enganoso.

Para demonstrar o impacto da qualidade do prompt, vamos comparar dois prompts diferentes dados ao ChatGPT. O primeiro prompt, mal definido e supondo conhecimento prévio, gera uma resposta potencialmente inútil para o usuário. Por outro lado, o segundo prompt fornece mais contexto e exemplos, garantindo uma resposta mais relevante e compreensível.

Prompt 1: “Conte-me sobre Redes Neurais Convolucionais.”

Resposta 1: “Redes Neurais Convolucionais (CNNs) são redes de percetron multicamada que consistem em camadas totalmente conectadas e camadas de pooling. Elas são comumente usadas em tarefas de reconhecimento de imagens. O processo envolve aplicar filtros às imagens de entrada e reduzir a escala usando camadas de pooling.”

Prompt 2: “Eu quero aprender sobre Redes Neurais Convolucionais, mas não tenho conhecimento prévio de Redes Neurais Artificiais. Pode me fornecer uma explicação para iniciantes e um exemplo de como as CNNs são usadas no reconhecimento de imagens?”

Resposta 2: “Redes Neurais Convolucionais (CNNs) são um tipo de rede neural primariamente usada para tarefas de reconhecimento de imagens. Ao contrário de outras redes neurais, elas aproveitam camadas convolucionais e camadas de pooling para processar imagens. Imagine que você tem uma imagem de um gato. As CNNs podem identificar diferentes recursos na imagem, como bigodes, orelhas e cauda, aplicando filtros e reduzindo a escala da imagem usando camadas de pooling. Esse processo torna as CNNs altamente eficazes para reconhecer objetos em imagens.”

Ao comparar as duas respostas, é evidente que um prompt bem definido leva a uma resposta mais relevante e amigável ao usuário. O design e a engenharia de prompts são disciplinas em crescimento que visam otimizar a qualidade da saída de modelos de IA como o ChatGPT.

Nas seções seguintes deste artigo, vamos mergulhar no reino de metodologias avançadas destinadas a refinar os Grandes Modelos de Linguagem (LLMs), como técnicas de engenharia de prompt e táticas. Essas incluem aprendizado de poucos disparos, ReAct, cadeia de pensamento, RAG e mais.

Técnicas de Engenharia Avançadas

Antes de prosseguirmos, é importante entender um problema-chave com os LLMs, referido como ‘alucinação’. No contexto dos LLMs, ‘alucinação’ significa a tendência desses modelos a gerar saídas que podem parecer razoáveis, mas não estão enraizadas na realidade factual ou no contexto de entrada fornecido.

Esse problema foi destacado em um recente caso judicial onde um advogado de defesa usou ChatGPT para pesquisa jurídica. A ferramenta de IA, falhando devido ao seu problema de alucinação, citou casos jurídicos inexistente. Esse passo em falso teve repercussões significativas, causando confusão e minando a credibilidade durante os procedimentos. Esse incidente serve como um lembrete urgente da necessidade de abordar o problema de ‘alucinação’ nos sistemas de IA.

Nossa exploração das técnicas de engenharia de prompt visa melhorar esses aspectos dos LLMs. Ao aumentar sua eficiência e segurança, pavimentamos o caminho para aplicações inovadoras, como extração de informações. Além disso, abre portas para integrar os LLMs com ferramentas e fontes de dados externas de forma transparente, ampliando o alcance de seus usos potenciais.

Aprendizado de Zero e Pouco Disparo: Otimizando com Exemplos

Os Transformadores Gerativos Pre-treinados (GPT-3) marcaram um ponto de inflexão importante no desenvolvimento de modelos de IA gerativos, pois introduziram o conceito de ‘aprendizado de poucos disparos.’ Essa metodologia foi um divisor de águas devido à sua capacidade de operar de forma eficaz sem a necessidade de um ajuste fino abrangente. O framework GPT-3 é discutido no artigo “Modelos de Linguagem são Aprendizes de Pouco Disparo“, onde os autores demonstram como o modelo se sai bem em uma variedade de casos de uso sem necessitar de conjuntos de dados personalizados ou código.

Ao contrário do ajuste fino, que exige esforço contínuo para resolver diferentes casos de uso, os modelos de poucos disparos demonstram uma adaptabilidade mais fácil a uma ampla gama de aplicações. Embora o ajuste fino possa fornecer soluções robustas em alguns casos, pode ser caro em escala, tornando o uso de modelos de poucos disparos uma abordagem mais prática, especialmente quando integrado com engenharia de prompt.

Imagine que você está tentando traduzir do inglês para o francês. No aprendizado de poucos disparos, você forneceria ao GPT-3 alguns exemplos de traduções, como “sea otter -> loutre de mer”. O GPT-3, sendo o modelo avançado que é, é então capaz de continuar fornecendo traduções precisas. No aprendizado de zero disparos, você não forneceria exemplos, e o GPT-3 ainda seria capaz de traduzir do inglês para o francês de forma eficaz.

O termo ‘aprendizado de poucos disparos’ vem da ideia de que o modelo é dado um número limitado de exemplos para ‘aprender’. É importante notar que ‘aprender’ neste contexto não envolve atualizar os parâmetros ou pesos do modelo, mas sim influencia o desempenho do modelo.

Aprendizado de Pouco Disparo como Demonstrado no Artigo do GPT-3

O aprendizado de zero disparos leva esse conceito um passo adiante. No aprendizado de zero disparos, nenhum exemplo de conclusão da tarefa é fornecido ao modelo. O modelo é esperado para se sair bem com base em seu treinamento inicial, tornando essa metodologia ideal para cenários de resposta a perguntas em domínio aberto, como o ChatGPT.

Em muitas instâncias, um modelo proficiente em aprendizado de zero disparos pode se sair bem quando fornecido com poucos disparos ou até mesmo exemplos de único disparo. Essa capacidade de alternar entre zero, único e poucos disparos sublinha a adaptabilidade dos grandes modelos, aumentando seu potencial de aplicações em diferentes domínios.

Métodos de aprendizado de zero disparos estão se tornando cada vez mais comuns. Esses métodos são caracterizados por sua capacidade de reconhecer objetos não vistos durante o treinamento. Aqui está um exemplo prático de um Prompt de Pouco Disparo:

Traduza as seguintes frases do inglês para o francês:

'sea otter' se traduz para 'loutre de mer'
'sky' se traduz para 'ciel'
Como 'cloud' se traduz em francês?'

Ao fornecer o modelo com alguns exemplos e, em seguida, fazer uma pergunta, podemos efetivamente guiar o modelo para gerar a saída desejada. Nesse caso, o GPT-3 provavelmente traduziria corretamente ‘cloud’ para ‘nuage’ em francês.

Vamos explorar mais a fundo as nuances das técnicas de engenharia de prompt e seu papel essencial na otimização do desempenho do modelo durante a inferência. Também vamos examinar como elas podem ser usadas de forma eficaz para criar soluções rentáveis e escaláveis em uma ampla gama de casos de uso.

À medida que exploramos a complexidade das técnicas de engenharia de prompt nos modelos GPT, é importante destacar nosso último artigo ‘Guia Essencial para Engenharia de Prompt no ChatGPT‘. Esse guia fornece insights sobre as estratégias para instruir modelos de IA de forma eficaz em uma miríade de casos de uso.

Em nossas discussões anteriores, mergulhamos em métodos de prompt fundamentais para grandes modelos de linguagem (LLMs), como aprendizado de zero disparos e poucos disparos, bem como prompt de instrução. Dominar essas técnicas é crucial para navegar pelos desafios mais complexos da engenharia de prompt que exploraremos aqui.

O aprendizado de poucos disparos pode ser limitado devido à janela de contexto restrita da maioria dos LLMs. Além disso, sem as devidas salvaguardas, os LLMs podem ser enganados para fornecer saídas potencialmente prejudiciais. Além disso, muitos modelos lutam com tarefas de raciocínio ou seguem instruções multietapas.

Dada essas limitações, o desafio reside em aproveitar os LLMs para lidar com tarefas complexas. Uma solução óbvia pode ser desenvolver LLMs mais avançados ou refinar os existentes, mas isso poderia exigir um esforço substancial. Então, a pergunta surge: como podemos otimizar os modelos atuais para uma melhor resolução de problemas?

Também é fascinante explorar como essa técnica se relaciona com aplicações criativas em ‘Mastering AI Art: A Concise Guide to Midjourney and Prompt Engineering‘, que descreve como a fusão de arte e IA pode resultar em arte impressionante.

Prompt de Cadeia de Pensamento

O prompt de cadeia de pensamento aproveita as propriedades auto-regressivas inerentes dos grandes modelos de linguagem (LLMs), que são excelentes em prever a próxima palavra em uma sequência dada. Ao solicitar que o modelo elucide seu processo de pensamento, induz uma geração mais minuciosa e metódica de ideias, que tende a se alinhar estreitamente com informações precisas. Essa alinhamento decorre da tendência do modelo de processar e fornecer informações de forma pensada e ordenada, semelhante a um especialista humano que guia um ouvinte por um conceito complexo. Uma declaração simples como “me leve passo a passo…” é frequentemente suficiente para desencadear essa saída mais verbosa e detalhada.

Prompt de Cadeia de Pensamento de Zero Disparos

Enquanto o prompt de cadeia de pensamento convencional requer pré-treinamento com demonstrações, uma área emergente é o prompt de cadeia de pensamento de zero disparos. Essa abordagem, introduzida por Kojima et al. (2022), inovadoramente adiciona a frase “Vamos pensar passo a passo” ao prompt original.

Vamos criar um prompt avançado onde o ChatGPT é solicitado a resumir as principais conclusões de artigos de pesquisa em IA e NLP.

Nessa demonstração, vamos usar a capacidade do modelo de entender e resumir informações complexas de textos acadêmicos. Usando a abordagem de aprendizado de poucos disparos, vamos ensinar o ChatGPT a resumir as principais descobertas de artigos de pesquisa em IA e NLP:

1. Título do Artigo: "Atenção é Tudo o que Você Precisa"
Conclusão Principal: Introduziu o modelo Transformer, enfatizando a importância dos mecanismos de atenção sobre as camadas recorrentes para tarefas de transdução de sequência.

2. Título do Artigo: "BERT: Pré-treinamento de Transformadores Bidirecionais Profundos para Compreensão de Linguagem"
Conclusão Principal: Introduziu o BERT, demonstrando a eficácia do pré-treinamento de modelos bidirecionais profundos, alcançando resultados de ponta em várias tarefas de NLP.

Agora, com o contexto desses exemplos, resuma as principais descobertas do seguinte artigo:

Título do Artigo: "Engenharia de Prompt em Grandes Modelos de Linguagem: Um Exame"

Esse prompt não apenas mantém uma clara cadeia de pensamento, mas também aproveita a abordagem de aprendizado de poucos disparos para guiar o modelo. Ele se conecta aos nossos palavras-chave, focando nos domínios de IA e NLP, especificamente solicitando ao ChatGPT que realize uma operação complexa relacionada à engenharia de prompt: resumir artigos de pesquisa.

Prompt ReAct

ReAct, ou “Raciocinar e Agir”, foi introduzido pelo Google (GOOGL ) no artigo “ReAct: Sinergizando Raciocínio e Ação em Modelos de Linguagem“, e revolucionou a forma como os modelos de linguagem interagem com uma tarefa, solicitando ao modelo que gere dinamicamente tanto traços de raciocínio verbais quanto ações específicas de tarefas.

Imagine um chef humano na cozinha: ele não apenas executa uma série de ações (cortar vegetais, ferver água, mexer ingredientes), mas também se envolve em raciocínio verbal ou discurso interior (“agora que os vegetais estão picados, devo colocar a panela no fogão”). Esse diálogo mental contínuo ajuda na estratégia do processo, adaptação a mudanças repentinas (“estou sem óleo de oliva, vou usar manteiga instead”), e lembrança da sequência de tarefas. O ReAct imita essa capacidade humana, permitindo que o modelo aprenda rapidamente novas tarefas e tome decisões robustas, assim como um humano faria em circunstâncias novas ou incertas.

O ReAct pode lidar com a alucinação, um problema comum com os sistemas de Cadeia de Pensamento (CoT). A CoT, embora seja uma técnica eficaz, carece da capacidade de interagir com o mundo exterior, o que pode levar a alucinações de fatos e propagação de erros. O ReAct, por outro lado, compensa isso interagindo com fontes externas de informação. Essa interação permite que o sistema não apenas valide seu raciocínio, mas também atualize seu conhecimento com base nas informações mais recentes do mundo exterior.

O funcionamento fundamental do ReAct pode ser explicado por meio de um exemplo do HotpotQA, uma tarefa que exige raciocínio de alta ordem. Ao receber uma pergunta, o modelo ReAct divide a pergunta em partes gerenciáveis e cria um plano de ação. O modelo gera um traço de raciocínio (pensamento) e identifica uma ação relevante. Ele pode decidir procurar informações sobre o Controle Remoto da Apple (AAPL ) em uma fonte externa, como a Wikipedia (ação), e atualiza sua compreensão com base nas informações obtidas (observação). Por meio de múltiplos passos de pensamento-ação-observação, o ReAct pode recuperar informações para apoiar seu raciocínio, refinando o que precisa recuperar em seguida.

Nota:

HotpotQA é um conjunto de dados, derivado da Wikipedia, composto por 113k pares de pergunta-resposta projetados para treinar sistemas de IA em raciocínio complexo, pois as perguntas necessitam de raciocínio sobre múltiplos documentos para responder. Por outro lado, CommonsenseQA 2.0, construído por meio de gamificação, inclui 14.343 perguntas de sim/não e é projetado para desafiar a compreensão de senso comum da IA, pois as perguntas são intencionalmente criadas para enganar os modelos de IA.

O processo poderia parecer com isso:

1. Pensamento: “Eu preciso procurar pelo Controle Remoto da Apple e seus dispositivos compatíveis.”
2. Ação: Procura “dispositivos compatíveis com o Controle Remoto da Apple” em uma fonte externa.
3. Observação: Obtém uma lista de dispositivos compatíveis com o Controle Remoto da Apple a partir dos resultados da busca.
4. Pensamento: “Com base nos resultados da busca, vários dispositivos, além do Controle Remoto da Apple, podem controlar o programa com o qual foi originalmente projetado para interagir.”

O resultado é um processo dinâmico e baseado em raciocínio que pode evoluir com base nas informações com as quais interage, levando a respostas mais precisas e confiáveis.

Visualização comparativa de quatro métodos de prompt para resolver HotpotQA e AlfWorld (https://arxiv.org/pdf/2210.03629.pdf)

A criação de agentes ReAct é uma tarefa especializada, dada sua capacidade de alcançar objetivos intricados. Por exemplo, um agente conversacional, construído sobre o modelo ReAct base, incorpora memória conversacional para fornecer interações mais ricas. No entanto, a complexidade dessa tarefa é simplificada por ferramentas como Langchain, que se tornou o padrão para projetar esses agentes.

Prompt de Contexto Fiel

O artigo ‘Prompt de Contexto Fiel para Grandes Modelos de Linguagem‘ destaca que, embora os LLMs tenham demonstrado sucesso substancial em tarefas de NLP baseadas em conhecimento, sua dependência excessiva do conhecimento paramétrico pode levá-los a se desviar em tarefas sensíveis ao contexto. Por exemplo, quando um modelo de linguagem é treinado em fatos desatualizados, pode produzir respostas incorretas se ignorar as pistas contextuais.

Esse problema é aparente em instâncias de conflito de conhecimento, onde o contexto contém fatos que diferem do conhecimento pré-existente do LLM. Considere um exemplo em que um Grande Modelo de Linguagem (LLM), preparado com dados antes da Copa do Mundo de 2022, é dado um contexto que indica que a França venceu o torneio. No entanto, o LLM, confiando em seu conhecimento pré-treinado, continua a afirmar que o vencedor anterior, ou seja, a equipe que venceu em 2018, é ainda o campeão reinante. Isso demonstra um caso clássico de ‘conflito de conhecimento’.

Em essência, o conflito de conhecimento em um LLM surge quando as novas informações fornecidas no contexto contradizem o conhecimento pré-existente com o qual o modelo foi treinado. A tendência do modelo de confiar em seu treinamento anterior em vez do contexto recém-fornecido pode resultar em saídas incorretas. Por outro lado, a alucinação nos LLMs é a geração de respostas que podem parecer plausíveis, mas não estão enraizadas nos dados de treinamento do modelo ou no contexto fornecido.

Outro problema surge quando o contexto fornecido não contém informações suficientes para responder a uma pergunta com precisão, uma situação conhecida como previsão com abstenção. Por exemplo, se um LLM é perguntado sobre o fundador da Microsoft (MSFT ) com base em um contexto que não fornece essa informação, ele deve idealmente se abster de adivinhar.

Mais Exemplos de Conflito de Conhecimento e o Poder da Abstenção

Para melhorar a fidelidade contextual dos LLMs nesses cenários, os pesquisadores propuseram uma série de estratégias de prompt. Essas estratégias visam tornar as respostas dos LLMs mais atentas ao contexto em vez de confiar em seu conhecimento codificado.

Uma dessas estratégias é estruturar os prompts como perguntas baseadas em opinião, onde o contexto é interpretado como uma declaração do narrador, e a pergunta se refere à opinião desse narrador. Essa abordagem refoca a atenção do LLM para o contexto apresentado em vez de recorrer a seu conhecimento pré-existente.

Adicionar demonstrações contrafactuais aos prompts também foi identificado como uma maneira eficaz de aumentar a fidelidade em casos de conflito de conhecimento. Essas demonstrações apresentam cenários com fatos falsos, que guiam o modelo a prestar mais atenção ao contexto para fornecer respostas precisas.

Ajuste Fino de Instrução

O ajuste fino de instrução é uma fase de aprendizado supervisionado que capitaliza em fornecer ao modelo instruções específicas, por exemplo, “Explique a distinção entre um nascer do sol e um pôr do sol.” A instrução é emparelhada com uma resposta apropriada, algo como, “Um nascer do sol refere-se ao momento em que o sol aparece acima do horizonte pela manhã, enquanto um pôr do sol marca o ponto em que o sol some abaixo do horizonte à noite.” Por meio desse método, o modelo essencialmente aprende a aderir a e executar instruções.

Essa abordagem influencia significativamente o processo de prompt dos LLMs, levando a uma mudança radical no estilo de prompt. Um LLM ajustado para instruções permite a execução imediata de tarefas de zero disparos, fornecendo um desempenho de tarefa sem esforço. Se o LLM ainda não foi ajustado, uma abordagem de aprendizado de poucos disparos pode ser necessária, incorporando alguns exemplos ao seu prompt para guiar o modelo em direção à resposta desejada.

“Ajuste de Instrução com GPT-4‘ discute a tentativa de usar o GPT-4 para gerar dados de seguimento de instruções para ajuste fino de LLMs. Eles usaram um conjunto de dados rico, composto por 52.000 entradas únicas de seguimento de instruções em inglês e chinês.

O conjunto de dados desempenha um papel fundamental no ajuste de instrução dos modelos LLaMA, uma série de LLMs de código aberto, resultando em um desempenho de zero disparos aprimorado em novas tarefas. Projetos notáveis, como Stanford Alpaca, empregaram com sucesso o ajuste de auto-instrução, um método eficiente para alinhar os LLMs com a intenção humana, aproveitando dados gerados por modelos de professores avançados ajustados para instruções.

O objetivo principal da pesquisa de ajuste de instrução é aumentar as capacidades de generalização de zero e poucos disparos dos LLMs. Mais dados e escalabilidade de modelo podem fornecer insights valiosos. Com o tamanho atual dos dados do GPT-4 em 52K e o tamanho do modelo base LLaMA em 7 bilhões de parâmetros, há um enorme potencial para coletar mais dados de seguimento de instruções do GPT-4 e combiná-los com outras fontes de dados, levando ao treinamento de modelos LLaMA maiores para um desempenho superior.

STaR: Bootstrap de Raciocínio com Raciocínio

O potencial dos LLMs é particularmente visível em tarefas de raciocínio complexas, como matemática ou resposta a perguntas de senso comum. No entanto, o processo de induzir um modelo de linguagem a gerar justificativas – uma série de justificações passo a passo ou “cadeia de pensamento” – tem seu próprio conjunto de desafios. Isso frequentemente requer a construção de grandes conjuntos de dados de justificativas ou um sacrifício na precisão devido à dependência de inferência de poucos disparos.

“Self-Taught Reasoner” (STaR) oferece uma solução inovadora para esses desafios. Ele utiliza um loop simples para melhorar continuamente a capacidade de raciocínio de um modelo. Esse processo iterativo começa gerando justificativas para responder a múltiplas perguntas usando alguns exemplos racionais. Se as respostas geradas forem incorretas, o modelo tenta novamente gerar uma justificativa, desta vez fornecendo a resposta correta. O modelo é então ajustado em todas as justificativas que resultaram em respostas corretas, e o processo se repete.

Metodologia STaR

Para ilustrar isso com um exemplo prático, considere a pergunta “O que pode ser usado para carregar um pequeno cão?” com opções de resposta que variam de uma piscina a uma cesta. O modelo STaR gera uma justificativa, identificando que a resposta deve ser algo capaz de carregar um pequeno cão e concluindo que uma cesta, projetada para segurar coisas, é a resposta correta.

A abordagem do STaR é única, pois aproveita a capacidade de raciocínio pré-existente do modelo de linguagem. Ele emprega um processo de auto-geração e refinamento de justificativas, iterativamente aumentando as capacidades de raciocínio do modelo. No entanto, o loop do STaR tem suas limitações. O modelo pode falhar em resolver novos problemas no conjunto de treinamento porque não recebe um sinal de treinamento direto para problemas que não consegue resolver. Para abordar esse problema, o STaR introduz a racionalização. Para cada problema que o modelo não consegue responder corretamente, gera uma nova justificativa fornecendo ao modelo a resposta correta, permitindo que o modelo raciocine para trás.

O STaR, portanto, se destaca como um método de bootstrap escalável que permite que os modelos aprendam a gerar suas próprias justificativas, ao mesmo tempo em que aprendem a resolver problemas cada vez mais difíceis. A aplicação do STaR mostrou resultados promissores em tarefas que envolvem aritmética, problemas de matemática em palavras e raciocínio de senso comum. No CommonsenseQA, o STaR melhorou tanto a linha de base de poucos disparos quanto a linha de base ajustada para prever respostas diretamente e se saiu comparavelmente a um modelo 30× maior.

Prompts de Contexto Marcados

O conceito de ‘Prompts de Contexto Marcados‘ gira em torno de fornecer ao modelo de IA uma camada adicional de contexto, marcando certas informações dentro da entrada. Essas marcas atuam essencialmente como sinais para o modelo de IA, orientando-o sobre como interpretar o contexto com precisão e gerar uma resposta que seja tanto relevante quanto factual.

Imagine que você está tendo uma conversa com um amigo sobre um tópico específico, digamos ‘xadrez’. Você faz uma declaração e, em seguida, marca com uma referência, como ‘(fonte: Wikipedia)’. Agora, seu amigo, que nesse caso é o modelo de IA, sabe exatamente de onde vem a informação. Essa abordagem visa tornar as respostas do modelo de IA mais confiáveis, reduzindo o risco de alucinações, ou a geração de fatos falsos.

Um aspecto único dos prompts de contexto marcados é seu potencial para melhorar a ‘inteligência contextual’ dos modelos de IA. Por exemplo, o artigo demonstra isso usando um conjunto diversificado de perguntas extraídas de várias fontes, como artigos da Wikipedia resumidos em diferentes assuntos e seções de um livro recentemente publicado. As perguntas são marcadas, fornecendo ao modelo de IA informações adicionais sobre a fonte da informação.

Essa camada extra de contexto pode provar ser incrivelmente benéfica quando se trata de gerar respostas que não apenas são precisas, mas também aderem ao contexto fornecido, tornando a saída do modelo de IA mais confiável e digna de confiança.

Conclusão: Um Olhar para Técnicas Promissoras e Direções Futuras

O ChatGPT da OpenAI destaca o potencial inexplorado dos Grandes Modelos de Linguagem (LLMs) em lidar com tarefas complexas com notável eficiência. Técnicas avançadas, como aprendizado de poucos disparos, ReAct, cadeia de pensamento e STaR, permitem que aproveitemos esse potencial em uma ampla gama de aplicações. À medida que exploramos as nuances dessas metodologias, descobrimos como elas estão moldando o cenário da IA, oferecendo interações mais ricas e seguras entre humanos e máquinas.

Apesar dos desafios, como conflito de conhecimento, dependência excessiva do conhecimento paramétrico e potencial para alucinação, esses modelos de IA, com a engenharia de prompt apropriada, provaram ser ferramentas transformadoras. O ajuste fino de instruções, o prompt de contexto fiel e a integração com fontes de dados externas ainda mais ampliam sua capacidade de raciocinar, aprender e adaptar.