São RAGs a Solução para as Alucinações de IA?

A IA, por design, tem uma “mente própria”. Uma desvantagem disso é que os modelos de IA Geradora ocasionalmente fabricam informações em um fenômeno chamado de “alucinações de IA”, um dos primeiros exemplos dos quais veio à tona quando um juiz de Nova York repreendeu advogados por usarem uma petição escrita por ChatGPT que citava casos judiciais inexistente. Mais recentemente, houve incidentes de motores de busca gerados por IA que diziam aos usuários para consumir rochas para benefícios de saúde, ou para usar cola não tóxica cola para ajudar o queijo a grudar na pizza.

À medida que a GenAI se torna cada vez mais onipresente, é importante que os adotantes reconheçam que as alucinações são, por enquanto, um aspecto inevitável das soluções de GenAI. Construídas em grandes modelos de linguagem (LLMs), essas soluções são frequentemente informadas por vastas quantidades de fontes díspares que provavelmente contenham pelo menos alguma informação imprecisa ou desatualizada – essas respostas fabricadas compõem entre 3% e 10% das respostas geradas por chatbots de IA para prompts de usuário. Em vista da natureza “caixa preta” da IA – na qual, como seres humanos, temos dificuldade extraordinária em examinar exatamente como a IA gera seus resultados – essas alucinações podem ser quase impossíveis para os desenvolvedores rastrear e entender.

Inevitáveis ou não, as alucinações de IA são frustrantes, no mínimo, perigosas e antiéticas, no pior dos casos.

Em vários setores, incluindo saúde, finanças e segurança pública, as consequências das alucinações incluem tudo, desde a disseminação de informações falsas e a comprometimento de dados sensíveis, até incidentes com risco de vida. Se as alucinações continuarem sem controle, o bem-estar dos usuários e a confiança da sociedade nos sistemas de IA serão comprometidos.

Como tal, é imperativo que os guardiões dessa tecnologia poderosa reconheçam e abordem os riscos das alucinações de IA para garantir a credibilidade das saídas geradas por LLMs.

RAGs como um Ponto de Partida para Solucionar as Alucinações

Um método que surgiu como uma solução para mitigar as alucinações é a geração aumentada por recuperação, ou RAG. Essa solução melhora a confiabilidade dos LLMs por meio da integração de armazenamentos externos de informações – extraíndo informações relevantes de um banco de dados confiável escolhido de acordo com a natureza da consulta – para garantir respostas mais confiáveis a consultas específicas.

Alguns especialistas da indústria propuseram que o RAG sozinho pode solucionar as alucinações. No entanto, os bancos de dados integrados ao RAG ainda podem conter dados desatualizados, o que poderia gerar informações falsas ou enganosas. Em certos casos, a integração de dados externos por meio do RAG pode até aumentar a probabilidade de alucinações nos grandes modelos de linguagem: se um modelo de IA confiar desproporcionalmente em um banco de dados desatualizado que ele percebe como sendo totalmente atualizado, a extensão das alucinações pode se tornar ainda mais grave.

Guardrails de IA – Pontes para as Lacunas do RAG

Como você pode ver, os RAGs têm um grande potencial para mitigar as alucinações de IA. No entanto, as indústrias e empresas que recorrem a essas soluções também devem entender suas limitações inerentes. De fato, quando usados em conjunto com os RAGs, existem metodologias complementares que devem ser usadas ao abordar as alucinações dos LLMs.

Por exemplo, as empresas podem empregar guardrails de IA em tempo real para proteger as respostas dos LLMs e mitigar as alucinações de IA. Os guardrails atuam como uma rede que verifica todas as saídas dos LLMs para conteúdo fabricado, profano ou fora do tópico antes que elas alcancem os usuários. Essa abordagem de middleware proativa garante a confiabilidade e a relevância da recuperação nos sistemas RAG, aumentando assim a confiança entre os usuários e garantindo interações seguras que estejam alinhadas com a marca da empresa.

Alternativamente, há a abordagem de “engenharia de prompts”, que exige que o engenheiro altere o prompt mestre de backend. Ao adicionar restrições pré-determinadas a prompts aceitáveis – em outras palavras, monitorando não apenas de onde o LLM está obtendo informações, mas também como os usuários estão pedindo respostas – os prompts projetados podem guiar os LLMs em direção a resultados mais confiáveis. A principal desvantagem dessa abordagem é que esse tipo de engenharia de prompts pode ser uma tarefa incrivelmente demorada para os programadores, que já estão esticados em termos de tempo e recursos.

A abordagem de “fine-tuning” envolve treinar os LLMs em conjuntos de dados especializados para refinar o desempenho e mitigar o risco de alucinações. Esse método treina LLMs especializados em tarefas para extrair de domínios específicos e confiáveis, melhorando a precisão e a confiabilidade nas saídas.

É importante considerar o impacto do comprimento da entrada no desempenho de raciocínio dos LLMs – de fato, muitos usuários tendem a pensar que quanto mais extensa e parametrizada for a entrada, mais precisa será a saída. No entanto, um estudo recente revelou que a precisão das saídas dos LLMs na verdade diminui à medida que o comprimento da entrada aumenta. Consequentemente, aumentar a quantidade de diretrizes atribuídas a um prompt específico não garante confiabilidade consistente na geração de aplicações de IA geradora confiáveis.

Esse fenômeno, conhecido como sobrecarga de prompts, destaca os riscos inerentes a projetos de prompts excessivamente complexos – quanto mais amplamente um prompt for formulado, mais portas são abertas para informações imprecisas e alucinações, à medida que o LLM se esforça para atender a cada parâmetro.

Engenharia de prompts requer atualizações constantes e fine-tuning e ainda luta para prevenir alucinações ou respostas sem sentido de forma eficaz. Os guardrails, por outro lado, não criarão riscos adicionais de saídas fabricadas, tornando-os uma opção atraente para proteger a IA. Ao contrário da engenharia de prompts, os guardrails oferecem uma solução em tempo real abrangente que garante que a IA geradora só criará saídas dentro de limites pré-definidos.

Embora não seja uma solução por si só, o feedback do usuário também pode ajudar a mitigar as alucinações com ações como votos positivos e negativos, ajudando a refinar os modelos, melhorar a precisão da saída e reduzir o risco de alucinações.

Por si só, as soluções RAG exigem experimentação extensiva para alcançar resultados precisos. No entanto, quando combinadas com fine-tuning, engenharia de prompts e guardrails, elas podem oferecer soluções mais direcionadas e eficientes para abordar as alucinações. Explorar essas estratégias complementares continuará a melhorar a mitigação de alucinações nos LLMs, ajudando no desenvolvimento de modelos mais confiáveis e confiáveis em várias aplicações.

RAGs Não São a Solução para as Alucinações de IA

As soluções RAG adicionam um valor imenso aos LLMs, enriquecendo-os com conhecimento externo. No entanto, com tanto ainda desconhecido sobre a IA geradora, as alucinações permanecem um desafio inerente. A chave para combater essas alucinações não está em tentar eliminá-las, mas sim em aliviar sua influência com uma combinação de guardrails estratégicos, processos de verificação e prompts afinados.

Quanto mais podermos confiar no que a GenAI nos diz, mais eficazmente e eficientemente poderemos aproveitar seu potencial poderoso.