A Nova Solução de Código Aberto da Vianai Tackles o Problema de Alucinação da IA

Não é segredo que a IA, especificamente Large Language Models (LLMs), pode ocasionalmente produzir saídas imprecisas ou até mesmo potencialmente prejudiciais. Apelidados de “alucinações da IA”, essas anomalias têm sido uma barreira significativa para as empresas que consideram a integração de LLMs devido aos riscos inerentes de consequências financeiras, reputacionais e até mesmo legais.

Abordando essa preocupação fundamental, Vianai Systems, um líder em IA Human-Centered para empresas, lançou sua nova oferta: a ferramenta veryLLM. Essa ferramenta de código aberto visa garantir sistemas de IA mais confiáveis, transparentes e transformadores para uso empresarial.

O Desafio das Alucinações da IA

Tais alucinações, que veem LLMs gerando conteúdo falso ou ofensivo, têm sido um problema persistente. Muitas empresas, temendo possíveis repercussões, têm se afastado da incorporação de LLMs em seus sistemas centrais de empresa. No entanto, com a introdução da veryLLM, sob a licença de código aberto Apache 2.0, a Vianai espera construir confiança e promover a adoção da IA, fornecendo uma solução para esses problemas.

Entendendo a Ferramenta veryLLM

Em seu núcleo, a ferramenta veryLLM permite uma compreensão mais profunda de cada frase gerada pelo LLM. Ela alcança isso por meio de várias funções que categorizam declarações com base nos conjuntos de contexto nos quais os LLMs são treinados, como Wikipedia, Common Crawl e Books3. Com o lançamento inaugural da veryLLM dependendo fortemente de uma seleção de artigos da Wikipedia, esse método assegura uma base sólida para o procedimento de verificação da ferramenta.

A ferramenta é projetada para ser adaptável, modular e compatível com todos os LLMs, facilitando seu uso em qualquer aplicativo que utilize LLMs. Isso melhorará a transparência nas respostas geradas pela IA e apoiará tanto os modelos de linguagem atuais quanto os futuros.

Dr. Vishal Sikka, Fundador e CEO da Vianai Systems e também conselheiro do Centro de Inteligência Artificial Human-Centered da Universidade de Stanford, enfatizou a gravidade do problema de alucinação da IA. Ele disse: “As alucinações da IA representam riscos sérios para as empresas, impedindo sua adoção da IA. Como estudante de IA por muitos anos, também é bem sabido que não podemos permitir que esses sistemas poderosos sejam opacos sobre a base de suas saídas, e precisamos resolver isso urgentemente. Nossa biblioteca veryLLM é um pequeno primeiro passo para trazer transparência e confiança para as saídas de qualquer LLM – transparência que qualquer desenvolvedor, cientista de dados ou provedor de LLM pode usar em seus aplicativos de IA. Estamos ansiosos para trazer essas capacidades, e muitas outras técnicas anti-alucinação, para as empresas em todo o mundo, e acredito que é por isso que estamos vendo uma adoção sem precedentes de nossas soluções.”

Incorporando veryLLM no hila™ Enterprise

hila™ Enterprise, outro produto estelar da Vianai, se concentra no deploy preciso e transparente de soluções de linguagem empresarial substantivas em setores como finanças, contratos e legais. Essa plataforma integra o código veryLLM, combinado com outras técnicas de IA avançadas, para minimizar os riscos associados à IA, permitindo que as empresas aproveitem plenamente o poder transformador de sistemas de IA confiáveis.

Um Olhar Mais Closely sobre a Vianai Systems

Vianai Systems se destaca como um pioneiro no domínio da IA Human-Centered. A empresa tem uma clientela que inclui algumas das empresas mais renomadas do mundo. A equipe tem um conhecimento sem igual em criar plataformas e aplicações empresariais inovadoras, o que as distingue. Eles também têm a sorte de contar com o apoio de alguns dos investidores mais visionários do mundo.