A Nova Solução de Código Aberto da Vianai Tackles o Problema de Alucinações de IA

Não é segredo que a IA, especificamente Modelos de Linguagem Grande (LLMs), pode ocasionalmente produzir saídas imprecisas ou até mesmo potencialmente prejudiciais. Chamados de “alucinações de IA”, essas anomalias têm sido uma barreira significativa para as empresas que consideram a integração de LLMs devido aos riscos inerentes de consequências financeiras, de reputação e até mesmo legais.

Para abordar essa preocupação fundamental, Vianai Systems, um líder em IA Human-Centered para empresas, lançou sua nova oferta: a ferramenta veryLLM. Essa ferramenta de código aberto visa garantir sistemas de IA mais confiáveis, transparentes e transformadores para uso empresarial.

O Desafio das Alucinações de IA

Tais alucinações, que veem LLMs gerando conteúdo falso ou ofensivo, têm sido um problema persistente. Muitas empresas, temendo possíveis repercussões, têm se afastado da incorporação de LLMs em seus sistemas centrais de empresa. No entanto, com a introdução da veryLLM, sob a licença de código aberto Apache 2.0, a Vianai espera construir confiança e promover a adoção de IA, fornecendo uma solução para esses problemas.

Desempacotando a Ferramenta veryLLM

Em seu núcleo, a ferramenta veryLLM permite uma compreensão mais profunda de cada sentença gerada por LLM. Isso é alcançado por meio de várias funções que categorizam declarações com base nos conjuntos de contexto em que os LLMs são treinados, como Wikipedia, Common Crawl e Livros3. Com o lançamento inaugural da veryLLM dependendo fortemente de uma seleção de artigos da Wikipedia, esse método assegura uma base sólida para o procedimento de verificação da ferramenta.

A ferramenta é projetada para ser adaptável, modular e compatível com todos os LLMs, facilitando seu uso em qualquer aplicação que utilize LLMs. Isso melhorará a transparência nas respostas geradas por IA e apoiará tanto os modelos de linguagem atuais quanto os futuros.

Dr. Vishal Sikka, Fundador e CEO da Vianai Systems e também consultor do Centro de IA Human-Centered da Universidade de Stanford, enfatizou a gravidade do problema de alucinações de IA. Ele disse: “As alucinações de IA representam riscos sérios para as empresas, impedindo sua adoção de IA. Como estudante de IA por muitos anos, também é bem conhecido que não podemos permitir que esses sistemas poderosos sejam opacos sobre a base de suas saídas, e precisamos resolver isso urgentemente. Nossa biblioteca veryLLM é um pequeno primeiro passo para trazer transparência e confiança para as saídas de qualquer LLM – transparência que qualquer desenvolvedor, cientista de dados ou provedor de LLM pode usar em suas aplicações de IA. Estamos animados para trazer essas capacidades, e muitas outras técnicas anti-alucinação, para as empresas em todo o mundo, e acredito que é por isso que estamos vendo uma adoção sem precedentes de nossas soluções.”

Incorporando veryLLM na hila™ Enterprise

hila™ Enterprise, outro produto estelar da Vianai, se concentra na implantação precisa e transparente de soluções de linguagem empresarial substantivas em setores como finanças, contratos e jurídico. Essa plataforma integra o código veryLLM, combinado com outras técnicas de IA avançadas, para minimizar os riscos associados à IA, permitindo que as empresas aproveitem plenamente o poder transformador de sistemas de IA confiáveis.

Um Olhar Mais Closely sobre a Vianai Systems

Vianai Systems se destaca como um pioneiro no domínio da IA Human-Centered. A empresa conta com uma clientela que inclui algumas das empresas mais renomadas do mundo. A equipe da Vianai tem um conhecimento incomparável na criação de plataformas empresariais e aplicações inovadoras, o que as distingue. Eles também têm a sorte de contar com o apoio de alguns dos investidores mais visionários do mundo. no âmbito da IA Human-Centered. A empresa se orgulha de ter uma clientela composta por algumas das empresas mais renomadas do globo. A equipe da Vianai tem um conhecimento incomparável na criação de plataformas empresariais e aplicações inovadoras, o que as distingue. Eles também têm a sorte de contar com o apoio de alguns dos investidores mais visionários do mundo.