La nueva solución de código abierto de Vianai aborda el problema de las alucinaciones de la IA

No es un secreto que la IA, específicamente los Grandes Modelos de Lenguaje (LLM), pueden producir ocasionalmente resultados inexactos o incluso potencialmente dañinos. Bautizados como “alucinaciones de la IA”, estas anomalías han sido una barrera significativa para las empresas que contemplan la integración de LLM debido a los riesgos inherentes de consecuencias financieras, de reputación y incluso legales.

Abordando esta preocupación crucial, Vianai Systems, un líder en IA centrada en el ser humano para empresas, presentó su nueva oferta: la herramienta veryLLM. Esta herramienta de código abierto tiene como objetivo garantizar sistemas de IA más confiables, transparentes y transformadores para su uso en empresas.

El desafío de las alucinaciones de la IA

Estas alucinaciones, que ven a los LLM generando contenido falso o ofensivo, han sido un problema persistente. Muchas empresas, temiendo las posibles repercusiones, se han alejado de incorporar LLM en sus sistemas empresariales centrales. Sin embargo, con la introducción de veryLLM bajo la licencia de código abierto Apache 2.0, Vianai espera construir confianza y promover la adopción de la IA al proporcionar una solución a estos problemas.

Desglosando la herramienta veryLLM

En su núcleo, la herramienta veryLLM permite una comprensión más profunda de cada oración generada por LLM. Logra esto a través de varias funciones que categorizan las declaraciones en función de los conjuntos de contexto en los que se entrenan los LLM, como Wikipedia, Common Crawl y Books3. Con el lanzamiento inaugural de veryLLM que depende en gran medida de una selección de artículos de Wikipedia, este método garantiza una base sólida para el procedimiento de verificación de la herramienta.

La herramienta está diseñada para ser adaptable, modular y compatible con todos los LLM, lo que facilita su uso en cualquier aplicación que utilice LLM. Esto mejorará la transparencia en las respuestas generadas por la IA y respaldará tanto los modelos de lenguaje actuales como los futuros.

Dr. Vishal Sikka, fundador y director ejecutivo de Vianai Systems y también asesor del Centro de Inteligencia Artificial Centrada en el Ser Humano de la Universidad de Stanford, enfatizó la gravedad del problema de las alucinaciones de la IA. Dijo: “Las alucinaciones de la IA plantean riesgos graves para las empresas, lo que obstaculiza su adopción de la IA. Como estudiante de la IA durante muchos años, también es bien sabido que no podemos permitir que estos sistemas poderosos sean opacos sobre la base de sus resultados, y debemos solucionar esto urgentemente. Nuestra biblioteca veryLLM es un pequeño primer paso para traer transparencia y confianza a los resultados de cualquier LLM – transparencia que cualquier desarrollador, científico de datos o proveedor de LLM puede utilizar en sus aplicaciones de IA. Estamos emocionados de traer estas capacidades, y muchas otras técnicas anti-alucinación, a empresas de todo el mundo, y creo que esta es la razón por la que estamos viendo una adopción sin precedentes de nuestras soluciones”.

Incorporando veryLLM en hila™ Enterprise

hila™ Enterprise, otro producto estelar de Vianai, se centra en el despliegue preciso y transparente de soluciones de lenguaje empresarial sustanciales en sectores como las finanzas, los contratos y el derecho. Esta plataforma integra el código veryLLM, combinado con otras técnicas de IA avanzadas, para minimizar los riesgos asociados con la IA, lo que permite a las empresas aprovechar al máximo el poder transformador de los sistemas de IA confiables.

Un vistazo más cercano a Vianai Systems

Vianai Systems se destaca como un pionero en el ámbito de la IA centrada en el ser humano. La empresa cuenta con una clientela que incluye algunas de las empresas más prestigiosas del mundo. La habilidad sin igual de su equipo para crear plataformas empresariales y aplicaciones innovadoras los distingue. También tienen el apoyo de algunos de los inversores más visionarios del mundo.