La nueva solución de código abierto de Vianai aborda el problema de las alucinaciones de la IA

No es un secreto que la IA, específicamente los Modelos de Lenguaje Grande (LLM), pueden producir ocasionalmente salidas inexactas o incluso potencialmente dañinas. Estas anomalías, llamadas “alucinaciones de la IA”, han sido una barrera significativa para las empresas que consideran integrar LLM debido a los riesgos inherentes de consecuencias financieras, de reputación y incluso legales.

Para abordar esta preocupación fundamental, Vianai Systems, un líder en la IA centrada en el ser humano, presentó su nueva oferta: la herramienta veryLLM. Esta herramienta de código abierto tiene como objetivo garantizar sistemas de IA más confiables, transparentes y transformadores para su uso en empresas.

El desafío de las alucinaciones de la IA

Estas alucinaciones, que hacen que los LLM generen contenido falso u ofensivo, han sido un problema persistente. Muchas empresas, temiendo las posibles consecuencias, se han negado a incorporar LLM en sus sistemas empresariales centrales. Sin embargo, con la introducción de veryLLM bajo la licencia de código abierto Apache 2.0, Vianai espera generar confianza y promover la adopción de la IA al proporcionar una solución a estos problemas.

Desempacando la herramienta veryLLM

En su núcleo, la herramienta veryLLM permite una comprensión más profunda de cada oración generada por el LLM. Logra esto a través de varias funciones que categorizan las declaraciones en función de los conjuntos de contexto en los que se entrenan los LLM, como Wikipedia, Common Crawl y Books3. Con el lanzamiento inaugural de veryLLM que depende en gran medida de una selección de artículos de Wikipedia, este método garantiza una base sólida para el procedimiento de verificación de la herramienta.

La herramienta está diseñada para ser adaptable, modular y compatible con todos los LLM, lo que facilita su uso en cualquier aplicación que utilice LLM. Esto mejorará la transparencia en las respuestas generadas por la IA y apoyará tanto los modelos de lenguaje actuales como los futuros.

Dr. Vishal Sikka, fundador y director ejecutivo de Vianai Systems y asesor del Centro de IA centrada en el ser humano de la Universidad de Stanford, enfatizó la gravedad del problema de las alucinaciones de la IA. Dijo: “Las alucinaciones de la IA plantean riesgos graves para las empresas, lo que obstaculiza su adopción de la IA. Como estudiante de la IA durante muchos años, también es bien sabido que no podemos permitir que estos sistemas poderosos sean opacos sobre la base de sus salidas, y debemos resolver esto urgentemente. Nuestra biblioteca veryLLM es un pequeño primer paso para traer transparencia y confianza a las salidas de cualquier LLM – transparencia que cualquier desarrollador, científico de datos o proveedor de LLM puede utilizar en sus aplicaciones de IA. Estamos emocionados de traer estas capacidades, y muchas otras técnicas anti-alucinación, a empresas de todo el mundo, y creo que esto es por qué estamos viendo una adopción sin precedentes de nuestras soluciones.”

Incorporando veryLLM en hila™ Enterprise

hila™ Enterprise, otro producto estelar de Vianai, se centra en el despliegue preciso y transparente de soluciones de lenguaje empresarial sustanciales en sectores como las finanzas, los contratos y el derecho. Esta plataforma integra el código veryLLM, combinado con otras técnicas de IA avanzadas, para minimizar los riesgos asociados con la IA, lo que permite a las empresas aprovechar al máximo el poder transformador de los sistemas de IA confiables.

Un vistazo más cercano a Vianai Systems

Vianai Systems se destaca como un pionero en el ámbito de la IA centrada en el ser humano. La empresa cuenta con una clientela que incluye algunas de las empresas más prestigiosas del mundo. La capacidad sin igual de su equipo para crear plataformas empresariales y aplicaciones innovadoras los distingue. También tienen la suerte de contar con el respaldo de algunos de los inversores más visionarios del mundo, en el ámbito de la IA centrada en el ser humano. La empresa se enorgullece de tener una clientela que incluye algunas de las empresas más prestigiosas del mundo. Su equipo tiene una capacidad sin igual para crear plataformas empresariales y aplicaciones innovadoras, lo que los distingue. También tienen la suerte de contar con el respaldo de algunos de los inversores más visionarios del mundo.