La nuova soluzione open-source di Vianai affronta il problema delle allucinazioni dell’IA

Non è un segreto che l’IA, in particolare i Large Language Models (LLM), possano occasionalmente produrre output inaccurati o addirittura potenzialmente dannosi. Definiti come “allucinazioni dell’IA”, queste anomalie sono state un ostacolo significativo per le imprese che stanno considerando l’integrazione degli LLM a causa dei rischi inerenti di conseguenze finanziarie, di reputazione e addirittura legali.

Affrontando questo problema fondamentale, Vianai Systems, un’azienda leader nell’ambito dell’IA umano-centrica, ha presentato la sua nuova offerta: il toolkit veryLLM. Questo toolkit open-source è progettato per garantire sistemi di IA più affidabili, trasparenti e trasformativi per l’uso aziendale.

La sfida delle allucinazioni dell’IA

Tali allucinazioni, che vedono gli LLM generare contenuti falsi o offensivi, sono stati un problema persistente. Molte aziende, temendo le possibili ripercussioni, hanno evitato di incorporare gli LLM nei loro sistemi aziendali centrali. Tuttavia, con l’introduzione di veryLLM, sotto la licenza open-source Apache 2.0, Vianai spera di costruire fiducia e promuovere l’adozione dell’IA fornendo una soluzione a questi problemi.

Analisi del toolkit veryLLM

Al suo nucleo, il toolkit veryLLM consente una comprensione più profonda di ogni frase generata dagli LLM. Ciò si ottiene attraverso varie funzioni che categorizzano le affermazioni in base ai pool di contesto su cui gli LLM sono stati addestrati, come ad esempio Wikipedia, Common Crawl e Books3. Con il rilascio inaugurale di veryLLM che si basa fortemente su una selezione di articoli di Wikipedia, questo metodo garantisce una solida base per la procedura di verifica del toolkit.

Il toolkit è progettato per essere adattabile, modulare e compatibile con tutti gli LLM, facilitandone l’uso in qualsiasi applicazione che utilizzi gli LLM. Ciò migliorerà la trasparenza nelle risposte generate dall’IA e supporterà sia i modelli linguistici attuali che quelli futuri.

Dr. Vishal Sikka, fondatore e amministratore delegato di Vianai Systems e anche consigliere del Center for Human-Centered Artificial Intelligence di Stanford, ha sottolineato la gravità del problema delle allucinazioni dell’IA. Ha detto: “Le allucinazioni dell’IA rappresentano rischi seri per le imprese, ostacolando la loro adozione dell’IA. Come studente di IA da molti anni, è anche noto che non possiamo permettere che questi potenti sistemi siano opachi sulla base dei loro output, e dobbiamo risolvere urgentemente questo problema. La nostra libreria veryLLM è un piccolo primo passo per portare trasparenza e fiducia agli output di qualsiasi LLM – trasparenza che qualsiasi sviluppatore, scienziato dei dati o fornitore di LLM può utilizzare nelle proprie applicazioni di IA. Siamo entusiasti di portare queste capacità, e molte altre tecniche anti-allucinazione, alle imprese di tutto il mondo, e credo che questo sia il motivo per cui stiamo vedendo un’adozione senza precedenti delle nostre soluzioni.”

Integrazione di veryLLM in hila™ Enterprise

hila™ Enterprise, un altro prodotto stellare di Vianai, si concentra sul dispiegamento accurato e trasparente di soluzioni linguistiche aziendali sostanziali in settori come finanza, contratti e legale. Questa piattaforma integra il codice veryLLM, combinato con altre tecniche di IA avanzate, per minimizzare i rischi associati all’IA, consentendo alle aziende di sfruttare appieno il potere trasformativo dei sistemi di IA affidabili.

Uno sguardo più da vicino a Vianai Systems

Vianai Systems si posiziona come un pioniere nel campo dell’IA umano-centrica. L’azienda vanta una clientela composta da alcune delle aziende più stimate al mondo. La squadra di Vianai ha una competenza unica nel creare piattaforme aziendali e applicazioni innovative, che li distingue. Hanno anche la fortuna di avere il sostegno di alcuni degli investitori più visionari a livello mondiale.