La nuova soluzione open-source di Vianai affronta il problema delle allucinazioni dell’AI

Non è un segreto che l’AI, in particolare i Large Language Models (LLM), possano occasionalmente produrre output inaccurati o addirittura potenzialmente dannosi. Definiti come “allucinazioni dell’AI”, queste anomalie sono state un ostacolo significativo per le imprese che stanno valutando l’integrazione degli LLM a causa dei rischi inerenti di conseguenze finanziarie, reputazionali e addirittura legali.

Affrontando questo problema fondamentale, Vianai Systems, un’azienda leader nell’ambito dell’AI umano-centrica per le imprese, ha presentato la sua nuova offerta: il toolkit veryLLM. Questo toolkit open-source è finalizzato a garantire sistemi di AI più affidabili, trasparenti e trasformativi per l’uso aziendale.

La sfida delle allucinazioni dell’AI

Tali allucinazioni, che vedono gli LLM generare contenuti falsi o offensivi, sono stati un problema persistente. Molte aziende, temendo le possibili ripercussioni, hanno evitato di incorporare gli LLM nei loro sistemi aziendali centrali. Tuttavia, con l’introduzione di veryLLM, sotto la licenza open-source Apache 2.0, Vianai spera di costruire fiducia e promuovere l’adozione dell’AI fornendo una soluzione a questi problemi.

Analisi del toolkit veryLLM

Al suo nucleo, il toolkit veryLLM consente una comprensione più profonda di ogni frase generata dagli LLM. Ciò si ottiene attraverso varie funzioni che categorizzano le affermazioni in base ai pool di contesto su cui gli LLM sono stati addestrati, come ad esempio Wikipedia, Common Crawl e Books3. Con la prima release di veryLLM che si basa fortemente su una selezione di articoli di Wikipedia, questo metodo garantisce una solida base per la procedura di verifica del toolkit.

Il toolkit è progettato per essere adattivo, modulare e compatibile con tutti gli LLM, facilitandone l’uso in qualsiasi applicazione che utilizza gli LLM. Ciò migliorerà la trasparenza nelle risposte generate dall’AI e supporterà sia i modelli linguistici attuali che quelli futuri.

Dr. Vishal Sikka, fondatore e amministratore delegato di Vianai Systems e anche consigliere del Center for Human-Centered Artificial Intelligence di Stanford University, ha sottolineato la gravità del problema delle allucinazioni dell’AI. Ha detto: “Le allucinazioni dell’AI rappresentano rischi seri per le imprese, frenando la loro adozione dell’AI. Come studente di AI da molti anni, è anche noto che non possiamo permettere che questi potenti sistemi siano opachi sulla base dei loro output, e dobbiamo risolvere urgentemente questo problema. La nostra libreria veryLLM è un piccolo primo passo per portare trasparenza e fiducia agli output di qualsiasi LLM – trasparenza che qualsiasi sviluppatore, scienziato dei dati o fornitore di LLM possa utilizzare nelle proprie applicazioni AI. Siamo entusiasti di portare queste capacità, e molte altre tecniche anti-allucinazione, alle imprese di tutto il mondo, e credo che questo sia il motivo per cui stiamo vedendo un’adozione senza precedenti delle nostre soluzioni.”

Integrazione di veryLLM in hila™ Enterprise

hila™ Enterprise, un altro prodotto stellare di Vianai, si concentra sul dispiegamento accurato e trasparente di soluzioni linguistiche aziendali sostanziali in settori come finanza, contratti e legale. Questa piattaforma integra il codice veryLLM, combinato con altre tecniche di AI avanzate, per minimizzare i rischi associati all’AI, consentendo alle aziende di sfruttare appieno il potere trasformativo dei sistemi di AI affidabili.

Uno sguardo più da vicino a Vianai Systems

Vianai Systems si distingue come un pioniere nel campo dell’AI umano-centrica. L’azienda vanta una clientela composta da alcune delle più prestigiose aziende del mondo. La competenza unica del team nell’elaborazione di piattaforme aziendali e applicazioni innovative le distingue. Sono anche fortunate per avere il sostegno di alcuni degli investitori più visionari del mondo.