Нова відкрита рішення Vianai для боротьби з проблемою галюцинацій штучного інтелекту

Не секрет, що штучний інтелект, зокрема більші мовні моделі (LLM), іноді можуть генерувати неточні або навіть потенційно шкідливі виходи. Такі аномалії, які називаються “галюцинаціями штучного інтелекту”, були значним бар’єром для підприємств, які розглядають можливість інтеграції LLM, через внутрішні ризики фінансових, репутаційних та навіть юридичних наслідків.

Для вирішення цієї важливої проблеми Vianai Systems, лідер у сфері людо-орієнтованого штучного інтелекту, представила свою нову пропозицію: інструментарій veryLLM. Цей відкритий інструментарій спрямований на забезпечення більш надійних, прозорих та трансформаційних систем штучного інтелекту для бізнес-використання.

Проблема галюцинацій штучного інтелекту

Такі галюцинації, які полягають у генерації LLM помилкових або образливих контентів, були постійною проблемою. Багато компаній, боячись потенційних наслідків, утримувалися від інтеграції LLM у свої центральні підприємства. Однак з появою veryLLM під ліцензією Apache 2.0 Vianai сподівається побудувати довіру та сприяти прийняттю штучного інтелекту, надаючи рішення цих проблем.

Розпакування інструментарію veryLLM

У своїй основі інструментарій veryLLM дозволяє глибше зрозуміти кожну пропозицію, згенеровану LLM. Він досягає цього завдяки різним функціям, які категоризують висловлювання на основі контекстних пулів, на яких тренуються LLM, таких як Вікіпедія, Common Crawl та Книги3. З появою veryLLM, яка сильно залежить від вибраної статті Вікіпедії, цей метод забезпечує солідну основу для процедури верифікації інструментарію.

Інструментарій розроблений як адаптивний, модульний та сумісний з усіма LLM, що полегшує його використання в будь-якій aplikacji, яка використовує LLM. Це покращить прозорість у відповідях, згенерованих штучним інтелектом, та підтримуватиме як поточні, так і майбутні мовні моделі.

Доктор Вішал Сікка, засновник і генеральний директор Vianai Systems, а також радник Центру людо-орієнтованого штучного інтелекту Стенфордського університету, підкреслив серйозність проблеми галюцинацій штучного інтелекту. Він сказав: “Галюцинації штучного інтелекту становлять серйозні ризики для підприємств, що стримує їхнє прийняття штучного інтелекту. Як студент штучного інтелекту протягом багатьох років, також добре відомо, що ми не можемо дозволити цим потужним системам бути не прозорими щодо підстави їхніх виходів, і нам потрібно терміново вирішити цю проблему. Наша бібліотека veryLLM – це малий перший крок до надання прозорості та довіри до виходів будь-якої LLM – прозорості, яку будь-який розробник, вчений-даніст або постачальник LLM може використовувати в своїх застосунках штучного інтелекту. Ми раді надавати ці можливості, а також багато інших анти-галюцинаційних технік, підприємствам усьому світі, і я вважаю, що це причина, чому ми бачимо безпрецедентне прийняття наших рішень.”

Інкорпорація veryLLM у hila™ Enterprise

hila™ Enterprise, ще одна зіркова продукція Vianai, зосереджується на точній та прозорій реалізації великомасштабних мовних підприємств рішень у сферах, таких як фінанси, контракти та право. Ця платформа інтегрує код veryLLM, поєднаний з іншими передовими техніками штучного інтелекту, щоб мінімізувати ризики, пов’язані зі штучним інтелектом, дозволяючи підприємствам повністю розкрити трансформаційну силу надійних систем штучного інтелекту.

Ближчий погляд на Vianai Systems

Vianai Systems стоїть як піонер у сфері людо-орієнтованого штучного інтелекту. Компанія має клієнтів, до яких входять деякі з найшанованіших підприємств світу. Неперевершена майстерність їхньої команди у створенні підприємств-платформ та інноваційних застосунків виділяє їх. Вони також мають підтримку деяких з найвидатніших інвесторів світу у сфері людо-орієнтованого штучного інтелекту.