Новая открытая решение Vianai решает проблему галлюцинаций ИИ

Не секрет, что ИИ, в частности большие языковые модели (LLM), могут иногда производить неточные или даже потенциально вредные выходные данные. Эти аномалии, называемые “галлюцинациями ИИ”, были значительным препятствием для предприятий, рассматривающих возможность интеграции LLM, из-за внутренних рисков финансовых, репутационных и даже юридических последствий.

Для решения этой насущной проблемы Vianai Systems, лидер в области Human-Centered AI, представила свою новую разработку: набор инструментов veryLLM. Этот открытый набор инструментов предназначен для обеспечения более надежных, прозрачных и трансформирующих ИИ-систем для бизнес-применения.

Проблема галлюцинаций ИИ

Такие галлюцинации, при которых LLM генерируют ложный или оскорбительный контент, были постоянной проблемой. Многие компании, опасаясь потенциальных последствий, отказались от интеграции LLM в свои центральные системы. Однако с введением veryLLM под открытой лицензией Apache 2.0 Vianai надеется построить доверие и содействовать принятию ИИ, предоставив решение этих проблем.

Разбор набора инструментов veryLLM

В своей основе набор инструментов veryLLM позволяет глубже понять каждое предложение, сгенерированное LLM. Он достигает этого посредством различных функций, которые категоризируют утверждения на основе контекстных пулов, на которых обучены LLM, таких как Википедия, Common Crawl и Книги3. С учетом того, что первый выпуск veryLLM сильно полагается на выбор статей Википедии, этот метод обеспечивает прочную основу для процедуры верификации набора инструментов.

Набор инструментов разработан как адаптивный, модульный и совместимый со всеми LLM, что облегчает его использование в любом приложении, которое использует LLM. Это повысит прозрачность в ответах, сгенерированных ИИ, и поддержит как текущие, так и будущие языковые модели.

Доктор Вишал Сикка, основатель и генеральный директор Vianai Systems, а также советник Центра Human-Centered Artificial Intelligence Стэнфордского университета, подчеркнул серьезность проблемы галлюцинаций ИИ. Он сказал: “Галлюцинации ИИ представляют серьезные риски для предприятий, препятствуя их принятию ИИ. Как студент ИИ на протяжении многих лет, также хорошо известно, что мы не можем позволить этим мощным системам быть непрозрачными в отношении основы их выходных данных, и нам нужно срочно решить эту проблему. Наша библиотека veryLLM – это первый небольшой шаг к обеспечению прозрачности и доверия к выходным данным любого LLM – прозрачности, которую любой разработчик, ученый-исследователь или поставщик LLM может использовать в своих приложениях ИИ. Мы рады привнести эти возможности, а также многие другие техники против галлюцинаций, в предприятия по всему миру, и я считаю, что именно это является причиной беспрецедентного принятия наших решений.”

Интеграция veryLLM в hila™ Enterprise

hila™ Enterprise, еще один отличный продукт от Vianai, фокусируется на точной и прозрачной реализации крупномасштабных языковых решений для бизнеса в таких секторах, как финансы, контракты и право. Эта платформа интегрирует код veryLLM, в сочетании с другими передовыми техниками ИИ, для минимизации рисков, связанных с ИИ, что позволяет бизнесу полностью использовать трансформирующую силу надежных ИИ-систем.

Более близкий взгляд на Vianai Systems

Vianai Systems выделяется как лидер в области Human-Centered AI. Компания имеет клиентскую базу, включающую некоторые из наиболее уважаемых бизнесов мира. Непревзойденные возможности их команды в создании платформ и инновационных приложений для бизнеса выделяют их. Они также удачливы, имея поддержку некоторых из наиболее дальновидных инвесторов мира в области Human-Centered AI.