Новая открытая решение Vianai решает проблему галлюцинаций ИИ

Не секрет, что ИИ, в частности большие языковые модели (LLM), могут иногда производить неточные или даже потенциально вредные выходные данные. Называемые “галлюцинациями ИИ”, эти аномалии были значительным барьером для предприятий, рассматривающих возможность интеграции LLM, из-за внутренних рисков финансовых, репутационных и даже юридических последствий.

Решая эту ключевую проблему, Vianai Systems, лидер в области Human-Centered ИИ для предприятий, представила свою новую разработку: набор инструментов veryLLM. Этот открытый инструментарий предназначен для обеспечения более надежных, прозрачных и трансформирующих ИИ-систем для бизнес-применения.

Проблема галлюцинаций ИИ

Такие галлюцинации, при которых LLM генерируют ложный или оскорбительный контент, были постоянной проблемой. Многие компании, опасаясь потенциальных последствий, отказались от интеграции LLM в свои центральные системы предприятия. Однако с введением veryLLM под лицензией Apache 2.0, Vianai надеется построить доверие и содействовать принятию ИИ, предоставляя решение этих проблем.

Разбор набора инструментов veryLLM

В своей основе набор инструментов veryLLM позволяет глубже понять каждое предложение, сгенерированное LLM. Он достигает этого посредством различных функций, которые категоризируют утверждения на основе контекстных пулов, на которых обучены LLM, таких как Wikipedia, Common Crawl и Books3. С учетом того, что первый выпуск veryLLM сильно полагается на выбор статей Wikipedia, этот метод обеспечивает прочную основу для процедуры верификации набора инструментов.

Набор инструментов предназначен для адаптивности, модульности и совместимости со всеми LLM, что облегчает его использование в любом приложении, которое использует LLM. Это повысит прозрачность в ответах, сгенерированных ИИ, и поддержит как текущие, так и будущие языковые модели.

Доктор Вишал Сикка, основатель и генеральный директор Vianai Systems, а также советник Центра Human-Centered Artificial Intelligence Стэнфордского университета, подчеркнул серьезность проблемы галлюцинаций ИИ. Он сказал: “Галлюцинации ИИ представляют серьезные риски для предприятий, препятствуя их принятию ИИ. Как студент ИИ на протяжении многих лет, также хорошо известно, что мы не можем позволить этим мощным системам быть непрозрачными относительно основы их выходных данных, и нам нужно срочно решить эту проблему. Наша библиотека veryLLM – это небольшой первый шаг к обеспечению прозрачности и доверия к выходным данным любой LLM – прозрачности, которую любой разработчик, специалист по данным или поставщик LLM может использовать в своих приложениях ИИ. Мы рады привнести эти возможности, а также многие другие техники против галлюцинаций, в предприятия всего мира, и я считаю, что именно это является причиной беспрецедентного принятия наших решений.”

Интеграция veryLLM в hila™ Enterprise

hila™ Enterprise, еще один отличный продукт от Vianai, фокусируется на точной и прозрачной реализации существенных языковых решений для предприятий в таких секторах, как финансы, контракты и право. Эта платформа интегрирует код veryLLM, в сочетании с другими передовыми техниками ИИ, для минимизации рисков, связанных с ИИ, что позволяет бизнесу полностью использовать трансформирующую силу надежных ИИ-систем.

Более близкий взгляд на Vianai Systems

Vianai Systems выделяется как лидер в области Human-Centered ИИ. Компания имеет клиентскую базу, состоящую из некоторых из наиболее уважаемых бизнесов мира. Непревзойденная экспертиза их команды в создании платформ и инновационных приложений для предприятий отличает их. Они также удачливы, имея поддержку некоторых из наиболее дальновидных инвесторов мира.