Остановка ИИ от выдумывания историй: Руководство по предотвращению галлюцинаций

ИИ революционизирует способ функционирования几乎 каждой отрасли. Он делает нас более эффективными, более продуктивными и – когда он реализован правильно – лучше выполняющими свою работу в целом. Но по мере того, как наша зависимость от этой новой технологии увеличивается быстро, нам нужно напомнить себе о одном простом факте: ИИ не является непогрешимым. Его выходные данные не должны приниматься как данность, потому что, как и люди, ИИ может совершать ошибки.

Мы называем эти ошибки “галлюцинациями ИИ”. Такие промахи могут варьироваться от неправильного ответа на математическую задачу до предоставления неправильной информации о государственных политиках. В высокорегулируемых отраслях галлюцинации могут привести к дорогостоящим штрафам и юридическим проблемам, не говоря уже о недовольных клиентах.

Частота галлюцинаций ИИ должна быть причиной для беспокойства: оценочно, что современные большие языковые модели (LLM) галлюцинируют где-то от 1% до 30% времени. Это приводит к сотням ложных ответов, генерируемых ежедневно, что означает, что бизнес, стремящийся использовать эту технологию, должен быть очень избирательным при выборе инструментов для реализации.

Давайте рассмотрим, почему галлюцинации ИИ происходят, что на кону и как мы можем их выявить и исправить.

Мусор на входе, мусор на выходе

Вы помните игру “телефон” в детстве? Как начальная фраза искажалась, когда передавалась от игрока к игроку, в результате чего получалась совершенно другая фраза к тому времени, когда она обошла круг?

Способ, которым ИИ учится на своих входных данных, похож. Ответы, генерируемые LLM, столь же хороши, как и информация, которую они получают, что означает, что неправильный контекст может привести к генерации и распространению ложной информации. Если система ИИ построена на данных, которые неточны, устарели или предвзяты, то ее выходные данные будут отражать это.

Таким образом, LLM столь же хорош, как и его входные данные, особенно когда отсутствует человеческое вмешательство или надзор. По мере того, как более автономные решения ИИ распространяются, важно предоставлять инструментам правильный контекст данных, чтобы избежать вызывания галлюцинаций. Нам нужно тщательное обучение этих данных и/или возможность направлять LLM так, чтобы они отвечали только из контекста, который им предоставлен, а не извлекали информацию из любого места в интернете.

Почему галлюцинации имеют значение?

Для бизнеса, ориентированного на клиентов, точность является всем. Если сотрудники полагаются на ИИ для задач, таких как синтез данных клиентов или ответы на запросы клиентов, они должны доверять, что ответы, генерируемые такими инструментами, точны.

В противном случае бизнес рискует нанести ущерб своей репутации и лояльности клиентов. Если клиентам предоставляются недостаточные или ложные ответы чат-ботом или если они вынуждены ждать, пока сотрудники проверят выходные данные чат-бота, они могут уйти в другое место. Люди не должны беспокоиться о том, предоставляют ли им бизнес, с которым они взаимодействуют, ложную информацию – они хотят быструю и надежную поддержку, что означает, что эти взаимодействия имеют первостепенное значение.

Лидеры бизнеса должны сделать свою работу, когда выбирают правильный инструмент ИИ для своих сотрудников. ИИ должен освободить время и энергию для сотрудников, чтобы сосредоточиться на задачах более высокого уровня; инвестиции в чат-бот, который требует постоянного человеческого надзора, сводят на нет цель внедрения. Но действительно ли существование галлюцинаций так заметно или термин просто чрезмерно используется для идентификации любой ответ, который мы считаем неправильным?

Борьба с галлюцинациями ИИ

Рассмотрите: теорию динамического смысла (DMT), концепцию, согласно которой понимание между двумя людьми – в данном случае пользователем и ИИ – обмениваются. Но ограничения языка и знания предмета вызывают несоответствие в интерпретации ответа.

В случае ответов, генерируемых ИИ, возможно, что лежащие в основе алгоритмы еще не полностью оснащены для точной интерпретации или генерации текста таким образом, чтобы он соответствовал нашим ожиданиям как людей. Это несоответствие может привести к ответам, которые могут показаться точными на поверхности, но в конечном итоге лишены глубины или нюансов, необходимых для真正щего понимания.

Кроме того, большинство общих LLM извлекает информацию только из контента, доступного в интернете. Предприятия ИИ работают лучше, когда они информированы данными и политиками, специфичными для отдельных отраслей и бизнеса. Модели также можно улучшить с помощью прямой обратной связи человека – особенно агентных решений, предназначенных для ответа на тон и синтаксис.

Такие инструменты также должны быть строго протестированы, прежде чем они станут клиенто-ориентированными. Это является важной частью предотвращения галлюцинаций ИИ. Целый поток должен быть протестирован с помощью разговоров на основе очереди с LLM, играющим роль персонажа. Это позволяет бизнесу лучше предположить общий успех разговоров с моделью ИИ, прежде чем выпустить ее в мир.

Важно, чтобы как разработчики, так и пользователи технологии ИИ оставались осведомленными о динамической теории смысла в ответах, которые они получают, а также о динамике языка, используемого в входных данных. Помните, контекст является ключом. И как люди, большинство нашего контекста понимается через невысказанные средства, будь то язык тела, социальные тенденции – даже наш тон. Как люди, у нас есть потенциал галлюцинировать в ответ на вопросы. Но в нашей текущей итерации ИИ наше понимание человека с человеком не так легко контекстуализировано, поэтому нам нужно быть более критичными к контексту, который мы предоставляем в письменной форме.

Достаточно сказать – не все модели ИИ созданы равными. По мере того, как технология развивается для выполнения все более сложных задач, важно для бизнеса, ориентированного на внедрение, выявить инструменты, которые улучшат взаимодействия и опыт клиентов, а не отвлекут от них.

Бремя не только на поставщиках решений, чтобы обеспечить, что они сделали все возможное, чтобы минимизировать шанс галлюцинаций. Потенциальные покупатели также играют свою роль. Приоритизируя решения, которые тщательно обучены и протестированы и могут учиться на проприетарных данных (а не на всем, что есть в интернете), бизнес может получить максимальную пользу от своих инвестиций в ИИ, чтобы подготовить сотрудников и клиентов к успеху.