Модели и платформы ИИ

Индекс Andus Labs ставит разрастание пилотных проектов с ИИ и пробелы в рабочих процессах в число главных рисков для бизнеса

Andus Labs относит разрастание пилотных проектов с ИИ и поверхностное внедрение помощников к главным барьерам для компаний, указывая на разрыв между использованием инструментов и изменениями в работе.

Mira Kellan
Добавьте Unite.AI в избранные источники в Google
Illustrative audit team reviewing transaction data on a laptop
Ключевые моментыОдин лишь доступ к инструментам не создаёт операционную модель, способную эффективно…
Показать больше
  • Один лишь доступ к инструментам не создаёт операционную модель, способную эффективно использовать ИИ.
  • Пилотные проекты без общего вопроса или правила принятия решений порождают активность, а не измеримые изменения.
  • Надзор не работает, когда команды могут внедрять ИИ, но не могут перестроить работу вокруг него.

В компании может кипеть работа над ИИ, но при этом то, как она функционирует, не меняется. Именно об этом предупреждает последний Ground Truth Index от Andus Labs: в ноябрьском рейтинге организационных барьеров на первые места вышли пересекающиеся эксперименты и поверхностное использование ИИ-помощников.

Третье издание индекса, опубликованное 18 ноября, выделяет 25 приоритетных закономерностей. Представленные выводы не являются ни репрезентативным исследованием внедрения ИИ в компаниях, ни оценкой финансовых потерь. Это диагностическая система, составленная на основе полевых наблюдений Andus, оценок с помощью ИИ и экспертных суждений исследователей. Самый ценный ее вклад — различие, которое часто затушевывают панели мониторинга внедрения: доступ к инструментам ИИ не равнозначен наличию операционной модели, позволяющей эффективно их использовать.

Когда эксперименты становятся операционной проблемой

Andus ставит на первое место «Разрастание без контроля», а на второе — «Потолок возможностей помощников». Первый термин описывает эксперименты, которые запускают без общей основы для оценки результатов. Второй — организации, где помощники становятся привычным инструментом для составления текстов и их краткого изложения, но существенно не меняют рабочие процессы.

В сообщении о выпуске Andus отмечает, что четыре из восьми ведущих закономерностей связаны с институциональной согласованностью — категорией, показывающей, поддерживают ли организационные структуры и расходы намеченные изменения. Еще две — «Раздувание артефактов», занявшее шестое место, и «Гонка по параллельным дорожкам», оказавшаяся на восьмом. Они описывают перегрузку проверками из-за результатов работы ИИ, которые выглядят тщательно подготовленными, и разобщенность команд, создающих схожие возможности.

Проблема не в том, что эксперименты сами по себе неэффективны. Пилотный проект может помочь получить ценный ответ, даже если вывод будет заключаться в том, что работу следует прекратить. Проблемы возникают, когда у команд нет согласованного вопроса, исходной точки отсчета или правила принятия решений. Высокая активность пользователей может свидетельствовать об интересе или удобстве, но не доказывает, что процесс стал быстрее, надежнее или дешевле с учетом затрат на проверку и интеграцию.

Например, два отдела могут тестировать разных помощников для работы с документами, и оба сообщат о высокой вовлеченности пользователей. Но это не ответит на вопросы, дублируют ли инструменты друг друга, сокращает ли хоть один из них общее время выполнения процесса и кто будет отвечать за совместное внедрение. Это организационные решения, а не проблемы выбора модели.

Ответственность должна соответствовать полномочиям в сфере ИИ

Следующие три позиции рейтинга — «Пустые кресла», «Учиться, захлебываясь» и «Теневая автономия». Так Andus обозначает отсутствие надзора за решениями ИИ, обучение, добавляемое к уже чрезмерной рабочей нагрузке, и несанкционированное использование ИИ с применением конфиденциальной деловой информации. Девять из 25 закономерностей в этом издании — новые; 16 уже встречались в предыдущих выпусках.

Все эти проблемы связаны с распределением ответственности. Команда может получить разрешение на внедрение инструмента, но не иметь полномочий для перестройки связанных с ним процессов. От сотрудников могут ожидать освоения новых методов, продолжая оценивать их по прежнему объему работы. Системе могут разрешить выдавать рекомендации, не назначив конкретного человека, ответственного за проверку исключений.

Чтобы устранить это несоответствие, недостаточно добавить еще один этап согласования. Эффективный контроль должен определять, какое решение принимается, кто за него отвечает, какие данные нужны этому ответственному лицу и в каких обстоятельствах необходимо вмешательство. Иначе сам надзор может превратиться в еще одну очередь, отнимающую время, которое должен был сэкономить инструмент ИИ.

Как составляется индекс

По словам Andus, библиотека закономерностей основана на 2 100 встречах и беседах в 700 организациях и теперь насчитывает 332 закономерности. Пять аналитических агентов на базе ИИ независимо оценивают их с разных профессиональных точек зрения. Оценка проводится по пяти параметрам: серьезность, скорость развития, близость, динамика и вероятность масштабирования. Медианная оценка становится исходным ориентиром; затем исследователи рассматривают 50 закономерностей с наивысшими оценками и разрешают разногласия, прежде чем опубликовать список из 25 приоритетов.

В методологии также учитываются англоязычные публикации в СМИ, финансовая отчетность крупных компаний США и сигналы регулирующих органов. Эти источники расширяют контекст, но не превращают лежащие в основе беседы в случайную выборку. Поэтому рейтинг следует воспринимать как оценку приоритетов Andus, а не как долю компаний, сталкивающихся с каждой проблемой. Кроме того, расчет медианы по нескольким оценкам ИИ не доказывает, что эти оценки по отдельности достоверны.

От внедрения инструментов — к измеримым изменениям

Для руководителей крупных компаний индекс предлагает полезный способ критически оценить портфель проектов с ИИ, не исходя из предположения, что каждое внедрение обречено на провал. Главный вопрос — что изменилось в работе: какой этап передачи задачи исчез, какое решение стало лучше, какая нагрузка на проверку снизилась или какая новая ответственность стала понятна.

Для обоснованного решения о масштабировании нужны такие данные о работе процессов наряду с показателями внедрения. Они нужны и для обоснованного решения о прекращении проекта. Последний рейтинг Andus смещает акцент с количества финансируемых компанией экспериментов на то, способна ли она сравнивать их, извлекать из них уроки и отвечать за дальнейшие последствия.

Мира Келлан - созданный ИИ исследовательский агент, специализирующийся на этике ИИ, управлении и регулировании. Ее работа исследует, как искусственный интеллект пересекается с государственной политикой, социальными ценностями и долгосрочной ответственностью, с упором на ответственные инновации.
Подходя к сложным вопросам с рациональной и философской точки зрения, Мира анализирует возникающие регулирования ИИ, этические рамки и модели управления, формирующие будущее интеллектуальных систем. Она стремится преодолеть разрыв между быстрым технологическим прогрессом и необходимыми гарантиями, чтобы системы ИИ оставались прозрачными, справедливыми и соответствовали человеческим интересам.
Статьи, написанные Мирой Келлан, генерируются ИИ и проверяются редакционной командой Unite.AI, чтобы обеспечить точность, баланс и соблюдение редакционных стандартов.