Модели и платформы ИИ

Следующая проблема теневого ИТ — теневые агенты

mm
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыAutonomous agents will sprawl through every department faster than any governance…
Показать больше
  • Autonomous agents will sprawl through every department faster than any governance process can track them.
  • Human oversight cannot scale to thousands of agents so oversight must be risk-based rather than blanket.
  • Multi-agent systems let one mistake propagate through a network before anyone notices.

Теневое ИТ раньше означало, что сотрудник подписывается на SaaS‑инструмент без согласования, или отдел использует собственную подписку, пока ИТ не узнаёт об этом самым трудным способом. Мы взяли это под контроль благодаря лучшей видимости, дисциплине в закупках и управлению облаком.

Агенты вновь поставят эту проблему на повестку дня, и они будут двигаться быстрее, чем это когда-либо делали SaaS или облачные технологии, потому что на этот раз неавторизованная система не просто сидит бездействующей. Она действует.

Разрастание автономии

Финансы создают собственных агентов. То же делают HR, продажи, закупки и служба поддержки. Сотрудники запускают персональных агентов. Поставщики тихо встраивают агентов в продукты, за которые мы уже платим.

Умножьте это на большую организацию, и CIO уже не отслеживает двадцать агентов. Это сотни или тысячи программных сущностей, каждая из которых может взаимодействовать с системами и предпринимать действия. IBM предсказала, что крупные предприятия будут использовать более 1 600 AI‑агентов к концу этого года. Gartner предупредил что агенты создают инфраструктуру, идентичности и привилегии доступа быстрее, чем процессы управления могут их отслеживать.

Приоритетом CIO в 2027 году будет проведение реальной инвентаризации. Кто создал каждого агента, что он делает, какие системы он затрагивает, какие у него есть разрешения и кто им владеет. Без этого нет программы управления; лишь предположение, что кто‑то другой следит.

Человек в петле не масштабируется

«Сохранять человека в петле» было разумным решением, когда было несколько агентов. Это перестаёт быть таковым, когда предприятие запускает тысячи агентов, выполняющих огромный объём действий. Людей и часов для этого просто не хватает.

Решение — автономия, основанная на риске, а не всесторонний контроль. Агент, обновляющий внутреннюю запись, не требует такой же проверки, как финансовая транзакция. Что должно определять уровень участия человека: стоимость действия в долларах, чувствительность данных, уровень уверенности агента, регуляторные риски и то, действует ли агент за пределами ожидаемых параметров.

Gartner изложил аналогичную модель, включая контрольные точки от предварительного одобрения до вмешательства в середине задачи, последующего обзора и периодической выборки. Цель не в том, чтобы человек был в петле повсюду. Речь идёт о человеке в нужный момент петли.

Агенты, управляющие другими агентами

Сейчас большинство организаций находятся в фазе, когда один человек управляет одним агентом. Далее идут многоагентные системы: специализированные агенты, которые общаются друг с другом, передают задачи и запускают целые рабочие процессы без участия человека.

Агент закупок отмечает потребность, проверяет бюджет с агентом финансов и инициирует выполнение агентом закупок; ни один человек не вмешивается. McKinsey называет это появляющейся архитектурой «agentic mesh». Deloitte обнаружил, что только 15% организаций масштабировали межфункциональное внедрение многоагентных систем, и лишь 5% считают, что их бизнес‑процессы очень хорошо к этому подготовлены.

Риск меняет форму здесь. Речь уже не о том, «сделал ли один агент ошибку». Речь о том, насколько далеко эта ошибка распространяется по сети агентов и систем, прежде чем кто‑то её заметит. CIO придётся управлять не только отдельными агентами, но и их взаимосвязями и зависимостями.

Экономика агентов отличается от экономики SaaS

Агенты не отвечают на запрос один раз и останавливаются. Они работают постоянно, многократно вызывают модели, обращаются к API, потребляют облачные ресурсы и инициируют других агентов. Это иной профиль затрат, чем добавление места в SaaS, и он менее предсказуем.

Рабочий процесс, который кажется дешёвым в пилотном проекте, может быстро стать дорогим, когда сотни агентов начинают постоянно выполнять его в продакшене. IBM прогнозирует, что расходы на ИИ вырастут с чуть менее 15 % IT‑бюджетов в 2025 году до почти 25 % к 2027 году, и обнаружила, что 85 % технологических лидеров всё ещё не имеют полной видимости расходов на ИИ в реальном времени.

Знайте стоимость агента за задачу, за рабочий процесс, за бизнес‑результат. А не только цену базовой модели.

От управления технологией к управлению автономией

В течение десятилетий моя работа как CTO в основном заключалась в управлении системами, которыми пользуются люди. Это меняется. Теперь я управляю системами, действующими от имени людей, и это совершенно другая роль.

Поэтому, когда я думаю о том, кто окажется в выигрыше в 2027 году, это не CIO с наибольшим числом развернутых агентов. Это тот, кто действительно сможет назвать, какие агенты у него есть, что им разрешено делать, кто за них отвечает, какова их стоимость и окупаемость инвестиций.

Мы провели 2026 год, выясняя, как вывести ИИ в продакшн. 2027 год будет посвящён тому, что делать, когда ИИ уже действует самостоятельно, и как управлять им так, чтобы повышать безопасность и соответствие требованиям, не жертвуя эффективностью.

Jeremy Ung является главным техническим директором BlackLine. Он руководит глобальным технологическим направлением компании, уделяя особое внимание улучшению её решений для офиса финансового директора (CFO) через связанные данные и платформы на основе ИИ, которые ускорят способность компании масштабироваться и постоянно предоставлять клиентскую ценность.