Пробел в знаниях, который создает ИИ, — это новая брешь в безопасности. Как его устранить.

Технологические компании делают привычную ставку: что ИИ способен выполнять работу быстрее и дешевле людей. Хотя во многих случаях это может быть правдой, ИИ также используют как простое оправдание увольнений.

В отчете PwC, опубликованном ранее в этом году, 56% генеральных директоров заявили, что пока не увидели существенной финансовой отдачи от своих инвестиций в ИИ. Только 12% сообщили одновременно о снижении затрат и росте выручки благодаря ИИ. Кроме того, февральское исследование National Bureau of Economic Research показало, что почти 90% компаний заявили, что за последние три года ИИ никак не повлиял на занятость или производительность. Это подчеркивает показательный факт: многие организации пока не получили первоначально обещанных выгод ИИ в виде роста выручки и производительности и, чтобы покрыть потери, продолжают увольнять тысячи сотрудников.

Но есть кое-что, о чем не говорят на конференц-звонках по финансовым результатам: когда вы увольняете менеджера по работе с клиентами, который держит в голове десять лет контекста клиентских отношений, или инженера по обеспечению качества, чьи институциональные знания — единственное, что позволяет выявить дефекты до того, как они попадут к клиентам, вы не убираете лишний жир. Вы сносите несущие стены. Затраты на переделку работы, отток клиентов и последующие проблемы с качеством редко появляются в той же презентации, где праздновали сокращение штата. Их незаметно учитывают в следующих кварталах, списывают на рыночные условия и забывают. Разрыв между обещаниями реструктуризации на основе ИИ и ее реальными результатами существует и растет, а во многих организациях его по-прежнему совершенно не признают.

Реальные издержки этого цикла не сосредоточены в одном месте. Они распределяются между всеми командами, оставшимися после сокращений. Разработчики берут на себя нагрузку ушедших инженеров и одновременно получают инструменты ИИ, все еще слишком незрелые, чтобы компенсировать потерю сотрудников. Продуктовые команды теряют контекст, который связывал их планы с реальностью клиентов. Команды поддержки перегружены, качество ответов падает, а клиенты сразу узнают низкокачественный контент ИИ в ответах на свои обращения. Нагрузка не сосредоточена, а распределена, и именно это распределение отчасти позволяет так легко игнорировать ее в квартальном отчете. Однако внутри этой общей картины ИТ-команды сталкиваются с особой, усугубленной версией проблемы. Они не просто делают больше меньшими средствами. От них требуют управлять быстро построенной инфраструктурой без институциональных знаний, которые придавали ей связность. Одновременно они обеспечивают процедуры ухода бывших коллег и адаптации их преемников, пока компании тихо отменяют сокращения, которые публично праздновали.

По мере того как идет год и организации пытаются реализовать обещания ИИ, пора осознать: отказываясь от человеческих компетенций ради эффективности с помощью ИИ, мы теряем гораздо больше, чем выручку. Хорошая новость в том, что можно получить лучшее из обоих миров. Но для этого нужен более практичный и прагматичный подход к ИИ, сохраняющий людей в центре стратегии.

Что теряется, когда знания уходят за дверь

Критически важные операционные знания находятся у людей и применяются благодаря человеческому суждению, а не системам. Когда эти люди уходят, знания уходят вместе с ними. Какой бы совершенной ни была модель, сегодня ИИ не может заполнить этот пробел.

Даже по мере расширения возможностей ИИ автоматизация без тонкого понимания контекста создает опасные слепые зоны в критически важных областях:

• Суждение и стратегия: Интуиция, институциональные знания и понимание рынка не укладываются аккуратно в наборы данных, даже неструктурированные.
• Контекст и ситуационная осведомленность: Люди распознают нюансы и намерения и умеют ориентироваться в серых зонах, где жесткие правила перестают работать.
• Эмпатия и доверие: Ситуации с серьезными последствиями или высокой эмоциональной нагрузкой, особенно затрагивающие клиентов или сотрудников, требуют подхода, ориентированного на человека.
• Надзор и подотчетность: Кто-то должен отвечать за выявление сбоев и предвзятости или за упреждение дезинформации. Недостаточно просто сказать: «Вы правы, позвольте мне попробовать еще раз», — после предоставления совершенно неверной информации.
• Институциональная память и контекст систем: Понимание того, почему команды построили инфраструктуру определенным образом — или почему не сделали этого, — что пробовали раньше и какие не задокументированные никем пограничные случаи существуют.
• Лидерство и управление: Определение политик и допустимого уровня риска, а также соблюдение этических границ остаются фундаментально человеческой ответственностью.

ИИ может выявлять полезные сведения, рекомендовать действия и ускорять исполнение, но не способен заменить институциональную память, предотвращающую катастрофы, или обеспечить подотчетность, позволяющую обнаружить их до того, как они выйдут из-под контроля.

Что умные организации делают иначе

Организации, успешно использующие ИИ, не исключают людей из уравнения. Они применяют ИИ для оптимизации рутинных, повторяющихся процессов, затрудняющих повседневную работу. Это высвобождает время и другие критически важные ресурсы, чтобы люди могли находить новые творческие способы приносить больше пользы бизнесу. Они используют ИИ как инструмент, с которым можно «бежать вместе», усиливая человеческие возможности.

Рассмотрим ИТ-операции. Эти команды уже перегружены и управляют обширной инфраструктурой при ограниченных средствах. ИИ, или, возможно, точнее, машинное обучение (МО), может принести здесь реальную пользу. ИИ и МО способны автоматизировать рутинные задачи, которые раньше отнимали много времени и заваливали ценных профильных экспертов операционной работой: исследование и тестирование исправлений, классификацию обращений, создание рабочих процессов, обнаружение и картографирование рисков.

Эти задачи составляют основу ИТ-операций, но отнимают огромное количество времени. Особенно это заметно по мере расширения цифровых сред организаций, изменения ландшафта уязвимостей и роста ожиданий сотрудников в отношении удобной цифровой работы на служебных устройствах. Когда команды из-за перегрузки не справляются с основами — управлением этими возможностями и процессами или их мониторингом, — последствия серьезны: простои, неустановленные исправления, утечки данных и нарушения безопасности.

Если же грамотно использовать ИИ для упрощения работы в этих областях, ИТ-специалисты получат время на то, чего ИИ сделать не может: сокращение технического долга, улучшение существующих систем и процессов, переработку архитектуры для повышения устойчивости и сохранение институциональных знаний, поддерживающих работу критически важных систем. Это больше, чем эффективность. Это снижение риска. И это создает более прочный фундамент для долгосрочного роста.

Как правильно внедрять ИИ

Организации, которые начинают с продуманного применения и внедрения ИИ и одновременно создают условия для его безопасного и эффективного использования, уже получают — и будут получать — больше пользы от своих ИИ-стратегий. Оптимизация достигается не сокращением людей. Она достигается инвестициями в них, переработкой рабочих процессов и обучением команд тому, как лучше всего использовать ИИ.

В этом нет ничего нового. Технологии развиваются поколенческими циклами уже сотни лет. Каждый раз мы склонны повторять одни и те же ошибки. Мы перегибаем палку и пытаемся превратить конкретное достижение в панацею от всех проблем. Нет недостатка в шарлатанах, которые пользуются этим отчаянием, обещают слишком многое и исчезают прежде, чем результаты можно измерить. В действительности ИИ и МО могут делать то, что компьютеры делали всегда: выполнять определенные задачи быстрее и точнее человека. Те, кто найдет такие возможности и прагматично применит ИИ для совместной работы, быстро увидят отдачу от инвестиций. На практике это означает:

• Использовать ИИ для устранения малоценных задач, а не ценного человеческого суждения
• Проектировать рабочие процессы с участием человека, чтобы снижать риски решений с серьезными последствиями
• Определять понятные пути эскалации, когда системы ИИ дают сбой или неопределенные результаты
• Явно закреплять ответственность за решения на основе ИИ
• Учить команды критически проверять результаты ИИ, а не принимать их вслепую

Реальная цена неверного подхода

Нынешний цикл в технологической отрасли, когда за массовыми сокращениями следует тихий повторный найм, не является перемещением талантов. Это передача риска. Организации обменивают десятилетия институциональной памяти на несколько месяцев автоматизированной скорости, а ИТ-руководителям приходится отвечать за управление последствиями.

ИИ дает реальные преимущества, но они имеют наибольшую ценность, когда он используется для сохранения и усиления компетенций, а не их замены. В эпоху ИИ продолжат процветать не компании с самыми глубокими сокращениями или наибольшим количеством ИИ-инструментов, а те, которые вдумчиво применяют ИИ для автоматизации монотонной работы и развития человеческой креативности, сотрудничества и профессиональных знаний.

Когда откажет следующая система, случится очередной простой или инцидент кибербезопасности, вы не захотите, чтобы восстановлением систем или общением с клиентами руководили робот или машина. Тогда вы захотите, чтобы человек с глубокими знаниями и историческим контекстом по-прежнему оставался в компании, — и именно он вам будет нужен.

Если мы хотим раскрыть весь потенциал ИИ, необходимо сосредоточиться на его применении к монотонным задачам и перестать использовать его как оправдание плохих результатов бизнеса.