Освещая тень ИИ

По всем отраслям работники все чаще используют инструменты искусственного интеллекта (ИИ), чтобы преобразовать повседневные операции. Будь то маркетологи, использующие ChatGPT для создания кампаний, или программисты, пишущие код с помощью генеративных инструментов, ИИ тихо интегрируется во几乎 каждый аспект бизнеса. Фактически, проект MIT NANDA показал, что более 90% организаций используют личные аккаунты чат-ботов для поддержки своей повседневной работы, часто без надзора ИТ, однако только 40% компаний имеют официальные подписки на инструменты крупномасштабных языковых моделей (LLM). Этот разрыв между санкционированным и секретным использованием ИИ открыл новую слепую зону безопасности: тень ИИ. 

Без надзора конфиденциальные данные могут быть共享 с внешними моделями, выходные данные могут быть неточными или предвзятыми, и команды по соблюдению нормативных требований теряют видимость того, где и как обрабатывается информация. Поскольку сотрудники продолжают экспериментировать с инструментами вне утвержденных каналов, организации должны переосмыслить свою стратегию управления ИИ, или эти риски продолжат всплывать на поверхность. Для руководителей ИТ запрет ИИ-инструментов вообще не является решением, поскольку это может повлиять на конкурентоспособность. Вместо этого внимание должно быть сосредоточено на адаптируемых ограничениях, которые балансируют инновации с ответственным управлением рисками.

Чтобы оставаться на шаг впереди ИИ-рисков, организации должны установить политику ИИ, которая способствует ответственной адопции. Эти рекомендации должны поощрять сотрудников использовать ИИ в разумных пределах, и любая политика, установленная должна быть согласована с ценностями и аппетитом к риску компании. Чтобы добиться успешной программы, организации должны выйти за рамки устаревших моделей управления и инструментов, которые не обнаруживают или отслеживают использование ИИ по всему бизнесу.

Хотя установление политики ИИ является важным шагом, главное – обеспечить, чтобы они были разработаны так, чтобы быть практичными, исполнимыми и согласованными с инновационным видением и потребностями в соблюдении нормативных требований каждого бизнеса, не препятствуя их прогрессу.

Вот четыре шага, которые организации могут предпринять:

1. Определить лучшую основу

Бизнесу не нужно начинать с нуля. Несколько ведущих учреждений уже разработали основы, которые предлагают ценные ориентиры. Ресурсы из Организации экономического сотрудничества и развития (OECD), Национального института стандартов (NIST) и ISO/IEC могут предоставить рекомендации по управлению ИИ безопасно и эффективно. Кроме того, правительственные органы начинают вмешиваться. Новые правила Европейского Союза (ЕС) устанавливают ожидания вокруг прозрачности, подотчетности и управления. Вместе эти ресурсы помогут предоставить прочную основу для бизнеса, чтобы построить и усовершенствовать свои собственные основы для ответственной адопции ИИ.

2. Увеличить видимость ИИ

Когда организации разрабатывают свою стратегию эффективного управления рисками ИИ, важно, чтобы руководители безопасности разработали твердое понимание того, как ИИ фактически используется по всему бизнесу. Они должны инвестировать в инструменты, которые помогают обеспечить видимость деятельности по функциям. Эти инструменты могут контролировать и получать доступ к поведению пользователей и не оставят камня на камне, когда речь идет об идентификации использования генеративного ИИ. Эта информация имеет решающее значение, когда речь идет о поиске использования тени ИИ и помощи лидерам в оценке рисков и их устранении.

3. Создать совет ИИ

Как только видимость будет установлена, руководители безопасности могут использовать ее для информирования новых политик. Поскольку использование ИИ влияет на весь бизнес, они не должны изолировать процесс принятия решений. Руководители ИТ должны рассмотреть возможность создания совета ИИ, который объединяет ключевых заинтересованных сторон из безопасности, юридического отдела, ИТ и руководства. Фактически, Gartner сообщает, что 55% организаций уже создали совет ИИ, в то время как 54% назначили руководителя ИИ или посвященного лидера ИИ для надзора за стратегией и реализацией.

Эти межфункциональные группы могут оценить как риски, так и возможности, представленные инструментами ИИ, будь то санкционированные или нет, которые начинают проникать в их бизнес-среду. Затем они могут разработать новые политики вместе, которые решают потребности их бизнеса и балансируют риск.

Например, если совет выявляет популярный инструмент ИИ, используемый без одобрения, который представляет собой проблемы безопасности, он может рекомендовать запретить это приложение, одобрив более безопасную альтернативу. Эти политики должны быть подкреплены инвестициями в средства безопасности и утвержденные платформы ИИ, которые соответствуют стандартам соблюдения нормативных требований. Когда появляются новые достижения, совет также может ввести正式ный процесс для сотрудников, чтобы предложить инструменты для проверки, помогая организации оставаться адаптивной и соответствующей своей стратегии ИИ.

4. Укрепить образование ИИ

Обучение и взаимодействие с сотрудниками по поводу ИИ будут еще одной важной частью обеспечения организации-wide принятия и смягчения использования тени ИИ. Даже с правильными моделями управления успех зависит от того, насколько хорошо сотрудники понимают и принимают их.

В одном опросе Pew Research среди работников, которые получили обучение на рабочем месте (51%), только четверть (24%) сказали, что оно было связано с использованием ИИ. Организации должны обеспечить, чтобы у них были программы обучения ИИ, поскольку они могут помочь сотрудникам понять возможности и функциональность, доступные им. Повышение квалификации также может помочь им расти в своей карьере и чувствовать себя более удовлетворенными на своей позиции.

Программы обучения ИИ должны иметь фокус за пределами базового использования и соблюдения нормативных требований, чтобы помочь командам понять более широкий контекст ИИ и то, как он работает в экосистеме их бизнеса. Темы для рассмотрения включают, почему ответственное использование ИИ важно, какие политики существуют для защиты как бизнеса, так и его клиентов, и как выявить потенциальные риски обработки данных или конфиденциальности. Когда сотрудники оснащены правильными знаниями, они уполномочены стать активными партнерами в инновациях безопасно.

Формирование будущего ответственного ИИ 

Тень ИИ не исчезнет в ближайшее время. Когда генеративные технологии становятся все более интегрированными в повседневные рабочие процессы, проблемы для организаций будут только усиливаться. Лидеры теперь сталкиваются с выбором – рассматривать тень ИИ как неуправляемую угрозу или признать ее возможностью для максимизации эффективности и производительности, когда она правильно управляется.

Разработка политики ИИ или совета не является одноразовым актом. Как и ИИ быстро эволюционирует, так и стратегия организации должна эволюционировать. ИИ может помочь руководить более умными решениями, ускорять инновации и повышать производительность по всем функциям. Но чтобы сохранить эти выгоды, сотрудники должны понимать, какие инструменты доступны им и как использовать их ответственно. Те, кто преуспеет, останутся гибкими, проактивно совершенствуя свои политики, чтобы оставаться впереди изменений, а не гнаться за ним.