Лидеры мнений
Почему компаниям стоит управлять ИИ на основе ценностей

Ключевые моментыСистема управления ИИ, основанная на ценностях, позволяет компаниям работать по всему…
Показать больше
- Система управления ИИ, основанная на ценностях, позволяет компаниям работать по всему миру без необходимости перестраивать системы для каждой юрисдикции.
- Принятие шести ключевых ценностей, таких как подотчётность и справедливость, укрепляет общественное доверие и соответствует высшим этическим стандартам.
- Эффективное управление ИИ создаёт бизнес-ценность, обеспечивая более быстрый выход на рынки и снижая риски в различных регионах.
В сентябре 2025 года все государства — члены Организации Объединённых Наций впервые собрались для обсуждения международного управления искусственным интеллектом. Многие из них вновь были представлены в феврале на AI Impact Summit в Дели. Мероприятие привело к созданию двух новых органов, занимающихся управлением ИИ, но в лучшем случае стало символическим успехом.
Новые механизмы ООН разрабатывались ради достижения консенсуса. Поэтому они обходят спорные области, например военное применение ИИ, и не располагают чёткими источниками финансирования и полномочиями для принудительного исполнения решений. Опытных наблюдателей это не должно удивлять. Сегодня ООН не может действовать быстро или обеспечивать всеобщее соблюдение своих решений, поэтому на этой площадке трудно добиться реальных перемен.
Это соответствует давно сложившейся закономерности. Несмотря на годы разрозненных попыток достичь консенсуса по регулированию ИИ, значимых международных соглашений так и не заключили. Возник вакуум, в котором отдельным странам и блокам пришлось разрабатывать собственные правила. Между тем эффективное управление ИИ крайне важно, если мы хотим его широкого внедрения, общественного доверия и долгосрочных социальных и экономических выгод
Временные решения и постоянные заплатки
Для глобальных компаний, разрабатывающих и эксплуатирующих системы ИИ, отсутствие общих, согласованных механизмов управления создаёт проблему. Они хотят внедрять системы по всему миру, но нет двух юрисдикций с совершенно одинаковыми правилами. Поэтому им приходится сначала создавать общую структуру управления своей системой, а затем перестраивать её с нуля в каждой стране работы, чтобы соответствовать местным законам и нормативным требованиям. Это порождает огромный объём дополнительной работы, увеличивает стоимость инициатив в области ИИ и риск задержек, а также ослабляет способность глобальных компаний получать экономию от масштаба и предоставлять эффективные инструменты пользователям повсюду.
Однако есть альтернатива. Для компаний, желающих упростить свой подход, лучшим вариантом может стать структура управления ИИ, учитывающая общие этические принципы разных регионов и обеспечивающая повсюду высокие стандарты защиты свободы, частной жизни и безопасности людей. Это действенный способ укрепить доверие общества к технологии, расширить клиентскую базу и реализовать потенциальную пользу ИИ для общества.
Шесть ключевых ценностей управления ИИ
Любой организации, заинтересованной в управлении ИИ на основе ценностей, я предложил бы шесть ключевых ценностей, которых придерживаемся мы: подотчётность, объяснимость, прозрачность, справедливость, безопасность и возможность оспаривания решений.
Мы выбрали их, потому что они охватывают все основные области жизненного цикла системы ИИ и уже закреплены в различных международных и национальных стандартах, в том числе в стандарте Международной организации по стандартизации ISO/IEC 42001 и в руководстве по искусственному интеллекту для правительства Великобритании.
Начнём с подотчётности: она означает понимание того, кто за что отвечает на каждом этапе жизненного цикла ИИ. Без чёткого распределения ответственности важные меры контроля могут быть упущены, поскольку ни один человек или команда не несёт окончательной ответственности. Организациям следует поимённо назначать руководителей высшего звена, например директора по ИИ, ответственными за системы и ключевые этапы. Следует использовать модель управления на основе рисков и проверять сторонние инструменты столь же тщательно, как разработанные внутри компании. Это означает понимать условия, ограничения и юридическую ответственность поставщиков так же хорошо, как собственные системы.
Организация экономического сотрудничества и развития, ОЭСР, удачно формулирует это в своих рекомендациях по укреплению подотчётности в области ИИ, предлагая организациям создавать «механизмы встраивания процесса управления рисками ИИ в более широкую систему управления организацией, развивая культуру управления рисками как внутри организаций, так и по всей цепочке создания ценности ИИ».
Далее идёт объяснимость. Организации должны уметь показать, как система ИИ приходит к решению. Для этого необходимы механизмы документирования и отслеживания принятия решений, а также чёткие записи о проектировании системы, обучающих данных и процессах принятия решений. Вместе они позволяют командам понять происхождение и путь информации от создания системы до её развёртывания.
Справедливость предполагает, что системы ИИ дают справедливые результаты и не воспроизводят и не усиливают существующие предубеждения. Без целенаправленных проверок системы могут причинять вред искажёнными результатами, особенно в областях с серьёзными последствиями, таких как подбор персонала, здравоохранение и уголовное правосудие. Чтобы снизить эти риски, организациям следует внедрять меры выявления предубеждений, регулярно оценивать результаты для соответствующих групп и проектировать структуры управления с учётом местных требований о недискриминации. На практике это означает создавать системы, отвечающие самым высоким правовым стандартам, с которыми они, вероятно, столкнутся, включая обязательства по британскому Equality Act 2010 и Хартии Европейского союза об основных правах.
Прозрачность даёт ясность пользователям и регулирующим органам. Люди должны понимать, когда используется ИИ, какую роль он играет в принятии решений и на каких данных основан. Практическая отправная точка — стандартизация документации систем ИИ с поддержкой внутренних инструментов, например карточек моделей. Это краткие документы, сопровождающие модели машинного обучения и описывающие предполагаемый контекст использования, подробности процедур оценки производительности и другую важную информацию. Без прозрачности пользователи не могут оспаривать несправедливые результаты, регулирующие органы не могут эффективно вмешиваться, а вредные последствия могут скрываться.
Безопасность означает защиту систем ИИ от несанкционированного доступа, манипуляций и непреднамеренного поведения. Слабая защита может подвергнуть организации, пользователей и их данные риску финансового и репутационного ущерба. Организациям следует определять пороговые значения производительности и точности, проводить стресс-тестирование в реалистичных условиях и включать тесты методом красной команды для выявления уязвимостей.
Наконец, возможность оспаривания обеспечивает людям понятный и доступный путь для возражений против решений на основе ИИ или их обжалования. Без неё у затронутых пользователей нет средств защиты, а проблемы могут так и не быть выявлены или решены. Организациям следует предоставлять каналы сообщений о проблемах в месте использования, назначать руководителей высшего звена для работы с жалобами и обеспечивать возможность временно приостановить, пересмотреть или обновить системы при необходимости.
Каковы преимущества структуры управления на основе ценностей?
Для такого подхода к управлению ИИ есть две веские причины. Во-первых, те, кто разрабатывает и внедряет системы ИИ, несут этическую ответственность перед людьми и организациями, на которых эти системы влияют. Во-вторых, это более эффективный способ реализовать обещанные преимущества ИИ на практике.
Пользователи систем ИИ, компании и отдельные люди, по умолчанию доверяют тому, что создатели не станут злоупотреблять персональными данными и подвергать их ненужному риску. Когда организации предают это доверие, удержать пользователей очень трудно. В конечном счёте люди не примут внедрение систем, если не выполняются оба условия: они доверяют системам и видят их очевидные преимущества. Иначе социальные и экономические противоречия усилятся, а мы упустим многие возможности этой технологии.
Напротив, компании, повсюду применяющие структуру управления на основе ценностей, в том числе в регионах с менее строгими требованиями, могут показать клиентам, инвесторам и регулирующим органам, что предъявляют к себе более высокие требования, чем базовое соблюдение норм. Это укрепляет доверие, вовлечённость и в конечном счёте успех бизнеса.
Надлежащее управление ИИ создаёт ценность, а не бремя соблюдения требований. Оно позволяет быстрее выводить новые продукты на рынок, снижать подверженность рискам и уверенно масштабировать решения на нескольких рынках.
В отчёте McKinsey «Состояние ИИ» было установлено, что «надзор генерального директора за управлением ИИ… является одним из факторов, наиболее тесно коррелирующих с более значительным влиянием на чистый финансовый результат, о котором сообщает сама организация, благодаря использованию ею генеративного ИИ», что подчёркивает коммерческие преимущества такого подхода. В этом смысле включение прочных этических основ в системы ИИ — проявление просвещённого личного интереса.
Помимо всего прочего, это просто правильный поступок. Мы построили нашу глобальную политику этичного ИИ на том же принципе: передовые технологии должны служить людям и обществу, а не наоборот. Это отражает более широкое видение Общества 5.0 — человекоцентричной модели инноваций, стремящейся объединить экономический прогресс с решением социальных задач.
Если новые технологии, такие как ИИ, должны содействовать более счастливому и гармоничному обществу, им необходимы прочные этические основы. Это начинается с внимания не только к стандартам, которым организации обязаны соответствовать, но и к тем, которых они хотели бы достичь.












