Почему компании должны следовать ценностно-ориентированному подходу к управлению ИИ

В сентябре 2025 года впервые все государства-члены Организации Объединенных Наций собрались, чтобы обсудить международное управление ИИ; многие из них были представлены снова в феврале на саммите по воздействию ИИ в Дели. Мероприятие привело к созданию двух новых органов, посвященных управлению ИИ; но это было, в лучшем случае, символическим успехом.

Новые механизмы ООН были разработаны для обеспечения консенсуса: они избегают спорных вопросов, таких как военные применения ИИ, и не имеют четких источников финансирования и полномочий по обеспечению соблюдения. Это не должно удивлять опытных наблюдателей. Сегодня ООН не имеет возможности быстро действовать или обеспечивать универсальное соблюдение своих решений, что делает ее трудной площадкой для реальных изменений.

Это соответствует хорошо установленной модели. Несмотря на годы разрозненных попыток создания консенсуса по регулированию ИИ, не было достигнуто значительных международных соглашений, что создало пустоту, в которой отдельные страны и блоки были вынуждены разработать свои собственные правила. Однако эффективное управление ИИ имеет решающее значение, если мы хотим увидеть его широкое внедрение, доверие общества и использование способами, которые приносят устойчивую социальную и экономическую выгоду.

Делать и исправлять

Для глобальных компаний, создающих и эксплуатирующих системы ИИ, отсутствие общих механизмов управления является проблематичным. Они хотят развертывать системы ИИ по всему миру, но ни одна из юрисдикций не соблюдает один и тот же набор правил. Поэтому они вынуждены создавать общую структуру управления для своей системы, а затем перестраивать ее с нуля в каждой стране, в которой они работают, чтобы убедиться, что она соответствует местным законам и правилам. Этот подход создает огромное количество дополнительной работы, делает инициативы ИИ более дорогими и склонными к задержкам, и ослабляет способность глобальных фирм реализовывать экономию масштаба и делиться эффективными инструментами с пользователями во всем мире.

Однако существует альтернатива. Для компаний, стремящихся упростить свой подход, лучшим вариантом может быть создание структуры управления ИИ, которая учитывает общие этические принципы в разных регионах, гарантируя, что они соответствуют высоким стандартам повсюду в плане защиты свободы, конфиденциальности и безопасности людей. Этот метод представляет собой мощный способ для бизнеса ИИ увеличить доверие общества к своей технологии, укрепить свою клиентскую базу и использовать потенциальные выгоды ИИ для общества.

Шесть ключевых ценностей для управления ИИ

Для любой организации, заинтересованной в принятии ценностно-ориентированного подхода к управлению ИИ, я бы предложил использовать шесть ключевых ценностей, которые мы соблюдаем: подотчетность, объяснимость, прозрачность, справедливость, безопасность и оспоримость.

Мы выбрали эти ценности, потому что они покрывают все основные области жизненного цикла системы ИИ и потому, что они уже были закодифицированы в различных международных и национальных стандартах, связанных с ИИ, таких как ISO/IEC 42001 и ИИ-плейбук для правительства Великобритании.

Для начала с верха, подотчетность означает знание того, кто отвечает за что на каждом этапе жизненного цикла ИИ. Без ясного владения важные контроли могут быть опущены, потому что никто не несет окончательную ответственность. Организации должны назначать старших, именованных владельцев – таких как их главный офицер ИИ – системам ИИ и ключевым этапам и использовать модель управления на основе риска, применяя одинаковую проверку к инструментам третьих сторон, как и к тем, которые разработаны внутри компании. Это означает понимание условий поставщиков, ограничений и обязательств так же хорошо, как и свои собственные системы.

Организация экономического сотрудничества и развития (ОЭСР) хорошо отражает это в своем руководстве по продвижению подотчетности в ИИ, которое рекомендует организациям создавать “механизмы для интеграции процесса управления рисками ИИ в более широкое управление организацией, способствующее культуре управления рисками как внутри организаций, так и на протяжении всей цепочки создания стоимости ИИ”.

Далее идет объяснимость. Организации должны быть в состоянии показать, как система ИИ принимает решение. Для этого требуются механизмы для документирования и отслеживания процесса принятия решений, а также ясные записи конструкции системы, обучающих данных и процессов принятия решений. В совокупности это позволяет командам понять происхождение информации от создания системы до ее развертывания.

Справедливость фокусируется на обеспечении того, чтобы системы ИИ производили справедливые результаты и не воспроизводили или усиливали существующие предубеждения. Без намеренных проверок системы могут нанести вред, доставляя искаженные результаты – это особая проблема в таких областях, как набор персонала, здравоохранение и уголовное правосудие. Чтобы смягчить это, организации должны реализовать меры по обнаружению предубеждений, регулярно проверять выводы по соответствующим группам и разрабатывать структуры управления, которые могут удовлетворять местным требованиям о недискриминации. На практике это означает создание систем, соответствующих最高ому юридическому стандарту, с которым они могут столкнуться, включая обязательства по законам, таким как Закон о равенстве 2010 года в Великобритании и Хартия фундаментальных прав ЕС.

Прозрачность заключается в том, чтобы дать ясность как пользователям, так и регулирующим органам. Люди должны понимать, когда используется ИИ, какую роль он играет в принятии решений и какие данные лежат в его основе. Практическая отправная точка – стандартизировать документацию по системам ИИ, поддерживаемую внутренними инструментами, такими как карточки моделей: короткие документы, предоставляемые с моделями машинного обучения, которые объясняют контекст, в котором модели предназначены для использования, подробности процедур оценки производительности и другую соответствующую информацию. Без прозрачности пользователи не могут оспорить несправедливые результаты, регулирующие органы не могут эффективно вмешаться, и вредное воздействие может быть скрыто.

Безопасность включает в себя защиту систем ИИ от несанкционированного доступа, манипуляций или непреднамеренного поведения. Если безопасность слаба, ИИ может поставить организации, пользователей и их данные под риск, подвергая их финансовому и репутационному вреду. Организации должны определять пороги производительности и точности, тестировать системы в реалистичных условиях и включать тестирование красной команды для выявления уязвимостей.

Наконец, оспоримость гарантирует, что люди имеют ясный и доступный способ оспорить или обжаловать решения, основанные на ИИ. Без этого пострадавшие пользователи не имеют возможности обжалования, и проблемы могут никогда не быть выявлены или решены. Организации должны предоставлять каналы сообщения на месте использования, назначать старших владельцев для управления жалобами и обеспечивать, чтобы системы могли быть приостановлены, проверены или обновлены при необходимости.

Каковы выгоды от ценностно-ориентированной структуры?

Существует две мощные причины для принятия этого ценностно-ориентированного подхода к управлению ИИ. Во-первых, потому что те, кто создает и развертывает системы ИИ, несут этическую ответственность перед людьми и организациями, на которые они влияют; и, во-вторых, потому что это более эффективный способ реализации обещанных преимуществ ИИ на практике.

Пользователи систем ИИ, как корпоративные, так и индивидуальные, неявно доверяют их создателям не злоупотреблять личными данными или подвергать их ненужному риску. Когда организации нарушают это доверие, им становится очень трудно сохранить этих пользователей. В конечном итоге, если люди не доверяют системам ИИ или не видят ясных преимуществ, которые они приносят, они не будут согласны с их введением. Это приведет к большему социальному и экономическому разделению, и мы упустим многие возможности, представленные этой технологией.

С другой стороны, компании, которые применяют ценностно-ориентированную структуру повсюду – включая регионы с более расслабленными требованиями к управлению – могут продемонстрировать клиентам, инвесторам и регулирующим органам, что они придерживаются более высокого стандарта, чем базовый уровень соблюдения. Это строит доверие, вовлеченность и, в конечном итоге, бизнес-успех.

Сильное управление ИИ является создателем ценности, а не бременем для соблюдения. Оно позволяет бизнесу быстрее выводить новые продукты на рынок, снижать риск и масштабировать свои решения на нескольких рынках с уверенностью.

Отчет McKinsey “Состояние ИИ” показал, что “надзор CEO за управлением ИИ … является одним из элементов, наиболее тесно связанных с более высоким самораскрытием влияния ИИ на дно линии организации”, подчеркивая коммерческие выгоды такого подхода. В этом отношении построение сильных этических основ в системы ИИ представляет собой просвещенный самоинтерес.

За всем этим, однако, это просто правильное дело. Мы построили нашу глобальную этическую политику ИИ вокруг того же принципа: что передовые технологии должны служить людям и обществу, а не наоборот. Это отражает более широкую концепцию Общества 5.0: человеко-ориентированную модель инноваций, которая стремится объединить экономический прогресс с решением социальных проблем.

Если такие технологии, как ИИ, должны способствовать более счастливому и гармоничному обществу, они должны быть построены на сильных этических основах. Это начинается с фокуса не только на стандартах, которые организации должны соблюдать, но и на стандартах, которые они хотели бы достичь.