Двигайтесь быстро, но не ломайте вещи: как сбалансировать ответственное внедрение ИИ и инновации

Согласно недавнему глобальному опросу от McKinsey, даже хотя 78% организаций сейчас используют ИИ в至少 одной бизнес-функции, только 13% наняли специалистов по соблюдению требований ИИ, и всего 6% имеют специалистов по этике ИИ в штате.

Это, честно говоря, безрассудное поведение.

Хотя в моем недавнем прошлом я был большим сторонником этики «двигаться быстро и ломать вещи» в долине Силикона, мы не можем позволить себе быть такими беззаботными с ИИ – технологией, которая более мощная, чем все, что мы видели раньше, и растет со скоростью света.

Внедрение ИИ без каких-либо осмысленных ограничений – это именно тот быстрый и безрассудный подход, который гарантированно рано или поздно приведет к проблемам и рискует все сломать. Для этого достаточно одного инцидента предвзятости ИИ или его неправильного использования, чтобы испортить годы построения репутации бренда.

И хотя многие руководители информационных служб и технические директора осведомлены о этих рисках, они, кажется, действуют под предположением, что регулирующие органы в конечном итоге вмешаются и спасут их от создания своих собственных рамок, что приводит к большому количеству разговоров о рисках с очень небольшим фактическим надзором.

Хотя я не сомневаюсь, что регулирование в конечном итоге придет, я менее уверен, что оно будет установлено в ближайшее время. ChatGPT был представлен примерно три года назад, и мы только сейчас начинаем видеть такие вещи, как заседание сената по безопасности чат-ботов, происходят. Реальность такова, что может пройти годы, прежде чем мы увидим какое-либо осмысленное регулирование.

Вместо того, чтобы использовать это как оправдание для прокрастинации во внутреннем управлении, это должно побудить бизнес принять более активный подход. Особенно учитывая, что когда регулирование наконец-то придет, компании без своих собственных рамок будут спешить адаптироваться к требованиям. Это было именно то, что произошло, когда были приняты GDPR и CCPA.

Просто как стартапы начала 2000-х годов теперь придерживаются более высоких стандартов, поскольку они выросли в крупные технологические компании, мы все вместе должны созреть в своем подходе к ответственной реализации ИИ.

Нет «купить сейчас, заплатить позже» с ответственной реализацией ИИ – начинайте сейчас

Первый шаг к более ответственной реализации ИИ – перестать ждать регулирующих органов и установить свои собственные правила. Любое преимущество, которое вы думаете, что получите, избегая мер безопасности сегодня, в конечном итоге обернется против вас в будущем, когда вы столкнетесь с очень дорогим и разрушительным процессом адаптации к требованиям.

Конечно, для многих проблема заключается в том, что они не знают, с чего начать. Наша компания недавно провела опрос среди 500 руководителей информационных служб и технических директоров в крупных предприятиях, и почти половина (48%) назвала «определение того, что составляет ответственное использование или внедрение ИИ» проблемой для обеспечения этического использования ИИ.

Одно простое место, с которого можно начать, – расширить фокус за пределы возможностей, обеспечиваемых ИИ, и рассмотреть возможные риски. Например, хотя использование ИИ может сэкономить время сотрудников, оно также открывает возможность огромного количества персональных данных или коммерческих секретов, которые могут быть переданы незаконным и неутвержденным моделям машинного обучения.

Любая цифровая компания сегодня знакома с жизненным циклом разработки программного обеспечения (SDLC), который обеспечивает основу для создания качественных продуктов. Лучшие практики управления ИИ должны быть встроены в эту повседневную рабочую нагрузку, чтобы обеспечить, что ответственное принятие решений становится частью рутины, а не после мысли.

Управляющий орган, такой как комитет по этике или совет по управлению, должен быть создан для определения стандартов того, как ИИ будет использоваться внутри организации, и определения метрик для мониторинга и поддержания этого стандарта. Функционально это выглядит как инструменты ИИ и управление моделями, одобрение решений, управление рисками, соответствие требованиям и стандартам, а также прозрачная коммуникация. Хотя технически это может быть «новым» процессом, он не очень отличается от лучших практик работы с данными и поддержания кибербезопасности и может быть автоматизирован для обеспечения раннего обнаружения любых проблем.

Конечно, не все риски требуют одинакового уровня внимания, поэтому также важно разработать процесс управления рисками, чтобы ваша команда могла сосредоточиться на том, что было определено как высокий приоритет.

Наконец, и что наиболее важно, четкая и прозрачная коммуникация о практиках управления как внутри, так и вне компании имеет первостепенное значение. Это включает в себя поддержание актуальных документов по стандартам управления и предоставление постоянной подготовки для поддержания команд в курсе.

Перестать рассматривать управление как угрозу инновациям

Возможно, что реальная угроза ответственному ИИ заключается в убеждении, что управление и инновации противоречат друг другу. Наши данные опроса показали, что 87% руководителей информационных служб и технических директоров считают, что слишком много регулирования ограничит инновации.

Но управление должно рассматриваться как стратегический партнер, а не как своего рода тормоз инноваций.

Одна из причин, по которой управление рассматривается как сила трения, которая замедляет импульс, заключается в том, что оно часто оставляется для конца разработки продукта, но ограничения должны быть частью процесса. Как упоминалось выше, управление может быть построено в циклы спринта, чтобы команда продукта могла двигаться быстро, а автоматические проверки на справедливость, предвзятость и соответствие требованиям могли работать параллельно. В долгосрочной перспективе это окупается, поскольку клиенты, сотрудники и регулирующие органы чувствуют себя более уверенно, когда видят, что ответственность построена в изначально.

И это было доказано, что это приносит финансовые выгоды. Исследования показали, что организации с хорошо реализованными рамками управления данными и ИИ испытывают улучшение финансовых результатов на 21-49%. Неудача в установлении этих рамок, однако, также имеет свои собственные последствия. Согласно тому же исследованию, к 2027 году большинство организаций (60%) «не смогут реализовать ожидаемую ценность своих случаев использования ИИ из-за неслаженных рамок этического управления».

Одна оговорка к аргументу о том, что управление не обязательно должно происходить за счет инноваций, заключается в том, что участие юридических команд в этих разговорах действительно замедляет все. Однако, по моему опыту, установление команды по управлению, риску и соответствию (GRC) идет далеко в поддержании всего в порядке и быстро, служа мостом между юридической и продуктовой командами.

Когда управление осуществляется хорошо, команда GRC строит положительные отношения с юридической командой, служа их глазами и ушами и предоставляя им необходимые отчеты, а также сотрудничая с командой разработки для смягчения будущих рисков судебных исков и штрафов. В конечном итоге это еще больше подкрепляет, что инвестиции в управление на ранней стадии – это лучший способ обеспечить, что оно не помешает инновациям.

Создание систем надзора и управления, которые могут масштабироваться

Несмотря на то, что многие из опрошенных руководителей информационных служб и технических директоров считают, что регулирование может ограничить инновации, аналогичный процент (84%) ожидает, что их компания увеличит надзор за ИИ в течение следующих 12 месяцев. Учитывая вероятность того, что интеграции ИИ продолжат расширяться и масштабироваться со временем, также важно, чтобы системы управления могли масштабироваться вместе с ними.

Что-то, что я часто вижу на ранних стадиях реализации ИИ в предприятиях, – это то, что разные подразделения внутри бизнеса работают в изоляции, так что они запускают разные развертывания параллельно и с разными видениями того, что такое «ответственный ИИ». Чтобы избежать этих несоответствий, компании будут мудрыми, если создадут центр совершенства ИИ, который объединяет техническую, юридическую и бизнес-экспертизу.

Центр совершенства ИИ установит как компании-широкие стандарты, так и иерархические процессы утверждения, где есть скользящий путь для случаев с низким риском. Это, в свою очередь, поддерживает скорость, а также гарантирует, что развертывания с высоким риском проходят через более формальные проверки безопасности. Аналогично, центр совершенства также должен установить показатели безопасности ИИ для топ-менеджеров, чтобы ответственность не терялась в повседневных деловых функциях.

Но чтобы сделать это реальностью, руководителям необходимо улучшить видимость в отслеживании показателей управления. Панели, которые предоставляют данные в реальном времени об этих показателях, будут намного более эффективными, чем текущий стандарт статических отчетов о соответствию, которые сразу же устаревают и часто остаются без внимания. Идеально, компании также должны создать реестры рисков ИИ, аналогичные тем, которые они уже отслеживают для кибербезопасности, а также поддерживать аудиторские следы, которые отражают, кто построил реализацию ИИ/МЛ, как она была протестирована и как она работает со временем.

Самое главное, что следует помнить, заключается в том, что ответственный ИИ требует, чтобы управление было непрерывным процессом. Это не только одобрения при запуске, но и постоянный мониторинг на протяжении всего жизненного цикла модели. Как таковое, обучение имеет ключевое значение. Разработчики, технологи и бизнес-лидеры должны быть обучены ответственным практикам ИИ, чтобы они могли выявить проблемы на ранней стадии и поддерживать высокие стандарты управления, пока системы развиваются. Таким образом, развертывания ИИ обязательно станут более надежными, эффективными и прибыльными – без необходимости ломать что-либо в процессе.