Практическое руководство по внедрению ответственного ИИ

Развертывания искусственного интеллекта (ИИ) переходят от ранних пилотных фаз к полноценным решениям, стимулируя производство и трансформацию на уровне всего предприятия. В этой связи руководители сталкиваются с сложной задачей: переводом ИИ из стадии доказательства концепции в ядро повседневных операций. Этот переход требует от них ответов на новые вопросы, начиная от того, как разработать, развернуть и использовать ИИ ответственно, и заканчивая построением надежной основы для масштабирования.

Ответственный ИИ – это обеспечение того, чтобы ИИ был полезен, не причиняя вреда людям, организациям и обществу. Хотя может показаться, что это может замедлить цикл разработки, на практике это может укрепить инновации. Внедрение ответственного ИИ может помочь уменьшить количество дорогостоящих неудач, позволить быстрее принять и доверять, обеспечить системы, готовые к регулированию, и улучшить устойчивость.

Однако понимание того, как организации могут разработать, развернуть и принять ответственный ИИ, является ключом к обеспечению его основной практики и полной интеграции. Здесь мы предоставляем практическое руководство о том, как компании могут сделать это, обеспечивая человеческий надзор с ранних стадий проектирования до развертывания, мониторинга, оценки рисков и окончательного вывода из эксплуатации.

Те, кто рассматривает ответственный ИИ как после мысли, рискуют столкнуться с регулирующими последствиями, репутационным ущербом и эрозией доверия клиентов. Напротив, те, кто внедряет его с самого начала, лучше подготовлены к масштабированию ИИ устойчиво, сохраняя при этом доверие и готовность к регулированию.

Определение пяти принципов интеграции ответственного ИИ

В основе любой стратегии ответственного ИИ лежит набор основных принципов, которые должны руководить разработкой, развертыванием, оценкой и управлением. Влияние этих принципов будет формировать практические механизмы управления, управления рисками и соблюдения правил, которые защищают людей и сохраняют ценность бренда.

Для крупных организаций необходимо работать в команде и с внешними партнерами, чтобы обеспечить его интеграцию. Таким образом, есть пять ключевых принципов, которые бизнес может принять, чтобы направить свои инициативы ИИ к доверию, соблюдению и этическим результатам.

Первым является подотчетность. Кто-то должен нести ответственность за результат каждого важного системы ИИ, и должна быть человек или команда, ответственные с начала до конца. Начните с простого инвентаря, автоматизируйте для масштабирования и начните перечислять системы ИИ, их цели, источники данных и владельцев. Также важно иметь план на случай непредвиденных обстоятельств. Необходимо знать, как приостановить и как расследовать и смягчить проблемы.

Вторым является оценка справедливости ИИ и его потенциального воздействия на людей. Не полагайтесь исключительно на технические метрики и будьте осведомлены, что результаты ИИ могут различаться в разных группах и непреднамеренно поставить кого-то в невыгодное положение. Это критически важно для высокорискованных случаев использования в таких областях, как набор персонала, кредитование или здравоохранение. Используйте тесты данных, когда это возможно, и включайте человеческий обзор и причины вывода.

Третьим является безопасность. Угрозы системам ИИ продолжают эволюционировать, теперь включая атаки на основе подсказок или агентов. Необходимо устранить эти риски и работать с командами безопасности, чтобы смоделировать эти потенциальные атаки. Включите безопасность в проектирование, ограничьте доступ ИИ к другим системам и данным и проводите постоянное тестирование даже после запуска.

Четвертым фактором является конфиденциальность. Эта проблема выходит за рамки начальных данных обучения, и конфиденциальность должна быть защищена на каждом этапе. Рассмотрите конфиденциальность в подсказках пользователей, журналах разговоров и выводах ИИ, поскольку все они могут содержать конфиденциальную информацию. Разработайте системы для сбора только необходимых данных, установите строгие правила доступа и хранения, и проводите обзоры конфиденциальности для приложений с более высоким риском.

Наконец, прозрачность и предоставление контроля, адаптируемого к заинтересованным сторонам, является важным. То, что необходимо знать клиентам, отличается от того, что необходимо знать разработчикам ИИ. Альтернативно, пользователи должны знать, когда они взаимодействуют с ИИ и понимать его ограничения. Внутренние команды нуждаются в ясной документации о том, как был построен ИИ и как он работает. Прозрачность систем ИИ способствует совместному надзору и доверию к возможностям системы.

Понимание различий: Ответственный ИИ против управления ИИ

Хотя ответственный ИИ и управление ИИ часто используются как взаимозаменяемые термины, между ними есть ключевые различия. Ответственный ИИ представляет собой комплекс практик и принципов для принятия заслуживающих доверия решений на протяжении всего цикла разработки, развертывания и использования ИИ. Он фокусируется на включении возможностей, таких как пять принципов, упомянутых выше, для минимизации рисков и максимизации преимуществ ИИ.

Управление ИИ, с другой стороны, представляет собой набор политик, процедур и практик, направленных на обеспечение положительных результатов и снижение вероятности вреда. Он фокусируется на создании организационных и технических контролей для обеспечения ответственного и этичного ИИ, часто с акцентом на подотчетности и соблюдении законов и политик организации.

Организации лучше подготовлены к масштабированию ИИ ответственно, сохраняя при этом доверие и готовность к регулированию, когда они понимают, что эти два аспекта различны, но связаны. Кроме того, хотя некоторые действия по ответственности и управлению требуются законом, другие нет. Например, законы, которые налагают ограничения на должности, которые могут занимать женщины в определенных странах. Следовательно, оба аспекта необходимы для комплексного и сбалансированного подхода к ответственного ИИ.

Важность гибкого управления

По мере распространения ИИ регулирующие органы вводят рамки управления, выходящие за рамки добровольных руководств. Регуляции, такие как Закон Европейского Союза об искусственном интеллекте, ставят риск-ориентированное регулирование в центр управления ИИ. Вместо того, чтобы регулировать технологию единообразно, Закон классифицирует системы ИИ на несколько уровней риска, которые признают потенциальный вред на основе различных случаев использования. Например, система ИИ для отбора на работу против системы рекомендаций для покупок. Это подразумевает, что управление, документация и меры безопасности должны соответствовать контексту и применению ИИ.

Другие юрисдикции также определили рамки для управления ИИ. Согласно отчету IAPP, Сингапур продвигает гибкий подход с помощью инструментов, таких как его рамка управления ИИ, подчеркивая тестирование и прозрачность над строгими обязательствами. Закон Южной Кореи об ИИ также сочетает надзор с пространством для инноваций. И внутри отраслей это различается. Финансовые услуги давно сталкиваются с жесткими стандартами безопасности и справедливости, в то время как ИИ в здравоохранении имеет нормативные акты о медицинских устройствах, которые необходимо соблюдать. Продукты потребительской техники также подлежат законам о защите потребителей и конфиденциальности, с каждой областью, требующей регулирования, адаптированного к ее профилю риска и социальным ожиданиям.

Следовательно, подход “один размер для всех” к управлению ИИ не работает, поскольку отрасли и домены стран различаются по типам вреда, затронутым заинтересованным сторонам и правовым рамкам, в которых они действуют. Таким образом, необходимо обеспечить гибкость.

Как управлять автономным ИИ

По мере того, как ИИ вступает в новую эру, переходя от узких прогностических двигателей к агентному ИИ, системам, способным планировать, адаптироваться и совершать автономные действия, это связано с новыми рисками.

Например, рассмотрим агентный ИИ, который автономно выполняет финансовую транзакцию или решение по персоналу. Если он неправильно классифицирует транзакцию или делает рекомендацию по набору персонала, которая внедряет предвзятость, бизнес-последствия будут серьезными, от финансовых потерь до репутационного ущерба, регулирующих штрафов и юридической ответственности.

Исследования, представленные в Экономических и системных соображениях агентных веб-систем, также объясняют новые проблемы, связанные с возникающей концепцией агентного веба, которая действует на многоагентных, трансграничных, высокоскоростных рынках. Он очерчивает некоторые предварительные, направленные рычаги управления, включая агентов-надзирателей и машинно-читаемую политику, с акцентом на инклюзивном принятии под неравномерными ограничениями ресурсов.

Учитывая это, системы управления должны устанавливать пределы и контролировать, сколько система ИИ может автономно обрабатывать без одобрения человека. Они должны установить четкие ограничения, ограничить доступ к инструментам и функциям авторизации, а также разрешить конкретные точки проектирования для обязательного человеческого обзора. Все компоненты рабочего процесса должны быть протестированы, включая соединения и взаимодействия между агентами, где часто происходят ошибки. Каждое действие должно быть записано для отслеживания, и должны быть установлены контроли для деактивации системы, когда это необходимо для управления этим риском.

Будущее ответственного ИИ

ИИ предлагает беспрецедентные возможности для трансформации того, как работают бизнес, инновации, доставка ценности, и ответственный ИИ поддерживает это. Интеграция ответственного ИИ в проектирование, разработку и развертывание не является только тактикой минимизации юридических рисков, но также защищает и усиливает репутацию бренда, зарабатывает доверие клиентов и открывает рыночное преимущество, демонстрируя приверженность этическим инновациям.

Однако, чтобы открыть его преимущества, компании должны внедрить ключевые ответственные практики на протяжении всей системы ИИ, начиная с начала и до конца его жизненного цикла. Это включает в себя интеграцию этических и управленческих соображений в стратегию данных, конфиденциальность и сбор, проектирование систем, разработку, прозрачность и справедливость, развертывание и мониторинг, а также пост-развертывание и вывод из эксплуатации.

Для всех, кто участвует в разработке и развертывании ИИ, мандат ясен: строить ответственно, управлять проактивно, предвидеть риски сегодня, завтра и далее, чтобы обеспечить успешную эволюцию ИИ в меняющемся мире.