Пересечение разрыва доверия в области ИИ

Принятие ИИ достигло критической точки. Бизнес с энтузиазмом принимает ИИ, движимый его обещанием достичь улучшения операционной эффективности в разы.

Недавний опрос Slack показал, что принятие ИИ продолжает ускоряться, а использование ИИ на рабочем месте最近 увеличилось на 24%, и 96% опрошенных руководителей считают, что «срочно необходимо интегрировать ИИ во все бизнес-операции».

Однако существует расширяющийся разрыв между полезностью ИИ и растущей тревогой о его потенциальных негативных последствиях. Только 7% офисных работников считают, что выходные данные ИИ достаточно надежны, чтобы помочь им в рабочих задачах.

Этот разрыв очевиден в резком контрасте между энтузиазмом руководителей по поводу интеграции ИИ и скептицизмом сотрудников, связанным с такими факторами, как:

• Смещение и справедливость: системы ИИ могут усилить или даже усугубить существующие предубеждения, что приводит к несправедливым результатам.
• Конфиденциальность и безопасность: сотрудники беспокоятся о том, как их личные данные собираются, хранятся и используются системами ИИ.
• Не透рачное принятие решений: системы ИИ часто работают как «черные ящики», принимая решения, которые трудно понять или объяснить людям.
• Тревога по поводу автоматизации: существует широкий страх, что ИИ заменит человеческие рабочие места, что приведет к безработице и экономической нестабильности.

Роль законодательства в построении доверия

Для решения этих многофакторных проблем доверия законодательные меры все чаще рассматриваются как необходимый шаг. Законодательство может сыграть решающую роль в регулировании разработки и развертывания ИИ, тем самым повышая доверие. Ключевые законодательные подходы включают:

• Законы о защите данных и конфиденциальности: реализация строгих законов о защите данных гарантирует, что системы ИИ обрабатывают личные данные ответственно. Регуляции, такие как Общий регламент по защите данных (GDPR) в Европейском Союзе, устанавливают прецедент, требуя прозрачности, минимизации данных и согласия пользователя. В частности, статья 22 GDPR защищает субъектов данных от потенциальных негативных последствий автоматического принятия решений. Недавние решения Суда Европейского Союза подтверждают право человека не подвергаться автоматическому принятию решений. В деле Schufa Holding AG, где жителю Германии было отказано в банковской кредитной заявке на основе автоматизированной системы принятия кредитных решений, суд постановил, что статья 22 требует от организаций реализации мер по защите прав на конфиденциальность, связанных с использованием технологий ИИ.
• Регуляции ИИ: Европейский Союз ратифицировал закон ИИ ЕС (EU AIA), который направлен на регулирование использования систем ИИ на основе их уровня риска. Закон включает обязательные требования для систем ИИ с высоким риском, охватывающие такие области, как качество данных, документация, прозрачность и человеческий надзор. Одним из основных преимуществ регуляций ИИ является содействие прозрачности и объяснимости систем ИИ. Кроме того, EU AIA устанавливает четкие рамки ответственности, гарантируя, что разработчики, операторы и даже пользователи систем ИИ несут ответственность за свои действия и результаты развертывания ИИ. Это включает механизмы для возмещения ущерба, если система ИИ причиняет вред. Когда отдельные лица и организации несут ответственность, это укрепляет доверие, что системы ИИ управляются ответственно.

Инициативы по стандартам для содействия культуре достоверного ИИ

Компаниям не нужно ждать новых законов, чтобы определить, соответствуют ли их процессы этическим и достоверным рекомендациям. Регуляции ИИ работают в тандеме с возникающими инициативами по стандартам ИИ, которые позволяют организациям реализовывать ответственное управление ИИ и лучшие практики на протяжении всего жизненного цикла систем ИИ, включая проектирование, реализацию, развертывание и окончательную декомиссию.

Национальный институт стандартов и технологий (NIST) в Соединенных Штатах разработал рамку управления рисками ИИ, чтобы руководить организациями в управлении рисками, связанными с ИИ. Рамка структурирована вокруг четырех основных функций:

• Понимание системы ИИ и контекста, в котором она работает. Это включает определение цели, заинтересованных сторон и потенциальных последствий системы ИИ.
• Количественная оценка рисков, связанных с системой ИИ, включая технические и не-технические аспекты. Это предполагает оценку производительности системы, надежности и потенциальных предубеждений.

• Реализация стратегий для смягчения выявленных рисков. Это включает разработку политики, процедур и контроля, чтобы гарантировать, что система ИИ работает в пределах приемлемого уровня риска.
• Установление структур управления и механизмов ответственности для надзора за системой ИИ и ее процессами управления рисками. Это предполагает регулярные обзоры и обновления стратегии управления рисками.

В ответ на достижения в области генеративных технологий ИИ NIST также опубликовал Рамку управления рисками ИИ: Профиль генеративного искусственного интеллекта, который предоставляет рекомендации по смягчению конкретных рисков, связанных с основными моделями. Такие меры охватывают защиту от злонамеренного использования (например, дезинформации, ухудшения контента, ненавистной речи) и этическое применение ИИ, которое фокусируется на человеческих ценностях справедливости, конфиденциальности, безопасности информации, интеллектуальной собственности и устойчивости.

Кроме того, Международная организация по стандартизации (ISO) и Международная электротехническая комиссия (IEC) совместно разработали ISO/IEC 23894, комплексный стандарт для управления рисками ИИ. Этот стандарт предоставляет системный подход к выявлению и управлению рисками на протяжении всего жизненного цикла ИИ, включая выявление рисков, оценку тяжести риска, смягчение или избежание риска и постоянный мониторинг и обзор.

Будущее ИИ и общественное доверие

Взглянув вперед, будущее ИИ и общественное доверие, скорее всего, будут зависеть от нескольких ключевых факторов, которые являются важными для всех организаций:

• Проведение комплексной оценки рисков для выявления потенциальных проблем с соблюдением требований. Оцените этические последствия и потенциальные предубеждения в ваших системах ИИ.
• Установление межфункциональной команды, включая юристов, специалистов по соблюдению требований, ИТ-специалистов и специалистов по науке о данных. Эта команда должна быть ответственна за мониторинг изменений в регуляторной среде и обеспечение того, чтобы ваши системы ИИ соответствовали новым регуляциям.
• Реализация структуры управления, которая включает политику, процедуры и роли для управления инициативами ИИ. Обеспечьте прозрачность в операциях ИИ и процессах принятия решений.
• Проведение регулярных внутренних аудитов для обеспечения соблюдения регуляций ИИ. Используйте инструменты мониторинга для отслеживания производительности систем ИИ и соблюдения регуляторных стандартов.
• Обучение сотрудников этике ИИ, требованиям регуляций и лучшим практикам. Предоставляйте постоянные тренировочные сессии, чтобы поддерживать сотрудников в курсе изменений в регуляциях ИИ и стратегиях соблюдения требований.
• Сохранение подробных записей процессов разработки ИИ, использования данных и критериев принятия решений. Подготовьте отчеты, которые можно представить регуляторам, если это необходимо.
• Установление отношений с регуляторными органами и участие в общественных консультациях. Предоставляйте обратную связь по предложенным регуляциям и ищите разъяснения, когда это необходимо.

Контекстуализация ИИ для достижения достоверного ИИ

В конечном итоге, достоверный ИИ зависит от целостности данных. Зависимость генеративного ИИ от больших наборов данных не означает точность и надежность выходных данных; скорее, это противоречит обоим стандартам. Retrieval Augmented Generation (RAG) – это инновационный метод, который «объединяет статические модели LLM с контекстно-зависимыми данными. И его можно рассматривать как высокоинформированного помощника. Того, который сопоставляет контекст запроса с конкретными данными из всесторонней базы знаний». RAG позволяет организациям создавать контекстно-зависимые приложения, которые соответствуют ожиданиям конфиденциальности, безопасности, точности и надежности. RAG улучшает точность сгенерированных ответов, извлекая соответствующую информацию из базы знаний или хранилища документов. Это позволяет модели основывать свою генерацию на точной и актуальной информации.

RAG позволяет организациям создавать специализированные приложения ИИ, которые высоко точны, контекстно-зависимы и адаптируемы, чтобы улучшить процесс принятия решений, повысить удовлетворенность клиентов, оптимизировать операции и достичь значительных конкурентных преимуществ.

Пересечение разрыва доверия ИИ предполагает обеспечение прозрачности, подотчетности и этического использования ИИ. Хотя нет единого ответа на поддержание этих стандартов, у бизнеса есть стратегии и инструменты в их распоряжении. Реализация надежных мер защиты данных и соблюдение регуляторных стандартов укрепляет доверие пользователей. Регулярные аудиты систем ИИ на наличие предубеждений и неточностей гарантируют справедливость. Дополнение крупномасштабных моделей ИИ (LLM) специализированным ИИ, включающим проприетарные базы знаний и источники данных, обеспечивает доверие. Вовлечение заинтересованных сторон в обсуждение возможностей и ограничений ИИ также способствует доверию и принятию

Достоверный ИИ не легко достижим, но это важное обязательство перед нашим будущим.