В 2022 году компании имели в среднем 3,8 моделей ИИ в производстве. Сегодня семь из десяти компаний экспериментируют с генеративным ИИ, что означает, что количество моделей ИИ в производстве будет стремительно расти в ближайшие годы. В результате обсуждения в отрасли вокруг ответственного ИИ приобрели большую срочность.

Хорошая новость заключается в том, что более половины организаций уже выступают за этику ИИ. Однако только около 20% реализовали комплексные программы с рамками, управлением и ограничениями для надзора за разработкой моделей ИИ и выявления и смягчения рисков. Учитывая быстрый темп развития ИИ, лидерам следует двигаться вперед, чтобы реализовать рамки и зрелые процессы. Регулирование по всему миру уже идет, и уже одна из двух организаций имела неудачу с ответственным ИИ.

Проблемы реализации ответственного ИИ

Ответственный ИИ охватывает до 20 различных бизнес-функций, увеличивая сложность процессов и принятия решений. Команды ответственного ИИ должны работать с ключевыми заинтересованными сторонами, включая руководство; владельцев бизнеса; команды данных, ИИ и ИТ; и партнеров, чтобы:

• Разработать решения ИИ, которые являются справедливыми и свободными от предвзятости: Команды и партнеры могут использовать различные методы, такие как исследовательский анализ данных, для выявления и смягчения потенциальных предвзятостей до разработки решений, чтобы модели были построены с учетом справедливости с самого начала. Команды и партнеры также могут просмотреть данные, используемые на этапах предобработки, проектирования алгоритмов и постобработки, чтобы убедиться, что они представительны и сбалансированы. Кроме того, они могут использовать методы справедливости группы и индивидуальной справедливости, чтобы обеспечить, что алгоритмы справедливо относятся к разным группам и отдельным лицам. И подходы к контрфактической справедливости моделируют результаты, если определенные факторы изменены, помогая выявить и устранить предвзятости.
• Содействовать прозрачности и объяснимости ИИ: Прозрачность ИИ означает, что легко понять, как работают модели ИИ и принимают решения. Объяснимость означает, что эти решения можно легко передать другим в не-технических терминах. Использование общей терминологии, проведение регулярных обсуждений с заинтересованными сторонами и создание культуры осведомленности и непрерывного обучения ИИ могут помочь достичь этих целей.
• Обеспечить конфиденциальность и безопасность данных: Модели ИИ используют огромные объемы данных. Компании используют первичные и третичные данные для кормления моделей. Они также используют методы сохранения конфиденциальности, такие как создание синтетических данных для преодоления проблем с разреженностью. Лидерам и командам следует просмотреть и развить меры по защите конфиденциальности и безопасности данных, чтобы обеспечить, что конфиденциальные и чувствительные данные по-прежнему защищены при их использовании в новых способах. Например, синтетические данные должны имитировать ключевые характеристики клиентов, но не должны быть отслеживаемыми до отдельных лиц.
• Реализовать управление: Управление будет варьироваться в зависимости от корпоративной зрелости ИИ. Однако компании должны установить принципы и политику ИИ с самого начала. По мере увеличения использования моделей ИИ они могут назначить офицеров ИИ; реализовать рамки; создать механизмы ответственности и отчетности; и разработать обратные связи и программы непрерывного улучшения.

Критические факторы ответственной программы ИИ

Итак, что отличает компании, которые являются лидерами ответственного ИИ, от других? Они:

• Создают видение и цели для ИИ: Лидеры сообщают свое видение и цели для ИИ и того, как он приносит пользу компании, клиентам и обществу.
• Устанавливают ожидания: Старшие лидеры устанавливают правильные ожидания с командами для построения ответственных решений ИИ с самого начала, а не пытаться адаптировать решения после их завершения.
• Реализуют рамку и процессы: Партнеры предоставляют ответственные рамки ИИ с прозрачными процессами и ограничениями. Например, проверки конфиденциальности данных, справедливости и предвзятости должны быть встроены в начальную подготовку данных, разработку моделей и постоянный мониторинг.
• Доступ к доменам, отраслям и навыкам ИИ: Команды хотят ускорить инновации решений ИИ, чтобы увеличить конкурентоспособность бизнеса. Они могут обратиться к партнерам за соответствующими доменными и отраслевыми навыками, такими как установка стратегии данных и ИИ и выполнение, в сочетании с аналитикой клиентов, технологией маркетинга, цепочками поставок и другими возможностями. Партнеры также могут предоставить полный спектр навыков ИИ, включая инженерную, разработку, эксплуатацию и возможности платформенной инженерии крупномасштабных языковых моделей (LLM), используя ответственные рамки и процессы ИИ для проектирования, разработки, операционализации и производственной реализации решений.
• Доступ к ускорителям: Партнеры предлагают доступ к экосистеме ИИ, который снижает время разработки ответственных традиционных и генеративных пилотных проектов ИИ до 50%. Предприятия получают вертикальные решения, которые увеличивают их рыночную конкурентоспособность.
• Обеспечить принятие и ответственность команд: Команды предприятий и партнеров обучены новым политикам и процессам. Кроме того, предприятия проверяют команды на соблюдение ключевых политик.
• Использовать правильные метрики для количественной оценки результатов: Лидеры и команды используют эталоны и другие метрики для демонстрации того, как ответственный ИИ вносит вклад в бизнес-ценность, чтобы поддерживать высокий уровень вовлеченности заинтересованных сторон.
• Мониторинг систем ИИ: Партнеры предоставляют услуги мониторинга моделей, решая проблемы проактивно и обеспечивая, что они доставляют доверенные результаты.

Планируйте ответственный ИИ сейчас

Если ваша компания ускоряет инновации ИИ, вам, вероятно, нужна программа ответственного ИИ. Двигайтесь проактивно, чтобы снизить риски, созревать программы и процессы, и демонстрировать ответственность заинтересованным сторонам.

Партнер может предоставить необходимые навыки, рамки, инструменты и партнерства, чтобы разблокировать бизнес-ценность с помощью ответственного ИИ. Развертывайте модели, которые являются справедливыми и свободными от предвзятости, обеспечивайте контроли и увеличивайте соблюдение требований компании, готовясь к предстоящим регулированиям.