Недостаток достоверного ИИ может тормозить инновации и бизнес-ценность

Недавний опрос среди глобальных лидеров бизнеса показывает, что достоверный ИИ является приоритетом, но многие не принимают достаточных мер для его достижения, и какой ценой?

Действительно, опрос IBM показал, что 85% респондентов согласны с тем, что потребители с большей вероятностью выберут компанию, которая прозрачна в отношении того, как построены, управляются и используются ее модели ИИ.

Однако большинство признали, что они не предприняли ключевых шагов для обеспечения того, чтобы их ИИ был достоверным и ответственным, таких как снижение предвзятости (74%), отслеживание изменений производительности и дрейфа моделей (68%), и обеспечение того, чтобы они могли объяснить решения, принятые с помощью ИИ (61%). Это тревожно, особенно если учесть, что использование ИИ продолжает расти – 35% заявили, что они сейчас используют ИИ в своем бизнесе, по сравнению с 31% год назад.

Я недавно посетил закрытую Корпоративный инновационный саммит в Торонто, где участники обменивались инновационными идеями и демонстрировали технологии, готовые формировать будущее. У меня была привилегия участвовать в трех раундах обсуждений в финансовом секторе, страховании и розничной торговле с тремя ключевыми областями: необходимостью большей прозрачности для укрепления доверия к ИИ, демократизацией ИИ через no-code/low-code и разработкой для быстрого получения ценности и смягчения рисков через лучшие практики управления ИИ.

Увеличить доверие к технологиям ИИ. COVID-19 усилил и ускорил тенденцию к использованию чат-ботов, виртуальных финансовых помощников и бесконтактной регистрации клиентов. Эта тенденция будет продолжаться, как подтверждается исследованием Cap Gemini, которое показывает, что 78% потребителей, опрошенных, планируют увеличить использование технологий ИИ, включая управление цифровой идентификацией в взаимодействиях с финансовыми организациями.

Несмотря на внутренние преимущества, возникает ряд проблем. Главной среди них является продолжающееся недоверие потребителей к технологиям ИИ и как их повсеместное распространение влияет на их права на неприкосновенность частной жизни и безопасность. 30% потребителей заявили, что они будут более комфортно делиться своей биометрической информацией, если их финансовые услуги предоставят больше прозрачности в объяснении того, как собирается, управляется и защищается их информация.

CIO должны принять достоверные принципы ИИ и внедрить строгие меры, которые защитят права на неприкосновенность частной жизни и безопасность. Они могут добиться этого с помощью шифрования, минимизации данных и более безопасной аутентификации, включая рассмотрение возникающих децентрализованных стандартов цифровой идентификации. В результате ваши усилия по автоматизации и самообслуживанию будут более широко приняты и будут требовать меньше вмешательства человека.

Удалить барьеры для демократизации ИИ. Есть растущая тенденция к разработке приложений ИИ с помощью no-code/low-code, которая, по прогнозам достигнет 45,5 миллиардов долларов к 2025 году. Основной движущей силой является более быстрое получение ценности с улучшением производительности разработки приложений на 10 раз.

Например, 56% финансовых организаций, опрошенных, считают сбор данных от заемщиков одним из наиболее сложных и неэффективных шагов в процессе подачи заявки на кредит, что приводит к высоким показателям отказов. Хотя технологии биометрической идентификации и сбора данных, основанные на ИИ, доказали свою эффективность в повышении эффективности процесса подачи заявки на кредит, они также могут создавать риски соблюдения требований, особенно в отношении конфиденциальности данных, конфиденциальности и предвзятости алгоритмов ИИ.

Чтобы смягчить и устранить такие риски, приложения no-code/low-code должны включать всестороннее тестирование, чтобы обеспечить их соответствие первоначальным целям проектирования, удалить потенциальную предвзятость в наборе данных для обучения, которая может включать предвзятость выборки, предвзятость маркировки, и обеспечить их безопасность от атак ИИ, которые могут негативно повлиять на результаты алгоритмов ИИ. Рассмотрение принципов ответственной науки о данных справедливости, точности, конфиденциальности и безопасности имеет первостепенное значение.

Разработать框架 управления и регулирования ИИ. Управление ИИ больше не является желательной инициативой, а императивом. Согласно отслеживанию национальных политик ИИ Организации экономического сотрудничества и развития, существует более 700 инициатив по регулированию ИИ, разрабатываемых в более чем 60 странах. Однако существуют добровольные кодексы поведения и принципы этического ИИ, разработанные международными организациями по стандартизации, такими как Институт электрических и электронных инженеров (IEEE) и Национальный институт стандартов и технологий (NIST).

Организации обеспокоены тем, что регулирование ИИ может налагать на них более жесткие требования соблюдения, подкрепленные суровыми механизмами принуждения, включая штрафы за неисполнение. Однако регулирование ИИ неизбежно.

Европа и Северная Америка принимают активные меры, которые потребуют от CIO сотрудничества с их технологическими и деловыми коллегами для формирования эффективных политик. Например, предложенный Европейской комиссией Закон об искусственном интеллекте предлагает ввести риск-ориентированные обязательства для поставщиков ИИ для защиты прав потребителей, а также содействовать инновациям и экономическим возможностям, связанным с технологиями ИИ.

Кроме того, в июне 2022 года канадское федеральное правительство выпустило долгожданный Закон о реализации цифровой хартии, который защищает от негативных последствий высокорисковых систем ИИ. США также продолжают инициативы по регулированию ИИ, хотя и на секторальной основе. Федеральная торговая комиссия (FTC), Бюро по защите потребителей в финансовой сфере (CFPB) и Совет Федеральной резервной системы все используют свои регулирующие полномочия для защиты потребителей от негативных последствий, связанных с растущим использованием ИИ, которые могут привести к дискриминационным результатам, хотя и непреднамеренно. Фреймворк регулирования ИИ необходим для любой инновационной компании.

Достижение достоверного ИИ требует данных, основанных на инсайтах

Реализация достоверного ИИ не может быть достигнута без подхода, основанного на данных, для определения того, где применение технологий ИИ может иметь наибольшее влияние до начала реализации. Это улучшение вовлеченности клиентов или достижение операционной эффективности или смягчение рисков соблюдения требований?

Каждый из этих бизнес-драйверов требует понимания того, как выполняются процессы, как обрабатываются эскалации и исключения, и выявление вариаций в выполнении процессов и их коренных причин. На основе такого анализа, основанного на данных, организации могут принимать обоснованные бизнес-решения о влиянии и результатах, связанных с реализацией решений на основе ИИ для снижения трения при регистрации клиентов и повышения операционной эффективности. Как только организации получат выгоду от анализа, основанного на данных, они могут автоматизировать высокозатратные процессы, такие как соблюдение требований ИИ, аудит соблюдения требований, KYC и AML в финансовых услугах.

Основной вывод заключается в том, что неотъемлемой частью автоматизации процессов с помощью ИИ является реализация лучших практик достоверного ИИ. Этический использование ИИ не должен рассматриваться только как юридическое и моральное обязательство, но и как бизнес-императив. Это имеет смысл быть прозрачным в применении ИИ. Это способствует доверию и укрепляет лояльность бренда.