По мере того, как отрасли готовятся к ускоренному внедрению ИИ, появляется новый фокус на этике и ответственности

Автор:: Пандуранг Камат, технический директор Persistent Systems

Искусственный интеллект (ИИ) в своей основе является машинным обучением (МО), процессом, посредством которого машины учатся улучшать свою производительность на основе входных данных. Огромное количество существующих данных означает, что ИИ имеет плодородную почву для развития, ускоряясь в последние годы. И обещание ИИ заставило технологов и руководителей в различных отраслях думать творчески о его различных применениях.

С момента промышленной революции любой период быстрого технологического прогресса характеризуется равными частями энтузиазма и тревоги. Всемирный консорциум веба (W3C), группа, создающая стандарты для разработчиков веб-индустрии, отмечает, что “растет осознание того, что применение машинного обучения несет в себе риски и может привести к вреду” – включая области, такие как предвзятость, конфиденциальность, безопасность, устойчивость и общая подотчетность.

“Есть четкий спрос на этический подход к МО, который виден в активизме гражданского общества, появлении ~100 наборов этических принципов ИИ во всем мире, и шагах правительств по регулированию ИИ”, – написала группа. “Если технологии не соответствуют ценностям обществ, в которых они функционируют, они рискуют подорвать их”.

Выбирайте мудро

На поверхности трудно утверждать, что повышенная скорость и производительность – это плохо для бизнеса. Но для определенных отраслей есть многое, что зависит от процесса принятия решений, который, по мнению некоторых, не должен быть оставлен алгоритму. Посмотрев на несколько крупнейших отраслей, мы можем увидеть, насколько уязвимы мы перед ошибками машин и почему ответственный ИИ так важен.

Банковское дело, финансовые услуги и страхование (БФС)

Всемирный экономический форум (ВЭФ) и Deloitte изучили процесс внедрения ИИ в компании БФС, обнаружив, что “хотя ИИ может помочь создать полезные бизнес-инсайты из огромного количества информации”, “чужеродность ИИ” будет источником серьезного риска.

“ИИ рассуждает не по-человечески”, – говорится в отчете. “Системы ИИ не следуют человеческим конструкциям логики и ведут себя очень по-другому, чем человеческие акторы, выполняя одну и ту же задачу. Кроме того, самообучающаяся природа систем ИИ позволяет им эволюционировать без человеческого вмешательства, что может привести к непредвиденным результатам на основе неизвестных переменных”.

Сторонники ответственного ИИ утверждают, что машинное обучение представляет серьезные проблемы в таких вещах, как автоматическая оценка риска, кредит и решения о предоставлении кредитов, все из которых исторически предвзяты в отношении определенных демографических групп. Недавние исследования показали, что кредиторы, использующие ИИ-основанные двигатели принятия решений, с большей вероятностью откажут в ипотечных кредитах людям цвета – в некоторых случаях 80% чернокожих заявителей с большей вероятностью будут отклонены.

Здравоохранение

Несколько лет назад Журнал американской медицинской ассоциации (JAMA) изучил внедрение ИИ в здравоохранении, обнаружив, что проблемы многочисленны, включая “нереалистичные ожидания, предвзятые и непредставительные данные, недостаточную приоритизацию равенства и включения, риск усугубления неравенства в здравоохранении, низкий уровень доверия и неопределенные нормативные среды”.

Не совсем одобрение, но есть более высокая планка для ответственного ИИ в здравоохранении, особенно учитывая его потенциал буквально спасать жизни. В целом медицинские работники оптимистичны, но осторожны в отношении будущего ИИ, сосредотачиваясь на образовании других практиков о его использовании в клинической обстановке и создании руководств по ответственной реализации ИИ, которая будет полезна всем пациентам.

Медиа

PwC оценивает, что ИИ обеспечит 15,7 триллионов долларов глобального экономического роста к 2030 году, но согласно Salesforce менее половины (48%) клиентов доверяют компаниям использовать ИИ этично, и 65% обеспокоены неэтичным использованием ИИ. На пересечении прибыли и доверия находятся медиакомпании – ранние адоптеры с огромным охватом и влиянием. И есть опасения по поводу того, что ИИ – это не “установи и забудь” приложение, что означает, что для медиакомпаний их ответственность заключается не только в производстве контента, но и в его постоянном мониторинге после развертывания.

Как обслуживаются рекламные объявления и персонализируются? Как контент достигает определенной аудитории, и каково сообщение? Кто учит ИИ “как” учиться? И как можно нацеливаться на конкретных потребителей, уважая при этом конфиденциальность? Это лишь некоторые из вопросов, которые волнуют медиакомпании, когда они балансируют этику с получением конкурентного преимущества.

Ответ на ответственность

Прогресс в разработке ответственного ИИ очевиден каждый день – законодатели разрабатывают регулирование, потребители требуют большей прозрачности, и многие компании создали специальные отделы, отвечающие за обеспечение того, что их ИИ используется надлежащим образом. Компаниям нужна хорошо определенная основа ответственного ИИ, которая охватывает этику, прозрачность, подотчетность, справедливость, конфиденциальность и безопасность. По мере продолжения дискуссий и реформ недавнее совместное исследование MIT Sloan Management Review и Boston Consulting Group дает некоторые простые общие рекомендации – они написали: “Если вы хотите быть ответственным лидером ИИ, сосредоточьтесь на том, чтобы быть ответственной компанией”. rs этики, прозрачности, подотчетности, справедливости, конфиденциальности и безопасности. По мере продолжения дискуссий и реформ недавнее совместное исследование MIT Sloan Management Review и Boston Consulting Group дает некоторые простые общие рекомендации – они написали: “Если вы хотите быть ответственным лидером ИИ, сосредоточьтесь на том, чтобы быть ответственной компанией”.