Искажения ИИ и культурные стереотипы: последствия, ограничения и смягчение

Искусственный интеллект (ИИ), в частности, генеративный ИИ, продолжает превосходить ожидания своей способностью понимать и имитировать человеческое познание и интеллект. Однако в многих случаях результаты или прогнозы систем ИИ могут отражать различные виды предвзятости ИИ, такие как культурная и расовая.

Блог Buzzfeed «Барби со всего мира» (который сейчас удален) явно демонстрирует эти культурные предвзятости и неточности. Эти «барби» были созданы с помощью Midjourney – ведущего генератора изображений ИИ, чтобы узнать, как бы выглядели барби в каждой части мира. Мы поговорим об этом позже.

Но это не первый раз, когда ИИ был «расистским» или производил неточные результаты. Например, в 2022 году Apple (AAPL ) был подан в суд из-за утверждений, что датчик крови Apple Watch был предвзятым против людей цветных. В другом сообщенном случае пользователи Twitter обнаружили, что автоматический алгоритм обрезки изображений Twitter отдавал предпочтение лицам белых людей над черными и женщинами над мужчинами. Это критические проблемы, и их решение очень сложно.

В этой статье мы рассмотрим, что такое предвзятость ИИ, как она влияет на нашу жизнь, и кратко обсудим, как практики могут смягчить ее, чтобы решить проблемы, такие как культурные стереотипы.

Что такое предвзятость ИИ?

Предвзятость ИИ возникает, когда модели ИИ производят дискриминационные результаты против определенных демографических групп. Несколько типов предвзятости могут проникнуть в системы ИИ и произвести неправильные результаты. Некоторые из этих предвзятостей ИИ являются:

• Стереотипная предвзятость: Стереотипная предвзятость относится к явлению, когда результаты модели ИИ состоят из стереотипов или воспринимаемых представлений о определенной демографической группе.
• Расовая предвзятость: Расовая предвзятость в ИИ происходит, когда результат модели ИИ дискриминационный и несправедливый по отношению к индивиду или группе на основе их этнической принадлежности или расы.
• Культурная предвзятость: Культурная предвзятость возникает, когда результаты модели ИИ отдают предпочтение одной культуре над другой.

Помимо предвзятостей, другие проблемы также могут препятствовать результатам системы ИИ, такие как:

• Неточности: Неточности возникают, когда результаты, произведенные моделью ИИ, неверны из-за несоответствующих данных обучения.
• Галлюцинации: Галлюцинации возникают, когда модели ИИ производят вымышленные и ложные результаты, которые не основаны на фактических данных.

Влияние предвзятости ИИ на общество

Влияние предвзятости ИИ на общество может быть вредным. Предвзятые системы ИИ могут производить неточные результаты, которые усиливают предвзятости, уже существующие в обществе. Эти результаты могут увеличить дискриминацию и нарушения прав, повлиять на процессы найма и уменьшить доверие к технологии ИИ.

Кроме того, предвзятые результаты ИИ часто приводят к неточным прогнозам, которые могут иметь серьезные последствия для невинных людей. Например, в августе 2020 года Роберт Макдэниел стал объектом преступления из-за алгоритма предсказания преступности департамента полиции Чикаго, который пометил его как «лицо, представляющее интерес».

Аналогично, предвзятые системы ИИ в здравоохранении могут иметь острые последствия для пациентов. В 2019 году Science обнаружил, что широко используемый американский медицинский алгоритм был расово предвзятым против людей цветных, что привело к тому, что черные пациенты получали меньше высокорисковых мер по управлению уходом.

Барби со всего мира

В июле 2023 года Buzzfeed опубликовал блог, состоящий из 194 генерированных ИИ барби со всего мира. Пост стал вирусным в Twitter. Хотя Buzzfeed написал заявление с оговоркой, это не остановило пользователей от указания на расовые и культурные неточности. Например, генерированное ИИ изображение немецкой барби было в форме униформы офицера СС.

Аналогично, генерированное ИИ изображение барби из Южного Судана было показано с пистолетом у ее стороны, отражая глубоко укоренившуюся предвзятость в алгоритмах ИИ.

Помимо этого, несколько других изображений показали культурные неточности, такие как катарская барби, носившая гутру, традиционный головной убор, носимый арабскими мужчинами.

Этот блог-пост получил массовую критику за культурные стереотипы и предвзятость. Лондонская междисциплинарная школа (LIS) назвала это представительной вредом, который должен быть сдержан путем введения стандартов качества и создания органов надзора за ИИ.

Ограничения моделей ИИ

ИИ имеет потенциал революционизировать многие отрасли. Но если сценарии, подобные упомянутым выше, распространятся, это может привести к снижению общего принятия ИИ, в результате чего будут упущены возможности. Такие случаи обычно возникают из-за значительных ограничений систем ИИ, таких как:

• Отсутствие творчества: Поскольку ИИ может принимать решения только на основе предоставленных данных обучения, он лишен творчества, чтобы мыслить вне коробки, что препятствует решению творческих проблем.

• Отсутствие контекстуального понимания: Системы ИИ сталкиваются с трудностями при понимании контекстуальных нюансов или языковых выражений региона, что часто приводит к ошибкам в результатах.

• Предвзятость обучения: ИИ полагается на исторические данные, которые могут содержать все виды дискриминационных образцов. Во время обучения модель может легко научиться дискриминационным закономерностям, чтобы произвести несправедливые и предвзятые результаты.

Как уменьшить предвзятость в моделях ИИ

Эксперты оценивают, что к 2026 году 90% онлайн-контента может быть синтетически сгенерировано. Поэтому важно быстро уменьшить проблемы, присутствующие в технологиях генеративного ИИ.

Несколько ключевых стратегий можно реализовать, чтобы уменьшить предвзятость в моделях ИИ. Некоторые из них являются:

• Обеспечить качество данных: Ввод полных, точных и чистых данных в модель ИИ может помочь уменьшить предвзятость и произвести более точные результаты.
• Разнообразные наборы данных: Введение разнообразных наборов данных в систему ИИ может помочь смягчить предвзятость, поскольку система ИИ становится более инклюзивной со временем.

• Петли обратной связи: С постоянной петлей обратной связи и обучения модели ИИ могут постепенно улучшать свои результаты

• Увеличение регулирования: Глобальные правила ИИ имеют решающее значение для поддержания качества систем ИИ через границы. Поэтому международные организации должны работать вместе, чтобы обеспечить стандартизацию ИИ.

• Увеличение принятия ответственного ИИ: Стратегии ответственного ИИ способствуют положительному смягчению предвзятости ИИ, культивированию справедливости и точности в системах ИИ, и обеспечению того, чтобы они служили разнообразной базе пользователей, стремясь к постоянному улучшению.

Включая разнообразные наборы данных, этические ответственность и открытые средства коммуникации, мы можем обеспечить, чтобы ИИ был источником положительных изменений во всем мире.

Если вы хотите узнать больше о предвзятости и роли искусственного интеллекта в нашем обществе, прочитайте следующие блоги.

• Как города развертывают ведущие технологии, используя алгоритмы ИИ без предвзятости
• ИИ может бороться с дезинформацией и предвзятостью в новостях
• Предвзятость и справедливость систем, основанных на ИИ, в финансовых преступлениях
• Проверка предвзятости, основанная на ИИ, для новостных статей, доступная на Python