Штучний інтелект та культурні стереотипи: Ефекти, обмеження та мінімізація

Штучний інтелект (ШІ), особливо генеративний ШІ, продовжує перевершувати очікування своєю здатністю розуміти та імітувати людську когніцію та інтелект. Однак у багатьох випадках результати або прогнози систем ШІ можуть відображати різні типи упередженості ШІ, такі як культурні та расові.

Блог Buzzfeed «Барбі з усього світу» (який зараз видалений) явно демонструє ці культурні упередження та неточності. Ці «Барбі» були створені за допомогою Midjourney – провідного генератора зображень ШІ, щоб дізнатися, як би виглядали Барбі у кожній частині світу. Про це ми поговоримо пізніше.

Але це не перший випадок, коли ШІ був «расистським» або давав неточні результати. Наприклад, у 2022 році Apple був позовний через звинувачення, що датчик оксигену крові в Apple Watch був упереджений проти людей кольору. У іншому випадку користувачі Twitter виявили, що автоматичний алгоритм обрізання зображень ШІ віддавав перевагу обличчям білих людей над чорними особами та жінкам над чоловіками. Це критичні виклики, і їх вирішення значно ускладнено.

У цій статті ми розглянемо, що таке упередженість ШІ, як вона впливає на нашу суспільство, і коротко обговоримо, як практики можуть знизити її, щоб вирішити проблеми, такі як культурні стереотипи.

Що таке упередженість ШІ?

Упередженість ШІ відбувається, коли моделі ШІ дають дискримінаційні результати проти певних демографічних груп. Існує кілька типів упереджень, які можуть потрапити в системи ШІ і давати неправильні результати. Деякі з цих упереджень ШІ:

• Стереотипна упередженість: Стереотипна упередженість відноситься до явища, коли результати моделі ШІ складаються зі стереотипів або сприйнятих уявлень про певну демографічну групу.
• Расова упередженість: Расова упередженість у ШІ відбувається, коли результат моделі ШІ є дискримінаційним і несправедливим щодо особи або групи на основі їхньої етнічної приналежності або раси.
• Культурна упередженість: Культурна упередженість виникає, коли результати моделі ШІ віддають перевагу одній культурі над іншою.

Крім упереджень, інші проблеми також можуть завадити результатам системи ШІ, такі як:

• Неточності: Неточності відбуваються, коли результати, вироблені моделлю ШІ, є неправильними через несумісні дані навчання.
• Галюцинації: Галюцинації відбуваються, коли моделі ШІ дають вигадані та неправильні результати, які не базуються на фактичних даних.

Вплив упередженості ШІ на суспільство

Вплив упередженості ШІ на суспільство може бути згубним. Упереджені системи ШІ можуть давати неточні результати, які посилюють упередження, які вже існують у суспільстві. Ці результати можуть збільшити дискримінацію та порушення прав, вплинути на процеси прийняття рішень щодо прийому на роботу та зменшити довіру до технологій ШІ.

Також упереджені результати ШІ часто ведуть до неточних прогнозів, які можуть мати серйозні наслідки для невинних осіб. Наприклад, у серпні 2020 року Роберт Макданіел став об’єктом кримінальної дії через алгоритм прогнозування злочинів департаменту поліції Чикаго, який позначив його як «особу, що представляє інтерес».

Аналогічно, упереджені системи ШІ у сфері охорони здоров’я можуть мати гострі наслідки для пацієнтів. У 2019 році Science виявила, що широко використовуваний алгоритм медичної допомоги США був расово упередженим проти людей кольору, що призвело до того, що чорні пацієнти отримували менше високоризикової допомоги.

Барбі з усього світу

У липні 2023 року Buzzfeed опублікував блог, що складається з 194 зображень Барбі, згенерованих ШІ, з усього світу. Пост став вірусним у Twitter. Хоча Buzzfeed написав заяву про відмову від відповідальності, це не зупинило користувачів від вказівки на расові та культурні неточності. Наприклад, зображення німецької Барбі, згенерованої ШІ, було одягнено в уніформу генерала СС.

Аналогічно, зображення південносуданської Барбі, згенерованої ШІ, було показано з пістолетом біля її боку, відображаючи глибоко вкорінену упередженість у алгоритмах ШІ.

Крім того, кілька інших зображень показали культурні неточності, такі як зображення катарської Барбі, одягненої у гутру, традиційний головний убір, який носять арабські чоловіки.

Цей блог-пост отримав велику негативну реакцію за культурну стереотипізацію та упередженість. Лондонська міжуніверситетська школа (LIS) назвала це представницькою шкодою, яку потрібно контролювати шляхом впровадження стандартів якості та створення органів нагляду за ШІ.

Обмеження моделей ШІ

ШІ має потенціал революціонізувати багато галузей. Але якщо сценарії, подібні до тих, які згадані вище, будуть поширюватися, це може привести до зниження загальної прийняття ШІ, що призведе до втрачених можливостей. Такі випадки зазвичай відбуваються через значні обмеження систем ШІ, такі як:

• Брак творчості: Оскільки ШІ може приймати рішення лише на основі даних, які йому надані, йому бракує творчості, щоб мислити поза рамками, що заважає творчому вирішенню проблем.

• Брак контекстуального розуміння: Системи ШІ мають труднощі з розумінням контекстуальних нюансів або мовних виразів регіону, що часто призводить до помилок у результатах.

• Упередженість навчання: ШІ залежить від історичних даних, які можуть містити різні дискримінаційні зразки. Під час навчання модель може легко вивчити дискримінаційні закономірності, щоб давати несправедливі та упереджені результати.

Як зменшити упередженість у моделях ШІ

Експерти оцінюють, що до 2026 року 90% онлайн-контенту може бути синтезованим. Тому важливо швидко мінімізувати проблеми, присутні в технологіях генерації ШІ.

Існують кілька ключових стратегій, які можна реалізувати, щоб зменшити упередженість у моделях ШІ. Деякі з них:

• Захистити якість даних: Надання повних, точних та чистих даних моделі ШІ може допомогти зменшити упередженість та давати більш точні результати.
• Розрізноманітні набори даних: Введення розрізноманітнених наборів даних у систему ШІ може допомогти мінімізувати упередженість, оскільки система ШІ стає більш інклюзивною з часом.

• Зворотні зв’язки: З постійним зворотним зв’язком та навчанням моделі ШІ можуть поступово покращувати свої результати

• Збільшення регулювання: Глобальне регулювання ШІ є важливим для підтримання якості систем ШІ по всьому світу. Тому міжнародні організації повинні працювати разом, щоб забезпечити стандартизацію ШІ.

• Збільшення прийняття відповідального ШІ: Стратегії відповідального ШІ сприяють позитивному впливу на мінімізацію упередженості ШІ, культивуючи справедливість та точність у системах ШІ, та забезпечення того, щоб вони служили різноманітній аудиторії, прагнучи до постійного покращення.

Включаючи розрізноманітнені набори даних, етичну відповідальність та відкриті засоби спілкування, ми можемо забезпечити, щоб ШІ був джерелом позитивних змін у світі.

Якщо ви хочете дізнатися більше про упередженість та роль штучного інтелекту у нашому суспільстві, прочитайте наступні блоги.

• Як міста розгортають провідні технології, використовуючи безупереджені алгоритми ШІ
• ШІ може боротися з дезінформацією та упередженістю у новинах
• Упередженість та справедливість систем, заснованих на ШІ, у сфері фінансових злочинів
• Інструмент перевірки упередженості, заснований на ШІ, для новинних статей, доступний на Python