Монокультури даних у штучному інтелекті: загрози для різноманітності та інновацій

Штучний інтелект змінює світ, від трансформації охорони здоров’я до реформи освіти. Він вирішує давні проблеми та відкриває можливості, про які ми ніколи не думали. Дані знаходяться в центрі цієї революції – паливо, яке живить кожну модель штучного інтелекту. Це те, що дозволяє цим системам робити передбачення, знаходити закономірності та надавати рішення, які впливають на нашу повсякденну життя.

Але, хоча цей надлишок даних сприяє інноваціям, домінування уніфікованих наборів даних – часто називають монокультурами даних – становить значні ризики для різноманітності та творчості у розвитку штучного інтелекту. Це подібно до сільськогосподарської монокультури, де посадка однієї культури на великих полях робить екосистему крихкою та вразливою до шкідників та хвороб. У штучному інтелекті залежність від уніфікованих наборів даних створює жорсткі, упереджені та часто ненадійні моделі.

Ця стаття занурюється у концепцію монокультур даних, розглядаючи, що це таке, чому вони існують, які ризики вони несе, та які кроки ми можемо зробити, щоб створити системи штучного інтелекту, які будуть розумнішими, справедливішими та інклюзивнішими.

Поняття монокультур даних

Монокультура даних відбувається, коли один набір даних або вузький набір джерел даних домінує у навчанні систем штучного інтелекту. Розпізнавання облич є добре задокументованим прикладом монокультури даних у штучному інтелекті. Дослідження від MIT Media Lab виявили, що моделі, навчені в основному на зображеннях людей зі світлою шкірою, мали труднощі з обличчями людей зі темною шкірою. Помилки для жінок зі темною шкірою досягали 34,7%, порівняно з лише 0,8% для чоловіків зі світлою шкірою. Ці результати підкреслюють вплив навчальних даних, які не містили достатньої різноманітності шкіряних тонів.

Подібні проблеми виникають у інших галузях. Наприклад, великі мовні моделі (LLM) такі як OpenAI’s GPT та Google’s (GOOGL ) Bard навчаються на наборах даних, які сильно залежать від англомовного контенту, в основному з західних контекстів. Ця відсутність різноманітності робить їх менш точними у розумінні мовних та культурних нюансів з інших частин світу. Країни, такі як Індія, розробляють LLM, які краще відображають місцеві мови та культурні цінності.

Ця проблема може бути критичною, особливо у галузях, таких як охорона здоров’я. Наприклад, медичний діагностичний інструмент, навчений в основному на даних з європейських популяцій, може працювати погано у регіонах з різними генетичними та екологічними факторами.

Від чого походять монокультури даних

Монокультури даних у штучному інтелекті виникають з різних причин. Популярні набори даних, такі як ImageNet та COCO, є величезними, легко доступними та широко використовуваними. Але вони часто відображають вузький, західно-орієнтований погляд. Збір різноманітних даних не є дешевим, тому багато менших організацій покладаються на ці існуючі набори даних. Ця залежність посилює відсутність різноманітності.

Стандартизація також є ключовим фактором. Дослідники часто використовують широко визнані набори даних для порівняння результатів, ненавмисно заохочуючи дослідження альтернативних джерел. Ця тенденція створює зворотний зв’язок, де всі оптимізують одні й ті самі бенчмарки замість того, щоб вирішувати реальні проблеми.

Іноді ці проблеми виникають через недогляд. Створені наборів даних можуть ненавмисно залишити деякі групи, мови чи регіони. Наприклад, ранні версії голосових помічників, таких як Siri, не обробляли не західні акценти добре. Причина полягала в тому, що розробники не включили достатньо даних з цих регіонів. Ці недогляди створюють інструменти, які не відповідають потребам глобальної аудиторії.

Чому це важливо

Когда штучний інтелект займає все більш видну роль у прийнятті рішень, монокультури даних можуть мати реальні наслідки. Моделі штучного інтелекту можуть посилювати дискримінацію, коли вони успадковують упередження від своїх навчальних даних. Алгоритм найму, навчений на даних з чоловічих галузей, може ненавмисно віддавати перевагу чоловічим кандидатам, виключаючи кваліфікованих жінок з розгляду.

Культурне представництво є ще однією проблемою. Системи рекомендацій, такі як Netflix (NFLX ) та Spotify, часто віддавали перевагу західним уподобанням, відтісняючи контент з інших культур. Ця дискримінація обмежує досвід користувача та стримує інновації, зберігаючи ідеї вузькими та повторюваними.

Системи штучного інтелекту також можуть стати крихкими, коли навчені на обмежених даних. Під час пандемії COVID-19 медичні моделі, навчені на до-пандемічних даних, не змогли адаптуватися до складностей глобальної кризи охорони здоров’я. Ця жорсткість може зробити системи штучного інтелекту менш корисними, коли вони стикаються з несподіваними ситуаціями.

Монокультура даних також може привести до етичних та юридичних проблем. Компанії, такі як Twitter та Apple (AAPL ), зазнали публічної критики за упереджені алгоритми. Інструмент обрізання зображень Twitter був звинувачений у расовому упередженні, тоді як алгоритм кредитної карти Apple звинувачувався у наданні нижчих лімітів жінкам. Ці скандали підкреслюють недовіру до продуктів та ставлять питання про відповідальність у розвитку штучного інтелекту.

Як виправити монокультури даних

Вирішення проблеми монокультур даних вимагає розширення діапазону даних, використовуваних для навчання систем штучного інтелекту. Це завдання вимагає розробки інструментів та технологій, які полегшують збір даних з різноманітних джерел. Проекти, такі як Mozilla’s Common Voice, збирають голосові зразки з людей усього світу, створюючи багатший набір даних з різними акцентами та мовами – подібно до ініціатив, таких як UNESCO’s Data for AI, які фокусуються на включенні недопредставлених спільнот.

Створення етичних керівних принципів є ще одним важливим кроком. Рамки, такі як Торонтська декларація, пропагують прозорість та інклюзивність, щоб забезпечити, що системи штучного інтелекту спроектовані з урахуванням справедливості. Сильні політики управління даними, надихнуті регуляціями GDPR, також можуть зробити велику різницю. Вони вимагають явної документації джерел даних та утримують організації відповідальними за забезпечення різноманітності.

Відкриті платформи також можуть зробити різницю. Наприклад, Hugging Face’s Datasets Repository дозволяє дослідникам отримувати доступ та обмінюватися різноманітними даними. Ця колаборативна модель сприяє розвитку штучного інтелекту, зменшуючи залежність від вузьких наборів даних. Прозорість також відіграє значну роль. Використання пояснюваних систем штучного інтелекту та здійснення регулярних перевірок можуть допомогти виявити та виправити упередження. Це пояснення є важливим для того, щоб моделі були справедливими та адаптивними.

Створення різноманітних команд може бути найбільш ефективним та простим кроком. Команди з різними背景ами краще помічають сліпі місця в даних та проектують системи, які працюють для ширшого кола користувачів. Інклюзивні команди ведуть до кращих результатів, роблячи штучний інтелект розумнішим та справедливішим.

Основне

Штучний інтелект має неймовірний потенціал, але його ефективність залежить від якості даних. Монокультури даних обмежують цей потенціал, виробляючи упереджені, жорсткі системи, відірвані від реальних потреб. Щоб подолати ці виклики, розробники, уряди та спільноти повинні співпрацювати, щоб розширити набори даних, впровадити етичні практики та сприяти інклюзивним командам.
Відповідно до цих проблем, ми можемо створити більш інтелектуальний та справедливий штучний інтелект, який відображатиме різноманітність світу, якому він служить.