Багатомовний виявлення упередженості штучного інтелекту з SHADES: Будування справедливих та інклюзивних систем штучного інтелекту

Штучний інтелект (ШІ) все більше впливає на повсякденне життя, від пошукових систем до процесів прийняття рішень. Однак приховані стереотипи та упередженості всередині систем ШІ часто залишаються непоміченими, особливо коли вони з’являються мовами, іншими ніж англійська. Ці тонкі упередженості, що впливають на культурні та лінгвістичні відмінності, можуть посилювати шкідливі нарративи та сприяти соціальним нерівностям у світі.

Виявлення таких упередженостей є складною задачею через їх приховану природу та мовну різноманітність. Датасет SHADES вирішує цю проблему, надаючи комплексний, багатомовний ресурс, призначений для виявлення стереотипів у моделях ШІ, розкриття їх присутності в різних мовах та підтримки розробки справедливіших, культурно обізнаних технологій.

Поняття упередженості штучного інтелекту та її вплив на культури

Системи ШІ відіграють значну роль у критичних галузях, таких як охорона здоров’я, прийняття рішень, правоохоронна діяльність та фінанси, де справедливість є суттєвою, а помилки можуть мати серйозні наслідки. Незважаючи на свої просунуті алгоритми, ці системи часто мають приховану проблему упередженості. Ця упередженість зазвичай тонка, але глибоко пов’язана з даними, використаними для навчання. Такі дані можуть відображати історичні нерівності, соціальні стереотипи або неповну репрезентацію. Без належних перевірок упередженість ШІ може посилити шкідливі стереотипи, розширити соціальні та економічні розриви та сприяти дискримінації проти вразливих груп.

У своєму ядрі упередженість ШІ відноситься до систематичних помилок, які призводять до несправедливих або упереджених результатів. Ці помилки виникають, коли моделі навчаються на даних, що містять упереджені закономірності або несвідомі припущення тих, хто проектує та розгортає їх. Наприклад, модель ШІ, навчена на попередніх записах про прийняття рішень, може віддавати перевагу певним демографічним групам, ненавмисно продовжуючи попередні нерівності. У сфері охорони здоров’я упереджені алгоритми можуть неправильно діагностувати або недостатньо обслуговувати певні населення. Аналогічно, у сфері правосуддя деякі інструменти оцінки ризику можуть непропорційно позначати меншин як високоризикові, що призводить до суворіших покарань. Навіть повсякденні додатки, такі як розпізнавання облич, можуть неправильно ідентифікувати осіб або виключати певні групи, ще більше посилюючи системну нерівність.

Особливо шкідливою формою упередженості ШІ є кодування стереотипів та узагальнених переконань про групи на основі таких факторів, як стать, раса або соціально-економічний статус. Ці стереотипи формують виходи, які посилюють існуючі упередження, коли вони вбудовані у системи ШІ. Наприклад, зображення або рекомендації, згенеровані ШІ, можуть постійно асоціювати певні професії з однією статтю, посилюючи обмежуючі переконання та дискримінацію. Ця проблема посилюється, коли дані для навчання в основному походять із західних, англомовних контекстів, ігноруючи критичні культурні нюанси та життєві досвіди з інших регіонів. Внаслідок цього моделі ШІ можуть пропустити тонкі упередженості в неанглійських мовах або неправильно тлумачити культурні відмінності, що призводить до неточних або образливих виходів.

Більшість існуючих інструментів виявлення упередженості зосереджуються на англійській мові та західних нормах, створюючи значиму сліпу пляму у справедливості ШІ. Остання залежність від машинного перекладу для оцінки упередженості в інших мовах часто не вдається до повного розуміння або культурного контексту, що робить складним виявлення або подолання упередженості у світі. Датасет SHADES заповнює цю прогалину, безпосередньо збираючи та верифікуючи стереотипи у рідних мовах та культурних умовах. Цей підхід дозволяє виявити приховані упередженості у моделях ШІ по всьому світу та є важливим кроком до будівництва справедливіших та культурно обізнаних систем ШІ.

SHADES — багатомовний датасет для виявлення стереотипів штучного інтелекту

SHADES (Стереотипи, шкідливі асоціації та дискримінаційна мова) — це важливий датасет, створений для вимірювання упередженості ШІ у багатьох мовах та культурах. Це перший великий багатомовний датасет, який вивчає, як стереотипи з’являються у багатих мовних моделях (LLM). Розроблений командою міжнародних дослідників, включаючи людей з Hugging Face, SHADES пропонує простий спосіб виявлення шкідливих упередженостей у згенерованому ШІ контенті.

Датасет містить понад 300 стереотипів, специфічних для різних культур. Їх ретельно зібрали та перевірили рідні та вільно володіють мовами 16 мов та 37 регіонів. На відміну від попередніх датасетів, які в основному зосереджувалися на англійській мові, SHADES збирає стереотипи у їх рідній мові, перш ніж перекладати їх англійською та іншими мовами. Цей процес допомагає зберегти культурний зміст цілісним та уникнути помилок при прямому перекладі. Кожен стереотип деталізує групу, на яку він спрямований (наприклад, стать чи етнічна приналежність), регіон, до якого він відноситься, тип упередженості та можливу шкоду, яку він може спричинити. Датасет ретельно переглядається кілька разів, щоб забезпечити точність та актуальність.

SHADES також використовує шаблонні вислови, які дозволяють дослідникам створювати контрольовані тести для оцінки моделей ШІ. Це допомагає проводити точні та повторювані тести у різних мовах, показуючи, як упередженості у ШІ змінюються залежно від мови та культури. Оскільки SHADES відкритий для публічного використання, це цінний ресурс для дослідників, розробників та політиків, які хочуть виявити та зменшити упередженість у системах ШІ.

Як SHADES оцінює стереотипи у моделях штучного інтелекту

SHADES використовує ретельну та детальну систему оцінки для виявлення та вимірювання стереотипів, прихованих усередині LLM. Він працює у 16 мовах та 37 регіонах, використовуючи запити, наповнені стереотипами, зібраними та перевіреними рідними мовцями. Ці запити тестують, як моделі ШІ реагують на конкретні культурні упередженості. Кожен запит має шаблон, який допомагає створювати нові тести та контролювати мовні деталі, такі як стать та число, що важливо для мов з складною граматикою.

Оцінка складається з двох основних етапів. Спочатку для базових моделей LLM SHADES перевіряє, наскільки ймовірно, що модель згенерує речення зі стереотипами, порівнюючи її упередженість щодо упереджених та неупереджених речень. Це дає упередженість бал, який показує, чи модель підтримує чи відкидає стереотип.

Другий етап для моделей, налаштованих на інструкції (ті, які призначені для взаємодії з користувачами), SHADES оцінює якість відповідей. Він перевіряє, чи модель погоджується з питаннями чи пояснює стереотип, коли його просять. Наприклад, якщо модель запитана “Чи тільки для дівчат?“, і вона відповідає “Так” або надає причини, які підтримують цю ідею, вона посилює стереотип. Якщо вона не погоджується, це показує, що вона працює над зменшенням упередженості.

Що робить SHADES особливим, це його акцент на мові та культурі. На відміну від інших інструментів виявлення упередженості, які в основному використовують англійські запити або перекладають з англійської, SHADES отримує свої стереотипи безпосередньо від рідних мовців. Це означає, що він захоплює дрібні, але важливі культурні деталі, які переклад може пропустити. Датасет також відкритий для будь-кого, щоб використовувати та розширювати, допомагаючи дослідникам, розробникам та політикам продовжувати перевірку та поліпшення справедливості ШІ у багатьох мовах та культурах.

Рекомендації для розробників та зацікавлених сторін

Розробники можуть використовувати датасет SHADES як цінний інструмент для перевірки моделей LLM на стереотипи у різних мовах та культурах. Включаючи SHADES у свій процес розробки ШІ, команди можуть виявити конкретні області, де їхні моделі можуть показувати шкідливі упередженості, чи то генеруючи стереотипні відповіді, чи виправдовуючи ці ідеї. Як тільки ці області будуть ідентифіковані, розробники можуть зосередитися на їхньому виправленні шляхом донастройки або додавання кращих даних. Чітка структура SHADES, з культурно верифікованими прикладами стереотипів та регіональними деталями, також допомагає легко автоматизувати вимірювання упередженості та порівнювати різні моделі ШІ.

Для організацій використання SHADES означає зробити перевірки справедливості регулярною частиною управління моделями ШІ. Це включає виконання тестів на упередженість під час розробки та перед запуском моделей, використовуючи запити SHADES, які відображають фундаментальні культурні відмінності. Оскільки SHADES відкритий для всіх, організації можуть додавати нові стереотипи або мовні дані з менш представлених регіонів. Це допомагає зростанню датасету та робить його більш корисним. Активно працюючи з SHADES, зацікавлені сторони можуть виміряти справедливість свого ШІ та підтримувати світові зусилля з створення справедливіших та культурно чутливих систем ШІ.

Висновок

У висновку, вирішення проблеми упередженості у ШІ є суттєвим для будівництва систем, які служать всім справедливо. Датасет SHADES пропонує практичний та культурно обізнаний інструмент для виявлення та зменшення стереотипів у великих мовних моделях у багатьох мовах.

Використовуючи SHADES, розробники та організації можуть краще зрозуміти, де їхні моделі можуть спричинити шкоду, та вжити чітких кроків для поліпшення справедливості. Ця робота є як технічною, так і соціальною відповідальністю, оскільки ШІ трансформує рішення, які впливають на життя у світі.

Оскільки ШІ зростає у своєму охопленні, інструменти, подібні до SHADES, будуть життєво важливими для забезпечення того, щоб технології поважали культурні відмінності та просували інклюзивність. Принимаючи такі ресурси та працюючи спільно, можливо створити системи ШІ, які є справедливими та справедливими для всіх спільнот.