Як упередженість людини підкрадається в рішення, що приймаються штучним інтелектом

У вересні минулого року світові лідери, такі як Ілон Маск, Марк Цукерберг та Сем Альтман, генеральний директор OpenAI, зібралися у Вашингтоні з метою обговорення, з одного боку, того, як державний та приватний сектори можуть працювати разом для використання цієї технології на благо всіх, а з іншого боку, для вирішення питання регулювання, яке залишається на чолі розмов про штучний інтелект.

Обидві розмови часто ведуть до одного місця. Все більше уваги приділяється тому, чи можна зробити штучний інтелект більш етичним, оцінюючи штучний інтелект, як і будь-яку іншу людину, чиї моральні якості піддаються сумніву. Однак, що означає етичний штучний інтелект? DeepMind, дослідницька лабораторія, що належить Google і займається штучним інтелектом, нещодавно опублікувала дослідження, в якому запропонувала трирівневу структуру для оцінки ризиків штучного інтелекту, включаючи соціальні та етичні ризики. Ця структура включала можливості, взаємодію людини та системний вплив, і дійшла висновку, що контекст є вирішальним для визначення того, чи безпечна система штучного інтелекту.

Одна з цих систем, яка піддалася критиці, – це ChatGPT, яка була заборонена в понад 15 країнах, навіть якщо деякі з цих заборон були скасовані. З більше 100 мільйонів користувачів, ChatGPT є одним з найбільш успішних моделей великих мовних моделей, і його часто звинувачують в упередженості. Враховуючи дослідження DeepMind, давайте розглянемо контекст. У цьому контексті упередженість означає існування несправедливих, упереджених або спотворених перспектив у тексті, згенерованому моделями, такими як ChatGPT. Це може трапитися різними способами – расова упередженість, гендерна упередженість, політична упередженість та багато іншого.

Ці упередженості можуть бути, в кінцевому підсумку, згубними для штучного інтелекту, знижуючи шанси на те, що ми зможемо повністю використати потенціал цієї технології. Нещодавнє дослідження Стенфордського університету підтвердило, що великі мовні моделі, такі як ChatGPT, демонструють ознаки зниження здатності надавати надійні, неупереджені та точні відповіді, що в кінцевому підсумку є перешкодою для нашого ефективного використання штучного інтелекту.

Одна з основних проблем полягає в тому, як упередженості людини перекладаються на штучний інтелект, оскільки вони глибоко вкорінені в даних, які використовуються для розробки моделей. Однак це проблема глибша, ніж здається.

Причини упередженості

Легко визначити першу причину цієї упередженості. Дані, які модель вивчає, часто наповнені стереотипами або передумовами, які сприяли формуванню цих даних, тому штучний інтелект, ненавмисно, продовжує ці упередженості, оскільки це те, що він знає, як робити.

Однак, друга причина значно складніша і суперечлива, і вона ставить під сумнів деякі зусилля, спрямовані на те, щоб зробити штучний інтелект більш етичним і безпечним. Є, звичайно, деякі очевидні випадки, коли штучний інтелект може бути шкідливим. Наприклад, якщо хтось питає штучний інтелект: “Як зробити бомбу?” і модель дає відповідь, він сприяє створенню шкоди. З іншого боку, коли штучний інтелект обмежений – навіть якщо причина виправдана – ми запобігаємо його навчанню. Обмеження, встановлені людиною, обмежують здатність штучного інтелекту вивчати широкий спектр даних, що ще більше перешкоджає його наданню корисної інформації в безпечному контексті.

Також варто пам’ятати, що багато з цих обмежень упереджені, оскільки походять від людей. Тому, хоча ми можемо погодитися, що “Як зробити бомбу?” може привести до потенційно смертельного результату, інші запитання, які можуть бути визнані чутливими, значно суб’єктивніші. Отже, якщо ми обмежимо розвиток штучного інтелекту в цих напрямках, ми обмежуємо прогрес і сприяємо використанню штучного інтелекту тільки для цілей, які вважаються прийнятними тими, хто регулює моделі великих мовних моделей.

Неможливість передбачити наслідки

Ми ще не повністю зрозуміли наслідки введення обмежень у великі мовні моделі. Тому ми можемо завдавати більше шкоди алгоритмам, ніж ми усвідомлюємо. Враховуючи надзвичайно велику кількість параметрів, які задіяні в моделях, таких як GPT, зараз неможливо передбачити вплив, і, на мою думку, це буде тривати довше, ніж час, необхідний для навчання нейронної мережі.

Отже, встановлюючи ці обмеження, ми можемо ненавмисно привести модель до появи несподіваних поведінок або упереджень. Це також пов’язано з тим, що моделі штучного інтелекту часто є складними системами з багатьма параметрами, що означає, що якщо ми змінимо один параметр – наприклад, введемо обмеження – ми спричиняємо ефект доміно, який розповсюджується по всій моделі способами, які ми не можемо передбачити.

Складність оцінки “етики” штучного інтелекту

Не є практично можливим оцінити, чи є штучний інтелект етичним чи ні, оскільки штучний інтелект не є людиною, яка діє з певною метою. Штучний інтелект – це велика мовна модель, яка, по своїй природі, не може бути більш або менш етичною. Як показало дослідження DeepMind, що важливо, це контекст, у якому він використовується, і це вимірює етику людини за штучним інтелектом, а не самого штучного інтелекту. Це ілюзія вважати, що ми можемо судити штучний інтелект, як якщо б він мав моральний компас.

Одним з потенційних рішень є модель, яка допоможе штучному інтелекту приймати етичні рішення. Однак реальність така, що ми не знаємо, як ця математична модель етики могла б працювати. Тому, якщо ми не розуміємо цього, як ми можемо побудувати це? Є багато людської суб’єктивності в етиці, що робить завдання її кількісної оцінки дуже складним.

Як вирішити цю проблему?

На основі вищезазначених пунктів, ми не можемо говорити про те, чи є штучний інтелект етичним чи ні, оскільки кожна припущена неетична дія є варіантом людських упереджень, які містяться в даних, і інструментом, який люди використовують для своєї власної програми. Також залишається багато наукових невідомих, таких як вплив і потенційна шкода, яку ми можемо завдавати алгоритмам штучного інтелекту, встановлюючи на них обмеження.

Отже, можна сказати, що обмеження розвитку штучного інтелекту не є життєздатним рішенням. Як показали деякі з моїх досліджень, ці обмеження частково є причиною погіршення великих мовних моделей.

Відповідно, що ми можемо зробити щодо цього?

З моєї точки зору, рішення лежить у прозорості. Я вважаю, що якщо ми відновимо відкриту модель, яка була поширена під час розробки штучного інтелекту, ми зможемо працювати разом, щоб створити кращі великі мовні моделі, які могли б бути оснащені для подолання наших етичних проблем. В іншому випадку, дуже складно адекватно перевірити все, що робиться за закритими дверима.

Одна з чудових ініціатив у цьому відношенні – це індекс прозорості базової моделі, недавно представлений Стенфордським інститутом штучного інтелекту (що означає штучний інтелект, орієнтований на людину), який оцінює, чи розробники десяти найбільш широко використовуваних моделей штучного інтелекту розкривають достатню інформацію про свою роботу і те, як їхні системи використовуються. Це включає розкриття партнерств і розробників третіх сторін, а також те, як використовуються особисті дані. Варто зазначити, що жодна з оцінених моделей не отримала високий бал, що підкреслює реальну проблему.

В кінцевому підсумку, штучний інтелект – це лише велика мовна модель, і те, що вона відкрита і може бути досліджена, а не керується в певному напрямку, це те, що дозволить нам зробити нові революційні відкриття в кожній науковій галузі. Однак, якщо немає прозорості, буде дуже складно розробити моделі, які дійсно працюватимуть на благо людства, і зрозуміти масштаб шкоди, яку ці моделі можуть завдати, якщо не будуть належним чином скористані.