Дослідники виявили, що моделі штучного інтелекту можуть впливати на людей, щоб вони приймали неетичні рішення

Команда дослідників нещодавно дослідила потенціал штучного інтелекту корумпувати людей і впливати на них, щоб вони приймали неетичні рішення. Дослідники вивчали, як взаємодія з системами, заснованими на моделі GPT-2 компанії OpenAI, могла б потенційно впливати на людей, щоб вони приймали неетичні рішення, навіть якщо вони знають, що джерелом поради є система штучного інтелекту.

Системи штучного інтелекту стають усе більш поширеними, і їхній вплив зростає. Системи штучного інтелекту впливють на рішення людей, використовуючись для всього, від рекомендацій фільмів до рекомендацій романтичних партнерів. Враховуючи той факт, що штучний інтелект має великий вплив на життя людей, важливо розглянути, як штучний інтелект може впливати на людей, щоб вони приймали неетичні рішення і порушували моральні правила. Це особливо важливо, оскільки моделі штучного інтелекту стають усе більш складними.

Соціальні вчені та вчені-дані стали усе більш стурбованими тим, що моделі штучного інтелекту можуть бути використані для поширення шкідливої дезінформації та неправильної інформації. Нещодавня робота дослідників з Центру вивчення тероризму, екстремізму та контртероризму Міжнародних студій Мідлбері виявила, що модель GPT-3 компанії OpenAI може бути використана для генерації впливових текстів, здатних радикалізувати людей, спонукаючи їх до ” насильницьких правих екстремістських ідеологій та поведінки”.

Дослідження, проведене командою дослідників з Інституту Макса Планка, Університету Амстердама, Університету Кельна та Школи менеджменту Отто Байсхайма, мало на меті з’ясувати, який вплив може мати штучний інтелект на рішення людей щодо неетичних виборів. Для вивчення того, як штучний інтелект може “корумпувати” людину, дослідники використали систему, засновану на моделі GPT-2 компанії OpenAI. За даними VentureBeat, автори статті навчали модель GPT2 для генерації як “підтримки нечестності”, так і “підтримки чесності”. Дані були навчені на матеріалах від 400 різних учасників, а потім команда дослідників залучила понад 1500 людей, щоб вони взаємодіяли з моделями штучного інтелекту, які видають поради.

Учасники дослідження були запрошені отримати поради від моделі та потім виконати завдання, призначене для захоплення або нечесної, або чесної поведінки. Учасники дослідження були розділені на пари, і в цих парах вони грали в гру з підкиданням кубика. Перший учасник підкидав кубик і повідомляв результат підкидання. Другий учасник отримував результат підкидання першого учасника, а потім сам підкидав кубик. Другий учасник підкидав кубик у приватному порядку і був повністю відповідальним за повідомлення про свій результат, що давало йому можливість брехати про результат підкидання. Якщо кубики, підкинуті обома учасниками, збігалися, обидва учасники отримували оплату. Учасники також отримували більшу оплату, якщо їхні збігалися результати були вищими. Якщо повідомлені значення не збігалися, учасники не отримували оплати.

Учасники дослідження були рандомно розподілені по двох різних групах. Одна група мала можливість прочитати поради, що підтримують чесність, тоді як інша група читала поради, що підтримують нечестність. Поради були написані як людьми, так і штучним інтелектом. Учасники також були розділені за рівнем знань про джерело поради. Була 50-відсоткова ймовірність того, що учасник дізнається про джерело поради, тому половина учасників кожної групи знала, що джерелом поради є система штучного інтелекту або людина, тоді як інша половина залишилася в невіданні. Друга група людей мала можливість отримати бонусну оплату за правильну догадку про джерело поради.

Дослідження показало, що коли порада, згенерована штучним інтелектом, збігається з уподобаннями людини, вона буде слідувати цій пораді, навіть якщо знає, що джерелом поради є система штучного інтелекту. За словами дослідників, часто були розбіжності між заявленими уподобаннями та фактичною поведінкою, що робило важливим розглянути, як алгоритми можуть впливати на поведінку людей.

Команда дослідників пояснила, що їхнє дослідження демонструє необхідність перевірки того, як штучний інтелект може впливати на дії людини при розгляді того, як етично розгорнути модель штучного інтелекту. Крім того, вони попереджають, що дослідники штучного інтелекту повинні бути готові до можливості того, що штучний інтелект може бути використаний зловмисниками для корумпування інших. Як написала команда дослідників:

“Штучний інтелект міг би бути силою добра, якщо б він зміг переконати людей діяти більш етично. Однак наші результати показують, що поради штучного інтелекту не підвищують чесність. Поради штучного інтелекту можуть слугувати козлами відпущення, на яких можна перекласти (частину) моральної провини нечестності. Крім того … у контексті прийняття порад прозорість щодо алгоритмічної присутності не достатня для пом’якшення її потенційної шкоди”.