Новий дослідження показує, що люди можуть навчитися розпізнавати текст, згенерований штучним інтелектом

Постійне вдосконалення та доступність штучного інтелекту (ШІ) викликало тривожні питання щодо його впливу на суспільство. Останнє покоління чат-ботів лише посилило ці побоювання, особливо щодо цілісності ринку праці та поширення фейкових новин і дезінформації. У світлі цих побоюваннян, команда дослідників з Університету Пенсільванії школи інженерії та прикладних наук намагалася наділити користувачів технологій можливістю пом’якшити ці ризики.

Навчання себе розпізнавати текст ШІ

Їхня рецензована стаття, представлена на зустрічі Асоціації з розвитку штучного інтелекту у лютому 2023 року, надає докази того, що люди можуть навчитися розпізнавати різницю між текстом, згенерованим машиною, та текстом, написаним людиною.

Дослідження, яке очолив Кріс Каллісон-Берч, асоційований професор кафедри комп’ютерних та інформаційних наук (CIS), разом з аспірантами Ліамом Дуганом і Дафне Іпполіто, демонструє, що текст, згенерований ШІ, можна виявити.

“Ми показали, що люди можуть навчитися розпізнавати текст, згенерований машиною”, – говорить Каллісон-Берч. “Люди починають з певного набору припущень про те, які помилки може зробити машина, але ці припущення не обов’язково правильні. З часом, якщо є достатньо прикладів і явних інструкцій, ми можемо навчитися розпізнавати типи помилок, які зараз робить машина.”

Дослідження використовує дані, зібрані за допомогою веб-ігри “Реальний чи фальшивий текст?”. Ця гра перетворює стандартний експериментальний метод для виявлення тексту в більш точну рекреацію того, як люди використовують ШІ для генерації тексту.

У стандартних методах учасникам пропонується вказати у форматі “так” або “ні”, чи була машина використана для створення даного тексту. Модель Пенна розвиває стандартне дослідження виявлення в ефективне завдання навчання, показуючи приклади, які починаються з тексту, написаного людиною. Кожен приклад потім переходить у згенерований текст, і учасникам пропонується позначити, де вони вважають, що починається цей перехід. Учасники ідентифікують і описують особливості тексту, які вказують на помилку, і отримують оцінку.

Результати дослідження

Результати дослідження показують, що учасники набрали значно більше балів, ніж випадкова можливість, надавши докази того, що текст, створений ШІ, до певної міри виявляється. Дослідження не тільки очорлює майбутнє нашого взаємозв’язку з ШІ, але й надає докази того, що люди можуть навчитися розпізнавати текст, згенерований машиною.

“Люди мають підстави для тривоги щодо ШІ”, – говорить Каллісон-Берч. “Наше дослідження надає підстави для заспокоєння цих тривог. Як тільки ми зможемо використовувати наш оптимізм щодо генераторів тексту ШІ, ми зможемо приділяти увагу можливостям цих інструментів для допомоги нам у створенні більш уявних і цікавих текстів.”

Дуган додає: “Є цікаві позитивні напрямки, у яких можна розвивати цю технологію. Люди зайняті тривожними прикладами, такими як плагіат і фейкові новини, але тепер ми знаємо, що можемо навчитися бути кращими читачами і письменниками.”

Дослідження надає важливий перший крок у пом’якшенні ризиків, пов’язаних з текстом, згенерованим машиною. Як ШІ продовжує розвиватися, так само повинна розвиватися наша здатність виявляти і навігувати його вплив. Навчаючи себе розпізнавати різницю між текстом, написаним людиною, і текстом, згенерованим машиною, ми можемо використовувати силу ШІ для підтримки наших творчих процесів, одночасно пом’якшуючи його ризики.