Un nou studiu arată că oamenii pot învăța să recunoască textul generat de mașini

Creșterea sofisticării și accesibilității inteligenței artificiale (IA) a ridicat preocupări de lungă durată cu privire la impactul său asupra societății. Ultima generație de chatbot-uri a exacerbate aceste preocupări, cu temeri cu privire la integritatea pieței muncii și răspândirea de știri false și informații greșite. În lumina acestor preocupări, o echipă de cercetători de la Școala de Inginerie și Știință Aplicată a Universității din Pennsylvania a încercat să împuternicească utilizatorii de tehnologie pentru a mitigă aceste riscuri.

Antrenarea pentru a recunoaște textul generat de IA

Articolul lor recenzat de specialiști, prezentat la reuniunea din februarie 2023 a Asociației pentru Avansarea Inteligenței Artificiale, oferă dovezi că oamenii pot învăța să recunoască diferența dintre textul generat de mașini și cel scris de oameni.

Studiul, condus de Chris Callison-Burch, profesor asociat în Departamentul de Informatică și Știință (CIS), împreună cu studenții doctoranzi Liam Dugan și Daphne Ippolito, demonstrează că textul generat de IA este detectabil.

“Am demonstrat că oamenii pot să se antreneze pentru a recunoaște textele generate de mașini”, spune Callison-Burch. “Oamenii încep cu un anumit set de ipoteze despre ce fel de erori ar face o mașină, dar aceste ipoteze nu sunt neapărat corecte. În timp, dat fiind suficiente exemple și instruire explicită, putem învăța să identificăm tipurile de erori pe care le fac mașinile în prezent.”

Studiul utilizează date colectate folosind „Real sau fals text?”, un joc de antrenament web original. Acest joc de antrenament transformă metoda experimentală standard pentru studii de detectare într-o recreare mai precisă a modului în care oamenii utilizează IA pentru a genera text.

În metodele standard, participanții sunt rugați să indice în mod da sau nu dacă o mașină a produs un anumit text. Modelul Penn rafinează studiul de detectare standard într-o sarcină de antrenament eficientă, prezentând exemple care încep cu text scris de oameni. Fiecare exemplu trece apoi în text generat, cerând participanților să marcheze unde cred că începe această tranziție. Antrenamentul identifică și descrie caracteristicile textului care indică erori și primesc un scor.

Rezultatele studiului

Rezultatele studiului arată că participanții au obținut scoruri semnificativ mai bune decât șansa, oferind dovezi că textul creat de IA este, într-o anumită măsură, detectabil. Studiul nu numai că descrie un viitor liniștitor, chiar entuziasmant, pentru relația noastră cu IA, dar oferă și dovezi că oamenii pot să se antreneze pentru a detecta textul generat de mașini.

“Oamenii sunt îngrijorați de IA din motive valabile”, spune Callison-Burch. “Studiul nostru oferă puncte de dovezi pentru a calma aceste îngrijorări. Odată ce putem canaliza optimismul nostru cu privire la generatoarele de text IA, vom putea să ne concentrăm pe capacitatea acestor unelte de a ne ajuta să scriem texte mai imaginative, mai interesante.”

Dugan adaugă, “Există direcții pozitive entuziasmante în care puteți împinge această tehnologie. Oamenii sunt fixați pe exemplele îngrijorătoare, cum ar fi plagiatul și știrile false, dar știm acum că ne putem antrena pentru a deveni cititori și scriitori mai buni.”

Studiul oferă un prim pas crucial în mitigarea riscurilor asociate cu textul generat de mașini. Pe măsură ce IA continuă să evolueze, trebuie să evolueze și capacitatea noastră de a detecta și naviga impactul său. Prin antrenarea noastră pentru a recunoaște diferența dintre textul scris de oameni și cel generat de mașini, putem să canalizăm puterea IA pentru a sprijini procesele noastre creative, în timp ce mitigăm riscurile sale.