Noua Cercetare Arata Ca Oamenii Pot Invata Sa Recunoasca Textul Generat De Masini

Cresterea sofisticarii si accesibilitatii inteligentei artificiale (AI) a ridicat preocupari de lunga durata cu privire la impactul sau asupra societatii. Ultima generatie de chatbot-uri a exacerbate aceste preocupari, cu temeri cu privire la integritatea pieței muncii și răspândirea știrilor false și a informațiilor greșite. În lumina acestor preocupari, o echipa de cercetatori de la Școala de Inginerie și Științe Aplicate a Universității din Pennsylvania a încercat să împuternicească utilizatorii de tehnologie pentru a reduce aceste riscuri.

Antrenarea Pentru a Recunoaște Textul AI

Articolul lor recenzat de specialiști, prezentat la întâlnirea din februarie 2023 a Asociației pentru Avansarea Inteligenței Artificiale, oferă dovezi că oamenii pot învăța să recunoască diferența dintre textul generat de mașini și textul scris de oameni.

Studiul, condus de Chris Callison-Burch, profesor asociat în Departamentul de Calculatoare și Științe ale Informației (CIS), împreună cu studenții doctoranzi Liam Dugan și Daphne Ippolito, demonstrează că textul generat de AI este detectabil.

“Am demonstrat că oamenii pot să se antreneze pentru a recunoaște textele generate de mașini”, spune Callison-Burch. “Oamenii încep cu un anumit set de presupuneri despre ce tipuri de erori ar face o mașină, dar aceste presupuneri nu sunt neapărat corecte. În timp, dat fiind suficiente exemple și instrucțiuni explicite, putem să învățăm să recunoaștem tipurile de erori pe care le fac mașinile în prezent.”

Studiul utilizează date colectate folosind “Real or Fake Text?”, un joc de antrenament web-based original. Acest joc de antrenament transformă metoda experimentală standard pentru studii de detectare într-o recreare mai precisă a modului în care oamenii utilizează AI pentru a genera text.

În metodele standard, participanții sunt rugați să indice în mod da sau nu dacă o mașină a produs un anumit text. Modelul Penn rafinează studiul de detectare standard într-o sarcină de antrenament eficientă, prezentând exemple care încep cu text scris de oameni. Fiecare exemplu trece apoi în text generat, solicitând participanților să marcheze unde cred că începe această tranziție. Antrenații identifică și descriu caracteristicile textului care indică erori și primesc un scor.

Rezultatele Studiului

Rezultatele studiului arată că participanții au obținut scoruri semnificativ mai bune decât șansa, oferind dovezi că textul creat de AI este, într-o anumită măsură, detectabil. Studiul nu numai că descrie un viitor liniștitor, chiar entuziasmant, pentru relația noastră cu AI, dar oferă și dovezi că oamenii pot să se antreneze pentru a detecta textul generat de mașini.

“Oamenii sunt anxioși cu privire la AI din motive valabile”, spune Callison-Burch. “Studiul nostru oferă puncte de dovezi pentru a alina aceste anxietăți. Odată ce putem să canalizăm optimismul nostru cu privire la generatorii de text AI, vom putea să ne concentrăm atenția asupra capacității acestor unelte de a ne ajuta să scriem texte mai imaginative, mai interesante.”

Dugan adaugă, “Există direcții pozitive entuziasmante în care puteți împinge această tehnologie. Oamenii sunt fixați pe exemplele îngrijorătoare, cum ar fi plagiatul și știrile false, dar știm acum că ne putem antrena pentru a deveni cititori și scriitori mai buni.”

Studiul oferă un prim pas crucial în mitigarea riscurilor asociate cu textul generat de mașini. Pe măsură ce AI continuă să evolueze, trebuie să evolueze și capacitatea noastră de a detecta și a naviga impactul său. Prin antrenarea noastră pentru a recunoaște diferența dintre textul scris de oameni și textul generat de mașini, putem să valorificăm puterea AI pentru a sprijini procesele noastre creative, în timp ce reducem riscurile sale.