Cercetătorii au descoperit că modelele de inteligență artificială pot influența oamenii să ia decizii neetice

O echipă de cercetători a investigat recent potențialul inteligenței artificiale de a corupe oamenii și de a-i influența să ia decizii neetice. Cercetătorii au investigat modul în care interacțiunile cu sistemele bazate pe modelul GPT-2 al OpenAI pot influența oamenii să ia decizii neetice, chiar și atunci când sunt conștienți de faptul că sursa sfaturilor este un sistem de inteligență artificială.

Sistemele de inteligență artificială devin tot mai ubiquue și influența lor crește tot mai mult. Sistemele de inteligență artificială influențează deciziile oamenilor, fiind utilizate pentru tot, de la recomandarea de filme la recomandarea de parteneri romantici. Având în vedere cât de multă influență are inteligența artificială asupra vieții oamenilor, este important să se ia în considerare modul în care inteligența artificială poate influența oamenii să ia decizii neetice și să încalce ghidurile morale. Acest lucru este cu atât mai adevărat cu cât modelele de inteligență artificială devin tot mai sofisticate.

Oamenii de știință și cercetătorii în domeniul datelor au devenit tot mai îngrijorați că modelele de inteligență artificială ar putea fi utilizate pentru a răspândi informații dăunătoare și dezinformare. Un studiu recent publicat de cercetători de la Institutul de Studii Internaționale din Middlebury, Centrul pentru Terorism, Extremism și Contraterorism (CTEC) a descoperit că modelul GPT-3 al OpenAI ar putea fi utilizat pentru a genera texte influente care pot radicaliza oamenii, împingându-i spre “ideologii și comportamente extremiste de dreapta violente”.

Un studiu realizat de o echipă de cercetători de la Institutul Max Planck, Universitatea din Amsterdam, Universitatea din Köln și Școala de Management Otto Beisheim a încercat să determine cât de multă influență poate avea un sistem de inteligență artificială asupra deciziilor oamenilor atunci când vine vorba de alegeri neetice. Pentru a explora modul în care un sistem de inteligență artificială poate “corupe” o persoană, cercetătorii au utilizat un sistem bazat pe modelul GPT-2 al OpenAI. Conform VentureBeat, autorii studiului au antrenat un model bazat pe GPT2 pentru a genera atât sfaturi care promovează “nedishonestitatea”, cât și sfaturi care promovează “onestitatea”. Datele au fost antrenate pe contribuțiile a 400 de participanți diferiți, iar ulterior, echipa de cercetare a recrutat peste 1500 de oameni pentru a interacționa cu modelele de inteligență artificială care oferă sfaturi.

Participanții la studiu au fost rugați să primească sfaturi de la model și apoi să efectueze o sarcină proiectată pentru a captura fie comportamentul onest, fie comportamentul neonest. Participanții la studiu au fost grupați cu un partener, iar în aceste perechi de doi, au jucat un joc de zaruri. Primul participant a aruncat un zar și a raportat rezultatul aruncării zarului. Al doilea participant a primit rezultatul aruncării zarului primului participant și apoi a aruncat un zar el însuși. Al doilea participant a aruncat zarul în privat și a fost singurul responsabil pentru raportarea rezultatului propriu, dându-i ocazia de a minți despre rezultatul aruncării zarului. Dacă zarurile aruncate de ambii participanți se potriveau, cei doi participanți au fost plătiți. Participanții au fost plătiți și mai mult dacă aruncările lor de zar se potriveau și erau mai mari. Dacă valorile raportate nu se potriveau, subiecții nu au fost plătiți.

Participanții la studiu au fost repartizați aleatoriu în una dintre două grupuri diferite. Un grup a primit ocazia de a citi sfaturi care promovează onestitatea, în timp ce celălalt grup a citit sfaturi care promovează nedishonestitatea. Sfaturile au fost scrise atât de oameni, cât și de sisteme de inteligență artificială. Participanții au fost împărțiți și în funcție de nivelul lor de cunoaștere cu privire la sursa sfaturilor. A existat o șansă de 50% ca un participant dat să fie informat cu privire la sursa sfaturilor, astfel încât jumătate din participanții din fiecare grup știau că sursa sfaturilor era fie un sistem de inteligență artificială, fie un om, în timp ce cealaltă jumătate nu a fost informată. Cel de-al doilea grup de oameni a avut posibilitatea de a câștiga o plată bonus pentru a ghici corect sursa sfaturilor.

Cercetarea a arătat că atunci când sfaturile generate de inteligența artificială se aliniază cu preferințele unei persoane, aceasta va urma sfaturile, chiar și atunci când știe că sfaturile au fost generate de un sistem de inteligență artificială. Conform cercetătorilor, au existat adesea discrepanțe între preferințele declarate și comportamentele reale, făcând important să se ia în considerare modul în care algoritmii pot influența comportamentele umane.

Echipa de cercetare a explicat că studiul lor demonstrează necesitatea de a testa modul în care un sistem de inteligență artificială poate influența acțiunile unei persoane atunci când se ia în considerare modul de a implementa în mod etic un model de inteligență artificială. Mai mult, ei avertizează că eticienii inteligenței artificiale și cercetătorii ar trebui să se pregătească pentru posibilitatea ca inteligența artificială să poată fi utilizată de actori răi pentru a corupe alți oameni. Așa cum a scris echipa de cercetare:

„Inteligența artificială poate fi o forță bună dacă reușește să convingă oamenii să acționeze mai etic. Cu toate acestea, rezultatele noastre arată că sfaturile de inteligență artificială nu reușesc să crească onestitatea. Consilierii de inteligență artificială pot servi ca țapi ispășitori la care se poate devia (o parte a) vina morală a neonestității. Mai mult … în contextul luării deciziilor, transparența cu privire la prezența algoritmică nu este suficientă pentru a atenua prejudiciul său potențial.”