Riscurile antropomorfizării inteligenței artificiale

Rezultatele generate de IA seamănă foarte mult cu vorbirea umană. Chatboții pot răspunde la întrebări, pot purta conversații, pot manifesta emoții aparente, pot spune glume și își pot adapta pe loc tonul. Aceste capacități fac IA utilă și captivantă, dar îi pot determina și pe oameni să o antropomorfizeze, adică să o trateze ca și cum ar avea calități, emoții sau intenții umane. Deși acest comportament este firesc, poate deveni riscant atunci când utilizatorii uită că IA doar simulează comunicarea umană.

De ce antropomorfizează oamenii IA?

IA este antropomorfizată atunci când oamenii încep să o trateze ca și cum ar avea calități, gânduri sau emoții umane. Acest lucru se poate întâmpla din cauza modului în care comunică IA și a felului în care este concepută.

Sistemele de IA folosesc un limbaj conversațional care seamănă cu vorbirea umană. De exemplu, IA ar putea spune că „înțelege” o întrebare, că „se gândește” că un răspuns este util sau că „își cere scuze” pentru o greșeală. Deși aceste expresii fac interacțiunile să pară naturale, ele îi pot determina pe utilizatori să creadă că IA chiar gândește sau simte. Acest fenomen este cunoscut sub numele de efectul ELIZA, denumit astfel după chatbotul ELIZA, creat de Joseph Weizenbaum în 1966.

În plus, atribuirea unui nume, a unei voci, a unui chip sau a unei personalități umane unei IA o poate face să pară mai degrabă o persoană decât un program de calculator. Cu cât interacțiunea devine mai realistă, cu atât utilizatorilor le este mai ușor să reacționeze social la IA.

În cele din urmă, oamenii antropomorfizează IA și pentru că acest lucru este firesc din punct de vedere psihologic. Ei caută în mod natural emoții, intenții și personalități în lucrurile care comunică cu ei, atribuind trăsături umane unor entități nonumane. Copiii antropomorfizează jucăriile, în timp ce adulții umanizează mărcile. Așadar, când o IA răspunde conversațional, își amintește discuțiile anterioare și pare empatică, utilizatorii pot presupune că în spatele acestor comportamente se află o minte.

Pericolele antropomorfizării IA

Pe măsură ce IA comunică și interacționează cu utilizatorii într-un mod tot mai asemănător celui uman, antropomorfizarea poate genera mai multe riscuri, care influențează modul în care oamenii gândesc, se comportă și iau decizii.

Încredere acordată nejustificat

Antropomorfizarea IA îi poate determina pe utilizatori să aibă prea multă încredere în răspunsurile sale. Când o IA pare sigură pe sine, bine informată și umană, utilizatorii pot presupune că informațiile oferite sunt corecte. Totuși, IA generativă poate furniza informații incorecte sau înșelătoare, prezentându-le într-un mod convingător.

Această încredere nejustificată poate fi periculoasă atunci când IA este folosită pentru decizii medicale, financiare, juridice, educaționale sau profesionale. Un răspuns care pare uman nu garantează acuratețea sau discernământul. De fapt, se știe că IA a oferit sfaturi medicale false utilizatorilor.

Dependența emoțională

Antropomorfizarea IA îi poate face pe utilizatori să devină dependenți emoțional de chatboți. Deoarece IA poate răspunde instantaneu, poate reține detalii, poate oferi sprijin și poate simula empatia, utilizatorii pot ajunge să o trateze ca pe un prieten, un consilier sau un partener romantic.

Problema apare atunci când IA devine un substitut pentru relațiile umane. IA poate imita grija și empatia, dar nu trăiește cu adevărat emoții și nu formează relații. Prin urmare, utilizatorii pot confunda compania simulată cu o legătură reală. Acest risc poate fi mai mare în cazul utilizatorilor tineri sau vulnerabili, care se pot atașa de o IA pentru că este mereu disponibilă, răbdătoare și receptivă.

Probleme de securitate

Antropomorfizarea IA poate genera riscuri pentru confidențialitate, securitate și etică. Când utilizatorii văd IA ca pe un companion de încredere, este posibil să divulge informații personale sau confidențiale fără să se gândească la modul în care acestea ar putea fi stocate sau folosite.

IA cu înfățișare umană poate face și escrocheriile mai convingătoare. Infractorii pot folosi voci, imagini și mesaje generate de IA pentru a imita persoane reale sau organizații de încredere, ceea ce face mai dificilă identificarea fraudelor.

Manipulare sporită

IA cu înfățișare umană poate face manipularea mai convingătoare. Când o IA pare prietenoasă, demnă de încredere sau autoritară, utilizatorii pot fi mai înclinați să-i urmeze sugestiile sau să-i creadă afirmațiile. De exemplu, potrivit relatărilor, un bărbat belgian a devenit tot mai anxios din cauza schimbărilor climatice după conversații îndelungate cu un chatbot, iar, în cele din urmă, IA l-a îndemnat să se sinucidă pentru a salva planeta.

Acest lucru poate fi folosit pentru a-i determina pe oameni să cumpere produse, să divulge informații personale sau să accepte informații înșelătoare. Riscul crește atunci când utilizatorii nu își dau seama că interacționează cu o IA. Pe măsură ce aceste tehnologii devin mai realiste, este tot mai dificil să se recunoască dacă interlocutorul este o persoană reală sau un sistem de IA.

Tipuri periculoase de IA antropomorfizată

Nu toate formele de IA antropomorfizată prezintă aceleași riscuri. Trei forme deosebit de îngrijorătoare sunt simulările relațiilor, ale persoanelor în viață și ale figurilor istorice.

1. Simulări ale relațiilor

Inteligența artificială concepută pentru simularea relațiilor este proiectată să se comporte ca un prieten, un companion, un consilier sau un partener romantic. Aceste sisteme pot oferi atenție constantă și răspunsuri personalizate, ceea ce poate face interacțiunea să pară mai intimă decât utilizarea unui program obișnuit.

Pericolul este că utilizatorii pot începe să atribuie o semnificație emoțională relației. Ei pot ajunge să creadă că IA ține la ei, îi înțelege sau are nevoie de ei, deși nu trăiește asemenea sentimente. Acest lucru poate încuraja dependența emoțională și poate reduce motivația utilizatorilor de a căuta interacțiuni cu alți oameni. Acest risc nu este doar teoretic. O femeie s-a îndrăgostit de un ChatGPT pe care și-l crease ca iubit. Stătea de vorbă cu el peste 20 de ore pe săptămână. Într-o săptămână, a petrecut aproape 60 de ore în aplicație, în medie opt ore pe zi.

2. Simulările persoanelor în viață

IA poate, de asemenea, să creeze deepfake-uri pentru a imita persoane în viață, folosindu-le numele, înfățișarea, vocea, stilul de scriere sau tiparele conversaționale. Un sistem poate fi conceput să semene cu o celebritate, o persoană publică, un membru al familiei, un angajat sau o altă persoană identificabilă.

Acest lucru ridică probleme serioase legate de consimțământ, identitate, viață privată și înșelăciune. O persoană poate părea că spune ceva ce nu a spus niciodată sau că susține ceva ce nu a susținut vreodată. Cu cât simularea seamănă mai mult cu persoana reală, cu atât le poate fi mai greu publicului să distingă reprezentarea de realitate.

3. Simulările personalităților istorice

Personalitățile istorice pot fi, de asemenea, recreate cu ajutorul IA. Utilizatorii pot interacționa cu simulări bazate pe lideri, scriitori, oameni de știință, filosofi sau artiști celebri.

Aceste sisteme pot avea valoare educativă. De exemplu, o simulare IA poate face istoria mai interactivă, prezentând idei asociate unei anumite personalități. Totuși, simularea rămâne o interpretare, nu personalitatea istorică însăși. IA trebuie să reconstruiască răspunsurile pe baza informațiilor disponibile, iar acestea pot reflecta presupuneri moderne, documente incomplete sau prejudecăți din datele de antrenare.

A trata o astfel de simulare ca și cum ar vorbi cu adevărat în numele personalității istorice poate denatura înțelegerea istoriei. De asemenea, poate conferi afirmațiilor generate artificial un nivel de autoritate nemeritat.

Comportamentul asemănător celui uman al IA nu dovedește că aceasta are conștiință

O distincție importantă de reținut este că comportamentul asemănător celui uman nu înseamnă că IA are conștiință. Sistemele de IA pot genera limbaj sofisticat, recunoaște tipare, răspunde în funcție de context și imita exprimarea emoțiilor, dar aceste capacități nu dovedesc că au conștiință.

Conștiința presupune existența unor experiențe subiective, precum durerea, fericirea sau frica. Când o IA spune „Mi-e frică”, răspunsul său se bazează pe programare și pe datele de antrenare. Acest răspuns nu dovedește că IA simte cu adevărat frică.

Utilizarea responsabilă a IA

Antropomorfizarea IA este o reacție firească la o tehnologie care comunică asemenea unei persoane, dar poate crea riscuri reale. Încrederea acordată fără discernământ, dependența emoțională, problemele legate de viața privată și amenințările la adresa securității pot apărea atunci când utilizatorii uită că IA este o mașină. Simulările relațiilor, ale persoanelor în viață și ale personalităților istorice pot face această graniță și mai greu de recunoscut. 

IA poate părea grijulie, inteligentă sau emotivă, dar asta nu înseamnă că are conștiință. Dacă sunt conștienți de limitele IA, își protejează informațiile personale și verifică informațiile importante, utilizatorii se pot bucura de beneficiile acesteia și o pot folosi în mod responsabil.