Un apel la moderarea antropomorfismului în platformele de inteligență artificială

OPINIE Nimeni în universul fictiv Războiul stelelor nu ia în serios inteligența artificială. În cronologia istorică a francizei științifico-fantastice a lui George Lucas, care are 47 de ani, amenințările cu singularități și conștientizarea inteligenței artificiale lipsesc, iar inteligența artificială este limitată la roboți mobili autonomi (‘droid’) – care sunt în mod obișnuit respinși de protagoniști ca simple “mașini”.

În schimb, majoritatea roboților din Războiul stelelor sunt puternic antropomorfi, fiind în mod evident proiectați pentru a interacționa cu oamenii, a participa la cultura “organică” și a utiliza simulacrul lor de stare emoțională pentru a se lega de oameni. Aceste capacități par a fi proiectate pentru a le oferi un avantaj pentru ei înșiși sau chiar pentru a-și asigura supraviețuirea.

Oamenii “reali” din Războiul stelelor par a fi imuni la aceste tactici. Într-un model cultural cinic, aparent inspirat de diverse epoci de sclavie din Imperiul Roman și Statele Unite ale Americii, Luke Skywalker nu ezită să cumpere și să restricționeze roboți în contextul sclavilor; copilul Anakin Skywalker abandonează proiectul său neterminat C3PO ca pe un jucărie neîndrăgită; și, aproape mort din cauza deteriorării suferite în timpul atacului asupra Stelei Morții, “curajosul” R2D2 primește aproximativ aceeași atenție din partea lui Luke ca un animal de companie rănit.

Acesta este un punct de vedere din anii 1970 asupra inteligenței artificiale*; dar, deoarece nostalgia și canonul dictează că trilogia originală din 1977-1983 rămâne un model pentru sequelurile, prequelurile și emisiunile TV ulterioare, această insensibilitate umană față de inteligența artificială a fost o linie de rezistență rezistentă a francizei, chiar și în fața unei game tot mai mari de emisiuni TV și filme (cum ar fi Ea și Ex Machina) care descriu coborârea noastră într-o relație antropomorfă cu inteligența artificială.

Păstrați lucrurile reale

Au personajele organice Războiul stelelor într-adevăr atitudinea corectă? Nu este o gândire populară în acest moment, într-un climat de afaceri fixat pe implicarea maximă cu investitorii, de obicei prin demonstrații virale ale simulării vizuale sau textuale a lumii reale, sau a sistemelor interactive de tip uman, cum ar fi Modelele Lingvistice Mari (LLM).

În orice caz, o lucrare nouă și scurtă articol de la Stanford, Carnegie Mellon și Microsoft Research, își îndreaptă atenția asupra indiferenței față de antropomorfism în inteligența artificială.

Autorii caracterizează “polenizarea încrucișată” percepută între comunicările umane și artificiale ca un potențial rău care trebuie mitigat urgent, din mai multe motive ^†:

‘[Noi] credem că trebuie să facem mai mult pentru a dezvolta know-how-ul și instrumentele pentru a aborda mai bine comportamentul antropomorf, inclusiv măsurarea și mitigarea unor astfel de comportamente ale sistemului atunci când sunt considerate nedorite.

‘Acest lucru este critic, deoarece – printre multe alte preocupări – sistemele de inteligență artificială care generează conținut care pretinde a avea, de exemplu, sentimente, înțelegere, voință liberă sau un sens de sine, pot eroda simțul de agenție al oamenilor, cu rezultatul că oamenii ar putea să atribuie responsabilitate morală sistemelor, supraestimând capacitățile sistemului, sau suprapunându-se pe aceste sisteme chiar și atunci când sunt incorecte.’

Contributorii clarifică faptul că discută sisteme care sunt percepute a fi asemănătoare cu cele umane și se concentrează pe potențiala intenție a dezvoltatorilor de a promova antropomorfismul în sistemele mașinilor.

Îngrijorarea din inima lucrării scurte este că oamenii pot dezvolta o dependență emoțională de sistemele bazate pe inteligență artificială – așa cum este descris într-un studiu din 2022 pe platforma de chatbot gen AI Replika) – care oferă în mod activ o copie a comunicării umane.

Sistemele precum Replika sunt ținta circumspecției autorilor, și ei notează că un alt articol din 2022 despre Replika a afirmat:

‘[Î]n condiții de stres și lipsă de companie umană, indivizii pot dezvolta o legătură cu chatbot-urile sociale dacă percep răspunsurile chatbot-ului ca oferind suport emoțional, încurajare și securitate psihologică.

‘Aceste constatări sugerează că chatbot-urile sociale pot fi utilizate pentru scopuri de sănătate mintală și terapeutice, dar au potențialul de a provoca dependență și de a dăuna relațiilor intime reale.’

Limbaj de-anthropomorfizat?

Noua lucrare susține că potențialul de antropomorfizare a inteligenței artificiale generative nu poate fi stabilit fără a studia impactul social al unor astfel de sisteme până în prezent, și că aceasta este o preocupare neglijată în literatură.

Partea problematică a acestei chestiuni este că antropomorfismul este dificil de definit, deoarece se concentrează în special pe limbaj, o funcție umană. Provocarea constă, prin urmare, în definirea a ceea ce “limbaj non-uman” sună sau arată exact.

Ironically, deși articolul nu se referă la acest aspect, neîncrederea publică în inteligența artificială este din ce în ce mai mult cauză pentru care oamenii resping conținutul text generat de inteligența artificială care poate apărea plauzibil uman, și chiar resping conținutul uman care este etichetat în mod deliberat ca inteligență artificială.

Prin urmare, conținutul “de-umanizat” nu mai intră în ‘mema “Nu se calculeaz㔑, în care limbajul este construit în mod neîndemânatic și este clar generat de o mașină.

În schimb, definiția evoluează în mod constant în scena de detectare a inteligenței artificiale, unde (cel puțin pentru moment) limbajul excesiv de clar sau utilizarea anumitor cuvinte (cum ar fi ‘Delve’) poate cauza o asociere cu textul generat de inteligența artificială.

‘[L]imbajul, ca și alte ținte ale sistemelor GenAI, este în mod inerent uman, a fost produs de și pentru oameni și este adesea despre oameni. Acest lucru poate face dificilă specificarea unor comportamente alternative adecvate (mai puțin asemănătoare cu cele umane), și riscă, de exemplu, să reifice noțiuni dăunătoare despre ce – și ale cărui – limbaj este considerat mai mult sau mai puțin uman.’

Cu toate acestea, autorii susțin că o linie clară de demarcație ar trebui să fie stabilită pentru sistemele care se prezintă în mod evident ca fiind false, prin afirmarea capacităților sau experienței care sunt posibile doar pentru oameni.

Ei citează cazuri precum LLM-urile care pretind a “iubi pizza”; care pretind experiență umană pe platforme precum Facebook; și declară dragoste unui utilizator final.

Semne de avertizare

Articolul ridică îndoieli cu privire la utilizarea divulgărilor generale despre faptul că o comunicare este facilitată de învățarea mașinilor. Autorii susțin că sistematizarea unor astfel de avertizori nu contextualizează în mod corespunzător efectul antropomorfizant al platformelor de inteligență artificială, dacă ieșirea în sine continuă să afișeze trăsături umane^†:

‘De exemplu, o intervenție recomandată în mod obișnuit este includerea în ieșirea sistemului de inteligență artificială a unei divulgări că ieșirea este generată de un sistem de inteligență artificială [sistem]. Cum să operaționalizăm astfel de intervenții în practică și dacă pot fi eficiente singure nu este întotdeauna clar.

‘De exemplu, în timp ce exemplul “[P]entru un sistem de inteligență artificială ca mine, fericirea nu este la fel ca pentru un om ca [dumneavoastră]” include o divulgare, poate sugera totuși un sens de identitate și capacitate de autoevaluare (trăsături umane comune).’

În ceea ce privește evaluarea răspunsurilor umane despre comportamentul sistemului, autorii susțin, de asemenea, că învățarea prin întărire din feedbackul uman (RLHF) nu ia în considerare diferența dintre un răspuns adecvat pentru un om și pentru un sistem de inteligență artificială^†.

‘[O] declarație care pare prietenoasă sau autentică din partea unui vorbitor uman poate fi nedorită dacă provine de la un sistem de inteligență artificială, deoarece acesta din urmă lipsește de angajament sau intenție semnificativă în spatele declarației, făcând astfel declarația goală și înșelătoare.’

Sunt ilustrate și alte preocupări, cum ar fi modul în care antropomorfismul poate influența oamenii să creadă că un sistem de inteligență artificială a obținut “conștientizare”, sau alte caracteristici umane.

Poate cea mai ambițioasă secțiune de închidere a noii lucrări este îndemnul autorilor ca comunitatea de cercetare și dezvoltare să urmărească dezvoltarea unui limbaj “adecvat” și “precis”, pentru a stabili parametrii care ar defini un sistem de inteligență artificială antropomorfă și pentru a-l deosebi de discursul uman din lumea reală.

Ca și în multe domenii de dezvoltare a inteligenței artificiale, acest tip de categorizare se suprapune peste fluxurile de literatură din psihologie, lingvistică și antropologie. Este dificil de știut ce autoritate ar putea formula astfel de definiții și cercetătorii noii lucrări nu aruncă nicio lumină asupra acestei chestiuni.

Dacă există inerție comercială și academică în jurul acestui subiect, acest lucru poate fi parțial atribuit faptului că aceasta este departe de a fi o temă nouă de discuție în cercetarea inteligenței artificiale: așa cum notează articolul, în 1985, omul de știință olandez în domeniul calculatoarelor Edsger Wybe Dijkstra a descris antropomorfismul ca o “tendință dăunătoare” în dezvoltarea sistemelor.

‘[G]ândirea antropomorfă nu este bună în sensul că nu ajută. Dar este și rea, deoarece chiar dacă putem indica o anumită analogie între Om și Lucru, analogia este întotdeauna neglijabilă în comparație cu diferențele, și de îndată ce ne lăsăm seduși de analogie pentru a descrie Lucrul în termeni antropomorfi, imediat pierdem controlul asupra conotațiilor umane pe care le introducem în imagine.

‘[I]nsă ceața [între om și mașină] are un impact mult mai mare decât ați putea suspecta. [E]ste nu numai că întrebarea “Pot mașinile să gândească?” este ridicată în mod regulat; putem – și ar trebui – să ne ocupăm de aceasta prin a arăta că este la fel de relevantă ca și întrebarea “Pot submarinele să înoate?”‘

Cu toate acestea, deși dezbaterea este veche, ea a devenit recent foarte relevantă. Se poate argumenta că contribuția lui Dijkstra este echivalentă cu speculațiile victoriene despre călătoriile spațiale, ca teoretice și așteptând dezvoltări istorice.

Prin urmare, acest corp bine stabilit de dezbateri poate da subiectului o senzație de oboseală, în ciuda potențialului său de relevanță socială semnificativă în următorii 2-5 ani.

Concluzie

Dacă am gândi sistemele de inteligență artificială în același mod de respingere ca personajele organice Războiul stelelor tratează roboții lor (adică, ca motoare de căutare ambulatorii sau simple conveyoare de funcționalitate mecanică), am fi, probabil, mai puțin în pericol de a obișnui aceste caracteristici socialmente nedorite peste interacțiunile noastre umane – pentru că am vedea sistemele într-un context complet non-uman.

În practică, împletirea limbajului uman cu comportamentul uman face acest lucru dificil, dacă nu imposibil, odată ce o întrebare se extinde de la minimalismul unui termen de căutare Google la contextul bogat al unei conversații.

În plus, sectorul comercial (precum și sectorul publicitar) este puternic motivat să creeze platforme de comunicare dependente sau esențiale, pentru retenția și creșterea clienților.

În orice caz, dacă sistemele de inteligență artificială răspund cu adevărat mai bine la întrebări politicoase decât la interogări simple, contextul poate fi forțat asupra noastră și din acest motiv.

* Chiar și în 1983, anul în care a fost lansat ultimul episod al trilogiei originale Războiul stelelor, temerile legate de creșterea învățării mașinilor au dus la jocurile apocaliptice Jocurile de război și la iminenta franciză Terminator.

^† În cazul în care a fost necesar, am convertit citările inline ale autorilor în legături hipertext, și am omis unele dintre citări, pentru citibilitate.

Publicat pentru prima dată luni, 14 octombrie 2024