Nu mai aliniem AI-uri. Aliniem civilizații.

De mulți ani, principala întrebare în inteligența artificială (AI) a fost cum să aliniem modelele de inteligență artificială cu valorile umane. Cercetătorii au încercat să definească reguli de siguranță, principii etice și mecanisme de control care să ghideze deciziile AI. Această muncă a realizat progrese semnificative. Dar acum, pe măsură ce aceste sisteme de inteligență artificială devin mai capabile și mai răspândite, focalizarea alinierii începe să se schimbe. Ce a început ca o provocare de a alinia un singur model la un singur set de instrucțiuni a devenit acum o provocare mult mai mare de a alinia întregi civilizații care utilizează aceste sisteme la scară globală. AI nu mai este doar un instrument. Se evoluează într-un mediu în care societățile lucrează, comunică, negociază și concurează. Ca urmare, alinierea nu mai rămâne o problemă tehnică. A devenit o problemă civilizațională. În acest articol, explic de ce alinierea nu mai este doar despre modele și de ce trebuie să începem să gândim în termeni de civilizații, nu de mașini. De asemenea, discut cum această schimbare afectează responsabilitățile noastre și ce înseamnă pentru cooperarea globală.

Cărui valorilor le reprezintă AI cu adevărat?

Dacă întrebi un AI despre un eveniment istoric sensibil, răspunsul său depinde de datele pe care le-a studiat. Dacă aceste date provin în mare parte de pe internetul occidental, răspunsul va avea o bias occidentală. Va prioritiza individualismul, libertatea de exprimare și idealurile democratice. Acestea sunt valori bune pentru multe persoane. Dar nu sunt singurele valori din lume.

Un utilizator din Singapore, un utilizator din Riyadh și un utilizator din San Francisco au definiții diferite ale a ceea ce este “util” și ale a ceea ce este “dăunător”. În unele culturi, armonia socială este mai importantă decât libertatea absolută de exprimare. În altele, respectul pentru ierarhie este mai important decât perturbarea.

Când o companie din Silicon Valley utilizează “Reinforcement Learning from Human Feedback” (RLHF), angajează oameni pentru a evalua răspunsurile AI. Dar cine sunt acești oameni? Care sunt credințele lor? Dacă aliniază modelul cu standardele americane, construiesc accidental o export cultural american. Construiesc un diplomat digital care impune regulile unei anumite civilizații asupra restului lumii.

Apariția buclelor de feedback

Provocarea nu este doar că AI reflectă credințele unei culturi. Este modul în care aceste credințe pot să ne schimbe. Sistemele moderne de inteligență artificială au potențialul de a modela comportamentul indivizilor, organizațiilor și chiar națiunilor. Pot influența modul în care gândim, lucrăm, ne încredem și concurează. Acest lucru creează bucle de feedback între sistemele de inteligență artificială și societățile umane; antrenăm AI și AI ne modelează gândirea și acțiunile. Aceste bucle devin mai puternice pe măsură ce AI devine mai pervaziv. Pentru a vedea cum funcționează această buclă de feedback, iată două exemple:

• Implementarea la scară largă a AI schimbă comportamentul social, iar comportamentul social schimbă datele care antrenează noi sisteme. De exemplu, un algoritm de recomandare poate modela ceea ce oamenii văd, citesc și cred. Unelte de productivitate rescriu modul în care echipele colaborează și modul în care studenții învață. Aceste schimbări în comportament modifică modelele de date sub formă de obiceiuri de vizualizare diferite, modele de comunicare la locul de muncă sau stiluri de scriere. Când aceste date curg în seturile de date de antrenament viitoare, modelele ajustează ipotezele și ieșirile corespunzător. Comportamentul uman modelează modelele, iar modelele, la rândul lor, modelează comportamentul uman.
• Uneltele de decizie automate influențează politica publică, iar politica publică influențează antrenamentul viitoarelor modele. De exemplu, multe guverne utilizează acum AI pentru a sugera unde să aloce resurse, cum ar fi identificarea cartierelor care au nevoie de mai mult sprijin medical sau a zonelor care ar putea prezenta un risc mai mare de criminalitate. Când factorii de decizie acționează în conformitate cu aceste recomandări, rezultatele acestor decizii devin ulterior parte a noilor seturi de date. În timp, deciziile politice modelate de AI ajung să modeleze următoarea generație de modele de inteligență artificială.

Odată ce recunoașteți această buclă de feedback, devine clar că AI modelează și aliniază civilizații. Ca urmare, națiunile încep să întrebe: Cum pot să-și protejeze valorile în timp ce integrează AI în societățile și instituțiile lor?

Apariția AI suveran

Această provocare de aliniere a declanșat o reacție semnificativă din partea guvernelor din întreaga lume. Națiunile și-au dat seama că depinderea de AI importat este un risc pentru suveranitatea lor. Nu își pot permite ca cetățenii lor să fie educați, informați și consiliați de o cutie neagră care gândește ca un străin.

Acestă realizare a condus la apariția “AI suveran“. Franța investește puternic pentru a construi modele care vorbesc franceza și înțeleg legea și cultura franceză. India construiește modele de inteligență artificială indigene pentru a-și asigura valorile culturale. Emiratele Arabe Unite și China construiesc modele de inteligență artificială aliniate cu viziunile lor naționale.

Acesta este noul cursă a înarmării. Este o cursă pentru controlul narativ. O civilizație care nu are propria sa inteligență artificială va pierde în cele din urmă propria sa memorie. Dacă copiii dvs. întreabă o mașină și mașina răspunde cu logica unei alte culturi, cultura dvs. începe să se erodeze. Această realizare, cu toate acestea, poate duce la formarea unor blocuri digitale distincte. Ne putem termina cu un AI occidental, un AI chinez, un AI indian și așa mai departe. Aceste sisteme vor funcționa cu fapte și busole morale diferite. Aceste evoluții fac clar că, dacă vrem să creăm un model de inteligență artificială aliniat cu adevărat, trebuie să găsim mai întâi o modalitate de a alinia civilizații.

Nevoia de AI diplomatic

Alinierea tradițională presupune că un model poate fi aliniat prin antrenament, promptare și garduri de protecție. Această gândire provine din mentalitatea tehnică a cercetării inițiale a securității AI. Dar chiar și alinierea perfectă a modelului nu poate rezolva provocările alinierii civilizațiilor. Alinierea nu poate rămâne stabilă atunci când societățile se îndreaptă în direcții opuse. Dacă țările, companiile și comunitățile au obiective contradictorii, vor împinge sistemele de inteligență artificială să reflecte aceste conflicte. Aceste limite arată că alinierea nu este doar o problemă tehnică. Este o problemă de guvernanță, culturală și de coordonare. Și aceste probleme necesită nu doar experți sau dezvoltatori. Implică întregi civilizații.

Deci, cum procedăm? Dacă acceptăm că alinierea universală este imposibilă, trebuie să schimbăm strategia. Trebuie să încetăm să căutăm o soluție tehnică pentru o problemă filosofică. Trebuie să începem să gândim ca diplomați. Trebuie să construim protocoale pentru “Alinierea Civilizațiilor”. Trebuie să descoperim cum AI poate respecta credințele și valorile unei societăți fără a impune altor culturi credințele altora. Cu alte cuvinte, avem nevoie de o Națiuni Unite digitală pentru algoritmii noștri.

Acest lucru necesită transparență. În prezent, nu știm cu adevărat care sunt valorile ascunse în straturile profunde ale unei rețele neuronale. Vedem doar ieșirea. Pentru a alinia civilizații, trebuie să fim clari cu privire la “Constituția” fiecărui model. Un model ar trebui să poată declara prejudecățile sale. Ar trebui să poată spune: “Sunt antrenat pe aceste date, cu aceste reguli de siguranță, prioritizând aceste valori.” Doar atunci când prejudecățile sunt vizibile putem avea încredere în sistem. Un utilizator ar trebui să poată comuta între perspective. Ar trebui să poată pune o întrebare și să vadă cum răspunde un model “occidental” versus cum răspunde un model “oriental”. Acest lucru ar transforma AI într-un instrument de înțelegere, în loc de un instrument de indoctrinare.

Rezumatul

Am petrecut prea mult timp îngrijorându-ne de Terminator. Riscul real nu este că un robot ne va distruge. Riscul real este că un robot ne va face să uităm cine suntem. Alinierea nu este un cod pe care îl putem scrie o dată și uita. Este o negociere constantă cu modelele de inteligență artificială pentru a le ține aliniate cu credințele și valorile noastre. Este un act politic. Pe măsură ce intrăm în această nouă fază a erei inteligenței, trebuie să privim dincolo de ecran. Trebuie să considerăm cum AI interpretează istoria noastră, granițele noastre și credințele noastre. Construim mințile care ne vor ajuta să guverneze lumea. Trebuie să ne asigurăm că aceste minți respectă diferențele dintre civilizații.