Cercetătorii spun că oamenii nu ar putea controla un sistem de inteligență artificială superinteligent

Oricine este conștient de inteligența artificială (IA) a auzit probabil o versiune despre faptul că aceasta va scăpa în cele din urmă de sub controlul uman. Acest lucru nu este doar un temă din filmele științifico-fantastice, ci mai degrabă o posibilitate foarte puternică care îi îngrijorează pe mulți experți din industrie. Mulți dintre acești experți, inclusiv oameni de știință, susțin că ar trebui să începem să ne pregătim pentru această posibilitate și să o evităm în orice mod posibil.

Acum, o echipă internațională de cercetători a luat această idee și a susținut-o cu calcule teoretice. Echipa, care a inclus oameni de știință de la Centrul pentru Oameni și Mașini de la Institutul Max Planck pentru Dezvoltarea Umană, a folosit aceste calcule pentru a demonstra modul în care nu ar fi posibil să controlăm un sistem de inteligență artificială superinteligent.

Cercetarea a fost publicată recent în Journal of Artificial Intelligence Research.

Sistem de inteligență artificială superinteligent

Teamă față de un sistem de inteligență artificială superinteligent se datorează faptului că un astfel de sistem ar fi mult superior oamenilor. Ar putea să învețe independent, să aibă acces la toate datele existente și să le proceseze extrem de rapid.

Un astfel de eveniment ar putea duce la faptul că sistemul de inteligență artificială superinteligent preia controlul asupra tuturor mașinilor existente online, iar deși ar putea și ar face lucruri precum vindecarea bolilor și rezolvarea altor probleme majore cu care se confruntă omenirea, riscul ca lucrurile să scape de sub control este, de asemenea, ridicat.

Manuel Cebrian este coautor al studiului și lider al Grupului de Mobilizare Digitală de la Centrul pentru Oameni și Mașini, Institutul Max Planck pentru Dezvoltarea Umană.

“Un sistem mașină superinteligent care controlează lumea sună a fi ficțiune științifică. Dar există deja mașini care efectuează anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum au învățat. Prin urmare, se ridică întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru omenire”, spune Cebrian.

Controlul sistemului

Există două școli de gândire majore atunci când vine vorba de controlul unui astfel de sistem. În primul rând, oamenii ar putea limita capacitățile unui sistem de inteligență artificială superinteligent prin restricționarea accesului la unele surse de date, cum ar fi întreaga internet. Sistemul ar putea funcționa și fără a intra în contact cu lumea exterioară. Cu toate acestea, problema cu acest lucru este că ar limita drastic potențialul sistemului.

Sistemul ar fi controlat prin permisiunea de a urmări doar rezultate care ar beneficia omenirea, și acest lucru ar putea fi realizat prin programarea principiilor etice în sistem.

Studiul a implicat dezvoltarea unei algoritmi teoretice de conținere care împiedică sistemul de inteligență artificială superinteligent să dăuneze oamenilor în orice împrejurare. Acest lucru poate fi realizat prin crearea unei simulări a comportamentului sistemului și detectarea oricărui comportament care ar putea fi dăunător. În ciuda acestei teorii promițătoare, analiza actuală arată că un astfel de algoritm nu poate fi dezvoltat.

Iyad Rahwan este director al Centrului pentru Oameni și Mașini.

“Dacă descompui problema în reguli de bază din informatica teoretică, se dovedește că un algoritm care ar comanda unui IA să nu distrugă lumea ar putea, în mod inadvertent, să își oprească propriile operațiuni. Dacă s-ar întâmpla acest lucru, nu ai ști dacă algoritmul de conținere încă analizează amenințarea sau dacă a oprit sistemul IA dăunător. În esență, acest lucru face algoritmul de conținere inutilizabil”, spune Rahwan.

O altă problemă este că experții ar putea să nu-și dea seama când o mașină superinteligentă ajunge în acea stare, în mare parte din cauza faptului că ar fi mai inteligentă decât oamenii.