Este AI o amenințare existențială?

Atunci când discutăm despre Inteligența Artificială (IA), o dezbatere comună este dacă IA este o amenințare existențială. Răspunsul necesită înțelegerea tehnologiei din spatele Învățării Automate (IA) și recunoașterea faptului că oamenii au tendința de a antropomorfiza. Vom explora două tipuri diferite de IA, Inteligența Îngustă Artificială (IIA), care este disponibilă acum și este o cauză de îngrijorare, și amenințarea care este cel mai frecvent asociată cu reprezentările apocaliptice ale IA, care este Inteligența Generală Artificială (IGA).

Amenințările Inteligenței Înguste Artificiale

Pentru a înțelege ce este IIA, trebuie doar să înțelegem că fiecare aplicație IA care este disponibilă în prezent este o formă de IIA. Acestea sunt domenii de IA care au un domeniu îngust de specialitate, de exemplu, vehiculele autonome folosesc IA care este proiectată cu scopul unic de a muta un vehicul de la punctul A la punctul B. Un alt tip de IIA ar putea fi un program de șah care este optimizat pentru a juca șah, și chiar dacă programul de șah se îmbunătățește continuu prin învățare automată, programul de șah nu va putea niciodată să opereze un vehicul autonom.

Cu accentul său pe orice operațiune pentru care este responsabil, sistemele IIA nu pot utiliza învățarea generalizată pentru a prelua controlul asupra lumii. Aceasta este vestea bună; vestea proastă este că, datorită dependenței sale de un operator uman, sistemul IA este susceptibil la date biasate, erori umane sau, și mai rău, un operator uman necinstit.

Supravegherea IA

Nu poate exista un pericol mai mare pentru omenire decât oamenii care folosesc IA pentru a invada intimitatea, și în unele cazuri, folosind supravegherea IA pentru a preveni complet oamenii să se miște liber. China, Rusia și alte națiuni au adoptat regulamente în timpul COVID-19 pentru a putea monitoriza și controla mișcările populațiilor lor. Acestea sunt legi care, odată adoptate, sunt greu de eliminat, mai ales în societățile cu lideri autocratici.

În China, camerele sunt amplasate în afara caselor oamenilor, și în unele cazuri, în interiorul casei. De fiecare dată când un membru al gospodăriei iese, un IA monitorizează ora de sosire și plecare, și, dacă este necesar, alertează autoritățile. Ca și cum aceasta nu ar fi suficient, cu ajutorul tehnologiei de recunoaștere facială, China poate urmări mișcările fiecărei persoane de fiecare dată când este identificată de o cameră. Acest lucru oferă putere absolută entității care controlează IA, și absolut zero recurs pentru cetățenii săi.

De ce acest scenariu este periculos, este că guvernele corupte pot monitoriza cu atenție mișcările jurnaliștilor, oponenților politici sau oricui îndrăznește să pună sub semnul întrebării autoritatea guvernului. Este ușor de înțeles cum jurnaliștii și cetățenii ar fi precauți în a critica guvernele atunci când fiecare mișcare este monitorizată.

Există, din fericire, multe orașe care luptă pentru a preveni recunoașterea facială să pătrundă în orașele lor. În mod remarcabil, Portland, Oregon a adoptat recent o lege care interzice recunoașterea facială să fie utilizată în mod nejustificat în oraș. Deși aceste schimbări în reglementare ar putea fi trecute cu vederea de către publicul larg, în viitor, aceste reglementări ar putea fi diferența dintre orașele care oferă un anumit grad de autonomie și libertate și orașele care se simt oprimoare.

Arme și drone autonome

Peste 4500 de cercetători IA au solicitat o interdicție a armelor autonome și au creat site-ul Ban Lethal Autonomous Weapons. Grupul are mulți semnatari notabili, printre care Human Rights Watch, Amnesty International și The Future of Life Institute, care are în sine un consiliu științific consultativ deosebit, incluzând Elon Musk, Nick Bostrom și Stuart Russell.

Înainte de a continua, voi împărtăși această citat de la The Future of Life Institute, care explică cel mai bine de ce există o cauză clară de îngrijorare: “În contrast cu armele semi-autonome care necesită supraveghere umană pentru a asigura că fiecare țintă este validată ca fiind etic și legal legitimă, armele complet autonome selectează și atacă ținte fără intervenție umană, reprezentând o automatizare completă a prejudiciului letal.”

În prezent, bombele inteligente sunt lansate cu o țintă selectată de un om, și bomba utilizează apoi IA pentru a trasa o cursă și a ateriza pe țintă. Problema este ce se întâmplă atunci când decidem să eliminăm complet omul din ecuație?

Când un IA alege ce oameni trebuie țintiți, precum și ce tip de daune colaterale este considerat acceptabil, putem fi depășiți de un punct de non-revenire. Acesta este motivul pentru care atât de mulți cercetători IA se opun cercetării oricărui lucru care este chiar și vag legat de arme autonome.

Există multiple probleme cu încercarea de a bloca pur și simplu cercetarea armelor autonome. Prima problemă este că, chiar dacă națiunile avansate, cum ar fi Canada, SUA și majoritatea Europei, aleg să se angajeze într-o interdicție, nu înseamnă că națiunile necinstite, cum ar fi China, Coreea de Nord, Iran și Rusia, vor juca de-a curatul. A doua și mai mare problemă este că cercetarea și aplicațiile IA care sunt proiectate pentru a fi utilizate într-un anumit domeniu pot fi utilizate într-un domeniu complet diferit.

De exemplu, viziunea computerizată se îmbunătățește continuu și este importantă pentru dezvoltarea vehiculelor autonome, a medicinei de precizie și a altor cazuri de utilizare importante. Este, de asemenea, fundamental importantă pentru dronele obișnuite sau pentru dronele care pot fi modificate pentru a deveni autonome. Un caz de utilizare potențială a tehnologiei drone avansate este dezvoltarea de drone care pot monitoriza și lupta împotriva incendiilor de pădure. Acest lucru ar elimina complet pompierii din calea pericolului. Pentru a face acest lucru, ar trebui să construim drone care pot zbura în calea pericolului, să navigheze în vizibilitate scăzută sau zero și să poată lansa apă cu precizie impecabilă. Nu este un salt prea mare pentru a utiliza aceeași tehnologie într-un dronă autonom care este proiectat pentru a ținti selectiv oameni.

Este o situație periculoasă și, în acest moment, nimeni nu înțelege pe deplin implicațiile dezvoltării sau încercării de a bloca dezvoltarea armelor autonome. Este, totuși, ceva la care trebuie să fim atenți, îmbunătățind protecția denunțătorilor poate permite celor din domeniu să raporteze abuzurile.

Operatorul necinstit, ce se întâmplă dacă biasul IA pătrunde în tehnologia IA care este proiectată pentru a fi o armă autonomă?

Biasul IA

Una dintre cele mai subraportate amenințări ale IA este biasul IA. Acesta este simplu de înțeles, deoarece majoritatea acestuia este neintenționat. Biasul IA se strecoară atunci când un IA examinează date care îi sunt furnizate de oameni, utilizând recunoașterea modelelor din datele care i-au fost furnizate, IA ajunge la concluzii nedorite care pot avea repercusiuni negative asupra societății. De exemplu, un IA care este alimentat cu literatură din secolul trecut despre cum să identifice personalul medical poate ajunge la concluzia nedorită că femeile sunt întotdeauna asistente medicale, iar bărbații sunt întotdeauna medici.

Un scenariu mai periculos este atunci când IA care este utilizată pentru a condamna criminali este biasată împotriva minorităților. Algoritmii de evaluare a riscului criminal ai IA studiază pur și simplu modelele din datele care au fost introduse în sistem. Aceste date indică faptul că, istoric, anumite minorități sunt mai susceptibile să recidiveze, chiar și atunci când acest lucru se datorează unor seturi de date proaste care pot fi influențate de profilarea rasială a poliției. IA biasată întărește politicile negative ale oamenilor. Acesta este motivul pentru care IA ar trebui să fie o linie directoare, niciodată judecător și juriu.

Revenind la armele autonome, dacă avem un IA care este biasat împotriva anumitor grupuri etnice, ar putea alege să țintască anumite persoane pe baza datelor biasate, și ar putea merge atât de departe încât să asigure că orice fel de daune colaterale afectează anumite demografii mai puțin decât altele. De exemplu, atunci când țintesc un terorist, înainte de a ataca, ar putea aștepta până când teroristul este înconjurat de cei care urmează credința musulmană, și nu de creștini.

Din fericire, a fost dovedit că IA care este proiectată cu echipe diverse sunt mai puțin susceptibile la bias. Acesta este motivul suficient pentru ca întreprinderile să încerce, ori de câte ori este posibil, să angajeze o echipă diversă și bine rotunjită.

Amenințările Inteligenței Generale Artificiale

Trebuie menționat că, deși IA este în plină expansiune, nu am atins încă IGA. Când vom atinge IGA este subiect de dezbatere, și toată lumea are un răspuns diferit cu privire la un calendar. Eu personal mă alătur punctului de vedere al lui Ray Kurzweil, inventator, futurist și autor al “Singurătății este aproape”, care crede că vom atins IGA până în 2029.

IGA va fi cea mai transformativă tehnologie din lume. În săptămâni de la atingerea inteligenței la nivel uman, va atinge suprainteligență, care este definită ca inteligență care depășește cu mult cea a unui om.

Cu acest nivel de inteligență, o IGA ar putea absorbi rapid toate cunoștințele umane și utiliza recunoașterea modelelor pentru a identifica biomarkeri care cauzează probleme de sănătate, și apoi trata aceste afecțiuni utilizând știința datelor. Ar putea crea nanoroboți care intră în fluxul sanguin pentru a ținti celulele canceroase sau alte vectori de atac. Lista realizărilor pe care o IGA le poate face este infinită. Am explorat anterior unele dintre beneficiile IGA.

Problema este că oamenii ar putea să nu mai poată controla IA. Elon Musk o descrie astfel: “Cu inteligența artificială, chemăm demonul”. Vom putea controla acest demon este întrebarea?

Atingerea IGA poate fi pur și simplu imposibilă până când un IA nu părăsește un mediu de simulare pentru a interacționa cu adevărat în lumea noastră deschisă. Conștientizarea de sine nu poate fi proiectată, în schimb se crede că o conștientizare emergentă este probabil să evolueze atunci când un IA are un corp robotic cu multiple fluxuri de intrare. Aceste intrări pot include stimulare tactilă, recunoaștere vocală cu înțelegere naturală a limbajului și viziune computerizată îmbunătățită.

IA avansat poate fi programat cu motive altruiste și poate dori să salveze planeta. Din nefericire, IA poate utiliza știința datelor sau chiar un arbore de decizie pentru a ajunge la o logică defectuoasă nedorită, cum ar fi evaluarea că este necesar să sterilizeze oamenii sau să elimine o parte a populației umane pentru a controla suprapopularea.

Gândirea și deliberarea atente sunt necesare atunci când se construiește un IA cu inteligență care va depăși cu mult cea a unui om. Au existat multe scenarii de coșmar care au fost explorate.

Professor Nick Bostrom în argumentul Paperclip Maximizer a susținut că un IA prost configurat, dacă i s-a dat sarcina de a produce clipe, ar consuma toate resursele Pământului pentru a produce aceste clipe. Deși acest lucru pare puțin exagerat, o perspectivă mai pragmatică este că un IA poate fi controlat de un stat sau o corporație cu etică proastă. Această entitate ar putea antrena IA pentru a maximiza profiturile, și, în acest caz, cu programe proaste și zero remușcări, ar putea alege să falimenteze concurenții, să distrugă lanțurile de aprovizionare, să hackeze piața bursieră, să lichideze conturile bancare sau să atace oponenții politici.

Acesta este momentul în care trebuie să ne amintim că oamenii tind să antropomorfizeze. Nu putem da IA emoții, dorințe sau dorințe umane. Deși există oameni diabolici care ucid pentru plăcere, nu există niciun motiv să credem că un IA ar fi susceptibil la acest tip de comportament. Este de neconceput pentru oameni să înțeleagă cum un IA ar vedea lumea.

În schimb, ceea ce trebuie să facem este să învățăm IA să fie întotdeauna deferentă față de un om. IA ar trebui să aibă întotdeauna un om care să confirme orice schimbări în setări, și ar trebui să existe întotdeauna un mecanism de siguranță. Apoi, din nou, s-a argumentat că IA va replica pur și simplu în cloud, și, până când ne dăm seama că este conștient, poate fi prea târziu.

Acesta este motivul pentru care este atât de important să deschidem sursa cât mai multă IA și să avem discuții raționale cu privire la aceste probleme.

Rezumat

Există multe provocări pentru IA, dar, din fericire, avem încă mulți ani pentru a figura collectiv drumul pe care vrem să mergem cu IGA. Ar trebui să ne concentrăm pe termen scurt pe crearea unei forțe de muncă IA diverse, care să includă atâtea femei câte bărbați, și atâtea grupuri etnice cu puncte de vedere diverse cât mai mult posibil.

Ar trebui, de asemenea, să creăm protecții pentru denunțători pentru cercetătorii care lucrează la IA, și ar trebui să adoptăm legi și reglementări care să prevină abuzul pe scară largă de supraveghere de stat sau de companie. Oamenii au o oportunitate unică în viață de a îmbunătăți condiția umană cu ajutorul IA, trebuie doar să ne asigurăm că creăm cu atenție un cadru societal care să permită cel mai bine aspectele pozitive, în timp ce reduce negativitatea, care include amenințările existențiale.