Juliette Powell și Art Kleiner, autori ai cărții The AI Dilemma – Seria de interviuri

Cartea The AI Dilemma a fost scrisă de Juliette Powell și Art Kleiner.

Juliette Powell este autoare, creator de televiziune cu 9.000 de emisiuni live în portofoliu, și tehnolog și sociolog. Ea este, de asemenea, comentator la Bloomberg TV/ Business News Networks și vorbitor la conferințe organizate de The Economist și Corporația Finanțelor Internaționale. Prezentarea ei TED are 130.000 de vizualizări pe YouTube. Juliette identifică modelele și practicile liderilor de afaceri de succes care se bazează pe inteligență artificială etică și date pentru a câștiga. Ea predă la NYU’s ITP, unde predă patru cursuri, inclusiv Design Skills for Responsible Media, un curs bazat pe cartea ei.

Art Kleiner este scriitor, editor și futurist. Printre cărțile sale se numără The Age of Heretics, Who Really Matters, Privilege and Success și The Wise. El a fost editor al revistei strategy+business, publicată de PwC. Art este, de asemenea, membru al facultății NYU-ITP și IMA, unde predă cursuri, inclusiv co-predarea Responsabil Technology and the Future of Media.
“The AI Dilemma” este o carte care se concentrează pe pericolele tehnologiei de inteligență artificială în mâinile greșite, în timp ce recunoaște, de asemenea, beneficiile pe care inteligența artificială le oferă societății.

Problemele apar pentru că tehnologia subiacentă este atât de complexă încât devine imposibil pentru utilizatorul final să înțeleagă cu adevărat funcționarea internă a unui sistem închis.

Una dintre cele mai semnificative probleme subliniate este modul în care definiția inteligenței artificiale responsabile se schimbă mereu, deoarece valorile societății nu rămân întotdeauna constante în timp.

Mi-a plăcut mult să citesc “The AI Dilemma”. Este o carte care nu sensibilizează pericolele inteligenței artificiale și nici nu se adâncește prea mult în posibilele capcane ale inteligenței artificiale generale (AGI). În schimb, cititorii învață despre modurile surprinzătoare în care datele noastre personale sunt utilizate fără cunoștința noastră, precum și despre unele dintre limitările actuale ale inteligenței artificiale și motivele de îngrijorare.

Mai jos sunt câteva întrebări care sunt menite să arate cititorilor noștri ce pot aștepta de la această carte deosebită.

Ce v-a inspirat inițial să scrieți “The AI Dilemma”?

Juliette a mers la Columbia pentru a studia limitele și posibilitățile de reglementare a inteligenței artificiale. Ea a auzit direct de la prieteni care lucrau la proiecte de inteligență artificială despre tensiunea inerentă în aceste proiecte. Ea a ajuns la concluzia că există o dilemă a inteligenței artificiale, o problemă mult mai mare decât autoreglementarea. Ea a dezvoltat modelul Apex benchmark – un model de luare a deciziilor despre inteligența artificială care tinde spre o responsabilitate scăzută din cauza interacțiunilor dintre companii și grupuri din cadrul companiilor. Acest lucru a condus la teza ei de doctorat.

Art a lucrat cu Juliette la mai multe proiecte de scriere. El a citit teza ei de doctorat și a spus: “Ai o carte aici.” Juliette l-a invitat să co-scrie cartea. În timp ce lucrau împreună, ei au descoperit că aveau perspective foarte diferite, dar împărtășeau o viziune puternică că acest fenomen complex și riscant de inteligență artificială va trebui să fie înțeles mai bine, astfel încât oamenii care îl utilizează să poată acționa mai responsabil și mai eficient.

Una dintre problemele fundamentale subliniate în The AI Dilemma este modul în care, în prezent, este imposibil să înțelegem dacă un sistem de inteligență artificială este responsabil sau dacă perpetuează inegalitatea socială prin simpla studiere a codului sursă. Cât de mare este această problemă?

Problema nu este în primul rând cu codul sursă. Așa cum subliniază Cathy O’Neil, atunci când există un sistem închis, nu este vorba doar de cod. Este vorba de sistemul sociotehnic – forțele umane și tehnologice care se influențează reciproc – care trebuie explorat. Logica care a construit și lansat sistemul de inteligență artificială a implicat identificarea unui scop, identificarea datelor, stabilirea priorităților, crearea de modele, stabilirea de ghiduri și garduri pentru învățarea automată și decizia cu privire la momentul și modul în care un om ar trebui să intervină. Aceasta este partea care trebuie să fie transparentă – cel puțin pentru observatori și auditori. Riscul de inegalitate socială și alte riscuri sunt mult mai mari atunci când aceste părți ale procesului sunt ascunse. Nu puteți reingineriza logica de proiectare din codul sursă.

Putem rezolva această problemă prin focalizarea pe Inteligența Artificială Explicabilă (XAI)?

Pentru ingineri, inteligența artificială explicabilă este considerată în prezent un grup de constrângeri tehnologice și practici, menite să facă modelele mai transparente pentru oamenii care lucrează cu ele. Pentru cineva care este acuzat fals, explicabilitatea are o semnificație și o urgență complet diferite. Ei au nevoie de explicabilitate pentru a putea riposta în apărarea lor. Toți avem nevoie de explicabilitate în sensul de a face deciziile comerciale sau guvernamentale care stau la baza modelelor clare. Cel puțin în Statele Unite, va exista întotdeauna o tensiune între explicabilitate – dreptul omului de a ști – și dreptul unei organizații de a concura și inova. Auditorii și regulatorii au nevoie de un nivel diferit de explicabilitate. Ne vom ocupa de acest lucru în detaliu în The AI Dilemma.

Puteți împărtăși opinia dvs. despre importanța responsabilității stakeholderilor (companiilor de inteligență artificială) pentru codul pe care îl lansează în lume?

Până acum, de exemplu, în cazul coliziunii mașinii autonome din Tempe, Arizona, care a ucis un pieton, operatorul a fost ținut responsabil. Un individ a fost trimis în închisoare. În cele din urmă, totuși, a fost o eșec organizatoric.

Când un pod se prăbușește, inginerul mecanic este ținut responsabil. Acest lucru se datorează faptului că inginerii mecanici sunt instruiți, reinstruiți în mod constant și ținuți responsabili de profesia lor. Inginerii informatici nu sunt.

Trebuie ca stakeholderii, inclusiv companiile de inteligență artificială, să fie instruiți și reinstruiți pentru a lua decizii mai bune și a avea o responsabilitate mai mare?

Cartea The AI Dilemma se concentrează mult pe modul în care companii precum Google (GOOGL ) și Meta pot colecta și monetiza datele noastre personale. Puteți împărtăși un exemplu de utilizare abuzivă a datelor noastre care ar trebui să fie pe radarul tuturor?

Din The AI Dilemma, pagina 67 și următoarele:

Noi cazuri de utilizare abuzivă a datelor personale continuă să apară în vedere publică, multe implicând utilizarea ascunsă a recunoașterii faciale. În decembrie 2022, MIT Technology Review a publicat relatări despre o practică de lungă durată a iRobot. Roomba robotul de curățenie casnic înregistrează imagini și videoclipuri luate în casele voluntarilor testatori, ceea ce înseamnă în mod inevitabil colectarea de imagini și informații personale și de familie. Acestea sunt distribuite, fără ca testatorii să știe, unor grupuri din afara țării. În cel puțin un caz, o imagine a unei persoane pe un vas de toaletă a fost postată pe Facebook (META ). Între timp, în Iran, autoritățile au început să utilizeze datele de la sistemele de recunoaștere facială pentru a urmări și a aresta femei care nu poartă hijab.16

Nu este nevoie să prelungim aceste povești. Există atât de multe. Este important, totuși, să identificăm efectul cumulativ al vieții în acest mod. Pierdem sentimentul de control asupra vieții noastre atunci când simțim că informațiile noastre personale ar putea fi utilizate împotriva noastră, în orice moment, fără avertisment.

Un concept periculos care a fost adus în discuție este modul în care întreaga noastră lume este proiectată pentru a fi lipsită de fricțiune, definiția fricțiunii fiind “orice punct din călătoria clientului cu o companie în care el lovește un obstacol care îl încetinește sau îi cauzează nemulțumire.” Cum ne poate duce așteptarea unei experiențe lipsite de fricțiune la inteligență artificială periculoasă?

În Noua Zeelandă, un robot de masă Pak’n’Save a sugerat o rețetă care ar fi creat gaz de clor dacă ar fi fost utilizată. Acest lucru a fost promovat ca o modalitate pentru clienți de a utiliza resturile și de a economisi bani.

Lipsa de fricțiune creează o iluzie de control. Este mai rapid și mai ușor să asculți aplicația decât să căutați rețeta bunicii. Oamenii urmează calea cu rezistență minimă și nu realizează unde îi duce.

Fricțiunea, pe de altă parte, este creativă. Vă implicați. Acest lucru duce la control real. Controlul real necesită atenție și muncă, și – în cazul inteligenței artificiale – efectuarea unei analize cost-beneficiu extinse.

Cu iluzia controlului, pare că trăim într-o lume în care sistemele de inteligență artificială îi îndrumă pe oameni, în loc ca oamenii să rămână pe deplin în control. Puteți oferi exemple de situații în care oamenii cred colectiv că au control, dar de fapt nu au niciun control?

În San Francisco, în prezent, cu robotaxi. Ideea de taxiuri autonome ridică două emoții contradictorii: entuziasm (“taxiuri la un cost mult mai mic!”) și teamă (“o vor lovi?”). Prin urmare, mulți regulatori sugerează ca mașinile să fie testate cu oameni în ele, care pot controla comenzile. Din nefericire, având oameni pe alertă, gata să anuleze sistemele în timp real, poate să nu fie un test bun al siguranței publice. Supraîncrederea este o dinamică frecventă a sistemelor de inteligență artificială. Cu cât sistemul este mai autonom, cu atât operatorii umani tind să aibă încredere în el și să nu acorde atenție deplină. Ne plictisim urmărind aceste tehnologii. Când un accident este pe cale să se întâmple, nu ne așteptăm la el și adesea nu reacționăm la timp.

Multă cercetare a fost efectuată pentru această carte, a fost ceva care v-a surprins?

Un lucru care ne-a surprins cu adevărat a fost că oamenii din întreaga lume nu au putut să cadă de acord cu privire la cine ar trebui să trăiască și cine ar trebui să moară în simularea Moral Machine a unei coliziuni a unui vehicul autonom. Dacă nu putem să ne punem de acord cu privire la acest lucru, atunci este greu de imaginat că am putea avea guvernare globală unificată sau standarde universale pentru sistemele de inteligență artificială.

Vă descrieți pe voi înșivă ca antreprenori, cum vă vor influența cunoștințele și raportul pe care l-ați făcut asupra eforturilor dvs. viitoare?

Practica noastră de consultanță în inteligență artificială este orientată spre a ajuta organizațiile să crească în mod responsabil cu tehnologia. Avocați, ingineri, oameni de știință sociali și gânditori de afaceri sunt toți stakeholderi în viitorul inteligenței artificiale. În munca noastră, aducem împreună toate aceste perspective și practicăm fricțiunea creativă pentru a găsi soluții mai bune. Am dezvoltat cadre precum calculul riscului intenționat pentru a ajuta la navigarea acestor probleme.

Mulțumim pentru răspunsurile excelente, cititorii care doresc să afle mai multe ar trebui să viziteze The AI Dilemma.