Complezența automatizării: cum să puneți oamenii înapoi în buclă

Într-o întorsătură dramatică a evenimentelor, Robotaxis, vehicule autonome care preiau tarife fără operator uman, au fost lansate recent în San Francisco. Dupa o audiere publică litigioasă de 7 ore, decizia a fost luată acasă de comisia de utilități publice din California. În ciuda protestelor, există un sentiment de inevitabilitate în aer. De atunci, California a slăbit treptat restricțiile începutul anului 2022. Noile reguli permit celor două companii cu permise – Alphabet’s Waymo și GM’s Cruise – să trimită aceste taxiuri oriunde în orașul de 7 mile pătrate, cu excepția autostrăzilor, și să perceapă tarife călătorilor.

Ideea taxiurilor autonome tinde să treacă la iveală două emoții conflictuale: entuziasm („taxis la un cost mult mai mic!”) și frică („vor să mă lovească pe mine sau pe copiii mei?”). Astfel, autoritățile de reglementare cer adesea ca mașinile să primească testat cu pasageri care pot interveni și gestiona controalele înainte de producerea unui accident. Din păcate, a avea oameni în alertă, gata să depășească sistemele în timp real, poate să nu fie cea mai bună modalitate de a asigura siguranța.

De fapt, din cele 18 decese din SUA asociate cu accidente de mașină cu conducerea autonomă (din februarie a acestui an), toti avea o formă de control uman, fie în mașină, fie de la distanță. Aceasta include una dintre cele mai faimoase, care a avut loc noaptea târziu, pe un drum suburban larg din Tempe, Arizona, în 2018. Un vehicul automat de testare Uber a ucis o femeie de 49 de ani pe nume Elaine Herzberg, care alerga cu bicicleta să traverseze drumul. Operatorul uman de pe scaunul pasagerului era uită în jos, iar mașina nu i-a alertat decât cu mai puțin de o secundă înainte de impact. Au apucat volanul prea târziu. Accidentul a determinat Uber să suspende testarea mașinilor cu conducere autonomă. În cele din urmă, a vândut divizia de vehicule automate, care a fost o parte cheie a strategiei sale de afaceri.

Operatorul a ajuns în închisoare din cauza automulțumirii automatizării, un fenomen descoperit pentru prima dată în primele zile ale pregătirii pilotului. Încrederea excesivă este o dinamică frecventă cu sistemele AI. Cu cât sistemul este mai autonom, cu atât operatorii umani tind să aibă mai multă încredere în el și să nu acorde o atenție deplină. Ne plictisim urmărind aceste tehnologii. Când un accident este pe cale să se întâmple, nu ne așteptăm la el și nu reacționăm la timp.

Oamenii sunt naturali în ceea ce expertul în riscuri, Ron Dembo, numește „gândire la risc” – un mod de a gândi pe care nici cea mai sofisticată învățare automată nu o poate emula încă. Aceasta este capacitatea de a recunoaște, atunci când răspunsul nu este evident, că ar trebui să încetinim sau să ne oprim. Gândirea la risc este esențială pentru sistemele automatizate și asta creează o dilemă. Oamenii vor să fie la curent, dar dacă ne punem în control atunci când ne bazăm atât de mult pe sisteme automate, poate înrăutăți lucrurile.

Cum pot, deci, dezvoltatorii de sisteme automate să rezolve această dilemă, astfel încât experimente precum cel care se desfășoară în San Francisco se încheie pozitiv? Răspunsul este un plus de diligență nu doar înainte de momentul impactului, ci și în primele etape de proiectare și dezvoltare. Toate sistemele AI implică riscuri atunci când sunt lăsate necontrolate. Mașinile care se conduc singure nu vor fi lipsite de riscuri, chiar dacă se dovedesc a fi mai sigure, în medie, decât mașinile conduse de oameni.

Accidentul Uber arată ce se întâmplă atunci când nu riscăm-gândim cu intenționalitate. Pentru a face acest lucru, avem nevoie de fricțiuni creative: aducerea în joc a mai multor perspective umane cu mult înainte ca aceste sisteme să fie lansate. Cu alte cuvinte, gândirea la implicațiile sistemelor AI, mai degrabă decât doar la aplicații, necesită perspectiva comunităților care vor fi direct afectate de tehnologie.

Waymo și Cruise au apărat amândoi înregistrările de siguranță ale vehiculelor lor, pe motive de probabilitate statistică. Cu toate acestea, această decizie transformă San Francisco într-un experiment viu. Când rezultatele sunt calculate, va fi extrem de important să captam datele potrivite, să împărtășim succesele și eșecurile și să lăsăm comunitățile afectate să cântărească împreună cu specialiștii, politicienii și oamenii de afaceri. Cu alte cuvinte, ține toți oamenii la curent. În caz contrar, riscăm mulțumirea automatizării – dorința de a delega luarea deciziilor sistemelor AI – la scară foarte mare.

Juliette Powell și Art Kleiner sunt coautorii noii cărți Dilema AI: 7 principii pentru o tehnologie responsabilă.