Ce înseamnă de fapt “Human-in-the-loop”?

La începutul secolului al XX-lea, filosoful britanic Gilbert Ryle a inventat termenul “fantoma în mașină”. Scriind în Conceptul de minte, Ryle a folosit metafora pentru a se opune dualismului minte-corp, care susține că mintea și corpul există ca substanțe separate. Pentru Ryle, această diviziune era o greșeală, deoarece cogniția și acțiunea fizică erau inseparabile, făcând parte dintr-un sistem unic, și nu din două părți care interacționează.

O metaforă similară apare acum atunci când vorbim despre utilizatorii de instrumente de inteligență artificială pentru a crește productivitatea: frecvent folositul “human-in-the-loop”. Dacă oamenii și sistemele inteligente sunt acum mai unite ca niciodată, construim o fuziune fără cusur sau creăm o iluzie convenabilă de control?

Start-up-urile se bazează puternic pe acest concept pentru a discuta despre instrumentele lor. În timp ce promite atât inovație, cât și liniște, realitatea este adesea mai complexă. Responsabilitatea poate deveni ușor difuză, iar trasabilitatea mai greu de urmărit.

Pe măsură ce sistemele de inteligență artificială pătrund mai adânc în domenii sensibile – de la educație la război – mizele nu mai sunt abstracte. Ce înseamnă de fapt “human-in-the-loop” și este doar un eufemism pentru momentul în care dispar complet?

1. Human-in-the-loop ca scut pentru responsabilitate

Folosit cu neglijență, termenul “human-in-the-loop” poate fi un mod ușor de a transfera responsabilitatea fără a se implica cu adevărat cu aceasta. Așa cum observă mulți, o semnătură umană la sfârșitul unui proces nu garantează integritatea etică, mai ales dacă sistemul subiacent este prost proiectat sau insuficient înțeles.

Maysa Hawwash, fondator și CEO al Scale X, a scris despre alunecarea de la responsabilitate și este directă despre modul în care conceptul este adesea utilizat. “De fapt, nu este prea diferit de alte moduri de transferare a sarcinii.” Hawwash a spus către Startup Beat, folosind exemplul modului în care managerii de resurse umane folosesc adesea o politică de semnătură pentru a muta compania departe de răspundere. “Dacă ai această politică și oamenii o citesc și semnează, atunci, ca companie, nu mai ești răspunzător, nu?” a spus ea.

Ce rezultă este un model familiar în sistemele corporatiste, în care responsabilitatea este deplasată, mai degrabă decât eliminată. Hawwash consideră acest lucru ca fiind o cale leneșă, care evită gândirea critică sau înțelegerea domeniilor în care poate afecta oameni sau comunități. “Deci, transferi sarcina, și apoi nu mai contează dacă oamenii înțeleg politica, nu mai contează dacă politica are sens.”

În această abordare, “human-in-the-loop” riscă să devină mai puțin despre intervenția semnificativă și mai mult despre acoperirea procedurală. Pericolul nu este doar semantic. Când supravegherea este redusă la o semnătură, rolul uman devine simbolic, mai degrabă decât substanțial.

Hawwash a făcut referire la o recentă atrocitate militară – școala din Minab, Iran – unde oamenii au aprobat un atac, dar prezența unui decident uman nu a echivalat neapărat cu claritate etică sau deliberare adecvată. “Când ești în război sau conduci o intervenție chirurgicală complexă, nu ai luxul de a folosi human-in-the-loop ca scut.”

2. Proiectarea pentru responsabilitate, nu doar supraveghere

Alternativa nu este de a abandona sistemele human-in-the-loop, ci de a le lua în serios ca angajamente de proiectare. Acest lucru înseamnă a merge dincolo de supravegherea simbolică spre structuri de responsabilitate deliberate.

“Există această cursă pentru a aduce mai multă inteligență artificială pe piață. Nu prea se gândește la perspectiva proiectării, cum ar fi impactul în aval asupra comunităților, oamenilor sau utilizatorilor finali”, a spus Hawwash.

Viteza a devenit variabila competitivă dominantă. În acea cursă, responsabilitatea este adesea amânată, mai degrabă decât încorporată. Rezultatul este un model reactiv de etică, în care rezolvarea problemelor are loc după implementare, în loc de a anticipa în timpul dezvoltării.

Accesibilitatea poate accelera adoptarea, dar conduce și la consecințe mai amplificate. Sistemele nu mai sunt limitate la utilizatori tehnici, deoarece pot modela decizii pentru oameni cu niveluri diferite de înțelegere și context. Într-un astfel de mediu, responsabilitatea nu poate fi externalizată către utilizatorul final.

3. Human-in-the-loop ca acuratețe și responsabilitate

Abhay Gupta, cofondator al Frizzle, oferă o perspectivă mai operațională – una bazată pe construirea unui sistem în care supravegherea umană este atât practică, cât și necesară.

Compania sa a apărut dintr-o problemă specifică: profesorii suprasolicitați. “În oraș auzi despre bancheri și consultanți care lucrează 70 de ore pe săptămână, dar nu auzi despre profesori care lucrează atât de mult. Așa că, din curiozitate, am intervievat sute de profesori și, în general, notarea era cel mai mare consumator de timp.”

Automatizarea notării poate părea simplă, dar complexitatea matematicii scrise de mână introduce limitări reale pentru inteligența artificială. “Există problema acurateței. Inteligența artificială nu este perfectă, așa că am construit un sistem human-in-the-loop. Dacă inteligența artificială nu este sigură – ca în cazul în care scrierea de mână este murdară – o semnalează profesorului pentru revizuire și aprobare sau respingere.”

Aici, rolul uman nu este doar ornamental. Sistemul identifică explicit propria incertitudine și direcționează acele cazuri către un om. “Pentru noi, este vorba despre acuratețe. Va exista întotdeauna un caz limită – poate 1-3% – în care inteligența artificială se luptă, așa că un om trebuie să intervină.”

Acest abordaj redefinesc human-in-the-loop ca mecanism de control al calității. Dar Gupta merge mai departe: “La nivelul său fundamental, inteligența artificială nu este 100% precisă – poate halucina sau produce ieșiri greșite. Human-in-the-loop acționează ca controlul final al calității înainte ca rezultatele să ajungă la utilizatorul final. Este, de asemenea, despre responsabilitate. Cineva trebuie să fie răspunzător pentru ieșire, și, în acest moment, acea persoană trebuie să fie un om.”

În mod important, rolul uman păstrează și un aspect mai puțin cuantificabil: aspectul relațional al predării. “Este, de asemenea, despre păstrarea aspectului uman al predării. Profesorii au stiluri diferite, așa că le permitem să personalizeze modul în care se livrează feedbackul”

Redefinirea Human-in-the-loop

Expresia “human-in-the-loop” are o simplitate liniștitoare. Sugerează că, indiferent cât de avansate devin sistemele noastre, un om rămâne în control și nu suntem doar “fantome în mașină”. Dar, pe măsură ce start-up-urile utilizează din ce în ce mai mult inteligența artificială în medii cu risc ridicat, acea liniște cere o examinare atentă.

Problema de fond este proiectarea. Dacă riscurile unui sistem sunt prost înțelese sau minimizate intenționat, introducerea unui om la sfârșit nu face prea mult pentru a corecta defectele de bază. În mod crucial, înseamnă, de asemenea, definirea rolului uman nu ca o soluție de rezervă, ci ca o parte integrantă a funcționării sistemului. Un om în buclă nu ar trebui să aprobe doar rezultatul. Start-up-urile ar trebui să-și dorească să-și împuternicească personalul să le modeleze, să le provoace și, atunci când este necesar, să le anuleze cu autoritate.