AI are încă nevoie de un antrenor, iar supravegherea umană are nevoie de un ghid

AI este pretutindeni, iar fotbalul profesionist nu face excepție.

NFL a introdus Digital Athlete, care folosește date și AI pentru a ajuta echipele să identifice scenarii în care jucătorii pot avea un risc crescut de accidentare. Combină video și date din antrenamente, practici și meciuri cu milioane de simulări, oferind tuturor celor 32 de echipe acces la informații de tendință la nivel de ligă. Antrenorii și personalul de pregătire folosesc apoi aceste informații pentru a dezvolta programe individualizate de prevenire a accidentărilor, antrenament și recuperare.

Deși tehnologia citește terenul, antrenorii rămân responsabili de deciziile finale. Pe măsură ce organizațiile extind utilizarea AI în procesele de afaceri, inclusiv în conformitate și investigații la locul de muncă, potențialul de automatizare pare nelimitat. Dar ce sarcini ar trebui să îndeplinească AI, în ce condiții și cu ce supraveghere umană?

Aici intervine un ghid organizațional, care stabilește tonul: oferind antrenorilor mijloacele de a valorifica instrumentele AI menținând supravegherea umană acolo unde contează.

Dați AI-ului o poziție, nu întregul teren

Investigațiile implică niveluri diferite de risc. AI poate ajuta la organizarea informațiilor din rapoartele inițiale și:

• Identifică detalii lipsă
• Rezumă informațiile într-un raport final
• Construiește cronologii
• Evidențiază tipare pe care investigații le pot dori să le examineze în profunzime

Aceste cazuri de utilizare pot reduce sortarea manuală și elibera timp pentru a se concentra pe activități care necesită judecată umană.

Rețineți că AI poate rezuma o acuzație, dar nu poate decide dacă este credibilă. AI poate identifica o inconsecvență, dar nu poate determina de ce există. Aici organizațiile pot intra în dificultate dacă folosesc AI fără bariere de protecție.

Pentru a menține supravegherea, AI are nevoie de un rol definit. Organizațiile ar trebui să decidă:

• Sarcinile pe care sistemul trebuie să le îndeplinească
• Informațiile la care poate avea acces
• Limitele a ceea ce i se permite să facă
• Situațiile în care o persoană trebuie să preia controlul

National Institute of Standards and Technology’s AI Risk Management Framework oferă un reper util. Foaia de parcurs a NIST descrie Profilurile AI RMF ca un mod de a demonstra cum poate fi aplicat cadrul la sectoare, tehnologii, contexte sau alte medii specifice. Cu alte cuvinte, guvernanța responsabilă a AI devine mai aplicabilă când organizațiile traduc principiile largi în realitățile unui caz de utilizare specific.

Un ghid AI poate face ceva similar la nivel operațional. Acesta definește roluri, situații și acțiuni cu specificitate.

Supravegherea umană este o problemă de proiectare a sistemului

Expresia „human in the loop” a devenit comună în discuțiile despre AI responsabilă. Dar prezența unei persoane undeva în fluxul de lucru nu înseamnă automat că un sistem AI este bine guvernat.

NIST a identificat human-AI teaming ca o zonă importantă pentru cercetarea și ghidarea gestionării riscurilor AI. Printre aspectele evidențiate se numără modul în care oamenii interpretează rezultatele produse de AI și cum supraveghează sistemele AI în medii reale.

Supravegherea umană nu ar trebui tratată ca o soluție temporară până când AI devine suficient de sofisticat pentru a funcționa singur. În multe medii cu miză ridicată, aceasta face parte din arhitectura necesară pentru a utiliza AI în mod responsabil pe termen lung.

Un peer-reviewed examination of human oversight in AI governance notează că supraveghetorii umani sunt așteptați să îmbunătățească acuratețea și siguranța pentru a susține valorile umane și a construi încredere. Totuși, oamenii nu sunt întotdeauna supraveghetori de încredere. Supravegherea eficientă depinde de competență, stimulente și de proiectarea rolului de supraveghere.

Pentru un investigator, a i se cere să aprobe o recomandare generată de AI nu este suficient dacă îi lipsesc informațiile sau autoritatea necesară pentru a o contesta. Ghidul trebuie să definească nu doar că un om este implicat, ci cum și când acea persoană poate interveni.

Transferul contează la fel de mult ca modelul

Există o altă provocare: chiar și atunci când un om are autoritatea finală, modul în care AI prezintă informațiile poate influența decizia ulterioară.

Un studiu preprint din 2025 realizat de cercetători de la University of California, Santa Barbara ilustrează de ce designul interfeței contează. Într-un experiment controlat cu 108 participanți într-un scenariu de luare a deciziilor în domeniul sănătății, cercetătorii au testat șase forme de asistență decizională AI. Au constatat că mecanismele, inclusiv informațiile despre încrederea AI, explicațiile textuale și vizualizările performanței, au îmbunătățit acuratețea deciziei uman-AI în experimentul lor.

Studiul subliniază, de asemenea, riscul biasului de automatizare: oamenii pot depinde excesiv de sugestiile AI, inclusiv de cele incorecte.

Acest experiment demonstrează de ce transferul dintre mașină și om necesită un design deliberat și testare.

Atunci când extrapolăm acest lucru și introducem conceptul de investigație, apar mai multe întrebări:

• Investigatorul vede doar o concluzie generată de AI sau poate examina informațiile din spatele acesteia?

• Poate sistemul să comunice incertitudinea?

• Este clar când informațiile lipsesc?

• Pot investigatorii respinge un rezultat și documenta motivul?

Acestea sunt întrebări de guvernanță la fel ca cele tehnice.

Cinci întrebări la care fiecare ghid AI ar trebui să răspundă

Un ghid AI util ar trebui să transforme principiile abstracte precum „AI responsabilă” și „supraveghere umană” în reguli de operare concrete.

1. Ce este permis AI-ului să facă? Organizațiile ar trebui să autorizeze sarcini specifice în loc să acorde permisiuni largi pentru utilizarea AI în întregul flux de lucru.
2. Ce informații poate folosi? Pentru investigații și denunțuri, organizațiile au nevoie de limite clare privind informațiile disponibile pentru un sistem AI și modul în care acestea sunt gestionate.
3. Cum vor evalua oamenii rezultatele sale? Revizorii umani au nevoie de context suficient pentru a înțelege ce a produs sistemul, limitările relevante și informațiile necesare pentru a contesta rezultatul.
4. Când trebuie să intervină un om? Un ghid ar trebui să stabilească declanșatori de escaladare în loc să se bazeze pe decizia individuală a angajaților privind momentul în care AI a depășit limitele.
5. Unde se încheie autoritatea AI-ului? Unele decizii ar trebui să necesite judecată umană, iar persoanele responsabile de acele decizii trebuie să aibă autoritate reală pentru a ignora, anula sau opri tehnologia.

Aceste idei sunt reflectate într-una dintre cele mai importante reglementări ale AI la nivel mondial. Article 14 of the EU AI Act stabilește cerințe de supraveghere umană pentru sistemele AI care se încadrează în categoria de risc ridicat a Actului. Acesta prevede că măsurile de supraveghere trebuie să fie proporționale cu riscurile sistemului, autonomia și contextul de utilizare. De asemenea, solicită ca supraveghetorii să poată înțelege capacitățile și limitările relevante, să interpreteze corect rezultatele, să rămână vigilenți la biasul de automatizare, să ignore sau să anuleze rezultatele și să intervină sau să oprească un sistem.

Acest lucru nu înseamnă că fiecare instrument AI utilizat într-o investigație este automat un sistem cu risc ridicat. Cadru ilustrează un principiu important pentru guvernanța AI. Supravegherea umană trebuie să ofere oamenilor capabilități semnificative, nu doar un loc în fluxul de lucru.

AI nu înlocuiește antrenorul. Schimbă ceea ce antrenorul poate vedea.

Digital Athlete al NFL este convingător nu pentru că demonstrează că AI poate înlocui antrenorii, ci pentru că arată cum tehnologia sofisticată poate extinde informațiile disponibile profesioniștilor experimentați.

AI poate ajuta oamenii să parcurgă informațiile, să evidențieze ceea ce merită atenție și să creeze o mai mare consistență în sarcinile repetitive. Totuși, cele mai decisive momente dintr-o investigație necesită adesea altceva: context, scepticism, interpretare și responsabilitate.

Organizațiile cele mai bine poziționate pentru a beneficia de AI vor cere, așadar, mai mult decât ceea ce tehnologia poate automatiza. Ele vor defini ce ar trebui să facă, ce nu ar trebui să facă și cum ar trebui să colaboreze oamenii și AI.