De ce încrederea oarbă în IA ar putea fi cea mai proastă decizie pe care o poți lua

În 1979, un manual de instruire IBM a făcut o avertizare simplă, dar izbitoare: “Un computer nu poate fi niciodată considerat responsabil; prin urmare, un computer nu trebuie să ia niciodată o decizie de management.” Și mai mult de 45 de ani mai târziu, această afirmație pare a fi o profeție ignorată.

În 2025, IA nu doar asistă, ci ia decizii autonome, iar în multe cazuri, nu doar decide, ci conduce. De fapt, în jur de 74% dintre directori executivi au mai multă încredere în IA pentru consultanță de afaceri decât în colegi sau prieteni, 38% au încredere în IA pentru a lua decizii de afaceri în numele lor, iar 44% se încred în raționamentul tehnologiei mai mult decât în propriile lor insight-uri. Schimbarea este clară; IA este noua intuiție.

Dar există o problemă. Încrederea în IA este posibilă doar dacă algoritmul este demn de încredere. Și atunci când încrederea este acordată în mod orb, mai ales în cutii negre pe care nu le putem înțelege sau audita, este un risc deghizat în progres. La fel ca și conducerea umană, încrederea fără responsabilitate este periculoasă, iar atunci când IA greșește, cine își asumă vina?

Când instrumentul devine șeful

Ce a început ca un instrument pentru eficientizarea operațiunilor de back-office este acum utilizat în procesele de afaceri de bază. Dar companiile nu utilizează doar IA pentru a susține deciziile umane; ele își încred în IA, în special în IA generativă (GenIA), pentru a lua decizii de afaceri, de la strategia de afaceri la serviciul clienților, modelarea financiară și multe altele.

Acest schimbare este înțeleasă. IA nu se distrează, nu uită instrucțiunile și nu permite emoțiilor să îi tulbure judecata. Pentru multe companii, aceasta oferă un antidot atractiv pentru riscurile erorilor umane. Cu toate acestea, o întrebare cheie rămâne: putem încrederea în IA să fie șeful și să ia decizii în mod independent?

Nu este un răspuns simplu, dar o modalitate de a privi lucrurile este de a judeca oamenilor după competență, fiabilitate și intenție clară. Aceleași principii se aplică și IA.

Pentru a fi de încredere, un sistem IA trebuie să ofere rezultate care sunt exacte, la timp și adecvate. Dar nivelul de încredere și marja de eroare variază în funcție de context. De exemplu, atunci când se diagnostichează cancer din imagini medicale, pragul de eșec este extrem de scăzut. În schimb, atunci când se generează idei pentru o campanie de marketing, există mai mult spațiu pentru experimentare.

Am văzut IA utilizată pentru a lua decizii autonome în domenii precum aprobarea creditelor, cu bănci care utilizează algoritmi pentru a determina eligibilitatea pentru împrumuturi în secunde. Retailerii utilizează IA pentru a gestiona stocurile și prețurile fără intervenție umană. Dar am văzut și eșecuri – precum mașinile autonome care greșesc condițiile drumului.

O poveste de avertizare arată riscurile de a plasa prea multă încredere în IA fără supraveghere adecvată. Derek Mobley – un bărbat negru de peste 40 de ani – a aplicat la peste 100 de poziții prin sistemul de angajare bazat pe IA al Workday de la 2017 și a fost respins de fiecare dată. El a susținut discriminarea pe bază de vârstă și rasă. În mai 2025, instanța a acordat o acțiune colectivă la nivel național. Clasa include toți solicitanții cu vârsta de peste 40 de ani care au aplicat prin Workday de la septembrie 2020 și au fost respinși pe baza recomandărilor IA.

Acest exemplu subliniază un punct important: IA lipsește de inteligență emoțională, raționament moral sau un simț natural al echității. Și deoarece IA se mută de la asistentul uman la decident independent, există un vid de responsabilitate. Atunci când algoritmii sunt lăsați să ruleze fără controale și echilibre umane, ei pot și fac decizii proaste și întăresc prejudecățile existente.

Întrebarea din jurul cutiilor negre

Cutii negre – atunci când sistemul și logica IA nu sunt pe deplin vizibile – sunt din ce în ce mai comune. Deși pot avea straturi vizibile, dezvoltatorii și utilizatorii nu pot vedea ce se întâmplă la fiecare strat, făcându-le opace.

De exemplu, ChatGPT este o cutie neagră, deoarece chiar și creatorii săi nu sunt siguri cum funcționează, deoarece a fost antrenat pe seturi de date atât de mari. Dar din cauza lipsei de transparență, este vreodată ok să “încredințezi” un model IA fără a înțelege pe deplin cum funcționează?

În scurt, nu: halucinațiile IA devin tot mai grave. Acest lucru înseamnă că, în scenarii cu risc ridicat, cum ar fi deciziile financiare, consultanța juridică și insight-urile medicale, IA necesită o validare riguroasă, corelarea și supravegherea umană.

Procesul Disney și Universal depus în iunie 2025 subliniază acest punct. Studiourile susțin că uneltele GenIA au fost antrenate pe materiale cu drepturi de autor pentru a crea conținut nou fără consimțământ. Acest caz subliniază o realitate nouă: atunci când companiile implementează modele IA pe care nu le înțeleg pe deplin, pot fi ținute responsabile pentru deciziile luate. Și ignorarea nu este o apărare; este o obligație.

Cu toate acestea, adesea ne încredem în sisteme complexe pe care nu le înțelegem. De exemplu, majoritatea pasagerilor de avion nu pot explica fizica zborului, dar oamenii urcă în avioane cu încredere pentru că am construit încrederea prin expunere repetată, experiență colectivă și un record puternic de siguranță.

Aceeași logică se aplică din nou IA. Nu este rezonabil să ne așteptăm ca toată lumea să înțeleagă cum funcționează LLM-urile. Dar încrederea nu se bazează pe înțelegere; necesită familiaritate, transparență cu privire la limitări și un model dovedit de performanță fiabilă. Inginerii aerospațiali știu ce teste să pună în aplicare și ce erori arată, și trebuie să cerem același lucru de la furnizorii de GenIA. Principiul fundamental al IA ar trebui să fie încrederea, dar verifică.

Mai mult, liderii de afaceri adesea cred că IA va fi glonțul de argint care va rezolva toate problemele lor de afaceri. Cu toate acestea, acest mit afectează multe companii atunci când integrează IA. Liderii ar putea prefera modele complexe și sofisticate, dar o soluție mai simplă ar putea fi mai potrivită dacă ar efectua o analiză cost-beneficiu. IA este un instrument puternic, dar nu este adecvat pentru fiecare sarcină. Companiile trebuie să recunoască problema înainte de a selecta un instrument.

Reconstruirea încrederii în IA

În timp ce este clar că încrederea oarbă în IA este o problemă, sistemele și algoritmii IA pot fi cel mai bun instrument pe care o afacere l-ar putea deține – atunci când sunt utilizați în siguranță.

Pentru afacerile care doresc să utilizeze instrumente IA, primul lucru pe care trebuie să îl cerceteze este datoria de diligență a furnizorului. Atunci când o afacere a identificat o zonă care ar putea beneficia de eficiența IA, liderii de afaceri ar trebui să evalueze furnizorii nu numai pe baza pretențiilor de performanță, ci și pe baza controalelor de guvernanță. Acest lucru include examinarea modului în care sunt dezvoltate modelele, dacă există instrumente de explicare, cum se monitorizează prejudecățile și dacă există urme de audit. Alegerea unui furnizor cu procese transparente este esențială pentru a reduce riscul de la început.

Poate cel mai important punct atunci când se construiește încrederea în sistemele IA este asigurarea guvernanței datelor cu seturi de date curate, reprezentative și bine documentate. Așa cum se spune: “gunoi în, gunoi ieșit”. Prin urmare, dacă datele sunt incomplete, prejudecate sau inexacte, chiar și cel mai avansat model va produce rezultate neverosimile.

Pentru a asigura că datele sunt gata pentru IA, afacerile ar trebui să:

• Auditeze seturile de date existente pentru goluri și duplicări și să verifice sursele de prejudecăți

• Standardizeze formatele de date

• Implementeze politici de guvernanță a datelor care definesc proprietatea și controalele de acces

Un alt pas cheie pentru liderii de afaceri este testarea sub stres în diferite condiții. Deși un model poate funcționa bine în teste controlate, este critic să înțeleagă limitările modelului atunci când este confruntat cu date noi sau intrări pe care nu le-a anticipat. Acesta este motivul pentru care este important să se testeze IA într-o varietate de situații, cu diferiți utilizatori, diverse cazuri de utilizare și date din diferite perioade de timp.

Validarea IA este, de asemenea, o sarcină continuă. Pe măsură ce datele se schimbă în timp, chiar și modelele IA fiabile pot pierde acuratețea. De aceea, monitorizarea regulată contează. Afacerile trebuie să monitorizeze modul în care funcționează modelul de la o zi la alta: este încă exact? Sau sunt falsele pozitive în creștere? Și, la fel ca orice sistem care necesită întreținere, modelele ar trebui să fie reantrenate regulat cu date proaspete pentru a rămâne relevante.

IA nu este de încredere sau neîncredere; este modelată de datele de la care învață, de oamenii care o creează și de regulile care o guvernează. Pe măsură ce IA se dezvoltă de la un instrument util la un consilier de afaceri, liderii au opțiunea de a o utiliza nu numai, ci și într-un mod gândit și etic. Dacă facem lucrurile corect, IA nu va fi doar puternică în viitor, ci și responsabilă, cu responsabilitatea clară aflată la dezvoltator și supraveghetor.