Responsabil prin design – De ce AI trebuie să fie orientat către oameni

Inteligența artificială schimbă experiențele digitale care definesc viețile noastre de zi cu zi. De la recomandări personalizate de produse și îngrijire medicală predictivă la conducere autonomă și chiar la cozi de la parcuri de distracții, AI face aceste experiențe mai ieftine, mai eficiente și chiar plăcute. Cel puțin, acesta este promisiunea.

Dar prea des, întâlnim știri despre așa-numite “eșecuri AI” – momente în care utilizatorii se simt înșelați, frustrați sau pur și simplu nu sunt înțeleși. Și atunci când încrederea se rupe, se rupe și potențialul AI de a fi cu adevărat semnificativ și eficient.

Încrederea publică se erodează. De ce? Pentru că majoritatea sistemelor nu sunt proiectate cu experiența umană în minte – ele sunt proiectate pentru ceea ce este rapid, escalabil și profitabil. Acest lucru ar trebui să fie o cauză majoră de îngrijorare pentru companiile de toate dimensiunile care dublează investițiile în AI.

Pentru a construi încredere, companiile trebuie să se oprească și să pună întrebări mai profunde: De ce construim acest sistem? Trebuie să fie construit în primul rând? În scurt, proiectăm AI pentru a servi nevoilor umane – sau forțăm oamenii să se adapteze la logica mașinilor?

Decalajul de încredere cu AI

Prea des, AI este dezvoltat în medii tehnice izolate, unde succesul este măsurat de acuratețe sau viteză, și nu de impact social sau utilizabilitate. Gândirea etică, o componentă esențială a încrederii, nu este încorporată automat în pipeline-ul de dezvoltare AI. Această decuplare duce la sisteme care pot fi inovatoare în teorie, dar nu reușesc în practică.

Luăm ca exemplu chatbot-ul Air Canada, care a informat cu încredere un client despre politica de tarif de doliu, doar pentru ca compania să susțină că nu este responsabilă pentru ceea ce a spus chatbot-ul. Sau chatbot-ul AI al Meta, care a oferit declarații factice incorecte în rezultatele căutării. Aceste exemple reflectă mai mult decât glitch-uri tehnice; ele expun o eșec sistemic de a proiecta aplicații AI cu empatie, sisteme de siguranță și context real.

Publicul a luat act. Conform Centrului de Cercetare Pew, 59% dintre americanii și 55% dintre experții AI au puțină sau deloc încredere în capacitatea companiilor americane de a dezvolta AI în mod responsabil. Acesta este un decalaj de încredere pe care nu-l putem ignora.

Proiectarea centrată pe om nu este un lux

Proiectarea nu este o decorațiune pentru AI. Este fundamentală pentru modul în care se comportă și este percepută de utilizatorii finali. Proiectarea centrată pe om începe cu înțelegerea oamenilor pentru care proiectăm: obiectivele, frustrările, valorile și realitățile lor trăite.

Este imperativ în timpul procesului de proiectare să punem întrebări foarte specifice pentru a ne asigura că tehnologia servește nevoilor umane, nu invers, definind:

• Cine suntem noi proiectând pentru?
• Care sunt obiectivele, valorile și provocările lor?
• Cum interacționează ei cu sistemele emoțional și funcțional?
• Este produsul de încredere și face ceea ce spune că va face?
• Este el promovând incluzivitate și accesibilitate pentru toate tipurile de oameni?

Acestea nu sunt întrebări abstracte. Ele influențează direct modul în care AI funcționează în sălbăticie. Și, în contexte cu riscuri ridicate, cum ar fi îngrijirea sănătății, securitatea sau educația, ele pot determina dacă un sistem este incluziv și corect sau confuz și dăunător.

Ce arată o proiectare mai bună

Proiectanții pun în legătură nevoile umane cu capacitățile mașinilor prin procesul de prototipare, testare și iterare, care asigură că produsele au sens pentru oamenii care le folosesc. Acest lucru include întrebarea modului în care AI comunică, ce decizii automatizează și cât control oferă utilizatorului.

Luăm ca exemplu parcurile de distracții. AI este implementat această vară pentru a reduce timpul de așteptare, a personaliza experiențele și a gestiona fluxul de mulțime. Este un caz de utilizare promițător. Dar succesul nu este doar despre productivitate. Un sistem bine proiectat va prioritiza experiența umană, nu doar eficiența. Acest lucru înseamnă mesaje transparente, interfețe intuitive, opțiuni clare de opt-out și opțiuni de rezervă pentru utilizatorii cu nevoi unice (cum ar fi familiile fără smartphone sau oaspeții cu nevoi de accesibilitate).

Oportunitatea de aici nu este doar să optimizăm operațiunile logistice în favoarea liniei de jos; este să ridicăm bucuria, să reducem fricțiunile și să creăm experiențe împărtășite care par magice, nu mecanice. Acesta este un avantaj al proiectării.

Testarea elementului uman

În proiectarea AI centrată pe om, testarea este critică. Este ideal să aducem utilizatorii finali potențiali în proces devreme și des, cu scopul de a identifica puncte oarbe potențiale. Când utilizatorii nu pot înțelege sau încrede un sistem, sistemul a eșuat, indiferent de cât de impresionant este backend-ul său.

Testarea asigură, de asemenea, accesibilitatea, care este adesea neglijată în experiențele conduse de AI. Un chatbot poate fi funcțional din punct de vedere tehnic, dar dacă nu servește utilizatorilor neurodiverși sau vorbitorilor de limbi străine, nu este cu adevărat funcțional. Proiectarea incluzivă nu beneficiază doar marginile, ci și întărește produsele pentru oricine și toată lumea.

Responsabilitatea începe cu proiectarea

Politiciile pot ajuta la stabilirea limitelor și prevenirea celor mai grave consecințe. Așadar, cadrele precum Actul AI al UE și Proiectul pentru un Bill of Rights AI sunt pași cruciali. Dar conformitatea este doar podeaua. Proiectarea este modul în care ajungem la tavan.

Companiile trebuie să meargă dincolo de liste de verificare pentru a construi sisteme AI care susțin demnitatea, agenția și supravegherea. Acest lucru înseamnă rezistența la tentația de a automatiza complet judecata umană și, în schimb, proiectarea unor instrumente care o amplifică. AI-ul responsabil nu șterge controlul uman; dimpotrivă, îl amplifică.

Acest lucru nu este doar o chestiune tehnică. Acesta necesită echipe multidisciplinare de proiectanți, ingineri, experți în politici și eticieni care lucrează împreună de la început. Acesta înseamnă proiectarea cu oameni, nu doar pentru ei.

Rolul proiectanților în modelarea AI

Proiectanții joacă un rol unic în modelarea traiectoriei AI. Ei sunt traducători care sunt fluenti în logica structurată a mașinilor și complexitatea vieții umane. Proiectanții sunt instruiți să recunoască punctele de fricțiune, semnalele emoționale și implicațiile sociale pe care datele singure nu le pot capta.

Similar cu întrebările specifice care asigură că tehnologia servește nevoilor umane, proiectanții trebuie să susțină întrebări care nu se potrivesc perfect în datele de antrenament, cum ar fi:

• Cum face acest lucru să se simtă cineva?
• Este utilizatorul în control?
• Ce se întâmplă când lucrurile merg prost?

Prea des, proiectarea este adusă la sfârșitul pipeline-ului AI pentru a “arăta bine”. Dar adevărata putere a proiectării este strategică. Acesta ar trebui să modeleze modul în care sunt definite problemele din primul rând, nu doar modul în care arată interfețele.

Omul întâi, nu mașina întâi

AI nu este doar o provocare tehnică, este o provocare de proiectare. Și pentru a o îndeplini, trebuie să centrăm valorile umane de la început.

AI-ul centrat pe om nu este un lux – este o necesitate. Acesta creează sisteme care sunt de încredere, fiabile, imparțiale, verificabile și conforme. Dar mai mult decât atât, construiește produse care beneficiază utilizatorul final și ridică productivitatea și potențialul uman.

Avem instrumentele și avem responsabilitatea de a proiecta un viitor în care tehnologia servește oamenilor, nu invers. Acest viitor începe cu proiectarea.