Mișcă-te repede, dar nu strica lucrurile: Cum să echilibrezi adoptarea responsabilă a IA și inovația

Conform unui sondaj global recent de la McKinsey, chiar dacă 78% dintre organizații folosesc IA în cel puțin o funcție de business, doar 13% au angajat specialiști în conformitate cu IA, iar doar 6% au specialiști în etică IA.

Acest lucru este, sincer, un comportament iresponsabil.

Deși în trecutul meu nu prea îndepărtat eram un mare susținător al etosului “mișcă-te repede și strică lucrurile” din Silicon Valley, nu ne putem permite să fim atât de nepăsători cu IA – o tehnologie care este mai puternică decât orice am văzut anterior și care crește cu viteza luminii.

Adoptarea IA fără niciun fel de garduri de protecție este exact felul de mișcare rapidă și tăiere a colțurilor care este garantat să aibă consecințe negative și să riște să strice totul. Nu este nevoie decât de un singur incident de bias IA sau de utilizare incorectă pentru a distruge ani de construire a unei reputații solide.

Și, deși mulți CIO și CTO sunt conștienți de aceste riscuri, par să opereze sub presupunerea că regulatorii vor interveni în cele din urmă și îi vor salva de la stabilirea propriilor lor cadre, rezultând o mulțime de discuții despre risc, dar cu foarte puțină supraveghere reală.

Deși nu am nicio îndoială că regulamentele vor veni în cele din urmă, sunt mai puțin încrezător că vor fi stabilite în curând. ChatGPT a fost introdus cu aproximativ trei ani în urmă și abia acum începem să vedem lucruri precum ședința Senatului Judiciar despre chatbot-urile și riscurile de securitate. Realitatea este că ar putea dura ani până vom vedea orice regulament semnificativ.

În loc să considerăm acest lucru ca o scuză pentru a amâna guvernanța internă, acest lucru ar trebui să ne îndemne pe companii să adopte o abordare mai proactivă. Mai ales având în vedere că, atunci când regulamentele vor veni în cele din urmă, companiile fără cadre proprii vor fi în panică pentru a se conforma. Acesta a fost exact ceea ce s-a întâmplat atunci când GDPR și CCPA au fost adoptate.

La fel cum startup-urile mici din primii ani 2000 sunt acum ținute la standarde mai înalte ca urmare a creșterii lor în uriașe corporații tehnologice, noi, colectiv, trebuie să maturizăm abordarea noastră de a adopta IA în mod responsabil.

Nu există “cumpără acum, plătește mai târziu” cu implementările de IA responsabile – începeți acum

Primul pas într-o abordare mai responsabilă a IA este să încetați să așteptați regulatorii și să stabiliți propriile reguli. Orice avans pe care credeți că îl câștigați prin evitarea gardurilor de protecție astăzi vă va lovi în viitor, atunci când veți fi confruntați cu procesul extrem de costisitor și perturbator de a vă conforma.

Desigur, pentru mulți, problema nu este să știe de unde să înceapă. Compania mea a efectuat recent un sondaj printre 500 de CIO și CTO din întreprinderi mari și aproape jumătate (48%) au menționat “determinarea a ceea ce constituie utilizarea sau implementarea responsabilă a IA” ca o provocare pentru asigurarea utilizării etice a IA.

Un loc ușor de început este să extindeți focusul dvs. dincolo de funcțiile posibile oferite de IA și să luați în considerare riscurile posibile. De exemplu, deși utilizarea IA poate economisi timpul angajaților, deschide și posibilitatea de a partaja cantități uriașe de informații cu caracter personal (PII) sau secrete comerciale cu LLM-uri neautorizate și neaprobate.

Orice companie digitală de astăzi este familiarizată cu Ciclul de Viață al Dezvoltării Software (SDLC), care oferă un cadru pentru construirea de produse de calitate. Cele mai bune practici de guvernanță a IA ar trebui să fie integrate în fluxul de lucru zilnic pentru a asigura că luarea deciziilor responsabile devine parte a rutinei, nu o gândire ulterioară.

Un organism de guvernanță, cum ar fi un comitet de etică sau un consiliu de administrație, ar trebui să fie stabilit pentru a defini standardele pentru aplicațiile IA și pentru a defini metricile pentru a monitoriza și menține aceste standarde. Funcțional, acest lucru arată ca guvernanță a instrumentelor IA și a modelelor, aprobări de soluții, gestionarea riscurilor, alinierea la regulamente și standarde, și comunicarea transparentă. Deși, din punct de vedere tehnic, acesta poate fi un “nou” proces, nu este foarte diferit de cele mai bune practici de date și menținerea securității cibernetice și poate fi automatizat pentru a asigura detectarea precoce a oricăror probleme.

Desigur, nu toate riscurile necesită același nivel de atenție, astfel că este important să se dezvolte și un proces de gestionare a riscurilor în trepte, astfel încât echipa dvs. să poată concentra majoritatea eforturilor pe ceea ce a fost definit ca fiind de înaltă prioritate.

În cele din urmă, și cel mai important, comunicarea clară și transparentă despre practicile de guvernanță, atât intern, cât și extern, este esențială. Acest lucru include menținerea unor documente vii pentru standardele de guvernanță și furnizarea unor instruirii continue pentru a ține echipele la curent.

Opriți-vă să tratați guvernanța ca pe o amenințare la adresa inovației

Este foarte posibil ca adevărata amenințare la adresa IA responsabilă să fie convingerea că guvernanța și inovația sunt în contradicție una cu cealaltă. Datele noastre de sondaj au reflectat un procent covârșitor de 87% din CIO și CTO care consideră că prea multă reglementare ar limita inovația.

Dar guvernanța ar trebui să fie tratată ca un partener strategic, nu ca o frână a inovației.

Un motiv pentru care guvernanța este privită ca o forță de frânare care încetinește impulsul este că adesea este lăsată pentru sfârșitul dezvoltării produsului, dar gardurile de protecție ar trebui să facă parte din proces. Așa cum am menționat anterior, guvernanța poate fi integrată în ciclurile de sprint, astfel încât o echipă de produs să poată avansa rapid, în timp ce verificările automate pentru corectitudine, bias și conformitate rulează în paralel. Pe termen lung, acest lucru se plătește, deoarece clienții, angajații și regulatorii se simt mai încrezători atunci când văd responsabilitatea încorporată din start.

Și acest lucru a fost dovedit a aduce și beneficii financiare. Cercetările au arătat că organizațiile cu cadre de guvernanță a datelor și a IA bine implementate experimentează o îmbunătățire a performanței financiare cu 21-49%. O eșec în a stabili aceste cadre va avea și consecințe. Conform aceluiași studiu, până în 2027, majoritatea organizațiilor (60%) “nu vor reuși să realizeze valoarea anticipată a cazurilor de utilizare a IA din cauza lipsei unor cadre etice de guvernanță coerente”.

O excepție de la argumentul că guvernanța nu trebuie să vină în detrimentul inovației este că echipele juridice care se implică în aceste discuții tind să încetinească lucrurile. În experiența mea, totuși, stabilirea unei echipe de Guvernanță, Risc și Conformitate (GRC) merge mult în a menține lucrurile în mișcare și rapid, servind ca punte între echipele juridice și de produs.

Atunci când este gestionat corespunzător, echipa GRC construiește relații pozitive cu echipa juridică, servind ca ochii lor pe teren și furnizându-le rapoartele de care au nevoie, în timp ce colaborează și cu echipa de dezvoltare pentru a mitigă riscurile viitoare de procese și amenzi. În cele din urmă, acest lucru întărește și mai mult că investiția în guvernanță de la început este cel mai bun mod de a asigura că nu interferează cu inovația.

Creați sisteme de supraveghere și guvernanță care pot fi scalate

În ciuda faptului că atât de mulți CIO și CTO chestionați simt că regulamentele ar putea limita inovația, un procent similar de mare (84%) se așteaptă ca compania lor să crească supravegherea IA în următorii 12 luni. Având în vedere probabilitatea ca integrările IA să continue să se extindă și să crească în timp, este la fel de important ca sistemele de guvernanță să poată fi scalate odată cu ele.

Ceva pe care îl văd adesea în stadiile incipiente ale implementărilor IA în cadrul întreprinderilor este că diferite unități din cadrul afacerii lucrează în silozuri, astfel încât rulează implementări diferite în paralel și cu viziuni diferite asupra a ceea ce înseamnă “IA responsabilă”. Pentru a evita aceste incoerențe, companiile ar fi înțelepte să stabilească un Centru de Excelență dedicat IA care combină expertiza tehnică, de conformitate și de business.

Centrul de Excelență IA ar trebui să stabilească atât standarde la nivel de companie, cât și procese de aprobare în trepte, unde există o cale de urmat pentru cazurile de risc scăzut. Acest lucru menține viteza, în timp ce asigură și că implementările cu risc ridicat trec prin verificări de securitate mai formale. Similar, Centrul de Excelență ar trebui să stabilească și indicatori de securitate a IA pentru executivii de top, astfel încât responsabilitatea să nu se piardă în funcțiile zilnice de business.

Dar pentru a face acest lucru realitate, executivii au nevoie de o vizibilitate îmbunătățită asupra urmăririi indicatorilor de guvernanță. Tablourile de bord care furnizează date în timp real despre acești indicatori ar fi mult mai eficiente decât rapoartele statice de conformitate care sunt imediat învechite și adesea nerăsfoite. Ideal, companiile ar trebui să construiască și registre de risc IA, la fel cum urmăresc riscurile de securitate cibernetică, precum și să păstreze urme de audit care reflectă cine a construit o implementare ML/AI, cum a fost testată și cum performează în timp.

Cel mai important lucru de reținut aici este că IA responsabilă necesită ca guvernanța să fie un proces continuu. Nu este doar despre aprobări la lansare, ci despre monitorizarea continuă pe parcursul întregului ciclu de viață al modelului. Prin urmare, instruirea este cheia. Dezvoltatorii, tehnologii și liderii de business ar trebui să fie instruiți în practicile responsabile de IA, astfel încât să poată identifica problemele de la început și să mențină standardele ridicate de guvernanță pe măsură ce sistemele evoluează. Prin urmare, implementările de IA sunt sigure să fie mai de încredere, mai eficiente și mai profitabile – fără a fi nevoie să strice ceva în proces.