Aruncând o lumină asupra Inteligenței Artificiale Umbre

În toate industriile, lucrătorii folosesc din ce în ce mai mult instrumente de inteligență artificială (IA) pentru a transforma operațiunile de zi cu zi. Indiferent dacă este vorba de profesioniști în marketing care folosesc ChatGPT pentru a crea campanii sau de ingineri de software care scriu cod cu ajutorul unor instrumente generative, IA se integrează treptat în aproape toate aspectele afacerilor. De fapt, Proiectul NANDA al MIT a constatat că în peste 90% din organizații, angajații folosesc conturi personale de chatbot pentru a-și sprijini munca zilnică, adesea fără supravegherea departamentului IT, cu toate că doar 40% din companii au abonamente oficiale la instrumente de modelare a limbajului (LLM). Această decuplare între utilizarea sancționată și cea secretă a IA a deschis un nou punct orb al securității: inteligența artificială umbra. 

Fără supraveghere, datele sensibile pot fi partajate cu modele externe, ieșirile pot fi inexacte sau părtinitoare, iar echipele de conformitate pierd vizibilitatea asupra modului în care informațiile sunt prelucrate. Pe măsură ce angajații continuă să experimenteze cu instrumente în afara canalelor aprobate, organizațiile trebuie să-și reimagинеze strategia de gestionare a IA, altfel aceste riscuri vor continua să apară. Pentru directorii IT, interzicerea instrumentelor de IA nu este soluția, deoarece ar putea afecta capacitatea competitivă. În schimb, accentul trebuie pus pe balizele adaptabile care echilibrează inovația cu gestionarea responsabilă a riscurilor.

Pentru a rămâne înaintea riscurilor legate de IA, organizațiile trebuie să stabilească politici de IA care promovează adoptarea responsabilă. Aceste linii directoare trebuie să încurajeze angajații să folosească IA în mod rezonabil, iar orice politică stabilită trebuie să fie aliniată cu valorile și apetitul pentru risc al companiei. Pentru a realiza un program de succes, organizațiile trebuie să depășească modelele de guvernanță învechite și instrumentele legacy care nu detectează sau urmăresc utilizarea IA în întreaga afacere.

În timp ce stabilirea unei politici de IA este un pas important, adevărata cheie este să se asigure că acestea sunt proiectate pentru a fi practice, aplicabile și aliniate cu viziunea inovatoare și nevoile de conformitate ale fiecărei afaceri, fără a împiedica progresul.

Iată patru pași pe care organizațiile îi pot urma:

1. Determinarea celui mai bun cadru

Companiile nu trebuie să înceapă de la zero. Mai multe instituții de top au dezvoltat deja cadre care oferă puncte de referință valoroase. Resursele de la Organizația pentru Cooperare și Dezvoltare Economică (OECD), Institutul Național de Standarde (NIST) și ISO/IEC pot oferi îndrumări pentru gestionarea IA în siguranță și eficient. În plus, organismele guvernamentale încep să intervină. Noile reglementări ale Uniunii Europene (UE) stabilesc așteptări în jurul transparenței, responsabilității și guvernanței. Împreună, aceste resurse vor ajuta la crearea unei baze solide pentru companii pentru a-și construi și perfecționa propriile cadre pentru a ghida adoptarea responsabilă a IA.

2. Creșterea vizibilității IA

Pe măsură ce organizațiile își croiesc drumul către gestionarea eficientă a riscurilor IA, este esențial ca liderii de securitate să dezvolte o înțelegere fermă a modului în care IA este utilizată în realitate în întreaga afacere. Ei ar trebui să investească în instrumente care să ofere vizibilitate asupra activității din diverse funcții. Aceste instrumente pot monitoriza și accesa comportamentul utilizatorilor și nu vor lăsa nicio piatră neîntoarsă atunci când vine vorba de identificarea utilizării IA generative. Această perspicacitate este vitală atunci când vine vorba de găsirea utilizării IA umbra și de ajutarea liderilor să evalueze riscurile și să le abordeze.

3. Crearea unui Consiliu de IA

Odată ce vizibilitatea este stabilită, liderii de securitate pot utiliza-o pentru a informa noi politici. Deoarece utilizarea IA afectează întreaga afacere, ei nu ar trebui să izoleze procesul de luare a deciziilor. CISO-urile ar trebui să ia în considerare crearea unui consiliu de IA care să adune factori cheie din securitate, juridic, IT și C-suite. De fapt, Gartner raportează că 55% din organizații au deja stabilit un consiliu de IA, în timp ce 54% au numit un șef de IA sau un lider de IA dedicat pentru a supraveghea strategia și implementarea.

Aceste grupuri interfuncționale pot evalua atât riscurile, cât și oportunitățile prezentate de instrumentele de IA, autorizate sau nu, care încep să pătrundă în mediile de afaceri. Ei pot să contureze apoi noi politici împreună care să abordeze nevoile afacerilor lor și să echilibreze riscul.

De exemplu, dacă consiliul identifică un instrument de IA popular care este utilizat fără aprobare și care prezintă riscuri de securitate, el poate recomanda interzicerea acelei aplicații în timp ce aprobă o alternativă mai sigură. Aceste politici ar trebui să fie întărite de investiții în controale de securitate și platforme de IA aprobate care îndeplinesc standardele de conformitate. Pe măsură ce apar noi avansări pe piață, consiliul poate introduce, de asemenea, un proces formal pentru ca angajații să propună instrumente pentru evaluare, ajutând organizația să rămână adaptabilă și conformă cu strategia sa de IA.

4. Consolidarea educației de IA

Educația și implicarea angajaților în jurul IA vor fi un alt element esențial pentru obținerea acordului la nivel de organizație și pentru diminuarea utilizării IA umbra. Chiar și cu modelele de guvernanță potrivite în loc, succesul depinde de modul în care angajații înțeleg și adoptă acestea.

Într-un sondaj Pew Research, printre lucrătorii care au primit formare la locul de muncă (51%), doar un sfert (24%) au spus că aceasta a fost legată de utilizarea IA. Organizațiile ar trebui să se asigure că au programe de formare de IA în loc, deoarece acestea pot ajuta angajații să înțeleagă oportunitățile și funcționalitățile disponibile pentru ei. Creșterea competențelor poate, de asemenea, să-i ajute să crească în carieră și să se simtă mai mulțumiți de poziția lor.

Programele de formare de IA ar trebui să aibă un focus dincolo de utilizarea de bază și conformitate pentru a ajuta echipele să înțeleagă contextul mai larg al IA și modul în care operează în ecosistemul afacerii lor. Subiectele care trebuie acoperite includ de ce utilizarea responsabilă a IA contează, care sunt politicile existente pentru a proteja atât afacerea, cât și clienții, și cum să identifice potențialele riscuri de manipulare a datelor sau de confidențialitate. Atunci când angajații sunt echipați cu cunoștințele potrivite, ei sunt împuterniciți să devină parteneri activi în inovarea în siguranță.

Modelarea viitorului inteligenței artificiale responsabile 

IA umbra nu va dispărea în curând. Pe măsură ce tehnologiile generative devin mai integrate în fluxurile de lucru de zi cu zi, provocările pentru organizații se vor intensifica. Liderii se confruntă acum cu alegerea de a trata IA umbra ca o amenințare de necontrolat sau de a o recunoaște ca o oportunitate de a maximiza eficiența și productivitatea, atunci când gestionată corespunzător.

Dezvoltarea unei politici de IA sau a unui consiliu de IA nu este un act unic. La fel cum IA evoluează rapid, și strategia organizației trebuie să o facă. IA poate ghida decizii mai inteligente, accelera inovația și îmbunătăți productivitatea în fiecare funcție. Dar pentru a menține aceste câștiguri, angajații trebuie să înțeleagă care sunt instrumentele disponibile pentru ei și cum să le utilizeze în mod responsabil. Cei care reușesc vor rămâne agili, refăcând proactiv politicile pentru a rămâne înaintea schimbărilor, nu pentru a le urma.