Cum ar trebui să abordeze întreprinderile suprasarcina aplicațiilor de inteligență artificială?

Calculatoarele nu atât de personale

De-a lungul anilor, dezvoltarea tehnologică a fost condusă de dorința de a face calculatoarele mai accesibile. De la smartphone-uri la tablete, laptopuri și dispozitive purtabile, există o tendință generală de a face calculatoarele și capacitățile lor din ce în ce mai personale. Doar gândiți-vă la nomenclatura coloanelor industriei: “Calculator Personal”, sau PC; “i” Pod, Pad, Phone și mai departe. Fiecare dintre aceste dispozitive este menit să acționeze ca un companion personal, ajutând la simplificarea experienței digitale a utilizatorului și, prin extensie, a vieții sale.

Dezvoltarea inteligenței artificiale (IA) – în special a modelelor de limbaj mare (LLM) și a soluțiilor agenților – este îndreptată în mare măsură în aceeași direcție. La fel ca PC-ul și iPhone-ul, uneltele de IA, cum ar fi ChatGPT, au făcut activitățile de calcul, cum ar fi căutarea, editarea și brainstormingul, mai accesibile publicului larg. Dar, pe măsură ce această accesibilitate a condus la o utilizare crescută, a crescut și riscul.

Indiferent dacă este vorba de conectoare otrăvite sau indexare accidentală a motorului de căutare, amenințările la adresa utilizării private a IA devin din ce în ce mai greu de protejat. Adăugați incertitudinile cu privire la cine folosește ce unelte și companiile se confruntă cu o furtună perfectă de amenințări în creștere și protecție inadecvată. Având în vedere promisiunea uneltelor de IA și incertitudinea cu privire la modul de a le proteja, ce ar trebui să facă o întreprindere cu viziune tehnologică?

Crescerea aplicațiilor de IA neautorizate

Cu peste 700 de milioane de utilizatori zilnici în 2025, utilizarea ChatGPT a crescut cu peste 4 ori de la an la an. Chiar și așa, doar cinci milioane dintre acești utilizatori sunt clienți de afaceri plătitori. Acest lucru face ca ceilalți 695 de milioane sau mai mult de membri ai bazei lor de utilizatori să fie fie utilizatori personali, fie utilizatori de afaceri neautorizați. Acest număr pare mare până când vă amintiți că ChatGPT nu este singura soluție de IA de pe piață. De fapt, este departe de a fi singura – explozia contemporană a IA și a progresului învățării automate a generat sute de mii de noi modele și soluții, atât publice, cât și private.

Pentru companii, creșterea exponențială a soluțiilor de IA a dat naștere unei noi dimensiuni a peisajului amenințărilor cibernetice, cunoscută sub numele de “IA Umbra”. La fel ca fenomenul “IT Umbra”, acest concept se bazează pe utilizarea de către angajați a soluțiilor de IA fără verificarea și aprobarea prealabilă a organizației. Acest lucru ocolește complet supravegherea și securitatea IT, ducând la scenarii în care angajații ar putea utiliza soluții periculoase sau nesigure pentru lucrări sensibile.

Utilizarea IA Umbra este atât răspândită, cât și în expansiune. Un raport a constatat că peste 320 de aplicații de IA neautorizate sunt utilizate în medie pe întreprindere. Fiecare dintre aceste aplicații neautorizate și utilizarea lor de către angajați extinde și mai mult peisajul amenințărilor.

Riscurile inerente ale suprasarcinii de IA

Amenințările asociate cu suprasarcina de IA sunt multifacetice și, din nefericire, în continuă expansiune. Unele, cum ar fi otrăvirea datelor, injecția de prompt, manipularea modelului și extragerea datelor, sunt cunoscute. Aceste încercări directe de manipulare și exploatare a IA pot permite actorilor răi să aibă acces la date sensibile ale întreprinderii și la sistemele interne. Având în vedere acest risc, întreprinderile încep să se protejeze activ împotriva unor astfel de atacuri.

Însă companiile pot proteja doar împotriva amenințărilor pe care le cunosc. Gândiți-vă la securizarea unui castel medieval. Zidurile, turnurile de strajă, porțile, șanțurile și multe altele ajută la securizarea castelului împotriva dușmanilor și invadatorilor din exterior. Dar ce se întâmplă dacă personalul de bucătărie are o trecere secretă care ocolește zidurile exterioare? Sau un paznic gălăgios este auzit discutând despre schimburile de tură la taverna locală? Orice dintre aceste amenințări necunoscute ar putea ajuta hoții să ocolească securitatea și să pătrundă în interiorul castelului.

IA Umbra are același efect asupra securității datelor întreprinderii. Chiar și utilizarea bine intenționată a soluțiilor de IA neautorizate poate însemna dezastru pentru protecția datelor sensibile, deoarece orice soluție nesigură poate servi ca poartă de intrare pentru actorii răi. Orice utilizare a LLM poate crește riscul problemelor precum reținerea datelor, injecția de prompt, sau bias-ul modelului, fiecare dintre acestea necesitând măsuri de securitate relevante. Acest lucru crește riscul de încălcări ale datelor, încălcări ale conformității și eșecuri operaționale, toate acestea fiind adesea identificate după ce already s-a produs already daunele.

Stabilirea controlului asupra soluțiilor de IA

Pe măsură ce utilizarea IA continuă să crească atât la nivel personal, cât și la nivel de întreprindere, este crucial ca organizațiile să stabilească control asupra acestor soluții înainte ca adoptarea să crească dincolo de controlul lor. Securizarea IA întreprinderii și protejarea împotriva riscurilor de IA neautorizate implică:

1. Obținerea unei vizibilități cuprinzătoare. Așa cum s-a menționat, nu puteți proteja datele împotriva amenințărilor de care nu sunteți conștient. Securitatea începe cu supravegherea tuturor soluțiilor de IA pe care le utilizează angajații – atât autorizate, cât și neautorizate. Acest lucru este mai ușor de spus decât de făcut, dar o soluție de broker de securitate a accesului la cloud (CASB) poate ajuta la stabilirea unei vizibilități continue a utilizării aplicațiilor de către angajați.
2. Realizarea unor evaluări de risc cuprinzătoare. Echipele ar trebui să desfășoare eforturi de gestionare a riscurilor terțe (TPRM) pentru a se asigura că toate soluțiile de IA sunt evaluate pentru securitatea și riscurile potențiale. Aceste eforturi ar trebui să se extindă și la nivelul de al patrulea partener, deoarece chiar și aplicațiile autorizate, cum ar fi CRM sau platformele de productivitate, încep să integreze capacități LLM externe în platformele lor. Aceste soluții de al patrulea partener trebuie să respecte aceleași standarde de securitate ca orice aplicație internă aprobată.
3. Stabilirea cadrului de guvernanță. Cu această supraveghere și înțelegere a soluțiilor, organizațiile pot dezvolta și implementa cadre de politică de guvernanță a IA consistente în întregul ecosistem de aplicații. La fel ca în cazul accesului la date, aceste politici de guvernanță pot ajuta la controlul tipurilor de soluții de IA la care angajații au acces, a informațiilor pe care le pot partaja cu acestea și a transparenței utilizării lor zilnice.
4. Automatizarea detectării riscurilor. Creșterea exponențială a adoptării IA face ca detectarea și răspunsul manual la risc să fie aproape imposibile. Automatizarea acestor procese pe baza politicilor de guvernanță și a comportamentului utilizatorului așteptat poate ajuta la identificarea proactivă a anomaliilor și la limitarea impactului lor de securitate mai larg.
5. Explicarea așteptărilor angajaților. Partea cea mai importantă a adoptării și utilizării securizate a IA o reprezintă angajații. Furnizarea unei instruirii adecvate și stabilirea unor așteptări clare vor ajuta la prevenirea utilizării riscului a IA și la impunerea utilizării securizate și protejate a soluțiilor autorizate.

Menținerea adoptării securizate a IA

Prin stabilirea acestor măsuri de securitate proactive, companiile obțin o vedere mai holistică a modului în care utilizează soluțiile de IA – atât autorizate, cât și în “umbra”. Acest lucru are un impact imediat asupra securității, ajutând echipele să identifice riscurile și vectorii de amenințare existenți și să ia măsuri pentru a remedia acestea.

Mai important, însă, este că acestea ajută companiile să se pregătească pentru succesul pe termen lung al IA. Prin crearea fundației tehnice pentru adoptarea securizată a IA și a unei culturi de securitate între utilizatorii de IA, această abordare multi-prong ajută la crearea unui model durabil pentru uneltele de IA viitoare. Cu sprijinul tehnic și instruirea adecvată, angajații pot beneficia de avantajele IA fără a fi îngreunați de riscurile sale inerente.

Organizațiile care fac aceste schimbări mai devreme decât mai târziu vor fi mai bine pregătite să facă față viitorului soluțiilor de IA, orice ar aduce acesta. Depunerea eforturilor pentru a crea o fundație puternică – și nu doar pentru a bifa caseta adoptării IA – va pune echipele în cea mai bună poziție pentru a obține succesul susținut bazat pe IA.