De ce companiile rămân precaute în ceea ce privește inteligența artificială — și cum să o implementeze în siguranță

Inteligența artificială a cucerit lumea. În timp ce unele organizații au fost adoptate devreme, multe companii au adoptat o abordare mai precaută — preocupate de confidențialitate, conformitate și probleme operaționale care persistă și astăzi.

Am lucrat la sute de implementări care implică unelte de securitate bazate pe inteligență artificială și am văzut un model familiar care se desfășoară. Campionii aduc entuziasm devreme. Proiectele pilot arată promițător. Apoi vin dezbaterile interne, revizuirile juridice și, în cele din urmă, o pauză, pe măsură ce organizațiile se scufundă în paralizia analizei. În ciuda potențialului imens al inteligenței artificiale de a transforma operațiunile de securitate, multe companii sunt încă reticente să o adopte pe deplin.

În securitatea cibernetică, prudența este adesea instinctul corect. Dar amânarea implementărilor de inteligență artificială nu va opri amenințările bazate pe inteligență artificială care cresc în scară și frecvență. Adevărata provocare constă în a adopta inteligența artificială în mod sigur, deliberat și fără a compromite încrederea.

Iată ce am învățat din prima linie — și ce recomand liderilor de securitate care sunt gata să avanseze cu încredere.

1. Problema încrederea în date

Prima și cea mai mare piedică este gestionarea datelor. Multe companii sunt îngrozite de ideea că datele sensibile ar putea fi scurse, fi folosite în mod necorespunzător sau — și mai rău — utilizate pentru a antrena un model care beneficiază unui concurent. Încălcările de securitate de mare anvergură și asigurările vagi ale furnizorilor nu fac decât să întărească aceste temeri.

Nu este paranoia. Când aveți de-a face cu informații personale ale clienților, proprietate intelectuală sau date reglementate, predarea lor unei terțe părți poate părea o pierdere a controlului. Și până când furnizorii nu vor face o treabă mai bună în a clarifica politicile lor privind segregarea datelor, reținerea, implicarea terțelor părți și antrenarea modelului, adoptarea va rămâne precaută.

Aici guvernanța devine crucială. CISO-urile ar trebui să evalueze furnizorii utilizând cadre emergente, cum ar fi NIST AI Risk Management Framework sau ISO/IEC 42001, care oferă îndrumări practice privind încrederea, transparența și răspunderea în sistemele de inteligență artificială.

2. Nu poți îmbunătăți ceea ce nu măsori

O altă piedică comună este lipsa metricilor de bază. Multe companii nu pot cuantifica performanța actuală, ceea ce face aproape imposibilă demonstrarea randamentului investiției în uneltele de inteligență artificială. Cum poți afirma o creștere a eficienței cu 40% dacă nimeni nu a urmărit cât a durat sarcina înainte de automatizare?

Indiferent dacă este vorba de timpul mediu de detectare (MTTD), rata falselor pozitive sau orele economisite de analiști, organizațiile trebuie să înceapă prin măsurarea fluxurilor de lucru actuale. Fără aceste date, cazul inteligenței artificiale rămâne anecdotic — și sponsorii executivi nu vor aproba inițiativele pe scară largă fără numere reale și apărabile.

Începeți să urmăriți indicatorii cheie de performanță (KPI) acum, inclusiv:

• Timpul mediu de detectare/răspuns (MTTD/MTTR)
• Reducerea falselor pozitive, a falselor negative și a volumului de ticketuri
• Orele economisite de analiști pe incident
• Îmbunătățirile acoperirii (de exemplu, vulnerabilitățile scanate și remediate)
• Incidente rezolvate fără escaladare

Aceste repere vor deveni coloana vertebrală a strategiei de justificare a inteligenței artificiale.

3. Când uneltele funcționează prea bine

Ironically, una dintre cauzele pentru care adoptarea inteligenței artificiale se oprește este că unele unelte funcționează prea bine — expunând mai mult risc decât organizația este pregătită să gestioneze.

Platformele avansate de informații despre amenințări, uneltele de monitorizare a web-ului întunecat și soluțiile de vizibilitate bazate pe LLM dezvăluie adesea credențiale furate, domenii similare sau vulnerabilități nedetectate anterior. În loc de a crea claritate, această vizibilitate copleșitoare poate genera o nouă problemă: De unde să începem?

Am văzut echipe care au dezactivat scanări avansate pentru că volumul de rezultate a creat disconfort politic sau bugetar. O vizibilitate mai bună cere o prioritizare mai bună — și o disponibilitate de a confrunta problemele direct.

4. Blocate în contracte legacy

Chiar și atunci când există unelte mai bune disponibile, multe companii sunt blocate în acorduri pe termen lung cu furnizori legacy. Unele dintre aceste contracte au penalități financiare atât de mari încât schimbarea la jumătatea termenului este imposibilă.

Securitatea e-mailului este un caz clasic. Soluțiile moderne oferă acum detectare a amenințărilor bazate pe inteligență artificială, modelare comportamentală și reziliență încorporată pentru medii hibride. Dar dacă furnizorul dvs. actual nu a ținut pasul și sunteți blocat într-un contract de cinci ani, sunteți practic înghețat până la expirarea contractului.

Nu este vorba doar de tehnologie. Este vorba de timing, de achiziții și de planificare strategică.

5. Ascensiunea inteligenței artificiale umbre

Adoptarea inteligenței artificiale nu se întâmplă doar de sus în jos — se întâmplă peste tot, adesea fără cunoștința securității. Cercetarea noastră arată că peste 85% dintre angajați utilizează deja unelte de inteligență artificială, cum ar fi ChatGPT, Copilot și Bard. (și nu numai DeepSeek și TikTok!)

Fără supraveghere corespunzătoare, angajații pot introduce date sensibile în unelte publice, pot depinde de ieșiri halucinate sau pot încălca involuntar politici ale companiei. Este un coșmar de conformitate și protecție a datelor, și a pretinde că nu se întâmplă nu rezolvă problema.

Liderii de securitate trebuie să adopte o poziție proactivă prin:

• Stabilirea unor politici de utilizare acceptabile
• Blocarea uneltelor de inteligență artificială neaprobate acolo unde este necesar și redirecționarea utilizatorilor către unelte autorizate
• Implementarea unor platforme de inteligență artificială aprobate și sigure pentru utilizare internă
• Instruirea angajaților cu privire la utilizarea responsabilă a inteligenței artificiale

Notă de teren: Politicile de utilizare a inteligenței artificiale nu vor schimba utilizarea. Nu poți impune ceea ce nu cunoști, așa că primul pas este să cuantifici utilizarea, apoi să activezi mecanismul de aplicare.

6. Externalizarea aduce riscuri proprii

Puține companii au infrastructura pentru a construi și găzdui modele mari în interior. Acest lucru înseamnă că externalizarea este adesea singura cale viabilă — dar aduce riscuri ale terțelor părți și ale lanțului de aprovizionare cu care CISO-urile sunt prea familiari.

Incidente precum SolarWinds, Kaseya și recenta breșă de securitate Snowflake evidențiază modul în care încrederea în parteneri externi fără vizibilitate poate duce la expuneri majore. Atunci când externalizați infrastructura de inteligență artificială, moșteniți poziția de securitate a furnizorului — bună sau rea.

Nu este suficient să ai încredere într-o marcă. Cereți claritate cu privire la:

• Ciclu de viață al modelului și frecvența actualizărilor
• Protocoale de răspuns la incidente
• Controale de securitate și istoric de conformitate al furnizorului
• Izolare a datelor și controale de locație

7. Suprafața de atac a inteligenței artificiale se extinde

Pe măsură ce organizațiile adoptă inteligența artificială, ele trebuie să se și pregătească pentru vectori de atac specifici inteligenței artificiale. Atacatorii experimentează deja cu:

• Otrăvirea modelului (modificarea subtilă a datelor de antrenament)
• Injectarea de prompturi (manipularea comportamentului LLM)
• Intrări adverse (oferirea de date care ocolesc detectarea)
• Exploatări ale halucinațiilor (înșelarea utilizatorilor pentru a avea încredere în ieșiri false)

Acestea nu sunt teoretice. Sunt reale și în creștere. Pe măsură ce apărătorii adoptă inteligența artificială, ei trebuie să-și adapteze și strategiile de testare roșie, monitorizare și răspuns pentru a ține cont de această nouă și unică suprafață de atac.

8. Oamenii și procesele pot fi adevăratele blocaje

Una dintre cele mai subestimate provocări este pregătirea organizațională. Unehlele de inteligență artificială necesită modificări ale fluxurilor de lucru, seturilor de abilități și mentalităților.

Analiștii trebuie să înțeleagă când să aibă încredere în inteligența artificială, când să o conteste și cum să escaladeze eficient. Liderii trebuie să integreze inteligența artificială în procesele de luare a deciziilor fără a automata în mod orbesc riscul.

Instruirea, caietele de sarcini și managementul schimbărilor trebuie să evolueze alături de tehnologie. Adoptarea inteligenței artificiale nu este doar o inițiativă tehnică. Este o inițiativă de transformare umană.

Deci, ce putem face?

În ciuda provocărilor, cred cu tărie că beneficiile inteligenței artificiale în securitate depășesc riscurile — dacă se face corect. Iată cum sfătuiesc organizațiile să avanseze:

• Începeți mic și testați riguros
• Alegeți un caz de utilizare cu impact măsurabil. Rulați proiecte pilot controlate. Validați performanța. Construiți încredere cu date, nu cu hype.
• Aduceți-i pe cei din domeniul juridic, risc și securitate de la început
• Nu așteptați până la faza contractului. Aduceți-i pe cei din domeniul juridic și al conformității pentru a verifica termenii de manipulare a datelor, riscurile reglementare și implicațiile lanțului de aprovizionare de la început.

Măsurați totul

Urmați indicatorii cheie de performanță înainte și după implementare. Creați tablouri de bord care vorbesc atât în termeni de securitate, cât și de afaceri. Metricile fac sau spară finanțarea inteligenței artificiale.

Alegeți parteneri cu dovezi reale de proiecte de succes

Uitați-vă dincolo de demonstrații. Cereți referințe. Întrebați despre suportul post-vânzare, complexitatea implementării și rezultatele în medii similare cu ale dvs.

Ce urmează? Cazuri de utilizare emergente care merită urmărite

Suntem încă la începutul călătoriei inteligenței artificiale în securitate. CISO-ii cu viziune exploră deja:

• Copiloți de inteligență artificială pentru managementul firewall-ului, GRC și automatizarea conformității
• Utilizarea fluxurilor de amenințări îmbunătățite de inteligența artificială care accelerează răspunsul la amenințările de zero zi și precizia
• Simularea atacurilor și testarea roșie generativă
• Infrastructură multi-vendor auto-vindecătoare
• Controale de identitate bazate pe risc, alimentate de inteligența artificială comportamentală

Aceste cazuri de utilizare trec de la laboratoarele de inovare în producție. Organizațiile care își dezvoltă abilitățile acum vor fi mult mai bine pregătite să capitalizeze.

Gând final: Amânarea nu este apărare

Inteligența artificială este aici, și așa sunt și amenințările bazate pe inteligență artificială. Cu cât așteptați mai mult, cu atât pierdeți mai mult teren. Dar acest lucru nu înseamnă că ar trebui să vă grăbiți orb.

Cu planificare atentă, guvernanță transparentă și parteneri potriviți, organizația dvs. poate adopta inteligența artificială în siguranță — sporind capacitatea fără a sacrifica controlul.

Viitorul securității este augmentat. Singura întrebare este dacă veți conduce sau veți rămâne în urmă.