Regândirea rezilienței AI: De ce este timpul să abandonăm modelul ‘Setează și uită’

Un sondaj recent Gallup indică o tendință de creștere a adoptării AI, deoarece peste jumătate dintre adulții angajați afirmă că utilizează tehnologia cel puțin de câteva ori pe an. Aceste date sunt doar un indiciu al adoptării rapide a AI în mediile enterprise. Deși numeroși lideri din întreprinderi au început să pună la îndoială ROI-ul AI, acest lucru nu i-a împiedicat pe organizații să se bazeze pe tehnologie pentru a simplifica sarcinile manuale și a maximiza productivitatea.

Pe măsură ce această adoptare continuă, organizațiile pot fi tentate să ignore greșelile dăunătoare în fluxurile de lucru automatizate. Ele văd AI ca pe o soluție turn-key, necesitând ca echipele IT să seteze tehnologia, să o lase să ruleze și să „uiască” că există. Unele echipe de securitate încearcă să contracareze această mentalitate, creând ghiduri de automatizare menite să promoveze utilizarea sigură și securizată a AI. Totuși, chiar și cele mai bune echipe IT și de securitate lasă puțin spațiu pentru ajustări în aceste ghiduri. Prin urmare, întreprinderile nu pot evolua în siguranță alături de AI, așa cum tehnologia însăși evoluează.

Pe măsură ce întreprinderile acordă AI mai multă autoritate în fluxurile de lucru critice pentru afaceri, agilitatea operațională trebuie să devină noul mandat pentru organizațiile de astăzi. Pentru ca aceasta să devină o practică universală, liderii de securitate din întreprinderi trebuie să abandoneze mentalitatea „setează și uită” și să proiecteze pentru reziliență.

Înțelegerea paradoxului automatizării

Automatizarea bazată pe AI oferă câștiguri masive de productivitate în multiple funcții ale întreprinderilor. Să luăm ca exemplu securitatea cibernetică. Instrumentele AI permit analiștilor să facă pași suplimentari pe care nu îi aveau timp să îi efectueze în centrele de operațiuni de securitate supraîncărcate și copleșite. Acestea includ sarcini precum prioritizarea alertelor, revizuirea evenimentelor, detectarea amenințărilor, validarea prin referințe încrucișate și obținerea unei a doua opinii. Spre deosebire de unii lideri din nivelul C‑suite, CISOs rămân în general optimiști privind valoarea pe care AI o va aduce în viitor. Conform datelor din „The CISO Report: From Risk to Resilience in the AI Era,”, 83 % dintre CISOs cred că automatizarea este investiția cu cele mai mari șanse să depășească așteptările.

În ciuda acestor beneficii, rămâne un paradox. Același raport evidențiază scepticismul pe care CISOs îl au față de AI, temându-se de consecințele erorilor autonome. 83 % dintre CISOs consideră impactul halucinațiilor, cum ar fi alertele ratate sau alarmele false, ca fiind cea mai mare preocupare legată de AI‑ul agentic. Există dovezi suficiente care susțin aceste temeri privind halucinațiile. O companie aeriană comercială majoră a fost trasă la răspundere legală și obligată să plătească despăgubiri după ce chatbotul său de servicii pentru clienți a halucinat o politică de rambursare a tarifelor pentru decesuri. O firmă de informații despre amenințări se confruntă cu probleme legale deoarece, conform acuzațiilor, a publicat un raport care leagă un startup de hackeri proveniți dintr‑o putere străină. Când AI greșește, consecințele pot depăși sistemele interne și pot afecta atât capitalul, cât și reputația.

Problema ghidurilor învechite

Ghidurile de securitate axate pe AI reprezintă o bază pentru adoptarea AI cu succes și în siguranță. Totuși, apar probleme atunci când aceste ghiduri nu se schimbă niciodată. Amenințările, infrastructura IT și mediile de afaceri evoluează constant. AI permite actorilor amenințător să scaleze atacurile, în timp ce mediile IT în expansiune și din ce în ce mai complexe fac detectarea mai dificilă. În același timp, pe măsură ce companiile acordă AI o responsabilitate mai mare, consecințele erorilor devin mai semnificative.

Dacă toți acești factori continuă să evolueze, atunci logica automatizării trebuie să evolueze odată cu ei. Ghidurile de automatizare înghețate împiedică acest lucru. Ele lasă echipele de securitate să facă față problemelor actuale cu o logică învechită. Uneori, acest scenariu poate fi chiar mai rău decât dacă echipa de securitate nu ar avea deloc un ghid.

• Testate continuu împotriva informațiilor noi despre amenințări
• Actualizate după apariția incidentelor reale
• Retrase odată ce nu mai sunt eficiente sau nu mai aduc valoare

Această mentalitate se aliniază cu ghidurile de la Cybersecurity and Infrastructure Security Agency (CISA) și alte agenții globale de securitate cibernetică, care promovează monitorizarea continuă a sistemelor AI și intervenția umană continuă.

Implementarea formulei de reziliență

Era AI solicită întreprinderilor să renunțe la mentalitatea în care AI este văzut ca o soluție punctuală, sau pur și simplu adăugarea automatizării la cazuri de utilizare existente. Organizațiile trebuie să construiască o cultură a rezilienței care să permită atât personalului IT, cât și sistemelor să îmbunătățească zonele în care AI funcționează corect — și să răspundă eficient când tehnologia greșește.

O formulă practică în trei părți poate ajuta la încorporarea acestei reziliențe în acțiunile automatizate.

• Încredere: Pentru fiecare flux de lucru automatizat, echipele ar trebui să se întrebe: Cât de încrezători suntem în declanșatorul care a inițiat răspunsul automat?
• Reversibilitate: Este acțiunea reversibilă? Dacă da, cât de rapid și în siguranță putem face acest lucru?
• Rază de impact: Cât de extinse sunt consecințele dacă o eroare se răspândește și cât de critică pentru afacere este resursa afectată?

Instrumentele potrivite de observabilitate și monitorizare sunt esențiale pentru a răspunde la aceste întrebări. Echipele ar trebui să folosească o platformă unificată de observabilitate și gestionare a datelor pentru a înțelege pe deplin unde într-un mediu IT poate apărea un răspuns automat, ce alte active afectează și consecințele de afaceri asociate. Realizarea regulată a acestui exercițiu va permite echipelor de securitate să mențină ghidurile AI actualizate. În plus, va permite practici adecvate de intervenție umană în buclă, deoarece echipele IT vor ști unde și cum să intervină pentru a preveni ca acțiunile automatizate incorecte să aibă efecte răspândite și costisitoare.

Nu mai seta și uita

Este important ca CISO‑ul și liderii IT moderni să conștientizeze că responsabilitatea cade asupra lor în ceea ce privește comportamentul AI. Cu cât AI atinge mai multe sarcini critice ale întreprinderii, cu atât povara pentru directorii de securitate cibernetică crește. O regulă practică de reținut este: „Automatizarea schimbă pe cine apasă butonul. Nu schimbă pe cine este responsabil pentru apăsarea butonului.”

Riscurile și responsabilitatea CISO‑ului de astăzi sunt prea mari pentru a menține ghidurile „setează și uită”. În schimb, reziliența trebuie să fie atât o practică, cât și o cultură care să pătrundă în întreaga întreprindere și să îi permită să se redreseze după o greșeală a AI. Când echipele includ monitorizarea continuă, reversibilitatea, containerea și responsabilitatea umană în ghidul de automatizare, întreprinderile pot preveni ca o decizie automată să devină o problemă la nivelul întregii afaceri.