Cum câștigă criminalii cursa armelor cu inteligență artificială înainte ca afacerile să o înceapă

Într-o eră în care inteligența artificială transformă industrii la un ritm fără precedent, partea întunecată a acestei revoluții tehnologice este la fel de alarmantă. Pe măsură ce afacerile se grăbesc să valorifice potențialul inteligenței artificiale, criminalii cibernetici exploatează aceste progrese, modificând dinamica criminalității cibernetice și a fraudei.

Schimbarea economiei criminalității cibernetice și a fraudei

Criminalii cibernetici utilizează aceleași modele și tehnologii de inteligență artificială pe care le folosesc întreprinderile, adesea adaptându-le în câteva zile de la lansarea lor. Unul dintre primele exemple de astfel de abuz a fost automatizarea rezolvării CAPTCHA folosind ChatGPT-1, care a demonstrat cât de repede modelele generative pot ocoli controalele de securitate de bază.

De atunci, fiecare progres major în inteligența artificială generativă a fost rapid reflectat de adaptările criminale, incluzând generarea de voci și videouri deepfake care apar aproape imediat pe platformele darknet. Acest ciclu accelerat permite fraudatorilor să exploateze tehnologii sofisticate pentru a crea scheme de fraudă convingătoare, subminând măsurile de securitate tradiționale.

În primul trimestru al anului 2025, frauda facilitată de deepfake a cauzat pierderi financiare de peste $200 milioane. Profitabilitatea criminalității cibernetice a crescut spectaculos, platformele care oferă “fraudă ca serviciu” făcându-l mai ușor ca niciodată pentru criminali să execute scheme complexe, incluzând identități sintetice și kituri de phishing avansate.

Pe măsură ce afacerile se luptă să-și extindă capacitățile de inteligență artificială, criminalii sunt în curs de a depăși, inovând și exploatarea lacunelor lăsate de cadrele de securitate depășite.

De ce cadrele de securitate cibernetică și încredere legacy nu reușesc împotriva actorilor cu putere de inteligență artificială

Măsurile tradiționale de securitate cibernetică care ofereau o aparență de protecție se dovedesc a fi inadecvate. Sistemele legacy, care se bazează pe liste negre, CAPTCHAs și autentificare cu un singur factor, sunt nepregătite pentru a combate peisajul în evoluție al atacurilor conduse de inteligență artificială. Criminalii folosesc deepfakes care pot păcăli scanerele biometrice și identități sintetice care pot ocoli protocolul KYC.

Acest eșec este exacerbat de realitatea că multe organizații tratează încă securitatea cibernetică ca pe un centru de cost, în loc de un component critic al infrastructurii. Pe măsură ce Pentagonul investește milioane pentru a angaja hackeri de inteligență artificială, se evidențiază gapul tehnologic. În timp ce afacerile sunt îngropate în teatru de conformitate, criminalii folosesc inteligența artificială pentru a exploata vulnerabilitățile umane, cum ar fi atacurile de spear-phishing care imită comunicările executive.

Ce arată atacurile “native AI” în practică

Tacticile moderne de fraudă au evoluat mult dincolo de schemele de phishing din trecut. Atacatorii construiesc lanțuri complexe de fraudă care par legitime la fiecare etapă.

Imaginați-vă o dimineață obișnuită de marți. 9:43. Un CFO primește un e-mail marcat “urgent”, care pare să vină de la CEO. Tonul este familiar. Limbajul corespunde cererilor anterioare. Un mesaj de urmărire sosește câteva minute mai târziu pe un alt canal, întărirind urgența. Până la 11:00, o transferă bancară de milioane de dolari este aprobată, dar mai târziu se descoperă că a fost direcționată către un cont offshore controlat de atacatori.

Aceste atacuri native AI sunt manipulări psihologice care folosesc încredere și autoritate. Sofisticarea unor astfel de operațiuni evidențiază o lacună în măsurile de securitate existente, care nu pot detecta anomaliile comportamentale nuanțate care caracterizează frauda modernă.

Ce ar trebui să prioritizeze afacerile în mod realist înainte de a implementa mai multă inteligență artificială internă

Înainte de a implementa mai multă inteligență artificială internă, afacerile trebuie să se oprească și să-și reevalueze presupunerile despre încredere. Accelerarea crimei bazate pe inteligență artificială a expus o slăbiciune structurală: organizațiile se apără încă împotriva amenințărilor de ieri, în timp ce atacurile de astăzi sunt proiectate să pară legitime din start.

1. Companiile trebuie să reevalueze modul în care este definit riscul însuși.

Matricele de risc tradiționale au fost construite în jurul eșecurilor, cum ar fi defectarea sistemelor, scurgerile de date, încălcarea politicilor. În era inteligenței artificiale, riscul provine din ce în ce mai mult din simulare, mai degrabă decât din defectare. În loc de a întreba “ce ar putea merge prost”, este mai potrivit să întrebați “ce poate fi convingător falsificat, la scară, mai rapid decât putem reacționa”.

Identitățile sintetice, impersonarea executivă și narativele generate de inteligență artificială se comportă diferit de amenințările legacy: se răspândesc mai repede, se amestecă în activități legitime și exploatează încrederea, mai degrabă decât lacunele tehnice. Nu este de mirare că aceste riscuri tind să fie mai mari și să se materializeze mai des decât predecesorii lor non-AI, ascunzându-se în cadrul securității cibernetice, fraudei, riscului de reputație sau conformității.

2. Organizațiile trebuie să accepte că prevenirea singură nu mai este suficientă.

Principalele întreprinderi hărțuiesc acum riscurile de inteligență artificială la trei straturi defensive, care corespund arhitecturii modulare a AI Defender:

• Prevenirea riscului – care include acum anticiparea atacurilor care exploatează încrederea umană și conținutul generat de inteligență artificială, și nu doar blocarea amenințărilor cunoscute.
• Verificarea identității conștientă de inteligență artificială
• Integritatea dispozitivului și a sesiunii
• Protecia comunicării executive
• Detectarea și monitorizarea amenințărilor combină analiza tehnică a anomaliilor cu monitorizarea comportamentului și a mass-mediei, reflectând faptul că multe atacuri native AI se manifestă în modele de comunicare, mai degrabă decât în cod.
• Monitorizarea continuă a semnalelor și anomaliilor
• Detectarea inteligenței artificiale versus inteligență artificială
• Monitorizarea narativelor și mass-mediei
• Investigarea și atribuirea – se concentrează pe reconstruirea evenimentelor, atribuirea intenției și producerea de dovezi acționabile, permițând organizațiilor să răspundă eficient chiar și atunci când decepția se extinde mai rapid decât apărările inițiale.
• Explicarea alertelor de inteligență artificială
• Atribuirea activității suspecte
• Dovezi de la sursă deschisă

3. Afacerile trebuie să confrunte dimensiunea umană a fraudei native AI.

Angajații rămân punctul principal de intrare pentru atacurile moderne, dar natura exploatării s-a schimbat. Unul dintre modelele frecvent observate în frauda condusă de inteligență artificială implică interacțiuni interne, mai degrabă decât atacuri externe. Angajații pot primi apeluri video scurte de la ceea ce pare a fi Departamentul de Resurse Umane, cerând să “verifice rapid identitatea” pentru a rezolva o problemă de salarizare. Fața, vocea și brandingul par autentice. Cererea în sine pare inofensivă, dar permite ulterior preluarea contului în aceeași zi.

Acest tip de scenariu ilustrează de ce frauda cu putere de inteligență artificială folosește context, autoritate și cronologie, adesea imitând comunicarea executivă cu o precizie înfricoșătoare. În acest mediu, trainingul de securitate tradițional riscă să devină mai mult decât teatru de conformitate, oferind asigurări fără reziliență reală.

Provocarea nu constă doar în conștientizare, ci și în modul în care este abordată problema.

Reconfigurarea problemei (acesta este pasul zero)

Vechea mentalitate: “Instruiți angajații să nu facă greșeli.”

Noi mentalitate: “Presupuneți că angajații vor fi ținta, manipulați și folosiți ca armă.”

Instruirea nu este educație.

Instruirea este imunizare + memorie musculară.

Prin această prismă, echipele trebuie să fie instruite să recunoască modelele recurente de fraudă.

Cei 5 vectori de fraudă AI care trec prin angajați – niciunul dintre acestea nu este oprit de afișele de conștientizare:

4. Organizațiile trebuie să reevalueze ce înseamnă “identitate” într-o lume de realitate sintetică.

Pe măsură ce vocile și videourile deepfake subminează încrederea biometrică, niciun singur factor nu poate dovedi în mod fiabil autenticitatea. Reziliența vine din acumularea multor semnale slabe în timp, cum ar fi context, continuitate și coerență pe dispozitive, sesiuni și puncte de date externe.

Datele deschise și externe, care au fost tratate mult timp ca secundare, câștigă importanță strategică. Atunci când sunt combinate cu semnalele comportamentale interne, ajută la răspunsul la o întrebare critică: are această identitate sau acțiune sens în contexte multiple? Într-o lume în care aproape orice poate fi fabricat, coerența devine una dintre puținele ancore rămase ale încrederii.