Cum Folosesc Hackerii Inteligența Artificială

IA și-a dovedit a fi o tehnologie cu valoare adăugată în întreaga economie globală.

Pe măsură ce companiile s-au văzut nevoite să se adapteze evenimentelor actuale în ultimii ani, unele dintre ele au găsit modalități de a încadra o jumătate de deceniu – în cazul Frito-Lay – de transformări digitale într-un interval de timp mult mai scurt. Harris Poll și Appen au constatat că bugetele pentru IA au crescut cu 55% în timpul pandemiei globale.

Ca orice instrument, inteligența artificială nu are o valoare morală inerentă. Utilitatea sau potențialul de a dăuna al IA depinde de modul în care sistemul „învață” și de ceea ce fac oamenii cu el în final.

Unele încercări de a utiliza IA – cum ar fi „previziunea” infracțiunilor înainte de a se întâmpla – arată că modelele antrenate pe date părtinitoare tind să reproducă neajunsurile umane. Până acum, antrenarea IA utilizând date din sistemul de justiție din SUA a dus la un raționament IA tragic prejudecat.

În alte exemple, oamenii aleg modalități mai deliberate de a utiliza potențialul distructiv al IA. Hackerii își arată din nou tendințele inovatoare, folosind inteligența artificială pentru a-și îmbunătăți atacurile, eficacitatea și profitabilitatea. Și pe măsură ce războiul cibernetic devine din ce în ce mai frecvent în întreaga lume, vom vedea cu siguranță aplicațiile IA în hackingul care se dezvoltă și mai mult.

IA Este Oportunitate și Risc

Inteligența artificială oferă o lume de posibilități pentru companiile care doresc să îmbunătățească previziunile, optimizarea afacerilor și strategiile de retenție a clienților. Este, de asemenea, o avere pentru cei care intenționează să compromită suveranitatea digitală a altora.

Iată câteva modalități în care inteligența artificială poate fi susceptibilă la tamponarea discretă și la eforturile mai evidente de a o îndrepta spre acțiuni agresive.

1. Compromiterea Logicii Mașinii

Avantajul principal al IA pentru consumatori și întreprinderi comerciale este acela că efectuează acte de logică previzibile și reproductibile fără intervenție umană. Acesta este și cel mai mare punct slab.

Ca orice altă construcție digitală, IA poate fi susceptibilă la pătrunderea forțelor externe. Hackerii care accesează și compromit logica mașinii care alimentează IA pot face ca aceasta să efectueze acțiuni imprevizibile sau dăunătoare. De exemplu, o IA însărcinată cu monitorizarea condițiilor industriale poate furniza citiri false sau poate lăsa semnalele de întreținere să nu fie livrate.

Deoarece întregul scop al investițiilor în IA este de a elimina intervenția umană și de a pune sub semnul întrebării rezultatele, prejudiciul adus infrastructurii sau calității produsului cauzat de un atac de acest tip poate să nu fie observat până la apariția unei defecțiuni catastrofale.

2. Utilizarea Algoritmilor de Inginerie Inversă

O altă cale potențială de a provoca prejudicii – în special în ceea ce privește proprietatea intelectuală (PI) și datele consumatorilor sau comerciale – este noțiunea de inginerie inversă. Hackerii pot chiar să fure codul de inteligență artificială însuși. Cu suficient timp pentru a studia modul în care funcționează, ar putea, în cele din urmă, descoperi seturile de date utilizate pentru a antrena IA în primul rând.

Acest lucru poate provoca mai multe rezultate, primul dintre ele fiind otrăvirea IA. Alte exemple pot implica hackeri care utilizează datele de antrenare ale IA pentru a obține informații compromițătoare despre piețe, concurenți, guverne, furnizori sau consumatori în general.

3. Învățarea Despre Țintele Intenționate

Supravegherea țintelor este probabil una dintre implicațiile mai tulburătoare ale faptului că IA ajunge în mâinile hackerilor. Capacitatea IA de a trage concluzii despre abilitățile unei persoane, domeniile de cunoaștere, temperament și probabilitatea de a cădea victimă țintirii, fraudării sau abuzului se dovedește a fi deosebit de îngrijorătoare pentru unii experți în securitate cibernetică.

Inteligența artificială poate ingera și ajunge la concluzii surprinzător de detaliate despre oameni, echipe și grupuri pe baza unora dintre cele mai neșanse puncte de date. O persoană „angajată” sau „distrasă” poate să tasteze rapid, să se joace cu mouse-ul sau să treacă rapid între filele browserului. Un utilizator care este „confuz” sau „ezitant” poate să se oprească înainte de a face clic pe elemente de pagină sau să revizuiască mai multe site-uri.

În mâinile potrivite, semnalele precum acestea ajută departamentele de resurse umane să îmbunătățească angajamentul angajaților sau să ajute echipele de marketing să își perfecționeze site-urile web și canalele de vânzări.

Pentru hackeri, semnalele precum acestea ar putea duce la un profil psihologic surprinzător de nuanțat al țintei intenționate. Criminalii cibernetici ar putea să afle, pe baza unor indicii invizibile pentru oameni, care persoane ar putea fi vulnerabile la phishing, smishing, ransomware, fraude financiare și alte tipuri de prejudicii. De asemenea, ar putea să învețe cum să convingă țintele lor că încercările lor de fraudă provin din surse legitime.

4. Sondează Vulnerabilitățile Rețelei

Profesioniștii în securitate cibernetică au publicat date despre 20.175 de vulnerabilități de securitate cunoscute în 2021. Acesta a fost un increment față de 2020, când au existat 17.049 astfel de vulnerabilități.

Lumea devine din ce în ce mai interconectată digital – unii ar spune interdependentă – de la o oră la alta. Lumea găzduiește în prezent o mulțime de rețele mici și industriale, cu miliarde de dispozitive conectate online și mai multe pe cale să apară. Totul este online, de la senzorii de monitorizare a condițiilor la software-ul de planificare a întreprinderii.

Inteligența artificială arată promițător în ajutorarea echipelor de securitate cibernetică să sondeze rapid pentru vulnerabilitățile rețelei, software-ului și hardware-ului mai rapid decât oamenii ar putea singuri. Viteza și amploarea creșterii infrastructurii digitale a Pământului fac ca este aproape imposibil să se caute miliarde de linii de cod pentru exploatarea securității pentru a le corecta. Toate acestea trebuie să se întâmple în timp ce aceste sisteme sunt online din cauza costurilor timpului de închidere.

Dacă IA este un instrument de securitate cibernetică aici, este și o sabie cu două tăișuri. Hackerii pot utiliza aceleași mecanisme ca și „white hat”-ul din domeniul IT pentru a efectua același lucru: sondează rețele, software și firmware pentru vulnerabilități mai eficient decât specialiștii IT umani.

Curse a Armelor Digitale

Există prea multe aplicații IA în criminalitatea informatică pentru a le număra pe toate, dar iată câteva exemple:

• Hackerii ar putea ascunde codul IA într-o aplicație în general inofensivă care execută un comportament dăunător atunci când detectează un declanșator sau un prag predeterminat.
• Modelele IA malefice pot fi utilizate pentru a determina credențialele sau funcțiile de gestionare a IT prin monitorizarea intrărilor biometrice, cum ar fi amprentele digitale și recunoașterea vocală.
• Chiar dacă o încercare de atac cibernetic în cele din urmă eşuează, hackerii echipați cu IA pot utiliza învățarea automată pentru a determina ce a mers prost și ce ar putea face diferit data viitoare.

Părea că a fost nevoie de o singură poveste bine plasată despre hacking un jeep în timp ce conduce pentru a încetini dezvoltarea vehiculului autonom până la o oprire. Un singur atac deosebit de mediatizat în care IA acționează ca o cheie de boltă ar putea provoca o eroziune similară a opiniei publice. Unele sondaje arată că americanul mediu este foarte sceptic cu privire la beneficiile IA deja.

Calcularea omniprezentă vine cu riscuri de securitate cibernetică – și atât hackerii „white hat”, cât și cei „black hat” știu acest lucru. IA poate ajuta la menținerea vieții noastre online în siguranță, dar este și epicentrul unei noi curse a armelor digitale.