Experții în inteligență artificială clasifică Deepfakes și alte 19 crime bazate pe IA după nivelul de pericol

O nouă raport publicat de University College London a urmărit să identifice diversele moduri în care IA ar putea ajuta potențial criminalii în următorii 15 ani. Raportul a avut 31 de experți în IA care au evaluat 20 de metode diferite de utilizare a IA pentru comiterea de crime și le-au clasificat în funcție de diverse factori. Experții în IA au clasificat crimele în funcție de variabile precum cât de ușor ar fi să comită crima, prejudiciul potențial pentru societate, suma de bani pe care un criminal ar putea să o obțină și cât de greu ar fi să se oprească crima. Conform rezultatelor raportului, Deepfakes reprezintă cea mai mare amenințare pentru cetățenii onești și societate în general, deoarece potențialul lor de exploatare de către criminali și teroriști este ridicat.

Experții în IA au clasificat Deepfakes pe primul loc în lista potențialelor amenințări IA, deoarece sunt greu de identificat și de contracarat. Deepfakes devin tot mai bune la înșelarea ochilor experților în Deepfakes și chiar a altor metode bazate pe IA de detectare a Deepfakes sunt adesea neverosimile. În ceea ce privește capacitatea lor de a provoca prejudicii, Deepfakes pot fi ușor utilizate de actori răi pentru a discredita figuri de încredere, experți sau pentru a încerca să înșele oamenii, pretinzând a fi persoane de încredere. Dacă Deepfakes sunt abundente, oamenii ar putea începe să piardă încrederea în orice mediu audio sau video, ceea ce ar putea face ca ei să piardă credința în valabilitatea evenimentelor și faptelor reale.

Dr. Matthew Caldwell, de la UCL Computer Science, a fost primul autor al lucrării. Caldwell subliniază pericolul crescând al Deepfakes, pe măsură ce tot mai multă activitate se desfășoară online. Conform citatului lui Caldwell de către UCL News:

„În contrast cu multe crime tradiționale, crimele din domeniul digital pot fi ușor partajate, repetate și chiar vândute, permițând tehnicilor criminale să fie comercializate și crimei să fie oferite ca serviciu. Acest lucru înseamnă că criminalii ar putea să externalizeze aspectele mai dificile ale crimei bazate pe IA.”

Echipa de experți a clasificat cinci alte tehnologii IA emergente ca fiind foarte îngrijorătoare și potențiale catalizatoare pentru noi tipuri de crime: vehicule fără șofer utilizate ca arme, atacuri de hack asupra sistemelor și dispozitivelor controlate de IA, colectarea de date online în scopul șantajului, phishing-ul bazat pe IA cu mesaje personalizate și știrile false/informațiile false în general.

Conform lui Shane Johnson, Directorul Centrului Dawes pentru Crimele Viitoare de la UCL, scopul studiului a fost să identifice posibilele amenințări asociate cu tehnologiile emergente și să ipotezeze modalități de a preveni aceste amenințări. Johnson spune că, pe măsură ce viteza schimbărilor tehnologice crește, este esențial „să anticipăm amenințările criminale viitoare, astfel încât factorii de decizie și ceilalți stakeholderi cu competența de a acționa să poată face acest lucru înainte de a apărea noi «recolte de crime»”.

În ceea ce privește celelalte 14 posibile crime de pe listă, acestea au fost împărțite în două categorii: îngrijorare moderată și îngrijorare scăzută.

Crimele bazate pe IA care provoacă îngrijorare moderată includ utilizarea abuzivă a roboților militari, otrăvirea datelor, atacurile cu drone automate, atacurile cibernetice bazate pe învățare, atacurile de refuz de servicii pentru activitățile online, manipularea piețelor financiare/bursiere, „uleiul de șarpe” (vânzarea de servicii false, deghizate în terminologie IA/ML) și înșelarea sistemelor de recunoaștere facială.

Crimele bazate pe IA care provoacă îngrijorare scăzută includ falsificarea de artă sau muzică, hărțuirea asistată de IA, recenziile false scrise de IA, evitarea metodelor de detectare a IA și „hoții de bot” (boturile care sparg casele oamenilor pentru a fura lucruri).

Desigur, modelele IA însele pot fi utilizate pentru a combate unele dintre aceste crime. Recent, modelele IA au fost utilizate pentru a ajuta la detectarea schemelor de spălare a banilor, detectarea tranzacțiilor financiare suspecte. Rezultatele sunt analizate de operatorii umani care apoi aprobă sau resping alerta, iar feedback-ul este utilizat pentru a îmbunătăți modelul. Se pare că viitorul va implica IA-uri care vor fi folosite una împotriva celeilalte, cu criminali care încearcă să proiecteze cele mai bune unelte asistate de IA și securitate, aplicarea legii și alți designeri etici de IA care încearcă să proiecteze propriile sisteme IA.