Cercetătorii cred că IA poate fi utilizată pentru a ajuta la protejarea vieții private a oamenilor

Doi profesori de științe ale informației au publicat recent un articol în The Conversation, argumentând că IA poate ajuta la păstrarea vieții private a oamenilor, corectând unele dintre problemele pe care le-a creat. Zhiyuan Chen și Aryya Gangopadhyay susțin că algoritmii de inteligență artificială pot fi utilizați pentru a apăra viața privată a oamenilor, contracarând unele dintre multele preocupări privind viața privată pe care alte utilizări ale IA le-au creat. Chen și Gangopadhyay recunosc că multe dintre produsele bazate pe IA pe care le utilizăm pentru confortul nostru nu ar funcționa fără acces la cantități mari de date, ceea ce, la prima vedere, pare a fi în contradicție cu încercările de a păstra viața privată. Mai mult, pe măsură ce IA se răspândește în tot mai multe industrii și aplicații, vor fi colectate și stocate mai multe date în baze de date, făcând ca încălcarea acestor baze de date să fie tentantă. Cu toate acestea, Chen și Gangopadhyay cred că, atunci când este utilizată corect, IA poate ajuta la mitigarea acestor probleme. Chen și Gangopadhyay explică în articolul lor că riscurile privind viața privată asociate cu IA provin din cel puțin două surse diferite. Prima sursă este constituită din seturile mari de date colectate pentru antrenarea modelelor de rețele neuronale, în timp ce a doua amenințare la adresa vieții private este reprezentată de modelele însele. Datele pot “scurge” din aceste modele, iar comportamentul modelelor poate dezvălui detalii despre datele utilizate pentru antrenarea lor. Rețelele neuronale profunde sunt alcătuite din multiple straturi de neuroni, fiecare strat fiind conectat la straturile din jur. Neuronii individuali, precum și legăturile dintre neuroni, codifică diferite fragmente de date de antrenare. Modelul poate dovedi a fi prea bun la păstrarea patternurilor datelor de antrenare, chiar dacă modelul nu este supus suprainvitării. Urme ale datelor de antrenare există în rețea și actorii maliciosi pot reuși să afle aspecte ale datelor de antrenare, așa cum a descoperit Universitatea Cornell într-unul dintre studiile sale. Cercetătorii de la Cornell au descoperit că algoritmii de recunoaștere facială pot fi exploatați de atacatori pentru a dezvălui care imagini, și prin urmare care persoane, au fost utilizate pentru antrenarea modelului de recunoaștere facială. Cercetătorii de la Cornell au descoperit că, chiar dacă un atacator nu are acces la modelul original utilizat pentru antrenarea aplicației, atacatorul poate totuși să sondeze rețeaua și să determine dacă o anumită persoană a fost inclusă în datele de antrenare, pur și simplu prin utilizarea modelelor care au fost antrenate pe date foarte asemănătoare. Unele modele de IA sunt utilizate în prezent pentru a proteja împotriva încălcării datelor și pentru a asigura viața privată a oamenilor. Modelele de IA sunt utilizate frecvent pentru a detecta încercările de hacking, recunoscând patternurile de comportament pe care le folosesc hackerii pentru a pătrunde în metodele de securitate. Cu toate acestea, hackerii își schimbă adesea comportamentul pentru a încerca să păcălească IA care detectează patternurile. Noi metode de antrenare și dezvoltare a IA își propun să facă modelele și aplicațiile de IA mai puțin vulnerabile la metodele de hacking și tactici de evaziune a securității. Învățarea adversă își propune să antreneze modelele de IA pe simulări de intrări malicioase sau dăunătoare și, prin urmare, să facă modelul mai robust la exploatare, de aici și numele de “adversarial”. Conform lui Chen și Gangopadhyay, cercetările lor au descoperit metode de combatere a malware-ului destinat să fure informații private ale oamenilor. Cei doi cercetători au explicat că una dintre metodele pe care le-au găsit cel mai eficientă pentru a rezista malware-ului a fost introducerea incertitudinii în model. Scopul este de a face mai dificilă pentru actorii răi anticiparea modului în care modelul va reacționa la orice intrare dată. Alte metode de utilizare a IA pentru a proteja viața privată includ minimizarea expunerii datelor atunci când modelul este creat și antrenat, precum și sondează pentru a descoperi vulnerabilitățile rețelei. În ceea ce privește păstrarea confidențialității datelor, învățarea federată poate ajuta la protejarea vieții private a datelor sensibile, permițând modelului să fie antrenat fără ca datele de antrenare să părăsească dispozitivele locale care conțin datele, izolând datele și multe dintre parametrii modelului de la spionaj. În cele din urmă, Chen și Gangopadhyay susțin că, deși răspândirea IA a creat noi amenințări la adresa vieții private a oamenilor, IA poate ajuta, de asemenea, la protejarea vieții private atunci când este proiectată cu grijă și considerație.