Cercetătorii cred că inteligența artificială poate fi utilizată pentru a ajuta la protejarea vieții private a oamenilor

Doi profesori de științe ale informației au publicat recent un articol în The Conversation, argumentând că inteligența artificială poate ajuta la păstrarea vieții private a oamenilor, rectificând unele dintre problemele pe care le-a creat.

Zhiyuan Chen și Aryya Gangopadhyay argumentează că algoritmii de inteligență artificială pot fi utilizați pentru a apăra viața privată a oamenilor, contracarând unele dintre preocupările legate de viața privată create de alte utilizări ale inteligenței artificiale. Chen și Gangopadhyay recunosc că multe dintre produsele bazate pe inteligență artificială pe care le utilizăm pentru conveniență nu ar funcționa fără acces la cantități mari de date, ceea ce, la prima vedere, pare a fi în contradicție cu încercările de a păstra viața privată. Mai mult, pe măsură ce inteligența artificială se răspândește în tot mai multe industrii și aplicații, vor fi colectate și stocate mai multe date în baze de date, făcând ca încălcarea acestor baze de date să fie tentantă. Cu toate acestea, Chen și Gangopadhyay cred că, atunci când este utilizată corect, inteligența artificială poate ajuta la mitigarea acestor probleme.

Chen și Gangopadhyay explică în articolul lor că riscurile pentru viața privată asociate cu inteligența artificială provin din cel puțin două surse diferite. Prima sursă este reprezentată de seturile mari de date colectate pentru a antrena modelele de rețele neuronale, în timp ce a doua amenințare pentru viața privată este reprezentată de modelele însele. Datele pot “scurge” din aceste modele, comportamentul modelelor putând dezvălui detalii despre datele utilizate pentru antrenarea lor.

Rețelele neuronale profunde sunt compuse din multiple straturi de neuroni, fiecare strat fiind conectat la straturile din jur. Neuronii individuali, precum și legăturile dintre neuroni, codifică diferite fragmente de date de antrenare. Modelul poate dovedi a fi prea bun la reținerea patternurilor datelor de antrenare, chiar dacă modelul nu este suprantrenat. Urme ale datelor de antrenare există în rețea și actorii malefici pot reuși să afle aspecte ale datelor de antrenare, așa cum a descoperit Universitatea Cornell într-unul dintre studiile sale. Cercetătorii de la Cornell au descoperit că algoritmii de recunoaștere facială pot fi exploatați de atacatori pentru a dezvălui care imagini, și, prin urmare, care persoane, au fost utilizate pentru a antrena modelul de recunoaștere facială. Cercetătorii de la Cornell au descoperit că, chiar dacă un atacator nu are acces la modelul original utilizat pentru a antrena aplicația, atacatorul poate totuși reuși să sondeze rețea și să determine dacă o anumită persoană a fost inclusă în datele de antrenare, pur și simplu utilizând modele care au fost antrenate pe date foarte asemănătoare.

Unele modele de inteligență artificială sunt utilizate în prezent pentru a proteja împotriva încălcărilor de date și pentru a asigura viața privată a oamenilor. Modelele de inteligență artificială sunt utilizate frecvent pentru a detecta încercările de hacking, recunoscând patternurile de comportament pe care le utilizează hackerii pentru a pătrunde în metodele de securitate. Cu toate acestea, hackerii schimbă adesea comportamentul lor pentru a încerca să păcălească inteligența artificială care detectează patternurile.

Noi metode de antrenare și dezvoltare a inteligenței artificiale își propun să facă modelele și aplicațiile de inteligență artificială mai puțin vulnerabile la metodele de hacking și tactici de evaziune a securității. Învățarea adversă își propune să antreneze modelele de inteligență artificială pe simulări de intrări malefice sau dăunătoare și, prin urmare, să facă modelul mai robust la exploatare, de unde și numele de “adversar”. Conform lui Chen și Gangopadhyay, cercetarea lor a descoperit metode de combatere a malware-ului destinat să fure informații private ale oamenilor. Cei doi cercetători au explicat că una dintre metodele pe care le-au găsit a fi cea mai eficientă pentru a rezista malware-ului a fost introducerea incertitudinii în model. Scopul este de a face mai dificil pentru actorii malefici să anticipeze cum va reacționa modelul la orice intrare dată.

Alte metode de utilizare a inteligenței artificiale pentru a proteja viața privată includ minimizarea expunerii datelor atunci când modelul este creat și antrenat, precum și sondează pentru a descoperi vulnerabilitățile rețelei. Atunci când vine vorba de păstrarea confidențialității datelor, învățarea federată poate ajuta la protejarea confidențialității datelor sensibile, permițând modelului să fie antrenat fără ca datele de antrenare să părăsească dispozitivele locale care conțin datele, izolând datele și multe dintre parametrii modelului de la spionaj.

În cele din urmă, Chen și Gangopadhyay argumentează că, deși proliferarea inteligenței artificiale a creat noi amenințări pentru viața privată a oamenilor, inteligența artificială poate ajuta, de asemenea, la protejarea vieții private atunci când este proiectată cu grijă și considerație.