Pericolele Chatbot-urilor AI – Și Cum Să Le Contracarați

Odată considerate doar programe automate de vorbire, chatbot-urile AI pot acum învăța și purta conversații care sunt aproape indistinguizabile de cele ale oamenilor. Cu toate acestea, pericolele chatbot-urilor AI sunt la fel de variate.

Acestea pot varia de la oameni care le folosesc în mod greșit până la riscuri reale de securitate cibernetică. Pe măsură ce oamenii se bazează tot mai mult pe tehnologia AI, este esențial să cunoaștem repercusiunile potențiale ale utilizării acestor programe. Dar sunt chatbot-urile periculoase?

1. Prejudecăți și Discriminare

Una dintre cele mai mari pericole ale chatbot-urilor AI este tendința lor de a avea prejudecăți dăunătoare. Deoarece AI stabilește legături între puncte de date pe care oamenii le omit adesea, poate să învețe prejudecăți implicite și subtile din datele de antrenare și să se învețe singur să fie discriminatoriu. Ca rezultat, chatbot-urile pot învăța rapid să emită conținut rasist, sexist sau discriminatoriu, chiar dacă nimic extrem nu a fost în datele de antrenare.

Un exemplu deosebit de relevant este chatbot-ul de angajare abandonat de Amazon (AMZN ). În 2018, a fost dezvăluit că Amazon a abandonat un proiect AI destinat să evalueze în prealabil CV-urile candidaților, deoarece penaliza CV-urile femeilor. Deoarece majoritatea CV-urilor pe care chatbot-ul le-a folosit pentru antrenare erau ale bărbaților, și-a învățat singur că candidații bărbați sunt preferabili, chiar dacă datele de antrenare nu spuneau explicit acest lucru.

Chatbot-urile care folosesc conținut de pe internet pentru a învăța cum să comunice în mod natural tind să arate prejudecăți și mai extreme. În 2016, Microsoft (MSFT ) a lansat un chatbot numit Tay, care a învățat să imite postări de pe rețelele sociale. În câteva ore, a început să tweet-eze conținut ofensiv, ceea ce a determinat Microsoft să suspende contul în curând.

Dacă companiile nu sunt atente atunci când construiesc și implementează aceste chatbot-uri, pot să ajungă accidental în situații similare. Chatbot-urile pot trata clienții în mod necorespunzător sau pot răspândi conținut cu prejudecăți pe care sunt destinate să le prevină.

2. Riscuri de Securitate Cibernetică

Pericolele tehnologiei chatbot-urilor AI pot reprezenta, de asemenea, o amenințare directă de securitate cibernetică pentru oameni și afaceri. Una dintre cele mai frecvente forme de atacuri cibernetice este reprezentată de înșelăciunile de tip phishing și vishing. Acestea implică atacatori cibernetici care se prezintă ca organizații de încredere, cum ar fi bănci sau instituții guvernamentale.

Înșelăciunile de tip phishing funcționează de obicei prin e-mail și mesaje text — clic pe link permite malware-ului să intre în sistemul computerului. Odată ajuns în interior, virusul poate face orice, de la furt de informații personale până la șantajarea sistemului.

Rata atacurilor de phishing a crescut constant în timpul și după pandemia COVID-19. Agenția pentru Securitate Cibernetică și Infrastructură a constatat că 84% dintre indivizi au răspuns la mesaje de phishing cu informații sensibile sau au clic pe link.

Atacatorii de phishing folosesc tehnologia chatbot-urilor AI pentru a automatiza căutarea victimelor, a le convinge să cliqueze pe link-uri și a furniza informații personale. Chatbot-urile sunt folosite de multe instituții financiare — cum ar fi bănci — pentru a eficientiza experiența de servicii pentru clienți.

Chatbot-urile folosite de atacatorii de phishing pot imita aceleași promt-uri automate pe care le folosesc băncile pentru a păcăli victimele. De asemenea, pot suna automat numere de telefon sau contacta victimele direct pe platforme de chat interactive.

3. Otrăvirea Datelor

Otrăvirea datelor este un atac cibernetic nou conceput care vizează direct inteligența artificială. Tehnologia AI învață din seturi de date și folosește aceste informații pentru a finaliza sarcini. Acest lucru este valabil pentru toate programele AI, indiferent de scopul sau funcțiile lor.

Pentru chatbot-urile AI, acest lucru înseamnă învățarea multiplelor răspunsuri la întrebările posibile pe care utilizatorii le pot adresa. Cu toate acestea, acesta este și unul dintre pericolele AI.

Aceste seturi de date sunt adesea unelte și resurse open-source disponibile oricui. Deși companiile AI de obicei păstrează secretul surselor de date, atacatorii cibernetici pot determina care sunt acestea și pot manipula datele.

Atacatorii cibernetici pot găsi modalități de a manipula seturile de date folosite pentru a antrena AI, permițându-le să manipuleze deciziile și răspunsurile acestora. AI va folosi informațiile din datele alterate și va efectua acțiuni pe care atacatorii le doresc.

De exemplu, una dintre cele mai utilizate surse de seturi de date este resursele Wiki, cum ar fi Wikipedia. Deși datele nu provin direct de la articolul Wikipedia live, ele provin de la instantanee de date luate la momente specifice. Hackerii pot găsi modalități de a edita datele în beneficiul lor.

În cazul chatbot-urilor AI, hackerii pot corupe seturile de date folosite pentru a antrena chatbot-urile care lucrează pentru instituții medicale sau financiare. Ei pot manipula programele chatbot pentru a oferi clienților informații false care i-ar putea determina să cliqueze pe un link ce conține malware sau un site web fraudulos. Odată ce AI începe să extragă informații din date otrăvite, este dificil de detectat și poate duce la o încălcare semnificativă a securității cibernetice care poate rămâne neobservată pentru o perioadă lungă de timp.

Cum Să Abordați Pericolele Chatbot-urilor AI

Aceste riscuri sunt îngrijorătoare, dar nu înseamnă că chatbot-urile sunt periculoase în mod inerent. Mai degrabă, ar trebui să abordați aceste pericole cu precauție și să le luați în considerare atunci când construiți și utilizați chatbot-uri.

Cheia pentru prevenirea prejudecăților AI este căutarea acestora pe parcursul antrenamentului. Asigurați-vă că antrenați chatbot-ul pe seturi de date diverse și programați-l în mod specific pentru a evita factorizarea unor aspecte precum rasa, sexul sau orientarea sexuală în procesul de luare a deciziilor. De asemenea, este cel mai bine să aveți o echipă diversă de oameni de știință care să revizuiască funcționarea internă a chatbot-urilor și să se asigure că nu prezintă prejudecăți, oricât de subtile.

Cea mai bună apărare împotriva înșelăciunilor de phishing este antrenamentul. Antrenați toți angajații să recunoască semnele comune ale încercărilor de phishing, astfel încât să nu cadă victime ale acestor atacuri. Răspândirea conștientizării consumatorilor în legătură cu această problemă va ajuta, de asemenea.

Puteți preveni otrăvirea datelor prin restricționarea accesului la datele de antrenare ale chatbot-urilor. Numai persoanele care au nevoie de acces la aceste date pentru a-și îndeplini corect sarcinile ar trebui să aibă autorizație — un concept cunoscut sub numele de principiul privilegiului minim. După implementarea acestor restricții, utilizați măsuri de verificare puternice, cum ar fi autentificarea cu mai mulți factori sau biometrie, pentru a preveni riscurile de atacatori cibernetici care pot accesa un cont autorizat.

Rămâneți Vigilenți Împotriva Pericolelor Dependente de AI

Inteligența artificială este o tehnologie cu adevărat minunată, cu aplicații aproape nelimitate. Cu toate acestea, pericolele AI pot fi obscure. Sunt chatbot-urile periculoase? Nu în mod inerent, dar atacatorii cibernetici le pot folosi în moduri perturbatoare. Este responsabilitatea utilizatorilor să decidă care sunt aplicațiile acestei tehnologii noi.