Construirea încrederii în AI cu verificarea identității

Inteligența artificială generativă a capturat interesul întreprinderilor la nivel global. Într-adevăr, ​​60% dintre organizațiile cu adoptare raportată a AI sunt acum utilizatori de inteligență artificială generativă. Liderii de astăzi se grăbesc să determine cum să incorporeze instrumentele AI în stivele lor tehnologice pentru a rămâne competitivi și relevanți – și dezvoltatorii AI creează mai multe instrumente decât oricând. Dar, cu adoptarea rapidă și natura tehnologiei, multe preocupări de securitate și etică nu sunt pe deplin luate în considerare, pe măsură ce întreprinderile se grăbesc să incorporeze cea mai recentă și mai bună tehnologie. Ca urmare, încrederea scade.

Un sondaj recent a constatat că doar 48% dintre americani cred că AI este sigur și securizat, în timp ce 78% spun că sunt foarte sau moderat preocupați că AI poate fi utilizat pentru intentii malefice. În timp ce AI a fost găsit a îmbunătăți fluxurile de lucru zilnice, consumatorii sunt îngrijorați de actori răi și de capacitatea lor de a manipula AI. Capabilitățile de deepfake, de exemplu, devin o amenințare tot mai mare, pe măsură ce accesibilitatea tehnologiei pentru mase crește.

Avea un instrument AI nu mai este suficient. Pentru ca AI să ajungă la adevăratul său potențial benefic, întreprinderile au nevoie să incorporeze AI în soluții care demonstrează utilizarea responsabilă și viabilă a tehnologiei pentru a aduce o încredere mai mare consumatorilor, în special în domeniul securității cibernetice, unde încrederea este cheia.

Provocările de securitate cibernetică ale AI

Tehnologia inteligenței artificiale generative progresează cu o rată rapidă și dezvoltatorii abia acum înțeleg importanța aducerii acestei tehnologii în întreprinderi, așa cum se vede din lansarea recentă a ChatGPT Enterprise.

Tehnologia AI actuală este capabilă să realizeze lucruri despre care s-a vorbit doar în domeniul științifico-fantasticului, cu mai puțin de un deceniu în urmă. Modul în care funcționează este impresionant, dar extinderea relativ rapidă în care se întâmplă totul este și mai impresionantă. Acesta este motivul pentru care tehnologia AI este atât de scalabilă și accesibilă pentru companii, indivizi și, desigur, pentru fraude. În timp ce capabilitățile tehnologiei AI au condus inovația, utilizarea sa pe scară largă a condus și la dezvoltarea unor tehnologii periculoase, cum ar fi deepfake-urile ca serviciu. Termenul “deepfake” provine din tehnologia care creează acest stil particular de conținut manipulat (sau “fals”) care necesită utilizarea tehnicilor de învățare profundă.

Fraudele vor urma întotdeauna banii care le oferă cel mai mare randament – deci orice afacere cu un potențial de returnare ridicat va fi ținta lor. Acest lucru înseamnă că fintech, afacerile care plătesc facturi, serviciile guvernamentale și retailerii de bunuri de valoare ridicată vor fi întotdeauna în fruntea listei lor.

Ne aflăm într-un moment în care încrederea este pe linie, iar consumatorii devin din ce în ce mai puțin încrezători, oferind fraudatorilor amatori mai multe oportunități decât oricând de a ataca. Cu accesibilitatea noilor instrumente AI și cu costuri din ce în ce mai mici, este mai ușor ca actorii răi de orice nivel de abilitate să manipuleze imaginile și identitățile altor persoane. Capabilitățile de deepfake devin mai accesibile pentru mase prin aplicații și site-uri de deepfake și crearea de deepfake-uri sofisticate necesită foarte puțin timp și un nivel relativ scăzut de abilități.

Cu utilizarea AI, am văzut și o creștere a preluărilor de conturi. Deepfake-urile generate de AI fac ca oricine să poată crea impersonări sau identități sintetice, fie ale celebrităților, fie ale șefilor lor. ​​

AI și aplicațiile de limbaj generativ Large Language Model (LLM) pot fi utilizate pentru a crea fraude mai sofisticate și mai evazive, care sunt greu de detectat și de înlăturat. LLM-urile, în special, au creat o utilizare pe scară largă a atacurilor de phishing care pot vorbi limba maternă perfect. Acestea creează, de asemenea, un risc de “fraudă de romantism” la scară, atunci când o persoană stabilește o legătură cu cineva prin intermediul unui site de dating sau al unei aplicații, dar persoana cu care comunică este un escroc care utilizează un profil fals. Acest lucru conduce multe platforme sociale să ia în considerare implementarea unor “dovezi de umanitate” pentru a rămâne viabile la scară.

Cu toate acestea, soluțiile de securitate actuale, care utilizează analiza de metadate, nu pot opri actorii răi. Detectarea deepfake-urilor se bazează pe clasificatori care caută diferențe între real și fals. Cu toate acestea, această detectare nu mai este suficient de puternică, deoarece aceste amenințări avansate necesită mai multe puncte de date pentru a fi detectate.

AI și verificarea identității: Lucrând împreună

Dezvoltatorii de AI trebuie să se concentreze pe utilizarea tehnologiei pentru a oferi garanții îmbunătățite pentru măsurile de securitate cibernetică dovedite. Nu numai că acest lucru va oferi un caz de utilizare mai fiabil pentru AI, dar poate oferi și o utilizare mai responsabilă – încurajând practici mai bune de securitate cibernetică, în timp ce avansează capacitățile soluțiilor existente.

Unul dintre principalele cazuri de utilizare a acestei tehnologii este în verificarea identității. Peisajul de amenințări AI este în continuă evoluție, iar echipele trebuie să fie echipate cu tehnologie care poate ajusta și implementa rapid și ușor noi tehnici.

Unele oportunități de utilizare a AI cu tehnologia de verificare a identității includ:

• Examinarea atributelor cheie ale dispozitivului
• Utilizarea contra-AI pentru a identifica manipularea: Pentru a evita a fi înșelat și a proteja datele importante, contra-AI poate identifica manipularea imaginilor care sosesc.
• Tratarea “absenței datelor” ca factor de risc în anumite circumstanțe
• Căutarea activă a pattern-urilor de-a lungul mai multor sesiuni și clienți

Aceste apărări în straturi oferite de tehnologia AI și de verificarea identității examinează persoana, documentul de identitate declarat, rețeaua și dispozitivul, minimizând riscul de manipulare ca urmare a deepfake-urilor și asigurând că numai persoanele de încredere și autentice au acces la serviciile dvs.

AI și verificarea identității trebuie să continue să lucreze împreună. Cu cât datele de antrenare sunt mai robuste și complete, cu atât modelul devine mai bun, iar deoarece AI este la fel de bun ca datele pe care le primește, cu atât mai multe puncte de date avem, cu atât mai precise pot fi verificarea identității și AI.

Viitorul AI și al verificării identității

Este greu să ai încredere în orice lucru online, dacă nu este dovedit de o sursă de încredere. Astăzi, nucleul încrederii online se află în identitatea dovedită. Accesibilitatea LLM-urilor și a instrumentelor de deepfake ridică un risc tot mai mare de fraudă online. Grupurile de crimă organizată sunt bine finanțate și acum pot utiliza tehnologia la scară mai largă.

Companiile trebuie să-și lărgească peisajul de apărare și nu trebuie să se teamă să investească în tehnologie, chiar dacă adaugă un pic de fricțiune. Nu mai poate exista doar un singur punct de apărare – ele trebuie să examineze toate punctele de date asociate individului care încearcă să acceseze sistemele, bunurile sau serviciile și să continue să verifice pe tot parcursul călătoriei lor.

Deepfake-urile vor continua să evolueze și să devină mai sofisticate, iar liderii de afaceri trebuie să examineze în mod continuu datele de la implementarea soluțiilor pentru a identifica noi tipare de fraudă și să lucreze la evoluarea strategiilor de securitate cibernetică în mod continuu, alături de amenințări.