Costruire la fiducia nell’IA con la verifica dell’identità

L’IA generativa ha catturato l’interesse di aziende in tutto il mondo. In effetti, ​​60% delle organizzazioni con adozione di IA segnalata stanno ora utilizzando l’IA generativa. I leader di oggi stanno correndo per determinare come incorporare gli strumenti di IA nei loro stack tecnologici per rimanere competitivi e rilevanti – e gli sviluppatori di IA stanno creando più strumenti che mai prima d’ora. Ma, con l’adozione rapida e la natura della tecnologia, molte preoccupazioni di sicurezza ed etiche non stanno venendo completamente considerate mentre le aziende si affrettano a incorporare l’ultima e più grande tecnologia. Di conseguenza, la fiducia sta calando.

Un recente sondaggio ha scoperto che solo il 48% degli americani ritiene che l’IA sia sicura e protetta, mentre il 78% afferma di essere molto o abbastanza preoccupato che l’IA possa essere utilizzata per intenti maliziosi. Mentre l’IA è stata trovata per migliorare i flussi di lavoro quotidiani, i consumatori sono preoccupati per gli attori malintenzionati e la loro capacità di manipolare l’IA. Le capacità di deepfake, ad esempio, stanno diventando sempre più una minaccia poiché l’accessibilità della tecnologia alle masse aumenta.

Avere uno strumento di IA non è più sufficiente. Perché l’IA raggiunga il suo vero e benefico potenziale, le aziende devono incorporare l’IA in soluzioni che dimostrino un uso responsabile e fattibile della tecnologia per portare una maggiore fiducia ai consumatori, soprattutto nella sicurezza informatica dove la fiducia è fondamentale.

Sfide di sicurezza informatica dell’IA

La tecnologia di IA generativa sta progredendo a un ritmo rapido e gli sviluppatori stanno solo ora comprendendo l’importanza di portare questa tecnologia all’impresa, come visto dal recente lancio di ChatGPT Enterprise.

L’attuale tecnologia di IA è in grado di realizzare cose che solo meno di un decennio fa erano discusse nel regno della fantascienza. Il modo in cui funziona è impressionante, ma l’espansione relativamente rapida in cui tutto ciò sta accadendo è ancora più impressionante. È questo che rende la tecnologia di IA così scalabile e accessibile alle aziende, agli individui e, naturalmente, ai truffatori. Mentre le capacità della tecnologia di IA hanno guidato l’innovazione, il suo uso diffuso ha anche portato allo sviluppo di tecnologie pericolose come i deepfake-as-a-service. Il termine “deepfake” deriva dalla tecnologia che crea questo particolare stile di contenuto manipolato (o “falso”) che richiede l’uso di tecniche di apprendimento profondo.

I truffatori seguiranno sempre il denaro che fornisce loro il più alto ROI – quindi qualsiasi azienda con un alto potenziale di ritorno sarà il loro obiettivo. Ciò significa che le aziende fintech, le aziende che pagano le fatture, i servizi governativi e i rivenditori di beni di alto valore saranno sempre in cima alla loro lista.

Ci troviamo in un posto in cui la fiducia è in gioco e i consumatori sono sempre meno disposti a fidarsi, dando ai truffatori dilettanti più opportunità che mai di attaccare. Con la nuova accessibilità degli strumenti di IA e il costo sempre più basso, è più facile per gli attori malintenzionati di qualsiasi livello di abilità manipolare le immagini e le identità degli altri. Le capacità di deepfake stanno diventando più accessibili alle masse attraverso app e siti web di deepfake e creare deepfake sofisticati richiede molto poco tempo e un livello di abilità relativamente basso.

Con l’uso dell’IA, abbiamo anche visto un aumento degli attacchi di acquisizione di account. I deepfake generati dall’IA rendono facile per chiunque creare impersonazioni o identità sintetiche, sia di celebrità che del proprio capo. ​​

L’IA e le applicazioni di linguaggio generativo Large Language Model (LLM) possono essere utilizzate per creare frodi più sofisticate e elusive che sono difficili da rilevare e rimuovere. Gli LLM in particolare hanno creato un uso diffuso di attacchi di phishing che possono parlare la tua lingua madre perfettamente. Ciò crea anche un rischio di “truffa sentimentale” su larga scala, quando una persona stabilisce una connessione con qualcuno attraverso un sito di incontri o un’app, ma la persona con cui sta comunicando è un truffatore che utilizza un profilo falso. Ciò sta portando molte piattaforme social a considerare il deploy di “proof of humanity” per rimanere valide su larga scala.

Tuttavia, le attuali soluzioni di sicurezza in atto, che utilizzano l’analisi dei metadati, non possono fermare gli attori malintenzionati. La rilevazione dei deepfake si basa su classificatori che cercano differenze tra realtà e falsità. Tuttavia, questa rilevazione non è più potente come un tempo, poiché queste minacce avanzate richiedono più punti di dati per essere rilevate.

IA e verifica dell’identità: lavorare insieme

Gli sviluppatori di IA devono concentrarsi sull’uso della tecnologia per fornire salvaguardie migliorate per misure di sicurezza informatica comprovate. Ciò non solo fornirà un uso più affidabile dell’IA, ma può anche fornire un uso più responsabile – incoraggiando migliori pratiche di sicurezza informatica mentre si avanzano le capacità delle soluzioni esistenti.

Un caso d’uso principale di questa tecnologia è all’interno della verifica dell’identità. Il paesaggio delle minacce dell’IA è in costante evoluzione e i team devono essere dotati di tecnologia che possa rapidamente e facilmente adattarsi e implementare nuove tecniche.

Alcune opportunità nell’uso dell’IA con la tecnologia di verifica dell’identità includono:

• Esaminare gli attributi chiave del dispositivo
• Utilizzare il counter-IA per identificare la manipolazione: Per evitare di essere truffati e proteggere i dati importanti, il counter-IA può identificare la manipolazione delle immagini in entrata.
• Trattare “l’assenza di dati” come un fattore di rischio in determinate circostanze
• Cercare attivamente modelli attraverso più sessioni e clienti

Queste difese stratificate fornite sia dall’IA che dalla tecnologia di verifica dell’identità, indagano la persona, il documento di identità affermato, la rete e il dispositivo, minimizzando il rischio di manipolazione a causa dei deepfake e assicurando che solo persone fidate e genuine abbiano accesso ai vostri servizi.

L’IA e la verifica dell’identità devono continuare a lavorare insieme. Più robusti e completi sono i dati di training, migliori sono i modelli, e poiché l’IA è solo buona come i dati che riceve, più punti di dati abbiamo, più precisa sarà la verifica dell’identità e l’IA.

Futuro dell’IA e della verifica dell’identità

È difficile fidarsi di qualcosa online a meno che non sia provato da una fonte affidabile. Oggi, il nucleo della fiducia online risiede nell’identità provata. L’accessibilità agli LLM e agli strumenti di deepfake rappresenta un crescente rischio di frode online. I gruppi di criminalità organizzata sono ben finanziati e ora possono sfruttare la tecnologia più recente su larga scala.

Le aziende devono allargare il loro panorama difensivo e non devono avere paura di investire nella tecnologia, anche se aggiunge un po’ di attrito. Non può più esserci un solo punto di difesa – devono guardare a tutti i punti di dati associati all’individuo che sta cercando di accedere ai sistemi, ai beni o ai servizi e continuare a verificare durante il loro percorso.

I deepfake continueranno a evolversi e diventare più sofisticati, i leader aziendali devono continuamente rivedere i dati dai deploy delle soluzioni per identificare nuovi modelli di frode e lavorare per evolvere le loro strategie di sicurezza informatica continuamente insieme alle minacce.