Costruire la fiducia nell’AI con la verifica dell’identità

L’AI generativa ha catturato l’interesse di aziende in tutto il mondo. In effetti, ​​il 60% delle organizzazioni con adozione di AI segnalata sta ora utilizzando l’AI generativa. I leader di oggi stanno correndo per determinare come incorporare gli strumenti AI nei loro stack tecnologici per rimanere competitivi e rilevanti – e gli sviluppatori AI stanno creando più strumenti che mai. Tuttavia, con l’adozione rapida e la natura della tecnologia, molte preoccupazioni di sicurezza ed etiche non stanno venendo completamente considerate mentre le aziende si affrettano a incorporare l’ultima e più grande tecnologia. Di conseguenza, la fiducia sta calando.

Un recente sondaggio ha scoperto che solo il 48% degli americani ritiene che l’AI sia sicura e sicura, mentre il 78% afferma di essere molto o abbastanza preoccupato che l’AI possa essere utilizzata per intenti malvagi. Mentre l’AI è stata trovata per migliorare i flussi di lavoro quotidiani, i consumatori sono preoccupati per gli attori malvagi e la loro capacità di manipolare l’AI. Le capacità di deepfake, ad esempio, stanno diventando sempre più una minaccia mentre l’accessibilità della tecnologia alle masse aumenta.

Avere uno strumento AI non è più sufficiente. Per raggiungere il suo vero potenziale benefico, le aziende devono incorporare l’AI in soluzioni che dimostrino un uso responsabile e fattibile della tecnologia per portare una maggiore fiducia ai consumatori, soprattutto nella sicurezza informatica dove la fiducia è fondamentale.

Sfide di sicurezza informatica dell’AI

La tecnologia AI generativa sta progredendo a un ritmo rapido e gli sviluppatori stanno solo ora comprendendo l’importanza di portare questa tecnologia alle imprese, come visto dal recente lancio di ChatGPT Enterprise.

La tecnologia AI attuale è in grado di raggiungere cose che solo meno di un decennio fa erano discusse nel regno della fantascienza. Il modo in cui funziona è impressionante, ma l’espansione relativamente rapida in cui tutto ciò sta accadendo è ancora più impressionante. È questo che rende la tecnologia AI così scalabile e accessibile alle aziende, agli individui e, naturalmente, ai truffatori. Mentre le capacità della tecnologia AI hanno guidato l’innovazione, il suo uso diffuso ha anche portato allo sviluppo di tecnologie pericolose come i deepfake-as-a-service. Il termine “deepfake” deriva dalla tecnologia che crea questo particolare stile di contenuto manipolato (o “falso”) che richiede l’uso di tecniche di apprendimento profondo.

I truffatori seguiranno sempre il denaro che fornisce loro il maggior ROI – quindi qualsiasi azienda con un alto potenziale di ritorno sarà il loro obiettivo. Ciò significa che le aziende fintech, le imprese che pagano le fatture, i servizi governativi e i dettaglianti di beni di alto valore saranno sempre in cima alla loro lista.

Ci troviamo in un luogo in cui la fiducia è in gioco e i consumatori sono sempre meno propensi a fidarsi, dando ai truffatori dilettanti più opportunità che mai di attaccare. Con la nuova accessibilità degli strumenti AI e il costo sempre più basso, è più facile per gli attori malvagi di qualsiasi livello di abilità manipolare le immagini e le identità degli altri. Le capacità di deepfake stanno diventando più accessibili alle masse attraverso app e siti web di deepfake e creare deepfake sofisticati richiede poco tempo e un livello di abilità relativamente basso.

Con l’uso dell’AI, abbiamo anche visto un aumento degli accosti di account. I deepfake generati dall’AI rendono facile per chiunque creare impersonazioni o identità sintetiche, sia di celebrità che del proprio capo. ​​

L’AI e le applicazioni linguistiche generative del Large Language Model (LLM) possono essere utilizzate per creare frodi più sofisticate e elusive che sono difficili da rilevare e rimuovere. Gli LLM in particolare hanno creato un uso diffuso di attacchi di phishing che possono parlare la tua lingua madre alla perfezione. Questi creano anche un rischio di “truffa sentimentale” su larga scala, quando una persona stabilisce una connessione con qualcuno attraverso un sito di incontri o un’app, ma l’individuo con cui sta comunicando è un truffatore che utilizza un profilo falso. Ciò sta portando molte piattaforme social a considerare il deploy di “proof of humanity” per rimanere vitali su larga scala.

Tuttavia, le soluzioni di sicurezza attuali in atto, che utilizzano l’analisi dei metadati, non possono fermare gli attori malvagi. La rilevazione di deepfake si basa su classificatori che cercano differenze tra realtà e falsità. Tuttavia, questa rilevazione non è più potente come richiesto da queste minacce avanzate che richiedono più punti di dati per essere rilevate.

AI e verifica dell’identità: lavorare insieme

Gli sviluppatori di AI devono concentrarsi sull’uso della tecnologia per fornire salvaguardie migliorate per misure di sicurezza informatica comprovate. Non solo ciò fornirà un caso d’uso più affidabile per l’AI, ma potrà anche fornire un uso più responsabile – incoraggiando migliori pratiche di sicurezza informatica mentre si avanzano le capacità delle soluzioni esistenti.

Un caso d’uso principale di questa tecnologia è all’interno della verifica dell’identità. Il panorama delle minacce AI è in costante evoluzione e i team devono essere dotati di tecnologie che possano rapidamente e facilmente adattarsi e implementare nuove tecniche.

Alcune opportunità nell’uso dell’AI con la tecnologia di verifica dell’identità includono:

• Esaminare gli attributi del dispositivo chiave
• Utilizzare il counter-AI per identificare la manipolazione: Per evitare di essere truffati e proteggere i dati importanti, il counter-AI può identificare la manipolazione delle immagini in entrata.
• Trattare “l’assenza di dati” come un fattore di rischio in determinate circostanze
• Cercare attivamente modelli attraverso più sessioni e clienti

Queste difese stratificate fornite sia dall’AI che dalla tecnologia di verifica dell’identità indagano sulla persona, il documento di identità affermato, la rete e il dispositivo, minimizzando il rischio di manipolazione a causa dei deepfake e assicurando che solo persone fidate e genuine accedano ai vostri servizi.

L’AI e la verifica dell’identità devono continuare a lavorare insieme. Più robusti e completi sono i dati di training, migliore sarà il modello. E poiché l’AI è solo buona quanto i dati che riceve, più dati punti abbiamo, più precisa sarà la verifica dell’identità e dell’AI.

Futuro dell’AI e della verifica dell’identità

È difficile fidarsi di qualcosa online a meno che non sia provato da una fonte affidabile. Oggi, il nucleo della fiducia online risiede nell’identità provata. L’accessibilità ai Large Language Model (LLM) e agli strumenti di deepfake aumenta il rischio di frode online. I gruppi di criminalità organizzata sono ben finanziati e ora possono sfruttare l’ultima tecnologia su larga scala.

Le aziende devono allargare il loro paesaggio difensivo e non devono avere paura di investire in tecnologia, anche se aggiunge un po’ di attrito. Non può esserci più un solo punto di difesa – devono guardare a tutti i punti di dati associati all’individuo che sta cercando di accedere ai sistemi, beni o servizi e continuare a verificare lungo il loro percorso.

I deepfake continueranno a evolversi e diventare più sofisticati, i leader aziendali devono continuamente rivedere i dati dai deploy di soluzioni per identificare nuovi modelli di frode e lavorare per evolvere le loro strategie di sicurezza informatica continuamente insieme alle minacce.