I Pericoli degli Chatbot AI – E Come Contrastarli

Una volta considerati solo programmi di conversazione automatizzati, gli chatbot AI possono ora imparare e condurre conversazioni quasi indistinguibili da quelle umane. Tuttavia, i pericoli degli chatbot AI sono altrettanto vari.

Questi possono variare dalle persone che li utilizzano in modo improprio ai rischi di sicurezza informatica reali. Man mano che gli esseri umani si affidano sempre di più alla tecnologia AI, è essenziale conoscere le possibili ripercussioni dell’utilizzo di questi programmi. Ma sono pericolosi i bot?

1. Pregiudizi e Discriminazione

Uno dei più grandi pericoli degli chatbot AI è la loro tendenza a pregiudizi dannosi. Poiché l’AI stabilisce collegamenti tra punti di dati che gli esseri umani spesso trascurano, può rilevare pregiudizi impliciti sottili nei suoi dati di formazione e insegnare a se stesso a essere discriminatorio. Di conseguenza, gli chatbot possono imparare rapidamente a diffondere contenuti razzisti, sessisti o discriminatori, anche se nulla di estremo era presente nei loro dati di formazione.

Un esempio emblematico è il bot di assunzione di Amazon. Nel 2018, è emerso che Amazon aveva abbandonato un progetto AI destinato a valutare preventivamente i curriculum dei candidati perché penalizzava le domande delle donne. Poiché la maggior parte dei curriculum su cui il bot si era formato erano di uomini, si era insegnato che i candidati maschi erano preferibili, anche se i dati di formazione non lo affermavano esplicitamente.

Gli chatbot che utilizzano contenuti di internet per insegnare a se stessi a comunicare in modo naturale tendono a mostrare pregiudizi ancora più estremi. Nel 2016, Microsoft ha presentato un chatbot di nome Tay che ha imparato a mimare i post sui social media. Nel giro di poche ore, ha iniziato a twittare contenuti estremamente offensivi , portando Microsoft a sospendere l’account poco dopo.

Se le aziende non sono caute nella costruzione e nel dispiegamento di questi bot, potrebbero accidentalmente portare a situazioni simili. Gli chatbot potrebbero maltrattare i clienti o diffondere contenuti pregiudiziati dannosi che dovrebbero prevenire.

2. Rischi di Sicurezza Informatica

I pericoli della tecnologia degli chatbot AI possono anche costituire una minaccia di sicurezza informatica più diretta per le persone e le aziende. Una delle forme più prolifiche di attacchi informatici sono gli attacchi di phishing e vishing. Questi coinvolgono gli attaccanti informatici che imitano organizzazioni di fiducia come banche o enti governativi.

Gli attacchi di phishing operano generalmente attraverso email e messaggi di testo — fare clic sul link consente al malware di entrare nel sistema informatico. Una volta all’interno, il virus può fare qualsiasi cosa, dal rubare informazioni personali al tenere il sistema in ostaggio per un riscatto.

La frequenza degli attacchi di phishing è aumentata costantemente durante e dopo la pandemia di COVID-19. L’Agenzia per la Sicurezza Informatica e delle Infrastrutture ha scoperto che l’84% degli individui ha risposto a messaggi di phishing con informazioni sensibili o ha fatto clic sul link.

I phisher stanno utilizzando la tecnologia degli chatbot AI per automatizzare la ricerca di vittime, convincerle a fare clic sui link e fornire informazioni personali. Gli chatbot sono utilizzati da molte istituzioni finanziarie — come le banche — per semplificare l’esperienza del servizio clienti.

I phisher possono imitare le stesse promozioni automatizzate utilizzate dalle banche per ingannare le vittime. Possono anche comporre automaticamente numeri di telefono o contattare le vittime direttamente su piattaforme di chat interattive.

3. Avvelenamento dei Dati

L’avvelenamento dei dati è un nuovo tipo di attacco informatico che si concentra direttamente sull’intelligenza artificiale. La tecnologia AI apprende dai set di dati e utilizza quelle informazioni per completare compiti. Ciò è vero per tutti i programmi AI, indipendentemente dal loro scopo o funzione.

Per gli chatbot AI, ciò significa apprendere molteplici risposte a possibili domande che gli utenti possono porre. Tuttavia, questo è anche uno dei pericoli dell’AI.

Questi set di dati sono spesso strumenti e risorse open-source disponibili per chiunque. Sebbene le aziende AI solitamente tengano segreti i loro dati di formazione, gli attaccanti informatici possono determinare quali dati utilizzano e manipolarli.

Gli attaccanti informatici possono trovare modi per manipolare i set di dati utilizzati per formare gli AI, consentendo loro di manipolare le decisioni e le risposte. L’AI utilizzerà le informazioni dai dati alterati e agirà come gli attaccanti desiderano.

Ad esempio, una delle fonti di set di dati più utilizzate è Wiki, come Wikipedia. Sebbene i dati non provengano dall’articolo di Wikipedia live, provengono da istantanee dei dati prese in momenti specifici. Gli hacker possono trovare un modo per modificare i dati a loro vantaggio.

Nel caso degli chatbot AI, gli hacker possono corrompere i set di dati utilizzati per formare gli chatbot che lavorano per istituzioni mediche o finanziarie. Possono manipolare i programmi degli chatbot per fornire ai clienti informazioni false che potrebbero portarli a fare clic su un link contenente malware o un sito web fraudolento. Una volta che l’AI inizia a estrarre dati avvelenati, è difficile da rilevare e può portare a una grave violazione della sicurezza informatica che rimane inosservata per un lungo periodo.

Come Affrontare i Pericoli degli Chatbot AI

Questi rischi sono preoccupanti, ma non significano che i bot siano pericolosi per natura. Piuttosto, è necessario approcciarli con cautela e considerare questi pericoli quando si costruiscono e si utilizzano gli chatbot.

La chiave per prevenire i pregiudizi dell’AI è cercarli durante la formazione. Assicurarsi di formarli su set di dati diversificati e programmarli specificamente per evitare di considerare fattori come razza, genere o orientamento sessuale nella loro presa di decisioni. È anche meglio avere un team diversificato di scienziati dei dati per esaminare il funzionamento interno degli chatbot e assicurarsi che non mostrino pregiudizi, per quanto sottili.

La migliore difesa contro il phishing è la formazione. Formare tutti i dipendenti per riconoscere i segni comuni degli attacchi di phishing in modo che non cadano vittime di questi attacchi. La diffusione della consapevolezza dei consumatori intorno al problema aiuterà anche.

È possibile prevenire l’avvelenamento dei dati limitando l’accesso ai dati di formazione degli chatbot. Solo le persone che hanno bisogno di accedere a questi dati per svolgere correttamente il loro lavoro dovrebbero avere l’autorizzazione — un concetto noto come principio del minimo privilegio. Dopo aver implementato queste restrizioni, utilizzare misure di verifica robuste come l’autenticazione a più fattori o la biometria per prevenire i rischi degli attaccanti informatici che violano un account autorizzato.

Rimani Vigile Contro i Pericoli della Dipendenza dall’AI

L’intelligenza artificiale è una tecnologia veramente meravigliosa con applicazioni quasi infinite. Tuttavia, i pericoli dell’AI potrebbero essere oscuri. Sono pericolosi i bot? Non per natura, ma gli attaccanti informatici possono utilizzarli in vari modi disruptivi. Spetta agli utenti decidere quali sono le applicazioni di questa nuova tecnologia.