Farorna med AI-chattbotar – och hur man motverkar dem

Det som en gång ansågs vara bara automatiserade taltprogram kan nu AI-chattbotar lära sig och ha samtal som är nästan otillgängliga för människor. Men farorna med AI-chattbotar är lika varierade.

Dessa kan sträcka sig från att människor missbrukar dem till faktiska cybersäkerhetsrisker. Allt eftersom människor alltmer förlitar sig på AI-teknik, är det viktigt att känna till de potentiella konsekvenserna av att använda dessa program. Men är botar farliga?

1. Partiskhet och diskriminering

En av de största farorna med AI-chattbotar är deras tendens till skadlig partiskhet. Eftersom AI drar kopplingar mellan datapunkter som människor ofta missar, kan det ta upp underförstådda, implicita partiskheter i sin utbildningsdata för att lära sig att vara diskriminerande. Som ett resultat kan chattbotar snabbt lära sig att sprida rasistiskt, sexistiskt eller annan diskriminerande innehåll, även om ingenting sådant fanns i dess utbildningsdata.

Ett exempel är Amazons nedlagda rekryteringsbot. 2018 avslöjades det att Amazon had abandonerat ett AI-projekt som var tänkt att förutse ansökningar från kandidater, eftersom det bestraffade ansökningar från kvinnor. Eftersom de flesta CV som boten utbildades på var mäns, lärde den sig att manliga kandidater var att föredra, även om utbildningsdata inte uttryckligen sa det.

Chattbotar som använder internetinnehåll för att lära sig att kommunicera naturligt tenderar att visa ännu mer extrema partiskheter. 2016 lanserade Microsoft en chattbot med namnet Tay som lärde sig att härma sociala medieinlägg. Inom några timmar började den twittra högt offentligt innehåll, vilket ledde till att Microsoft avbröt kontot.

Om företag inte är försiktiga när de bygger och distribuerar dessa botar, kan de oavsiktligt leda till liknande situationer. Chattbotar kan behandla kunder illa eller sprida skadlig partisk innehåll som de ska förhindra.

2. Cybersäkerhetsrisker

Farorna med AI-chattbot-teknik kan också utgöra en mer direkt cybersäkerhetsrisk för människor och företag. En av de vanligaste formerna av cyberattacker är phishing- och vishing-attacker. Dessa involverar cyberattacker som imiterar betrodda organisationer som banker eller myndigheter.

Phishing-attacker fungerar vanligtvis genom e-post och textmeddelanden — att klicka på länken tillåter malware att komma in i datorsystemet. När den väl är inne kan viruset göra allt från att stjäla personlig information till att hålla systemet för lösenord.

Antalet phishing-attacker har stadigt ökat under och efter COVID-19-pandemin. Cybersecurity & Infrastructure Security Agency fann att 84% av individerna svarade på phishing-meddelanden med känslig information eller klickade på länken.

Phishers använder AI-chattbot-teknik för att automatisera sökning efter offer, övertyga dem om att klicka på länkar och ge upp personlig information. Chattbotar används av många finansiella institutioner — som banker — för att effektivisera kundservicen.

Chattbot-phishers kan imitera samma automatiserade prompter som banker använder för att lura offer. De kan också automatiskt ringa telefonnummer eller kontakta offer direkt på interaktiva chattplattformar.

3. Dataförgiftning

Dataförgiftning är en nyligen utvecklad cyberattack som direkt riktar sig mot artificiell intelligens. AI-teknik lär sig från datamängder och använder den informationen för att slutföra uppgifter. Detta gäller alla AI-program, oavsett deras syfte eller funktioner.

För chattbot-AI innebär detta att lära sig flera svar på möjliga frågor som användare kan ställa till dem. Men detta är också en av farorna med AI.

Dessa datamängder är ofta öppen källkod och resurser som är tillgängliga för alla. Även om AI-företag vanligtvis håller sin datakälla hemlig, kan cyberattacker avgöra vilka de använder och manipulera data.

Cyberattacker kan hitta sätt att manipulera datamängderna som används för att träna AI, vilket gör det möjligt för dem att manipulera deras beslut och svar. AI kommer att använda informationen från de ändrade data och utföra handlingar som angriparna vill.

Till exempel är en av de vanligaste källorna för datamängder Wiki-resurser som Wikipedia. Även om data inte kommer från den live-Wikipedia-artikeln, kommer den från ögonblicksbilder av data som tagits vid specifika tillfällen. Hackare kan hitta ett sätt att redigera data för att gynna dem.

I fallet med chattbot-AI kan hackare korrumpera datamängderna som används för att träna chattbotar som arbetar för medicinska eller finansiella institutioner. De kan manipulera chattbot-program för att ge kunder falsk information som kan leda dem att klicka på en länk som innehåller malware eller en bedräglig webbplats. När AI börjar dra från förgiftad data är det svårt att upptäcka och kan leda till en betydande brist i cybersäkerhet som inte upptäcks under en lång tid.

Hur man hanterar farorna med AI-chattbotar

Dessa risker är oroande, men de betyder inte att botar är medfött farliga. Snarare bör man närma sig dem med försiktighet och överväga dessa faror när man bygger och använder chattbotar.

Nyckeln till att förhindra AI-partiskhet är att leta efter den under utbildningen. Se till att utbilda den på mångfaldiga datamängder och programmera den specifikt för att undvika att ta hänsyn till saker som ras, kön eller sexuell läggning i dess beslutsfattande. Det är också bäst att ha ett mångfaldigt team av dataforskare för att granska chattbotarnas inre funktioner och se till att de inte visar några partiskheter, hur subtila de än må vara.

Det bästa försvaret mot phishing är utbildning. Utbilda alla anställda att känna igen vanliga tecken på phishing-försök så att de inte faller för dessa attacker. Att sprida konsumentmedvetenhet kring frågan kommer också att hjälpa.

Du kan förhindra dataförgiftning genom att begränsa åtkomsten till chattbotarnas utbildningsdata. Endast de som behöver åtkomst till denna data för att utföra sitt arbete korrekt bör ha behörighet — ett koncept som kallas principen om minsta behörighet. Efter att ha infört dessa begränsningar använder du starka verifieringsåtgärder som multifaktorautentisering eller biometri för att förhindra riskerna med cyberkriminella som hackar in på ett auktoriserat konto.

Var vaksam mot farorna med AI-beroende

Artificiell intelligens är en underbar teknik med nästan oändliga tillämpningar. Men farorna med AI kan vara dunkla. Är botar farliga? Inte medfött, men cyberkriminella kan använda dem på olika störande sätt. Det är upp till användarna att bestämma vad tillämpningarna av denna nya teknik är.