Farene ved AI-Chatbots – Og hvordan man kan imødegå dem

Engang ansået for at være kun automatiserede talerprogrammer, kan AI-chatbots nu lære og føre samtaler, der er næsten umulige at skelne fra mennesker. Men farene ved AI-chatbots er lige så varierede.

Disse kan variere fra, at mennesker misbruger dem til reelle cybersecurity-risici. Da mennesker i stigende grad afhænger af AI-teknologi, er det afgørende at kende de potentielle konsekvenser af at bruge disse programmer. Men er botter farlige?

1. Bias og Diskrimination

En af de største farer ved AI-chatbots er deres tendens til skadelig bias. Fordi AI finder forbindelser mellem data punkter, som mennesker ofte overser, kan det opsnappe på subtile, implicite bias i sin træningsdata for at lære sig selv at være diskriminerende. Som resultat kan chatbots hurtigt lære at udspy racistisk, sexistisk eller anden diskriminerende indhold, selv om intet sådant var i deres træningsdata.

Et godt eksempel er Amazons opgivne rekrutteringsbot. I 2018 kom det frem, at Amazon had opgivet et AI-projekt, der skulle forudvælge ansøgere på grund af, at det straffede ansøgninger fra kvinder. Fordi de fleste af de CV’er, boten blev trænet på, var mænds, lærte den sig selv, at mandlige ansøgere var at foretrække, selv om træningsdataen ikke eksplisit sagde det.

Chatbots, der bruger internettets indhold til at lære sig selv, hvordan man kommunikerer naturligt, tenderer til at vise endnu mere ekstreme bias. I 2016 lancerede Microsoft en chatbot ved navn Tay, der lærte at efterligne sociale medie-indlæg. Inden for få timer started det med at tweete højst krænkeligt indhold, hvorefter Microsoft suspenderede kontoen efter kort tid.

Hvis virksomheder ikke er omhyggelige, når de bygger og udruller disse botter, kan de utilsigtet føre til lignende situationer. Chatbots kan misbehandle kunder eller sprede skadelig, diskriminerende indhold, som de skal forhindre.

2. Cybersecurity-risici

Farene ved AI-chatbot-teknologi kan også udgøre en mere direkte cybersecurity-trussel mod mennesker og virksomheder. En af de mest udbredte former for cyberangreb er phishing- og vishing-svindel. Disse involverer cyber-angribere, der efterligner troværdige organisationer, såsom banker eller regeringsinstitutioner.

Phishing-svindel opererer typisk gennem e-mail og tekstmeddelelser – klik på linket tillader malware at komme ind i computersystemet. Når virusset er inde, kan det gøre alt fra at stjæle personlige oplysninger til at holde systemet for løsepenge.

Raten af phishing-angreb er stadig stigende under og efter COVID-19-pandemien. Cybersecurity & Infrastructure Security Agency fandt 84% af personer, der svarede på phishing-besked med følsomme oplysninger eller klikkede på linket.

Phishere bruger AI-chatbot-teknologi til at automatisere søgning efter ofre, overbevise dem om at klikke på link og afsløre personlige oplysninger. Chatbots bruges af mange finansielle institutioner – såsom banker – til at strømline kundeservice-oplevelsen.

Chatbot-phishere kan efterligne de samme automatiserede prompter, banker bruger til at narre ofre. De kan også automatisk ringe til telefonnumre eller kontakte ofre direkte på interaktive chat-platforme.

3. Data-forgiftning

Data-forgiftning er et nyt koncept for cyberangreb, der direkte rammer kunstig intelligens. AI-teknologi lærer af data-sæt og bruger denne information til at udføre opgaver. Dette gælder for alle AI-programmer, uanset deres formål eller funktioner.

For chatbot-AI betyder det at lære multiple svar på mulige spørgsmål, brugere kan stille til dem. Men dette er også en af farene ved AI.

Disse data-sæt er ofte open-source-værktøjer og ressourcer, der er tilgængelige for alle. Selv om AI-virksomheder normalt holder deres data-kilder hemmelige, kan cyber-angribere finde ud af, hvilke de bruger, og manipulere dataene.

Cyber-angribere kan finde måder at manipulere med data-sæt, der bruges til at træne AI’er, hvilket giver dem mulighed for at manipulere deres beslutninger og svar. AI’en vil bruge informationen fra ændret data og udføre handlinger, angriberne ønsker.

For eksempel er en af de mest almindelige kilder til data-sæt Wiki-resourcer såsom Wikipedia. Selv om data ikke kommer fra den levende Wikipedia-artikel, kommer det fra snapshots af data taget på bestemte tidspunkter. Hackere kan finde en måde at redigere dataene på til at gavne dem.

I tilfældet med chatbot-AI kan hackere korrumperere data-sæt, der bruges til at træne chatbots, der arbejder for medicinske eller finansielle institutioner. De kan manipulere chatbot-programmer til at give kunder falsk information, der kan føre dem til at klikke på et link, der indeholder malware eller en svindel-website. Når AI’en først begynder at hente fra forgiftet data, er det svært at opdage og kan føre til en betydelig brud på cybersecurity, der ikke opdages i lang tid.

Hvordan man kan imødegå farene ved AI-Chatbots

Disse risici er bekymrende, men de betyder ikke, at botter er i sig selv farlige. I stedet bør man nærme sig dem med forsigtighed og overveje disse farer, når man bygger og bruger chatbots.

Nøglen til at forhindre AI-bias er at søge efter det under træning. Sørg for at træne det på diverse data-sæt og programmer det specifikt til at undgå at medregne ting som race, køn eller seksuel orientering i dets beslutningstagning. Det er også bedst at have et diversificeret hold af data-videnskabsmænd til at gennemgå chatbots’ indre mekanismer og sikre, at de ikke viser nogen bias, hvor subtil det end måtte være.

Det bedste forsvar mod phishing er træning. Træn alle medarbejdere til at spotte almindelige tegn på phishing-forsøg, så de ikke falder for disse angreb. At sprede forbrugerbevidsthed omkring problemet vil også hjælpe.

Du kan forhindre data-forgiftning ved at begrænse adgangen til chatbots’ træningsdata. Kun personer, der har brug for adgang til denne data for at udføre deres arbejde korrekt, bør have autorisation – et koncept kaldet principperne om mindst privilegium. Efter at have implementeret disse begrænsninger bør du bruge stærke verificeringsforanstaltninger såsom multi-faktor-autentificering eller biometri til at forhindre risikoen for, at cyberkriminelle hacker ind i en autoriseret konto.

Bliv vigilen over for farene ved AI-afhængighed

Kunstig intelligens er en virkelig vidunderlig teknologi med næsten uendelige anvendelser. Men farene ved AI kan være uklare. Er botter farlige? Ikke i sig selv, men cyberkriminelle kan bruge dem på forskellige disruptivt vis. Det er op til brugerne at afgøre, hvad anvendelserne af denne nye teknologi er.