Farene ved AI-Chatbots – Og hvordan du kan motvirke dem

En gang trodde man at de bare var automatiserte snakkeprogrammer, men AI-chatbots kan nå lære og holde samtaler som er nesten ikke å skille fra mennesker. Imidlertid er farene ved AI-chatbots like så varierte.

Disse kan variere fra mennesker som misbruker dem til faktiske cybersecurity-risikoer. Ettersom mennesker stadig mer og mer avhenger av AI-teknologi, er det essensielt å kjenne til de potensielle konsekvensene av å bruke disse programmene. Men er boter farlige?

1. Forutinntak og Diskriminering

En av de største farene ved AI-chatbots er deres tendens til å være skadelige forutinntak. Fordi AI trekker sammenhenger mellom datapunkter som mennesker ofte overseer, kan det plukke opp på subtile, implisitte forutinntak i sin treningsdata og lære seg å være diskriminerende. Som resultat kan chatbots raskt lære å spy racistisk, sexistisk eller annen diskriminerende innhold, selv om ingenting så ekstremt var i sin treningsdata.

Et godt eksempel er Amazons skrotede rekrutteringsbot. I 2018 kom det frem at Amazon had abandoned an AI project som skulle forhåndsvurdere søkernes CV-er fordi den straffet kvinnelige søkere. Fordi de fleste CV-ene boten ble trent på var menns, lærte den seg at mannlige søkere var å foretrekke, selv om treningsdataen ikke uttrykkelig sa det.

Chatbots som bruker internettinnhold for å lære seg å kommunisere naturlig, tenderer til å vise enda mer ekstreme forutinntak. I 2016 lanserte Microsoft en chatbot ved navn Tay som lærte å mime sosiale medieinnlegg. Innen noen få timer begynte den å tweete høyt offensive innlegg, noe som førte til at Microsoft suspenderte kontoen etter hvert.

Hvis selskaper ikke er forsiktige når de bygger og distribuerer disse botene, kan de utilsiktet føre til lignende situasjoner. Chatbots kan mishandle kunder eller spre skadelig forutinntatt innhold de skal forhindre.

2. Cybersecurity-risikoer

Farene ved AI-chatbot-teknologi kan også utgjøre en mer direkte cybersecurity-trussel mot mennesker og bedrifter. En av de mest omfattende formene for cyberangrep er phishing- og vishing-angrep. Disse involverer cyberangripere som etterligner betrodde organisasjoner som banker eller myndigheter.

Phishing-angrep opererer vanligvis gjennom e-post og tekstmeldinger — å klikke på lenken tillater malware å tre inn i datasystemet. Når den først er innenfor, kan viruset gjøre alt fra å stjele personlige opplysninger til å holde systemet for løsepenger.

Hastigheten på phishing-angrep har økt jevnt og trutt under og etter COVID-19-pandemien. Cybersecurity & Infrastructure Security Agency fant ut at 84% av personer svarte på phishing-meldinger med sensitive opplysninger eller klikket på lenken.

Phishere bruker AI-chatbot-teknologi for å automatisere søking etter ofre, overtale dem til å klikke på lenker og gi fra seg personlige opplysninger. Chatbots brukes av mange finansielle institusjoner — som banker — for å strømlinje kundeservice-erfaringen.

Chatbot-phishere kan etterligne de samme automatiserte promptene bankene bruker for å lure ofre. De kan også automatisk ringe telefonnumre eller kontakte ofre direkte på interaktive chatsplattformer.

3. Dataforgiftning

Dataforgiftning er et nytt konsept cyberangrep som retter seg direkte mot kunstig intelligens. AI-teknologi lærer av datasamlinger og bruker denne informasjonen til å fullføre oppgaver. Dette er sant for alle AI-programmer, uansett deres formål eller funksjoner.

For chatbot-AI betyr dette å lære flere svar på mulige spørsmål brukerne kan gi dem. Imidlertid er dette også en av farene ved AI.

Disse datasamlingene er ofte åpne kildeverktøy og ressurser som er tilgjengelige for alle. Selv om AI-selskaper vanligvis holder sine datasamlinger hemmelige, kan cyberangripere finne ut hvilke de bruker og manipulere dataene.

Cyberangripere kan finne måter å manipulere datasamlingene som brukes til å trene AI-er, og tillate dem å manipulere deres beslutninger og svar. AI-en vil bruke informasjonen fra endret data og utføre handlinger angriperne ønsker.

For eksempel er en av de mest vanlige kildene for datasamlinger Wiki-resurser som Wikipedia. Selv om dataene ikke kommer fra den live Wikipedia-artikkelen, kommer de fra snapshots av data tatt på bestemte tidspunkter. Hackere kan finne en måte å redigere dataene på en måte som er til deres fordel.

I tilfelle chatbot-AI kan hackere korrupte datasamlingene som brukes til å trene chatbots som arbeider for medisinske eller finansielle institusjoner. De kan manipulere chatbot-programmer til å gi kunder feil informasjon som kan føre dem til å klikke på en lenke som inneholder malware eller en bedragerisk nettside. Når AI-en først begynner å hente fra forgiftet data, er det vanskelig å oppdage og kan føre til en betydelig brudd på cybersecurity som går ubemerket i lang tid.

Hvordan å håndtere farene ved AI-Chatbots

Disse risikoene er bekymringsverdige, men de betyr ikke at boter er innebygget farlige. I stedet bør du nærme deg dem med forsiktighet og vurdere disse farene når du bygger og bruker chatbots.

Nøkkelen til å forebygge AI-forutinntak er å søke etter det gjennom hele treningsprosessen. Sørg for å trene det på diverse datasamlinger og programmer det spesifikt for å unngå å faktorisere ting som ras, kjønn eller seksuell orientering i sin beslutningstakning. Det er også best å ha et diversifisert team av dataforskere som gjennomgår chatbots’ indre funksjoner og sørger for at de ikke viser noen forutinntak, hvor subtile de enn måtte være.

Det beste forsvaret mot phishing er trening. Trening alle ansatte for å spore vanlige tegn på phishing-forsøk slik at de ikke faller for disse angrepene. Å spre forbrukerbevissthet rundt problemet vil også hjelpe.

Du kan forhindre dataforgiftning ved å begrense tilgangen til chatbots’ treningsdata. Bare personer som trenger tilgang til denne dataen for å gjøre jobben sin korrekt, bør ha autorisasjon — et konsept kalt prinsippet om minst privilegier. Etter å ha implementert disse begrensningene, bruk sterke verifiseringsmetoder som multifaktorautentisering eller biometri for å forhindre risikoene for at cyberkriminelle hakker inn på en autorisert konto.

Bli våken mot farene ved AI-avhengighet

Kunstig intelligens er en virkelig vidunderlig teknologi med nesten ubegrensede anvendelser. Imidlertid kan farene ved AI være uklare. Er boter farlige? Ikke innebygget, men cyberkriminelle kan bruke dem på forskjellige disruptivt vis. Det er opp til brukerne å bestemme hva anvendelsene av denne nyfunn teknologien er.