Farene ved AI-Chatbots – Og hvordan du kan motvirke dem

En gang trodde man at de bare var automatiserte snakkprogrammer, men AI-chatbots kan nå lære og holde samtaler som er nesten umulig å skille fra mennesker. Men farene ved AI-chatbots er like varierte.

Dette kan variere fra at mennesker misbruker dem til faktiske cybersecurity-risikoer. Ettersom mennesker stadig mer avhenger av AI-teknologi, er det essensielt å kjenne til de potensielle konsekvensene av å bruke disse programmene. Men er boter farlige?

1. Forutinntak og Diskriminering

En av de største farene ved AI-chatbots er deres tendens til å ha skadelige forutinntak. Fordi AI trekker sammenheng mellom datapunkter som mennesker ofte overseer, kan det plukke opp på subtile, implisitte forutinntak i sin treningsdata for å lære seg å være diskriminerende. Som resultat kan chatbots raskt lære å spy racistisk, sexistisk eller annen diskriminerende innhold, selv om ingenting så ekstremt var i sin treningsdata.

Et eksempel er Amazons skrotede rekrutteringsbot. I 2018 ble det kjent at Amazon hadde forlatt et AI-prosjekt som var ment å forhåndsvurdere søkernes CV-er fordi det straffet kvinnelige søkere. Fordi de fleste CV-ene boten ble trent på var menns, lærte den seg at mannlige søkere var å foretrekke, selv om treningsdataen ikke uttrykkelig sa det.

Chatbots som bruker internettinnhold for å lære seg å kommunisere naturlig, tenderer til å vise enda mer ekstreme forutinntak. I 2016 lanserte Microsoft en chatbot ved navn Tay som lærte å mime sosiale medieinnlegg. Innen noen få timer begynte den å tweete høyst offensive innlegg, noe som førte til at Microsoft suspenderte kontoen etter hvert.

Hvis selskapene ikke er forsiktige når de bygger og distribuerer disse botene, kan de utilsiktet føre til lignende situasjoner. Chatbots kan mishandle kunder eller spre skadelig, fordomsfullt innhold de er ment å forebygge.

2. Cybersecurity-risikoer

Farene ved AI-chatbot-teknologi kan også utgjøre en mer direkte cybersecurity-trussel mot mennesker og bedrifter. En av de mest prolifere former for cyberangrep er phishing- og vishing-svindel. Disse involverer cyberangripere som imiterer pålitelige organisasjoner som banker eller myndigheter.

Phishing-svindel opererer vanligvis gjennom e-post og tekstmeldinger — å klikke på lenken tillater malware å tre inn i datamaskinsystemet. Når den først er inni, kan viruset gjøre alt fra å stjele personlige opplysninger til å holde systemet for løsepenger.

Raten av phishing-angrep har økt jevnt under og etter COVID-19-pandemien. Cybersecurity & Infrastructure Security Agency fant ut at 84% av personer svarte på phishing-meldinger med sensitive opplysninger eller klikket på lenken.

Phishere bruker AI-chatbot-teknologi for å automatisere søking etter ofre, overtale dem til å klikke på lenker og gi fra seg personlige opplysninger. Chatbots brukes av mange finansielle institusjoner — som banker — for å strømlinje kundeservice-erfaringen.

Chatbot-phishere kan imitere de samme automatiserte promptene bankene bruker for å lure ofre. De kan også automatisk ringe telefonnumre eller kontakte ofre direkte på interaktive chatteplattformer.

3. Dataforgiftning

Dataforgiftning er et nykonsept cyberangrep som direkte rammer kunstig intelligens. AI-teknologi lærer av datasamlinger og bruker denne informasjonen til å fullføre oppgaver. Dette gjelder for alle AI-programmer, uansett deres formål eller funksjoner.

For chatbot-AI betyr dette å lære multiple svar på mulige spørsmål brukerne kan gi dem. Men dette er også en av farene ved AI.

Disse datasamlingene er ofte åpne kildeverktøy og ressurser tilgjengelige for alle. Selv om AI-selskaper vanligvis holder en nøye vakt hemmelighet om sine datasamlinger, kan cyberangripere finne ut hvilke de bruker og manipulere dataene.

Cyberangripere kan finne måter å forstyrre datasamlingene som brukes til å trene AI-er, og dermed manipulere deres avgjørelser og svar. AI-en vil bruke informasjonen fra forandret data og utføre handlinger angriperne ønsker.

For eksempel er en av de mest vanlige kildeene for datasamlinger Wiki-resurser som Wikipedia. Selv om dataene ikke kommer fra den live Wikipedia-artikkelen, kommer de fra snapshots av data tatt på bestemte tidspunkter. Hackere kan finne en måte å redigere dataene på en måte som er til deres fordel.

I tilfelle chatbot-AI kan hackere korrumpere datasamlingene som brukes til å trene chatbots som arbeider for medisinske eller finansielle institusjoner. De kan manipulere chatbot-programmer til å gi kundene feil informasjon som kan føre dem til å klikke på en lenke som inneholder malware eller en bedragerisk nettside. Når AI-en først begynner å hente fra forgiftet data, er det vanskelig å oppdage og kan føre til en betydelig brudd på cybersecurity som går ubemerket lenge.

Hvordan å håndtere farene ved AI-chatbots

Disse risikoene er bekymringsverdige, men de betyr ikke at boter er innebygget farlige. Snarere bør du nærme deg dem forsiktige og vurdere disse farene når du bygger og bruker chatbots.

Nøkkelen til å forebygge AI-forutinntak er å søke etter det gjennom hele treningsprosessen. Vær sikker på å trene det på diverse datasamlinger og programmere det spesifikt for å unngå å faktorisere ting som rase, kjønn eller seksuell orientering i sin avgjørelsesprosess. Det er også best å ha et diversifisert team av dataforskere som gjennomgår chatbotens indre mekanismer og sikrer at de ikke utviser noen forutinntak, hvor subtile de enn måtte være.

Det beste forsvaret mot phishing er trening. Trening alle ansatte til å gjenkjenne vanlige tegn på phishing-forsøk slik at de ikke faller for disse angrepene. Å spre forbrukerbevissthet rundt problemet vil også hjelpe.

Du kan forebygge dataforgiftning ved å begrense tilgangen til chatbotens treningsdata. Bare personer som trenger tilgang til denne dataen for å utføre jobben sin korrekt, bør ha autorisasjon — et konsept kalt prinsippet om minst privilegier. Etter å ha implementert disse begrensningene, bruk sterke verifiseringsmetoder som multifaktorautentisering eller biometri for å forebygge risikoene for at cyberkriminelle hakker seg inn i en autorisert konto.

Bli våken mot farene ved AI-avhengighet

Kunstig intelligens er en virkelig vidunderlig teknologi med nærmest ubegrensede anvendelser. Men farene ved AI kan være uklare. Er boter farlige? Ikke innebygget, men cyberkriminelle kan bruke dem på forskjellige måter. Det er opp til brukerne å bestemme hva anvendelsene av denne nye teknologien er.