Tankeledere

Farene ved AI-Chatbots – Og hvordan du kan motvirke dem

Zac Amos
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterAI-chatbotter kan forsterke skadelige fordommer fra treningsdata, noe Amazons…
Vis mer
  • AI-chatbotter kan forsterke skadelige fordommer fra treningsdata, noe Amazons ansettelsesverktøy viste ved å straffe kvinner.
  • Chatbotter muliggjør sofistikert phishing ved å etterligne pålitelige institusjoner for å automatisere ofretreff og informasjonstyveri.
  • Datapågangsangrep korrumperer AI-treningssett som Wikipedia-øyeblikksbilder for å manipulere chatbotsvar umerket.

En gang trodde man at de bare var automatiserte snakkeprogrammer, men AI-chatbots kan nå lære og holde samtaler som er nesten ikke å skille fra mennesker. Imidlertid er farene ved AI-chatbots like så varierte.

Disse kan variere fra mennesker som misbruker dem til faktiske cybersikkerhetsrisikoer. Ettersom mennesker stadig mer og mer avhenger av AI-teknologi, er det essensielt å kjenne til de potensielle konsekvensene av å bruke disse programmene. Men er boter farlige?

1. Skjevheter og Diskriminering

En av de største farene ved AI-chatbots er deres tendens til skadelige skjevheter. Fordi AI trekker sammenhenger mellom datapunkter som mennesker ofte overser, kan det plukke opp på subtile, implisitte skjevheter i sin treningsdata og lære seg å være diskriminerende. Som resultat kan chatbots raskt lære å spre rasistisk, sexistisk eller annet diskriminerende innhold, selv om ingenting så ekstremt var i sin treningsdata.

Et godt eksempel er Amazons skrotede rekrutteringsbot. I 2018 kom det frem at Amazon (AMZN ) hadde skrinlagt et AI-prosjekt som skulle forhåndsvurdere søkernes CV-er fordi den straffet kvinnelige søkere. Fordi de fleste CV-ene boten ble trent på var menns, lærte den seg at mannlige søkere var å foretrekke, selv om treningsdataen ikke uttrykkelig sa det.

Chatbots som bruker internettinnhold for å lære seg å kommunisere naturlig, tenderer til å vise enda mer ekstreme skjevheter. I 2016 lanserte Microsoft (MSFT ) en chatbot ved navn Tay som lærte å mime sosiale medieinnlegg. Innen noen få timer begynte den å tweete svært støtende innlegg, noe som førte til at Microsoft suspenderte kontoen etter hvert.

Hvis selskaper ikke er forsiktige når de bygger og distribuerer disse botene, kan de utilsiktet føre til lignende situasjoner. Chatbots kan mishandle kunder eller spre skadelig forutinntatt innhold de skal forhindre.

2. Cybersecurity-risikoer

Farene ved AI-chatbot-teknologi kan også utgjøre en mer direkte cybersikkerhetstrussel mot mennesker og bedrifter. En av de mest omfattende formene for cyberangrep er phishing- og vishing-angrep. Disse involverer cyberangripere som etterligner betrodde organisasjoner som banker eller myndigheter.

Phishing-angrep opererer vanligvis gjennom e-post og tekstmeldinger — å klikke på lenken tillater malware å tre inn i datasystemet. Når den først er innenfor, kan viruset gjøre alt fra å stjele personlige opplysninger til å holde systemet for løsepenger.

Antallet phishing-angrep har økt jevnt og trutt under og etter COVID-19-pandemien. Cybersecurity & Infrastructure Security Agency fant ut at 84% av personer svarte på phishing-meldinger med sensitive opplysninger eller klikket på lenken.

Phishere bruker AI-chatbot-teknologi for å automatisere søking etter ofre, overtale dem til å klikke på lenker og gi fra seg personlige opplysninger. Chatbots brukes av mange finansielle institusjoner — som banker — for å strømlinje kundeservice-erfaringen.

Chatbot-phishere kan etterligne de samme automatiserte promptene bankene bruker for å lure ofre. De kan også automatisk ringe telefonnumre eller kontakte ofre direkte på interaktive chatsplattformer.

3. Dataforgiftning

Dataforgiftning er et nytt konsept cyberangrep som retter seg direkte mot kunstig intelligens. AI-teknologi lærer av datasamlinger og bruker denne informasjonen til å fullføre oppgaver. Dette er sant for alle AI-programmer, uansett deres formål eller funksjoner.

For chatbot-AI betyr dette å lære flere svar på mulige spørsmål brukerne kan gi dem. Imidlertid er dette også en av farene ved AI.

Disse datasamlingene er ofte åpne kildeverktøy og ressurser som er tilgjengelige for alle. Selv om AI-selskaper vanligvis holder sine datasamlinger hemmelige, kan cyberangripere finne ut hvilke de bruker og manipulere dataene.

Cyberangripere kan finne måter å manipulere datasamlingene som brukes til å trene AI-er, og tillate dem å manipulere deres beslutninger og svar. AI-en vil bruke informasjonen fra endret data og utføre handlinger angriperne ønsker.

For eksempel er en av de mest vanlige kildene for datasamlinger Wiki-resurser som Wikipedia. Selv om dataene ikke kommer fra den live Wikipedia-artikkelen, kommer de fra snapshots av data tatt på bestemte tidspunkter. Hackere kan finne en måte å redigere dataene på en måte som er til deres fordel.

I tilfelle chatbot-AI kan hackere korrupte datasamlingene som brukes til å trene chatbots som arbeider for medisinske eller finansielle institusjoner. De kan manipulere chatbot-programmer til å gi kunder feil informasjon som kan føre dem til å klikke på en lenke som inneholder malware eller en bedragerisk nettside. Når AI-en først begynner å hente fra forgiftet data, er det vanskelig å oppdage og kan føre til et betydelig brudd på cybersecurity som går ubemerket i lang tid.

Hvordan å håndtere farene ved AI-Chatbots

Disse risikoene er bekymringsverdige, men de betyr ikke at boter er farlige i seg selv. I stedet bør du nærme deg dem med forsiktighet og vurdere disse farene når du bygger og bruker chatbots.

Nøkkelen til å forebygge AI-skjevheter er å søke etter det gjennom hele treningsprosessen. Sørg for å trene det på diverse datasamlinger og programmer det spesifikt for å unngå å ta med faktorer som rase, kjønn eller seksuell orientering i sin beslutningstakning. Det er også best å ha et diversifisert team av dataforskere som gjennomgår chatbots’ indre funksjoner og sørger for at de ikke viser noen skjevheter, hvor subtile de enn måtte være.

Det beste forsvaret mot phishing er trening. Lær opp alle ansatte til å kjenne igjen vanlige tegn på phishing-forsøk slik at de ikke faller for disse angrepene. Å spre forbrukerbevissthet rundt problemet vil også hjelpe.

Du kan forhindre dataforgiftning ved å begrense tilgangen til chatbots’ treningsdata. Bare personer som trenger tilgang til denne dataen for å gjøre jobben sin korrekt, bør ha autorisasjon — et konsept kalt prinsippet om minst privilegier. Etter å ha implementert disse begrensningene, bruk sterke verifiseringsmetoder som multifaktorautentisering eller biometri for å forhindre risikoene for at cyberkriminelle hakker inn på en autorisert konto.

Vær på vakt mot farene ved AI-avhengighet

Kunstig intelligens er en virkelig vidunderlig teknologi med nesten ubegrensede anvendelser. Imidlertid kan farene ved AI være uklare. Er boter farlige? Ikke i seg selv, men cyberkriminelle kan bruke dem på forskjellige disruptivt vis. Det er opp til brukerne å bestemme hva anvendelsene av denne nyfunn teknologien er.

Zac Amos er en teknologiskribent som fokuserer på kunstig intelligens. Han er også featuresredaktør hos ReHack, der du kan lese mer av arbeidet hans.