De Gevaren van AI-Chatbots – En Hoe Ze Tegengegaan Kunnen Worden

Vroeger werden ze gezien als alleen geautomatiseerde praatprogramma’s, maar AI-chatbots kunnen nu leren en gesprekken voeren die bijna niet te onderscheiden zijn van die van mensen. Echter, de gevaren van AI-chatbots zijn net zo gevarieerd.

Dit kan variëren van mensen die ze misbruiken tot echte cybersecurity-risico’s. Naarmate mensen steeds meer afhankelijk worden van AI-technologie, is het essentieel om de potentiële gevolgen van het gebruik van deze programma’s te kennen. Maar zijn bots gevaarlijk?

1. Vooroordeel en Discriminatie

Een van de grootste gevaren van AI-chatbots is hun neiging tot schadelijke vooroordelen. Omdat AI verbindingen legt tussen gegevenspunten die mensen vaak missen, kan het subtiele, impliciete vooroordelen in zijn trainingsgegevens oppikken om zichzelf te leren discriminatie te zijn. Als gevolg daarvan kunnen chatbots snel leren om racistische, seksistische of anderszins discriminerende inhoud te produceren, zelfs als er niets extreems in hun trainingsgegevens stond.

Een voorbeeld is Amazon’s geschrapt sollicitatiebot. In 2018 werd bekend dat Amazon een AI-project had gestaakt dat bedoeld was om sollicitaties van kandidaten te beoordelen, omdat het vrouwen benadeelde. Omdat de meeste cv’s waarop de bot getraind was, van mannen waren, leerde hij zichzelf dat mannelijke sollicitanten de voorkeur hadden, zelfs als de trainingsgegevens dat niet expliciet zeiden.

Chatbots die internetinhoud gebruiken om zichzelf te leren hoe ze natuurlijk kunnen communiceren, vertonen nog extremere vooroordelen. In 2016 lanceerde Microsoft een chatbot genaamd Tay die leerde om sociale mediaberichten na te bootsen. Binnen enkele uren begon hij highly offensieve inhoud te tweeten, waardoor Microsoft het account snel moest schorsen.

Als bedrijven niet voorzichtig zijn bij het bouwen en implementeren van deze bots, kunnen ze onbewust soortgelijke situaties creëren. Chatbots kunnen klanten slecht behandelen of schadelijke, vooroordeelde inhoud verspreiden die ze juist zouden moeten voorkomen.

2. Cybersecurity-risico’s

De gevaren van AI-chatbottechnologie kunnen ook een directe cybersecurity-bedreiging vormen voor mensen en bedrijven. Een van de meest voorkomende vormen van cyberaanvallen zijn phishing- en vishing-scams. Deze houden in dat cyberaanvallers vertrouwde organisaties imiteren zoals banken of overheidsinstellingen.

Phishing-scams werken meestal via e-mail en tekstberichten — het klikken op de link laat malware het computersysteem binnendringen. Eenmaal binnen kan het virus alles doen, van het stelen van persoonlijke informatie tot het systeem gijzelen voor losgeld.

Het aantal phishing-aanvallen is gestaag toegenomen tijdens en na de COVID-19-pandemie. Het Cybersecurity & Infrastructure Security Agency vond 84% van de individuen die op phishing-berichten reageerden met gevoelige informatie of op de link klikten.

Phishers gebruiken AI-chatbottechnologie om het zoeken naar slachtoffers te automatiseren, hen te overtuigen om op links te klikken en persoonlijke informatie te geven. Chatbots worden door veel financiële instellingen gebruikt — zoals banken — om de klantenservice-ervaring te stroomlijnen.

Phishers kunnen dezelfde geautomatiseerde prompts imiteren die banken gebruiken om slachtoffers te misleiden. Ze kunnen ook automatisch telefoonnummers bellen of slachtoffers rechtstreeks op interactieve chatplatforms contacteren.

3. Data Poisoning

Data poisoning is een nieuw geconcepeerd cyberaanval die rechtstreeks gericht is op kunstmatige intelligentie. AI-technologie leert van gegevenssets en gebruikt die informatie om taken te voltooien. Dit geldt voor alle AI-programma’s, ongeacht hun doel of functionaliteit.

Voor chatbot-AI’s betekent dit het leren van meerdere antwoorden op mogelijke vragen die gebruikers kunnen stellen. Echter, dit is ook een van de gevaren van AI.

Deze gegevenssets zijn vaak open-sourcehulpmiddelen en -bronnen die beschikbaar zijn voor iedereen. Hoewel AI-bedrijven meestal hun gegevensbronnen geheim houden, kunnen cyberaanvallers bepalen welke bronnen ze gebruiken en de gegevens manipuleren.

Cyberaanvallers kunnen manieren vinden om de gegevenssets te manipuleren die worden gebruikt om AI’s te trainen, waardoor ze de beslissingen en antwoorden van de AI kunnen manipuleren. De AI zal de informatie uit de gewijzigde gegevens gebruiken en handelen zoals de aanvallers willen.

Bijvoorbeeld is een van de meest gebruikte bronnen voor gegevenssets Wiki-bronnen zoals Wikipedia. Hoewel de gegevens niet afkomstig zijn van het live Wikipedia-artikel, komen ze van momentopnames van gegevens genomen op specifieke tijdstippen. Hackers kunnen een manier vinden om de gegevens te bewerken om zichzelf te bevoordelen.

In het geval van chatbot-AI’s kunnen hackers de gegevenssets corrumperen die worden gebruikt om chatbots te trainen die voor medische of financiële instellingen werken. Ze kunnen chatbotprogramma’s manipuleren om klanten valse informatie te geven die hen ertoe kan brengen om op een link te klikken met malware of een frauduleuze website. Zodra de AI begint te putten uit vergiftigde gegevens, is het moeilijk om te detecteren en kan het leiden tot een aanzienlijke inbreuk op de cybersecurity die lange tijd onopgemerkt blijft.

Hoe de Gevaren van AI-Chatbots Tegengegaan Kunnen Worden

Deze risico’s zijn verontrustend, maar ze betekenen niet dat bots inherent gevaarlijk zijn. In plaats daarvan moet u ze voorzichtig benaderen en deze gevaren in overweging nemen bij het bouwen en gebruiken van chatbots.

De sleutel tot het voorkomen van AI-vooroordelen is ernaar zoeken tijdens de training. Zorg ervoor dat u deze traint op diverse gegevenssets en programmeert om dingen zoals ras, geslacht of seksuele oriëntatie in zijn besluitvorming te vermijden. Het is ook het beste om een divers team van datawetenschappers te hebben om de interne werking van chatbots te controleren en ervoor te zorgen dat ze geen vooroordelen vertonen, hoe subtiel ook.

De beste verdediging tegen phishing is training. Train alle medewerkers om gemeenschappelijke tekenen van phishingpogingen te herkennen, zodat ze niet voor deze aanvallen vallen. Het verspreiden van consumentenbewustzijn over het onderwerp zal ook helpen.

U kunt data poisoning voorkomen door de toegang tot de trainingsgegevens van chatbots te beperken. Alleen mensen die toegang nodig hebben tot deze gegevens om hun werk correct uit te voeren, moeten autorisatie hebben — een concept genaamd het principe van de minste privilege. Nadat u deze beperkingen heeft geïmplementeerd, gebruikt u sterke verificatiemaatregelen zoals multifactorauthenticatie of biometrie om de risico’s van cybercriminelen die een geautoriseerd account hacken, te voorkomen.

Waakzaam Blijven Tegen de Gevaren van AI-Afhankelijkheid

Kunstmatige intelligentie is een waarlijk wonderbaarlijke technologie met bijna eindeloze toepassingen. Echter, de gevaren van AI kunnen obscure zijn. Zijn bots gevaarlijk? Niet inherent, maar cybercriminelen kunnen ze op verschillende disruptieve manieren gebruiken. Het is aan de gebruikers om te beslissen wat de toepassingen van deze nieuwe technologie zijn.