De Gevaren van AI-Chatbots – En Hoe U Ze Tegen kunt Gaan

Vroeger werden AI-chatbots gezien als slechts geautomatiseerde praatprogramma’s, maar tegenwoordig kunnen ze leren en gesprekken voeren die bijna niet te onderscheiden zijn van die van mensen. Echter, de gevaren van AI-chatbots zijn net zo gevarieerd.

Deze kunnen variëren van mensen die ze misbruiken tot echte cybersecurity-risico’s. Naarmate mensen steeds meer afhankelijk worden van AI-technologie, is het essentieel om de potentiële gevolgen van het gebruik van deze programma’s te kennen. Maar zijn bots gevaarlijk?

1. Vooroordeel en Discriminatie

Een van de grootste gevaren van AI-chatbots is hun neiging tot schadelijke vooroordelen. Omdat AI verbanden legt tussen gegevenspunten die mensen vaak missen, kan het subtiele, impliciete vooroordelen in zijn trainingsgegevens oppikken om zichzelf te leren discrimineren. Als gevolg daarvan kunnen chatbots snel leren om racistische, seksistische of anderszins discriminerende inhoud te produceren, zelfs als niets extreems in hun trainingsgegevens stond.

Een voorbeeld is Amazon’s (AMZN ) afgeblazen wervingsbot. In 2018 werd bekend dat Amazon een AI-project had stopgezet dat bedoeld was om sollicitaties van kandidaten te beoordelen, omdat het vrouwen benadeelde. Omdat de meeste cv’s waarop de bot was getraind, van mannen waren, leerde hij zichzelf dat mannelijke sollicitanten de voorkeur hadden, zelfs als de trainingsgegevens dat niet expliciet zeiden.

Chatbots die internetinhoud gebruiken om zichzelf te leren hoe ze natuurlijk kunnen communiceren, vertonen nog extreemere vooroordelen. In 2016 lanceerde Microsoft (MSFT ) een chatbot genaamd Tay die sociale mediaberichten kon imiteren. Binnen een paar uur begon hij extreem offensieve inhoud te tweeten, waardoor Microsoft het account snel moest opschorten.

Als bedrijven niet voorzichtig zijn bij het bouwen en implementeren van deze bots, kunnen ze onbewust soortgelijke situaties creëren. Chatbots kunnen klanten slecht behandelen of schadelijke, vooroordeelde inhoud verspreiden die ze moeten voorkomen.

2. Cybersecurity-risico’s

De gevaren van AI-chatbottechnologie kunnen ook een directe cybersecurity-bedreiging vormen voor mensen en bedrijven. Een van de meest voorkomende vormen van cyberaanvallen zijn phishing- en vishing-scams. Deze houden in dat cyberaanvallers vertrouwde organisaties imiteren, zoals banken of overheidsinstellingen.

Phishing-scams werken meestal via e-mail en tekstberichten — door op de link te klikken, kan malware het computersysteem binnendringen. Eenmaal binnen kan het virus alles doen, van het stelen van persoonlijke gegevens tot het systeem gijzelen voor losgeld.

Het aantal phishing-aanvallen is tijdens en na de COVID-19-pandemie gestaag toegenomen. Het Cybersecurity & Infrastructure Security Agency vond 84% van de individuen die op phishing-berichten reageerden met gevoelige informatie of op de link klikten.

Phishers gebruiken AI-chatbottechnologie om het zoeken naar slachtoffers te automatiseren, om hen te overtuigen om op links te klikken en persoonlijke gegevens prijs te geven. Chatbots worden door veel financiële instellingen gebruikt, zoals banken, om de klantenservice-ervaring te stroomlijnen.

Chatbots van phishers kunnen dezelfde geautomatiseerde prompts imiteren die banken gebruiken om slachtoffers te misleiden. Ze kunnen ook automatisch telefoonnummers bellen of slachtoffers rechtstreeks op interactieve chatplatforms contacteren.

3. Data-vergiftiging

Data-vergiftiging is een nieuw soort cyberaanval die rechtstreeks gericht is op kunstmatige intelligentie. AI-technologie leert van gegevenssets en gebruikt die informatie om taken uit te voeren. Dit geldt voor alle AI-programma’s, ongeacht hun doel of functionaliteit.

Voor chatbot-AI’s betekent dit het leren van meerdere antwoorden op mogelijke vragen die gebruikers kunnen stellen. Echter, dit is ook een van de gevaren van AI.

Deze gegevenssets zijn vaak open-sourcehulpmiddelen en -bronnen die voor iedereen toegankelijk zijn. Hoewel AI-bedrijven hun gegevensbronnen meestal geheim houden, kunnen cyberaanvallers bepalen welke bronnen ze gebruiken en de gegevens manipuleren.

Cyberaanvallers kunnen manieren vinden om de gegevenssets te manipuleren die worden gebruikt om AI’s te trainen, waardoor ze de beslissingen en antwoorden van de AI kunnen manipuleren. De AI gebruikt de informatie uit de gemanipuleerde gegevens en voert de handelingen uit die de aanvallers willen.

Een voorbeeld is dat een van de meest gebruikte bronnen voor gegevenssets Wiki-bronnen zijn, zoals Wikipedia. Hoewel de gegevens niet afkomstig zijn van het live Wikipedia-artikel, komen ze van momentopnames van gegevens die op specifieke tijdstippen zijn genomen. Hackers kunnen een manier vinden om de gegevens te bewerken om hun eigen voordeel.

In het geval van chatbot-AI’s kunnen hackers de gegevenssets die worden gebruikt om chatbots te trainen die voor medische of financiële instellingen werken, corrumperen. Ze kunnen de chatbotprogramma’s manipuleren om klanten valse informatie te geven die hen ertoe kan brengen om op een link te klikken die malware bevat of naar een frauduleuze website te gaan. Zodra de AI eenmaal gegevens uit de vergiftigde gegevens haalt, is het moeilijk om te detecteren en kan het leiden tot een aanzienlijke inbreuk op de cybersecurity die lang onopgemerkt blijft.

Hoe de Gevaren van AI-Chatbots Tegen te Gaan

Deze risico’s zijn verontrustend, maar ze betekenen niet dat bots inherent gevaarlijk zijn. In plaats daarvan moet u ze met voorzichtigheid benaderen en deze gevaren in overweging nemen bij het bouwen en gebruiken van chatbots.

De sleutel tot het voorkomen van AI-vooroordelen is ernaar zoeken tijdens de training. Zorg ervoor dat u het traint op diverse gegevenssets en programmeert het specifiek om factoren zoals ras, geslacht of seksuele oriëntatie uit zijn besluitvorming te halen. Het is ook het beste om een diverse groep datawetenschappers te hebben die de interne werking van chatbots controleren en ervoor zorgen dat ze geen vooroordelen vertonen, hoe subtiel ook.

De beste verdediging tegen phishing is training. Train alle medewerkers om gemeenschappelijke tekenen van phishing-pogingen te herkennen, zodat ze niet voor deze aanvallen vallen. Het verspreiden van consumentenbewustzijn over het onderwerp zal ook helpen.

U kunt data-vergiftiging voorkomen door de toegang tot de trainingsgegevens van chatbots te beperken. Alleen mensen die toegang nodig hebben tot deze gegevens om hun werk correct uit te voeren, moeten autorisatie hebben — een concept dat het principe van de minste privileges wordt genoemd. Nadat u deze beperkingen heeft geïmplementeerd, gebruikt u sterke verificatiemaatregelen zoals multifactorauthenticatie of biometrie om de risico’s van cybercriminelen die in een geautoriseerd account inbreken, te voorkomen.

Waakzaam Blijven Tegen de Gevaren van AI-afhankelijkheid

Kunstmatige intelligentie is een waarlijk wonderbaarlijke technologie met bijna eindeloze toepassingen. Echter, de gevaren van AI kunnen obscure zijn. Zijn bots gevaarlijk? Niet inherent, maar cybercriminelen kunnen ze op verschillende disruptieve manieren gebruiken. Het is aan de gebruikers om te beslissen wat de toepassingen van deze nieuwe technologie zijn.