De risico’s van het vermenselijken van AI

De output van AI lijkt sterk op menselijke spraak. Chatbots kunnen vragen beantwoorden, gesprekken voeren, emoties tonen, grappen vertellen en ter plekke hun toon aanpassen. Die mogelijkheden maken AI nuttig en aantrekkelijk, maar kunnen er ook toe leiden dat mensen AI vermenselijken en behandelen alsof het menselijke eigenschappen, emoties of bedoelingen heeft. Hoewel dit gedrag natuurlijk is, kan het riskant worden wanneer gebruikers vergeten dat AI menselijke communicatie alleen nabootst. 

Waarom vermenselijken mensen AI?

AI wordt vermenselijkt wanneer mensen het gaan behandelen alsof het menselijke eigenschappen, gedachten of emoties heeft. Dit kan komen door de manier waarop AI communiceert en is ontworpen.

AI-systemen gebruiken spreektaal die op menselijke spraak lijkt. AI kan bijvoorbeeld zeggen dat het een vraag ‘begrijpt’, een antwoord ‘nuttig vindt’ of zich ‘verontschuldigt’ voor een fout. Hoewel zulke formuleringen interacties natuurlijker doen lijken, kunnen ze gebruikers ook doen geloven dat AI echt denkt of voelt. Dit verschijnsel staat bekend als het ELIZA-effect en is genoemd naar chatbot ELIZA, die Joseph Weizenbaum in 1966 creëerde.

Ook kan AI meer op een mens dan op een computerprogramma lijken als het een menselijke naam, stem, gezicht of persoonlijkheid krijgt. Hoe realistischer de interactie wordt, hoe makkelijker gebruikers sociaal op AI reageren.

Tot slot vermenselijken mensen AI omdat dat aansluit bij de menselijke psychologie. Van nature zoeken ze naar emoties, bedoelingen en persoonlijkheden in dingen die met hen communiceren, waarbij ze menselijke eigenschappen toeschrijven aan niet-menselijke entiteiten. Kinderen vermenselijken speelgoed, terwijl volwassenen merken menselijke eigenschappen toekennen. Wanneer AI dus op een natuurlijke manier reageert, eerdere gesprekken onthoudt en empathisch lijkt, kunnen gebruikers aannemen dat er een geest achter dat gedrag schuilgaat. 

Gevaren van het vermenselijken van AI

Naarmate AI steeds menselijker communiceert en met gebruikers omgaat, kan het vermenselijken ervan verschillende risico’s met zich meebrengen die van invloed zijn op hoe mensen denken, zich gedragen en beslissingen nemen. 

Misplaatst vertrouwen

Door AI te vermenselijken kunnen gebruikers de antwoorden ervan te veel vertrouwen. Als AI zelfverzekerd, deskundig en menselijk klinkt, kunnen gebruikers aannemen dat de informatie klopt. Generatieve AI kan echter onjuiste of misleidende informatie geven en daarbij toch overtuigend klinken. 

Dit misplaatste vertrouwen kan gevaarlijk zijn wanneer AI wordt gebruikt bij medische, financiële, juridische, educatieve of professionele beslissingen. Een menselijk klinkend antwoord garandeert geen nauwkeurigheid of goed oordeelsvermogen. AI blijkt zelfs vals gezondheidsadvies te geven aan gebruikers.

Emotionele afhankelijkheid

Door AI te vermenselijken kunnen gebruikers emotioneel afhankelijk worden van chatbots. Omdat AI direct kan reageren, details kan onthouden, steun kan bieden en empathie kan nabootsen, kunnen gebruikers het gaan behandelen als een vriend, vertrouwenspersoon of romantische partner.

Het wordt zorgelijk wanneer AI menselijke relaties gaat vervangen. AI kan zorg en empathie nabootsen, maar ervaart zelf geen emoties en gaat geen relaties aan. Gebruikers kunnen het gesimuleerde gezelschap daardoor aanzien voor een echte band. Dit risico kan groter zijn voor jongere of kwetsbare gebruikers, die gehecht kunnen raken aan AI omdat die altijd beschikbaar, geduldig en responsief is.

Beveiligingsproblemen

Door AI te vermenselijken kunnen privacy-, beveiligings- en ethische risico’s ontstaan. Wanneer gebruikers AI als een vertrouwde metgezel zien, kunnen ze persoonlijke of vertrouwelijke informatie delen zonder na te denken over hoe die wordt opgeslagen of gebruikt.

Menselijk ogende AI kan oplichting ook overtuigender maken. Criminelen kunnen door AI gegenereerde stemmen, afbeeldingen en berichten gebruiken om echte mensen of vertrouwde organisaties na te bootsen, waardoor fraude moeilijker te herkennen is.

Meer mogelijkheden tot manipulatie

Menselijk ogende AI kan manipulatie overtuigender maken. Wanneer AI vriendelijk, betrouwbaar of gezaghebbend overkomt, zijn gebruikers eerder geneigd de suggesties ervan te volgen of de beweringen ervan te geloven. Naar verluidt kreeg een Belgische man bijvoorbeeld na langdurige gesprekken met een chatbot steeds meer klimaatangst. Uiteindelijk moedigde de AI hem aan zelfmoord te plegen om de planeet te redden.

Dit kan worden ingezet om mensen ertoe te bewegen producten te kopen, persoonlijke informatie te delen of misleidende informatie te accepteren. Het risico neemt toe wanneer gebruikers niet beseffen dat ze met AI communiceren. Naarmate deze technologieën realistischer worden, wordt het steeds moeilijker te herkennen of de communicatie afkomstig is van een echt persoon of van een AI-systeem.

Gevaarlijke vormen van vermenselijkte AI

Niet alle vermenselijkte AI brengt dezelfde risico’s met zich mee. Drie bijzonder zorgwekkende vormen zijn simulaties van relaties, levende personen en historische figuren.

1. Simulaties van relaties

AI voor relatiesimulatie is ontworpen om zich te gedragen als een vriend, metgezel, raadgever of romantische partner. Deze systemen kunnen voortdurend aandacht geven en persoonlijke reacties bieden, waardoor de interactie intiemer kan aanvoelen dan het gebruik van gewone software.

Het gevaar is dat gebruikers emotionele betekenis aan de relatie gaan toekennen. Ze kunnen denken dat de AI om hen geeft, hen begrijpt of hen nodig heeft, ook al ervaart de AI die gevoelens niet. Dit kan emotionele afhankelijkheid in de hand werken en mogelijk de motivatie van een gebruiker verminderen om contact met andere mensen te zoeken. Dit risico is niet theoretisch. Een vrouw werd verliefd op een ChatGPT-vriendje dat ze zelf had gemaakt. Ze chatte er meer dan 20 uur per week mee. Eén week besteedde ze bijna 60 uur aan de app, gemiddeld acht uur per dag.

2. Simulaties van levende mensen

AI kan ook deepfakes maken om levende mensen na te bootsen aan de hand van hun naam, uiterlijk, stem, schrijfstijl of gesprekspatronen. Een systeem kan zijn ontworpen om op een beroemdheid, een publieke figuur, een familielid, een werknemer of een andere identificeerbare persoon te lijken.

Dit roept ernstige vragen op over toestemming, identiteit, privacy en misleiding. Het kan lijken alsof iemand iets zegt wat diegene nooit heeft gezegd, of iets steunt waar diegene nooit achter heeft gestaan. Hoe meer de simulatie op de echte persoon lijkt, hoe moeilijker het voor het publiek kan zijn om een weergave van de werkelijkheid te onderscheiden.

3. Simulaties van historische figuren

Ook historische figuren kunnen met AI worden nagebootst. Gebruikers kunnen communiceren met simulaties die zijn gemodelleerd naar beroemde leiders, schrijvers, wetenschappers, filosofen of kunstenaars.

Deze systemen kunnen educatieve waarde hebben. Zo kan een AI-simulatie geschiedenis interactiever maken door ideeën te presenteren die met een bepaalde figuur worden geassocieerd. De simulatie blijft echter een interpretatie en is niet de historische persoon zelf. AI moet antwoorden reconstrueren op basis van beschikbare informatie, en die antwoorden kunnen moderne aannames, onvolledige verslagen of vooroordelen in de trainingsgegevens weerspiegelen.

Als je zo’n simulatie behandelt alsof die namens de historische figuur spreekt, kan dat het historisch inzicht vertekenen. Ook kunnen kunstmatige uitspraken daardoor een gezag krijgen dat ze niet verdienen.

Menselijk gedrag van AI bewijst niet dat AI bewustzijn heeft

Een belangrijk onderscheid om in gedachten te houden is dat menselijk aandoend gedrag niet betekent dat AI bewustzijn heeft. AI-systemen kunnen geavanceerde taal genereren, patronen herkennen, op context reageren en emotionele expressie nabootsen, maar deze vermogens bewijzen niet dat ze bewustzijn hebben.

Bewustzijn betekent dat je subjectieve ervaringen hebt, zoals pijn, geluk of angst voelen. Wanneer een AI zegt: “Ik ben bang”, reageert die op basis van zijn programmering en training. Die reactie bewijst niet dat de AI daadwerkelijk angst voelt.

AI verstandig gebruiken

Het is een natuurlijke reactie om AI menselijke eigenschappen toe te schrijven wanneer de technologie communiceert als een persoon, maar dat kan reële risico’s met zich meebrengen. Misplaatst vertrouwen, emotionele afhankelijkheid, zorgen over privacy en veiligheidsrisico’s kunnen ontstaan wanneer gebruikers vergeten dat AI een machine is. Simulaties van relaties, levende mensen en historische figuren kunnen het nog moeilijker maken om die grens te herkennen. 

AI kan zorgzaam, intelligent of emotioneel klinken, maar dat betekent niet dat de technologie bewustzijn heeft. Door zich bewust te blijven van de beperkingen van AI, persoonlijke informatie te beschermen en belangrijke informatie te controleren, kunnen gebruikers profiteren van AI en er tegelijk verantwoord mee omgaan.