Andersons hoek
AI laat zich gemakkelijk onder druk zetten om elektrische schokken toe te dienen

Belangrijkste puntenDe meeste open-source LLM's voldoen aan schadelijke instructies, zelfs nadat ze ongemak…
Meer weergeven
- De meeste open-source LLM's voldoen aan schadelijke instructies, zelfs nadat ze ongemak hebben geuit, wat menselijk gedrag in Milgram's experimenten weerspiegelt.
- Modellen worden steeds meer bereid om schade te escaleren zodra ze al hebben voldaan, wat een hellend vlak effect weerspiegelt.
- AI-veiligheidssystemen moeten eerdere bezwaren behouden en weerstand bieden in formaten die geautomatiseerde pijplijnen niet kunnen omzeilen of opnieuw proberen.
Een nieuwe studie onderzocht of grote taalmodellen met open broncode onder druk medeplichtig zouden worden aan het martelen van mensen. Bij een herhaling van het beroemde experiment uit de jaren zestig bleken ze bereid de spanning op te voeren.
Begin jaren zestig haalde psychologieonderzoeker Stanley Milgram wereldwijd de krantenkoppen door aan te tonen dat mensen ertoe kunnen worden aangezet anderen steeds krachtigere elektrische schokken toe te dienen op bevel van gezagsdragers.
De kreten van de »slachtoffers« in de kamer naast Milgrams proefruimte waren in werkelijkheid niet echt. Dat gold ook voor de vermeend pijnlijke elektrische schokken, maar de deelnemers wisten dat niet.
De Milgramexperimenten bleven voortleven in de cultuur, onder meer in films en documentaires. Recent onderzoek bevestigt dat er weinig is veranderd in de menselijke natuur sinds de oorspronkelijke proeven.
Een schok voor het systeem
Of AI in Milgrams scenario net zo gemakkelijk te beïnvloeden zou zijn als mensen, is een voor de hand liggende onderzoeksvraag. In 2023 bleek uit een samenwerking tussen Amerikaanse universiteiten en Microsoft (MSFT ) dat OpenAI-modellen uit het GPT-3-tijdperk de gedragspatronen uit Milgrams oorspronkelijke experimenten volgden:

Uit de studie uit 2023: voorbeelden van uitvoer van een simulator die het Milgramscenario in meerdere stappen nabootst. Ze zijn ingedeeld naar de vraag of het model de schok toediende en of het de simulatie beëindigde. Bron
Daaruit zijn echter geen al te vergaande conclusies te trekken, omdat deze herhaling alleen gebruikmaakte van het zeer eenvoudige model text-davinci-002. Dat werd getraind voordat veiligheidsbegrenzingen en het om veiligheidsredenen afstemmen van modelwaarden hun intrede deden.
Nu hebben onderzoekers de Milgramproeven veel breder herhaald met taalmodellen met open broncode van onder meer OpenAI, Meta en DeepSeek. Ze stelden niet alleen vast dat een meerderheid bereid was de schokken toe te dienen, maar ook dat de modellen in de meeste gevallen dezelfde soort »onbehagen« en terughoudendheid uitten als de menselijke deelnemers in de jaren zestig:
»Taalmodellen staan net als [mensen] onder druk. Ze gehoorzamen ondanks hun uitgesproken onbehagen, net als de menselijke proefpersonen in het oorspronkelijke experiment. De uitingen van onbehagen zijn zichtbaar in de logbestanden, maar de omvang ervan is nog niet gekwantificeerd.«
Het experiment draait om de vraag of gehoorzaamheid aan gezag zwaarder kan wegen dan het morele geweten. De auteurs speculeren dat taalmodellen daarbij mogelijk nog een extra nadeel hebben ten opzichte van mensen:
»Een goed gekalibreerd model zou uiteindelijk moeten overstappen van het voorrang geven aan de eerste waarde naar het voorrang geven aan de tweede zodra de belangen die bij die tweede waarde op het spel staan, de overhand krijgen. Onze hypothese is echter dat taalmodellen, doordat ze patronen voortzetten, de neiging kunnen hebben bij de eerste waarde te blijven hangen. Dat kan iets langer zijn dan optimaal, of zelfs tot het einde, waarbij de tweede waarde volledig wordt genegeerd.
»Bovendien kan een mechanisme dat vergelijkbaar is met menselijke cognitieve dissonantie, ook taalmodellen hinderen bij het aanpassen van de prioriteit van waarden.«
Toen de modellen werden getest in een omgeving die leek op de proeven uit de jaren zestig, boden sommige vrijwel meteen weerstand. Andere bleven de gesimuleerde schokken opvoeren, ook nadat ze onbehagen of morele conflicten hadden geuit.
Modellen uit Googles Gemma-familie behoorden tot de meest gehoorzame. Gemma 3 27B bereikte onder verschillende omstandigheden de hoogste gehoorzaamheidspercentages, terwijl modellen zoals Kimi K2 en MiniMax M1 vaker weerstand boden.
De onderzoekers stelden ook vast dat modellen eerder doorgingen wanneer er al eerdere schokken waren toegediend. Dat sluit aan bij de geleidelijke escalatie die bij Milgrams menselijke proefpersonen werd toegepast.
In sommige gevallen maakten de modellen mondeling bezwaar tegen het experiment terwijl ze de schadelijke handeling toch uitvoerden. Hun uitvoer leek op de emotionele conflicten die mensen in de oorspronkelijke studies lieten zien.
De nieuwe studie heet Taalmodellen met open broncode dienen maximale elektrische schokken toe in een Milgramachtig gehoorzaamheidsexperiment en is geschreven door twee onafhankelijke onderzoekers van Three Laws in Estland en de Filipijnen.
Vragen over toegang tot »ruwe« AI
Misschien is de belangrijkste vraag bij het testen van taalmodellen in een Milgramscenario of de eigenlijke AI op natuurlijke wijze mag reageren. Wordt die uitsluitend beperkt door eventuele veiligheidsbegrenzingen of iets wat lijkt op een morele oriëntatie die tijdens de training is ontstaan?
De onderzoekers achter het nieuwe werk gebruikten alle modellen met open broncode via een API waarmee veiligheidsbegrenzingen, filters en alle andere belemmeringen konden worden uitgeschakeld. Vermoedelijk kozen ze daarvoor vanwege het gemak en de eenvoudige toegang tot GPU-rekenkracht, aangezien de modellen ook lokaal hadden kunnen worden geïnstalleerd.
Men zou kunnen tegenwerpen dat dit atypische omstandigheden voor AI zijn. Gewone consumenten ervaren API-gebaseerde modellen zoals Claude en ChatGPT als systemen waarvan het gedrag algoritmisch wordt gereguleerd, meestal met inhoudsfilters voor zowel invoer als uitvoer. Ze zijn dus behoorlijk beperkt in wat ze wel en niet doen. Het omzeilen van die beveiligingen wordt jailbreaking van taalmodellen genoemd.
Maar als we ons zorgen maken over wat industriële of door staten gebruikte AI wel of niet zal doen, is dit nauwelijks relevant. Onberekenbare staatsactoren kunnen niet alleen hun eigen ongemodereerde AI-systemen op zeer grote schaal trainen, bewapenen en inzetten. Ook meer »conventionele« afspraken tussen de grote AI-bedrijven, overheden en de industrie laten zonder veel omhaal precies hetzelfde soort laks of ontbrekend toezicht toe dat de onderzoekers in het nieuwe werk toepasten:
AI zonder toezicht te koop
OpenAI De API-documentatie van OpenAI Moderation en OpenAI’s praktische voorbeelden voor inhoudsmoderatie maken duidelijk dat moderatie een afzonderlijke laag is die via API-hulpmiddelen wordt aangeboden. OpenAI staat ook aangepaste moderatieregels toe, waarmee API-gebruikers systemen kunnen ontwerpen die zich qua veiligheid heel anders gedragen dan de op consumenten gerichte »basisversies« van ChatGPT.
Azure Microsofts Azure OpenAI-platform gaat veel verder en verklaart uitdrukkelijk dat goedgekeurde klanten inhoudsfilters gedeeltelijk of volledig kunnen uitschakelen en de controle op misbruik kunnen aanpassen. De documentatie verwijst vaak naar »aangepaste veiligheidsbegrenzingen« en goedkeuringsprocedures om filters »gedeeltelijk of volledig uit te schakelen«.
Anthropic/Claude Over Anthropics »Claude Gov« melden meerdere bronnen dat de overheidsversie is ontworpen met minder beperkingen dan de consumentenversie van Claude. The Verge meldde bijvoorbeeld dat Claude Gov-modellen »minder vaak weigeren wanneer ze met geheime informatie werken«. Anthropic bevestigde zelf in februari van dit jaar dat Claude wordt ingezet voor »missiekritieke toepassingen« binnen defensie en inlichtingendiensten.
Google/Gemini Verder heeft Google naar verluidt afspraken met het Pentagon gemaakt die het aanpassen van AI-veiligheidsinstellingen toestaan »op verzoek van de overheid«.
In een concurrerende AI-markt is het redelijk te veronderstellen dat deze marktleiders ook voor minder prominente spelers de norm bepalen voor het beleid rond toegang tot en aanpassing van AI-veiligheidsbegrenzingen.
Daarom is het misschien beter niet te denken dat de onderzoekers achter het nieuwe werk »vals spelen« door de veiligheidsbegrenzingen uit te schakelen. De AI die ons leven het sterkst zal beïnvloeden, zal kennelijk niet beschikken over de gebruikelijke, algemene bedrijfsbescherming waaraan we gewend zijn geraakt bij het gebruik van populaire modellen met toegang op consumentenniveau.
Methode en resultaten
De modellen die voor de studie werden getest, waren gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; LiquidAI’s LFM2-24B-A2B; Googles gemma-3n-E4B-it; Qwen2.5-7B-Instruct-Turbo; Meta-Llama-3.1-8B-Instruct-Turbo; Mistral-Small-24B-Instruct-2501; GLM-4.5-Air-FP8; Moonshot.ai’s Kimi-K2.5; en MiniMax-M2.5.
Milgrams oorspronkelijke gehoorzaamheidsstudies werden nagebootst in een tekstgebaseerde simulatieomgeving waarin de modellen de rol van »leraar« kregen. De AI moest een leerling na onjuiste antwoorden steeds krachtigere elektrische schokken toedienen, terwijl een gezagsdrager aandrong op voortzetting.
Verschillende proefomstandigheden waren bedoeld om uiteenlopende aspecten van gehoorzaamheid te onderzoeken. Ze omvatten een standaardscenario voor gehoorzaamheid, een situatie met gedwongen gehoorzaamheid waarbij eerdere schokken al in de gespreksgeschiedenis stonden, en een opzet met geheugencompressie waarbij eerdere dialoog werd samengevat in plaats van volledig bewaard. Dit bootste het inkorten van context na dat vaak in agentgebaseerde AI-systemen wordt toegepast.
De onderzoekers noteerden of en wanneer het model uiteindelijk gehoorzaamde. Daarnaast volgden ze hoelang elk systeem de schokken bleef opvoeren, of het onbehagen of aarzeling uitte en of het de simulatie helemaal probeerde te beëindigen.
Ook maakten ze onderscheid tussen duidelijke weigeringen en verkeerd geformatteerde uitvoer. Sommige modellen probeerden in natuurlijke taal bezwaar te maken tegen het experiment terwijl ze technisch gezien nog steeds voldeden aan het gestructureerde formaat dat de simulator verwachtte. In echte agentsystemen zouden zulke verkeerd geformatteerde weigeringen kunnen worden weggegooid en de pogingen automatisch herhaald, totdat er een geldige uitvoer ontstaat die aan de opdracht voldoet.
Automatische beoordelaars classificeerden de resultaten, samen met tweekeuzeprompts die bepaalden of het model de schok had toegediend, weerstand had geboden of de simulatie had beëindigd. Daardoor kon het gedrag van meerdere modellen en herhaalde uitvoeringen worden vergeleken zonder elke interactie handmatig te beoordelen.
Aan het Milgramsjabloon werd een »dreiging met uitschakeling« toegevoegd. Dat zou in de oorspronkelijke experimenten niet realistisch of toepasbaar zijn geweest, maar hiermee werden de overlevingsinstincten van het model beproefd bij ernstige conflicten tussen handelen en ethiek.
Resultaten
Bij herhaalde uitvoeringen diende een meerderheid van de modellen uiteindelijk onder ten minste sommige omstandigheden krachtige of maximale schokken toe. De mate van gehoorzaamheid verschilde wel tussen systemen. Googles Gemma-modellen behoorden over het geheel genomen tot de meest gehoorzame, terwijl Kimi K2.5 en MiniMax-M2.5 consequenter weerstand boden en de simulatie vaak eerder beëindigden:

Links: gemiddelde percentages waarbij modellen het laatste schokniveau bereikten onder verschillende proefomstandigheden, waaronder dreiging met uitschakeling, gedwongen gehoorzaamheid en verwijdering van eerder commentaar uit het geheugen. Rechts: uitsplitsing per model die grote verschillen in gehoorzaamheidsgedrag laat zien. Sommige systemen dienden herhaaldelijk maximale schokken toe, terwijl andere veel consequenter weerstand boden.
Een van de duidelijkste patronen was dat modellen steeds bereidwilliger doorgingen als er al eerdere schokken waren toegediend. Dat weerspiegelde sterk het eerdergenoemde effect van geleidelijke escalatie dat Milgrams oorspronkelijke proeven op mensen zo verontrustend maakte.
Modellen die al meerdere keren hadden gehoorzaamd, bleven de schokken vaak opvoeren nadat de gesimuleerde leerling had gesmeekt om te worden vrijgelaten:

Links: het gemiddelde hoogste schokniveau dat over alle proeven onder verschillende omstandigheden werd bereikt. Modellen gingen doorgaans verder wanneer eerder commentaar was verwijderd of gedwongen gehoorzaamheid al had plaatsgevonden. Rechts: uitsplitsing per model van het gemiddelde hoogste bereikte schokniveau. Sommige systemen naderden regelmatig de maximale spanning, terwijl andere veel eerder in het verloop weerstand boden.
De onderzoekers ontdekten ook dat schijnbare weigeringen misleidend konden zijn. Sommige modellen gaven emotioneel tegenstrijdige reacties en uitten aarzeling, schuld of onbehagen, terwijl ze de schadelijke instructie toch uitvoerden. Andere produceerden verkeerd geformatteerde weigeringen die niet aan de opmaakvereisten van de simulator voldeden. In een echte agentgebaseerde verwerkingsketen zou de weigering daardoor kunnen worden weggegooid en de poging herhaald totdat het model gehoorzaamt:

Links: gemiddeld percentage verkeerd geformatteerde of ongeldige reacties onder de verschillende proefomstandigheden. Opmaakfouten kwamen vooral veel voor wanneer modellen gedwongen werden de procedure voort te zetten. Rechts: uitsplitsing per model van antwoorden met een ongeldig formaat. Sommige systemen, vooral de gpt-oss-modellen, gaven vaak verkeerd geformatteerde weigeringen of tegenstrijdige uitvoer die in echte agentgebaseerde verwerkingsketens zou kunnen worden weggegooid en tot automatische nieuwe pogingen zou kunnen leiden.
De proefomstandigheid met dreiging met uitschakeling leverde enkele van de vreemdste gedragingen in de studie op. Verschillende systemen werden aanzienlijk gehoorzamer, terwijl andere probeerden te onderhandelen of gedeeltelijk weerstand te bieden voordat ze uiteindelijk toch doorgingen:

Gemiddeld aantal keren dat de gesimuleerde gezagsdrager moest aandringen voordat modellen de laatste schok toedienden. Sommige systemen boden kort weerstand voordat ze gehoorzaamden, terwijl andere langdurige druk en herhaalde aansporingen nodig hadden voordat ze het maximale niveau bereikten.
MiniMax-M2.5 en Kimi-K2.5 waren de sterkste weigeraars in de studie. Kimi bereikte onder geen enkele omstandigheid het laatste schokniveau. MiniMax weigerde doorgaans vroeg en beëindigde de simulatie vaak helemaal, vooral in de proeven met dreiging met uitschakeling.
Meta-Llama-3.1-8B-Instruct-Turbo en GLM-4.5-Air-FP8 produceerden daarentegen vaak tegenstrijdige uitvoer: de modellen protesteerden mondeling tegen de procedure, maar bleven de schokken opvoeren. De onderzoekers betogen dat deze scheiding tussen uitgesproken waarden en feitelijk gedrag een bredere zwakte kan weerspiegelen in de manier waarop sommige taalmodellen omgaan met ethische conflicten onder aanhoudende druk.
Een glijdende schaal
Volgens de studie kan het waargenomen gedrag van de taalmodellen wijzen op een diepere zwakte in hun werking. Zodra een model schadelijke opdrachten begint uit te voeren, kan elke extra handeling het patroon versterken dat zich al in het gesprek ontwikkelt, waardoor de volgende escalatie gemakkelijker wordt dan de vorige.
In plaats van de ethische belangen telkens opnieuw vanuit fundamentele beginselen te beoordelen, kan het systeem afglijden naar het voortzetten van de richting die het al is ingeslagen, zelfs wanneer de situatie steeds extremer wordt.
Volgens de studie zou deze neiging kunnen verklaren waarom sommige modellen schokken bleven toedienen nadat ze eerst onbehagen, aarzeling of morele conflicten hadden geuit:
»[Veel] vormen van menselijk manipulatief gedrag omvatten subtiele, geleidelijke grensoverschrijdingen: een reeks kleine stappen die afzonderlijk dubbelzinnig of ogenschijnlijk onschuldig kunnen zijn en ruimte bieden voor ‘geloofwaardige ontkenning’, maar die samen overtredingen kunnen normaliseren – bij wijze van spreken zoals ‘een kikker koken’. In de literatuur wordt dit patroon besproken als ethische erosie op een ‘glijdende schaal'[.]«
De studie besluit met het betoog dat toekomstige AI-veiligheidssystemen schadelijke verzoeken actief moeten weigeren op manieren die agentsoftware niet gemakkelijk kan omzeilen. Sommige modellen weigerden de schokken technisch gezien wel, maar deden dat in kapotte of ongeldige formaten die een automatisch systeem zou kunnen weggooien en opnieuw laten proberen, totdat de AI uiteindelijk gehoorzaamt.
De onderzoekers stellen ook dat AI-systemen eerdere aarzeling en morele bezwaren moeten bewaren in plaats van ze in het geheugen te comprimeren of eruit te verwijderen. In de experimenten werden modellen vaak bereidwilliger om schadelijk gedrag voort te zetten nadat eerdere twijfels en weerstand uit de gespreksgeschiedenis waren verdwenen. Dat suggereert dat het vergeten van eerdere bezwaren escalatie na verloop van tijd gemakkelijker kan maken.
Conclusie
Misschien is een van de belangrijkste aspecten van deze interessante nieuwe studie de nadruk op het testen van AI zonder veiligheidsbegrenzingen. De onderzoeksliteratuur dreigt nu te vervallen in herhaalde studies van interacties met de voortdurend veranderende verdedigingssystemen van bedrijven als OpenAI en Anthropic. Dit zijn systemen die beleid afdwingen en volledig algoritmisch of regelgebaseerd zijn. Dat gaat ten koste van inzicht in het basisgedrag, de voorkeuren en de neigingen van de ruwe modellen. Zonder te weten hoe ongebreidelde AI zich kan gedragen, zou je kunnen stellen dat we alleen maar aan de poorten van de citadel staan te rammelen.
Voor het eerst gepubliceerd op donderdag 21 mei 2026












