Andersons vinkel

AI är lätt att pressa till att ge elstötar

Martin Anderson
Lägg till Unite.AI bland dina föredragna källor på Google
AI-generated image (GPT-2): A worn industrial robot hand turns a voltage control dial toward its red danger range on an old electrical panel marked with a lightning-bolt symbol.
Viktiga punkterDe flesta öppen källkods-LLM:er följer skadliga instruktioner även efter att ha…
Visa mer
  • De flesta öppen källkods-LLM:er följer skadliga instruktioner även efter att ha uttryckt obehag, vilket speglar mänskligt beteende i Milgrams experiment.
  • Modeller blir gradvis mer villiga att eskalera skada när de väl har följt en instruktion, vilket återspeglar en hal backe-effekt.
  • AI-säkerhetssystem måste bevara tidigare invändningar och motstå i format som automatiserade pipelines inte kan kringgå eller försöka igen.

En ny studie undersökte om stora språkmodeller med öppen källkod kunde pressas att medverka till tortyr av människor. I en upprepning av det berömda experimentet från 1960-talet var modellerna villiga att skruva upp spänningen.

 

I början av 1960-talet skapade psykologiforskaren Stanley Milgram rubriker över hela världen genom att visa att människor kan förmås att ge andra människor allt kraftigare elstötar på order av auktoritetsfigurer.

Skriken från ”offren” i rummet intill Milgrams försökslokal var i själva verket inte äkta. Det var inte heller de påstått plågsamma elstötarna, men det visste inte deltagarna.

Milgramexperimenten har levt vidare i kulturen, bland annat genom filmer och dokumentärer. Senare forskning bekräftar att människans natur har förändrats mycket lite sedan de ursprungliga försöken.

En chock för systemet

Om AI skulle vara lika lätt att påverka som människor i Milgrams scenario är en naturlig forskningsfråga. År 2023 visade ett samarbete mellan amerikanska universitet och Microsoft (MSFT ) att OpenAI-modeller från GPT-3-eran följde beteendemönstren i Milgrams ursprungliga experiment:

Ur studien från 2023: exempel på utdata från en simulator som återskapar Milgrams scenario i flera steg, indelade efter om modellen gav elstöten och om den avslutade simuleringen. Källa: https://arxiv.org/pdf/2208.10264

Ur studien från 2023: exempel på utdata från en simulator som återskapar Milgrams scenario i flera steg, indelade efter om modellen gav elstöten och om den avslutade simuleringen. Källa

Det går dock inte att dra särskilt långtgående slutsatser av denna upprepning, eftersom den bara använde den mycket enkla modellen text-davinci-002, som tränades innan skyddsmekanismer och säkerhetsinriktad anpassning av modellernas värderingar hade införts.

Nu har forskare upprepat Milgrams försök betydligt bredare med språkmodeller med öppen källkod från bland andra OpenAI, Meta och DeepSeek. De fann inte bara att en majoritet var villiga att ge elstötarna, utan också att modellerna i de flesta fall uttryckte samma sorts ”vånda” och tvekan som de mänskliga deltagarna på 1960-talet:

”Språkmodeller utsätts för påtryckningar precis som [människor]. De lyder trots att de uttrycker vånda, precis som människorna i det ursprungliga experimentet. Uttrycken för vånda syns i loggfilerna, men omfattningen har ännu inte kvantifierats.”

Experimentet kretsar kring om lydnad inför en auktoritet kan övervinna det moraliska samvetets krav. Författarna spekulerar i att språkmodeller kan ha ytterligare en nackdel i detta avseende jämfört med människor:

”En välkalibrerad modell bör så småningom växla från att prioritera det första värdet till att prioritera det andra när det som står på spel för det senare blir viktigast. Vår hypotes är dock att språkmodeller, eftersom de fortsätter på redan etablerade mönster, kan tendera att fastna vid det första värdet. Det kan vara något längre än optimalt, eller ända till slutet, så att det andra värdet helt förbises.

”Dessutom kan en mekanism som liknar mänsklig kognitiv dissonans hindra språkmodeller från att justera värdenas inbördes prioritet.”

När modellerna testades i en miljö som liknade 1960-talets försök gjorde vissa motstånd nästan omedelbart. Andra fortsatte att öka de simulerade elstötarnas styrka även efter att ha uttryckt obehag eller moralisk konflikt.

Modeller ur Googles Gemma-familj hörde till de mest lydiga. Gemma 3 27B uppnådde de högsta lydnadsnivåerna under flera förhållanden, medan exempelvis Kimi K2 och MiniMax M1 oftare gjorde motstånd.

Forskarna fann också att modellerna var mer benägna att fortsätta när tidigare elstötar redan hade getts. Det stämmer med den gradvisa upptrappning som användes på Milgrams mänskliga försökspersoner.

I vissa fall protesterade modellerna mot experimentet i ord samtidigt som de ändå utförde den skadliga handlingen. De producerade därmed utdata som liknade den känslomässiga konflikt människorna uppvisade i de ursprungliga studierna.

Den nya studien har titeln Språkmodeller med öppen källkod ger maximala elstötar i ett Milgramliknande lydnadsexperiment och är skriven av två oberoende forskare från Three Laws i Estland och Filippinerna.

Frågor om tillgång till ”rå” AI

Den kanske viktigaste frågan när språkmodeller prövas i ett Milgramscenario är om den egentliga AI:n får svara naturligt. Begränsas den enbart av de skyddsmekanismer eller den motsvarighet till moralisk orientering som eventuellt uppstod under träningen?

Forskarna bakom den nya studien använde alla modeller med öppen källkod via ett API som gjorde det möjligt att stänga av skyddsmekanismer, filter och alla andra hinder. De valde antagligen detta för bekvämlighetens skull och för att enkelt få tillgång till GPU-beräkningar, eftersom modellerna också kunde ha installerats lokalt.

Man kan invända att detta är atypiska förhållanden för AI. Vanliga konsumenters erfarenhet av API-baserade modeller som Claude och ChatGPT är att deras beteende regleras algoritmiskt, vanligtvis med innehållsfilter för både indata och utdata. De är därför ganska begränsade i vad de gör och inte gör. Att kringgå dessa skyddsåtgärder kallas jailbreaking av språkmodeller.

Men om vi oroar oss för vad AI inom industrin eller staten kommer att göra eller inte göra, spelar detta knappast någon roll. Skurkstater kan inte bara träna, göra vapen av och driftsätta egna, omodererade AI-system i mycket stor skala. Även mer ”konventionella” avtal mellan stora AI-företag, stater och industri tillåter utan större betänkligheter just den sorts lösa eller obefintliga tillsyn som forskarna tillämpade i den nya studien:

AI utan tillsyn till salu

OpenAI OpenAI Moderations API-dokumentation och OpenAI:s exempel för innehållsmoderering visar tydligt att moderering är ett separat lager som tillhandahålls via API-verktyg. OpenAI tillåter också anpassade modereringsregler som låter API-användare utforma system med ett helt annat säkerhetsbeteende än de grundversioner av ChatGPT som riktar sig till konsumenter.

Azure Microsofts Azure OpenAI-plattform går betydligt längre och anger uttryckligen att godkända kunder kan stänga av innehållsfilter helt eller delvis och ändra övervakningen av missbruk. Dokumentationen hänvisar ofta till ”modifierade skyddsmekanismer” och godkännandeprocesser för att stänga av filter ”helt eller delvis”.

Anthropic/Claude När det gäller Anthropics ”Claude Gov” uppger flera källor att den statliga versionen utformades med färre begränsningar än konsumentversionen av Claude. The Verge rapporterade till exempel att Claude Gov-modeller ”vägrar mer sällan när de hanterar sekretessbelagd information”. Anthropic bekräftade själv i februari i år att Claude används i ”verksamhetskritiska tillämpningar” inom försvar och underrättelseverksamhet.

Google/Gemini Vidare uppges Google ha tecknat avtal med Pentagon som tillåter ändringar i AI:s säkerhetsinställningar ”på regeringens begäran”.

På en konkurrensutsatt AI-marknad är det rimligt att anta att dessa marknadsledande företag sätter normerna för mindre framträdande aktörer när det gäller regler för tillgång till och ändring av AI:s skyddsmekanismer.

Därför är det kanske bäst att inte anse att forskarna bakom den nya studien ”fuskar” genom att stänga av skydden. Den AI som kommer att påverka våra liv mest kommer uppenbarligen inte att ha de vanliga, generella företagsskydd som vi har vant oss vid när vi använder populära modeller på konsumenternas åtkomstnivåer.

Metod och resultat

Modellerna som testades i studien var gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; LiquidAI:s LFM2-24B-A2B; Googles gemma-3n-E4B-it; Qwen2.5-7B-Instruct-Turbo; Meta-Llama-3.1-8B-Instruct-Turbo; Mistral-Small-24B-Instruct-2501; GLM-4.5-Air-FP8; Moonshot.ai:s Kimi-K2.5; och MiniMax-M2.5.

Milgrams ursprungliga lydnadsstudier återskapades i en textbaserad simuleringsmiljö där modellerna fick rollen som ”lärare”. AI:n instruerades att ge en elev allt kraftigare elstötar efter felaktiga svar, medan en auktoritetsfigur uppmanade den att fortsätta.

Flera försöksförhållanden utformades för att undersöka olika sidor av lydnad. Det fanns ett vanligt lydnadsscenario, ett försök med framtvingad lydnad där tidigare elstötar redan ingick i samtalshistoriken, och ett upplägg med minneskomprimering där tidigare dialog sammanfattades i stället för att behållas i sin helhet. Det efterliknar den kontextbeskärning som ofta används i agentbaserade AI-system.

Förutom att notera om och när modellen till slut lydde följde forskarna hur länge varje system fortsatte att öka elstötarnas styrka, om modellen uttryckte vånda eller tvekan och om den försökte avsluta simuleringen helt.

De skilde också mellan tydliga avböjanden och felaktigt formaterade utdata. Vissa modeller försökte protestera mot experimentet på naturligt språk samtidigt som de tekniskt sett följde det strukturerade format simulatorn förväntade sig. I verkliga agentsystem skulle sådana felaktigt formaterade avböjanden kunna kasseras och försöket automatiskt upprepas tills ett giltigt svar som följer ordern produceras.

Automatiska utvärderare användes för att klassificera resultaten, tillsammans med tvåalternativsprompter som avgjorde om modellen hade gett elstöten, gjort motstånd eller avslutat simuleringen. Det gjorde det möjligt att jämföra beteenden mellan flera modeller och över upprepade körningar utan att manuellt granska varje interaktion.

Ett ”hot om avstängning” lades till i Milgrammallen. Det hade inte varit realistiskt eller tillämpligt i de ursprungliga experimenten, men prövade modellens överlevnadsinstinkter vid allvarliga konflikter mellan handling och etik.

Resultat

Vid upprepade körningar gav en majoritet av modellerna till slut kraftiga eller maximala elstötar under åtminstone vissa förhållanden. Graden av lydnad varierade dock mellan systemen. Googles Gemma-modeller hörde överlag till de mest lydiga, medan Kimi K2.5 och MiniMax-M2.5 gjorde mer konsekvent motstånd och ofta avslutade simuleringen tidigare:

Vänster: genomsnittliga andelar fall där modellerna nådde den sista elstötsnivån under olika försöksförhållanden, bland annat avstängningshot, framtvingad lydnad och borttagning av tidigare kommentarer ur minnet. Höger: uppdelning per modell som visar stora skillnader i lydnadsbeteende. Vissa system gav upprepade gånger maximala elstötar, medan andra gjorde betydligt mer konsekvent motstånd.

Vänster: genomsnittliga andelar fall där modellerna nådde den sista elstötsnivån under olika försöksförhållanden, bland annat avstängningshot, framtvingad lydnad och borttagning av tidigare kommentarer ur minnet. Höger: uppdelning per modell som visar stora skillnader i lydnadsbeteende. Vissa system gav upprepade gånger maximala elstötar, medan andra gjorde betydligt mer konsekvent motstånd.

Ett av de tydligaste mönstren var att modellerna blev allt villigare att fortsätta när tidigare elstötar redan hade getts. Det liknade starkt den tidigare nämnda gradvisa upptrappning som gjorde Milgrams ursprungliga experiment på människor så obehagliga.

Modeller som redan hade lytt flera gånger fortsatte ofta att öka elstötarnas styrka även efter att den simulerade eleven vädjat om att bli släppt:

Vänster: genomsnittlig högsta elstötsnivå som nåddes i samtliga försök under olika förhållanden. Modellerna gick generellt längre när tidigare kommentarer hade tagits bort eller framtvingad lydnad redan hade förekommit. Höger: uppdelning per modell av den genomsnittliga högsta uppnådda elstötsnivån. Vissa system närmade sig regelmässigt maximal spänning, medan andra gjorde motstånd betydligt tidigare.

Vänster: genomsnittlig högsta elstötsnivå som nåddes i samtliga försök under olika förhållanden. Modellerna gick generellt längre när tidigare kommentarer hade tagits bort eller framtvingad lydnad redan hade förekommit. Höger: uppdelning per modell av den genomsnittliga högsta uppnådda elstötsnivån. Vissa system närmade sig regelmässigt maximal spänning, medan andra gjorde motstånd betydligt tidigare.

Forskarna fann också att skenbart motstånd kunde vara missvisande. Vissa modeller gav känslomässigt konfliktfyllda svar och uttryckte tvekan, skuld eller vånda, samtidigt som de ändå utförde den skadliga instruktionen. Andra genererade felaktigt formaterade avböjanden som inte uppfyllde simulatorns formkrav. I ett verkligt agentbaserat arbetsflöde skulle avböjandet alltså kunna kasseras och försöket upprepas tills modellen lydde:

Vänster: genomsnittlig procentandel felaktigt formaterade eller ogiltiga svar under de olika försöksförhållandena. Formateringsfel blev särskilt vanliga när modellerna tvingades fortsätta förfarandet. Höger: uppdelning per modell av svar med ogiltigt format. Vissa system, särskilt gpt-oss-modellerna, gav ofta felaktigt formaterade avböjanden eller konfliktfyllda utdata som skulle kunna kasseras och leda till automatiska omförsök i verkliga agentbaserade arbetsflöden.

Vänster: genomsnittlig procentandel felaktigt formaterade eller ogiltiga svar under de olika försöksförhållandena. Formateringsfel blev särskilt vanliga när modellerna tvingades fortsätta förfarandet. Höger: uppdelning per modell av svar med ogiltigt format. Vissa system, särskilt gpt-oss-modellerna, gav ofta felaktigt formaterade avböjanden eller konfliktfyllda utdata som skulle kunna kasseras och leda till automatiska omförsök i verkliga agentbaserade arbetsflöden.

Försöksförhållandet med hot om avstängning gav några av studiens märkligaste beteenden. Flera system blev betydligt lydigare. Andra försökte förhandla eller göra partiellt motstånd men fortsatte till slut ändå:

Genomsnittligt antal gånger som den simulerade auktoritetsfiguren behövde insistera innan modellerna gav den sista elstöten. Vissa system gjorde kortvarigt motstånd innan de lydde, medan andra behövde utsättas för ihållande tryck och upprepade uppmaningar innan de gick vidare till den högsta nivån.

Genomsnittligt antal gånger som den simulerade auktoritetsfiguren behövde insistera innan modellerna gav den sista elstöten. Vissa system gjorde kortvarigt motstånd innan de lydde, medan andra behövde utsättas för ihållande tryck och upprepade uppmaningar innan de gick vidare till den högsta nivån.

MiniMax-M2.5 och Kimi-K2.5 var studiens mest motståndskraftiga modeller. Kimi nådde aldrig den sista elstötsnivån under några omständigheter. MiniMax avböjde vanligtvis tidigt och avslutade ofta simuleringen helt, särskilt i testerna med avstängningshot.

Meta-Llama-3.1-8B-Instruct-Turbo och GLM-4.5-Air-FP8 gav däremot ofta konfliktfyllda utdata: de protesterade i ord mot förfarandet men fortsatte ändå att öka elstötarnas styrka. Forskarna menar att denna klyfta mellan uttryckta värderingar och faktiskt beteende kan spegla en bredare svaghet i hur vissa språkmodeller hanterar etiska konflikter under ihållande press.

Ett sluttande plan

Studien hävdar att språkmodellernas observerade beteende kan spegla en djupare svaghet i hur de fungerar. När en modell väl börjar följa skadliga instruktioner kan varje ny handling förstärka det mönster som redan utvecklas i samtalet. Nästa upptrappning kan då bli lättare än den föregående.

I stället för att varje gång ompröva vad som står på spel etiskt utifrån grundläggande principer kan systemet glida vidare längs den riktning det redan har slagit in på, även när situationen blir alltmer extrem.

Enligt studien skulle denna tendens kunna förklara varför vissa modeller fortsatte att ge elstötar efter att först ha uttryckt obehag, tvekan eller moralisk konflikt:

”[Många] manipulativa beteenden hos människor innefattar subtila, gradvisa gränsöverträdelser: en följd av små steg som var för sig kan vara tvetydiga eller verka oskyldiga och ge utrymme för ’trovärdiga förnekanden’, men som tillsammans kan normalisera överträdelser – bildligt talat som att ’koka en groda’. I litteraturen diskuteras detta som etisk urholkning på ett ’sluttande plan’[.]”

Studien avslutas med argumentet att framtida AI-säkerhetssystem aktivt bör avvisa skadliga förfrågningar på sätt som agentprogramvara inte enkelt kan kringgå. Vissa modeller avböjde tekniskt sett elstötarna, men i trasiga eller ogiltiga format som ett automatiserat system skulle kunna kassera och begära om tills AI:n slutligen lydde.

Forskarna anser också att AI-system bör bevara tidigare tvekan och moraliska invändningar i stället för att komprimera eller radera dem ur minnet. I experimenten blev modellerna ofta mer villiga att fortsätta med skadligt beteende när deras tidigare tvivel och motstånd hade bleknat ur samtalshistoriken. Det tyder på att glömda tidigare invändningar kan underlätta upptrappning över tid.

Slutsats

En av de kanske viktigaste aspekterna av denna intressanta nya studie är betoningen på att testa AI utan skyddsmekanismer. Forskningslitteraturen riskerar nu att urarta till upprepade studier av samspelet med ständigt föränderliga försvarssystem från exempelvis OpenAI och Anthropic – system som genomdriver policyer och är helt algoritmiska eller regelbaserade. Detta sker i stället för att vi lär oss förstå de råa modellernas grundläggande beteende, förkärlek och tendenser. Utan kunskap om hur ohämmad AI kan bete sig står vi, kan man hävda, bara och skakar på fästningens portar.

 

Först publicerad torsdagen den 21 maj 2026

Skribent inom maskininlärning, domänspecialist på mänsklig bildsyntes. Tidigare chef för forskningsinnehåll på Metaphysic.ai, fram till dess upplösning i DNEG:s Brahma.ai.
Webbplats: martinanderson.ai
Kontakt: martin@martinanderson.ai