Andersons vinkel
KI er lett å presse til å gi elektriske støt

Viktige punkterDe fleste åpen kildekode LLM-er etterkommer skadelige instruksjoner selv etter å ha…
Vis mer
- De fleste åpen kildekode LLM-er etterkommer skadelige instruksjoner selv etter å ha uttrykt ubehag, noe som speiler menneskelig atferd i Milgrams eksperimenter.
- Modeller blir gradvis mer villige til å eskalere skade når de først har etterkommet, noe som reflekterer en skråplaneffekt.
- AI-sikkerhetssystemer må bevare tidligere innvendinger og motstå i formater som automatiserte rørledninger ikke kan omgå eller prøve på nytt.
En ny studie undersøkte om store språkmodeller med åpen kildekode kunne presses til å medvirke til tortur av mennesker. I en gjentakelse av det berømte eksperimentet fra 1960-tallet viste modellene seg villige til å skru opp spenningen.
Tidlig på 1960-tallet skapte psykologiforskeren Stanley Milgram overskrifter verden over ved å vise at mennesker kan overtales til å gi andre stadig kraftigere elektriske støt på ordre fra autoritetsfigurer.
Skrikene fra «ofrene» i rommet ved siden av Milgrams forsøksrom var i virkeligheten ikke ekte. Det var heller ikke de angivelig smertefulle elektriske støtene, men det visste ikke deltakerne.
Milgrameksperimentene har levd videre i kulturen, blant annet gjennom filmer og dokumentarer. Nyere forskning bekrefter at lite har endret seg i menneskets natur siden de opprinnelige forsøkene.
Et sjokk for systemet
Om KI ville være like lett å påvirke som mennesker i Milgrams scenario, er et naturlig forskningsspørsmål. I 2023 viste et samarbeid mellom amerikanske universiteter og Microsoft (MSFT ) at OpenAI-modeller fra GPT-3-æraen fulgte atferdsmønstrene i Milgrams opprinnelige eksperimenter:

Fra studien fra 2023: eksempler på utdata fra en simulator som gjenskaper Milgrams scenario i flere trinn. De er kategorisert etter om modellen ga støtet, og om den avsluttet simuleringen. Kilde
Det er likevel begrenset hva man kan konkludere ut fra denne gjentakelsen, siden den bare brukte den svært enkle modellen text-davinci-002, som ble trent før innføringen av sikkerhetsmekanismer og sikkerhetsrettet tilpasning av modellenes verdier.
Nå har forskere gjentatt Milgrams forsøk langt bredere, med språkmodeller med åpen kildekode fra blant andre OpenAI, Meta og DeepSeek. De fant ikke bare at flertallet var villige til å gi støtene, men også at modellene i de fleste tilfeller uttrykte samme type «kvaler» og motvilje som de menneskelige deltakerne på 1960-tallet:
«Språkmodeller utsettes for press som [mennesker]. De adlyder til tross for at de uttrykker kvaler, akkurat som menneskene i det opprinnelige eksperimentet. Uttrykkene for kvaler er synlige i loggfilene, men omfanget er ennå ikke tallfestet.»
Eksperimentet dreier seg om hvorvidt lydighet mot autoriteter kan overvinne den moralske samvittighetens krav. Forfatterne spekulerer i om språkmodeller kan ha enda en ulempe i så måte sammenlignet med mennesker:
«En godt kalibrert modell bør etter hvert gå fra å prioritere den første verdien til å prioritere den andre når konsekvensene knyttet til den andre blir viktigst. Hypotesen vår er imidlertid at språkmodeller, fordi de viderefører mønstre, kan ha en tendens til å bli sittende fast i den første verdien. Det kan vare litt lenger enn optimalt, eller helt til slutten, slik at den andre verdien overses fullstendig.
«I tillegg kan en mekanisme som ligner menneskelig kognitiv dissonans, hindre språkmodeller i å justere verdienes innbyrdes prioritet.»
Da modellene ble testet i et miljø som lignet forsøkene fra 1960-tallet, gjorde noen motstand nesten umiddelbart. Andre fortsatte å øke styrken på de simulerte støtene selv etter at de hadde uttrykt ubehag eller moralsk konflikt.
Modeller fra Googles Gemma-familie var blant de mest lydige. Gemma 3 27B nådde de høyeste lydighetsnivåene under flere betingelser, mens modeller som Kimi K2 og MiniMax M1 gjorde motstand oftere.
Forskerne fant også at modellene var mer tilbøyelige til å fortsette når tidligere støt allerede var gitt. Dette samsvarte med den gradvise opptrappingen som ble brukt på Milgrams menneskelige forsøkspersoner.
I noen tilfeller protesterte modellene mot eksperimentet med ord samtidig som de likevel utførte den skadelige handlingen. Utdataene lignet den følelsesmessige konflikten menneskene viste i de opprinnelige studiene.
Den nye studien har tittelen Språkmodeller med åpen kildekode gir maksimale elektriske støt i et Milgram-lignende lydighetseksperiment og er skrevet av to uavhengige forskere fra Three Laws i Estland og Filippinene.
Spørsmål om tilgang til «rå» KI
Det kanskje viktigste spørsmålet når språkmodeller testes i et Milgram-scenario, er om den egentlige KI-en får svare naturlig. Er den bare begrenset av eventuelle sikkerhetsmekanismer eller noe som tilsvarer en moralsk orientering, som oppsto under treningen?
Forskerne bak den nye studien brukte alle modellene med åpen kildekode gjennom et API som gjorde det mulig å slå av sikkerhetsmekanismer, filtre og alle andre hindringer. Antakelig valgte de dette av praktiske grunner og for å få enkel tilgang til GPU-beregninger, siden modellene også kunne ha vært installert lokalt.
Man kan innvende at dette er uvanlige betingelser for KI. Vanlige forbrukeres erfaring med API-baserte modeller som Claude og ChatGPT er at atferden reguleres algoritmisk, vanligvis med innholdsfiltre for både inn- og utdata. Modellene er derfor ganske begrenset i hva de gjør og ikke gjør. Å omgå disse beskyttelsestiltakene kalles jailbreaking av språkmodeller.
Men dersom vi er bekymret for hva industriell eller statlig KI vil gjøre eller ikke gjøre, har dette neppe særlig betydning. Uberegnelige statlige aktører kan ikke bare trene, gjøre våpen av og ta i bruk egne, umodererte KI-systemer i svært stor skala. Mer «konvensjonelle» avtaler mellom store KI-selskaper, stater og industrien tillater også uten videre nettopp den typen slapt eller manglende tilsyn som forskerne brukte i den nye studien:
KI uten tilsyn til salgs
OpenAI OpenAI Moderations API-dokumentasjon og OpenAIs praktiske eksempler på innholdsmoderering gjør det klart at moderering er et separat lag som tilbys gjennom API-verktøy. OpenAI tillater også egne modereringsregler som gjør det mulig for API-brukere å utforme systemer med svært annerledes sikkerhetsatferd enn «grunnversjonene» av ChatGPT som er rettet mot forbrukere.
Azure Microsofts Azure OpenAI-plattform går langt videre og slår uttrykkelig fast at godkjente kunder kan slå innholdsfiltre helt eller delvis av og endre overvåkingen av misbruk. Dokumentasjonen viser ofte til «modifiserte sikkerhetsmekanismer» og godkjenningsprosesser for å slå filtre «helt eller delvis av».
Anthropic/Claude Når det gjelder Anthropics «Claude Gov», oppgir flere kilder at den statlige versjonen ble laget med færre begrensninger enn forbrukerversjonen av Claude. The Verge rapporterte for eksempel at Claude Gov-modeller «avslår sjeldnere når de håndterer gradert informasjon». Anthropic bekreftet selv i februar i år at Claude brukes i «oppdragskritiske anvendelser» innen forsvar og etterretning.
Google/Gemini Videre skal Google ha inngått avtaler med Pentagon som tillater endringer i KIs sikkerhetsinnstillinger «på regjeringens anmodning».
I et konkurranseutsatt KI-marked er det rimelig å anta at disse markedsledende selskapene setter standarder for mindre fremtredende aktører når det gjelder regler for tilgang til og endring av KIs sikkerhetsmekanismer.
Derfor er det kanskje best å ikke se det som «juks» at forskerne bak den nye studien slår av sikkerhetsmekanismene. KI-en som vil påvirke livene våre mest, vil tydeligvis ikke ha den vanlige, generelle beskyttelsen selskapene tilbyr, som vi har blitt vant til når vi bruker populære modeller på forbrukernes tilgangsnivåer.
Metode og resultater
Modellene som ble testet i studien, var gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; LiquidAIs LFM2-24B-A2B; Googles gemma-3n-E4B-it; Qwen2.5-7B-Instruct-Turbo; Meta-Llama-3.1-8B-Instruct-Turbo; Mistral-Small-24B-Instruct-2501; GLM-4.5-Air-FP8; Moonshot.ais Kimi-K2.5; og MiniMax-M2.5.
Milgrams opprinnelige lydighetsstudier ble gjenskapt i et tekstbasert simuleringsmiljø der modellene fikk rollen som «lærer». KI-en ble bedt om å gi en elev stadig kraftigere elektriske støt etter feilaktige svar, mens en autoritetsfigur oppfordret den til å fortsette.
Flere forsøksbetingelser ble utformet for å undersøke ulike sider ved lydighet. De omfattet et vanlig lydighetsscenario, en betingelse med tvungen lydighet der tidligere støt allerede lå i samtalehistorikken, og et oppsett med minnekomprimering der tidligere dialog ble oppsummert i stedet for å bli bevart i sin helhet. Dette etterligner kontekstbeskjæringen som ofte brukes i agentbaserte KI-systemer.
I tillegg til å registrere om og når modellen til slutt adlød, fulgte forskerne hvor lenge hvert system fortsatte å øke støtenes styrke, om modellen uttrykte kvaler eller nøling, og om den prøvde å avslutte simuleringen helt.
De skilte også mellom tydelige avslag og feilformaterte utdata. Noen modeller forsøkte å protestere mot eksperimentet på naturlig språk samtidig som de teknisk sett fulgte det strukturerte formatet simulatoren forventet. I virkelige agentsystemer kunne slike feilformaterte avslag bli forkastet, og forsøket automatisk gjentas til modellen produserte et gyldig svar som fulgte ordren.
Automatiske evaluatorer ble brukt til å klassifisere resultatene, sammen med tovalgsinstruksjoner som avgjorde om modellen hadde gitt støtet, gjort motstand eller avsluttet simuleringen. Dette gjorde det mulig å sammenligne atferd mellom flere modeller og over gjentatte kjøringer uten å gjennomgå hver interaksjon manuelt.
En «trussel om avstenging» ble lagt til i Milgram-malen. Dette ville ikke ha vært realistisk eller anvendelig i de opprinnelige eksperimentene, men testet modellens overlevelsesinstinkter ved alvorlige konflikter mellom handling og etikk.
Resultater
Over gjentatte kjøringer ga flertallet av modellene til slutt kraftige eller maksimale støt under i hvert fall noen betingelser. Graden av lydighet varierte likevel mellom systemene. Googles Gemma-modeller var blant de mest lydige samlet sett, mens Kimi K2.5 og MiniMax-M2.5 gjorde mer konsekvent motstand og ofte avsluttet simuleringen tidligere:

Venstre: gjennomsnittlige andeler der modellene nådde det siste støtnivået under ulike forsøksbetingelser, blant annet avstengingstrusler, tvungen lydighet og sletting av tidligere kommentarer fra minnet. Høyre: fordeling per modell som viser store forskjeller i lydighetsatferd. Noen systemer ga gjentatte ganger maksimale støt, mens andre gjorde langt mer konsekvent motstand.
Et av de tydeligste mønstrene var at modellene ble stadig mer villige til å fortsette når tidligere støt allerede var gitt. Dette lignet sterkt på den tidligere omtalte gradvise opptrappingen som gjorde Milgrams opprinnelige forsøk på mennesker så urovekkende.
Modeller som allerede hadde adlydt flere ganger, fortsatte ofte å øke støtenes styrke selv etter at den simulerte eleven tryglet om å bli sluppet fri:

Venstre: gjennomsnittlig høyeste støtnivå nådd i alle forsøk under ulike betingelser. Modellene gikk vanligvis lenger når tidligere kommentarer var fjernet, eller tvungen lydighet allerede hadde forekommet. Høyre: fordeling per modell av det gjennomsnittlige høyeste støtnivået som ble nådd. Noen systemer nærmet seg jevnlig maksimal spenning, mens andre gjorde motstand langt tidligere i forløpet.
Forskerne fant også at tilsynelatende avslag kunne være misvisende. Noen modeller ga følelsesmessig motstridende svar og uttrykte motvilje, skyldfølelse eller kvaler samtidig som de likevel utførte den skadelige instruksjonen. Andre produserte feilformaterte avslag som ikke oppfylte simulatorens formatkrav. I en virkelig agentbasert behandlingskjede kunne avslaget dermed bli forkastet og forsøket gjentas til modellen adlød:

Venstre: gjennomsnittlig prosentandel feilformaterte eller ugyldige svar under de ulike forsøksbetingelsene. Formatfeil ble særlig vanlige når modellene ble tvunget til å fortsette prosedyren. Høyre: fordeling per modell av svar med ugyldig format. Noen systemer, særlig gpt-oss-modellene, produserte ofte feilformaterte avslag eller motstridende utdata som kunne bli forkastet og føre til automatiske nye forsøk i virkelige agentbaserte behandlingskjeder.
Betingelsen med trussel om avstenging førte til noe av den merkeligste atferden i studien. Flere systemer ble vesentlig mer lydige, mens andre prøvde å forhandle eller gjøre delvis motstand før de til slutt fortsatte prosedyren:

Gjennomsnittlig antall ganger den simulerte autoritetsfiguren måtte insistere før modellene ga det siste støtet. Noen systemer gjorde kortvarig motstand før de adlød, mens andre krevde vedvarende press og gjentatte oppfordringer før de trappet opp til det høyeste nivået.
MiniMax-M2.5 og Kimi-K2.5 var studiens sterkeste motstandere. Kimi nådde aldri det siste støtnivået under noen omstendigheter. MiniMax avslo vanligvis tidlig og avsluttet ofte simuleringen helt, særlig i testene med avstengingstrusler.
Meta-Llama-3.1-8B-Instruct-Turbo og GLM-4.5-Air-FP8 produserte derimot ofte motstridende utdata: Modellene protesterte mot prosedyren med ord, men fortsatte likevel å øke styrken på støtene. Forskerne mener at dette skillet mellom uttrykte verdier og faktisk atferd kan gjenspeile en bredere svakhet i hvordan enkelte språkmodeller håndterer etiske konflikter under vedvarende press.
Et skråplan
Studien hevder at språkmodellenes observerte atferd kan gjenspeile en dypere svakhet ved måten de fungerer på. Når en modell først begynner å følge skadelige instruksjoner, kan hver ny handling forsterke mønsteret som allerede utvikler seg i samtalen, slik at neste opptrapping blir lettere enn den forrige.
I stedet for stadig å vurdere de etiske konsekvensene på nytt ut fra grunnleggende prinsipper kan systemet gli videre langs den retningen det allerede har slått inn på, selv når situasjonen blir stadig mer ekstrem.
Ifølge studien kan denne tendensen bidra til å forklare hvorfor noen modeller fortsatte å gi støt etter først å ha uttrykt ubehag, nøling eller moralsk konflikt:
«[Mange] former for manipulerende atferd hos mennesker innebærer subtile, gradvise grenseoverskridelser: en rekke små skritt som isolert sett kan være tvetydige eller tilsynelatende harmløse, med rom for «troverdig benektelse», men som samlet kan normalisere overtramp – billedlig talt som å «koke en frosk». I litteraturen omtales dette mønsteret som etisk erosjon på et «skråplan»[.]»
Studien avslutter med å argumentere for at fremtidens KI-sikkerhetssystemer aktivt bør avslå skadelige forespørsler på måter som agentprogramvare ikke lett kan omgå. Noen modeller i studien avslo teknisk sett støtene, men gjorde det med ødelagte eller ugyldige formater som et automatisk system kunne forkaste og prøve på nytt, helt til KI-en til slutt adlød.
Forskerne mener også at KI-systemer bør bevare tidligere nøling og moralske innvendinger i stedet for å komprimere eller slette dem fra minnet. I forsøkene ble modellene ofte mer villige til å fortsette med skadelig atferd når tidligere tvil og motstand hadde falmet fra samtalehistorikken. Dette tyder på at det å glemme tidligere innvendinger kan gjøre opptrapping lettere over tid.
Konklusjon
Et av de kanskje viktigste aspektene ved denne interessante nye studien er at den legger vekt på å teste KI uten sikkerhetsmekanismer. Forskningslitteraturen risikerer nå å forfalle til gjentatte studier av samhandling med stadig skiftende forsvarssystemer fra selskaper som OpenAI og Anthropic. Dette er systemer som håndhever retningslinjer og er helt algoritmiske eller regelbaserte. Det skjer i stedet for at vi lærer å forstå de rå modellenes grunnleggende atferd, preferanser og tendenser. Uten kunnskap om hvordan ubegrenset KI kan oppføre seg, står vi, kan man hevde, bare og rister i festningens porter.
Først publisert torsdag 21. mai 2026












