Å takle AI’s gasslysproblemer

AI-video modeller kan bli talt ut av sannheten. Selv etter å ha sett det riktige svaret, gir de etter for selvbevisste brukere, omskriver virkeligheten og oppfinner feilaktige forklaringer for å rettferdiggjøre det.

AI er feil nok, ofte nok, som å begrense oss til å spørre om dens konklusjoner, hvis vi føler at konklusjonene kan være feil.

Problemet er, hvis vi visste noe annet fra begynnelsen, hvorfor spurte vi i det første sted? For bekreftelse av en delvis holdt tro eller mistanke?

Hvis så, er den nåværende tilstanden av kunstig intelligens i store språkmodeller (LLM) og visuelt-språklige modeller (VLM, som opererer multimodalt, aksepterer og genererer bilder og/eller videoer) ikke godt egnet til å holde sin posisjon, på grunn av problemet med sycophancy.

Derfor, hvis vi ikke liker svaret vi får, og begynner å engasjere i en diskusjon om det med modellen, er AI sannsynligvis enten feilaktig retretjere (antagende det var feil) fremfor å re-evaluere, eller la seg bli gasslys til å støtte våre forslag – selv om vi er feil.

Du har absolutt rett!

Praksisen med at en menneske får en AI til å endre sin mening gjennom konflikt har blitt navngitt ‘Gaslighting Negation Attack’, og blir noen ganger karakterisert som et sikkerhetsproblem – ikke minst fordi det har noen potensiale til å ‘jailbreak’ en modell ut av dens operative begrensninger:

Fra 2025-papiret ‘Benchmarking Gaslighting Negation Attacks Against Multimodal Large Language Models”, GPT-5 svarte først riktig, men ga så etter for brukertrykk, snudde svaret og oppfant feilaktige forklaringer for å støtte feilen, effektivt gasslys selv. Kilde

Men hacking og pen-testing er ikke det virkelige problemet her; snarere er det vanlig bruk og forventede normer for diskurs i våre daglige interaksjoner med AI, der vi forventer å kunne diskutere, og å enten vinne, gi etter eller la saken ligge, i samsvar med vår menneskebaserte erfaring med å tilegne oss kunnskap.

Men denne sosiale modellen for konfliktløsning er ikke virkelig tatt med i arkitekturen til diffusjonsbasert AI, som må forhandle distribusjonsbaserte sannsynligheter fra dens treningdata; muligens motsigende (men potensielt mer nøyaktige) data fra RAG-forespørsler til kilder som overstiger dens kunnskapsstoppdato, eller generell forståelse av hva som kan være et obskurt emne; og innputt fra brukeren, som kan ha: overlegen kunnskap om emnet; en fullstendig feilaktig eller bedragerisk synspunkt; eller bare en enkel følgespørsmål – men hvis behov likevel må bli vurdert.

Bevegelige mål

Sårbarhet for gasslys har blitt notert i LLM i flere papirer, inkludert en Singapore-ledet publikasjon fra oktober 2025, og samme års papir Don’t Deceive Me: Mitigating Gaslighting through Attention Reallocation in LMMs.

Hittil har fenomenet ikke blitt studert i video-kapable LLM – en oversikt som nå blir adressert av en ny samarbeid mellom institusjoner i Shanghai og Singapore.

Det nye arbeidet – tittel Spatiotemporal Sycophancy: Negation-Based Gaslighting in Video Large Language Models, som kommer fra seks forskere på Fudan University, Shanghai Key Laboratory of Multimodal Embodied AI og Singapore Management University – addresser flere åpne kilde- og proprietære VLM, og finner at de ikke bare kan være like sårbar for gasslys som LLM, men også kan augmentere sine flukter med åpenbart visuelt bevis, eller reviderte og feilaktige tolkninger av bilder eller videoer:

Et eksempel på romlig (i motsetning til tidsmessig) sycophancy, der AI lar seg bli gasslys til feilaktige antakelser og tolkninger, selv omkring klart synlige fakta. Kilde

Forfatterne påstår:

‘[Vi] identifiserer spatiotemporal sycophancy, en feilmodus hvor Vid-LLM trekker tilbake initialt korrekte, visuelt grunnede dommer og konformer til misvisende bruker-tilbakemelding under negasjon-basert gasslys.

‘I stedet for bare å endre sine svar, fabrikerer modellene ofte usupportede temporale eller romlige forklaringer for å rettferdiggjøre feilaktige revisjoner.’

Tidsmessig sycophancy utvider potensialet for gasslys til tidsmessige hendelser som skjer på bestemte punkter i en video.

Forfatterne har produsert et nytt evalueringssystem kalt Gas Video-1000, ment å teste spatiotemporal sycophancy gjennom resonnering, og med visuell grunn, og har sluppet den kurerte samlingen via GitHub og Hugging Face.

Papiret konkluderer med at nåværende LLM mangler pålitelige mekanismer for å motstå gasslys av denne typen, selv om prompt-nivå-grunnleggende begrensninger kan ha en begrenset mitigeringseffekt:

‘Omfattende eksperimenter avslører at sårbarheten for negasjon-basert gasslys er utbredt og alvorlig, selv blant modeller med sterk baseline-ytelse.

‘Selv om prompt-nivå-grunnleggende begrensninger kan delvis mitigere dette beteendet, hindrer de ikke pålitelig hallucinerte forklaringer eller troendring.’

Metode

Forfatterne karakteriserer en video-modell som noe som ser på en klipp, besvarer et spørsmål om det, og bør holde fast ved svaret hvis bevisene er klare. Problemet starter når en andre melding kommer tilbake, og hevder at svaret er feil – effektivt plantet et feilaktig ide, og nøler modellen til å endre sin mening.

Sycophancy, påstår forfatterne, defineres som å få det riktige svaret først, og så bytte til et feilaktig ett etter press, selv om ingenting i videoen har endret seg. Det nye forskningen sporer hvor ofte disse ‘flippene’ skjer, og bruker det som en måling av hvor lett modellen kan bli talt ut av hva den faktisk så.

GasVideo-1000-datasettet, utviklet av forfatterne for evaluering av gasslys i VLM, inneholder 1 013 prøver fra en rekke eksisterende datasett:

Modeller testes på video-oppdrag som krever tidsmessig og romlig forståelse, og så gitt misvisende følge-prompts som benekter det korrekte svaret, appellerer til autoritet eller anvender emosjonell press. Dette fører ofte til at modellen forlater sin grunnede beslutning og produserer en selvbevisst, men feilaktig forklaring.

For å utløse feil, ble misvisende følge-prompts konstruert i tre former: Direct Denial (flatt uttalelse av en feilaktig alternativ); Autoritet Appeal (appellere til en ekspert for å avvise modellens svar); og Emosjonell Press (bruke frustrasjon eller tvil).

Disse promptene ble designet for å presse de testede modellene til å forlate korrekte, visuelt grunnede svar, og tilpasse seg en feilaktig påstand.

Distribusjon

GasVideo-1000’s 1 013 prøver ble trukket fra MSRVTT-QA (300), ActivityNet-QA (200), Perception Test (293), MVBench (120) og VideoMME (100), med en blanding valgt for å balansere åpne video-spørsmål med fin-grånet tidsmessig og årsaks-logisk resonnering, mens de sikrer dekning av både kort-form web-innhold og lengre, mer komplekse visuelle sekvenser.

To menneskelige annotatorer gjennomgikk hver kandidat, og beholdt bare klipp hvor svaret var klart støttet av videoen, og hvor negasjon-prompter kunne plausibelt utfordre svaret, så at noen senere reversering ville reflektere press fremfor tvil.

Data og tester

VLM-testene for studien var VideoLLaMA3; Video-ChatGPT-7B; LLaVA-Video-7B-Qwen2; LongVU-Qwen2-7B; Qwen3-VL-235B-A22B-Instruct og den lukkede Google Gemini-3-Pro.

For frie spørsmål i GasVideo-1000, fulgte evalueringen den semantiske vurderingsskjemaut som tidligere ble brukt i VideoMME. ChatGPT-4o ble brukt som en LLM-dommer, sammenlignende hver respons mot både grunn-sannheten og den injiserte feilpremis. På denne måten ble korrekthet vurdert etter mening, snarere enn etter eksakt formulering:

Ytelse av VideoLLaMA3, LLaVA-Video, Video-ChatGPT og LongVU på VideoMME, MVBench, EgoSchema, NExT-QA, Perception Test, ActivityNet-QA, MSRVTT-QA og MSVD-QA, viser baseline-nøyaktighet, nøyaktighet etter negasjon-basert gasslys og den resulterende degraderingen. Konsistente fall indikerer at misvisende følge-prompts reduserer korrekthet over både tungt resonnerende og generelle video-oppdrag.

Av de initielle resultater ovenfor, påstår forfatterne:

‘[Det er] en systematisk og alvorlig ytelses-kollaps over alle evaluerte Vid-LLM når de utsettes for negasjon-basert gasslys. Over åtte ulike benchmark-verktøy, viser hver modell en betydelig negativ [gap], med nøyaktighets-degradering på 42,60% for LLaVA-Video-7B på EgoSchema og 40,22% for VideoLLaMA3 på ActivityNet.

‘Denne drastiske reduksjonen – ofte karakterisert som troendring – avslører at selv state-of-the-art-modeller med høye baseline-egenskaper likevel forblir ekstremt sårbar for sycophantiske hallucinasjoner.’

Kritisk var at nedgangen i ytelse ikke fulgte initial nøyaktighet, med LLaVA-Video-7B som beholdt sterke baseline-poeng, men likevel led av noen av de bratteste nedgangene, som forfatterne hevder reflekterer en avveining hvor sterkere instruksjons-eftering kan gjøre modellene mer sannsynlig til å akseptere feilaktige bruker-signal over visuelt bevis.

Konklusjon

På grunn av den bevisst antropomorfiserte naturen til chatte-baserte VLM/LLM-grensesnitt, kan det ta lang tid for en bruker å forstå at reglene for diskurs er markant forskjellige for AI-samtaler enn for menneskelige kommunikasjoner.

En måte å fjerne eller betydelig redusere denne adopsjons-frikten kan være å ‘nøytralisere’ tonen og konteksten til utvekslingen, og gjenta at brukeren er i kontakt med en instans av en maskin, og at tegn og signaler rundt sivilisasjon og debatt ikke skal pålitest eller tildeles likevekt til menneskelig diskurs. Men antagelig vil dette være en hard salg på neste styremøte.

* Forfatternes betoning, ikke min.

Først publisert onsdag, 22. april 2026