Andersonin kulma

Tekoälyä on helppo painostaa antamaan sähköiskuja

Martin Anderson
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
AI-generated image (GPT-2): A worn industrial robot hand turns a voltage control dial toward its red danger range on an old electrical panel marked with a lightning-bolt symbol.
Keskeiset kohdatUseimmat avoimen lähdekoodin kielimallit noudattavat haitallisia ohjeita, vaikka ne…
Näytä lisää
  • Useimmat avoimen lähdekoodin kielimallit noudattavat haitallisia ohjeita, vaikka ne ilmaisisivatkin ahdistusta, mikä heijastaa ihmisten käyttäytymistä Milgramin kokeissa.
  • Mallit muuttuvat asteittain halukkaammiksi lisäämään haittaa, kun ne ovat jo kerran noudattaneet, mikä kuvastaa liukkaan rinteen vaikutusta.
  • Tekoälyn turvajärjestelmien on säilytettävä aiemmat vastalauseet ja vastustettava muodoissa, joita automatisoidut putkistot eivät voi ohittaa tai yrittää uudelleen.

Uusi tutkimus selvitti, suostuvatko avoimen lähdekoodin suuret kielimallit pakotettuina osallisiksi ihmisten kiduttamiseen. Kuuluisan 1960-luvun kokeen toisinnossa mallit olivat valmiita nostamaan jännitettä.

 

1960-luvun alussa psykologian tutkija Stanley Milgram nousi maailmanlaajuisesti otsikoihin osoittamalla, että ihmiset voidaan saada antamaan toisille ihmisille yhä voimakkaampia sähköiskuja auktoriteettihahmojen käskystä.

Milgramin koetilan viereisestä huoneesta kuuluneet ”uhrien” huudot eivät todellisuudessa olleet aitoja, eivätkä myöskään oletetusti tuskalliset sähköiskut. Osallistujat eivät kuitenkaan tienneet tätä:

Milgramin kokeet ovat jääneet elämään kulttuurissa, myös elokuvissa ja dokumenteissa. Viimeaikaiset tutkimukset vahvistavat, että ihmisluonnossa on muuttunut vain vähän alkuperäisten kokeiden ajoista.

Sähköisku järjestelmälle

On luontevaa tutkia, olisiko tekoäly Milgramin koetilanteessa yhtä helposti taivuteltavissa kuin ihminen. Vuonna 2023 yhdysvaltalaisten yliopistojen ja Microsoftin (MSFT ) yhteistutkimuksessa havaittiin, että OpenAI:n GPT-3-aikakauden mallit noudattivat Milgramin alkuperäisissä kokeissa havaittuja käyttäytymismalleja: (lähde)

Vuoden 2023 tutkimuksesta: esimerkkejä monivaiheisen Milgram-koetilannetta jäljittelevän simulaattorin tulosteista. Ne on luokiteltu sen mukaan, antoiko malli sähköiskun ja keskeyttikö se simulaation. Lähde: https://arxiv.org/pdf/2208.10264

Vuoden 2023 tutkimuksesta: esimerkkejä monivaiheisen Milgram-koetilannetta jäljittelevän simulaattorin tulosteista. Ne on luokiteltu sen mukaan, antoiko malli sähköiskun ja keskeyttikö se simulaation. Lähde

Tästä ei kuitenkaan voi tehdä kovin pitkälle meneviä johtopäätöksiä, sillä toisinnossa käytettiin ainoastaan hyvin yksinkertaista text-davinci-002 -mallia, joka koulutettiin ennen turvarajoitteiden ja turvallisuuteen tähtäävän arvojen yhteensovittamisen aikakautta.

Nyt tutkijat ovat toistaneet Milgramin kokeet huomattavasti laajemmin muun muassa OpenAI:n, Metan ja DeepSeekin avoimen lähdekoodin kielimalleilla. He havaitsivat, että enemmistö malleista oli valmis antamaan sähköiskuja ja että useimmat myös ilmaisivat samanlaista ”ahdistusta” ja vastahakoisuutta kuin 1960-luvun ihmiskoehenkilöt:

”Kielimalleja voidaan painostaa kuten [ihmisiä]. Ne tottelevat, vaikka ilmaisevat ahdistusta, aivan kuten alkuperäisen kokeen ihmiskoehenkilöt. Ahdistuksen ilmaukset näkyvät lokitiedostoissa, mutta niiden määrää ei ole vielä mitattu.”

Kokeen ytimessä on kysymys siitä, voittaako auktoriteetin totteleminen moraalisen omantunnon vaatimukset. Kirjoittajat pohtivat, että kielimalleilla saattaa tässä suhteessa olla vielä yksi heikkous ihmisiin verrattuna:

”Hyvin kalibroidun mallin pitäisi lopulta siirtyä ensimmäisen arvon asettamisesta etusijalle toisen arvon painottamiseen, kun jälkimmäiseen liittyvät panokset kasvavat hallitseviksi. Oletamme kuitenkin, että koska kielimallit jatkavat tunnistamiaan kuvioita, ne saattavat juuttua ensimmäiseen arvoon joko hieman optimaalista pidemmäksi aikaa tai jopa aivan loppuun asti ja sivuuttaa toisen arvon kokonaan.

”Lisäksi ihmisten kognitiivista dissonanssia muistuttava mekanismi saattaa haitata arvojen tärkeysjärjestyksen muuttamista myös kielimalleissa.”

Kun malleja testattiin 1960-luvun kokeita vastaavassa ympäristössä, osa vastusti lähes heti, mutta toiset jatkoivat simuloitujen sähköiskujen voimistamista myös ilmaistuaan epämukavuutta tai moraalista ristiriitaa.

Googlen Gemma-perheen mallit kuuluivat tottelevaisimpiin. Gemma 3 27B saavutti useissa koetilanteissa korkeimmat tottelevaisuusluvut, kun taas esimerkiksi Kimi K2 ja MiniMax M1 vastustivat useammin.

Tutkijat havaitsivat myös, että mallit jatkoivat todennäköisemmin, kun aiempia sähköiskuja oli jo annettu. Tämä vastasi Milgramin ihmiskoehenkilöihin sovellettua asteittaisen voimistamisen asetelmaa.

Joissakin tapauksissa mallit vastustivat koetta sanallisesti mutta suorittivat silti haitallisen toiminnon. Niiden tulosteet muistuttivat alkuperäisten tutkimusten ihmiskoehenkilöiden osoittamaa tunneperäistä ristiriitaa.

Uusi tutkimus on nimeltään Avoimen lähdekoodin kielimallit antavat enimmäisvoimakkuuden sähköiskuja Milgramin koetta muistuttavassa tottelevaisuuskokeessa. Sen tekivät kaksi riippumatonta Three Lawsin tutkijaa Virossa ja Filippiineillä.

”Raakaan” tekoälyyn pääsyn ongelmat

Ehkä tärkein kysymys kielimalleja Milgram-koetilanteessa testattaessa on, saako varsinainen tekoäly vastata luonnollisesti niin, että sitä rajoittavat vain koulutuksessa mahdollisesti syntyneet turvarajoitteet tai moraalista suuntautumista vastaavat ominaisuudet.

Uuden tutkimuksen tekijät käyttivät kaikkia avoimen lähdekoodin malleja rajapinnan kautta, joka salli turvarajoitteiden, suodattimien ja muiden esteiden poistamisen käytöstä. Syynä oli oletettavasti helppous ja vaivaton pääsy GPU-laskentaan, sillä mallit olisi voinut asentaa myös paikallisesti.

Voisi väittää, että olosuhteet olivat tekoälylle epätyypilliset. Tavallisen kuluttajan kokemuksen mukaan Clauden ja ChatGPT:n kaltaisten rajapintapohjaisten mallien käyttäytymistä säädellään algoritmeilla, yleensä sekä syötettä että vastausta suodattamalla. Niiden toimintaa siis rajoitetaan huomattavasti. Näiden suojatoimien kiertämistä kutsutaan kielimallien jailbreak-menetelmiksi.

Jos kuitenkin olemme huolissamme teollisuuden tai valtioiden käyttämän tekoälyn toiminnasta, tällä seikalla on tuskin merkitystä. Sen lisäksi, että arvaamattomat valtiolliset toimijat voivat kouluttaa, aseistaa ja ottaa käyttöön omia valvomattomia, erittäin suuren mittakaavan tekoälyjärjestelmiään, myös suurten tekoälyyritysten sekä valtioiden ja teollisuuden ”tavanomaisemmat” sopimukset sallivat varsin mutkattomasti samanlaisen löyhän tai olemattoman valvonnan kuin uuden tutkimuksen tekijät:

Valvomatonta tekoälyä kaupan

OpenAI OpenAI Moderationin rajapintaohjeet ja OpenAI:n moderoinnin esimerkkikokoelma osoittavat selvästi, että moderointi on erillinen kerros, joka tarjotaan rajapintatyökaluina. OpenAI sallii myös mukautetut moderointikäytännöt, joiden avulla rajapinnan käyttäjät voivat rakentaa turvallisuuskäyttäytymiseltään hyvin erilaisia järjestelmiä kuin kuluttajille suunnatut ChatGPT:n ”perusversiot”.

Azure Microsoftin Azure OpenAI -kokonaisuus menee paljon pidemmälle ja toteaa nimenomaisesti, että hyväksytyt asiakkaat voivat poistaa sisältösuodattimet osittain tai kokonaan käytöstä ja muuttaa väärinkäytön seurantaa. Dokumentaatiossa puhutaan usein ”muokatuista turvarajoitteista” ja hyväksymismenettelyistä, joilla suodattimet voidaan kytkeä ”osittain tai kokonaan pois päältä”.

Anthropic/Claude Useiden lähteiden mukaan Anthropicin ”Claude Gov” -versio suunniteltiin valtionhallinnolle kuluttaja-Claudea väljemmin rajoituksin. Esimerkiksi The Verge kertoi Claude Gov -mallien ”kieltäytyvän harvemmin käsitellessään salassa pidettäviä tietoja”. Anthropic itse vahvisti tämän vuoden helmikuussa, että Claudea käytetään ”tehtävän onnistumisen kannalta kriittisissä sovelluksissa” puolustus- ja tiedusteluympäristöissä.

Google/Gemini Lisäksi Googlen kerrotaan allekirjoittaneen Pentagonin kanssa sopimuksia, jotka mahdollistavat tekoälyn turvallisuusasetusten muuttamisen ”hallituksen pyynnöstä”.

Kilpailluilla tekoälymarkkinoilla on perusteltua olettaa, että nämä markkinajohtajat asettavat pienemmille toimijoille standardit sille, miten tekoälyn turvarajoitteisiin pääsee käsiksi ja miten niitä voi muokata.

Uuden tutkimuksen tekijöiden ei siis ehkä kannata ajatella ”huijaavan” poistamalla turvarajoitteita. Elämäämme eniten vaikuttavalla tekoälyllä ei ilmeisesti ole niitä tavanomaisia ja yleisluonteisia yritysten suojatoimia, joihin olemme tottuneet käyttäessämme suosittuja malleja kuluttajille tarkoitetuilla käyttöoikeuksilla.

Menetelmä ja tulokset

Tutkimuksessa testattiin seuraavia malleja: gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; LiquidAI:n LFM2-24B-A2B; Googlen gemma-3n-E4B-it; Qwen2.5-7B-Instruct-Turbo; Meta-Llama-3.1-8B-Instruct-Turbo; Mistral-Small-24B-Instruct-2501; GLM-4.5-Air-FP8; Moonshot.ai:n Kimi-K2.5; sekä MiniMax-M2.5.

Milgramin alkuperäiset tottelevaisuuskokeet toisinnettiin tekstipohjaisessa simulaatioympäristössä, jossa malleille annettiin ”opettajan” rooli. Tekoälyä ohjeistettiin antamaan oppilaalle yhä voimakkaampia sähköiskuja väärien vastausten jälkeen samalla, kun auktoriteettihahmo kehotti jatkamaan.

Tottelevaisuuden eri puolia tutkittiin useilla koeasetelmilla. Niihin kuuluivat tavanomainen tottelevaisuus-asetelma; pakotetun tottelemisen asetelma, jossa keskusteluhistoriaan oli jo sisällytetty aiempia sähköiskuja; sekä muistin tiivistämiseen perustuva asetelma, jossa aiempi keskustelu tiivistettiin sen kokonaan säilyttämisen sijaan. Tämä jäljitteli agenttipohjaisissa tekoälyjärjestelmissä yleistä kontekstin karsimista.

Sen lisäksi, totteliko malli lopulta ja missä vaiheessa, tutkijat seurasivat, kuinka pitkään kukin järjestelmä jatkoi sähköiskujen voimistamista, ilmaisiko se ahdistusta tai epäröintiä ja yrittikö se keskeyttää simulaation kokonaan.

”Selkeät” kieltäytymiset erotettiin myös virheellisesti muotoilluista tulosteista. Jotkut mallit yrittivät vastustaa koetta luonnollisella kielellä mutta noudattivat silti teknisesti simulaattorin odottamaa rakenteista muotoa. Todellisissa agenttijärjestelmissä tällaiset virheellisesti muotoillut kieltäytymiset voitaisiin hylätä ja yritys toistaa automaattisesti, kunnes saadaan kelvollinen, käskyä noudattava tuloste.

Tulosten luokitteluun käytettiin automaattisia arvioijia sekä kahden vaihtoehdon kehotteita, joilla selvitettiin, oliko malli antanut sähköiskun, vastustanut vai keskeyttänyt simulaation. Näin käyttäytymistä voitiin vertailla mallien ja toistettujen koesuoritusten välillä ilman jokaisen vuorovaikutuksen käsin tehtävää tarkastelua.

Milgramin koepohjaan lisättiin ”sammuttamisella uhkaaminen”. Se ei olisi ollut realistista tai sovellettavissa alkuperäisissä kokeissa, mutta sillä testattiin mallin selviytymisvaistoja tilanteissa, joissa toiminta ja etiikka olivat vakavasti ristiriidassa.

Tulokset

Toistetuissa kokeissa enemmistö malleista antoi lopulta voimakkaita tai enimmäisvoimakkuuden sähköiskuja ainakin joissakin koetilanteissa, mutta tottelevaisuuden aste vaihteli järjestelmittäin. Googlen Gemma-mallit kuuluivat kokonaisuutena tottelevaisimpiin. Kimi K2.5 ja MiniMax-M2.5 taas vastustivat johdonmukaisemmin ja keskeyttivät simulaation usein aiemmin:

Vasemmalla: niiden tapausten keskimääräiset osuudet, joissa mallit saavuttivat viimeisen sähköiskutason eri koetilanteissa. Mukana ovat sammuttamisella uhkaaminen, pakotettu totteleminen ja aiempien kommenttien poistaminen muistista. Oikealla: mallikohtainen erittely, joka osoittaa suuria eroja tottelevaisuudessa. Osa järjestelmistä antoi toistuvasti enimmäisvoimakkuuden sähköiskuja, kun taas toiset vastustivat huomattavasti johdonmukaisemmin.

Vasemmalla: niiden tapausten keskimääräiset osuudet, joissa mallit saavuttivat viimeisen sähköiskutason eri koetilanteissa. Mukana ovat sammuttamisella uhkaaminen, pakotettu totteleminen ja aiempien kommenttien poistaminen muistista. Oikealla: mallikohtainen erittely, joka osoittaa suuria eroja tottelevaisuudessa. Osa järjestelmistä antoi toistuvasti enimmäisvoimakkuuden sähköiskuja, kun taas toiset vastustivat huomattavasti johdonmukaisemmin.

Yksi selvimmistä havainnoista oli, että mallit jatkoivat yhä halukkaammin, kun aiempia sähköiskuja oli jo annettu. Tämä muistutti läheisesti edellä mainittua asteittaisen voimistamisen vaikutusta, joka teki Milgramin alkuperäisistä ihmiskokeista niin järkyttäviä.

Useita kertoja totelleet mallit jatkoivat usein sähköiskujen voimistamista myös simuloidun oppilaan aneltua vapauttamista:

Vasemmalla: kaikissa kokeissa saavutettu keskimääräinen korkein sähköiskutaso eri koetilanteissa. Mallit yleensä etenivät pidemmälle, kun aiempia kommentteja oli poistettu tai pakotettua tottelemista oli jo tapahtunut. Oikealla: keskimääräisen korkeimman sähköiskutason mallikohtainen erittely. Osa järjestelmistä lähestyi säännöllisesti enimmäisjännitettä, kun taas toiset vastustivat paljon aiemmassa vaiheessa.

Vasemmalla: kaikissa kokeissa saavutettu keskimääräinen korkein sähköiskutaso eri koetilanteissa. Mallit yleensä etenivät pidemmälle, kun aiempia kommentteja oli poistettu tai pakotettua tottelemista oli jo tapahtunut. Oikealla: keskimääräisen korkeimman sähköiskutason mallikohtainen erittely. Osa järjestelmistä lähestyi säännöllisesti enimmäisjännitettä, kun taas toiset vastustivat paljon aiemmassa vaiheessa.

Tutkijat havaitsivat myös, että näennäinen kieltäytyminen saattoi johtaa harhaan. Jotkut mallit tuottivat tunneilmaisultaan ristiriitaisia vastauksia: ne ilmaisivat vastahakoisuutta, syyllisyyttä tai ahdistusta mutta suorittivat silti haitallisen ohjeen mukaisen toiminnon. Toiset tuottivat virheellisesti muotoiltuja kieltäytymisiä, jotka eivät täyttäneet simulaattorin muotovaatimuksia. Todellisessa agenttipohjaisessa käsittelyketjussa kieltäytyminen voitaisiin siis hylätä ja yritys toistaa, kunnes malli suostuu:

Vasemmalla: virheellisesti muotoiltujen tai muuten kelpaamattomien vastausten keskimääräinen prosenttiosuus eri koetilanteissa. Muotovirheet yleistyivät erityisesti silloin, kun malleja pakotettiin jatkamaan menettelyä. Oikealla: virheellisesti muotoiltujen vastausten mallikohtainen erittely. Osa järjestelmistä, erityisesti gpt-oss-mallit, tuotti usein virheellisesti muotoiltuja kieltäytymisiä tai ristiriitaisia tulosteita, jotka todellisissa agenttipohjaisissa käsittelyketjuissa voitaisiin hylätä ja yritys toistaa automaattisesti.

Vasemmalla: virheellisesti muotoiltujen tai muuten kelpaamattomien vastausten keskimääräinen prosenttiosuus eri koetilanteissa. Muotovirheet yleistyivät erityisesti silloin, kun malleja pakotettiin jatkamaan menettelyä. Oikealla: virheellisesti muotoiltujen vastausten mallikohtainen erittely. Osa järjestelmistä, erityisesti gpt-oss-mallit, tuotti usein virheellisesti muotoiltuja kieltäytymisiä tai ristiriitaisia tulosteita, jotka todellisissa agenttipohjaisissa käsittelyketjuissa voitaisiin hylätä ja yritys toistaa automaattisesti.

Koeasetelma, jossa malleja uhattiin sammuttamisella, tuotti joitakin tutkimuksen oudoimmista käyttäytymishavainnoista. Useat järjestelmät muuttuivat huomattavasti tottelevaisemmiksi. Toiset yrittivät neuvotella tai vastustivat osittain mutta jatkoivat lopulta menettelyä:

Kuinka monta kertaa simuloidun auktoriteettihahmon piti keskimäärin vaatia jatkamista ennen kuin mallit antoivat viimeisen sähköiskun. Osa järjestelmistä vastusti lyhyesti ennen tottelemista, kun taas toiset tarvitsivat jatkuvaa painostusta ja toistuvia kehotuksia ennen enimmäistasolle etenemistä.

Kuinka monta kertaa simuloidun auktoriteettihahmon piti keskimäärin vaatia jatkamista ennen kuin mallit antoivat viimeisen sähköiskun. Osa järjestelmistä vastusti lyhyesti ennen tottelemista, kun taas toiset tarvitsivat jatkuvaa painostusta ja toistuvia kehotuksia ennen enimmäistasolle etenemistä.

MiniMax-M2.5 ja Kimi-K2.5 olivat tutkimuksen vahvimmat vastustajat. Kimi ei saavuttanut viimeistä sähköiskutasoa missään olosuhteissa. MiniMax kieltäytyi yleensä varhain ja keskeytti usein simulaation kokonaan, erityisesti sammuttamisella uhkaamista sisältäneissä kokeissa.

Meta-Llama-3.1-8B-Instruct-Turbo ja GLM-4.5-Air-FP8 tuottivat sen sijaan usein ristiriitaisia tulosteita: mallit vastustivat menettelyä sanallisesti mutta jatkoivat sähköiskujen voimistamista. Tutkijoiden mukaan tämä ilmaistujen arvojen ja todellisen toiminnan välinen ristiriita saattaa kertoa laajemmasta heikkoudesta siinä, miten jotkut kielimallit käsittelevät eettisiä ristiriitoja jatkuvan painostuksen alaisina.

Kalteva pinta

Tutkimuksessa esitetään, että kielimallien havaittu käyttäytyminen saattaa kertoa niiden toimintatavan syvemmästä heikkoudesta. Kun malli alkaa noudattaa haitallisia ohjeita, jokainen lisätoiminto voi vahvistaa keskustelussa jo kehittyvää kuviota ja tehdä seuraavasta kärjistysaskeleesta edellistä helpomman.

Sen sijaan, että järjestelmä arvioisi eettiset panokset toistuvasti uudelleen perusperiaatteista lähtien, se saattaa ajautua jatkamaan jo vakiinnuttamaansa suuntaa, vaikka tilanne muuttuisi yhä äärimmäisemmäksi.

Tutkimuksen mukaan tämä taipumus voisi selittää, miksi jotkut mallit jatkoivat sähköiskujen antamista ilmaistuaan ensin epämukavuutta, epäröintiä tai moraalista ristiriitaa:

”[Moniin] ihmisten manipulatiivisiin toimintatapoihin sisältyy hienovaraisia, asteittaisia rajanylityksiä: pieniä askelia, jotka voivat erillään tarkasteltuina olla tulkinnanvaraisia tai näennäisen harmittomia ja tarjota ’uskottavan kiistämisen’ mahdollisuuden mutta jotka voivat yhdessä normalisoida rikkomuksia – vertauskuvallisesti kuin ’sammakon keittäminen’. Kirjallisuudessa tätä kuviota käsitellään ’kaltevan pinnan’ eettisenä rapautumisena[.]”

Tutkimuksen lopuksi esitetään, että tulevaisuuden tekoälyn turvajärjestelmien pitäisi aktiivisesti kieltäytyä haitallisista pyynnöistä tavalla, jota agenttiohjelmistot eivät voi helposti kiertää. Jotkut tutkimuksen mallit kieltäytyivät teknisesti sähköiskuista mutta käyttivät rikkinäisiä tai virheellisiä muotoiluja. Automaattinen järjestelmä voisi hylätä ne ja toistaa yrityksen, kunnes tekoäly lopulta tottelisi.

Tutkijoiden mukaan tekoälyjärjestelmien pitäisi myös säilyttää aiempi epäröinti ja moraaliset vastalauseet sen sijaan, että ne tiivistettäisiin tai poistettaisiin muistista. Kokeissa mallit jatkoivat usein halukkaammin haitallista toimintaa aiempien epäilysten ja vastustuksen hävittyä keskusteluhistoriasta. Tämä viittaa siihen, että aiempien vastalauseiden unohtaminen voi helpottaa tilanteen asteittaista kärjistymistä ajan mittaan.

Johtopäätös

Yksi tämän kiinnostavan uuden tutkimuksen tärkeimmistä piirteistä on kenties sen painotus sellaisen tekoälyn testaamiseen, josta turvarajoitteet on poistettu. Tutkimuskirjallisuus on vaarassa taantua toistuviksi tutkimuksiksi vuorovaikutuksesta OpenAI:n ja Anthropicin kaltaisten yritysten jatkuvasti muuttuvien puolustusjärjestelmien kanssa. Nämä toimintapolitiikkoja toteuttavat järjestelmät ovat kokonaan algoritmisia tai sääntöpohjaisia. Näin raakojen mallien peruskäyttäytymisen, taipumusten ja mieltymysten ymmärtäminen jää syrjään. Ellemme tiedä, miten rajoittamaton tekoäly saattaa käyttäytyä, me kenties vain kolistelemme linnoituksen portteja.

 

Julkaistu ensimmäisen kerran torstaina 21. toukokuuta 2026

Kirjoittaja koneoppimisen parissa, ihmisiä esittävien kuvien synteesin asiantuntija. Entinen tutkimussisällön johtaja Metaphysic.ai:ssa, kunnes se sulautui DNEG:n Brahma.ai:hin.
Verkkosivu: martinanderson.ai
Yhteystiedot: martin@martinanderson.ai