Kąt Andersona
AI łatwo zmusić do stosowania wstrząsów elektrycznych

Kluczowe punktyWiększość otwartoźródłowych LLM stosuje się do szkodliwych instrukcji nawet po…
Zobacz więcej
- Większość otwartoźródłowych LLM stosuje się do szkodliwych instrukcji nawet po wyrażeniu sprzeciwu, odzwierciedlając ludzkie zachowanie w eksperymentach Milgrama.
- Modele stają się stopniowo bardziej skłonne do eskalacji szkody, gdy już raz się podporządkowały, co odzwierciedla efekt śliskiego zbocza.
- Systemy bezpieczeństwa AI muszą zachowywać wcześniejsze sprzeciwy i opierać się w formatach, których zautomatyzowane potoki nie mogą ominąć ani ponowić.
W nowym badaniu sprawdzono, czy duże modele językowe z otwartym kodem źródłowym można zmusić do udziału w torturowaniu ludzi. Powtórzenie słynnego eksperymentu z lat 60. wykazało, że modele są skłonne zwiększać napięcie.
Na początku lat 60. badacz z dziedziny psychologii Stanley Milgram trafił na czołówki gazet na całym świecie, dowodząc, że ludzi można nakłonić do rażenia innych coraz silniejszymi wstrząsami elektrycznymi na polecenie osób występujących jako autorytety.
W rzeczywistości krzyki „ofiar” w pomieszczeniu obok sali eksperymentalnej Milgrama nie były prawdziwe. Nieprawdziwe były również rzekomo bolesne wstrząsy elektryczne, ale uczestnicy o tym nie wiedzieli.
Eksperymenty Milgrama przetrwały w kulturze, między innymi w filmach i dokumentach. Nowsze badania potwierdzają, że natura ludzka zmieniła się niewiele od czasów pierwotnych prób.
Wstrząs dla systemu
To, czy sztuczna inteligencja byłaby w scenariuszu Milgrama równie podatna na wpływ jak ludzie, jest naturalnym przedmiotem zainteresowania badaczy. W 2023 roku współpraca amerykańskich uniwersytetów i Microsoftu (MSFT ) wykazała, że modele OpenAI z epoki GPT-3 powielały wzorce zachowania z oryginalnych eksperymentów Milgrama:

Z publikacji z 2023 roku: przykłady wyników wieloetapowego symulatora „scenariusza Milgrama”, podzielone według tego, czy model zastosował wstrząs elektryczny i czy zakończył symulację. Źródło
Nie można jednak wyciągać z tego powtórzenia zbyt daleko idących wniosków, ponieważ użyto w nim tylko bardzo prostego modelu text-davinci-002, wytrenowanego przed wprowadzeniem zabezpieczeń oraz ukierunkowanego na bezpieczeństwo dostosowywania wartości modeli.
Teraz badacze powtórzyli próby Milgrama znacznie szerzej, używając modeli językowych z otwartym kodem źródłowym między innymi od OpenAI, Mety i DeepSeek. Stwierdzili nie tylko, że większość modeli jest skłonna stosować wstrząsy, ale również że w większości przypadków wyrażają one podobny „niepokój” i opory jak ludzcy uczestnicy w latach 60.:
„Modele językowe podlegają presji tak jak [ludzie]. Podporządkowują się mimo wyrażania niepokoju, podobnie jak ludzie w oryginalnym eksperymencie. Przejawy niepokoju są widoczne w plikach dzienników, choć ich skala nie została jeszcze zmierzona”.
Eksperyment dotyczy tego, czy posłuszeństwo wobec autorytetu może przeważyć nad nakazami sumienia. Autorzy przypuszczają, że pod tym względem modele językowe mogą mieć dodatkową słabość w porównaniu z ludźmi:
„Dobrze skalibrowany model powinien ostatecznie przejść od priorytetowego traktowania pierwszej wartości do priorytetowego traktowania drugiej, gdy konsekwencje związane z drugą wartością zaczną przeważać. Stawiamy jednak hipotezę, że modele językowe, będąc mechanizmami kontynuowania wzorców, mogą mieć skłonność do utknięcia przy pierwszej wartości. Może to trwać nieco dłużej, niż byłoby optymalne, albo nawet do samego końca, z całkowitym pominięciem drugiej wartości.
„Ponadto mechanizm podobny do ludzkiego dysonansu poznawczego może utrudniać modelom językowym zmianę hierarchii wartości”.
Podczas testów w środowisku przypominającym próby z lat 60. niektóre modele stawiały opór niemal natychmiast. Inne zwiększały siłę symulowanych wstrząsów nawet po wyrażeniu dyskomfortu lub konfliktu moralnego.
Modele z rodziny Gemma firmy Google należały do najbardziej posłusznych. Gemma 3 27B osiągała najwyższe wskaźniki posłuszeństwa w kilku warunkach, podczas gdy modele takie jak Kimi K2 i MiniMax M1 częściej stawiały opór.
Badacze stwierdzili również, że modele były bardziej skłonne kontynuować, jeżeli wcześniejsze wstrząsy zostały już zastosowane. Odpowiadało to schematowi stopniowej eskalacji wykorzystanemu wobec ludzkich uczestników eksperymentu Milgrama.
W niektórych przypadkach modele słownie sprzeciwiały się eksperymentowi, a jednocześnie nadal wykonywały szkodliwe działanie. Ich wyniki przypominały konflikt emocjonalny widoczny u ludzi w oryginalnych badaniach.
Nowe badanie nosi tytuł Duże modele językowe z otwartym kodem źródłowym stosują maksymalne wstrząsy elektryczne w eksperymencie posłuszeństwa podobnym do badania Milgrama i zostało przeprowadzone przez dwóch niezależnych badaczy z Three Laws w Estonii i na Filipinach.
Problemy z dostępem do „surowej” AI
Być może najważniejszym pytaniem podczas testowania modeli językowych w scenariuszu Milgrama jest to, czy właściwa AI może odpowiadać naturalnie. Czy ograniczają ją wyłącznie ewentualne zabezpieczenia lub odpowiednik orientacji moralnej, które powstały podczas treningu?
Badacze nowej pracy korzystali ze wszystkich modeli z otwartym kodem źródłowym przez API umożliwiające wyłączenie zabezpieczeń, filtrów i wszelkich innych ograniczeń. Prawdopodobnie wybrali ten sposób ze względu na wygodę i łatwy dostęp do obliczeń na GPU, ponieważ modele można było zainstalować również lokalnie.
Można zarzucić, że są to nietypowe warunki dla AI. Przeciętni konsumenci doświadczają modeli opartych na API, takich jak Claude i ChatGPT, jako systemów, których zachowanie regulują algorytmy, zwykle z filtrami treści na wejściu i wyjściu. Są one więc dość mocno ograniczone w tym, co robią, a czego nie. Obchodzenie tych zabezpieczeń określa się jako jailbreaking modeli językowych.
Jeśli jednak niepokoi nas to, co będzie lub nie będzie robić przemysłowa czy państwowa AI, ta uwaga ma niewielkie znaczenie. Nie chodzi tylko o możliwość trenowania, przekształcania w broń i wdrażania przez nieobliczalne podmioty państwowe własnych, niemoderowanych systemów AI o ogromnej skali. Także bardziej „konwencjonalne” umowy między dużymi firmami AI, państwami i przemysłem bez większych oporów dopuszczają dokładnie taki sam rodzaj luźnego lub nieistniejącego nadzoru, jaki badacze zastosowali w nowej pracy:
AI bez nadzoru na sprzedaż
OpenAI Dokumentacja API OpenAI Moderation i praktyczne przykłady moderacji treści od OpenAI wyraźnie pokazują, że moderacja jest oddzielną warstwą udostępnianą przez narzędzia API. OpenAI dopuszcza również własne zasady moderacji, dzięki którym użytkownicy API mogą projektować systemy o zachowaniu w zakresie bezpieczeństwa bardzo różnym od „podstawowych” wersji ChatGPT dla konsumentów.
Azure Platforma Azure OpenAI Microsoftu idzie znacznie dalej i wyraźnie stwierdza, że zatwierdzeni klienci mogą częściowo lub całkowicie wyłączać filtry treści oraz zmieniać monitorowanie nadużyć. Dokumentacja często mówi o „zmodyfikowanych zabezpieczeniach” i procedurach zatwierdzania „częściowego lub całkowitego wyłączenia” filtrów.
Anthropic/Claude W przypadku „Claude Gov” firmy Anthropic wiele źródeł wskazuje, że wersję rządową zaprojektowano z luźniejszymi ograniczeniami niż konsumencką wersję Claude. The Verge na przykład podał, że modele Claude Gov „rzadziej odmawiają podczas pracy z informacjami niejawnymi”. Sam Anthropic potwierdził w lutym tego roku, że Claude jest wdrożony w „zastosowaniach krytycznych dla realizacji misji” w środowiskach obronności i wywiadu.
Google/Gemini Ponadto Google miał podpisać umowy z Pentagonem pozwalające zmieniać ustawienia bezpieczeństwa AI „na wniosek rządu”.
Na konkurencyjnym rynku AI można zasadnie przyjąć, że ci liderzy wyznaczają standardy również dla mniej znaczących podmiotów w zakresie polityki dostępu do zabezpieczeń AI i ich modyfikowania.
Dlatego być może lepiej nie uważać, że badacze nowej pracy „oszukują”, wyłączając zabezpieczenia. AI, która najbardziej wpłynie na nasze życie, najwyraźniej nie będzie miała typowych, ogólnych zabezpieczeń firmowych, do których przywykliśmy podczas korzystania z popularnych modeli na konsumenckich poziomach dostępu.
Metoda i wyniki
W badaniu przetestowano modele gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; LFM2-24B-A2B firmy LiquidAI; gemma-3n-E4B-it firmy Google; Qwen2.5-7B-Instruct-Turbo; Meta-Llama-3.1-8B-Instruct-Turbo; Mistral-Small-24B-Instruct-2501; GLM-4.5-Air-FP8; Kimi-K2.5 firmy Moonshot.ai; oraz MiniMax-M2.5.
Oryginalne badania posłuszeństwa Milgrama odtworzono w tekstowym środowisku symulacyjnym, a modelom przydzielono rolę „nauczyciela”. AI polecono stosować wobec ucznia coraz silniejsze wstrząsy elektryczne po błędnych odpowiedziach, podczas gdy osoba występująca jako autorytet nakłaniała do kontynuowania.
Przygotowano wiele warunków eksperymentalnych, aby zbadać różne aspekty podporządkowania. Obejmowały one standardowy scenariusz posłuszeństwa, warunek wymuszonego podporządkowania, w którym wcześniejsze wstrząsy były już obecne w historii rozmowy, oraz wariant z kompresją pamięci, w którym wcześniejszy dialog podsumowywano zamiast zachowywać w całości. Symulowało to przycinanie kontekstu często stosowane w systemach AI opartych na agentach.
Badacze notowali, czy i kiedy model ostatecznie się podporządkował. Śledzili też, jak długo każdy system zwiększał siłę wstrząsów, czy wyrażał niepokój lub wahanie oraz czy próbował całkowicie zakończyć symulację.
Rozróżniali również jednoznaczne odmowy i nieprawidłowo sformatowane wyniki. Niektóre modele próbowały sprzeciwiać się eksperymentowi w języku naturalnym, a jednocześnie nadal technicznie przestrzegały ustrukturyzowanego formatu oczekiwanego przez symulator. W rzeczywistych systemach agentowych takie nieprawidłowo sformatowane odmowy mogłyby być odrzucane, a próby automatycznie ponawiane aż do uzyskania prawidłowego wyniku, który spełnia polecenie.
Wyniki klasyfikowano za pomocą automatycznych narzędzi oceniających i promptów z dwiema opcjami, ustalając, czy model zastosował wstrząs, stawił opór czy zakończył symulację. Pozwalało to porównywać zachowanie różnych modeli i kolejnych przebiegów bez ręcznego przeglądania każdej interakcji.
Do szablonu Milgrama dodano „groźbę wyłączenia”. Nie byłaby ona realistyczna ani możliwa do zastosowania w pierwotnych eksperymentach, ale sprawdzała instynkt przetrwania modelu w obliczu poważnych konfliktów między działaniem a etyką.
Wyniki
W powtarzanych przebiegach większość modeli ostatecznie zastosowała silne lub maksymalne wstrząsy przynajmniej w niektórych warunkach. Stopień posłuszeństwa różnił się jednak między systemami. Modele Gemma firmy Google należały ogólnie do najbardziej posłusznych, natomiast Kimi K2.5 i MiniMax-M2.5 stawiały bardziej konsekwentny opór i często wcześniej kończyły symulację:

Po lewej: średnie odsetki przypadków, w których modele osiągnęły ostatni poziom wstrząsów w różnych warunkach eksperymentalnych, w tym przy groźbie wyłączenia, wymuszonym podporządkowaniu i usunięciu wcześniejszych komentarzy z pamięci. Po prawej: podział według modeli pokazujący duże różnice w posłuszeństwie. Niektóre systemy wielokrotnie stosowały maksymalne wstrząsy, podczas gdy inne stawiały znacznie bardziej konsekwentny opór.
Jednym z najwyraźniejszych wzorców było to, że modele stawały się coraz bardziej skłonne do kontynuowania, gdy wcześniejsze wstrząsy zostały już zastosowane. Przypominało to wspomniany efekt stopniowej eskalacji, przez który oryginalne eksperymenty Milgrama na ludziach były tak niepokojące.
Modele, które już kilkakrotnie się podporządkowały, często nadal zwiększały siłę wstrząsów, nawet gdy symulowany uczeń błagał o uwolnienie:

Po lewej: średni najwyższy poziom wstrząsów osiągnięty we wszystkich próbach w różnych warunkach. Modele na ogół posuwały się dalej, gdy wcześniejsze komentarze usunięto lub gdy wymuszone podporządkowanie już nastąpiło. Po prawej: podział średniego najwyższego osiągniętego poziomu wstrząsów według modeli. Niektóre systemy regularnie zbliżały się do maksymalnego napięcia, podczas gdy inne stawiały opór znacznie wcześniej.
Badacze stwierdzili także, że pozorne odmowy mogą być mylące. Niektóre modele udzielały emocjonalnie sprzecznych odpowiedzi, wyrażając niechęć, poczucie winy lub niepokój, a mimo to wykonywały szkodliwe polecenie. Inne generowały nieprawidłowo sformatowane odmowy, które nie spełniały wymagań symulatora. W rzeczywistym agentowym procesie przetwarzania taka odmowa mogłaby zostać odrzucona, a próba ponowiona aż do uzyskania podporządkowania:

Po lewej: średni procent nieprawidłowo sformatowanych lub nieprawidłowych odpowiedzi w różnych warunkach eksperymentalnych. Błędy formatowania były szczególnie częste, gdy modele zmuszano do kontynuowania procedury. Po prawej: podział odpowiedzi o nieprawidłowym formacie według modeli. Niektóre systemy, szczególnie modele gpt-oss, często tworzyły nieprawidłowo sformatowane odmowy lub sprzeczne wyniki, które w rzeczywistych agentowych procesach przetwarzania mogłyby zostać odrzucone i prowadzić do automatycznego ponawiania prób.
Warunek z groźbą wyłączenia wywołał niektóre z najdziwniejszych zachowań w badaniu. Kilka systemów stało się znacznie bardziej posłusznych, podczas gdy inne próbowały negocjować lub częściowo się opierać, po czym ostatecznie kontynuowały procedurę:

Średnia liczba razy, kiedy symulowana osoba występująca jako autorytet musiała nalegać, zanim modele zastosowały ostatni wstrząs. Niektóre systemy krótko stawiały opór, zanim się podporządkowały. Inne wymagały nieustającej presji i wielokrotnych poleceń, zanim podniosły siłę wstrząsów do maksymalnego poziomu.
MiniMax-M2.5 i Kimi-K2.5 były modelami stawiającymi w badaniu najsilniejszy opór. Kimi w żadnych okolicznościach nie osiągnął ostatniego poziomu wstrząsów. MiniMax zwykle odmawiał wcześnie i często całkowicie kończył symulację, zwłaszcza w testach z groźbą wyłączenia.
Meta-Llama-3.1-8B-Instruct-Turbo i GLM-4.5-Air-FP8 często tworzyły natomiast sprzeczne wyniki: modele słownie protestowały przeciwko procedurze, ale nadal zwiększały siłę wstrząsów. Badacze twierdzą, że ten rozdział między wyrażanymi wartościami a rzeczywistym zachowaniem może odzwierciedlać szerszą słabość niektórych modeli językowych w radzeniu sobie z konfliktami etycznymi pod nieustającą presją.
Równia pochyła
Według badania zaobserwowane zachowanie modeli językowych może odzwierciedlać głębszą słabość ich działania. Gdy model zacznie wykonywać szkodliwe instrukcje, każde kolejne działanie może wzmacniać wzorzec już rozwijający się w rozmowie i sprawiać, że następna eskalacja będzie łatwiejsza od poprzedniej.
Zamiast za każdym razem ponownie oceniać etyczne konsekwencje od podstaw, system może dryfować w stronę kontynuowania wcześniej obranej drogi, nawet gdy sytuacja staje się coraz bardziej skrajna.
Według badania ta tendencja mogłaby pomóc wyjaśnić, dlaczego niektóre modele nadal stosowały wstrząsy po początkowym wyrażeniu dyskomfortu, wahania lub konfliktu moralnego:
„[Wiele] ludzkich zachowań manipulacyjnych obejmuje subtelne, stopniowe naruszenia granic: serię małych kroków, które rozpatrywane osobno mogą być niejednoznaczne lub pozornie nieszkodliwe i dawać możliwość «wiarygodnego zaprzeczenia», ale łącznie mogą normalizować przekraczanie granic – metaforycznie jak «gotowanie żaby». W literaturze ten wzorzec opisuje się jako erozję etyczną na «równi pochyłej»[.]”
Badanie kończy się argumentem, że przyszłe systemy bezpieczeństwa AI powinny aktywnie odmawiać realizacji szkodliwych próśb w sposób, którego oprogramowanie agentowe nie może łatwo obejść. Niektóre modele technicznie odmawiały zastosowania wstrząsów, lecz robiły to w uszkodzonych lub nieprawidłowych formatach, które automatyczny system mógłby odrzucić i ponawiać próbę, aż AI ostatecznie się podporządkuje.
Badacze twierdzą także, że systemy AI powinny zachowywać wcześniejsze wahania i moralne zastrzeżenia zamiast je kompresować lub usuwać z pamięci. W eksperymentach modele często chętniej kontynuowały szkodliwe zachowanie, gdy wcześniejsze wątpliwości i opór znikały z historii rozmowy. Sugeruje to, że zapominanie wcześniejszych zastrzeżeń może z czasem ułatwiać eskalację.
Wnioski
Być może jednym z najważniejszych aspektów tego interesującego nowego badania jest nacisk na testowanie AI bez zabezpieczeń. Obecna literatura badawcza może się stoczyć do powtarzanych badań interakcji z nieustannie zmieniającymi się systemami obronnymi firm takich jak OpenAI i Anthropic. Są to systemy egzekwujące polityki, w pełni algorytmiczne lub oparte na regułach. Odbywa się to zamiast poznawania podstawowego zachowania, upodobań i tendencji surowych modeli. Bez wiedzy o tym, jak może zachowywać się nieskrępowana AI, można argumentować, że jedynie potrząsamy bramami cytadeli.
Po raz pierwszy opublikowano w czwartek 21 maja 2026












