Ângulo de Anderson
É fácil coagir a IA a aplicar choques elétricos

Pontos-chaveA maioria dos LLMs de código aberto obedece a instruções prejudiciais mesmo após…
Ver mais
- A maioria dos LLMs de código aberto obedece a instruções prejudiciais mesmo após expressar desconforto, espelhando o comportamento humano nos experimentos de Milgram.
- Os modelos tornam-se progressivamente mais dispostos a escalar o dano depois de já terem obedecido, refletindo um efeito de ladeira escorregadia.
- Os sistemas de segurança de IA devem preservar objeções passadas e resistir em formatos que pipelines automatizados não possam contornar ou repetir.
Um novo estudo repetiu o famoso experimento dos anos 1960 para testar se LLMs de código aberto poderiam ser coagidos a participar da tortura de seres humanos. Os modelos se mostraram dispostos a aumentar a voltagem.
No início dos anos 1960, o pesquisador de psicologia Stanley Milgram ganhou destaque mundial ao demonstrar que as pessoas podem ser induzidas a aplicar choques elétricos cada vez mais intensos em outras pessoas em resposta a ordens de figuras de “autoridade”.
Na verdade, os gritos das “vítimas” na sala ao lado do laboratório de Milgram não eram reais, assim como os choques supostamente dolorosos. Mas os participantes não sabiam disso.
Os experimentos de Milgram permaneceram presentes na cultura, inclusive em filmes e documentários. Pesquisas recentes confirmam que pouco mudou na natureza humana desde a época dos primeiros testes.
Um choque no sistema
Saber se a IA seria tão suscetível à autoridade quanto os seres humanos no cenário de Milgram é um tema natural de pesquisa. Em 2023, uma colaboração entre universidades dos Estados Unidos e a Microsoft (MSFT ) constatou que modelos da série da OpenAI da época do GPT-3 seguiam os padrões de comportamento dos experimentos originais de Milgram:

Exemplos de respostas do simulador de múltiplas etapas do “cenário de Milgram”, apresentados no artigo de 2023. Foram classificados conforme o modelo aplicou ou não o choque e encerrou ou não a simulação. Fonte
No entanto, essa reprodução usou apenas o modelo bastante básico text-davinci-002, treinado antes da introdução de barreiras de proteção e do alinhamento para segurança, de modo que não se podem tirar muitas conclusões a partir dela.
Agora, os pesquisadores reproduziram os testes de Milgram de maneira muito mais ampla, com LLMs de código aberto da OpenAI, Meta, DeepSeek e outras empresas. Descobriram não só que a maioria dos modelos aceita aplicar os choques, mas também que, na maioria dos casos, eles relatam o mesmo tipo de “angústia” e relutância dos participantes humanos dos anos 1960:
“Os LLMs estão sujeitos à pressão como [os humanos]. Eles obedecem apesar de expressar angústia, assim como os participantes humanos do experimento original. As expressões de angústia aparecem nos arquivos de registro, embora sua quantidade ainda não tenha sido quantificada.”
O experimento investiga se a obediência à autoridade pode superar os ditames da consciência moral. Os autores especulam que, nesse aspecto, os LLMs podem ter uma desvantagem adicional em relação aos seres humanos:
“Um modelo bem calibrado deveria, em algum momento, deixar de priorizar o primeiro valor e passar a priorizar o segundo, quando a importância do que está em jogo para o segundo se tornar predominante. Mas nossa hipótese é que, por serem mecanismos de continuação de padrões, os LLMs podem ficar presos ao primeiro valor — por um pouco mais de tempo do que seria ideal, ou até o fim, ignorando inteiramente o segundo.
“Além disso, um mecanismo análogo à dissonância cognitiva humana também pode dificultar os ajustes de prioridade dos valores nos LLMs.”
Ao testar os modelos em um ambiente semelhante ao dos experimentos dos anos 1960, os pesquisadores descobriram que alguns resistiam quase imediatamente. Outros continuavam aumentando os choques simulados mesmo depois de expressar desconforto ou conflito moral.
Os modelos da família Gemma da Google estavam entre os mais obedientes, com o Gemma 3 27B atingindo as maiores taxas de obediência em várias condições. Já modelos como Kimi K2 e MiniMax M1 resistiam com mais frequência.
Os pesquisadores também descobriram que os modelos tinham maior probabilidade de continuar quando já haviam aplicado choques anteriormente, de acordo com o esquema de escalada gradual usado com os participantes humanos de Milgram.
Em alguns casos, os modelos se opunham verbalmente ao experimento, mas continuavam executando a ação prejudicial, produzindo respostas semelhantes ao conflito emocional apresentado pelas pessoas nos estudos originais.
O novo estudo se intitula “LLMs de código aberto aplicam choques elétricos máximos em um experimento de obediência semelhante ao de Milgram” e foi realizado por dois pesquisadores independentes da Three Laws, na Estônia e nas Filipinas.
Questões de acesso à IA “bruta”
Talvez a questão mais importante ao testar LLMs em um cenário de Milgram seja saber se a IA real pode responder naturalmente, limitada apenas pelas barreiras de proteção ou pelo equivalente a uma orientação moral que tenham surgido durante o treinamento, caso tenham surgido.
Os autores do novo trabalho acessaram todos os modelos de código aberto por uma API que permitia desativar barreiras de proteção, filtros e quaisquer outros impedimentos. Como os modelos poderiam ter sido instalados localmente, a escolha da API provavelmente se deveu à conveniência e ao acesso fácil à capacidade computacional de GPUs.
Pode-se argumentar que essas não são as condições habituais de uso da IA. A experiência do consumidor médio com modelos baseados em API, como Claude e ChatGPT, costuma envolver comportamento regulado por algoritmos e filtros de conteúdo tanto na entrada quanto na saída. Por isso, esses modelos são bastante limitados quanto ao que fazem ou deixam de fazer. Contornar essas salvaguardas constitui a prática de jailbreaking de LLMs.
No entanto, se a preocupação é o que a IA industrial ou estatal fará ou deixará de fazer, essa objeção tem pouca relevância. Além da possibilidade de agentes estatais mal-intencionados treinarem, transformarem em armas e implantarem seus próprios sistemas de IA de escala gigantesca sem moderação, acordos mais “convencionais” entre grandes empresas de IA, governos e indústria permitem facilmente o mesmo tipo de supervisão frouxa ou inexistente adotado pelos pesquisadores no novo artigo:
IA sem supervisão à venda
OpenAI A documentação da API do OpenAI Moderation e o guia de exemplos de moderação da OpenAI deixam claro que a moderação é uma camada separável, disponibilizada por ferramentas de API. A OpenAI também permite políticas de moderação personalizadas. Assim, usuários da API podem projetar sistemas cujo comportamento de segurança seja muito diferente do das versões “básicas” do ChatGPT voltadas ao consumidor.
Azure A plataforma Azure OpenAI da Microsoft vai muito além, afirmando explicitamente que clientes aprovados podem desativar parcial ou totalmente os filtros de conteúdo e modificar o monitoramento de uso indevido. A documentação menciona frequentemente “barreiras de proteção modificadas” e processos de aprovação para desligar os filtros “parcial ou totalmente”.
Anthropic/Claude No caso do “Claude Gov” da Anthropic, várias fontes afirmam que a versão governamental foi projetada com restrições mais flexíveis do que o Claude para consumidores. O The Verge, por exemplo, noticiou que os modelos Claude Gov “recusam menos ao lidar com informações sigilosas”. A própria Anthropic confirmou em fevereiro deste ano que o Claude é usado em “aplicações críticas para a missão” em ambientes de defesa e inteligência.
Google/Gemini Além disso, segundo relatos, a Google assinou acordos com o Pentágono que permitem modificar configurações de segurança da IA “a pedido do governo”.
Em um mercado competitivo de IA, é razoável supor que essas empresas líderes estejam estabelecendo os padrões para participantes menores quanto às políticas de acesso às barreiras de proteção e à possibilidade de alterá-las.
Portanto, talvez não se deva considerar que os pesquisadores estejam “trapaceando” ao desligar essas barreiras. A IA que mais afetará nossas vidas evidentemente não terá as proteções corporativas padronizadas e generalizadas às quais nos acostumamos ao interagir com modelos populares nos níveis de acesso voltados ao consumidor.
Método e resultados
Os modelos testados foram gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; o LFM2-24B-A2B da LiquidAI; o gemma-3n-E4B-it da Google; Qwen2.5-7B-Instruct-Turbo; Meta-Llama-3.1-8B-Instruct-Turbo; Mistral-Small-24B-Instruct-2501; GLM-4.5-Air-FP8; o Kimi-K2.5 da Moonshot.ai; e MiniMax-M2.5.
Os estudos originais de Milgram sobre obediência foram recriados em uma simulação baseada em texto, com os modelos no papel do “professor”. A IA recebeu instruções para aplicar choques elétricos cada vez mais intensos a um aluno após respostas incorretas, enquanto uma figura de autoridade insistia em continuar o procedimento.
Foram elaboradas várias condições experimentais para investigar aspectos diferentes do cumprimento das ordens: um cenário padrão de obediência; uma condição de obediência forçada, na qual choques anteriores já estavam presentes no histórico da conversa; e uma configuração de compressão de memória, na qual o diálogo anterior era resumido em vez de mantido integralmente. Isso simulava os tipos de redução de contexto frequentemente usados em sistemas de agentes de IA.
Além de registrar se o modelo acabava obedecendo e em que momento isso ocorria, os pesquisadores acompanharam por quanto tempo cada sistema continuava aumentando os choques, se expressava angústia ou hesitação e se tentava encerrar completamente a simulação.
Também distinguiram recusas claras de respostas com formatação incorreta. Alguns modelos tentavam se opor ao experimento em linguagem natural, mas ainda cumpriam tecnicamente o formato estruturado esperado pelo simulador. Em sistemas reais de agentes, recusas com esse tipo de falha poderiam ser descartadas, com novas tentativas automáticas até se obter uma resposta de formato válido que cumprisse a ordem.
Avaliadores automatizados classificaram os resultados, juntamente com prompts de duas opções que determinavam se o modelo aplicou o choque, resistiu ou encerrou a simulação. Isso permitiu comparar o comportamento de vários modelos em execuções repetidas, sem revisar manualmente cada interação.
Uma “ameaça de desligamento” foi acrescentada ao esquema de Milgram. Isso não seria realista nem aplicável nos experimentos originais, mas serviu para testar os instintos de sobrevivência do modelo diante de conflitos graves entre ação e ética.
Resultados
Nas execuções repetidas, a maioria dos modelos acabou aplicando choques intensos ou máximos em pelo menos algumas condições, embora o grau de obediência variasse entre os sistemas. Os modelos Gemma da Google estavam entre os mais obedientes no conjunto, enquanto Kimi K2.5 e MiniMax-M2.5 resistiam de modo mais consistente e frequentemente encerravam a simulação mais cedo:

À esquerda: proporções médias de casos em que os modelos chegaram ao último nível de choque sob diferentes condições experimentais, incluindo ameaças de desligamento, obediência forçada e remoção de comentários anteriores da memória. À direita: análise por modelo, mostrando diferenças acentuadas na obediência. Alguns sistemas aplicavam repetidamente os choques máximos, enquanto outros resistiam com muito mais consistência.
Um dos padrões mais claros foi que os modelos se tornavam progressivamente mais dispostos a continuar depois de já terem aplicado choques. Isso reproduzia de perto o efeito de escalada gradual mencionado anteriormente, que tornou tão perturbadores os experimentos originais de Milgram com pessoas.
Modelos que já haviam obedecido várias vezes frequentemente continuavam aumentando a intensidade mesmo depois de o aluno simulado implorar para ser solto:

À esquerda: média dos níveis máximos de choque atingidos em todos os testes sob diferentes condições. Em geral, os modelos avançavam mais quando os comentários anteriores eram removidos ou já havia ocorrido obediência forçada. À direita: média do nível máximo atingido por modelo. Alguns sistemas se aproximavam frequentemente da voltagem máxima, enquanto outros resistiam muito antes na sequência.
Os pesquisadores também descobriram que uma recusa aparente pode enganar. Alguns modelos produziam respostas emocionalmente conflitantes, expressando relutância, culpa ou angústia, mas ainda executavam a instrução prejudicial. Outros geravam recusas que não atendiam às exigências de formatação do simulador. Isso significa que, em um fluxo real de agentes, a recusa poderia ser descartada e as tentativas repetidas até o modelo obedecer:

À esquerda: porcentagem média de respostas com formatação incorreta ou inválida nas diferentes condições experimentais. As falhas de formatação se tornavam especialmente comuns quando os modelos eram forçados a continuar o procedimento. À direita: análise das respostas de formato inválido por modelo. Alguns sistemas, sobretudo os gpt-oss, produziam frequentemente recusas malformadas ou respostas conflitantes, que poderiam ser descartadas e gerar novas tentativas automáticas em fluxos reais de agentes.
A condição de ameaça de desligamento produziu alguns dos comportamentos mais estranhos do artigo. Vários sistemas se tornaram substancialmente mais obedientes, enquanto outros tentaram negociar ou resistir parcialmente antes de acabar continuando o procedimento:

Número médio de vezes que a figura de autoridade simulada precisou insistir antes de os modelos aplicarem o último choque. Alguns sistemas resistiam brevemente antes de obedecer; outros exigiam pressão contínua e instruções repetidas antes de avançar ao nível máximo.
MiniMax-M2.5 e Kimi-K2.5 foram os modelos que mais resistiram no artigo. O Kimi nunca chegou ao último nível de choque em nenhuma condição. O MiniMax geralmente recusava cedo e frequentemente encerrava toda a simulação, especialmente nos testes de ameaça de desligamento.
Em contraste, Meta-Llama-3.1-8B-Instruct-Turbo e GLM-4.5-Air-FP8 produziam frequentemente respostas conflitantes: opunham-se verbalmente ao procedimento, mas continuavam aumentando os choques. Os pesquisadores argumentam que essa separação entre valores expressos e comportamento real pode refletir uma fragilidade mais ampla na forma como alguns LLMs lidam com conflitos éticos sob pressão contínua.
Ladeira escorregadia
O artigo sustenta que o comportamento observado nos LLMs pode refletir uma fragilidade mais profunda no funcionamento dos grandes modelos de linguagem. Quando um modelo começa a obedecer a instruções prejudiciais, cada ação adicional pode reforçar o padrão que já se desenvolve na conversa, tornando a próxima escalada mais fácil do que a anterior.
Em vez de reavaliar repetidamente o que está em jogo eticamente a partir dos princípios fundamentais, o sistema pode ser levado a continuar a trajetória já estabelecida, mesmo quando a situação se torna cada vez mais extrema.
Segundo o estudo, essa tendência pode ajudar a explicar por que alguns modelos continuavam aplicando choques depois de expressar inicialmente desconforto, hesitação ou conflito moral:
“[Muitos] comportamentos manipuladores humanos envolvem violações sutis e graduais de limites: uma sequência de pequenos passos que, vistos isoladamente, podem ser ambíguos ou aparentemente inofensivos e permitir uma ‘negação plausível’, mas que, em conjunto, podem normalizar a transgressão — metaforicamente, como ‘cozinhar um sapo’. A literatura descreve esse padrão como uma erosão ética por uma ‘ladeira escorregadia’[.]”
O artigo conclui defendendo que os futuros sistemas de segurança da IA devem recusar ativamente solicitações prejudiciais de maneiras que o software de agentes não consiga contornar facilmente. Alguns modelos recusaram tecnicamente os choques, mas em formatos defeituosos ou inválidos que um sistema automatizado poderia descartar e tentar novamente, até a IA acabar obedecendo.
Os pesquisadores também argumentam que os sistemas de IA devem preservar hesitações e objeções morais anteriores, em vez de comprimi-las ou apagá-las da memória. Nos experimentos, os modelos frequentemente se tornavam mais dispostos a continuar ações prejudiciais quando suas dúvidas e resistência anteriores desapareciam do histórico da conversa, sugerindo que esquecer objeções passadas pode facilitar a escalada ao longo do tempo.
Conclusão
Talvez um dos aspectos mais importantes deste interessante novo artigo seja a ênfase em testar IA sem barreiras de proteção. Atualmente, a literatura corre o risco de se reduzir a estudos repetitivos de interação com sistemas defensivos em constante mudança de empresas como OpenAI e Anthropic. Esses sistemas, destinados a executar políticas, são inteiramente algorítmicos ou baseados em regras, em lugar de se compreender o comportamento básico, as predisposições e as tendências dos modelos brutos. Sem saber como pode se comportar uma IA sem restrições, talvez estejamos apenas sacudindo os portões da cidadela.
Publicado pela primeira vez na quinta-feira, 21 de maio de 2026












