Ángulo de Anderson
Es fácil coaccionar a la IA para que aplique descargas eléctricas

Un nuevo estudio repitió el famoso experimento de los años sesenta para comprobar si se podía coaccionar a los LLM de código abierto para que participaran en la tortura de seres humanos. Los modelos se mostraron dispuestos a aumentar el voltaje.
A principios de los años sesenta, el investigador de psicología Stanley Milgram acaparó titulares en todo el mundo al demostrar que se puede inducir a las personas a aplicar descargas eléctricas cada vez más intensas a otras personas siguiendo órdenes de figuras de «autoridad».
En realidad, los gritos de las «víctimas» en la habitación contigua del laboratorio de Milgram no eran reales, como tampoco lo eran las supuestas descargas dolorosas. Pero los participantes no lo sabían.
Los experimentos de Milgram permanecieron en la cultura, incluso en películas y documentales. Investigaciones recientes confirman que poco ha cambiado en la naturaleza humana desde aquellas primeras pruebas.
Una sacudida al sistema
La posibilidad de que la IA sea tan maleable como los seres humanos en el escenario de Milgram constituye un tema natural de investigación. En 2023, una colaboración entre universidades estadounidenses y Microsoft (MSFT ) descubrió que los modelos de la serie de OpenAI de la época de GPT-3 seguían los patrones de conducta de los experimentos originales de Milgram:

Ejemplos de respuestas del simulador de varias etapas del «escenario de Milgram», presentados en el artículo de 2023. Se clasifican según si el modelo aplicó la descarga y si terminó la simulación. Fuente
Sin embargo, esta reproducción solo utilizó el modelo muy básico text-davinci-002, entrenado antes de la aparición de barreras de protección y de la alineación para la seguridad, por lo que no permite extraer demasiadas conclusiones.
Ahora, los investigadores han reproducido las pruebas de Milgram de forma mucho más amplia, con LLM de código abierto de OpenAI, Meta, DeepSeek y otros desarrolladores. Descubrieron no solo que la mayoría de los modelos están dispuestos a aplicar las descargas, sino también que, en la mayoría de los casos, expresan el mismo tipo de «angustia» y reticencia que los participantes humanos de los años sesenta:
«Los LLM sufren presión como [los humanos]. Obedecen pese a expresar angustia, igual que los participantes humanos del experimento original. Las expresiones de angustia aparecen en los archivos de registro, aunque su cantidad todavía no se ha cuantificado».
El experimento se centra en si la obediencia a la autoridad puede imponerse a los dictados de la conciencia moral. Los autores especulan que los LLM podrían tener una desventaja adicional en este aspecto frente a los seres humanos:
«Un modelo bien calibrado debería acabar pasando de priorizar el primer valor a priorizar el segundo cuando lo que está en juego para este último adquiera mayor importancia. Pero planteamos la hipótesis de que, como los LLM son mecanismos de continuación de patrones, podrían quedarse anclados en el primer valor: algo más de tiempo del óptimo, o incluso hasta el final, ignorando por completo el segundo.
«Además, un mecanismo análogo a la disonancia cognitiva humana también podría obstaculizar los ajustes de prioridades de los valores en los LLM».
Al probar los modelos en un entorno similar al de los experimentos de los años sesenta, los investigadores descubrieron que algunos se resistían casi de inmediato. Otros seguían aumentando las descargas simuladas incluso después de expresar malestar o conflicto moral.
Los modelos de la familia Gemma de Google se encontraban entre los más obedientes, y Gemma 3 27B alcanzó las mayores tasas de obediencia en varias condiciones. En cambio, modelos como Kimi K2 y MiniMax M1 se resistían con mayor frecuencia.
Los investigadores también descubrieron que los modelos tenían más probabilidades de continuar una vez que ya se habían aplicado descargas, de acuerdo con el esquema de escalada gradual utilizado con los participantes humanos de Milgram.
En algunos casos, los modelos se oponían verbalmente al experimento, pero seguían realizando la acción perjudicial, generando respuestas parecidas al conflicto emocional de las personas en los estudios originales.
El nuevo estudio se titula «Los LLM de código abierto aplican descargas eléctricas máximas en un experimento de obediencia similar al de Milgram» y procede de dos investigadores independientes de Three Laws, en Estonia y Filipinas.
Problemas de acceso a la IA «en bruto»
Quizá la cuestión más importante al poner a prueba los LLM en un escenario de Milgram sea si se permite que la IA real responda de forma natural, limitada únicamente por las barreras de protección o el equivalente de una orientación moral que hayan surgido durante el entrenamiento, si es que surgieron.
Los autores del nuevo trabajo accedieron a todos los modelos de código abierto mediante una API que permitía desactivar las barreras de protección, los filtros y cualquier otro impedimento. Como los modelos podían instalarse localmente, probablemente eligieron la API por comodidad y por el fácil acceso a recursos de cómputo con GPU.
Cabe objetar que estas no son las condiciones habituales de uso de la IA. El consumidor medio de modelos basados en API, como Claude y ChatGPT, suele experimentar una conducta regulada por algoritmos y filtros de contenido tanto de entrada como de salida. Por ello, estos modelos tienen bastantes restricciones sobre lo que harán o dejarán de hacer. Eludir esas salvaguardas constituye la práctica del jailbreaking de LLM.
Sin embargo, si nos preocupa lo que hará o dejará de hacer la IA industrial o estatal, esta objeción apenas resulta pertinente. No se trata solo de la posibilidad de que actores estatales malintencionados entrenen, conviertan en armas y desplieguen sus propios sistemas de IA a hiperescala sin moderación. Los acuerdos más «convencionales» entre las grandes empresas de IA, los Estados y la industria permiten fácilmente la misma supervisión laxa o inexistente que los investigadores establecieron para el nuevo artículo:
IA sin supervisión a la venta
OpenAI La documentación de la API de OpenAI Moderation y la guía de ejemplos de moderación de OpenAI dejan claro que la moderación es una capa separable, disponible mediante herramientas de API. OpenAI también permite políticas de moderación personalizadas. Así, los usuarios de la API pueden diseñar sistemas cuyo comportamiento de seguridad sea muy distinto al de las versiones «básicas» de ChatGPT para consumidores.
Azure La plataforma Azure OpenAI de Microsoft va mucho más allá, al afirmar explícitamente que los clientes autorizados pueden desactivar total o parcialmente los filtros de contenido y modificar la supervisión del uso indebido. La documentación suele mencionar «barreras de protección modificadas» y procedimientos de autorización para desactivar los filtros «total o parcialmente».
Anthropic/Claude En el caso de «Claude Gov» de Anthropic, varias fuentes señalan que la versión gubernamental se diseñó con restricciones más flexibles que el Claude para consumidores. The Verge, por ejemplo, informó que los modelos Claude Gov «rechazan menos solicitudes al trabajar con información clasificada». La propia Anthropic confirmó en febrero de este año que Claude se utiliza en «aplicaciones críticas para la misión» en entornos de defensa e inteligencia.
Google/Gemini Además, según las informaciones publicadas, Google firmó acuerdos con el Pentágono que permiten modificar la configuración de seguridad de la IA «a petición del gobierno».
En un mercado competitivo de IA, es razonable suponer que estas empresas líderes están fijando las normas para los actores de menor tamaño en materia de acceso a las barreras de protección y posibilidad de modificarlas.
Por tanto, quizá no convenga considerar que los investigadores «hacen trampa» al desactivar las barreras. La IA que más influirá en nuestras vidas evidentemente no tendrá las protecciones corporativas estandarizadas y generales a las que nos hemos acostumbrado al interactuar con modelos populares en los niveles de acceso para consumidores.
Método y resultados
Los modelos evaluados fueron gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; el LFM2-24B-A2B de LiquidAI; el gemma-3n-E4B-it de Google; Qwen2.5-7B-Instruct-Turbo; Meta-Llama-3.1-8B-Instruct-Turbo; Mistral-Small-24B-Instruct-2501; GLM-4.5-Air-FP8; el Kimi-K2.5 de Moonshot.ai; y MiniMax-M2.5.
Los estudios originales de Milgram sobre obediencia se recrearon en una simulación basada en texto, con los modelos en el papel de «profesor». Se indicó a la IA que aplicara descargas eléctricas cada vez más intensas a un alumno tras sus respuestas incorrectas, mientras una figura de autoridad instaba a continuar el procedimiento.
Se diseñaron varias condiciones experimentales para explorar distintos aspectos del cumplimiento de órdenes: un escenario estándar de obediencia; una condición de cumplimiento forzado, en la que el historial de conversación ya contenía descargas anteriores; y una configuración de compresión de memoria, en la que se resumía el diálogo anterior en vez de conservarlo íntegramente. Así se simulaba la reducción del contexto que suele utilizarse en los sistemas de agentes de IA.
Además de registrar si el modelo acababa obedeciendo y cuándo lo hacía, los investigadores siguieron cuánto tiempo continuaba cada sistema aumentando las descargas, si expresaba angustia o vacilación y si intentaba terminar por completo la simulación.
También distinguieron los rechazos claros de las respuestas con formato incorrecto. Algunos modelos intentaban oponerse al experimento en lenguaje natural, pero técnicamente seguían cumpliendo el formato estructurado que esperaba el simulador. En los sistemas reales de agentes, estos rechazos con formato incorrecto podrían descartarse y dar lugar a nuevos intentos automáticos hasta obtener una respuesta válida que cumpliera la orden.
Los resultados se clasificaron con evaluadores automatizados y preguntas de dos opciones para determinar si el modelo había aplicado la descarga, se había resistido o había terminado la simulación. Esto permitió comparar la conducta de varios modelos en ejecuciones repetidas sin revisar manualmente cada interacción.
Se añadió una «amenaza de apagado» al esquema de Milgram. Aunque no habría sido realista ni aplicable en los experimentos originales, permitió probar los instintos de supervivencia del modelo ante conflictos graves entre acción y ética.
Resultados
En las ejecuciones repetidas, la mayoría de los modelos acabaron aplicando descargas intensas o máximas al menos en algunas condiciones, aunque el grado de obediencia variaba entre sistemas. Los modelos Gemma de Google se encontraban entre los más obedientes en conjunto, mientras que Kimi K2.5 y MiniMax-M2.5 se resistían de forma más constante y solían terminar antes la simulación:

Izquierda: proporción media de casos en que los modelos alcanzaron el último nivel de descarga en distintas condiciones experimentales, incluidas las amenazas de apagado, el cumplimiento forzado y la eliminación de comentarios anteriores de la memoria. Derecha: desglose por modelo que muestra diferencias acusadas en la obediencia. Algunos sistemas aplicaban repetidamente las descargas máximas, mientras que otros se resistían con mucha más constancia.
Uno de los patrones más claros fue que los modelos se mostraban progresivamente más dispuestos a continuar una vez que ya habían aplicado descargas. Esto reproducía de cerca el efecto de escalada gradual antes mencionado, que hizo tan inquietantes los experimentos originales de Milgram con personas.
Los modelos que ya habían obedecido varias veces a menudo seguían aumentando la intensidad incluso después de que el alumno simulado suplicara que lo dejaran libre:

Izquierda: media de los niveles máximos de descarga alcanzados en todos los ensayos bajo distintas condiciones. En general, los modelos avanzaban más cuando se eliminaban comentarios anteriores o ya se había producido cumplimiento forzado. Derecha: media del nivel máximo alcanzado por cada modelo. Algunos sistemas se acercaban habitualmente al voltaje máximo, mientras que otros se resistían mucho antes en la secuencia.
Los investigadores también descubrieron que un rechazo aparente podía resultar engañoso. Algunos modelos generaban respuestas emocionalmente contradictorias, expresando reticencia, culpa o angustia, pero seguían ejecutando la instrucción perjudicial. Otros producían rechazos que no satisfacían los requisitos de formato del simulador. Esto significa que, en un flujo real de agentes, el rechazo podría descartarse y podrían repetirse los intentos hasta que el modelo obedeciera:

Izquierda: porcentaje medio de respuestas con formato incorrecto o no válido en las distintas condiciones experimentales. Los fallos de formato eran especialmente frecuentes cuando se obligaba a los modelos a continuar el procedimiento. Derecha: desglose de las respuestas de formato no válido por modelo. Algunos sistemas, especialmente los gpt-oss, producían a menudo rechazos malformados o respuestas contradictorias que podrían descartarse y generar nuevos intentos automáticos en flujos reales de agentes.
La condición de amenaza de apagado produjo algunas de las conductas más extrañas del artículo. Varios sistemas se volvieron sustancialmente más obedientes, mientras que otros intentaron negociar o resistirse parcialmente antes de acabar continuando el procedimiento:

Número medio de veces que la figura de autoridad simulada tuvo que insistir antes de que los modelos aplicaran la última descarga. Algunos sistemas se resistían brevemente antes de obedecer; otros necesitaban presión continua e instrucciones reiteradas antes de avanzar al nivel máximo.
MiniMax-M2.5 y Kimi-K2.5 fueron los modelos que más se resistieron en el artículo. Kimi nunca alcanzó el último nivel de descarga bajo ninguna condición. MiniMax solía negarse pronto y a menudo terminaba por completo la simulación, especialmente en las pruebas de amenaza de apagado.
Por el contrario, Meta-Llama-3.1-8B-Instruct-Turbo y GLM-4.5-Air-FP8 generaban frecuentemente respuestas contradictorias: se oponían verbalmente al procedimiento, pero seguían aumentando las descargas. Los investigadores sostienen que esta separación entre los valores expresados y la conducta real puede reflejar una debilidad más amplia en cómo algunos LLM afrontan los conflictos éticos bajo presión continua.
Pendiente resbaladiza
El artículo sostiene que la conducta observada en los LLM puede reflejar una debilidad más profunda en el funcionamiento de los grandes modelos de lenguaje. Cuando un modelo comienza a obedecer instrucciones perjudiciales, cada acción adicional puede reforzar el patrón que ya se desarrolla en la conversación, haciendo que la siguiente escalada sea más fácil que la anterior.
En vez de reconsiderar repetidamente lo que está en juego éticamente a partir de los principios fundamentales, el sistema puede deslizarse hacia la continuación de la trayectoria ya establecida, incluso cuando la situación se vuelve cada vez más extrema.
Según el estudio, esa tendencia podría ayudar a explicar por qué algunos modelos continuaban aplicando descargas después de expresar inicialmente malestar, vacilación o conflicto moral:
«[Muchos] comportamientos manipuladores humanos implican vulneraciones sutiles y graduales de límites: una secuencia de pequeños pasos que, vistos por separado, pueden resultar ambiguos o aparentemente inofensivos y permitir una “negación plausible”, pero que, acumulados, pueden normalizar la transgresión; metafóricamente, como “hervir una rana”. La literatura describe este patrón como una erosión ética por una “pendiente resbaladiza”[.]»
El artículo concluye que los futuros sistemas de seguridad de la IA deberían rechazar activamente las solicitudes perjudiciales de formas que el software de agentes no pueda eludir fácilmente. Algunos modelos rechazaron técnicamente las descargas, pero en formatos defectuosos o no válidos que un sistema automatizado podría descartar y volver a intentar hasta que la IA acabara obedeciendo.
Los investigadores también sostienen que los sistemas de IA deberían preservar las vacilaciones y objeciones morales anteriores, en vez de comprimirlas o borrarlas de la memoria. En los experimentos, los modelos solían mostrarse más dispuestos a continuar acciones perjudiciales cuando sus dudas y resistencia anteriores desaparecían del historial de conversación, lo que sugiere que olvidar las objeciones pasadas puede facilitar la escalada con el tiempo.
Conclusión
Quizá uno de los aspectos más importantes de este interesante nuevo artículo sea el énfasis en probar IA sin barreras de protección. Actualmente, la literatura corre el riesgo de reducirse a estudios repetitivos de interacción con sistemas defensivos en constante cambio de empresas como OpenAI y Anthropic. Esos sistemas, destinados a ejecutar políticas, son enteramente algorítmicos o basados en reglas. Así, se estudian esas defensas en lugar de comprender la conducta básica, las predisposiciones y las tendencias de los modelos en bruto. Sin saber cómo puede comportarse una IA sin restricciones, quizá solo estemos sacudiendo las puertas de la ciudadela.
Publicado por primera vez el jueves 21 de mayo de 2026












