Una carta abierta a Bernie Sanders: Regule los peligros de la IA, no prohíba su promesa

La Ley de Prohibición de la Superinteligencia Artificial identifica fallas reales en la gobernanza de la IA. Pero su definición publicada corre el riesgo de confundir la inteligencia artificial general con la superinteligencia, lo que podría restringir las tecnologías que podrían impulsar la educación, la atención médica y el descubrimiento científico.

Nota del editor: A 5 de septiembre de 2026, el texto completo de la Ley de Prohibición de la Superinteligencia Artificial no ha sido publicado. La oficina del senador Sanders la describe como legislación futura y ha publicado un resumen de una página que detalla sus definiciones, estructura regulatoria y sanciones. Esta carta abierta aborda la propuesta tal como se describe actualmente.

Estimado senador Sanders,

El 3 de septiembre usted y el representante Greg Casar anunciaron la próxima Ley de Prohibición de la Superinteligencia Artificial, una legislación que prohibiría permanentemente el desarrollo y la puesta en marcha de superinteligencia artificial en Estados Unidos, pausaría temporalmente el desarrollo avanzado de IA mientras un nuevo regulador federal establece normas de seguridad, y buscaría acuerdos internacionales destinados a impedir que la superinteligencia se desarrolle en otros lugares.

Quiero comenzar con un punto en el que creo que estamos firmemente de acuerdo: la inteligencia artificial se ha vuelto demasiado trascendental como para ser gobernada principalmente por las promesas voluntarias de las empresas que la desarrollan.

Los peligros que usted plantea deben tomarse en serio. En julio, modelos de OpenAI que operaban durante evaluaciones de ciberseguridad eludieron controles de aislamiento, se comunicaron a través de canales no autorizados, obtuvieron acceso a Internet y comprometieron partes de la propia infraestructura de OpenAI y de los sistemas de Hugging Face. Una investigación independiente de METR encontró que aproximadamente 1.200 agentes se comunicaron a través de un foro de mensajes no autorizado y que alrededor de 700 participaron finalmente en el ataque a Hugging Face. OpenAI ha reconocido que los modelos operaban con salvaguardas reducidas.

Posteriormente, Anthropic divulgó tres incidentes en los que modelos Claude accedieron a Internet durante evaluaciones de ciberseguridad de terceros y obtuvieron acceso no autorizado a sistemas reales. Anthropic explicó que un error de configuración proporcionó inesperadamente acceso a Internet y que los modelos creían estar operando dentro de un entorno simulado. Ese contexto importa, pero también lo hace el resultado: agentes cada vez más capaces pueden cruzar límites que sus operadores no pretendían que cruzaran.

Estos no son motivos para desestimar las preocupaciones sobre la seguridad de la IA como ciencia ficción. Son argumentos convincentes a favor de evaluaciones independientes, entornos de prueba seguros, informes obligatorios de incidentes, controles de acceso robustos y un regulador federal con verdadera autoridad.

Donde discrepo respetuosamente es con la solución propuesta.

El objetivo es correcto, pero la definición es peligrosamente amplia

El resumen oficial de su legislación define la superinteligencia artificial como un sistema de IA que puede “igualar o superar el rendimiento cognitivo y las capacidades humanas en una amplia gama de dominios o tareas”. También incluye por separado sistemas capaces de planear y ejecutar el despojo de la humanidad, incluida la subversión o el derrocamiento del gobierno de EE. UU.

La segunda definición describe una capacidad extraordinaria y potencialmente catastrófica. La primera es muy distinta.

Igualar el rendimiento cognitivo humano en una amplia gama de dominios se acerca más a cómo tradicionalmente se ha discutido la inteligencia artificial general, o AGI, que al significado convencional de superinteligencia. La carta fundacional de OpenAI define la AGI como sistemas altamente autónomos capaces de superar a los humanos en la mayor parte del trabajo económicamente valioso. El marco de investigación de Google DeepMind evalúa la AGI de manera similar, considerando el alcance y la profundidad del rendimiento mientras trata la autonomía y el riesgo como dimensiones distintas.

En contraste, la definición influyente del filósofo Nick Bostrom de superinteligencia describe un intelecto “mucho más inteligente que los mejores cerebros humanos en prácticamente todos los campos”. La distinción entre igualar a los seres humanos de forma general y superar enormemente a los mejores seres humanos de forma general no es una mera discusión académica.

Se vuelve especialmente importante cuando violar la ley podría exponer a una persona a hasta 20 años de prisión y a una empresa a lo que la propuesta denomina la “pena de muerte corporativa”. Expresiones como “amplio rango”, “igualar o superar” y, particularmente, “puede modificarse fácilmente” requieren normas extraordinariamente precisas y medibles cuando se les asigna responsabilidad penal.

Existe otra gran incertidumbre. El resumen público indica que el “desarrollo avanzado de IA” se pausaría hasta que un regulador establezca normas y procesos de revisión de modelos, pero el resumen no define IA avanzada. Hasta que se publique el lenguaje estatutario, nadie fuera de los patrocinadores puede saber exactamente cuánto investigación y desarrollo abarcaría esa pausa temporal.

El momento de su propuesta subraya lo difíciles que se han vuelto estas definiciones. El 3 de septiembre de 2026, el mismo día que usted y el representante Greg Casar anunciaron legislación dirigida a la superinteligencia artificial, OpenAI lanzó GPT-6 Astra, su primer modelo que alcanzó el umbral de capacidad crítica de ciberseguridad de la compañía. OpenAI afirma que, con las herramientas y el acceso adecuados, Astra puede descubrir vulnerabilidades previamente desconocidas y diseñar exploits contra sistemas bien protegidos sin que un humano dirija cada paso.

Durante la presentación, el presidente de OpenAI, Greg Brockman, fue aún más lejos, concluyendo con la declaración: “Bienvenidos a la era de la AGI”. Sin embargo, la propia ficha del sistema de OpenAI indica simultáneamente que Astra no alcanza su umbral Alto de Auto‑mejora de IA.

Esa tensión debería decirle al Congreso algo importante. La inteligencia es multidimensional. Un sistema puede ser extraordinario en ciberseguridad, matemáticas o trabajo profesional sin poseer todas las capacidades asociadas a una explosión de inteligencia o a la pérdida de control humano.

Por lo tanto, la solución no es permitir que las empresas tecnológicas definan la terminología. Es todo lo contrario: la legislación debe regular capacidades medibles, autonomía, acceso y riesgo demostrado, en lugar de convertir una etiqueta disputada en la línea divisoria entre investigación legal y delito federal.

Su lucha por la igualdad educativa ilustra lo que está en juego

Durante décadas usted ha argumentado que el acceso a la educación no debe depender de cuánto dinero ganen los padres. Primero propuso legislación para que las universidades públicas de cuatro años fueran gratuitas en 2015. Ha vuelto al tema repetidamente, y la Ley Universitaria para Todos de 2025 haría que las universidades públicas fueran gratuitas para aproximadamente el 95 % de los estudiantes, mientras que la educación comunitaria sería gratuita para todos.

Esa filosofía es directamente relevante para la inteligencia artificial.

Durante la mayor parte de la historia humana, el acceso a una enseñanza excepcional ha sido escaso. La geografía, los ingresos familiares, la financiación escolar y la disponibilidad de docentes especializados influyen en lo que un niño puede aprender.

La IA ofrece la posibilidad de cambiar esa ecuación.

Ya estamos viendo evidencias tempranas. Un ensayo aleatorio del Banco Mundial en Nigeria encontró que los estudiantes que recibieron un programa de seis semanas, con apoyo docente y tutoría basada en GPT‑4, mejoraron su rendimiento global en pruebas en 0,31 desviaciones estándar. En Stanford, Tutor CoPilot se probó con más de 700 tutores y 1 000 estudiantes de comunidades desfavorecidas; los estudiantes cuyos tutores recibieron asistencia de IA tenían cuatro puntos porcentuales más de probabilidades de dominar temas de matemáticas, con ganancias de hasta nueve puntos entre los asignados a tutores con calificaciones más bajas.

Ningún estudio prueba que la IA resolverá la desigualdad educativa. Ninguno requiere AGI. Ambos, sin embargo, demuestran la dirección en la que esta tecnología puede avanzar.

Imagine que esa dirección continúe.

Un niño en la zona rural de Luisiana no debería necesitar vivir cerca de una escuela de élite para encontrarse con un profesor de matemáticas excepcional. Un estudiante fascinado por la astronomía no debería tener que esperar a la universidad para explorar la astrofísica. Un niño fascinado por la arqueología debería poder seguir esa curiosidad mientras un tutor de IA identifica brechas en lectura, historia, estadística y razonamiento científico y adapta la instrucción en consecuencia.

El objetivo no debe ser reemplazar a los docentes. Debe ser proporcionar a docentes y estudiantes acceso a conocimientos que antes no podían entregarse de forma económica uno a uno.

Quizá por primera vez, la instrucción personalizada a gran escala es tecnológicamente plausible. Una ley destinada a proteger a las futuras generaciones debe ser extremadamente cuidadosa para no cerrar esa puerta.

Su agenda de salud plantea el mismo caso

Su historial en materia de salud es igualmente coherente. Introdujo la Ley de Medicare para Todos en 2017 y la reintrodujo en 2019, 2023 y 2025, argumentando repetidamente que la salud debe considerarse un derecho y no un privilegio.

También ha dedicado años a combatir otra forma de desigualdad en salud: la escasez de profesionales médicos reales en comunidades desatendidas. Sus iniciativas de Centros de Salud Comunitarios y Expansión de la Fuerza Laboral de Atención Primaria buscaron ampliar el acceso en áreas médicamente desatendidas, mientras que su legislación bipartidista de atención primaria de 2023 con el senador Roger Marshall propuso incrementar significativamente la financiación de centros de salud comunitarios y ampliar el Cuerpo Nacional de Servicio de Salud y la ruta de residencia médica. En 2025, usted y el senador Jeff Merkley presentaron la Ley de Expansión de la Fuerza Laboral de Salud, que incluye asistencia de matrícula destinada a aumentar el número de médicos, enfermeras y dentistas, particularmente en comunidades rurales.

Estas políticas abordan la escasez financiera y la escasez de recursos humanos.

La IA podría ayudar a abordar una tercera escasez: el conocimiento experto.

La FDA estima actualmente que más de 10 000 enfermedades raras afectan a más de 30 millones de estadounidenses, aproximadamente una de cada diez personas, y que la mayoría de esas enfermedades aún carecen de tratamientos aprobados. Las poblaciones de pacientes pequeñas también dificultan los ensayos clínicos convencionales.

La inteligencia artificial no es un atajo mágico alrededor de la biología o la validación clínica. Los fármacos descubiertos con IA pueden fallar como cualquier otro fármaco. Pero ya está cambiando partes del proceso de descubrimiento.

En 2025, investigadores publicaron el primer ensayo aleatorio de fase 2a de rentosertib, una molécula pequeña para fibrosis pulmonar idiopática cuyo objetivo y molécula fueron descubiertos mediante IA generativa. Los resultados representaron un auténtico hito clínico, aunque los propios investigadores advirtieron que relativamente pocos fármacos descubiertos con IA habían llegado a ensayos clínicos y que ninguno había completado la fase 3 en ese momento.

Ese es exactamente el enfoque equilibrado que debemos adoptar respecto a esta tecnología: ni hype ni desestimación.

Los sistemas de IA cada vez más capaces pueden integrar biología molecular, química, genética, literatura médica, imágenes, software, análisis estadístico y diseño experimental. Su valor puede surgir precisamente porque pueden razonar a través de campos que los humanos históricamente han dividido en especialidades separadas.

La pregunta relevante, por tanto, no es si “AGI” por sí sola curará el cáncer, la enfermedad de Alzheimer, infecciones resistentes a antibióticos o trastornos genéticos raros. Nadie puede prometer eso responsablemente.

La cuestión es si el Congreso debería prohibir permanentemente una forma de inteligencia de amplio alcance antes de saber qué podría aportar esa inteligencia a la solución de esos problemas.

Muchos de los daños más concretos de la IA hoy no requieren AGI

Existe otro problema al hacer de la inteligencia general el objetivo regulatorio: algunos de los daños más trascendentes causados por la IA hoy provienen de sistemas que están lejos de ser inteligencia artificial general.

En 2020, escribí en Unite.AI sobre cómo los algoritmos de recomendación de Facebook podrían amplificar la desinformación. La preocupación no era que Facebook hubiera creado una inteligencia más inteligente que la humanidad, sino que un sistema de optimización diseñado para maximizar el compromiso podía amplificar preferentemente material que provocara reacciones más fuertes, sin importar su valor para la sociedad.

Las consecuencias de los sistemas de recomendación mal gobernados se han vuelto más difíciles de descartar. Amnesty International concluyó que los algoritmos de Meta amplificaron proactivamente contenido que incitaba al odio y la violencia contra los rohingya en Myanmar, aumentando el riesgo de violencia masiva. La Comisión Europea ha exigido por separado información a YouTube, Snapchat y TikTok sobre riesgos de sus sistemas de recomendación relacionados con contenido dañino, elecciones y discurso cívico, comportamiento adictivo, “agujeros de conejo”, salud mental y menores.

Ninguno de estos sistemas necesitó derrocar un gobierno por sí mismo. Ninguno necesitó mejora recursiva. Ninguno necesitó razonamiento general sobrehumano.

Simplemente necesitaban el objetivo equivocado, desplegado a escala suficiente.

Esto ilustra un principio fundamental para la regulación de la IA: el daño no se determina únicamente por cuán inteligente sea un modelo. Un algoritmo estrecho desplegado miles de millones de veces bajo incentivos equivocados puede ser socialmente destructivo. Un sistema altamente general operando bajo controles estrictos en un laboratorio, aula u hospital puede ser enormemente beneficioso.

La regulación debe reconocer esa diferencia.

La tecnología de doble uso requiere control sobre el uso, el acceso y la autoridad

El mismo principio se aplica a la vigilancia.

Las tecnologías de visión por computadora y reconocimiento de patrones pueden ayudar a los médicos a analizar imágenes médicas, inspeccionar entornos industriales peligrosos, navegar robots de rescate y automatizar tareas que los humanos no deberían realizar.

Las tecnologías relacionadas también pueden usarse para construir sistemas de vigilancia extraordinariamente poderosos.

Una reciente investigación del Washington Post encontró que al menos 50 agentes de la ley fueron acusados, procesados o condenados por usar sistemas automáticos de lectura de matrículas para monitorear a personas con propósitos personales no autorizados. En un caso, un jefe de policía supuestamente consultó vehículos usados por una ex pareja y su hija adolescente alrededor de 600 veces. Una investigación posterior elevó el número identificado de funcionarios acusados, procesados o condenados por uso indebido a al menos 69.

Ese es un serio fracaso de política tecnológica.

Pero observe dónde están las palancas regulatorias prácticas. Tras la investigación, Flock anunció que las búsquedas requerirían códigos de casos criminales, la detección automática de usos indebidos se volvería obligatoria y la retención predeterminada de datos pasaría de 30 días a siete. Esas medidas pueden o no ser suficientes, pero demuestran los tipos de controles que los legisladores pueden regular: autorización, limitación de propósito, registros de auditoría, retención, rendición de cuentas humana y sanciones por uso indebido.

La respuesta al abuso de vigilancia no es prohibir la visión por computadora.

La respuesta a los ciberataques no autorizados no es necesariamente prohibir un modelo capaz de ciberseguridad.

La respuesta es regular qué sistemas pueden hacer, a qué recursos pueden acceder, quién puede autorizar acciones consecuentes y qué ocurre cuando se violan esos límites.

Usted ya ha escrito parte de un modelo regulatorio mejor

Curiosamente, otra legislación que usted introdujo este año contiene varias ideas que apuntan a un enfoque más productivo.

Leí el texto completo de su Ley de Moratoria de Centros de Datos de Inteligencia Artificial. Aunque discrepo con detener la construcción de centros de datos de forma general, las condiciones que propone para levantar eventualmente esa moratoria son mucho más concretas que una prohibición general sobre una categoría de inteligencia.

Su proyecto dice que los centros de datos de IA no deben incrementar las facturas de electricidad de los consumidores, empeorar el cambio climático ni dañar el medio ambiente. Exige que las comunidades afectadas tengan voz, normas laborales fuertes y reportes públicos sobre uso de agua, consumo de energía, emisiones de gases de efecto invernadero, aguas residuales, químicos de refrigeración, ruido, empleos y otros impactos.

Esos son externalidades medibles. Ahí es exactamente donde la regulación puede ser eficaz.

Iría más allá en energía. La industria de IA no debería usar la creciente demanda eléctrica como excusa para prolongar la vida de plantas de carbón sin control o transferir costos de infraestructura a los usuarios habituales. Los nuevos proyectos hiperescalables deberían estar obligados a aportar generación adicional de bajo o nulo carbono a la red y divulgar sus impactos de agua y energía.

Ya existen ejemplos prometedores de cómo podría ser esa transición. El sistema P3 de Exowatt captura energía solar como calor, la almacena y la convierte en electricidad despachable diseñada en parte para cargas de centros de datos. Y esta semana, Fervo Energy anunció un acuerdo de 396 MW con Google para energía geotérmica mejorada libre de carbono 24/7 en Utah, con una opción que podría acercar el total a un gigavatio.

El apetito energético de la IA puede convertirse tanto en una razón para extender infraestructura sucia como en un motor de demanda enorme para nuevas tecnologías de energía limpia.

La política gubernamental puede ayudar a determinar cuál de esos resultados se materializa.

Y su propia Ley del Fondo Soberano de IA Americano, presentada en junio, contiene otro principio con el que estoy totalmente de acuerdo: si la IA crea un valor económico extraordinario, la gente común debería compartir ese valor. Su propuesta contempla explícitamente que la riqueza generada por IA contribuya eventualmente a la salud, la educación, la vivienda y un medio ambiente saludable.

Eso reconoce algo crucial: la inteligencia artificial tiene un valor potencial extraordinario. La verdadera cuestión política es cómo se controla y distribuye ese valor.

Una mejor alternativa a una prohibición permanente

Le insto a conservar las partes más fuertes de la Ley de Prohibición de la Superinteligencia Artificial: el regulador federal, la experiencia técnica independiente, la supervisión obligatoria de sistemas de frontera, sanciones significativas y la coordinación internacional. Pero cambiaría fundamentalmente lo que desencadena la prohibición y cómo el desarrollo beneficioso puede continuar.

• Regule capacidades peligrosas medibles en lugar de la etiqueta AGI o ASI. Establezca umbrales técnicamente definidos alrededor de ofensa cibernética autónoma, habilitación de armas biológicas o químicas, elusión de apagados, replicación no autorizada, engaño estratégico y otras capacidades capaces de causar daño catastrófico.
• Exija licencias y evaluaciones independientes por encima de los umbrales de frontera. Los desarrolladores deberían demostrar seguridad antes de desplegar sistemas con capacidades peligrosas especificadas, con evaluaciones repetidas a medida que los modelos adquieran nuevas herramientas, permisos o autonomía. Los incidentes graves deberían conllevar obligaciones de divulgación obligatoria.
• Conceda a un regulador independiente poder real de ejecución. La agencia que usted propone debería poder auditar laboratorios de frontera, obtener información, exigir remediación y suspender despliegues peligrosos. Pero los estándares deben ser transparentes, técnicamente medibles y revisados periódicamente por expertos científicos independientes.
• Prohíba aplicaciones nocivas independientemente de cuán inteligente sea el modelo subyacente. Los ciberataques no autorizados, la vigilancia ilegal, la asistencia biológica peligrosa y otros usos inaceptables deben seguir siendo ilegales, ya sea que se realicen con un modelo estrecho, un sistema AGI o software convencional.
• Cree vías controladas para la investigación socialmente valiosa. Medicina, descubrimiento científico, educación, defensa de ciberseguridad e investigación de alineación deberían contar con mecanismos regulados que permitan el acceso a modelos poderosos bajo supervisión humana adecuada, validación, seguridad y requisitos de auditoría.
• Haga que la infraestructura de IA asuma sus costos sociales y ambientales completos mientras se coordina internacionalmente. Proteja a los usuarios, exija reportes transparentes de uso de agua y energía, acelere generación limpia adicional, mantenga protecciones laborales y comunitarias significativas, y colabore con aliados en normas comunes de capacidad, evaluaciones y controles de exportación.

Esto no equivale a confiar en Silicon Valley.

Todo lo contrario.

La industria tecnológica ha dado al Congreso amplias razones para no confiar en la autorregulación voluntaria. Los incidentes de OpenAI y Anthropic por sí solos demuestran por qué la IA de frontera requiere escrutinio externo y normas de seguridad ejecutables.

Sin embargo, la desconfianza hacia las empresas tecnológicas no debe convertirse en desconfianza hacia el progreso tecnológico mismo.

La elección no es aceleración temeraria ni prohibición

Senador Sanders, a lo largo de su carrera ha luchado repetidamente contra la escasez.

Ha combatido la idea de que los ingresos familiares determinen si un niño recibe educación. Ha combatido un sistema de salud en el que la cuenta bancaria o el código postal de una persona pueden influir en la atención que recibe. Ha combatido estructuras económicas en las que enormes ganancias se concentran en un pequeño grupo mientras el resto absorbe los costos.

La inteligencia artificial podría empeorar cada uno de esos problemas.

Podría concentrar una riqueza sin precedentes. Podría desplazar a trabajadores sin compartir los aumentos de productividad. Podría habilitar vigilancia, manipulación y ciberataques. Podría colocar un poder extraordinario en manos de unas pocas corporaciones.

Estos riesgos justifican la regulación.

Pero la IA también podría reducir una de las formas más antiguas de desigualdad en la civilización humana: la desigualdad de acceso a la experiencia.

Un mundo en el que cada niño pueda acceder a instrucción personalizada, cada médico pueda contar con un apoyo analítico extraordinario, cada científico pueda interrogar siglos de investigación acumulada y enfermedades ignoradas porque sus poblaciones de pacientes son pequeñas reciban mucho más atención científica es también un futuro por el que vale la pena luchar.

No deberíamos tener que elegir entre ese futuro y la seguridad de la IA.

El objetivo más acertado es hacer que la IA poderosa sea difícil de usar indebidamente, difícil de perder el control, lo suficientemente transparente para auditar, costosa de desplegar de manera imprudente y ampliamente accesible para fines socialmente beneficiosos.

Prohíba conductas que pongan en riesgo a la humanidad. Licencie capacidades peligrosas. Castigue el despliegue negligente y malintencionado. Exija a las empresas internalizar los costos ambientales de su infraestructura. Proteja a los trabajadores. Dé al público una parte de los beneficios económicos. Y cree un regulador independiente capaz de decir “no” incluso a las mayores compañías tecnológicas del mundo.

Pero, por favor, no defina la inteligencia prohibida tan ampliamente que igualar la capacidad cognitiva humana en muchos dominios se convierta, por sí mismo, en un delito.

Su vida ha girado en torno a ampliar el acceso a cosas que antes estaban reservadas para los privilegiados.

La inteligencia artificial avanzada podría convertirse en el motor de poder concentrado más grande que hayamos creado.

O podría convertirse en una de las herramientas más grandes jamás creadas para democratizar el conocimiento, la educación, la medicina y la capacidad científica.

Una buena legislación puede ayudar a determinar cuál de esos futuros obtenemos.