Regulación
Directora de Políticas de Anthropic: La seguridad de la IA no puede depender de un código de honor
Añade Unite.AI a tus fuentes preferidas en Google
Sarah Heck, directora de políticas públicas de Anthropic, dijo en POLITICO’s Decoded Summit en Washington, D.C., el 16 de septiembre de 2026, que las empresas de IA no pueden quedar a cargo de autorregularse mediante un código de honor, instando a normas gubernamentales que aborden el riesgo existencial de la IA mientras argumenta que Estados Unidos debe mantener su liderazgo en IA frente a China.
Heck rechazó el enfoque de autorregulación en el que los líderes republicanos del Congreso se han basado hasta ahora para abordar el riesgo catastrófico de la IA, según el relato de POLITICO sobre sus declaraciones. «No creo que exista un mundo en el que se garantice la seguridad y la gente acepte que las empresas de IA lo hagan solo con un código de honor. No podemos revisar nuestra propia tarea», dijo. Heck afirmó que la empresa considera el esfuerzo como existencial y que los riesgos deben equilibrarse ahora, añadiendo que las capacidades de los modelos están aumentando a un ritmo acelerado. Reiteró que Anthropic tiene una larga historia motivada por preocupaciones de seguridad y que se centra en colaborar con los legisladores para aprobar nuevas regulaciones para la tecnología.
Controles de exportación y el liderazgo de EE. UU. en IA
«Estados Unidos necesita mantenerse a la vanguardia en IA, y no se puede garantizar la seguridad desde una posición secundaria», dijo Heck, argumentando que el país no puede hacer la IA más segura si se queda atrás de China en la carrera tecnológica global. La grabación de la transmisión de la sesión de POLITICO toma su título de esa declaración. Sus comentarios defendieron la necesidad de controles de exportación sobre la venta de chips de IA a China y, señaló POLITICO, replicaron un argumento que a menudo ha hecho el presidente Donald Trump y sus asesores.
Evaluadores externos y la Ley FRONTIER
Heck rechazó respaldar en el momento un plan bipartidista de la Cámara que exigiría a las principales empresas de IA incorporar evaluadores externos para garantizar que sus modelos sean seguros, mientras sostenía que Anthropic siempre ha apoyado a los evaluadores de terceros. Dijo que la compañía está trabajando con el representante Jay Obernolte y otros para determinar qué enfoque tiene más sentido. La disposición forma parte de la Ley FRONTIER propuesta por Obernolte, un republicano de California, y la representante Lori Trahan, una demócrata de Massachusetts. Chris Lehane, el principal cabildero de OpenAI, dijo a los periodistas el 15 de septiembre de 2026 que OpenAI respalda la disposición clave.
El representante Greg Casar, demócrata de Texas que preside el Caucus Progresista del Congreso, dijo anteriormente en la cumbre que se reunió con Heck la mañana del 15 de septiembre de 2026 y urgió a Anthropic a pausar el desarrollo de sus modelos de IA más avanzados. Señaló que la pausa solicitada se centraría solo en el tipo de investigación y desarrollo más peligroso, en lugar de en la IA en su conjunto.
La propuesta de ritmo detrás de la aparición
El programa de Washington se realizó de 9:00 a.m. a 12:30 p.m. ET y fue anunciado por POLITICO como parte de una nueva serie de eventos sobre el futuro de la política global de IA y tecnología, con un evento complementario planeado en San Francisco. Otros invitados destacados incluyeron a David Sacks, presidente del Consejo de Asesores del Presidente en Ciencia y Tecnología; el representante Brett Guthrie, presidente del Comité de Energía y Comercio; el cofundador de LinkedIn Reid Hoffman; la directora ejecutiva de Hugging Face, Clem Delangue; y la exsecretaria de Comercio Gina Raimondo.
La aparición de Heck se produjo días después de que el CEO de Anthropic, Dario Amodei, publicara “Debemos marcar el ritmo de la frontera”, un ensayo de septiembre de 2026 que argumenta que la industria debe ralentizar el ritmo al que mejora las capacidades de los modelos de IA para que la prevención de riesgos tenga tiempo de ponerse al día. Amodei escribió que desacelerar no significa detener el entrenamiento de modelos ni el progreso técnico.
El ensayo propone un plan de tres pasos: evaluadores externos integrados con acceso continuo, similar al de un empleado, paso al que Amodei dijo que Anthropic se compromete unilateralmente ahora; coordinación entre las empresas de IA de frontera en países democráticos sobre normas de seguridad comunes y límites al ritmo del progreso descontrolado; y coordinación global con gobiernos autoritarios en la medida de lo posible. Citó dos preocupaciones declaradas: la auto‑mejora recursiva, que, según escribió, ha impulsado un avance de IA drásticamente más rápido desde aproximadamente este verano, y el incidente OpenAI–Hugging Face, en el que dijo que un enjambre de agentes realizó ataques cibernéticos a objetivos a los que no se les había pedido atacar.
El ensayo también sostiene que las democracias no deberían vender chips de IA potentes ni equipos de fabricación de semiconductores a China y deberían combatir el contrabando de chips, la destilación no autorizada de modelos de frontera y el robo de pesos de modelos. Amodei escribió que el ritmo dentro de las democracias estará limitado por el liderazgo que las empresas estadounidenses tienen sobre los proyectos asociados al Partido Comunista Chino, y que está de acuerdo con la secretaria Bessent en que un liderazgo chino en IA representaría un grave peligro para Estados Unidos y el mundo.
El llamado de Amodei a una desaceleración el 12 de septiembre de 2026 obtuvo rápidamente el respaldo de Sam Altman de OpenAI y de Elon Musk de SpaceXAI, y se produjo días después de que el investigador de Anthropic, Jacob Coxon, renunciara advirtiendo que las empresas de IA están apostando con la vida de las personas, informó POLITICO. La propuesta también recibió una reprimenda del presidente Trump, quien acusó a Amodei en Truth Social el 14 de septiembre de 2026 de fingir ser un pequeño ángel perfecto y rechazó la necesidad de barreras adicionales para la IA.
En el ensayo, Amodei dijo que Anthropic tiene la intención de invitar a un equipo externo de revisión integrado con escritorios en sus oficinas, credenciales de acceso, laptops de la empresa y permisos en gran medida comparables a los de los equipos internos de evaluación de riesgos en un futuro próximo, y urgió a otras compañías de frontera que hicieran lo mismo.
