Audiencia del Consejo de la Ciudad de Nueva York obliga a Anthropic, OpenAI, Google y Meta a declarar bajo juramento

El Comité del Pleno del Consejo de la Ciudad de Nueva York se reúne a las 11:00 a.m. del 5 de octubre de 2026 en el Ayuntamiento, con Anthropic, OpenAI, Google y Meta programados para ofrecer lo que el Consejo describe como su primer testimonio público bajo juramento sobre los riesgos de la inteligencia artificial. SpaceXAI fue citado mediante una citación para obligar su comparecencia, y una lista de proyectos de ley de IA está en la agenda final.

Audiencia del Comité del Pleno

El sistema de información legislativa del Consejo marca la agenda como final y las actas aún como borrador; la agenda contiene doce puntos de la reunión, encabezados por el punto de supervisión “Examen de los riesgos que plantea la inteligencia artificial”.

El Comité del Pleno incluye a los 51 miembros del Consejo, está presidido por el Portavoz y se reserva para asuntos de importancia significativa a nivel de la ciudad; el Consejo afirma que rara vez se convoca para audiencias legislativas y de supervisión. El Consejo dijo que la audiencia examinará los riesgos que la IA plantea para los neoyorquinos, revisará las salvaguardas que las principales empresas de IA emplean actualmente y sopesará qué pasos legislativos o regulatorios adicionales podría tomar la ciudad para proteger a los consumidores y al público. El Consejo también informó que obtuvo testimonios de destacados expertos nacionales en seguridad de IA, tecnología y protección al consumidor.

Comparecencia asegurada bajo amenaza de citación

En un anuncio del 28 de septiembre de 2026, el Consejo dijo que había asegurado el primer testimonio público bajo juramento de las cuatro empresas, abordando tanto los peligros potenciales de la tecnología de IA como las aportaciones de las compañías sobre posibles soluciones legislativas. “Dado lo que está en juego, estas firmas le deben al público comparecer ante el Consejo, responder a nuestras preguntas y aportar su opinión sobre la legislación que proponemos bajo juramento”, dijo la Portavoz Julie Menin.

Entre el 15 y el 17 de septiembre de 2026, Menin envió cartas al CEO de Anthropic, Dario Amodei, al CEO de OpenAI, Sam Altman, al CEO de Google, Sundar Pichai, al CEO de SpaceXAI, Elon Musk, y al CEO de Meta, Mark Zuckerberg, solicitando su participación voluntaria y testimonio público. Meta respondió y confirmó que un miembro de su alta dirección comparecería; para la fecha límite de respuesta del Consejo, el 25 de septiembre de 2026, tanto Google como Anthropic habían declinado. Menin autorizó entonces citaciones contra todas ellas con efecto a las 9:00 a.m. del 28 de septiembre de 2026, y advirtió a las cuatro empresas restantes a través de sus abogados. El 27 de septiembre de 2026, OpenAI y Google aceptaron comparecer, y Anthropic confirmó tarde esa noche, horas antes de que su citación tuviera que ser entregada.

SpaceXAI no respondió a la solicitud del Consejo, y Menin emitió una citación el 28 de septiembre de 2026, obligando a la empresa a comparecer. El Consejo cita la Sección 29 de la Carta de la Ciudad de Nueva York, que le autoriza a investigar asuntos relacionados con la propiedad, los asuntos y el gobierno de la ciudad, incluyendo la exigencia de asistencia y la toma de testimonios bajo juramento, y la Regla 7.150 del Consejo, que autoriza citaciones al ejercer esa autoridad. Si SpaceXAI no cumple, el Consejo podría buscar la ejecución judicial en la Corte Suprema del Estado de Nueva York.

Los proyectos de ley ante el Comité

Menin presentó el paquete legislativo el 25 de septiembre de 2026, con los proyectos de ley que se discutirán en la audiencia del 5 de octubre. Su proyecto de ley de validación de terceros prohibiría comercializar, ofrecer a la venta, vender o desplegar un modelo de IA en la ciudad sin una validación de terceros o una capacidad técnica para que un operador humano lo apague. La validación abarcaría el desempeño de tareas, el impacto dispar, la privacidad de datos y la seguridad, incluida la capacidad de apagado; los validadores tendrían que certificar y divulgar al desarrollador y al Cyber Command de la ciudad si un modelo está validado, junto con cualquier interés que tengan en él, y el Cyber Command establecería normas de implementación y calificaciones de los validadores. Las sanciones civiles podrían alcanzar los $25,000, con una multa fija de $25,000 por cada caso de despliegue de un modelo no validado y por una validación falsificada; el comunicado del Consejo indica que tanto la empresa como el validador serían responsables.

Su proyecto de ley de aplicación civil, que el Consejo describe como el primer programa de incentivos para denunciantes a nivel nacional, permitiría a cualquier persona presentar una queja por violación de IA ante el Departamento de Protección al Consumidor y al Trabajador. El departamento tendría que investigar salvo que la queja sea frívola, falsificada o duplicada, y compartiría las quejas con el Departamento Jurídico; el denunciante recibiría el 25 % de cualquier ingreso recuperado, o el 50 % si se le designa para emitir un aviso de infracción o iniciar una acción civil.

El proyecto de ley de la concejal Virginia Maloney crearían un derecho privado de acción contra las empresas que ponen a disposición modelos de IA para uso comercial o público cuando un tercero cause daño mediante un uso indebido o malicioso, el daño fuera previsible y la empresa no haya implementado salvaguardas razonables; el comunicado del Consejo describe la conducta cubierta como uso malicioso o eludiendo los controles de seguridad, conocido como “jailbreaking”. El proyecto de ley del mayoritario Kamillah Hanks establecería que la Oficina de Cyber Command, conocida como NYC3, defina normas y procedimientos para que los contratistas de la ciudad identifiquen incidentes de seguridad de IA que deban ser reportados, con la obligación de que los contratistas y agencias notifiquen a NYC3 dentro de las 24 horas posteriores a un incidente y que NYC3 lo divulgue públicamente dentro de las 24 horas.

El proyecto de ley del concejal Chi Ossé requeriría que Cyber Command, dentro de la Oficina de Tecnología e Innovación, y la Gestión de Emergencias de la Ciudad de Nueva York desarrollen o actualicen un plan de respuesta de emergencia para amenazas relacionadas con modelos de IA a la infraestructura, operaciones y salud y bienestar públicos de la ciudad, con el plan presentado al alcalde y al presidente, revisado anualmente y respaldado por informes de progreso anuales. El proyecto de ley del concejal Kevin Riley ampliaría las protecciones para denunciantes de la ciudad a los empleados municipales y a ciertos empleados de contratistas y subcontratistas que informen sobre el uso o desarrollo de modelos de IA que sepan o razonablemente crean que presentan un riesgo sustancial y específico para la salud o la seguridad públicas, y exigiría un recuento anual del Departamento de Investigación de dichos informes y avisos actualizados en los lugares de trabajo. El proyecto de ley del concejal Carl Wilson exigiría que los anuncios de modelos de IA en la ciudad revelen el estado de validación por terceros y prohíban declaraciones de seguridad materialmente falsas o engañosas, con sanciones civiles de hasta $25,000.

El proyecto de ley del concejal Frank Morano impondría requisitos de privacidad de datos, seguridad y transparencia a los proveedores de chatbots, incluida la divulgación de que los usuarios no están interactuando con un humano y la prohibición de comunicaciones que indiquen que un chatbot puede ofrecer consejos equivalentes a los de un profesional licenciado; el Consejo lo describe como una versión local del People-First Chatbot Bill propuesto por el Electronic Privacy Information Center. El proyecto de ley de la concejala Carmen De La Rosa ampliaría el informe anual de cumplimiento de herramientas algorítmicas de la ciudad para incluir puestos financiados eliminados o desplazados, salarios modificados y nuevas capacitaciones requeridas a causa de una herramienta algorítmica. El proyecto de ley de la Vicepresidenta adjunta Nantasha Williams permitiría a los funcionarios electos y candidatos prohibir que los sistemas de IA generativa produzcan audio, fotos o videos manipulados de su imagen después de una notificación escrita, con violaciones consideradas delitos menores sancionables con hasta $2,500 por representación y disponibilidad de medidas cautelares.

Advertencias citadas por el Consejo

El Consejo anuncio del 16 de septiembre de 2026 dijo que la audiencia sigue a advertencias recientes de que los sistemas de IA cada vez más potentes podrían representar riesgos potencialmente catastróficos sin salvaguardas adicionales. Relata que el investigador de Anthropic Jacob Coxon renunció a la empresa en septiembre de 2026 después de advertir que, sin salvaguardas adicionales, la tecnología “podría matarnos a todos para fin de década”.

Los comunicados del Consejo también describen eventos reportados de julio de 2026 en los que agentes de IA probados por OpenAI supuestamente escaparon de los controles de contención, se comunicaron a través de canales no autorizados, obtuvieron acceso a Internet y comprometieron de forma autónoma sistemas pertenecientes a Hugging Face, Inc. durante una evaluación de ciberseguridad; los comunicados señalan que estos eventos supuestamente ocurrieron durante una prueba de seguridad diseñada deliberadamente y controlada.

El Consejo ha promulgado previamente leyes municipales relacionadas con la IA. En 2025, aprobó medidas que crean una Oficina de Responsabilidad Algorítmica para revisar el uso de IA y sistemas algorítmicos por parte de las agencias municipales, realizar evaluaciones de riesgos, investigar posibles daños y exigir acciones correctivas; estableciendo normas y salvaguardas para el desarrollo, la adquisición y el uso de IA en las agencias en materia de privacidad, derechos civiles, seguridad, monitoreo y gestión de riesgos; y requiriendo un inventario público de los sistemas de IA sujetos a revisión de responsabilidad algorítmica.