Miliband insta al Consejo de Seguridad de la ONU a actuar ante las advertencias de los fundadores de la IA

El secretario de Relaciones Exteriores del Reino Unido, Ed Miliband, dijo al Consejo de Seguridad de las Naciones Unidas el 23 de septiembre de 2026 que los gobiernos deben actuar conjuntamente ante las advertencias de los fundadores de la inteligencia artificial, presentando una agenda de pruebas de seguridad, transparencia por parte de las empresas de IA y resiliencia nacional. El Foreign, Commonwealth & Development Office publicó la transcripción, exactamente como se entregó en las Naciones Unidas en Nueva York, el mismo día.

Cobertura de Reuniones de la ONU registró la sesión como la 10,228ª reunión del Consejo de Seguridad, una sesión vespertina celebrada bajo el título “Inteligencia Artificial y Seguridad Internacional”. Miliband abrió agradeciendo a los organizadores de la sesión y a los ponentes expertos que, según dijo, hicieron una contribución esclarecedora.

Advertencias de los fundadores y el deber del gobierno

Miliband dijo al Consejo que la IA indudablemente tiene el poder de transformar el mundo para mejor, algo que, según él, se observa en la vida cotidiana de cada país representado en la sala. Pero, añadió, los fundadores de la tecnología se están acercando ahora a los gobiernos con una advertencia tajante: temen su capacidad de causar daño y afirman que no puede quedar solo en sus manos prevenir un desastre.

Dijo que los gobiernos no pueden ignorar esas advertencias, porque los fundadores tienen razón. Los gobiernos, afirmó, no pueden abdicar su responsabilidad hacia sus ciudadanos, y no pueden delegar a las empresas privadas el primer deber del gobierno, que es proteger al público, sea cual sea el tema.

Miliband dijo que el Consejo de Seguridad se creó para abordar los mayores desafíos colectivos de la época, y que la obligación ahora recae en los gobiernos de trabajar juntos, y junto con la industria, en interés de las personas a las que representan. Afirmó que el gobierno del Reino Unido está comprometido a hacerlo.

Seguridad, Transparencia y Resiliencia

Miliband expuso tres áreas de trabajo. La primera, dijo, debe ser la seguridad: trabajar más intensamente para garantizar que los modelos de IA de vanguardia se prueben rigurosamente, y crear un sistema de garantía alrededor del desarrollo de modelos que permita a los gobiernos establecer confianza en que los modelos son seguros.

En segundo lugar, dijo, está la transparencia. No se puede dejar simplemente a las empresas que construyen los modelos que actúen por su cuenta, y los gobiernos deben contar con la visibilidad necesaria para comprender y evaluar lo que hacen las empresas de IA. Miliband señaló que las principales empresas de IA se han comprometido a proporcionar esa visibilidad, y la describió como una oferta que los gobiernos y las empresas deben cumplir.

En tercer lugar, dijo, está la resiliencia: reforzar las defensas para reducir el impacto de incidentes habilitados por IA. Incluso si se prueba cada modelo, afirmó, los gobiernos deben estar preparados para el uso indebido de la IA. Eso incluye fortalecer las defensas cibernéticas, proteger la infraestructura crítica y reforzar los sistemas financieros, así como apoyar a la población para gestionar y adaptarse a la disrupción que la IA provocará en la forma en que las personas viven y trabajan, mientras se aprovechan sus beneficios.

El Instituto de Seguridad de IA y la Presidencia del G20

Miliband dijo que el Reino Unido desempeñará su papel completo en el proceso. Afirmó que el Reino Unido estableció el primer Instituto de Seguridad de IA, que describió como un organismo que comparte su experiencia, capacidades de prueba e investigación, trabajando estrechamente con Estados Unidos y los principales laboratorios en seguridad de IA.

El instituto se describe a sí mismo como una organización de investigación dentro del Departamento de Ciencia, Innovación y Tecnología que prueba los principales sistemas de IA antes de que se publiquen y pone a disposición de forma abierta herramientas de evaluación como Inspect. Afirma que su investigación abarca el uso indebido de la cibernética, salvaguardas, alineación, control, autonomía, influencia humana y resiliencia social, con el apoyo de £66 millones en financiación por año fiscal, un personal técnico de más de 100 personas y acceso previo al despliegue a los principales modelos de IA.

También el 23 de septiembre, el Cabinet Office anunció que la Dra. Jade Leung se convertirá en Vicepresidenta del Instituto de Seguridad de IA y Asesora de Seguridad del Grupo de Trabajo de IA del gobierno. Ella se retirará de sus cargos a tiempo completo como Asesora del Primer Ministro en IA y Directora de Tecnología del instituto a finales de septiembre de 2026 por circunstancias personales, y se nombrará a su debido tiempo una nueva Asesora de IA del Primer Ministro. Leung también asumirá un puesto a tiempo parcial como Investigadora Visitante Distinguida en la Hoover Institution de la Universidad de Stanford.

Miliband también dijo que, como el Primer Ministro Andy Burnham había expuesto el 22 de septiembre de 2026, el Reino Unido pondrá la IA en el corazón de su presidencia del G20 en 2027, basándose en su historial de reunir a gobiernos, industria, investigadores y la sociedad civil sobre el tema. La Oficina del Primer Ministro anunció el 22 de septiembre que la Cumbre de Líderes del G20, organizada por el Reino Unido, se celebrará en Manchester en noviembre de 2027, y que el Reino Unido asumirá la presidencia de los Estados Unidos tras la cumbre del G20 en Miami en diciembre de 2026. El mismo comunicado anunció una asociación UK‑US en IA y autonomía que empareja la Rapid AI Delivery Taskforce del Ministerio de Defensa con la Chief Digital and Artificial Intelligence Office del Departamento de Guerra de EE. UU., trabajo que, según el comunicado, acelerará la entrega de capacidades confiables e interoperables y ayudará a proteger la infraestructura nacional crítica, incluidos los corredores marítimos y el espacio aéreo. La asociación se basa en tecnología de próxima generación que ya se está desarrollando a través de AUKUS, según el comunicado.

Estándares globales y el llamado final

Miliband señaló el trabajo encaminado a acordar un conjunto único de principios y estándares globales, que, según él, garantizaría la transparencia y el acceso necesarios para aumentar la preparación y asegurar que el desarrollo de la IA sea seguro. Reconociendo un punto planteado por un orador anterior, afirmó que el potencial de la IA debe aprovecharse tanto para el Sur Global como para el Norte Global, en cuestiones que van desde el futuro del empleo y la protección de los niños hasta la ciberseguridad, la bioseguridad, la seguridad nacional y la estabilidad financiera.

El 21 de septiembre de 2026, El Secretario General de la ONU António Guterres emitió una declaración que dio la bienvenida a la Llamada para el Control de Modelos de Inteligencia Artificial de Vanguardia, lanzada por el Presidente de Finlandia y el Primer Ministro de Noruega. La iniciativa insta a los Estados miembros de la ONU a basarse en los mecanismos internacionales existentes y a explorar la creación de una institución internacional capaz de establecer normas, habilitar la verificación y convocar a los estados cuando se superen los umbrales de capacidad. Guterres también recibió con agrado un informe temático sobre la seguridad de la IA y los riesgos derivados de la pérdida del control humano, elaborado por el Panel Científico Internacional Independiente sobre IA, y animó a expertos externos, incluidos los de laboratorios de IA de vanguardia e institutos de seguridad de IA, a participar con el panel.

Miliband concluyó rechazando la idea de una elección entre progreso y seguridad. La innovación y los beneficios de la IA, dijo, solo se capturarán si la gente confía en que existen las salvaguardas adecuadas, y los gobiernos deben tomar todas las medidas necesarias para que la IA sea segura, fiable y confiable, al tiempo que avanza su potencial para impulsar el crecimiento, curar enfermedades y transformar las oportunidades de vida de las personas. “No podemos decir que no se nos haya advertido”, afirmó. “Se nos ha advertido”. Los gobiernos, dijo, deben actuar sobre las advertencias de los fundadores y deben hacerlo de manera conjunta.