Miliband fordert den UN‑Sicherheitsrat zum Handeln aufgrund der Warnungen der KI‑Gründer auf

Der britische Außenminister Ed Miliband sagte dem UN‑Sicherheitsrat am 23. September 2026, dass Regierungen gemeinsam auf die Warnungen der Gründer der künstlichen Intelligenz reagieren müssen und legte eine Agenda für Sicherheitstests, Transparenz seitens der KI‑Unternehmen und nationale Resilienz vor. Das Foreign, Commonwealth & Development Office veröffentlichte das Transkript, exakt wie es bei den Vereinten Nationen in New York am selben Tag gehalten wurde.

UN Meetings Coverage zeichnete die Sitzung als die 10,228. Sitzung des Sicherheitsrates auf, eine Nachmittagssitzung unter dem Titel „Künstliche Intelligenz und internationale Sicherheit“. Miliband eröffnete, indem er den Organisatoren der Sitzung und den Fachrednern dankte, die seiner Meinung nach einen erhellenden Beitrag geleistet hatten.

Warnungen der Gründer und die Pflicht der Regierungen

Miliband sagte dem Rat, dass KI zweifellos die Macht habe, die Welt zum Besseren zu verändern, was er als im Alltag in jedem im Raum vertretenen Land sichtbar beschrieb. Aber, sagte er, kommen die Gründer der Technologie nun mit einer eindringlichen Warnung zu den Regierungen: Sie befürchten, dass sie Schaden anrichten kann, und sie betonen, dass es nicht allein ihnen überlassen werden könne, eine Katastrophe zu verhindern.

Er sagte, Regierungen könnten diese Warnungen nicht ignorieren, weil die Gründer Recht haben. Regierungen, sagte er, können ihre Verantwortung gegenüber ihren Bürgern nicht abgeben und dürfen die erste Regierungsaufgabe – den Schutz der Öffentlichkeit – nicht an private Unternehmen übertragen, gleich welcher Themenbereich.

Miliband sagte, der Sicherheitsrat sei gegründet worden, um die größten kollektiven Herausforderungen der Zeit anzugehen, und dass die Verpflichtung nun bei den Regierungen liege, gemeinsam und zusammen mit der Industrie im Interesse der von ihnen vertretenen Menschen zu handeln. Er erklärte, die britische Regierung sei entschlossen, dies umzusetzen.

Sicherheit, Transparenz und Resilienz

Miliband stellte drei Arbeitsbereiche vor. Der erste, sagte er, muss Sicherheit sein: intensiver daran zu arbeiten, dass modernste KI‑Modelle gründlich getestet werden, und ein Sicherungssystem rund um die Modellentwicklung aufzubauen, damit Regierungen Vertrauen darauf gewinnen können, dass die Modelle sicher sind.

Zweitens, sagte er, geht es um Transparenz. Die Unternehmen, die die Modelle entwickeln, können nicht einfach sich selbst überlassen werden, und Regierungen müssen die Sichtbarkeit haben, um zu verstehen und zu beurteilen, was KI‑Unternehmen tun. Miliband stellte fest, dass die führenden KI‑Unternehmen zugesagt haben, diese Sichtbarkeit zu gewährleisten, und er beschrieb dies als ein Angebot, dem Regierungen und Unternehmen nachkommen sollten.

Drittens, sagte er, geht es um Resilienz: die Verteidigung zu stärken, um die Auswirkungen von KI‑gestützten Vorfällen zu verringern. Selbst wenn jedes Modell getestet wird, betonte er, müssen Regierungen auf den Missbrauch von KI vorbereitet sein. Dazu gehören die Stärkung der Cyber‑Verteidigung, der Schutz kritischer Infrastrukturen und die Verstärkung der Finanzsysteme sowie die Unterstützung der Bevölkerung, um die durch KI verursachten Umbrüche im Leben und Arbeiten zu bewältigen und anzupassen, während gleichzeitig die Vorteile genutzt werden.

Das AI Security Institute und die G20‑Präsidentschaft

Miliband sagte, das Vereinigte Königreich werde seine volle Rolle in diesem Prozess übernehmen. Er erklärte, das Vereinigte Königreich habe das erste AI Security Institute gegründet, das er als eine Einrichtung beschrieb, die ihr Fachwissen, ihre Testfähigkeiten und Forschung teilt und dabei eng mit den Vereinigten Staaten und den führenden Laboren für KI‑Sicherheit zusammenarbeitet.

Das Institute beschreibt sich als Forschungsorganisation innerhalb des Department for Science, Innovation and Technology, die führende KI‑Systeme testet, bevor sie öffentlich freigegeben werden, und Evaluierungswerkzeuge wie Inspect als Open‑Source bereitstellt. Es gibt an, dass seine Forschung Cyber‑Missbrauch, Schutzmaßnahmen, Ausrichtung, Kontrolle, Autonomie, menschlichen Einfluss und gesellschaftliche Resilienz abdeckt, unterstützt durch 66 Millionen Pfund Finanzierung pro Haushaltsjahr, ein technisches Team von mehr als 100 Personen und Vorab‑Zugang zu führenden KI‑Modellen.

Ebenfalls am 23. September Cabinet Office kündigte an, dass Dr. Jade Leung Vizevorsitzende des AI Security Institute und Sicherheitsberaterin der KI‑Taskforce der Regierung wird. Sie wird zum Ende September 2026 aus ihren Vollzeitpositionen als Beraterin des Premierministers für KI und als Chief Technology Officer des Instituts zurücktreten, aus persönlichen Gründen, und ein neuer KI‑Berater des Premierministers wird zu gegebener Zeit ernannt. Leung wird zudem eine Teilzeitstelle als Distinguished Visiting Fellow am Hoover Institution der Stanford University antreten.

Miliband sagte außerdem, dass, wie Premierminister Andy Burnham am 22. September 2026 dargelegt hatte, das Vereinigte Königreich KI in den Mittelpunkt seiner G20‑Präsidentschaft im Jahr 2027 stellen wird, wobei es auf seiner Bilanz aufbaut, Regierung, Industrie, Forschende und Zivilgesellschaft zu diesem Thema zusammenzubringen. Das Büro des Premierministers kündigte an am 22. September, dass der vom Vereinigten Königreich ausgerichtete G20‑Leitungsgipfel im November 2027 in Manchester stattfinden wird und dass das Vereinigte Königreich die Präsidentschaft von den Vereinigten Staaten nach dem G20‑Gipfel in Miami im Dezember 2026 übernehmen wird. Die gleiche Mitteilung kündigte eine UK‑US‑Partnerschaft für KI und Autonomie an, die das Rapid‑AI‑Delivery‑Taskforce des Verteidigungsministeriums mit dem Chief Digital and Artificial Intelligence Office des US‑Department of War verbindet, wobei die Mitteilung erklärte, dass diese Zusammenarbeit die Bereitstellung vertrauenswürdiger, interoperabler Fähigkeiten beschleunigen und kritische nationale Infrastrukturen, einschließlich Seewege und Luftraum, schützen werde. Die Partnerschaft baue auf der bereits durch AUKUS entwickelten nächsten Generation von Technologien auf, hieß es in der Mitteilung.

Globale Standards und der abschließende Appell

Miliband verwies auf die Arbeit, einen einzigen Satz globaler Prinzipien und Standards zu vereinbaren, von dem er sagte, er würde die Transparenz und den Zugang gewährleisten, die nötig sind, um die Vorbereitung zu erhöhen und sicherzustellen, dass die KI‑Entwicklung sicher ist. In Anlehnung an einen Punkt eines vorherigen Redners betonte er, dass das Potenzial von KI sowohl für den Globalen Süden als auch für den Globalen Norden genutzt werden müsse, in Fragen von der Zukunft der Arbeit und dem Schutz von Kindern bis hin zu Cybersicherheit, Bio‑Sicherheit, nationaler Sicherheit und finanzieller Stabilität.

Am 21. September 2026 UN-Generalsekretär António Guterres gab eine Erklärung ab, in der er den Aufruf zur Kontrolle von Frontier‑Artificial‑Intelligence‑Modellen begrüßte, der vom Präsidenten Finnlands und dem Premierminister Norwegens initiiert wurde. Die Initiative fordert die UN‑Mitgliedstaaten auf, auf bestehenden internationalen Mechanismen aufzubauen und die Schaffung einer internationalen Institution zu prüfen, die Standards setzen, Verifizierungen ermöglichen und Staaten zusammenrufen kann, wenn Fähigkeitsschwellen überschritten werden. Guterres begrüßte zudem ein thematisches Briefing zur KI‑Sicherheit und zu den Risiken des Verlusts menschlicher Kontrolle durch das Independent International Scientific Panel on AI und er ermutigte externe Experten, einschließlich aus Frontier‑KI‑Laboren und KI‑Sicherheitsinstituten, sich mit dem Panel auseinanderzusetzen.

Miliband schloss, indem er die Vorstellung ablehnte, man müsse zwischen Fortschritt und Sicherheit wählen. Innovation und die Vorteile von KI, sagte er, werden nur dann realisiert, wenn die Menschen Vertrauen haben, dass die richtigen Schutzmaßnahmen vorhanden sind, und Regierungen müssen alle notwendigen Maßnahmen ergreifen, damit KI sicher, vertrauenswürdig und zugleich ihr Potenzial zur Förderung von Wachstum, Heilung von Krankheiten und Transformation der Lebenschancen der Menschen entfalten kann. „Wir können nicht sagen, wir seien nicht gewarnt worden“, sagte er. „Wir wurden gewarnt.“ Regierungen, so fügte er hinzu, müssen auf die Warnungen der Gründer reagieren und dies gemeinsam tun.