Miliband uppmanar FN:s säkerhetsråd att agera på AI-grundarnas varningar

Storbritanniens utrikesminister Ed Miliband sade den 23 september 2026 till FN:s säkerhetsråd att regeringar måste agera tillsammans på de varningar som kommer från grundarna av artificiell intelligens. Han lade fram en agenda med säkerhetstester, insyn från AI-företag och nationell motståndskraft. Foreign, Commonwealth & Development Office publicerade utskriften, exakt som talet hölls i FN i New York, samma dag.

UN Meetings Coverage registrerade sessionen som säkerhetsrådets 10 228:e möte, en eftermiddagssession med titeln ”Artificial Intelligence and International Security”. Miliband inledde med att tacka dem som sammankallat sessionen och experttalarna, som enligt honom hade lämnat ett upplysande bidrag.

Grundarnas varningar och regeringarnas skyldighet

Miliband sade till rådet att AI utan tvekan har kraft att förändra världen till det bättre, något som enligt honom syns i vardagen i alla länder som var representerade i rummet. Men teknikens grundare kommer nu till regeringarna med en skarp varning, sade han: De fruktar dess förmåga att orsaka skada och säger att det inte kan lämnas till dem ensamma att förhindra en katastrof.

Han sade att regeringar inte kan ignorera dessa varningar, eftersom grundarna har rätt. Regeringar kan inte avsäga sig ansvaret gentemot sina medborgare och kan inte, oavsett fråga, lämna över regeringens främsta plikt till privata företag, nämligen att skydda allmänheten.

Miliband sade att säkerhetsrådet grundades för att hantera tidens största gemensamma utmaningar och att skyldigheten nu faller på regeringarna att arbeta tillsammans och tillsammans med industrin i de människors intresse som de företräder. Den brittiska regeringen är fast besluten att göra det, sade han.

Säkerhet, insyn och motståndskraft

Miliband angav tre arbetsområden. Det första måste enligt honom vara säkerhet: att arbeta hårdare för att säkerställa att avancerade AI-modeller testas grundligt och bygga ett system för kvalitetssäkring kring modellutvecklingen, så att regeringar kan känna tillit till att modellerna är säkra.

Det andra är insyn, sade han. Företagen som bygger modellerna kan inte helt enkelt lämnas åt sig själva, och regeringar måste ha den insyn som behövs för att förstå och bedöma vad AI-företagen gör. Miliband noterade att de ledande AI-företagen har åtagit sig att ge denna insyn och beskrev det som ett erbjudande som regeringar och företag bör fullfölja.

Det tredje är motståndskraft: att stärka försvaret för att minska effekten av incidenter som möjliggörs av AI. Även om varje modell testas, sade han, måste regeringar vara förberedda på att AI missbrukas. Det innefattar att stärka cyberförsvaret, skydda kritisk infrastruktur och förstärka finansiella system samt att hjälpa befolkningen hantera och anpassa sig till den omvälvning AI kommer att medföra för hur människor lever och arbetar, samtidigt som fördelarna tas till vara.

AI Security Institute och G20-ordförandeskapet

Miliband sade att Storbritannien kommer att spela sin fulla roll i processen. Han sade att Storbritannien inrättade det första AI Security Institute, som han beskrev som en institution som delar sin sakkunskap, testkapacitet och forskning samtidigt som den arbetar nära USA och de ledande laboratorierna kring AI-säkerhet.

Institutet beskriver sig självt som en forskningsorganisation inom Department for Science, Innovation and Technology som testar ledande AI-system innan de lanseras offentligt och publicerar utvärderingsverktyg som Inspect med öppen källkod. Det säger att forskningen omfattar cybermissbruk, skyddsåtgärder, anpassning, kontroll, autonomi, mänsklig påverkan och samhällelig motståndskraft. Arbetet stöds av 66 miljoner pund i finansiering per räkenskapsår, mer än 100 tekniska medarbetare och tillgång till ledande AI-modeller före driftsättning.

Även den 23 september meddelade Cabinet Office att Dr Jade Leung blir vice ordförande för AI Security Institute och säkerhetsrådgivare för regeringens AI Taskforce. Hon lämnar sina heltidsroller som premiärministerns rådgivare om AI och institutets teknikchef i slutet av september 2026 på grund av personliga omständigheter, och en ny rådgivare om AI till premiärministern kommer att utses senare. Leung tillträder också en deltidsbefattning som framstående gästforskare vid Hoover Institution på Stanford University.

Miliband sade också att Storbritannien, som premiärminister Andy Burnham hade redogjort för den 22 september 2026, kommer att placera AI i centrum för sitt G20-ordförandeskap 2027 och bygga vidare på landets erfarenhet av att föra samman regeringar, industri, forskare och civilsamhälle i frågan. Premiärministerns kansli meddelade den 22 september att G20-toppmötet för stats- och regeringschefer som Storbritannien står värd för ska hållas i Manchester i november 2027 och att Storbritannien övertar ordförandeskapet från USA efter G20-toppmötet i Miami i december 2026. Samma meddelande presenterade ett brittisk-amerikanskt partnerskap om AI och autonomi som sammanför försvarsministeriets Rapid AI Delivery Taskforce med amerikanska Department of Wars Chief Digital and Artificial Intelligence Office. Enligt meddelandet ska arbetet påskynda leveransen av tillförlitliga, driftskompatibla förmågor och bidra till att skydda kritisk nationell infrastruktur, däribland farleder och luftrum. Partnerskapet bygger på nästa generations teknik som redan utvecklas genom AUKUS, uppgav meddelandet.

Globala standarder och den avslutande uppmaningen

Miliband pekade på arbetet med att enas om en enda uppsättning globala principer och standarder, som enligt honom skulle säkerställa den insyn och tillgång som behövs för att höja beredskapen och säkerställa en trygg AI-utveckling. Med hänvisning till en synpunkt från en tidigare talare sade han att AI:s potential måste tas till vara både i det globala syd och det globala nord i frågor som sträcker sig från framtidens arbetstillfällen och skydd av barn till cybersäkerhet, biosäkerhet, nationell säkerhet och finansiell stabilitet.

Den 21 september 2026 utfärdade FN:s generalsekreterare António Guterres ett uttalande där han välkomnade Call for Control of Frontier Artificial Intelligence Models, som lanserats av Finlands president och Norges statsminister. Initiativet uppmanar FN:s medlemsstater att bygga vidare på befintliga internationella mekanismer och undersöka möjligheten att skapa en internationell institution som kan fastställa standarder, möjliggöra verifiering och sammankalla stater när kapacitetströsklar passeras. Guterres välkomnade också en tematisk rapport om AI-säkerhet och riskerna med förlust av mänsklig kontroll från Independent International Scientific Panel on AI och uppmanade externa experter, däribland från avancerade AI-laboratorier och institut för AI-säkerhet, att samarbeta med panelen.

Miliband avslutade med att avvisa föreställningen om ett val mellan framsteg och säkerhet. Innovation och fördelarna med AI kan bara tas till vara, sade han, om människor känner förtroende för att rätt skyddsåtgärder finns på plats. Regeringar måste vidta alla åtgärder som behövs för att AI ska vara säker, trygg och tillförlitlig och samtidigt fortsätta att utveckla dess potential att skapa tillväxt, bota sjukdomar och förändra människors livschanser. ”Vi kan inte säga att vi inte har blivit varnade”, sade han. ”Vi har blivit varnade.” Regeringarna måste agera på grundarnas varningar, sade han, och de måste agera tillsammans.