Miliband ber FNs sikkerhetsråd handle på AI-grunnleggernes advarsler

Storbritannias utenriksminister Ed Miliband sa til FNs sikkerhetsråd 23. september 2026 at regjeringer må handle sammen på bakgrunn av advarslene fra grunnleggerne av kunstig intelligens. Han la frem en agenda med sikkerhetstesting, åpenhet fra AI-selskaper og nasjonal motstandskraft. Foreign, Commonwealth & Development Office publiserte utskriften, nøyaktig slik talen ble holdt i FN i New York, samme dag.

UN Meetings Coverage registrerte samlingen som Sikkerhetsrådets 10 228. møte, en ettermiddagsøkt med tittelen «Artificial Intelligence and International Security». Miliband innledet med å takke dem som innkalte til møtet, og ekspertene som etter hans mening hadde gitt et opplysende bidrag.

Grunnleggernes advarsler og regjeringenes plikt

Miliband sa til Rådet at AI utvilsomt har makt til å forandre verden til det bedre, noe han mente er synlig i dagliglivet i hvert land som var representert i rommet. Men teknologiens grunnleggere kommer nå til regjeringene med en tydelig advarsel, sa han: De frykter dens evne til å gjøre skade og sier at det ikke kan overlates til dem alene å hindre en katastrofe.

Han sa at regjeringer ikke kan ignorere disse advarslene, fordi grunnleggerne har rett. Regjeringer kan ikke fraskrive seg ansvaret overfor innbyggerne, sa han, og de kan uansett tema ikke overlate til private selskaper regjeringens fremste plikt, som er å beskytte befolkningen.

Miliband sa at Sikkerhetsrådet ble opprettet for å håndtere tidens største kollektive utfordringer, og at regjeringene nå har plikt til å arbeide sammen og sammen med industrien i interessene til menneskene de representerer. Den britiske regjeringen er forpliktet til å gjøre det, sa han.

Sikkerhet, åpenhet og motstandskraft

Miliband la frem tre arbeidsområder. Det første må ifølge ham være sikkerhet: å arbeide hardere for å sikre grundig testing av avanserte AI-modeller og bygge et system for kvalitetssikring rundt modellutviklingen, slik at regjeringene kan ha tillit til at modellene er trygge.

Det andre er åpenhet, sa han. Selskapene som bygger modellene, kan ikke bare overlates til seg selv, og regjeringene må ha innsynet som trengs for å forstå og vurdere det AI-selskapene gjør. Miliband bemerket at de ledende AI-selskapene har forpliktet seg til å gi dette innsynet, og beskrev det som et tilbud regjeringene og selskapene bør følge opp.

Det tredje er motstandskraft: å styrke forsvaret for å redusere virkningen av hendelser muliggjort av AI. Selv om hver modell blir testet, sa han, må regjeringer være forberedt på at AI kan misbrukes. Det innebærer å styrke cyberforsvaret, beskytte kritisk infrastruktur og forsterke finanssystemene, samt hjelpe befolkningen med å håndtere og tilpasse seg forstyrrelsene AI vil føre til i hvordan mennesker lever og arbeider, samtidig som fordelene utnyttes.

AI Security Institute og G20-formannskapet

Miliband sa at Storbritannia vil spille sin fulle rolle i prosessen. Han sa at Storbritannia etablerte det første AI Security Institute, som han beskrev som en institusjon som deler sin kompetanse, testkapasitet og forskning samtidig som den samarbeider nært med USA og de ledende laboratoriene om AI-sikkerhet.

Instituttet beskriver seg selv som en forskningsorganisasjon i Department for Science, Innovation and Technology som tester ledende AI-systemer før de lanseres offentlig og utgir evalueringsverktøy som Inspect med åpen kildekode. Det opplyser at forskningen spenner over cybermisbruk, beskyttelsestiltak, tilpasning, kontroll, autonomi, menneskelig påvirkning og samfunnsmessig motstandskraft. Arbeidet støttes av 66 millioner pund i finansiering per regnskapsår, mer enn 100 tekniske ansatte og tilgang til ledende AI-modeller før utrulling.

Også 23. september kunngjorde Cabinet Office at Dr. Jade Leung blir nestleder for AI Security Institute og sikkerhetsrådgiver for regjeringens AI Taskforce. Hun trer tilbake fra fulltidsrollene som statsministerens rådgiver for AI og instituttets teknologidirektør ved utgangen av september 2026 på grunn av personlige omstendigheter, og en ny AI-rådgiver for statsministeren vil bli utnevnt senere. Leung vil også tiltre en deltidsstilling som fremstående gjesteforsker ved Hoover Institution på Stanford University.

Miliband sa også at Storbritannia, slik statsminister Andy Burnham la frem 22. september 2026, vil sette AI i sentrum for sitt G20-formannskap i 2027 og bygge videre på landets erfaring med å samle regjeringer, industri, forskere og sivilsamfunn om temaet. Statsministerens kontor kunngjorde 22. september at G20-toppmøtet for stats- og regjeringssjefer, som Storbritannia er vert for, skal holdes i Manchester i november 2027, og at Storbritannia overtar formannskapet fra USA etter G20-toppmøtet i Miami i desember 2026. Den samme meldingen kunngjorde et britisk-amerikansk partnerskap om AI og autonomi som kobler forsvarsdepartementets Rapid AI Delivery Taskforce sammen med det amerikanske Department of Wars Chief Digital and Artificial Intelligence Office. Arbeidet skal ifølge meldingen fremskynde leveringen av pålitelige, samvirkende kapasiteter og bidra til å beskytte kritisk nasjonal infrastruktur, blant annet sjøruter og luftrom. Partnerskapet bygger på neste generasjons teknologi som allerede utvikles gjennom AUKUS, opplyste meldingen.

Globale standarder og den avsluttende oppfordringen

Miliband viste til arbeidet med å bli enige om ett sett med globale prinsipper og standarder, som han sa vil sikre åpenheten og tilgangen som trengs for å øke beredskapen og sørge for trygg AI-utvikling. Med henvisning til et poeng fra en tidligere taler sa han at AIs potensial må utnyttes både i det globale sør og det globale nord, på områder som spenner fra fremtidens arbeidsplasser og beskyttelse av barn til cybersikkerhet, biosikkerhet, nasjonal sikkerhet og finansiell stabilitet.

Den 21. september 2026 sendte FNs generalsekretær António Guterres ut en uttalelse der han ønsket Call for Control of Frontier Artificial Intelligence Models, lansert av Finlands president og Norges statsminister, velkommen. Initiativet oppfordrer FNs medlemsstater til å bygge videre på eksisterende internasjonale mekanismer og undersøke opprettelsen av en internasjonal institusjon som kan fastsette standarder, muliggjøre verifisering og innkalle stater når kapasitetsterskler krysses. Guterres ønsket også et temanotat om AI-sikkerhet og risikoen ved tap av menneskelig kontroll fra Independent International Scientific Panel on AI velkommen. Han oppfordret eksterne eksperter, blant annet fra ledende AI-laboratorier og AI-sikkerhetsinstitutter, til å samarbeide med panelet.

Miliband avsluttet med å avvise forestillingen om et valg mellom fremgang og sikkerhet. Innovasjon og fordelene ved AI vil bare kunne realiseres, sa han, hvis befolkningen har tillit til at de riktige beskyttelsestiltakene er på plass. Regjeringer må treffe alle nødvendige tiltak slik at AI er sikker, trygg og pålitelig, samtidig som potensialet til å skape vekst, kurere sykdom og forandre menneskers livsmuligheter videreutvikles. «Vi kan ikke si at vi ikke har blitt advart», sa han. «Vi har blitt advart.» Regjeringer må handle på grunnleggernes advarsler, sa han, og de må handle sammen.