Miliband opfordrer FN’s Sikkerhedsråd til at handle på AI-grundlæggernes advarsler

Storbritanniens udenrigsminister Ed Miliband sagde den 23. september 2026 til FN’s Sikkerhedsråd, at regeringer skal handle sammen på baggrund af advarsler fra grundlæggerne af kunstig intelligens. Han fremlagde en dagsorden med sikkerhedstest, gennemsigtighed fra AI-virksomheder og national modstandsdygtighed. Foreign, Commonwealth & Development Office offentliggjorde udskriften, nøjagtigt som talen blev holdt i FN i New York, samme dag.

UN Meetings Coverage registrerede mødet som Sikkerhedsrådets 10.228. møde, et eftermiddagsmøde under titlen “Artificial Intelligence and International Security”. Miliband indledte med at takke mødeindkalderne og eksperttalerne, der efter hans vurdering havde ydet et oplysende bidrag.

Grundlæggernes advarsler og regeringernes pligt

Miliband sagde til Rådet, at AI uden tvivl har kraft til at ændre verden til det bedre, hvilket ifølge ham kan ses i hverdagen i alle de lande, der var repræsenteret i lokalet. Men teknologiens grundlæggere kommer nu til regeringerne med en skarp advarsel, sagde han: De frygter dens evne til at gøre skade og siger, at det ikke kan overlades til dem alene at forhindre en katastrofe.

Han sagde, at regeringer ikke kan ignorere disse advarsler, fordi grundlæggerne har ret. Regeringer kan ikke fralægge sig ansvaret over for deres borgere, sagde han, og de kan uanset emnet ikke overlade til private virksomheder regeringens vigtigste pligt, som er at beskytte befolkningen.

Miliband sagde, at Sikkerhedsrådet blev oprettet for at håndtere tidens største fælles udfordringer, og at regeringerne nu har pligt til at arbejde sammen og sammen med industrien i de menneskers interesse, som de repræsenterer. Den britiske regering er fast besluttet på at gøre det, sagde han.

Sikkerhed, gennemsigtighed og modstandsdygtighed

Miliband opstillede tre arbejdsområder. Det første skal ifølge ham være sikkerhed: at arbejde hårdere for at sikre grundig test af avancerede AI-modeller og opbygge et system til sikring af sikkerheden omkring modeludviklingen, så regeringer kan have tillid til, at modellerne er sikre.

Det andet er gennemsigtighed, sagde han. Virksomhederne, der bygger modellerne, kan ikke blot overlades til sig selv, og regeringerne skal have den indsigt, der er nødvendig for at forstå og vurdere, hvad AI-virksomhederne gør. Miliband bemærkede, at de førende AI-virksomheder har forpligtet sig til at skabe denne indsigt, og beskrev det som et tilbud, som regeringerne og virksomhederne bør følge op på.

Det tredje er modstandsdygtighed: at styrke forsvaret for at mindske konsekvenserne af hændelser muliggjort af AI. Selv hvis hver model testes, sagde han, skal regeringer være forberedte på misbrug af AI. Det omfatter styrkelse af cyberforsvaret, beskyttelse af kritisk infrastruktur og forstærkning af finansielle systemer samt støtte til befolkningen, så den kan håndtere og tilpasse sig den forstyrrelse, AI vil medføre for den måde, mennesker lever og arbejder på, samtidig med at fordelene udnyttes.

AI Security Institute og G20-formandskabet

Miliband sagde, at Storbritannien vil spille sin fulde rolle i processen. Han sagde, at Storbritannien etablerede det første AI Security Institute, som efter hans beskrivelse deler sin ekspertise, testkapacitet og forskning, samtidig med at det arbejder tæt sammen med USA og de førende laboratorier om AI-sikkerhed.

Instituttet beskriver sig selv som en forskningsorganisation under Department for Science, Innovation and Technology, der tester førende AI-systemer før offentlig lancering og frigiver evalueringsværktøjer som Inspect som open source. Det oplyser, at forskningen spænder over cybermisbrug, beskyttelsesforanstaltninger, tilpasning, kontrol, autonomi, menneskelig påvirkning og samfundsmæssig modstandsdygtighed. Arbejdet støttes af 66 millioner pund i finansiering pr. regnskabsår, mere end 100 tekniske medarbejdere og adgang til førende AI-modeller før lanceringen.

Også den 23. september meddelte Cabinet Office, at Dr. Jade Leung bliver næstformand for AI Security Institute og sikkerhedsrådgiver for regeringens AI Taskforce. Hun træder tilbage fra sine fuldtidsroller som premierministerens rådgiver om AI og instituttets teknologidirektør ved udgangen af september 2026 på grund af personlige omstændigheder, og en ny AI-rådgiver for premierministeren vil blive udnævnt senere. Leung tiltræder også en deltidsstilling som fremtrædende gæsteforsker ved Hoover Institution på Stanford University.

Miliband sagde desuden, at Storbritannien, som premierminister Andy Burnham havde fremlagt den 22. september 2026, vil sætte AI i centrum for sit G20-formandskab i 2027 og bygge videre på landets erfaring med at samle regeringer, industri, forskere og civilsamfund om emnet. Premierministerens kontor meddelte den 22. september, at det britisk afholdte G20-topmøde for stats- og regeringschefer finder sted i Manchester i november 2027, og at Storbritannien overtager formandskabet fra USA efter G20-topmødet i Miami i december 2026. Samme meddelelse annoncerede et britisk-amerikansk partnerskab om AI og autonomi, der forbinder forsvarsministeriets Rapid AI Delivery Taskforce med det amerikanske Department of Wars Chief Digital and Artificial Intelligence Office. Ifølge meddelelsen skal arbejdet fremskynde leveringen af pålidelige, interoperable kapaciteter og bidrage til at beskytte kritisk national infrastruktur, herunder sejlruter og luftrum. Partnerskabet bygger på næste generation af teknologi, der allerede udvikles gennem AUKUS, oplyste meddelelsen.

Globale standarder og den afsluttende appel

Miliband pegede på arbejdet med at aftale ét sæt globale principper og standarder, som ifølge ham vil sikre den gennemsigtighed og adgang, der er nødvendig for at øge beredskabet og sikre en tryg AI-udvikling. Med henvisning til en tidligere talers pointe sagde han, at AI’s potentiale skal udnyttes både i det globale syd og det globale nord på områder, der spænder fra fremtidens arbejdspladser og beskyttelse af børn til cybersikkerhed, biosikkerhed, national sikkerhed og finansiel stabilitet.

Den 21. september 2026 udsendte FN’s generalsekretær António Guterres en erklæring, der hilste Call for Control of Frontier Artificial Intelligence Models, iværksat af Finlands præsident og Norges statsminister, velkommen. Initiativet opfordrer FN’s medlemsstater til at bygge videre på eksisterende internationale mekanismer og undersøge oprettelsen af en international institution, der kan fastsætte standarder, muliggøre verifikation og indkalde stater, når kapacitetstærskler overskrides. Guterres hilste også et tematisk notat om AI-sikkerhed og risiciene ved tab af menneskelig kontrol fra Independent International Scientific Panel on AI velkommen og opfordrede eksterne eksperter, herunder fra førende AI-laboratorier og AI-sikkerhedsinstitutter, til at samarbejde med panelet.

Miliband afsluttede med at afvise forestillingen om et valg mellem fremskridt og sikkerhed. Innovation og fordelene ved AI vil kun kunne høstes, sagde han, hvis befolkningen har tillid til, at de rette beskyttelsesforanstaltninger er på plads. Regeringerne skal træffe alle nødvendige foranstaltninger for at gøre AI sikker, tryg og troværdig, samtidig med at dens potentiale til at skabe vækst, helbrede sygdomme og forandre menneskers livsmuligheder udvikles. “Vi kan ikke sige, at vi ikke er blevet advaret,” sagde han. “Vi er blevet advaret.” Regeringerne skal handle på grundlæggernes advarsler, sagde han, og de skal handle sammen.