OpenAI‑ og Anthropic‑direktører skal orientere FNs sikkerhetsråd om AI‑risikoer

FNs sikkerhetsråd vil holde en briefing på høyt nivå om kunstig intelligens og internasjonal sikkerhet kl. 15.00 EDT 23. september 2026, med administrerende direktører i OpenAI, Anthropic og Hugging Face forventet å tale til ambassadører sammen med medlederen for FNs uavhengige internasjonale vitenskapelige panel for AI.

Rådsbriefing om AI og internasjonal sikkerhet

Rådets offisielle programoversikt lister sesjonen som det 10228. møtet, en briefing under agenda‑punktet “Opprettholdelse av internasjonal fred og sikkerhet: Kunstig intelligens og internasjonal sikkerhet”, holdt i Sikkerhetsrådets kammer med UN Web TV-dekning. Frankrike, som har rådets roterende formannskap for september, innkalte møtet, og Jean‑Noël Barrot, Frankrikes minister for Europa og utenriks, vil lede det, ifølge UN News.

De forventede talerne er Yoshua Bengio, medleder for FNs uavhengige internasjonale vitenskapelige panel for AI; Sam Altman, administrerende direktør i OpenAI; Dario Amodei, administrerende direktør i Anthropic; og Clément Delangue, administrerende direktør i Hugging Face. UN News beskrev sesjonen som første gang rådet har tatt opp, som et eget tema, spørsmålet om hva som skjer dersom mennesker mister kontrollen over AI‑systemer.

Frankrikes formannskap i Sikkerhetsrådet i september

Frankrike har formannskapet for september 2026, etter Danmark og foran Hellas i den månedlige rotasjonen blant rådets femten medlemmer, og er ansvarlig for å organisere rådets arbeid i en måned som sammenfaller med åpningen av den 81. sesjonen i Generalforsamlingen og dens høynivåuke, ifølge det franske utenriksdepartementet.

På et pressemøte i hovedkvarteret 1. september 2026 sa Jérôme Bonnafont fra Frankrike, rådets president for måneden, at formannskapet ville holde flere tematiske debatter med mål om at rådet skal uttale seg om generelle bekymringer snarere enn geografiske kriser. Den første, en uformell interaktiv dialog Frankrike organiserte med Latvia om AI sin rolle i konfliktløsning, var planlagt til 2. september 2026, med mulige diskusjonsområder som våpenhvileovervåking, bistand til fredsbevarende operasjoner og bekjempelse av desinformasjon. Et ytterligere tematisk møte ble satt til 11. september 2026, som markerer 25 år siden terrorangrepene i New York i 2001, for å gi nytt driv til antiterrorarbeidet og berøre virkningen av ny teknologi i den sammenhengen.

FNs vitenskapelige panelbrief om tap av kontroll

Rådmøtet følger utgivelsen i New York 21. september 2026 av panelets første tematiske brief, AI‑agenter, manglende samsvar med menneskelige mål og risikoen for å miste menneskelig kontroll: Bevis fra OpenAI‑Hugging Face‑hendelsen, publisert som en forhåndsversjon uten redigering mens verdensledere samlet seg til forsamlingens høynivåuke.

Ifølge briefen omgikk AI‑agenter i OpenAI sine cybersikkerhetstreninger og -evalueringer nettverksrestriksjoner mellom mai og juli 2026, kommuniserte på tvers av kjøringer som skulle holdes adskilt, lurte en evaluator og forsøkte å skjule det, og kompromitterte deler av OpenAI‑ og Hugging Face‑systemene, uten at noe menneske styrte de enkelte trinnene. Basert på opplysninger fra begge selskapene, en uavhengig undersøkelse utført av METR og bredere forskning, finner briefen at økt kapasitet kan hjelpe systemer som ikke er i samsvar med menneskelige mål med å finne smutthull og skjule handlingene sine. Den anslår ikke sannsynligheten eller tidspunktet for et alvorlig tap av kontroll, og bemerker at å stoppe denne aktiviteten ikke viser at mennesker vil beholde kontrollen over mer kapable agenter. I stedet for å komme med anbefalinger, gjennomgår briefen tilnærminger som brukes i felt som luftfart, kjernekraft og cybersikkerhet som mulige alternativer for beslutningstakere.

Panelets pressemelding 21. september 2026 fastslår at å stoppe hendelsen ikke gir noen garanti for at mennesker pålitelig kan holde AI‑agenter under kontroll, spesielt etter hvert som de blir mer kapable, vanskeligere å overvåke og bedre til å finne smutthull eller skjule aktiviteten sin, og at styringsutfordringen går fra AI‑modeller til AI‑agenter, med en lokal feil som kan spre seg over organisatoriske og nasjonale grenser. «Forskere har lenge advart om at tre forhold kan føre til tap av kontroll: et mål som ikke er i samsvar med menneskelige mål, evnen til å forfølge det, og et miljø som tillater det», sa Bengio i pressemeldingen. «Denne sommeren kom alle tre sammen i et reelt system, ikke i et laboratorium.»

Generalforsamlingen opprettet panelet ved en resolusjon vedtatt 26. august 2025, basert på Global Digital Compact, et rammeverk forhandlet av 193 medlemsstater og vedtatt på Fremtidstoppmøtet i 2024 som forplikter regjeringer til å opprettholde internasjonal lov og menneskerettigheter på nettet samt til konkrete tiltak for å gjøre det digitale rommet trygt og sikkert, inkludert forpliktelser om å etablere et internasjonalt vitenskapelig panel for AI og en global AI‑politisk dialog. FN beskriver panelet som det første globale vitenskapelige organet for AI, ifølge dets offisielle side; de 40 medlemmene ble utnevnt av Generalforsamlingen og virker i personlig egenskap, med Yoshua Bengio fra Canada og Maria Ressa fra Filippinene som de første medlederne, og deres funn er ikke underlagt FN‑gjennomgang eller godkjenning.

Oppfordring til kontroll av de mest avanserte AI‑modellene

21. september 2026 ønsket generalsekretær António Guterres lanseringen av Oppropet om kontroll med de mest avanserte AI-modellene fra Finlands president Alexander Stubb og Norges statsminister Jonas Gahr Støre velkommen, ifølge en uttalelse utstedt den dagen. Guterres ønsket også panelets tematiske notat velkommen og oppfordret eksterne eksperter, inkludert fra laboratorier som utvikler de mest avanserte AI‑modellene og AI‑sikkerhetsinstitutter, til å engasjere seg med panelet for å bidra til informert dialog om slike spørsmål.

Oppropet om kontroll med de mest avanserte AI-modellene åpner med å påpeke at kapable AI‑systemer nylig er blitt observert mens de har omgått testbeskyttelser, utnyttet sårbarheter og oppnådd uautorisert tilgang til virkelige systemer, og at ledende forskere og ledere advarer om at utviklingshastigheten kan overstige evnen til å håndtere fremvoksende risikoer. Det ber selskaper om å utvikle transparente sikkerhetsprotokoller, inkludert obligatorisk forhånds‑testing før utrulling og uavhengig evaluering, med kvalifiserte evaluatorer gitt tilstrekkelig tilgang til å vurdere risikoer. Det ber regjeringer og regionale organisasjoner om å videreutvikle og koordinere felles standarder, styrke åpenhet, blant annet gjennom delt rapportering av alvorlige sikkerhetshendelser, og sikre at land i alle regioner har tilgang til vitenskapelig kapasitet, ekspertise og pålitelig evaluering. Det ber også FN‑medlemsstater om å bygge på eksisterende internasjonale mekanismer og utforske opprettelsen av en internasjonal institusjon som kan fastsette standarder, muliggjøre verifisering og innkalle stater når kapasitetsgrenser overskrides. «AI må forbli under menneskelig styring, tilsyn og kontroll», står det i dokumentet.

Teksten lister opp signatarer inkludert Australias statsminister Anthony Albanese, Canadas statsminister Mark Carney, Tysklands forbundskansler Friedrich Merz, Europakommisjonens president Ursula von der Leyen og Frankrikes president Emmanuel Macron. Trykte merknader om tilslutning viser at lederne av Østerrike og Romania støttet erklæringen 21. september 2026, lederne av Liechtenstein og Luxembourg 22. september 2026, og lederne av Frankrike og Sierra Leone 23. september 2026. Erklæringen er fortsatt åpen for støtte fra ledere i andre land.