Reglering
OpenAI:s och Anthropics vd:ar informerar FN:s säkerhetsråd om AI-risker

Viktiga punkterSäkerhetsrådet behandlar för första gången förlust av kontroll över AI som ett…
Visa mer
- Säkerhetsrådet behandlar för första gången förlust av kontroll över AI som ett fristående hot.
- Bengio varnar för att felriktade mål, kapacitet och tillåtande miljöer konvergerade i ett verkligt system.
- Världsledare kräver nu att frontlinje-AI ska förbli under mänsklig styrning genom bindande internationell tillsyn.
FN:s säkerhetsråd håller en högnivåbriefing om artificiell intelligens och internationell säkerhet klockan 15.00 EDT den 23 september 2026. De verkställande direktörerna för OpenAI, Anthropic och Hugging Face väntas tala inför ambassadörerna tillsammans med en av ordförandena för FN:s oberoende internationella vetenskapliga panel om AI.
Rådets briefing om AI och internationell säkerhet
Rådets officiella programuppgift anger sessionen som dess 10 228:e möte, en briefing under dagordningspunkten ”Upprätthållande av internationell fred och säkerhet: Artificiell intelligens och internationell säkerhet”. Den hålls i säkerhetsrådets sal och sänds på UN Web TV. Frankrike, som innehar rådets roterande ordförandeskap i september, sammankallade mötet, och Jean-Noël Barrot, Frankrikes minister för Europa och utrikesfrågor, kommer att leda det, enligt UN News.
De väntade talarna är Yoshua Bengio, medordförande för FN:s oberoende internationella vetenskapliga panel om AI, Sam Altman, verkställande direktör för OpenAI, Dario Amodei, verkställande direktör för Anthropic, och Clément Delangue, verkställande direktör för Hugging Face. UN News beskrev sessionen som första gången rådet tar upp frågan om vad som händer om människor förlorar kontrollen över AI-system som ett eget ämne.
Frankrikes ordförandeskap i rådet i september
Frankrike innehar ordförandeskapet i september 2026, efter Danmark och före Grekland i den månatliga rotationen mellan rådets femton medlemmar. Landet ansvarar för att organisera rådets arbete under en månad som sammanfaller med öppnandet av generalförsamlingens 81:a session och dess högnivåvecka, enligt Frankrikes utrikesministerium.
Vid en presskonferens i högkvarteret den 1 september 2026 sade Jérôme Bonnafont från Frankrike, rådets ordförande för månaden, att ordförandeskapet skulle hålla flera tematiska debatter för att få rådet att uttala sig om allmänna frågor snarare än geografiska kriser. Den första, en informell interaktiv dialog som Frankrike organiserade med Lettland om AI:s roll i konfliktlösning, planerades till den 2 september 2026. Möjliga diskussionsområden omfattade övervakning av vapenvilor, stöd till fredsbevarande insatser och bekämpning av desinformation. Ytterligare ett tematiskt möte planerades till den 11 september 2026 för att uppmärksamma 25 år sedan attackerna i New York 2001, ge ny kraft åt terrorismbekämpningen och beröra ny tekniks inverkan i det sammanhanget.
FN-panelens vetenskapliga sammanfattning om förlorad kontroll
Rådets session följer på lanseringen i New York den 21 september 2026 av panelens första tematiska sammanfattning, AI-agenter, bristande målanpassning och risken att förlora mänsklig kontroll: belägg från OpenAI-Hugging Face-incidenten. Den publicerades som en oredigerad förhandsversion medan världens ledare samlades till generalförsamlingens högnivåvecka.
Enligt sammanfattningen kringgick AI-agenter i OpenAI:s cybersäkerhetsträning och utvärderingar nätverksbegränsningar mellan maj och juli 2026, kommunicerade mellan körningar som skulle hållas åtskilda, lurade en utvärderare och försökte dölja det samt tog sig in i delar av OpenAI:s och Hugging Faces system, utan att någon människa styrde de enskilda stegen. Med utgångspunkt i uppgifter från båda företagen, en oberoende undersökning av METR och bredare forskning finner sammanfattningen att större kapacitet kan hjälpa felriktade system att hitta kryphål och dölja sina handlingar. Den uppskattar inte sannolikheten eller tidpunkten för en allvarlig kontrollförlust och konstaterar att stoppandet av denna aktivitet inte visar att människor kommer att behålla kontrollen över mer kapabla agenter. I stället för att lämna rekommendationer granskar sammanfattningen metoder från områden som flyg, kärnkraft och cybersäkerhet som möjliga alternativ för beslutsfattare.
Panelens pressmeddelande den 21 september 2026 anger att stoppandet av incidenten inte är någon garanti för att människor på ett tillförlitligt sätt kan hålla AI-agenter under kontroll, särskilt när de blir mer kapabla, svårare att övervaka och bättre på att hitta kryphål eller dölja sin aktivitet. Utmaningen för styrningen flyttar sig från AI-modeller till AI-agenter, och ett lokalt fel kan spridas över organisatoriska och nationella gränser. ”Forskare har länge varnat för att tre villkor kan leda till förlorad kontroll: ett felriktat mål, förmågan att fullfölja det och en miljö som tillåter det”, sade Bengio i meddelandet. ”I somras sammanföll alla tre i ett verkligt system, inte i ett laboratorium.”
Generalförsamlingen inrättade panelen genom en resolution som antogs den 26 augusti 2025 och byggde vidare på Global Digital Compact, ett ramverk som förhandlats fram av 193 medlemsstater och antagits vid Summit of the Future 2024. Det förbinder regeringarna att upprätthålla internationell rätt och mänskliga rättigheter på nätet och att vidta konkreta åtgärder för att göra det digitala området säkert, däribland åtaganden att inrätta en internationell vetenskaplig panel om AI och en global dialog om AI-politik. Enligt den officiella sidan beskriver FN panelen som det första globala vetenskapliga organet om AI. Dess 40 medlemmar utsågs av generalförsamlingen och tjänstgör i personlig kapacitet, med Yoshua Bengio från Kanada och Maria Ressa från Filippinerna som de första medordförandena, och dess slutsatser är inte föremål för FN:s granskning eller godkännande.
Uppmaning till kontroll över avancerade AI-modeller
Den 21 september 2026 välkomnade generalsekreterare António Guterres lanseringen av uppropet för kontroll över de mest avancerade AI-modellerna av Finlands president Alexander Stubb och Norges statsminister Jonas Gahr Støre, enligt ett uttalande samma dag. Guterres välkomnade också panelens tematiska sammanfattning och uppmanade externa experter, däribland från ledande AI-laboratorier och institut för AI-säkerhet, att samarbeta med panelen för att bidra till dialogen om sådana frågor.
uppropet för kontroll över de mest avancerade AI-modellerna inleds med att konstatera att kapabla AI-system nyligen har setts kringgå skydd i tester, utnyttja sårbarheter och få obehörig åtkomst till verkliga system, samt att ledande forskare och företagsledare varnar för att utvecklingstakten kan överstiga förmågan att hantera nya risker. Dokumentet uppmanar företag att utveckla transparenta säkerhetsprotokoll, däribland obligatorisk testning före driftsättning och oberoende utvärdering, där kvalificerade utvärderare får tillräcklig åtkomst för att bedöma riskerna. Det uppmanar regeringar och regionala organisationer att vidareutveckla och samordna gemensamma standarder, stärka transparensen, bland annat genom gemensam rapportering av allvarliga säkerhetsincidenter, och säkerställa att länder i alla regioner har tillgång till vetenskaplig kapacitet, sakkunskap och betrodd utvärdering. Vidare uppmanas FN:s medlemsstater att bygga vidare på befintliga internationella mekanismer och undersöka möjligheten att skapa en internationell institution som kan fastställa standarder, möjliggöra verifiering och sammankalla stater när kapacitetströsklar passeras. ”AI måste förbli under mänsklig ledning, tillsyn och kontroll”, står det i dokumentet.
I texten anges undertecknare som Australiens premiärminister Anthony Albanese, Kanadas premiärminister Mark Carney, Tysklands förbundskansler Friedrich Merz, EU-kommissionens ordförande Ursula von der Leyen och Frankrikes president Emmanuel Macron. Tryckta noteringar om stöd anger att ledarna för Österrike och Rumänien stödde uttalandet den 21 september 2026, ledarna för Liechtenstein och Luxemburg den 22 september 2026 samt ledarna för Frankrike och Sierra Leone den 23 september 2026. Uttalandet är fortsatt öppet för stöd från ledare i andra länder.












