Miliband zegt tegen de UN Security Council om actie te ondernemen op de waarschuwingen van AI-oprichters

De Britse minister van Buitenlandse Zaken Ed Miliband vertelde de United Nations Security Council op 23 september 2026 dat regeringen gezamenlijk moeten handelen naar aanleiding van waarschuwingen van de oprichters van kunstmatige intelligentie, en een agenda schetste voor veiligheidstesten, transparantie van AI-bedrijven en nationale veerkracht. Het Foreign, Commonwealth & Development Office publiceerde het transcript, precies zoals het werd gepresenteerd bij de Verenigde Naties in New York, diezelfde dag.

UN Meetings Coverage noteerde de sessie als de 10.228e vergadering van de Veiligheidsraad, een middagsessie gehouden onder de titel “Artificial Intelligence and International Security”. Miliband opende met het bedanken van de organisatoren van de sessie en de deskundige sprekers die, aldus, een verhelderende bijdrage leverden.

Waarschuwingen van oprichters en de plicht van de overheid

Miliband vertelde de Raad dat AI ongetwijfeld de kracht heeft om de wereld ten goede te transformeren, iets wat volgens hem zichtbaar is in het dagelijks leven in elk land dat in de zaal vertegenwoordigd is. Maar, zei hij, de oprichters van de technologie komen nu met een harde waarschuwing naar de regeringen: ze vrezen dat het schade kan aanrichten, en ze stellen dat het niet alleen aan hen kan worden overgelaten om een ramp te voorkomen.

Hij zei dat regeringen die waarschuwingen niet kunnen negeren, omdat de oprichters gelijk hebben. Regeringen, aldus, kunnen hun verantwoordelijkheid jegens hun burgers niet afstaan, en ze kunnen de eerste taak van de overheid – het beschermen van het publiek, ongeacht het onderwerp – niet aan private bedrijven overlaten.

Miliband zei dat de Veiligheidsraad is opgericht om de grootste collectieve uitdagingen van die tijd aan te pakken, en dat de verplichting nu bij de regeringen ligt om samen te werken, en samen met de industrie, in het belang van de mensen die zij vertegenwoordigen. Hij verklaarde dat de Britse regering zich daartoe heeft verbonden.

Veiligheid, transparantie en veerkracht

Miliband schetste drie werkgebieden. Het eerste, zei hij, moet veiligheid zijn: harder werken om ervoor te zorgen dat geavanceerde AI-modellen grondig worden getest, en een waarborgenstelsel rond modelontwikkeling opzetten zodat regeringen vertrouwen kunnen hebben dat modellen veilig zijn.

Ten tweede, zei hij, is transparantie. De bedrijven die de modellen bouwen kunnen niet simpelweg aan hun eigen lot worden overgelaten, en regeringen moeten de inzage hebben om te begrijpen en te beoordelen wat AI-bedrijven doen. Miliband merkte op dat de toonaangevende AI-bedrijven zich hebben gecommitteerd die inzage te verschaffen, en hij beschreef het als een aanbod waar zowel regeringen als bedrijven hun woord aan moeten houden.

Ten derde, zei hij, is veerkracht: de verdediging versterken om de impact van AI-gestuurde incidenten te verminderen. Zelfs als elk model wordt getest, stelde hij, moeten regeringen voorbereid zijn op misbruik van AI. Dat omvat het versterken van cyberverdedigingen, het beschermen van kritieke infrastructuur en het consolideren van financiële systemen, evenals het ondersteunen van bevolkingen om de verstoringen die AI zal veroorzaken in de manier waarop mensen leven en werken te beheren en zich daaraan aan te passen, terwijl men de voordelen benut.

Het AI Security Institute en het G20-presidentschap

Miliband zei dat het VK zijn volledige rol in het proces zal spelen. Hij stelde dat het VK het eerste AI Security Institute heeft opgericht, dat hij beschreef als een instelling die haar expertise, testcapaciteiten en onderzoek deelt, terwijl ze nauw samenwerkt met de Verenigde Staten en de toonaangevende laboratoria op het gebied van AI-veiligheid.

Het het instituut beschrijft zichzelf als een onderzoeksorganisatie binnen het Department for Science, Innovation and Technology die toonaangevende AI-systemen test voordat ze publiekelijk worden vrijgegeven en evaluatietools zoals Inspect open source maakt. Het stelt dat haar onderzoek zich uitstrekt over cybermisbruik, waarborgen, afstemming, controle, autonomie, menselijke invloed en maatschappelijke veerkracht, ondersteund door £66 miljoen aan financiering per financieel jaar, een technisch personeel van meer dan 100 en pre‑deployment toegang tot toonaangevende AI-modellen.

Ook op 23 september Cabinet Office kondigde aan dat Dr. Jade Leung vice‑voorzitter van het AI Security Institute en veiligheidsadviseur van de AI‑taskforce van de regering zal worden. Zij zal tegen het einde van september 2026 haar voltijdse functies als adviseur van de premier op het gebied van AI en als Chief Technology Officer van het instituut neerleggen vanwege persoonlijke omstandigheden, en er zal tijdig een nieuwe AI‑adviseur voor de premier worden aangesteld. Leung zal tevens een parttime functie aanvaarden als Distinguished Visiting Fellow aan de Hoover Institution van Stanford University.

Miliband zei ook dat, zoals premier Andy Burnham op 22 september 2026 had uiteengezet, het VK AI in het hart van zijn G20‑presidentschap in 2027 zal plaatsen, voortbouwend op zijn staat van dienst in het samenbrengen van overheid, industrie, onderzoekers en het maatschappelijk middenveld rond dit onderwerp. Het kantoor van de premier kondigde op 22 september aan dat het door het VK georganiseerde G20‑leiderscongres in november 2027 in Manchester zal plaatsvinden, en dat het VK de presidentschap zal overnemen van de Verenigde Staten na de G20‑top in Miami in december 2026. Dezelfde persverklaring kondigde een VK‑VS‑partnerschap op het gebied van AI en autonomie aan, waarbij de Rapid AI Delivery Taskforce van het Ministerie van Defensie wordt gekoppeld aan het Chief Digital and Artificial Intelligence Office van het Amerikaanse ministerie van Defensie, werk dat volgens de verklaring de levering van vertrouwde, interoperabele capaciteiten zal versnellen en zal helpen kritieke nationale infrastructuur te beschermen, inclusief zeeroutes en het luchtruim. Het partnerschap bouwt voort op next‑generation‑technologie die al wordt ontwikkeld via AUKUS, aldus de verklaring.

Wereldwijde normen en de slotoproep

Miliband verwees naar het werk om een enkele set wereldwijde principes en normen overeen te komen, die volgens hem de transparantie en toegang zouden waarborgen die nodig zijn om de paraatheid te vergroten en ervoor te zorgen dat de ontwikkeling van AI veilig is. Hij citeerde een punt van een eerdere spreker en stelde dat het potentieel van AI moet worden benut voor zowel het mondiale Zuiden als het mondiale Noorden, over kwesties variërend van de toekomst van banen en de bescherming van kinderen tot cyberbeveiliging, biosecurity, nationale veiligheid en financiële stabiliteit.

Op 21 september 2026 uitte secretaris-generaal van de VN António Guterres een verklaring waarin hij de oproep tot controle van grensverleggende kunstmatige‑intelligentiemodellen verwelkomde, gelanceerd door de president van Finland en de premier van Noorwegen. Het initiatief roept VN‑lidstaten op om voort te bouwen op bestaande internationale mechanismen en te onderzoeken een internationale instelling op te richten die normen kan vaststellen, verificatie mogelijk maakt en staten bijeenbrengt wanneer capaciteitsdrempels worden overschreden. Guterres verwelkomde ook een thematisch rapport over AI‑veiligheid en de risico’s van verlies van menselijke controle van het Independent International Scientific Panel on AI, en hij moedigde externe deskundigen, waaronder van grensverleggende AI‑laboratoria en AI‑veiligheidsinstituten, aan om met het panel in gesprek te gaan.

Miliband sloot af met het verwerpen van het idee van een keuze tussen vooruitgang en veiligheid. Innovatie en de voordelen van AI, zei hij, zullen alleen worden benut als mensen vertrouwen hebben dat de juiste waarborgen aanwezig zijn, en regeringen moeten alle nodige maatregelen nemen zodat AI veilig, betrouwbaar en vertrouwd is, terwijl het toch zijn potentieel om groei te stimuleren, ziektes te genezen en de levenskansen van mensen te transformeren, blijft realiseren. “We kunnen niet zeggen dat we niet gewaarschuwd zijn,” zei hij. “We zijn gewaarschuwd.” Regeringen, aldus hij, moeten handelen naar de waarschuwingen van de oprichters, en dat gezamenlijk doen.