Miliband vyzývá Radu bezpečnosti OSN k jednání na základě varování zakladatelů AI

Britský ministr zahraničí Ed Miliband řekl United Nations Security Council dne 23. září 2026, že vlády musí společně jednat na základě varování pocházejících od zakladatelů umělé inteligence a představily agendu testování bezpečnosti, transparentnosti AI společností a národní odolnosti. Foreign, Commonwealth & Development Office zveřejnil přepis, přesně tak, jak byl předložen v OSN v New Yorku, tentýž den.

UN Meetings Coverage zaznamenal schůzi jako 10 228. zasedání Rady bezpečnosti, odpolední setkání konané pod názvem “Artificial Intelligence and International Security”. Miliband zahájil poděkováním organizátorům setkání a odborným řečníkům, kteří, řekl, přinesli osvěcující příspěvek.

Varování zakladatelů a povinnost vlády

Miliband řekl Radě, že AI nepochybně má sílu proměnit svět k lepšímu, což, jak uvedl, je patrné v každodenním životě ve všech zemích zastoupených v místnosti. Ale, řekl, zakladatelé technologie nyní přicházejí k vládám s jasným varováním: obávají se její schopnosti způsobit škodu a tvrdí, že ji nelze nechat jen na nich, aby zabránili katastrofě.

Řekl, že vlády nemohou tato varování ignorovat, protože zakladatelé mají pravdu. Vlády, řekl, nemohou abdikovat svou odpovědnost vůči občanům a nemohou předat soukromým společnostem první povinnost vlády, kterou je chránit veřejnost, ať už jde o jakýkoli problém.

Miliband uvedl, že Rada bezpečnosti byla založena k řešení největších kolektivních výzev své doby, a že povinnost nyní spočívá na vládách, aby spolupracovaly, a to i s průmyslem, v zájmu lidí, které zastupují. Řekl, že britská vláda je odhodlána tak učinit.

Bezpečnost, transparentnost a odolnost

Miliband vymezil tři oblasti činnosti. První, řekl, musí být bezpečnost: pracovat intenzivněji na zajištění, aby špičkové modely AI byly důkladně testovány, a vybudovat systém záruk kolem vývoje modelů, aby vlády mohly získat důvěru, že jsou modely bezpečné.

Druhou, řekl, je transparentnost. Společnosti, které modely vytvářejí, nemohou být prostě ponechány samy sobě, a vlády musí mít přehled, aby pochopily a posoudily, co AI společnosti dělají. Miliband poznamenal, že přední AI společnosti se zavázaly tento přehled poskytnout, a popsal to jako nabídku, kterou by měly vlády i společnosti naplnit.

Třetí, řekl, je odolnost: posílení obrany s cílem snížit dopad incidentů umožněných AI. I když je každý model testován, řekl, vlády musí být připraveny na zneužití AI. To zahrnuje posílení kybernetické obrany, ochranu kritické infrastruktury a posílení finančních systémů, stejně jako podporu obyvatelstva při řízení a přizpůsobení se narušení, které AI přinese do způsobu, jakým lidé žijí a pracují, a přitom využívat její výhody.

Institut AI Security a předsednictví G20

Miliband řekl, že Velká Británie bude v tomto procesu hrát plnou roli. Řekl, že Velká Británie založila první Institut AI Security, který popsal jako sdílející své odborné znalosti, testovací kapacity a výzkum a úzce spolupracující se Spojenými státy a předními laboratořemi na bezpečnosti AI.

instituce popisuje sama sebe jako výzkumnou organizaci v rámci Department for Science, Innovation and Technology, která testuje přední AI systémy před jejich veřejným uvedením a zveřejňuje hodnotící nástroje jako Inspect. Uvádí, že její výzkum zahrnuje kybernetické zneužití, ochranná opatření, sladění, kontrolu, autonomii, lidský vliv a společenskou odolnost, podporovaný financováním ve výši 66 milionů liber každý finanční rok, technickým týmem více než 100 lidí a přístupem k přednasazení předních AI modelů.

Také 23. září Cabinet Office oznámil, že Dr. Jade Leung se stane místopředsedou AI Security Institute a poradcem pro bezpečnost ve vládním AI Taskforce. Na konci září 2026 se odstoupí od svých plnohodnotných funkcí jako poradce premiéra pro AI a hlavní technologické ředitelky institutu z osobních důvodů, a v pravý čas bude jmenován nový poradce pro AI premiéra. Leung také přijme částečný úvazek jako Distinguished Visiting Fellow na Hoover Institution na Stanford University.

Miliband také řekl, že jak premiér Andy Burnham uvedl 22. září 2026, Spojené království zařadí AI do středu své předsednické funkce G20 v roce 2027, navazujíc na svůj záznam v sjednocování vlády, průmyslu, výzkumníků a občanské společnosti v této oblasti. Kancelář premiéra oznámila 22. září, že summit lídrů G20, který bude hostit Spojené království, se koná v Manchesteru v listopadu 2027, a že Spojené království převezme předsednictví po Spojených státech po summitu G20 v Miami v prosinci 2026. Ve stejné zprávě byl oznámen partnerství UK‑US v oblasti AI a autonomie, spojující Rapid AI Delivery Taskforce Ministerstva obrany s Úřadem pro digitální technologie a umělou inteligenci Ministerstva obrany USA, práce, o nichž zpráva uvádí, že urychlí dodávku důvěryhodných, interoperabilních schopností a pomůže chránit kritickou národní infrastrukturu, včetně mořských tras a vzdušného prostoru. Partnerství staví na technologii nové generace, která již byla vyvíjena v rámci AUKUS, uvádí zpráva.

Globální standardy a závěrečná výzva

Miliband poukázal na práci na dohodě o jednotném souboru globálních principů a standardů, o nichž řekl, že zajistí transparentnost a přístup potřebný ke zvýšení připravenosti a zajištění bezpečného vývoje AI. V odkazování na poznámku předchozího řečníka uvedl, že potenciál AI musí být využit jak v Globálním jihu, tak v Globálním severu, napříč otázkami od budoucnosti pracovních míst a ochrany dětí po kybernetickou bezpečnost, biosecurity, národní bezpečnost a finanční stabilitu.

21. září 2026 Generální tajemník OSN António Guterres vydal prohlášení, ve kterém uvítal Výzvu k regulaci hranicních modelů umělé inteligence, kterou zahájili prezident Finska a premiér Norska. Iniciativa vyzývá členské státy OSN, aby stavěly na existujících mezinárodních mechanismech a zkoumaly vytvoření mezinárodní instituce schopné stanovovat standardy, umožňovat ověřování a svolávat státy, když jsou překročeny prahové hodnoty schopností. Guterres také uvítal tematický briefing o bezpečnosti AI a rizicích spojených se ztrátou lidské kontroly od nezávislého mezinárodního vědeckého panelu pro AI a povzbudil externí odborníky, včetně těch z předních laboratoří AI a institutů bezpečnosti AI, aby se zapojili do panelu.

Miliband uzavřel tím, že odmítá myšlenku volby mezi pokrokem a bezpečností. Inovace a přínosy AI, řekl, budou realizovány jen tehdy, pokud lidé budou mít důvěru, že jsou zavedeny správné ochranné opatření, a vlády musí přijmout veškerá potřebná opatření, aby AI byla bezpečná, spolehlivá a důvěryhodná, a zároveň nadále rozvíjela svůj potenciál podpořit růst, léčit nemoci a transformovat životní šance lidí. „Nemůžeme říkat, že jsme nebyli varováni,“ řekl. „Byli jsme varováni.“ Vlády, řekl, musí jednat na základě varování zakladatelů a musí jednat společně.