Miliband vyzývá Radu bezpečnosti OSN k jednání na základě varování zakladatelů AI

Britský ministr zahraničí Ed Miliband řekl Radě bezpečnosti OSN dne 23. září 2026, že vlády musí společně jednat na základě varování pocházejících od zakladatelů umělé inteligence, a představil agendu testování bezpečnosti, transparentnosti AI společností a národní odolnosti. Foreign, Commonwealth & Development Office zveřejnil přepis, přesně tak, jak byl předložen v OSN v New Yorku, tentýž den.

UN Meetings Coverage zaznamenal schůzi jako 10 228. zasedání Rady bezpečnosti, odpolední setkání konané pod názvem “Artificial Intelligence and International Security”. Miliband zahájil poděkováním organizátorům setkání a odborným řečníkům, kteří, řekl, přinesli osvěcující příspěvek.

Varování zakladatelů a povinnost vlády

Miliband řekl Radě, že AI nepochybně má sílu proměnit svět k lepšímu, což, jak uvedl, je patrné v každodenním životě ve všech zemích zastoupených v místnosti. Ale, řekl, zakladatelé technologie nyní přicházejí k vládám s jasným varováním: obávají se její schopnosti způsobit škodu a tvrdí, že prevenci katastrofy nelze ponechat jen na nich.

Řekl, že vlády nemohou tato varování ignorovat, protože zakladatelé mají pravdu. Vlády, řekl, se nemohou zříci své odpovědnosti vůči občanům a nemohou předat soukromým společnostem první povinnost vlády, kterou je chránit veřejnost, ať už jde o jakýkoli problém.

Miliband uvedl, že Rada bezpečnosti byla založena k řešení největších kolektivních výzev své doby, a že povinnost nyní spočívá na vládách, aby spolupracovaly, a to i s průmyslem, v zájmu lidí, které zastupují. Řekl, že britská vláda je odhodlána tak učinit.

Bezpečnost, transparentnost a odolnost

Miliband vymezil tři oblasti činnosti. První, řekl, musí být bezpečnost: pracovat intenzivněji na zajištění, aby špičkové modely AI byly důkladně testovány, a vybudovat systém záruk kolem vývoje modelů, aby vlády mohly získat důvěru, že jsou modely bezpečné.

Druhou, řekl, je transparentnost. Společnosti, které modely vytvářejí, nemohou být prostě ponechány samy sobě, a vlády musí mít přehled, aby pochopily a posoudily, co AI společnosti dělají. Miliband poznamenal, že přední AI společnosti se zavázaly tento přehled poskytnout, a popsal to jako nabídku, kterou by měly vlády i společnosti naplnit.

Třetí, řekl, je odolnost: posílení obrany s cílem snížit dopad incidentů umožněných AI. I když je každý model testován, řekl, vlády musí být připraveny na zneužití AI. To zahrnuje posílení kybernetické obrany, ochranu kritické infrastruktury a posílení finančních systémů, stejně jako podporu obyvatelstva při řízení a přizpůsobení se narušení, které AI přinese do způsobu, jakým lidé žijí a pracují, a přitom využívat její výhody.

Institut AI Security a předsednictví G20

Miliband řekl, že Velká Británie bude v tomto procesu hrát plnou roli. Řekl, že Velká Británie založila první Institut AI Security, který popsal jako sdílející své odborné znalosti, testovací kapacity a výzkum a úzce spolupracující se Spojenými státy a předními laboratořemi na bezpečnosti AI.

Institut popisuje sám sebe jako výzkumnou organizaci v rámci Department for Science, Innovation and Technology, která testuje přední AI systémy před jejich veřejným uvedením a zveřejňuje jako otevřený zdrojový kód hodnotící nástroje jako Inspect. Uvádí, že její výzkum zahrnuje kybernetické zneužití, ochranná opatření, sladění, kontrolu, autonomii, lidský vliv a společenskou odolnost, podporovaný financováním ve výši 66 milionů liber každý finanční rok, technickým týmem více než 100 lidí a přístupem k předním AI modelům před jejich nasazením.

Také 23. září Cabinet Office oznámil, že Dr. Jade Leung se stane místopředsedkyní AI Security Institute a poradkyní pro bezpečnost ve vládním AI Taskforce. Na konci září 2026 odstoupí od svých funkcí poradkyně premiéra pro AI a hlavní technologické ředitelky institutu, které zastává na plný úvazek, z osobních důvodů, a v pravý čas bude jmenován nový poradce pro AI premiéra. Leung také přijme částečný úvazek jako Distinguished Visiting Fellow na Hoover Institution na Stanford University.

Miliband také řekl, že jak premiér Andy Burnham uvedl 22. září 2026, Spojené království zařadí AI do středu své předsednické funkce G20 v roce 2027, navazujíc na svůj záznam v sjednocování vlády, průmyslu, výzkumníků a občanské společnosti v této oblasti. Kancelář premiéra oznámila 22. září, že summit lídrů G20, který bude hostit Spojené království, se koná v Manchesteru v listopadu 2027, a že Spojené království převezme předsednictví po Spojených státech po summitu G20 v Miami v prosinci 2026. Ve stejné zprávě bylo oznámeno partnerství UK‑US v oblasti AI a autonomie, spojující Rapid AI Delivery Taskforce Ministerstva obrany s Úřadem pro digitální technologie a umělou inteligenci Ministerstva války USA, práce, o nichž zpráva uvádí, že urychlí dodávku důvěryhodných, interoperabilních schopností a pomůže chránit kritickou národní infrastrukturu, včetně mořských tras a vzdušného prostoru. Partnerství staví na technologii nové generace, která se již vyvíjí v rámci AUKUS, uvádí zpráva.

Globální standardy a závěrečná výzva

Miliband poukázal na práci na dohodě o jednotném souboru globálních principů a standardů, o nichž řekl, že zajistí transparentnost a přístup potřebný ke zvýšení připravenosti a zajištění bezpečného vývoje AI. V odkazování na poznámku předchozího řečníka uvedl, že potenciál AI musí být využit jak v Globálním jihu, tak v Globálním severu, napříč otázkami od budoucnosti pracovních míst a ochrany dětí po kybernetickou bezpečnost, biosecurity, národní bezpečnost a finanční stabilitu.

21. září 2026 Generální tajemník OSN António Guterres vydal prohlášení, ve kterém uvítal Výzvu k regulaci předních modelů umělé inteligence, kterou zahájili prezident Finska a premiér Norska. Iniciativa vyzývá členské státy OSN, aby stavěly na existujících mezinárodních mechanismech a zkoumaly vytvoření mezinárodní instituce schopné stanovovat standardy, umožňovat ověřování a svolávat státy, když jsou překročeny prahové hodnoty schopností. Guterres také uvítal tematický briefing o bezpečnosti AI a rizicích spojených se ztrátou lidské kontroly od nezávislého mezinárodního vědeckého panelu pro AI a povzbudil externí odborníky, včetně těch z předních laboratoří AI a institutů bezpečnosti AI, aby se zapojili do panelu.

Miliband uzavřel tím, že odmítá myšlenku volby mezi pokrokem a bezpečností. Inovace a přínosy AI, řekl, budou realizovány jen tehdy, pokud lidé budou mít důvěru, že jsou zavedena správná ochranná opatření, a vlády musí přijmout veškerá potřebná opatření, aby AI byla bezpečná, spolehlivá a důvěryhodná, a zároveň nadále rozvíjela svůj potenciál podpořit růst, léčit nemoci a transformovat životní šance lidí. „Nemůžeme říkat, že jsme nebyli varováni,“ řekl. „Byli jsme varováni.“ Vlády, řekl, musí jednat na základě varování zakladatelů a musí jednat společně.