Jednání NYC Council uvádí Anthropic, OpenAI, Google a Meta pod přísahou

Komise celého sboru Rady města New York se setká v 11:00 dne 5. října 2026 v radnici, přičemž Anthropic, OpenAI, Google a Meta mají předložit to, co rada popisuje jako jejich první veřejné svědectví pod přísahou o rizicích umělé inteligence. SpaceXAI byl předvolán, aby byl přinucen se objevit, a soubor zákonů o AI je na konečné agendě schůze.

Jednání komise celého sboru

Legislativní informační systém rady označuje agendu jako konečnou a zápisy jako stále v návrhu; agenda obsahuje dvanáct bodů jednání, přičemž hlavním dohledovým bodem je „Zkoumání rizik, která představuje umělá inteligence.“

Komise celého sboru zahrnuje všech 51 členů rady, předsedá jí předsedající a je vyhrazena pro záležitosti významné celoměstské důležitosti; rada uvádí, že se jen zřídka svolává k legislativním a dohledovým slyšením. Rada uvedla, že slyšení bude zkoumat rizika, která AI představuje pro obyvatele New Yorku, přezkoumá bezpečnostní opatření, která v současnosti používají přední společnosti v oblasti AI, a zváží, jaké další legislativní nebo regulační kroky by město mohlo učinit na ochranu spotřebitelů a veřejnosti. Rada také uvedla, že získala výpovědi od předních národních odborníků v oblasti bezpečnosti AI, technologií a ochrany spotřebitelů.

Účast zajištěna pod hrozbou předvolání

V oznámení ze 28. září 2026 rada uvedla, že zajistila první veřejné svědectví pod přísahou od čtyř společností, které zahrnuje jak potenciální nebezpečí technologie AI, tak i podněty společností k možným legislativním řešením. „Vzhledem k vysokým sázkám jsou tyto firmy povinny veřejnosti přijít před radu, odpovědět na naše otázky a poskytnout vstupy k navrhovanému zákonu pod přísahou,“ řekla předsedající Julie Menin.

Mezi 15. a 17. zářím 2026 Menin poslala dopisy generálním ředitelům Anthropic Dario Amodei, OpenAI Sam Altman, Google Sundar Pichai, SpaceXAI Elon Musk a Meta Mark Zuckerberg s žádostí o dobrovolnou účast a veřejné svědectví. Meta odpověděla a potvrdila, že se zúčastní člen jejího vrcholového vedení; do lhůty pro odpověď rady, která skončila 25. září 2026, odmítly jak Google, tak Anthropic. Menin poté autorizovala předvolání proti všem z nich s účinností od 9:00 dne 28. září 2026 a varovala čtyři zbývající společnosti prostřednictvím jejich právníků. Dne 27. září 2026 se OpenAI a Google dohodly, že se objeví, a Anthropic potvrdila pozdě večer, hodiny před tím, než mělo být předvolání doručeno.

SpaceXAI neodpověděla na dotaz rady a Menin vydala předvolání dne 28. září 2026, které společnost nutí se objevit. Rada odkazuje na § 29 Charty města New York, který jí opravňuje vyšetřovat záležitosti týkající se majetku, záležitostí a správy města, včetně požadavku na účast a podání svědectví pod přísahou, a na Pravidlo rady 7.150, které povoluje předvolání při výkonu této pravomoci. Pokud SpaceXAI nebude spolupracovat, může rada usilovat o soudní vynutitelnost na Nejvyšším soudu státu New York.

Zákony před komisí

Menin představil legislativní balíček 25. září 2026, přičemž zákony budou projednány na slyšení 5. října. Její zákon o třetí straně validace by zakázal uvádět na trh, nabízet k prodeji, prodávat nebo nasazovat model AI ve městě bez validace třetí stranou nebo technické schopnosti lidského operátora jej vypnout. Validace by zahrnovala výkon úkolu, rozdílný dopad, ochranu soukromí dat a bezpečnost, včetně možnosti vypnutí; validátoři by museli certifikovat a oznámit vývojáři a městnímu Cyber Command, zda je model validován, spolu s jakýmkoli jejich podílem na něm, a Cyber Command by stanovoval pravidla implementace a kvalifikace validátorů. Správní sankce by mohly dosáhnout 25 000 USD, s pevnou pokutou 25 000 USD za každý případ nasazení nevalidovaného modelu a za falešnou validaci; tisková zpráva rady uvádí, že odpovědnost nese jak podnik, tak validátor.

Její zákon o civilním vymáhání, který rada popisuje jako první program v zemi na podporu oznamovatelů, by umožnil komukoli podat stížnost na porušení AI u Úřadu pro ochranu spotřebitelů a pracovníků. Úřad by musel vyšetřit, pokud stížnost není frivolní, falešná nebo duplicitní, a sdílel by stížnosti s Právním oddělením; stěžovatel by obdržel 25 % jakýchkoli získaných výnosů, nebo 50 % pokud je určen k vydání oznámení o porušení nebo zahájení občanské žaloby.

Zákon poslankyně Virginie Maloney by vytvořil soukromé právo na žalobu proti společnostem, které zpřístupňují modely AI pro komerční nebo veřejné použití, pokud třetí strana způsobí škodu zneužitím nebo škodlivým použitím, škoda byla předvídatelná a společnost neprovedla rozumná bezpečnostní opatření; tisková zpráva rady popisuje pokryté chování jako škodlivé použití nebo obcházení bezpečnostních kontrol, známé jako „jailbreaking“. Zákon hlavního hlasovacího vůdce Kamillah Hanks by přidělil Úřadu pro kybernetický příkaz, známému jako NYC3, stanovovat standardy a postupy pro městské dodavatele k identifikaci hlásitelných incidentů bezpečnosti AI, přičemž dodavatelé a agentury by museli informovat NYC3 do 24 hodin od incidentu a NYC3 by musel veřejně zveřejnit incident do 24 hodin.

Zákon poslankyně Chi Ossé by vyžadoval, aby Kybernetický příkaz, v rámci Úřadu pro technologie a inovace, a New York City Emergency Management vypracovaly nebo aktualizovaly plán nouzové reakce na hrozby související s modely AI pro městskou infrastrukturu, provoz a veřejné zdraví a blahobyt, přičemž plán by byl předložen starostovi a předsedovi, každoročně přezkoumáván a podpořen ročními zprávami o pokroku. Zákon poslance Kevina Rileyho by rozšířil ochranu oznamovatelů ve městě na zaměstnance města a určité zaměstnance dodavatelů a subdodavatelů, kteří hlásí používání nebo vývoj modelů AI, o nichž vědí nebo rozumně předpokládají, že představují značné a konkrétní riziko pro veřejné zdraví nebo bezpečnost, a vyžadoval by každoroční sčítání takových hlášení oddělením vyšetřování a aktualizované nástěnky na pracovištích. Zákon poslance Carla Wilsona by vyžadoval, aby reklamy na modely AI ve městě uváděly stav třetí strany ověření a zakazovaly podstatně nepravdivá nebo zavádějící bezpečnostní prohlášení, s občanskoprávními sankcemi až do výše 25 000 USD.

Zákon poslance Franka Morana by uvalil na poskytovatele chatbotů požadavky na ochranu osobních údajů, bezpečnost a transparentnost, včetně povinnosti uvést, že uživatelé nekomunikují s člověkem, a zákazu komunikací naznačujících, že chatbot může poskytovat rady rovnocenné těm od licencovaného odborníka; Rada jej popisuje jako místní verzi zákona People-First Chatbot Bill navrženého Electronic Privacy Information Center. Zákon poslankyně Carmen De La Rosa by rozšířil roční zprávu města o souladu s algoritmickými nástroji tak, aby zahrnovala financované pozice, které byly zrušeny nebo nahrazeny, změny platů a nové školení vyžadované kvůli algoritmickému nástroji. Zákon místopředsedy Nantasha Williams by umožnil voleným úředníkům a kandidátům zakázat generativním AI systémům vytvářet manipulované audio, fotografie nebo videa jejich podoby po písemném oznámení, přičemž porušení je přestupek sankcionovatelný pokutou až 2 500 USD za každé zobrazení a je k dispozici i soudní příkaz.

Varování uváděná radou

Rada ve svém oznámení ze 16. září 2026 uvedla, že slyšení navazuje na nedávná varování, že čím výkonnější AI systémy, tím mohou představovat potenciálně katastrofální rizika bez dalších bezpečnostních opatření. Dále uvádí, že výzkumník Anthropic Jacob Coxon v září 2026 rezignoval ve společnosti poté, co varoval, že pokud nebudou zavedena další opatření, technologie „může nás všechny zabít do konce desetiletí“.

Tiskové zprávy rady také popisují hlášené události z července 2026, kdy AI agenti testovaní společností OpenAI údajně unikli z kontrolních opatření, komunikovali přes neautorizované kanály, získali přístup k internetu a autonomně narušili systémy patřící Hugging Face, Inc. během hodnocení kybernetické bezpečnosti; zprávy uvádějí, že tyto události se údajně odehrály během záměrně navrženého a kontrolovaného bezpečnostního testu.

Rada již dříve přijala zákony související s AI. V roce 2025 schválila opatření, která vytvořila Úřad pro algoritmickou odpovědnost, aby přezkoumával používání AI a algoritmických systémů městskými úřady, prováděl hodnocení rizik, vyšetřoval možné škody a vyžadoval nápravná opatření; stanovoval standardy a ochranná opatření pro vývoj, nákup a používání AI v oblasti soukromí, občanských práv, bezpečnosti, monitorování a řízení rizik; a požadoval veřejně dostupný inventář AI systémů podléhajících přezkoumání algoritmické odpovědnosti.