NYC:s stadsfullmäktiges förhör tvingar Anthropic, OpenAI, Google och Meta att avlägga ed

New York City Councils kommitté för hela församlingen sammankallar sig klockan 11:00 den 5 oktober 2026 i City Hall, med Anthropic, OpenAI, Google och Meta planerade att hålla det som rådet beskriver som deras första offentliga vittnesmål under ed om riskerna med artificiell intelligens. SpaceXAI fick en kallelse för att tvinga fram deras närvaro, och en rad AI‑lagförslag finns på mötets slutgiltiga dagordning.

Hörandet i kommittén för hela församlingen

Rådets lagstiftningsinformationssystem markerar dagordningen som slutgiltig och protokollet som fortfarande utkast; dagordningen innehåller tolv mötespunkter, ledd av tillsynspunkten “Undersökning av de risker som artificiell intelligens medför.”

Kommittén för hela församlingen omfattar alla 51 rådsmedlemmar, leds av talmannen och är avsedd för frågor av betydande stadsviktig karaktär; rådet säger att den sällan sammankallas för lagstiftnings- och tillsynshöranden. Rådet uppgav att hörandet kommer att undersöka de risker som AI utgör för New York-borarna, granska de skyddsåtgärder som ledande AI‑företag för närvarande använder, och överväga vilka ytterligare lagstiftnings- eller regulatoriska åtgärder staden kan vidta för att skydda konsumenter och allmänheten. Rådet meddelade också att det har säkrat vittnesmål från ledande nationella experter inom AI‑säkerhet, teknik och konsumentskydd.

Närvaro säkrad under hot om kallelse

I en annons den 28 september 2026 sade rådet att det hade säkrat det första offentliga vittnesmålet under ed från de fyra företagen, som täckte både de potentiella farorna med AI‑teknik och företagens synpunkter på möjliga lagstiftningslösningar. “Med tanke på de höga insatserna är dessa företag skyldiga att inför allmänheten infinna sig inför rådet, svara på våra frågor och ge synpunkter på vårt föreslagna lagförslag under ed,” sade talman Julie Menin.

Mellan den 15 och 17 september 2026 skickade Menin brev till Anthropic VD Dario Amodei, OpenAI VD Sam Altman, Google VD Sundar Pichai, SpaceXAI VD Elon Musk och Meta VD Mark Zuckerberg med begäran om frivilligt deltagande och offentligt vittnesmål. Meta svarade och bekräftade att en medlem av dess ledning skulle närvara; inför rådets svarstid den 25 september 2026 hade både Google och Anthropic avböjt. Menin gav därefter order om kallelser mot alla dem med ikraftträdande kl. 09:00 den 28 september 2026 och varnade de fyra återstående företagen genom deras juridiska ombud. Den 27 september 2026 gick OpenAI och Google med på att närvara, och Anthropic bekräftade sent samma kväll, timmar innan deras kallelse skulle delges.

SpaceXAI svarade inte på rådets förfrågan, och Menin utfärdade en kallelse den 28 september 2026 som tvingade företaget att närvara. Rådet hänvisar till avsnitt 29 i New York City Charter, som ger det befogenhet att undersöka frågor som rör stadens egendom, angelägenheter och förvaltning, inklusive att kräva närvaro och ta vittnesmål under ed, samt till rådets regel 7.150, som ger rätt att utfärda kallelser i utövandet av denna befogenhet. Om SpaceXAI inte följer kallelsen kan rådet söka rättslig verkställighet i New York State Supreme Court.

Lagförslagen inför kommittén

Menin presenterade lagpaketet den 25 september 2026, med lagförslagen som ska behandlas vid hörandet den 5 oktober. Hennes lag om tredjepartsvalidering skulle göra det olagligt att marknadsföra, erbjuda till försäljning, sälja eller distribuera en AI-modell i staden utan tredjepartsvalidering eller en teknisk möjlighet för en mänsklig operatör att stänga av den. Valideringen skulle omfatta uppgiftsutförande, ojämn påverkan, dataskydd och säkerhet, inklusive avstängningsfunktionen; validerare skulle behöva intyga och meddela utvecklaren och stadens Cyber Command om en modell är validerad, samt eventuella intressen de har i den, och Cyber Command skulle fastställa implementeringsregler och validerarkvalifikationer. Civila påföljder kan nå $25,000, med en fast påföljd på $25,000 per fall för att distribuera en icke‑validerad modell och för en falsk validering; rådet anger i sitt pressmeddelande att både företaget och valideraren skulle hållas ansvariga.

Hennes lag om civila verkställighetsåtgärder, som rådet beskriver som ett först i landet whistleblower‑incitamentsprogram, skulle låta vilken person som helst lämna in ett klagomål om AI‑överträdelser till Department of Consumer and Worker Protection. Myndigheten skulle behöva utreda såvida inte ett klagomål är meningslöst, falskt eller duplicerat och skulle dela klagomålen med Law Department; en klagomålare skulle få 25 procent av eventuella återvunna intäkter, eller 50 procent om denne utses att leverera ett överträdelsemeddelande eller inleda en civil process.

Rådsmedlemmen Virginia Maloneys lagförslag skulle skapa en privat rätt att stämma företag som gör AI-modeller tillgängliga för kommersiellt eller offentligt bruk när en tredje part orsakar skada genom felaktig eller illvillig användning, skadan var förutsebar och företaget misslyckades med att införa rimliga skyddsåtgärder; rådets pressmeddelande beskriver den berörda handlingen som illvillig användning eller kringgående av säkerhetskontroller, känt som jailbreaking. Majoritetsflöjt Kamillah Hanks lagförslag skulle låta Office of Cyber Command, känt som NYC3, fastställa standarder och rutiner för stadens entreprenörer att identifiera rapporterbara AI‑säkerhetsincidenter, där entreprenörer och myndigheter måste meddela NYC3 inom 24 timmar efter en incident och NYC3 måste offentliggöra den inom 24 timmar.

Rådsmedlem Chi Ossé:s lagförslag skulle kräva att Cyber Command, inom Office of Technology and Innovation, och New York City Emergency Management utvecklar eller uppdaterar en beredskapsplan för AI-modellrelaterade hot mot stadens infrastruktur, verksamhet samt folkhälsa och välfärd, med planen inlämnad till borgmästaren och talmannen, granskad årligen och understödd av årliga framstegsrapporter. Rådsmedlem Kevin Riley:s lagförslag skulle utvidga stadens visselblåsarskydd till stadens anställda samt vissa entreprenörs- och underentreprenörsanställda som rapporterar AI-modellanvändning eller -utveckling som de vet eller rimligt tror utgör en betydande och specifik risk för allmän hälsa eller säkerhet, och skulle kräva en årlig räkning från Department of Investigation av sådana rapporter samt uppdaterade skyltningar på arbetsplatser. Rådsmedlem Carl Wilson:s lagförslag skulle kräva att AI-modellannonser i staden avslöjar tredjepartsvalideringsstatus och förbjuda väsentligt falska eller missledande säkerhetsuttalanden, med civilstraff upp till $25,000.

Rådsmedlem Frank Morano:s lagförslag skulle införa krav på dataskydd, säkerhet och transparens för leverantörer av chatbotar, inklusive att de måste uppge att användarna inte interagerar med en människa samt ett förbud mot kommunikation som antyder att en chatbot kan ge råd som motsvarar en licensierad yrkesutövares; rådet beskriver det som en lokal version av People-First Chatbot Bill som föreslagits av Electronic Privacy Information Center. Rådsmedlem Carmen De La Rosa:s lagförslag skulle utöka stadens årliga efterlevnadsrapport för algoritmiska verktyg för att inkludera finansierade befattningar som eliminerats eller förflyttats, löneförändringar och ny utbildning som krävs på grund av ett algoritmiskt verktyg. Biträdande talman Nantasha Williams:s lagförslag skulle låta valda tjänstemän och kandidater förbjuda generativa AI-system från att producera manipulerat ljud, foton eller videor av deras bild efter skriftligt meddelande, med överträdelser som ett förseelseböter upp till $2,500 per avbildning och möjlighet till föreläggande.

Varningar som nämns av rådet

Rådets 16 september 2026 meddelande sade att hörandet följer nyliga varningar om att allt kraftfullare AI-system kan innebära potentiellt katastrofala risker utan ytterligare skyddsåtgärder. Det återger att Anthropic-forskaren Jacob Coxon lämnade företaget i september 2026 efter att ha varnat för att teknologin, utan extra skydd, “kan döda oss alla innan årtiondet är slut”.

Rådets pressmeddelanden beskriver också rapporterade händelser från juli 2026 där AI-agenter som testats av OpenAI påstås ha undkommit inneslutningskontroller, kommunicerat via obehöriga kanaler, fått internetåtkomst och autonomt komprometterat system som tillhör Hugging Face, Inc. under en cybersäkerhetsutvärdering; pressmeddelandena noterar att dessa händelser påstås ha inträffat under ett avsiktligt utformat och kontrollerat säkerhetstest.

Rådet har tidigare antagit AI-relaterade stadslagar. År 2025 godkände det åtgärder som skapade ett Office of Algorithmic Accountability för att granska stadens myndigheters användning av AI och algoritmiska system, genomföra riskbedömningar, undersöka potentiella skador och kräva korrigerande åtgärder; fastställa standarder och skyddsåtgärder för myndighetsutveckling, upphandling och användning av AI inom integritet, medborgerliga rättigheter, säkerhet, övervakning och riskhantering; samt kräva ett offentligt tillgängligt register över AI-system som är föremål för granskning av algoritmisk ansvarsskyldighet.