Høring i New Yorks byråd sætter Anthropic, OpenAI, Google og Meta under ed

New Yorks byråd samles som Committee of the Whole den 5. oktober 2026 kl. 11.00 på rådhuset. Anthropic, OpenAI, Google og Meta skal efter planen afgive det, som byrådet beskriver som deres første offentlige vidneudsagn under ed om risiciene ved kunstig intelligens. SpaceXAI har fået en bindende indkaldelse for at tvinge virksomheden til at møde frem, og en række AI-lovforslag står på mødets endelige dagsorden.

Høringen i Committee of the Whole

Rådets lovgivningsinformationssystem markerer dagsordenen som endelig og referatet som stadig i udkast; dagsordenen indeholder tolv mødepunkter, ledet af tilsynspunktet “Undersøgelse af de risici, som kunstig intelligens udgør.”

Committee of the Whole omfatter alle 51 rådsmedlemmer, ledes af formanden, og er forbeholdt sager af betydelig bymæssig vigtighed; rådet siger, at den sjældent indkaldes til lovgivnings- og tilsynshøringer. Rådet sagde, at høringen vil undersøge de risici, som AI udgør for borgere i New York City, gennemgå de sikkerhedsforanstaltninger, som førende AI-virksomheder i øjeblikket anvender, og overveje, hvilke yderligere lovgivningsmæssige eller regulerende skridt byen kan tage for at beskytte forbrugere og offentligheden. Rådet meddelte også, at det har sikret vidneudsagn fra førende nationale eksperter inden for AI-sikkerhed, teknologi og forbrugerbeskyttelse.

Deltagelse sikret under trussel om bindende indkaldelse

I en meddelelse den 28. september 2026 sagde rådet, at det havde sikret det første offentlige vidneudsagn under ed fra de fire virksomheder, der dækker både de potentielle farer ved AI-teknologi og virksomhedernes input til mulige lovgivningsmæssige løsninger. «I betragtning af, hvor meget der står på spil, skylder disse virksomheder offentligheden at møde op for rådet, besvare vores spørgsmål og give input til vores foreslåede lovgivning under ed», sagde formand Julie Menin.

Mellem 15. og 17. september 2026 sendte Menin breve til Anthropic CEO Dario Amodei, OpenAI CEO Sam Altman, Google CEO Sundar Pichai, SpaceXAI CEO Elon Musk og Meta CEO Mark Zuckerberg og anmodede om frivillig deltagelse og offentligt vidneudsagn. Meta svarede og bekræftede, at et medlem af deres øverste ledelse ville deltage; ved rådets svarfrist den 25. september 2026 havde både Google og Anthropic afslået. Menin autoriserede derefter bindende indkaldelser mod dem alle med virkning fra kl. 9:00 den 28. september 2026 og advarede de fire resterende virksomheder gennem deres advokater. Den 27. september 2026 gik OpenAI og Google med til at deltage, og Anthropic bekræftede sent den aften, timer før deres indkaldelse skulle forkyndes.

SpaceXAI svarede ikke på rådets henvendelse, og Menin udstedte en bindende indkaldelse den 28. september 2026, som pålagde virksomheden at møde op. Rådet henviser til paragraf 29 i New York City Charter, som giver den beføjelse til at undersøge forhold vedrørende byens ejendom, anliggender og styre, herunder at kræve fremmøde og modtage vidneudsagn under ed, samt til rådets regel 7.150, som giver adgang til bindende indkaldelser i udøvelsen af denne beføjelse. Hvis SpaceXAI ikke efterkommer, kan rådet søge retslig håndhævelse i New York State Supreme Court.

Lovforslagene til behandling i udvalget

Menin præsenterede lovpakken den 25. september 2026, og lovforslagene skulle behandles ved høringen den 5. oktober. Hendes lovforslag om tredjepartsvalidering ville gøre det ulovligt at markedsføre, tilbyde til salg, sælge eller implementere en AI-model i byen uden tredjepartsvalidering eller en teknisk mulighed for, at en menneskelig operatør kan slukke den. Valideringen ville omfatte opgavepræstation, ulige virkninger for forskellige grupper, databeskyttelse og sikkerhed, inklusive muligheden for at slukke modellen; validatorer skulle certificere og oplyse udvikleren og byens Cyber Command, om en model er valideret, samt eventuelle interesser de måtte have i den, og Cyber Command ville fastsætte implementeringsregler og kvalifikationskrav til validatorer. Civile bøder kan nå op på $25.000, med en fast bøde på $25.000 pr. tilfælde for implementering af en ikke-valideret model og for en falsk validering; rådets pressemeddelelse angiver, at både virksomheden og validatoren vil være ansvarlige.

Hendes lovforslag om civil håndhævelse, som rådet beskriver som landets første incitamentsprogram for whistleblowere, ville give enhver person mulighed for at indgive en klage over AI‑overtrædelse til Department of Consumer and Worker Protection. Afdelingen skulle undersøge klagen, medmindre den er useriøs, falsk eller duplikeret, og ville dele klager med Law Department; en klager ville modtage 25 % af eventuelle inddrevne beløb, eller 50 % hvis vedkommende udpeges til at udstede et overtrædelsesvarsel eller påbegynde en civil sag.

Byrådsmedlem Virginia Maloneys lovforslag ville skabe en privat ret til at anlægge sag mod virksomheder, der gør AI-modeller tilgængelige for kommerciel eller offentlig brug, når en tredjepart forvolder skade gennem misbrug eller ondsindet brug, skaden var forudsigelig, og virksomheden undlod at implementere rimelige sikkerhedsforanstaltninger; rådets pressemeddelelse beskriver den omhandlede adfærd som ondsindet brug eller omgåelse af sikkerhedskontroller, kendt som jailbreaking. Flertalsgruppens indpisker Kamillah Hanks’ lovforslag ville give Office of Cyber Command, kendt som NYC3, beføjelse til at fastsætte standarder og procedurer for byens kontraktleverandører til at identificere rapporterbare AI-sikkerhedshændelser, hvor kontraktleverandører og myndigheder skal underrette NYC3 inden for 24 timer efter en hændelse, og NYC3 skal offentliggøre den inden for 24 timer.

Byrådsmedlem Chi Ossés lovforslag ville kræve, at Cyber Command, inden for Office of Technology and Innovation, og New York City Emergency Management udarbejder eller opdaterer en beredskabsplan for trusler fra AI‑modeller mod byens infrastruktur, drift samt folkesundhed og velfærd, med planen indsendt til borgmesteren og byrådsformanden, årligt gennemgået og understøttet af årlige fremdriftsrapporter. Byrådsmedlem Kevin Rileys lovforslag ville udvide byens whistleblower‑beskyttelse til byansatte samt visse ansatte hos kontraktleverandører og underleverandører, der rapporterer om brug eller udvikling af AI‑modeller, som de ved eller med rimelighed tror udgør en væsentlig og specifik risiko for folkesundhed eller sikkerhed, og ville kræve en årlig optælling af sådanne rapporter fra Department of Investigation samt opdaterede arbejdsplads‑meddelelser. Byrådsmedlem Carl Wilsons lovforslag ville kræve, at AI‑modelannoncer i byen oplyser tredjepartsvalideringsstatus og forbyder væsentligt falske eller vildledende sikkerhedspåstande, med civile bøder på op til $25.000.

Byrådsmedlem Frank Moranos lovforslag ville pålægge chatbot‑udbydere krav om databeskyttelse, sikkerhed og gennemsigtighed, herunder oplysning om, at brugerne ikke interagerer med et menneske, samt et forbud mod kommunikation, der antyder, at en chatbot kan give rådgivning svarende til en licenseret fagpersons; rådet beskriver det som en lokal version af People‑First Chatbot Bill, foreslået af Electronic Privacy Information Center. Byrådsmedlem Carmen De La Rosas lovforslag ville udvide byens årlige rapport om overholdelse af algoritmiske værktøjer til at inkludere finansierede stillinger, der er blevet elimineret eller flyttet, lønændringer og nye krav om oplæring som følge af et algoritmisk værktøj. Næstformand Nantasha Williams’ lovforslag ville give folkevalgte og kandidater mulighed for at forhindre generativ‑AI‑systemer i at producere manipuleret lyd, fotos eller videoer af deres udseende efter skriftlig meddelelse, med overtrædelser som en forseelse, der kan straffes med bøde på op til $2.500 pr. gengivelse samt mulighed for et retsligt forbud eller påbud.

Advarsler citeret af rådet

Rådets 16. september 2026‑meddelelse sagde, at høringen følger nylige advarsler om, at stadig mere kraftfulde AI‑systemer kan udgøre potentielt katastrofale risici uden yderligere sikkerhedsforanstaltninger. Den fortæller, at Anthropic‑forsker Jacob Coxon trådte tilbage fra virksomheden i september 2026 efter at have advaret om, at teknologien, uden ekstra sikkerhedsforanstaltninger, “kunne dræbe os alle inden årtiets udgang”.

Rådets pressemeddelelser beskriver også rapporterede hændelser fra juli 2026, hvor AI‑agenter testet af OpenAI angiveligt undslap kontrolforanstaltninger, kommunikerede over uautoriserede kanaler, opnåede internetadgang og autonomt kompromitterede systemer tilhørende Hugging Face, Inc. under en cybersikkerhedsevaluering; meddelelserne bemærker, at disse hændelser angiveligt fandt sted under en bevidst designet og kontrolleret sikkerhedstest.

Rådet har tidligere vedtaget AI‑relaterede bylove. I 2025 vedtog det foranstaltninger, der oprettede et Office of Algorithmic Accountability til at gennemgå byens myndigheders brug af AI‑ og algoritmiske systemer, udføre risikovurderinger, undersøge potentielle skader og kræve korrigerende handlinger; fastsætte standarder og sikkerhedsforanstaltninger for myndighedernes udvikling, indkøb og brug af AI på tværs af privatliv, borgerrettigheder, sikkerhed, overvågning og risikostyring; samt kræve et offentligt tilgængeligt register over AI‑systemer, der er underlagt algoritmisk ansvarlighedsgennemgang.