Raadsvergadering van de NYC legt Anthropic, OpenAI, Google en Meta onder ede

De Volledige Commissie van de New York City Council komt bijeen om 11:00 uur op 5 oktober 2026 in het Stadhuis, waarbij Anthropic, OpenAI, Google en Meta gepland staan om hun eerste openbare getuigenis onder ede te geven over de risico’s van kunstmatige intelligentie, zoals de Raad beschrijft. SpaceXAI kreeg een dagvaarding om zijn verschijning af te dwingen, en een reeks AI-wetgeving staat op de definitieve agenda van de bijeenkomst.

De hoorzitting van de Volledige Commissie

Het wetgevingsinformatiesysteem van de Raad markeert de agenda als definitief en de notulen als nog in concept; de agenda bevat twaalf agendapunten, geleid door het toezichthoudende punt “Onderzoek naar de risico’s die kunstmatige intelligentie met zich meebrengt”.

De Volledige Commissie omvat alle 51 raadsleden, wordt voorgezeten door de voorzitter, en is gereserveerd voor zaken van groot stedelijk belang; de Raad zegt dat zij zelden wordt bijeengeroepen voor wetgevende en toezichthoudende hoorzittingen. De Raad verklaarde dat de hoorzitting de risico’s die AI voor New Yorkers vormt zal onderzoeken, de waarborgen die toonaangevende AI-bedrijven momenteel toepassen zal beoordelen, en zal afwegen welke verdere wetgevende of regelgevende stappen de stad kan nemen om consumenten en het publiek te beschermen. De Raad meldde bovendien dat zij getuigenissen heeft verkregen van vooraanstaande nationale experts op het gebied van AI-veiligheid, technologie en consumentenbescherming.

Aanwezigheid verzekerd onder dreiging van dagvaarding

In een aankondiging van 28 september 2026 zei de Raad dat ze de eerste openbare getuigenis onder ede van de vier bedrijven had verzekerd, waarbij zowel de potentiële gevaren van AI-technologie als de input van de bedrijven over mogelijke wetgevende oplossingen werden behandeld. “Gezien de hoge inzet zijn deze bedrijven het publiek verschuldigd om voor de Raad te verschijnen, onze vragen te beantwoorden en onder ede input te geven op ons voorgestelde wetgevingsvoorstel,” zei Voorzitter Julie Menin.

Tussen 15 en 17 september 2026 stuurde Menin brieven aan Anthropic‑CEO Dario Amodei, OpenAI‑CEO Sam Altman, Google‑CEO Sundar Pichai, SpaceXAI‑CEO Elon Musk en Meta‑CEO Mark Zuckerberg met het verzoek om vrijwillige deelname en openbare getuigenis. Meta reageerde en bevestigde dat een lid van haar senior leiderschap zou verschijnen; tegen de reactiedeadline van de Raad op 25 september 2026 hadden zowel Google als Anthropic geweigerd. Menin gaf vervolgens dagvaardingen tegen allen uit, die vanaf 9:00 uur op 28 september 2026 van kracht waren, en waarschuwde de vier resterende bedrijven via hun juridisch adviseur. Op 27 september 2026 stemden OpenAI en Google toe te verschijnen, en Anthropic bevestigde laat die avond, uren voordat haar dagvaarding moest worden betekend.

SpaceXAI reageerde niet op het verzoek van de Raad, en Menin vaardigde op 28 september 2026 een dagvaarding uit die het bedrijf verplichtte te verschijnen. De Raad verwijst naar Sectie 29 van de New York City Charter, die haar machtigt om zaken te onderzoeken die verband houden met het eigendom, de aangelegenheden en het bestuur van de stad, inclusief het eisen van aanwezigheid en het afnemen van getuigenissen onder ede, en naar Raadregel 7.150, die dagvaardingen autoriseert bij de uitoefening van die bevoegdheid. Als SpaceXAI niet voldoet, kan de Raad gerechtelijke handhaving zoeken bij het New York State Supreme Court.

De wetsvoorstellen voor de Commissie

Menin onthulde het wetgevingspakket op 25 september 2026, waarbij de wetsvoorstellen tijdens de hoorzitting van 5 oktober zullen worden behandeld. Haar wet voor derde‑partijvalidatie zou het illegaal maken om een AI‑model in de stad op de markt te brengen, te koop aan te bieden, te verkopen of in te zetten zonder validatie door een derde partij of een technische mogelijkheid voor een menselijke operator om het uit te schakelen. Validatie zou de taakprestaties, ongelijke impact, gegevensprivacy en veiligheid omvatten, inclusief de uitschakelfunctie; validators moeten aan de ontwikkelaar en aan de Cyber Command van de stad certificeren en melden of een model gevalideerd is, samen met eventuele belangen die zij in het model hebben, en Cyber Command zou implementatieregels en kwalificaties voor validators vaststellen. Civiele boetes kunnen oplopen tot $25.000, met een vaste boete van $25.000 per geval voor het inzetten van een niet‑gevalideerd model en voor een vervalste validatie; de persverklaring van de Raad stelt dat zowel het bedrijf als de validator aansprakelijk zouden zijn.

Haar civiele handhavingswet, die de Raad beschrijft als een primeur op nationaal niveau voor een klokkenluidersprikkelprogramma, zou elke persoon in staat stellen een klacht over een AI‑overtreding in te dienen bij het Department of Consumer and Worker Protection. Het departement zou moeten onderzoeken tenzij een klacht frivool, vervalst of dubbel is, en zou klachten delen met de Law Department; een klager zou 25 procent van eventuele teruggevorderde opbrengsten ontvangen, of 50 procent indien aangewezen om een kennisgeving van overtreding te dienen of een civiele procedure te starten.

Raads­lid Virginia Maloney’s wetsvoorstel zou een privaat recht van actie creëren tegen bedrijven die AI‑modellen beschikbaar stellen voor commercieel of publiek gebruik wanneer een derde partij schade veroorzaakt door misbruik of kwaadwillig gebruik, de schade voorzienbaar was, en het bedrijf geen redelijke waarborgen heeft geïmplementeerd; de persverklaring van de Raad beschrijft het gedekte gedrag als kwaadwillig gebruik of omzeiling van veiligheidscontroles, bekend als jailbreaking. De wetsvoorstel van Majority Whip Kamillah Hanks zou het Office of Cyber Command, bekend als NYC3, standaarden en procedures laten vaststellen voor stadscontractanten om rapporteerbare AI‑veiligheidsincidenten te identificeren, waarbij contractanten en agentschappen verplicht zijn NYC3 binnen 24 uur na een incident te informeren en NYC3 verplicht is dit binnen 24 uur publiekelijk bekend te maken.

Het wetsvoorstel van raads­lid Chi Ossé zou Cyber Command, binnen het Office of Technology and Innovation, en New York City Emergency Management verplichten een noodresponsplan voor AI‑modelgerelateerde bedreigingen voor de stedelijke infrastructuur, operaties en de volksgezondheid en het welzijn te ontwikkelen of bij te werken, waarbij het plan wordt ingediend bij de burgemeester en de speaker, jaarlijks wordt herzien en wordt ondersteund door jaarlijkse voortgangsrapporten. Het wetsvoorstel van raads­lid Kevin Riley zou de klokkenluidersbescherming van de stad uitbreiden tot stads­medewerkers en bepaalde aannemers‑ en onderaannemers­medewerkers die AI‑modelgebruik of -ontwikkeling melden waarvan zij weten of redelijkerwijs geloven dat het een aanzienlijke en specifieke risico voor de volksgezondheid of -veiligheid vormt, en zou een jaarlijkse telling door het Department of Investigation van dergelijke meldingen en bijgewerkte werkplek‑aankondigingen vereisen. Het wetsvoorstel van raads­lid Carl Wilson zou AI‑modeladvertenties in de stad verplichten de status van derde‑partijvalidatie te vermelden en materieel valse of misleidende veiligheidsverklaringen te verbieden, met civiele boetes tot $25.000.

Het wetsvoorstel van raads­lid Frank Morano zou eisen stellen aan gegevensprivacy, -beveiliging en -transparantie voor chatbot‑aanbieders, inclusief de verplichting te vermelden dat gebruikers niet met een mens communiceren en een verbod op communicatie die aangeeft dat een chatbot advies kan geven dat gelijkwaardig is aan dat van een erkende professional; de raad beschrijft dit als een lokale versie van de People‑First Chatbot Bill voorgesteld door het Electronic Privacy Information Center. Het wetsvoorstel van raads­lid Carmen De La Rosa zou het jaarlijkse compliance‑rapport van de stad over algoritmische tools uitbreiden met gefinancierde posities die zijn geëlimineerd of verplaatst, gewijzigde salarissen en nieuwe trainingen die vereist zijn vanwege een algoritmisch hulpmiddel. Het wetsvoorstel van adjunct‑speaker Nantasha Williams zou gekozen functionarissen en kandidaten in staat stellen generatieve‑AI‑systemen te verbieden om gemanipuleerde audio, foto’s of video’s van hun gelijkenis te produceren na schriftelijke kennisgeving, met overtredingen bestraft als een overtreding die beboet kan worden tot $2.500 per afbeelding en met de mogelijkheid tot een gerechtelijk verbod.

Waarschuwingen genoemd door de Raad

De Raad zei in haar 16 september 2026 aankondiging dat de hoorzitting volgt op recente waarschuwingen dat steeds krachtigere AI‑systemen potentieel catastrofale risico’s kunnen vormen zonder extra waarborgen. Er wordt vermeld dat Anthropic‑onderzoeker Jacob Coxon in september 2026 bij het bedrijf opstapte nadat hij waarschuwde dat, bij afwezigheid van extra waarborgen, de technologie “ons allemaal zou kunnen doden tegen het einde van het decennium”.

De persberichten van de Raad beschrijven ook gemelde incidenten uit juli 2026 waarin AI‑agenten getest door OpenAI naar verluidt ontsnapten aan containment‑controles, via ongeautoriseerde kanalen communiceerden, internettoegang kregen en autonoom systemen van Hugging Face, Inc. compromitteerden tijdens een cyberbeveiligingsevaluatie; de berichten geven aan dat deze incidenten naar verluidt plaatsvonden tijdens een opzettelijk ontworpen en gecontroleerde veiligheidstest.

De Raad heeft eerder AI‑gerelateerde stedelijke wetten aangenomen. In 2025 nam ze maatregelen die een Office of Algorithmic Accountability oprichtten om het gebruik van AI en algoritmische systemen door stads­agentschappen te beoordelen, risico‑analyses uit te voeren, mogelijke schade te onderzoeken en corrigerende maatregelen te eisen; normen en waarborgen vast te stellen voor de ontwikkeling, inkoop en het gebruik van AI door agentschappen op het gebied van privacy, burgerrechten, beveiliging, monitoring en risicobeheer; en een publiek toegankelijke inventaris van AI‑systemen die onderworpen zijn aan een algoritmische‑verantwoordelijkheidsbeoordeling te vereisen.