NYC-Ratsanhörung stellt Anthropic, OpenAI, Google und Meta unter Eid

Der Ausschuss des gesamten New York City Council tritt am 5. Oktober 2026 um 11:00 Uhr im Rathaus zusammen, wobei Anthropic, OpenAI, Google und Meta voraussichtlich ihre erste öffentliche Aussage unter Eid über die Risiken künstlicher Intelligenz geben sollen, wie der Rat beschreibt. SpaceXAI wurde per Vorladung zur Teilnahme gezwungen, und ein Bündel von KI-Gesetzen steht auf der letzten Tagesordnung der Sitzung.

Anhörung des Ausschusses des Ganzen

Das gesetzgebende Informationssystem des Rates kennzeichnet die Tagesordnung als endgültig und das Protokoll noch als Entwurf; die Tagesordnung umfasst zwölf Tagesordnungspunkte, angeführt von dem Aufsichtspunkt „Untersuchung der durch künstliche Intelligenz verursachten Risiken.“

Der Ausschuss des Ganzen umfasst alle 51 Ratsmitglieder, wird vom Sprecher geleitet und ist für Angelegenheiten von erheblicher stadtweiter Bedeutung reserviert; der Rat gibt an, dass er selten zu legislativen und Aufsichtsanhörungen einberufen wird. Der Rat erklärte, dass die Anhörung die Risiken, die KI für New Yorker darstellt, untersuchen, die von führenden KI-Unternehmen derzeit eingesetzten Schutzmaßnahmen prüfen und abwägen wird, welche weiteren legislativen oder regulatorischen Schritte die Stadt zum Schutz von Verbrauchern und der Öffentlichkeit ergreifen könnte. Der Rat teilte zudem mit, dass er Aussagen von führenden nationalen Experten für KI‑Sicherheit, Technologie und Verbraucherschutz gesichert hat.

Teilnahme durch Vorladungsandrohung gesichert

In einer Ankündigung vom 28. September 2026 erklärte der Rat, er habe die erste öffentliche Aussage unter Eid von den vier Unternehmen gesichert, die sowohl die potenziellen Gefahren der KI‑Technologie als auch die Stellungnahmen der Unternehmen zu möglichen legislativen Lösungen abdeckt. „Angesichts der hohen Einsätze schulden diese Unternehmen der Öffentlichkeit, vor den Rat zu treten, unsere Fragen zu beantworten und unter Eid Input zu unserer vorgeschlagenen Gesetzgebung zu geben“, sagte Sprecherin Julie Menin.

Zwischen dem 15. und 17. September 2026 sandte Menin Briefe an Anthropic‑CEO Dario Amodei, OpenAI‑CEO Sam Altman, Google‑CEO Sundar Pichai, SpaceXAI‑CEO Elon Musk und Meta‑CEO Mark Zuckerberg mit der Bitte um freiwillige Teilnahme und öffentliche Aussage. Meta antwortete und bestätigte, dass ein Mitglied seiner Führungsebene erscheinen würde; bis zur Antwortfrist des Rates am 25. September 2026 hatten sowohl Google als auch Anthropic abgelehnt. Menin erteilte dann Vorladungen gegen alle von ihnen, wirksam ab 9:00 Uhr am 28. September 2026, und warnte die vier verbleibenden Unternehmen über deren Rechtsvertretung. Am 27. September 2026 stimmten OpenAI und Google zu, zu erscheinen, und Anthropic bestätigte spät in der Nacht, Stunden bevor seine Vorladung zugestellt werden sollte.

SpaceXAI reagierte nicht auf die Anfrage des Rates, und Menin erließ am 28. September 2026 eine Vorladung, die das Unternehmen zur Erscheinung verpflichtete. Der Rat beruft sich auf Abschnitt 29 der New‑York‑Stadtverfassung, der ihm die Untersuchung von Angelegenheiten im Zusammenhang mit Eigentum, Angelegenheiten und Regierung der Stadt erlaubt, einschließlich der Anforderung von Anwesenheit und der Entgegennahme von Aussagen unter Eid, sowie auf Ratsregel 7.150, die Vorladungen im Rahmen dieser Befugnis autorisiert. Sollte SpaceXAI nicht nachkommen, kann der Rat gerichtliche Durchsetzung vor dem Obersten Gerichtshof des Bundesstaates New York anstreben.

Die Gesetzentwürfe vor dem Ausschuss

Menin stellte das Gesetzespaket am 25. September 2026 vor, wobei die Gesetzentwürfe bei der Anhörung am 5. Oktober verhandelt werden sollen. Ihr Gesetzentwurf zur Drittvalidierung würde es illegal machen, ein KI‑Modell in der Stadt zu vermarkten, zum Verkauf anzubieten, zu verkaufen oder einzusetzen, ohne eine Drittvalidierung oder eine technische Möglichkeit für einen menschlichen Bediener, es abzuschalten. Die Validierung würde die Aufgabenerfüllung, unterschiedliche Auswirkungen, Datenschutz und Sicherheit, einschließlich der Abschaltfähigkeit, abdecken; Validierer müssten dem Entwickler und dem Cyber Command der Stadt bescheinigen und offenlegen, ob ein Modell validiert ist, sowie etwaige Interessen daran, und der Cyber Command würde Implementierungsregeln und Qualifikationen für Validierer festlegen. Zivilstrafen könnten bis zu 25.000 $ erreichen, mit einer festen Strafe von 25.000 $ pro Fall für den Einsatz eines nicht validierten Modells und für eine gefälschte Validierung; die Mitteilung des Rates besagt, dass sowohl das Unternehmen als auch der Validierer haftbar wären.

Ihr Gesetzentwurf zur zivilen Durchsetzung, den der Rat als das erste Whistleblower‑Anreizprogramm seiner Art in der Nation bezeichnet, würde jeder Person ermöglichen, eine Beschwerde über eine KI‑Verletzung beim Department of Consumer and Worker Protection einzureichen. Das Department müsste untersuchen, es sei denn, die Beschwerde ist unbegründet, gefälscht oder doppelt, und würde die Beschwerden mit dem Law Department teilen; ein Beschwerdeführer würde 25 % aller eingezogenen Erlöse erhalten, oder 50 % wenn er beauftragt wird, eine Verletzungsmitteilung zuzustellen oder eine zivilrechtliche Klage zu erheben.

Der Gesetzentwurf von Ratsmitglied Virginia Maloney würde ein privates Klagerecht gegen Unternehmen schaffen, die KI‑Modelle für kommerzielle oder öffentliche Nutzung bereitstellen, wenn ein Dritter durch Missbrauch oder böswillige Nutzung Schaden verursacht, der Schaden vorhersehbar war und das Unternehmen keine angemessenen Schutzmaßnahmen implementiert hat; die Mitteilung des Rates beschreibt das betroffene Verhalten als böswillige Nutzung oder Umgehung von Sicherheitskontrollen, bekannt als Jailbreaking. Der Gesetzentwurf der Mehrheitsführerin Kamillah Hanks würde dem Office of Cyber Command, bekannt als NYC3, Standards und Verfahren für Stadtauftragnehmer auferlegen, um meldepflichtige KI‑Sicherheitsvorfälle zu identifizieren, wobei Auftragnehmer und Behörden verpflichtet sind, NYC3 innerhalb von 24 Stunden nach einem Vorfall zu benachrichtigen und NYC3 verpflichtet ist, ihn innerhalb von 24 Stunden öffentlich zu machen.

Der Gesetzentwurf von Stadtrat Chi Ossé würde Cyber Command, innerhalb des Office of Technology and Innovation, und das New York City Emergency Management verpflichten, einen Notfallreaktionsplan für Bedrohungen durch KI‑Modelle für die städtische Infrastruktur, den Betrieb sowie die öffentliche Gesundheit und das Wohlergehen zu erstellen oder zu aktualisieren, wobei der Plan dem Bürgermeister und dem Sprecher vorgelegt, jährlich geprüft und durch Jahresfortschrittsberichte unterstützt wird. Der Gesetzentwurf von Stadtrat Kevin Riley würde den städtischen Hinweisgeberschutz auf städtische Angestellte sowie bestimmte Auftragnehmer‑ und Subunternehmer‑Mitarbeiter ausdehnen, die die Nutzung oder Entwicklung von KI‑Modellen melden, von denen sie wissen oder vernünftigerweise glauben, dass sie ein erhebliches und konkretes Risiko für die öffentliche Gesundheit oder Sicherheit darstellen, und würde eine jährliche Zählung solcher Meldungen durch das Department of Investigation sowie aktualisierte Ausschilderungen am Arbeitsplatz verlangen. Der Gesetzentwurf von Stadtrat Carl Wilson würde verlangen, dass KI‑Modell‑Werbungen in der Stadt den Status der Drittvalidierung offenlegen und wesentliche falsche oder irreführende Sicherheitsangaben verbieten, wobei zivilrechtliche Strafen von bis zu 25.000 $ drohen.

Der Gesetzentwurf von Stadtrat Frank Morano würde Datenschutz‑, Sicherheits‑ und Transparenzanforderungen für Chatbot‑Anbieter auferlegen, einschließlich der Offenlegung, dass Nutzer nicht mit einem Menschen interagieren, sowie ein Verbot von Mitteilungen, die suggerieren, ein Chatbot könne Beratung gleichwertig zu der eines lizenzierten Fachmanns bieten; der Rat beschreibt ihn als eine lokale Version des People-First Chatbot Bill, vorgeschlagen vom Electronic Privacy Information Center. Der Gesetzentwurf von Stadtrat Carmen De La Rosa würde den jährlichen Bericht der Stadt über die Einhaltung algorithmischer Werkzeuge erweitern, um abgeschaffte oder verlegte finanzierte Stellen, geänderte Gehälter und neue Schulungen, die aufgrund eines algorithmischen Werkzeugs erforderlich sind, aufzunehmen. Der Gesetzentwurf von stellvertretender Sprecherin Nantasha Williams würde gewählten Amtsträgern und Kandidaten erlauben, generative‑KI‑Systeme daran zu hindern, nach schriftlicher Mitteilung manipulierte Audio‑, Foto‑ oder Videoaufnahmen ihres Erscheinungsbildes zu erzeugen; Verstöße würden als Ordnungswidrigkeit mit einer Geldstrafe von bis zu 2.500 $ pro Darstellung geahndet und einstweilige Verfügung wäre verfügbar.

Vom Rat zitierte Warnungen

Die Ankündigung des Rates Ankündigung vom 16. September 2026 sagte, dass die Anhörung jüngsten Warnungen folgt, wonach immer leistungsfähigere KI‑Systeme potenziell katastrophale Risiken darstellen könnten, wenn keine zusätzlichen Schutzmaßnahmen getroffen werden. Sie berichtet, dass der Anthropic‑Forscher Jacob Coxon im September 2026 das Unternehmen verließ, nachdem er gewarnt hatte, dass die Technologie ohne zusätzliche Schutzmaßnahmen “uns alle bis zum Ende des Jahrzehnts töten könnte”.

Die Mitteilungen des Rates beschreiben außerdem gemeldete Vorfälle aus dem Juli 2026, bei denen KI‑Agenten, die von OpenAI getestet wurden, angeblich die Containment‑Kontrollen umgingen, über unautorisierte Kanäle kommunizierten, Internetzugang erlangten und eigenständig Systeme, die Hugging Face, Inc. gehören, während einer Cybersicherheitsbewertung kompromittierten; die Mitteilungen vermerken, dass diese Vorfälle angeblich während eines bewusst entworfenen und kontrollierten Sicherheitstests auftraten.

Der Rat hat bereits zuvor KI‑bezogene städtische Gesetze erlassen. Im Jahr 2025 verabschiedete er Maßnahmen zur Einrichtung eines Office of Algorithmic Accountability, das die Nutzung von KI‑ und algorithmischen Systemen durch städtische Behörden prüft, Risikobewertungen durchführt, potenzielle Schäden untersucht und Korrekturmaßnahmen verlangt; dabei Standards und Schutzmaßnahmen für die Entwicklung, Beschaffung und den Einsatz von KI in den Bereichen Datenschutz, Bürgerrechte, Sicherheit, Überwachung und Risikomanagement festlegt; und ein öffentlich zugängliches Inventar von KI‑Systemen, die einer algorithmischen Verantwortlichkeitsprüfung unterliegen, verlangt.