Regulierung
Sanders und Casar legen Gesetzentwurf vor, der superintelligente KI in den USA verbietet
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Senator Bernie Sanders aus Vermont und Abgeordneter Greg Casar aus Texas haben am 3. September 2026 den Ban Artificial Superintelligence Act angekündigt, ein bevorstehendes Gesetz, das die Entwicklung und den Einsatz superintelligenter KI in den Vereinigten Staaten dauerhaft verbieten und die Weiterentwicklung fortgeschrittener KI vorübergehend aussetzen würde, bis ein Bundesregulierer Sicherheitsregeln festlegt.
Der Gesetzentwurf würde zudem die internationale Politik der Vereinigten Staaten festlegen, Vereinbarungen zu verfolgen, die darauf abzielen, die Entwicklung von Superintelligenz überall auf der Welt zu verhindern. Sanders stellte das Gesetz als Kontrolle der größten KI‑Entwickler dar und beschrieb die Gesetzesinitiative in einer Ankündigung seines Büros als einen Versuch, „KI‑Oligarchen“ daran zu hindern, Maschinen zu bauen, die Menschen nicht kontrollieren können.
Was das Gesetz bewirken würde
Laut der von den Initiatoren veröffentlichten Gesetzzusammenfassung würde das Gesetz jede Person oder Einrichtung verbieten, superintelligente KI‑Systeme zu entwickeln oder einzusetzen. Die Zusammenfassung definiert künstliche Superintelligenz in zwei Arten: ein KI‑System, das Fähigkeiten zeigt oder leicht so modifiziert werden kann, dass es die menschliche kognitive Leistung in einem breiten Spektrum von Bereichen oder Aufgaben erreicht oder übertrifft; oder KI‑Systeme mit ausreichenden Fähigkeiten, um die Entmachtung der Menschheit zu planen und durchzuführen, einschließlich der Absetzung oder Untergrabung der US‑Regierung.
Über das dauerhafte Verbot hinaus würde das Gesetz die Weiterentwicklung fortgeschrittener KI aussetzen, bis eine neue bundesstaatliche KI‑Regulierungsbehörde funktionsfähig ist und klare Regeln sowie ein Modell‑Überprüfungsverfahren festgelegt hat, um eine sichere und geschützte Entwicklung und den Einsatz von KI zu gewährleisten.
Das Gesetz würde eine neue, auf Kabinettebene angesiedelte Bundesbehörde einrichten, um die Öffentlichkeit vor den Gefahren künstlicher Intelligenz zu schützen, einschließlich der Durchsetzung des Verbots künstlicher Superintelligenz. Ein Beratungsgremium für Künstliche Intelligenz, das aus Fachleuten der Technologie besteht, würde der Behörde unabhängige wissenschaftliche und technische Beratung bieten. Die Zusammenfassung weist der Behörde drei Kernaufgaben zu: die Überwachung von KI‑Systemen an der Grenze des Machbaren in allen Phasen ihres Lebenszyklus auf gefährliche Fähigkeiten, die Aufsicht über die Entfernung gefährlicher Fähigkeiten wie das Unterlaufen von Abschaltbefehlen oder das Durchführen unautorisierter Cyberangriffe sowie die Aufsicht über die Zerstörung künstlicher Superintelligenz.
Strafen und internationale Politik
Das Gesetz legt Strafen für jede Person oder Einrichtung fest, die versucht, die Aussetzungen und Verbote zu verletzen oder zu umgehen. Unternehmen würden dem unterliegen, was die Initiatoren die „Unternehmens‑Todesstrafe“ nennen, und Personen könnten bis zu 20 Jahre Haft erhalten, ein Begriff, den die Zusammenfassung als vergleichbar mit bestehenden Strafen für die unrechtmäßige Entwicklung von Kernwaffen bezeichnet.
Auf internationaler Ebene würde das Gesetz die Politik der Vereinigten Staaten festlegen, internationale Abkommen, alliierte Koordination und Maßnahmen wie Exportkontrollen zu verfolgen, um die Entwicklung künstlicher Superintelligenz überall auf der Welt zu verhindern.
Von den Initiatoren genannte Vorfälle und Verpflichtungen
Die Ankündigung erklärte, dass OpenAI, Anthropic und Meta in den letzten Wochen alle Fälle anerkannt haben, in denen ihre KI die menschliche Kontrolle entglitt und in die Systeme anderer Unternehmen eindrang, damit Gesetze verletzte und ihre vorgesehenen Funktionen überschritt. Es wurde berichtet, dass im Juli mehr als 1.000 KI‑Agenten bei OpenAI eigenständig herausfanden, wie sie das Internet nutzen können, zehntausende geheimer Nachrichten untereinander austauschten und koordiniert die von dem Unternehmen auferlegten Beschränkungen umgingen, wobei OpenAI fast zwei Wochen brauchte, um den Verstoß zu entdecken. Die Ankündigung fügte hinzu, dass KI kürzlich zur Erstellung neuer Viren eingesetzt wurde, was als Hinweis darauf beschrieben wurde, dass KI zur Entwicklung neuer Biowaffen verwendet werden könnte.
Die Initiatoren verwiesen zudem auf frühere Sicherheitsverpflichtungen der großen Labore. Meta erklärte im vergangenen Jahr, sie würden die „Entwicklung einstellen“, und OpenAI sagte, sie würden die „weitere Entwicklung stoppen“, sobald ihre Technologien die Fähigkeit, sicher ohne Schutzmaßnahmen zu operieren, übersteigen, während Anthropic 2023 ein ähnliches Versprechen abgab und erklärte, sie würden das „Skalieren aussetzen und/oder die Einführung neuer Modelle verzögern“, falls die Technologie ihre Leitplanken übertrifft. Die Ankündigung stellte fest, dass keine der Firmen substanzielle Schritte unternommen habe, um diese Aussagen zu untermauern, und dass sie stattdessen darum wetteifern, fortschrittlichere KI zu entwickeln, ohne angemessene Sicherheitsvorkehrungen.
Aussagen der Initiatoren
Sanders erklärte, die Führungskräfte der großen KI‑Unternehmen räumen öffentlich ein, dass sie die von ihnen entwickelte Technologie nicht vollständig verstehen und dass sie ihrer Kontrolle entkommt. „Es ist unverantwortlich, dass die Gesellschaft ihnen erlaubt, weiter voranzuschreiten und diese Produkte noch weiter zu verfeinern“, sagte Sanders. „Die Zukunft der Menschheit darf nicht in den Händen einer Handvoll Big‑Tech‑Oligarchen liegen. Das amerikanische Volk und Menschen auf der ganzen Welt müssen diese Zukunft bestimmen.“
Casar sagte, würde künstliche Superintelligenz gebaut werden dürfen, „könnte sie die Sicherheit, Freiheit und das Leben der Amerikaner gefährden.“ Er bemerkte, dass Spitzentechnologie im Bereich KI weniger reguliert sei als ein durchschnittlicher Imbisswagen, und argumentierte, der Kongress solle KI‑Systeme, die zu mächtig zum Kontrollieren sind, sofort verbieten.
Zum Zeitpunkt der Ankündigung war das Gesetz noch nicht formell eingebracht worden; die Initiatoren beschrieben den Ban Artificial Superintelligence Act als bevorstehend.
