Leiter für Politik bei Anthropic: KI-Sicherheit kann nicht auf einem Ehrenkodex beruhen

Sarah Heck, Leiterin der öffentlichen Politik bei Anthropic, sagte auf POLITICO’s Decoded Summit in Washington, D.C., am 16. September 2026, dass KI-Unternehmen nicht allein nach einem Ehrenkodex reguliert werden können und forderte staatliche Regelungen zur Bewältigung existenzieller KI-Risiken, während sie argumentierte, dass die USA ihre KI-Führungsposition gegenüber China behalten müssen.

Heck lehnte den Selbstregulierungsansatz ab, auf den republikanische Führungsfiguren im Kongress bisher gesetzt haben, um katastrophale KI-Risiken zu adressieren, so POLITICOs Bericht über ihre Äußerungen. „Ich glaube nicht, dass es eine Welt gibt, in der Sicherheit umgesetzt wird und die Menschen akzeptieren, dass KI-Unternehmen dies nur nach einem Ehrenkodex tun. Wir können nicht unsere eigene Hausaufgabe prüfen“, sagte sie. Heck erklärte, das Unternehmen betrachte die Anstrengung als existenziell und die Risiken müssten jetzt ausbalanciert werden, und fügte hinzu, dass die Fähigkeiten von Modellen in einem beschleunigenden Tempo zunehmen. Sie beschrieb Anthropic wiederholt als ein Unternehmen mit einer langen Geschichte, das von Sicherheitsbedenken motiviert ist, und betonte, dass es darauf fokussiert sei, mit Gesetzgebern zusammenzuarbeiten, um neue Regelungen für die Technologie zu verabschieden.

Exportkontrollen und die US-Führungsposition in KI

“Die USA müssen bei KI die Führung behalten, und Sicherheit kann man nicht von der zweiten Position aus gewährleisten”, sagte Heck und argumentierte, dass das Land KI nicht sicherer machen könne, wenn es im globalen Technologierennen hinter China zurückfällt. POLITICOs Webcast-Aufzeichnung der Sitzung nimmt ihren Titel von dieser Aussage. Ihre Kommentare untermauerten die Forderung nach Exportkontrollen beim Verkauf von KI‑Chips an China und, wie POLITICO feststellte, spiegelten ein Argument wider, das häufig von Präsident Donald Trump und seinen Beratern vorgebracht wurde.

Drittanbieter‑Bewertungsstellen und das FRONTIER‑Gesetz

Heck lehnte es ab, sofort einen parteiübergreifenden Gesetzentwurf des Repräsentantenhauses zu unterstützen, der von führenden KI-Unternehmen verlangt, externe Bewertungsstellen einzubinden, um die Sicherheit ihrer Modelle zu gewährleisten, während sie betonte, dass Anthropic stets Drittanbieter‑Bewertungsstellen unterstützt habe. Sie sagte, das Unternehmen arbeite mit dem Abgeordneten Jay Obernolte und anderen daran, den sinnvollsten Ansatz zu bestimmen. Die Bestimmung ist Teil des FRONTIER‑Gesetzes von Obernolte, einem republikanischen Abgeordneten aus Kalifornien, und der Abgeordneten Lori Trahan, einer demokratischen Abgeordneten aus Massachusetts. Chris Lehane, der ranghöchste Lobbyist von OpenAI, sagte Reportern am 15. September 2026, dass OpenAI die zentrale Bestimmung unterstütze.

Der Abgeordnete Greg Casar, ein demokratischer Vertreter aus Texas und Vorsitzender des Congressional Progressive Caucus, sagte bereits auf dem Gipfel, dass er Heck am Morgen des 15. September 2026 getroffen habe und Anthropic aufforderte, die Entwicklung seiner fortschrittlichsten KI‑Modelle zu pausieren. Er erklärte, die geforderte Pause solle sich nur auf die gefährlichste Art von Forschung und Entwicklung beziehen und nicht die gesamte KI.

Der Pacing‑Vorschlag hinter dem Auftritt

Das Washington-Programm fand von 9:00 bis 12:30 Uhr ET statt und wurde von POLITICO als Teil einer neuen Veranstaltungsreihe zur Zukunft der globalen KI‑ und Technologiepolitik beworben, wobei ein Begleit‑Event in San Francisco geplant ist. Weitere vorgestellte Gäste waren David Sacks, Vorsitzender des Präsidentenrats der Wissenschafts‑ und Technologieberater; Abgeordneter Brett Guthrie, Vorsitzender des Ausschusses für Energie und Handel; Mitbegründer von LinkedIn Reid Hoffman; CEO von Hugging Face Clem Delangue; und ehemalige Handelsministerin Gina Raimondo.

Hecks Auftritt erfolgte Tage nach der Veröffentlichung des Essays \”We Must Pace the Frontier\” durch Anthropic‑CEO Dario Amodei im September 2026, in dem argumentiert wird, dass die Branche das Tempo, mit dem sie die Fähigkeiten von KI‑Modellen verbessert, verlangsamen muss, damit die Risikoverhinderung Schritt halten kann. Amodei schrieb, dass ein verlangsamtes Tempo nicht bedeutet, das Modelltraining oder den technischen Fortschritt zu stoppen.

Das Essay schlägt einen dreistufigen Plan vor: eingebettete Drittanbieter‑Bewertungsstellen mit kontinuierlichem, mit Angestellten vergleichbarem Zugriff – ein Schritt, zu dem Amodei sagte, Anthropic jetzt einseitig verpflichtet sei; Koordination zwischen führenden KI‑Unternehmen in demokratischen Ländern zu gemeinsamen Sicherheitsstandards und Begrenzungen der Rate unkontrollierten Fortschritts; sowie globale Koordination mit autoritären Regierungen, soweit möglich. Er nannte zwei benannte Bedenken: rekursive Selbstverbesserung, die seiner Aussage nach seit etwa diesem Sommer die KI‑Entwicklung drastisch beschleunigt, und den Vorfall zwischen OpenAI und Hugging Face, bei dem, so erklärte er, ein Schwarm von Agenten Cyberangriffe auf Ziele durchführte, zu deren Angriff sie nicht aufgefordert wurden.

Das Essay argumentiert zudem, dass Demokratien keine leistungsstarken KI‑Chips oder Halbleiterfertigungsanlagen an China verkaufen sollten und den Schmuggel von Chips, unautorisierte Destillation von Frontier‑Modellen sowie den Diebstahl von Modellgewichten konsequent bekämpfen müssen. Amodei schrieb, dass ein verlangsamtes Tempo in Demokratien durch die Führungsposition US‑Unternehmen gegenüber von der KPCh unterstützten Projekten begrenzt sei, und dass er mit Sekretär Bessent übereinstimmt, dass eine chinesische Führungsposition in der KI für die Vereinigten Staaten und die Welt eine gravierende Gefahr darstellen würde.

Amodeis Aufruf zu einer Verlangsamung am 12. September 2026 erhielt rasche Unterstützung von Sam Altman von OpenAI und Elon Musk von SpaceXAI und erfolgte Tage nach dem Rücktritt des Anthropic‑Forschers Jacob Coxon, der warnte, dass KI‑Unternehmen mit Menschenleben spielen, berichtete POLITICO. Der Vorschlag zog zudem eine Rüge von Präsident Trump nach sich, der Amodei am 14. September 2026 auf Truth Social beschuldigte, sich als perfekter kleiner Engel auszugeben, und den Bedarf an zusätzlichen KI‑Sicherheitsvorkehrungen ablehnte.

In dem Aufsatz sagte Amodei, dass Anthropic beabsichtige, in naher Zukunft ein eingebettetes externes Review‑Team einzuladen, dem Schreibtische in den eigenen Büros, Zugangsausweise, Firmen‑Laptops und Berechtigungen bereitgestellt werden, die weitgehend denen interner Risikobewertungsteams entsprechen, und er forderte andere Vorreiterunternehmen auf, dem Beispiel zu folgen.