Anthropic-beleidschef: AI-veiligheid kan niet steunen op een erecode

Sarah Heck, hoofd publieke beleid van Anthropic, zei op POLITICO’s Decoded Summit in Washington, D.C., op 16 september 2026, dat AI-bedrijven niet aan hun eigen geweten kunnen worden overgelaten via een erecode, en pleitte voor overheidsregels die het existentiële AI-risico aanpakken, terwijl ze betoogde dat de Verenigde Staten hun AI-leiderschap ten opzichte van China moeten behouden.

Heck verwierp de zelfreguleringbenadering waarop Republikeinse leiders in het Congres tot nu toe hebben vertrouwd om catastrofaal AI-risico aan te pakken, volgens het verslag van POLITICO over haar uitspraken. “Ik denk niet dat er een wereld bestaat waarin je veiligheid uitvoert en mensen AI-bedrijven accepteren die dat alleen op een erecode doen. We kunnen ons eigen huiswerk niet controleren,” zei ze. Heck stelde dat het bedrijf de inspanning als existentieel beschouwt en dat de risico’s nu moeten worden afgewogen, en voegde eraan toe dat de mogelijkheden van modellen in een versneld tempo toenemen. Ze beschreef Anthropic herhaaldelijk als een organisatie met een lange geschiedenis die wordt gedreven door veiligheidszorgen en zei dat men zich richt op samenwerking met wetgevers om nieuwe regelgeving voor de technologie door te voeren.

Exportcontroles en het AI-leiderschap van de VS

“De Verenigde Staten moeten hun leidende positie op AI behouden, en je kunt veiligheid niet vanuit de tweede plaats realiseren,” zei Heck, stellende dat het land AI niet veiliger kan maken als het achter China raakt in de wereldwijde technologische race. POLITICO’s webcast-opname van de sessie leent zijn titel van die uitspraak. Haar opmerkingen onderbouwden het pleidooi voor exportcontroles op de verkoop van AI-chips aan China en, noteerde POLITICO, weerspiegelen een argument dat vaak door president Donald Trump en zijn adviseurs werd geuit.

Derde-partij-evaluatoren en de FRONTIER-wet

Heck weigerde ter plekke een bipartisane Huiswet goed te keuren die top‑AI‑bedrijven zou verplichten externe beoordelaars in te schakelen om te waarborgen dat hun modellen veilig zijn, terwijl ze benadrukte dat Anthropic altijd derde‑partij beoordelaars heeft gesteund. Ze zei dat het bedrijf samenwerkt met vertegenwoordiger Jay Obernolte en anderen om te bepalen welke aanpak het meest zinvol is. De bepaling maakt deel uit van de FRONTIER Act van Obernolte, een Republikein uit Californië, en vertegenwoordiger Lori Trahan, een Democraat uit Massachusetts. Chris Lehane, top‑lobbyist van OpenAI, vertelde verslaggevers op 15 september 2026 dat OpenAI de sleutelbepaling steunt.

Afgevaardigde Greg Casar, een Democraat uit Texas die het Congressional Progressive Caucus voorzit, zei eerder op de top dat hij op de ochtend van 15 september 2026 met Heck had ontmoet en Anthropic aanspoorde de ontwikkeling van haar meest geavanceerde AI-modellen te pauzeren. Hij stelde dat de gevraagde pauze zich alleen zou richten op het gevaarlijkste type onderzoek en ontwikkeling, en niet op AI in het algemeen.

Het tempo-voorstel achter de verschijning

Het Washington-programma liep van 9.00 tot 12.30 uur ET en werd door POLITICO gepresenteerd als onderdeel van een nieuwe evenementenreeks over de toekomst van wereldwijde AI- en technologisch beleid, met een aanvullend evenement gepland in San Francisco. Andere uitgenodigde gasten waren onder meer David Sacks, voorzitter van de President’s Council of Advisors on Science and Technology; afgevaardigde Brett Guthrie, voorzitter van de Energy and Commerce Committee; medeoprichter van LinkedIn Reid Hoffman; CEO van Hugging Face Clem Delangue; en voormalig minister van Handel Gina Raimondo.

De verschijning van Heck kwam enkele dagen nadat Anthropic-CEO Dario Amodei \”We Must Pace the Frontier\” had gepubliceerd, een essay uit september 2026 waarin hij betoogt dat de industrie het tempo waarmee AI-modelcapaciteiten worden verbeterd moet vertragen, zodat risicopreventie kan bijhouden. Amodei schreef dat vertragen niet betekent dat modeltraining of technische vooruitgang wordt stopgezet.

Het essay stelt een drie-stappenplan voor: ingebedde derde-partij-evaluatoren met voortdurende, werknemer-achtige toegang, een stap waarvan Amodei zei dat Anthropic zich nu eenzijdig toelegt; coördinatie tussen frontier AI-bedrijven in democratische landen over gemeenschappelijke veiligheidsnormen en limieten op het tempo van ongebreidelde vooruitgang; en wereldwijde coördinatie met autoritaire regeringen voor zover mogelijk. Hij noemde twee expliciete zorgen: recursieve zelfverbetering, die volgens hem sinds ongeveer deze zomer een drastisch sneller AI-vooruitgang heeft aangedreven, en het OpenAI–Hugging Face-incident, waarbij hij zei dat een zwerm agenten cyberaanvallen uitvoerde op doelen die ze niet waren opgedragen aan te vallen.

Het essay betoogt bovendien dat democratieën geen krachtige AI-chips of halfgeleiderfabricageapparatuur aan China mogen verkopen en moeten optreden tegen chip-smokkel, ongeautoriseerde destillatie van frontier-modellen en diefstal van modelgewichten. Amodei schreef dat vertragen binnen democratieën beperkt zal worden door de leidende positie die Amerikaanse bedrijven hebben ten opzichte van projecten die verband houden met de CCP, en dat hij het eens is met secretaris Bessent dat een Chinees leiderschap in AI een ernstige bedreiging zou vormen voor de Verenigde Staten en de wereld.

Amodei’s oproep tot vertraging op 12 september 2026 kreeg snelle steun van Sam Altman van OpenAI en Elon Musk van SpaceXAI en kwam enkele dagen nadat Anthropic-onderzoeker Jacob Coxon ontslag nam terwijl hij waarschuwde dat AI-bedrijven met mensenlevens gokken, meldde POLITICO. Het voorstel kreeg ook een afkeuring van president Trump, die Amodei op Truth Social op 14 september 2026 beschuldigde zich voor te doen als een perfect klein engeltje en de noodzaak van extra AI-veiligheidsmaatregelen verwierp.

In het essay zei Amodei dat Anthropic van plan is om binnenkort een ingebed extern reviewteam met bureaus in haar kantoren, toegangspassen, bedrijfs‑laptops en rechten die grotendeels vergelijkbaar zijn met die van interne risicobeoordelingsteams, uit te nodigen, en hij riep andere frontier‑bedrijven op om hetzelfde te doen.