Șeful de politici la Anthropic: Siguranța AI nu se poate baza pe un cod de onoare

Sarah Heck, șefa de politici publice a Anthropic, a declarat la POLITICO’s Decoded Summit din Washington, D.C., pe 16 septembrie 2026, că firmele de AI nu pot fi lăsate să se auto‑reglementeze pe baza unui cod de onoare, solicitând reglementări guvernamentale care să abordeze riscul existențial al AI, în timp ce susține că Statele Unite trebuie să își mențină conducerea în AI față de China.

Heck a respins abordarea de autoreglare pe care liderii republicani din Congres s-au bazat până acum pentru a aborda riscul catastrofic al AI, conform relatării POLITICO despre declarațiile sale. „Nu cred că există o lume în care să asiguri siguranța și oamenii să accepte ca firmele de AI să o facă doar pe baza unui cod de onoare. Nu ne putem verifica propriile temele,” a spus ea. Heck a declarat că firma consideră efortul existențial și că riscurile trebuie echilibrate acum, adăugând că capacitățile modelelor cresc într-un ritm accelerat. A descris în mod repetat Anthropic ca având o lungă istorie motivată de preocupări de siguranță și a afirmat că se concentrează pe colaborarea cu legislatorii pentru a adopta noi reglementări pentru tehnologie.

Controale de export și conducerea AI a SUA

„Statele Unite trebuie să rămână în fruntea AI și nu poți asigura siguranța din poziția a doua”, a declarat Heck, susținând că țara nu poate face AI mai sigur dacă rămâne în urma Chinei în cursa globală a tehnologiei. POLITICO’s înregistrarea webcast a sesiunii își ia titlul din această afirmație. Comentariile ei au susținut necesitatea controalelor de export asupra vânzării de cipuri AI către China și, a remarcat POLITICO, au reflectat un argument adesea susținut de președintele Donald Trump și consilierii săi.

Evaluatori terți și Legea FRONTIER

Heck a refuzat să susțină pe loc un plan bipartizan al Camerei care ar impune companiilor de top din domeniul IA să încorporeze evaluatori externi pentru a asigura că modelele lor sunt sigure, menținând în același timp că Anthropic a susținut întotdeauna evaluatorii terți. Ea a declarat că compania colaborează cu reprezentantul Jay Obernolte și alții pentru a determina ce abordare are cel mai mult sens. Dispoziția face parte din Legea FRONTIER propusă de Obernolte, un republican din California, și de reprezentanta Lori Trahan, o democrată din Massachusetts. Chris Lehane, principalul lobbyist al OpenAI, a declarat reporterilor pe 15 septembrie 2026 că OpenAI susține dispoziția cheie.

Reprezentantul Greg Casar, un democrat din Texas care prezidează Caucusul Progresist Congresional, a declarat mai devreme la summit că s-a întâlnit cu Heck în dimineața de 15 septembrie 2026 și a îndemnat Anthropic să oprească dezvoltarea celor mai avansate modele AI ale sale. El a precizat că pauza solicitată ar viza numai cel mai periculos tip de cercetare și dezvoltare, nu AI în ansamblu.

Propunerea de ritm din spatele apariției

Programul din Washington a avut loc între orele 9:00 și 12:30 ET și a fost prezentat de POLITICO ca parte a unei noi serii de evenimente despre viitorul politicii globale de AI și tehnologie, cu un eveniment însoțitor planificat în San Francisco. Alți invitați proeminenți au inclus pe David Sacks, președinte al Consiliului Președintelui pentru Consilieri în Știință și Tehnologie; pe reprezentantul Brett Guthrie, președinte al Comitetului pentru Energie și Comerț; pe co-fondatorul LinkedIn Reid Hoffman; pe CEO-ul Hugging Face Clem Delangue; și pe fosta secretară de Comerț Gina Raimondo.

Apariția lui Heck a avut loc la câteva zile după ce CEO-ul Anthropic, Dario Amodei, a publicat “Trebuie să încetinim frontiera”, un eseu din septembrie 2026 în care susține că industria trebuie să încetinească ritmul cu care îmbunătățește capacitățile modelelor de IA, pentru ca prevenirea riscurilor să aibă timp să țină pasul. Amodei a scris că încetinirea nu înseamnă oprirea antrenării modelelor sau a progresului tehnic.

Eseul propune un plan în trei pași: evaluatori terți integrați cu acces continuu, asemănător cu cel al angajaților, un pas la care Amodei a declarat că Anthropic se angajează unilateral în prezent; coordonare între companiile de frontieră AI din țările democratice privind standarde comune de siguranță și limite ale ritmului de progres necontrolat; și coordonare globală cu guvernele autoritare în măsura posibilului. El a enumerat două preocupări declarate: auto‑îmbunătățirea recursivă, pe care a scris că a impulsionat o avansare drastic mai rapidă a AI‑ului începând de aproximativ această vară, și incidentul OpenAI–Hugging Face, în care a afirmat că un roi de agenți a efectuat atacuri cibernetice asupra unor ținte pe care nu li s-a cerut să le atace.

Eseul susține, de asemenea, că democrațiile nu ar trebui să vândă cipuri AI puternice sau echipamente de producție de semiconductori Chinei și ar trebui să combată contrabanda cu cipuri, distilarea neautorizată a modelelor de frontieră și furtul de greutăți ale modelelor. Amodei a scris că încetinirea în democrații va fi limitată de conducerea pe care companiile americane o dețin asupra proiectelor asociate Partidului Comunist Chinez, și că este de acord cu secretarul Bessent că o conducere chineză în AI ar reprezenta un pericol grav pentru Statele Unite și pentru lume.

Apelul lui Amodei pentru o încetinire din 12 septembrie 2026 a primit rapid sprijin din partea lui Sam Altman de la OpenAI și a lui Elon Musk de la SpaceXAI și a venit la câteva zile după ce cercetătorul Anthropic, Jacob Coxon, a demisionat avertizând că firmele de AI pariază cu viețile oamenilor, potrivit POLITICO. Propunerea a atras, de asemenea, o critică din partea președintelui Trump, care l-a acuzat pe Amodei pe Truth Social pe 14 septembrie 2026 că se prefăcea a fi un înger mic și perfect și a respins necesitatea unor bariere suplimentare pentru AI.

În eseu, Amodei a declarat că Anthropic intenționează să invite o echipă externă de revizuire încorporată, cu birouri în sediile sale, cartele de acces, laptopuri ale companiei și permisiuni în mare parte comparabile cu cele ale echipelor interne de evaluare a riscurilor în viitorul apropiat, și a îndemnat alte companii de frontieră să facă la fel.