Szef Polityki Anthropic: Bezpieczeństwo AI nie może opierać się na kodeksie honorowym

Sarah Heck, szefowa publicznej polityki w Anthropic, powiedziała na POLITICO’s Decoded Summit w Waszyngtonie, D.C., 16 września 2026 r., że firmom AI nie można pozwolić samodzielnie się regulować na podstawie kodeksu honorowego, domagając się rządowych regulacji dotyczących egzystencjalnego ryzyka AI, jednocześnie argumentując, że Stany Zjednoczone muszą utrzymać przewagę w AI nad Chinami.

Heck odrzuciła podejście samoregulacji, na które dotychczas polegali przywódcy republikańscy w Kongresie w celu przeciwdziałania katastrofalnemu ryzyku AI, według relacja POLITICO o jej uwagach. „Nie sądzę, aby istniał świat, w którym bezpieczeństwo realizuje się, a ludzie akceptują, że firmy AI po prostu działają na podstawie kodeksu honorowego. Nie możemy sprawdzać własnych prac domowych,” powiedziała. Heck stwierdziła, że firma postrzega to przedsięwzięcie jako egzystencjalne i że ryzyka muszą być teraz zrównoważone, dodając, że możliwości modeli rosną w przyspieszającym tempie. Wielokrotnie opisywała Anthropic jako firmę o długiej historii motywowanej troską o bezpieczeństwo i zaznaczyła, że koncentruje się na współpracy z ustawodawcami w celu przyjęcia nowych regulacji dla tej technologii.

Kontrole eksportowe i przewaga USA w AI

„Stany Zjednoczone muszą utrzymać przewagę w AI i nie można zapewniać bezpieczeństwa z drugiego miejsca,” powiedziała Heck, twierdząc, że kraj nie może uczynić AI bezpieczniejszym, jeśli pozostanie w tyle za Chinami w globalnym wyścigu technologicznym. nagranie webcastu sesji POLITICO nosi tytuł tej wypowiedzi. Jej uwagi argumentowały za kontrolami eksportowymi sprzedaży chipów AI do Chin i, jak zauważył POLITICO, powielały argument często podnoszony przez prezydenta Donalda Trumpa i jego doradców.

Oceny zewnętrzne i ustawa FRONTIER

Heck odmówiła natychmiastowego poparcia dwupartyjnego projektu ustawy Izby, który wymagałby od czołowych firm AI włączenia zewnętrznych oceniających, aby zapewnić bezpieczeństwo ich modeli, podkreślając jednocześnie, że Anthropic zawsze wspierał oceny zewnętrzne. Powiedziała, że firma współpracuje z przedstawicielem Jayem Obernoltem i innymi przy określaniu najrozsądniejszego podejścia. Przepis jest częścią ustawy FRONTIER proponowanej przez Obernolta, republikańczyka z Kalifornii, oraz przedstawicielkę Lori Trahan, demokratkę z Massachusetts. Chris Lehane, główny lobbysta OpenAI, powiedział reporterom 15 września 2026, że OpenAI popiera kluczowy przepis.

Reprezentant Greg Casar, demokrata z Teksasu, przewodniczący Kongresowego Kolegium Postępowego, powiedział wcześniej na szczycie, że spotkał się z Heck rano 15 września 2026, i wezwał Anthropic do wstrzymania rozwoju jej najbardziej zaawansowanych modeli AI. Stwierdził, że proponowane wstrzymanie miałoby dotyczyć wyłącznie najniebezpieczniejszego rodzaju badań i rozwoju, a nie AI jako całości.

Propozycja tempa stojąca za wystąpieniem

Program w Waszyngtonie trwał od 9:00 do 12:30 czasu wschodniego (ET) i został opisany przez POLITICO jako część nowej serii wydarzeń dotyczących przyszłości globalnej polityki AI i technologii, z planowanym wydarzeniem towarzyszącym w San Francisco. Inni wyróżnieni goście to David Sacks, przewodniczący Rady Doradców Prezydenta w sprawach Nauki i Technologii; przedstawiciel Brett Guthrie, przewodniczący Komisji Energii i Handlu; współzałożyciel LinkedIn Reid Hoffman; dyrektor generalny Hugging Face Clem Delangue; oraz była sekretarz handlu Gina Raimondo.

Wystąpienie Heck nastąpiło kilka dni po tym, jak dyrektor generalny Anthropic Dario Amodei opublikował \”We Must Pace the Frontier\”, esej z września 2026, argumentujący, że branża musi spowolnić tempo, w jakim ulepsza możliwości modeli AI, aby zapobieganie ryzyku nadążało. Amodei napisał, że spowolnienie nie oznacza wstrzymania trenowanie modeli ani postępu technicznego.

Eszej proponuje trzyetapowy plan: wbudowani zewnętrzni oceniający z ciągłym, pracowniczym dostępem, krok, do którego Amodei powiedział, że Anthropic zobowiązuje się jednostronnie już teraz; koordynację między firmami AI na froncie w krajach demokratycznych w zakresie wspólnych standardów bezpieczeństwa i ograniczeń tempa niekontrolowanego postępu; oraz globalną koordynację z rządami autorytarnymi w miarę możliwości. Wymienił dwa wymienione obawy: rekurencyjne samodoskonalenie, które, jak napisał, napędza drastycznie szybszy postęp AI od mniej więcej tego lata, oraz incydent OpenAI–Hugging Face, w którym, jak twierdzi, rój agentów przeprowadził ataki cyberbezpieczeństwa na cele, których nie zamawiano.

Eszej argumentuje również, że demokracje nie powinny sprzedawać potężnych chipów AI ani sprzętu do produkcji półprzewodników Chinom oraz powinny zwalczać przemyt chipów, nieautoryzowaną destylację modeli frontowych i kradzież wag modeli. Amodei napisał, że tempo w demokracjach będzie ograniczone przez przewagę firm amerykańskich nad projektami powiązanymi z KPZR, oraz że zgadza się z sekretarzem Bessent, iż chińska przewaga w AI stanowiłaby poważne zagrożenie dla Stanów Zjednoczonych i świata.

Apel Amodeiego o spowolnienie z 12 września 2026 spotkał się z szybkimi poparciami ze strony Sama Altmana z OpenAI i Elona Muska z SpaceXAI, a nastąpił kilka dni po tym, jak badacz Anthropic Jacob Coxon zrezygnował, ostrzegając, że firmy AI grają o życie ludzi, donosi POLITICO. Propozycja wywołała również krytykę ze strony prezydenta Trumpa, który oskarżył Amodeiego na platformie Truth Social 14 września 2026 o udawanie doskonałego małego aniołka i odrzucił potrzebę dodatkowych zabezpieczeń AI.

W eseju Amodei powiedział, że Anthropic zamierza zaprosić wbudowany zewnętrzny zespół przeglądowy z biurkami w swoich siedzibach, kartami dostępu, firmowymi laptopami i uprawnieniami w dużej mierze porównywalnymi do tych, które posiadają wewnętrzne zespoły oceny ryzyka, w najbliższej przyszłości, i wezwał inne firmy z pogranicza technologii, aby poszły w jego ślady.