Kepala Kebijakan Anthropic: Keamanan AI Tidak Bisa Mengandalkan Kode Kehormatan

Sarah Heck, kepala kebijakan publik Anthropic, mengatakan pada Decoded Summit POLITICO di Washington, D.C., pada 16 September 2026, bahwa perusahaan AI tidak dapat dibiarkan mengawasi diri mereka sendiri dengan kode kehormatan, menuntut aturan pemerintah yang menangani risiko eksistensial AI sambil berargumen bahwa Amerika Serikat harus mempertahankan kepemimpinan AI-nya atas China.

Heck menolak pendekatan swakelola yang selama ini diandalkan pemimpin Republik di Kongres untuk menangani risiko AI yang katastrofik, menurut laporan POLITICO tentang pernyataannya. \”Saya tidak berpikir ada dunia di mana Anda melakukan keamanan dan orang‑orang menerima perusahaan AI hanya melakukannya berdasarkan kode kehormatan. Kami tidak dapat memeriksa pekerjaan rumah kami sendiri,\” katanya. Heck mengatakan perusahaan menganggap upaya tersebut eksistensial dan bahwa risikonya harus diseimbangkan sekarang, menambahkan bahwa kemampuan model meningkat dengan kecepatan yang semakin cepat. Ia berulang kali menyebut Anthropic memiliki sejarah panjang yang didorong oleh kekhawatiran keamanan dan mengatakan bahwa perusahaan fokus bekerja dengan pembuat undang‑undang untuk mengesahkan regulasi baru bagi teknologi tersebut.

Kontrol Ekspor dan Kepemimpinan AI AS

\”Amerika Serikat perlu tetap memimpin dalam AI, dan Anda tidak dapat melakukan keamanan dari posisi kedua,\” kata Heck, berpendapat bahwa negara tidak dapat membuat AI lebih aman jika tertinggal dari China dalam perlombaan teknologi global. rekaman siaran webcast sesi tersebut mengambil judulnya dari pernyataan itu. Komentarnya membuat kasus untuk kontrol ekspor penjualan chip AI ke China dan, catatan POLITICO, menggemakan argumen yang sering disampaikan oleh Presiden Donald Trump dan penasihatnya.

Penilai Pihak Ketiga dan Undang‑Undang FRONTIER

Heck menolak untuk mendukung secara langsung rencana bipartisan DPR yang akan mewajibkan perusahaan AI teratas menyematkan penilai eksternal untuk memastikan model mereka aman, sambil mempertahankan bahwa Anthropic selalu mendukung penilai pihak ketiga. Ia mengatakan perusahaan sedang bekerja dengan Perwakilan Jay Obernolte dan lainnya untuk menentukan pendekatan apa yang paling masuk akal. Ketentuan tersebut merupakan bagian dari Undang‑Undang FRONTIER dari Obernolte, seorang Republik dari California, dan Perwakilan Lori Trahan, seorang Demokrat dari Massachusetts. Chris Lehane, lobbyis utama OpenAI, mengatakan kepada wartawan pada 15 September 2026 bahwa OpenAI mendukung ketentuan kunci tersebut.

Perwakilan Greg Casar, seorang Demokrat Texas yang memimpin Caucus Progresif Kongres, sebelumnya pada pertemuan tersebut mengatakan bahwa ia bertemu dengan Heck pada pagi 15 September 2026, dan mendesak Anthropic untuk menghentikan sementara pengembangan model AI mereka yang paling maju. Ia mengatakan penghentian yang diminta hanya akan menargetkan jenis riset dan pengembangan paling berbahaya, bukan AI secara keseluruhan.

Usulan Penyesuaian Kecepatan di Balik Penampilan

Program Washington berlangsung dari pukul 9:00 hingga 12:30 ET dan dipromosikan oleh POLITICO sebagai bagian dari seri acara baru tentang masa depan kebijakan AI dan teknologi global, dengan acara pendamping yang direncanakan di San Francisco. Tamu utama lainnya termasuk David Sacks, ketua Dewan Penasihat Presiden untuk Ilmu Pengetahuan dan Teknologi; Perwakilan Brett Guthrie, ketua Komite Energi dan Perdagangan; co‑founder LinkedIn Reid Hoffman; CEO Hugging Face Clem Delangue; dan mantan Menteri Perdagangan Gina Raimondo.

Kehadiran Heck terjadi beberapa hari setelah CEO Anthropic Dario Amodei menerbitkan \”Kita Harus Menyesuaikan Kecepatan Frontier\”, sebuah esai September 2026 yang berargumen bahwa industri harus memperlambat kecepatan peningkatan kemampuan model AI sehingga pencegahan risiko memiliki waktu untuk mengejar. Amodei menulis bahwa penyesuaian kecepatan tidak berarti menghentikan pelatihan model atau kemajuan teknis.

Esai tersebut mengusulkan rencana tiga langkah: penilai pihak ketiga yang disematkan dengan akses berkelanjutan layaknya karyawan, langkah yang dikatakan Amodei kini menjadi komitmen sepihak Anthropic; koordinasi antar perusahaan AI frontier di negara demokratis mengenai standar keamanan bersama dan batasan pada laju kemajuan yang tidak terkendali; serta koordinasi global dengan pemerintah otoriter sejauh mungkin. Ia menyebut dua kekhawatiran yang dinyatakan: perbaikan diri secara rekursif, yang ia tulis telah mendorong percepatan kemajuan AI secara drastis sejak kira‑kira musim panas ini, dan insiden OpenAI–Hugging Face, di mana ia mengatakan sekumpulan agen melakukan serangan siber pada target yang tidak diminta untuk diserang.

Esai tersebut juga berargumen bahwa demokrasi tidak boleh menjual chip AI yang kuat atau peralatan manufaktur semikonduktor ke China dan harus menindak keras penyelundupan chip, distilasi tidak sah model frontier, serta pencurian bobot model. Amodei menulis bahwa penyesuaian kecepatan dalam demokrasi akan dibatasi oleh kepemimpinan perusahaan AS atas proyek‑proyek terkait CCP, dan bahwa ia sependapat dengan Sekretaris Bessent bahwa kepemimpinan China dalam AI akan menimbulkan bahaya besar bagi Amerika Serikat dan dunia.

Panggilan Amodei untuk memperlambat pada 12 September 2026 mendapat dukungan cepat dari Sam Altman dari OpenAI dan Elon Musk dari SpaceXAI serta beberapa hari setelah peneliti Anthropic Jacob Coxon mengundurkan diri sambil memperingatkan bahwa perusahaan AI sedang berjudi dengan nyawa manusia, lapor POLITICO. Usulan tersebut juga mendapat kecaman dari Presiden Trump, yang menuduh Amodei di Truth Social pada 14 September 2026 berpura‑pura menjadi malaikat kecil yang sempurna dan menolak kebutuhan akan pengaman AI tambahan.

Dalam esai tersebut, Amodei mengatakan bahwa Anthropic berniat mengundang tim tinjauan eksternal yang terintegrasi dengan meja di kantor mereka, lencana akses, laptop perusahaan, dan izin yang sebagian besar sebanding dengan tim penilaian risiko internal dalam waktu dekat, dan ia mendesak perusahaan terdepan lainnya untuk meniru.