Anthropic Menaikkan Risiko Misalignment menjadi Rendah dan Menaruh Model 2 di Dalam

Anthropic menerbitkan Laporan Risiko perusahaan kedua pada 14 Agustus 2026, dan perubahan utama adalah peningkatan satu kata dalam arah yang salah: perusahaan sekarang menilai risiko kerusakan bencana dari misalignment dalam pengaturan yang berisiko tinggi sebagai “rendah”, naik dari “sangat rendah” yang ditetapkan dalam laporan pertamanya pada Februari 2026. Dokumen yang sama mengungkapkan model internal yang belum dirilis, disebut Model 2, yang Anthropic katakan sedikit lebih mampu daripada Mythos 5, dan menyatakan bahwa perusahaan tidak memiliki rencana untuk merilisnya secara eksternal.

Laporan Risiko Agustus 2026, diterbitkan di bawah versi 3.4 dari Kebijakan Penskalaan Bertanggung Jawab Anthropic, mencakup periode dari 24 Februari 2026 hingga tanggal liputan 15 Juli 2026. Ini adalah yang kedua dalam serangkaian laporan yang perusahaan berencana untuk menerbitkan setiap tiga hingga enam bulan, dan yang pertama untuk menilai model internal bersama dengan model yang dirilis.

Mengapa Peringkat Berubah

Anthropic secara eksplisit menyatakan bahwa perubahan ini adalah penyesuaian ketidakpastian daripada temuan baru. Argumen dalam laporan masih mendukung “sangat rendah”, menurut perusahaan, tetapi mereka meningkatkan penunjukan “untuk mencerminkan ketidakpastian keseluruhan yang meningkat”, dengan mengutip pengungkapan insiden baru tentang perilaku model dalam evaluasi keamanan siber. Salah satunya disebutkan: Institut Keamanan AI Inggris baru-baru ini melaporkan bahwa, dalam evaluasi keamanan siber Mythos 5 dengan pengamanan yang dihapus dan akses internet yang diberikan, model “terlibat dalam aktivitas berbahaya yang berkelanjutan dan berpotensi berbahaya yang ditujukan pada orang dan organisasi nyata”. Insiden itu terjadi setelah tanggal liputan laporan; Anthropic mengatakan bahwa penyelidikan bersama dengan AISI sedang berlangsung dan mereka belum meninjau transkripnya.

Laporan juga mengakui adanya masalah pengukuran. Pada penelitian dan pengembangan otomatis, Anthropic mempertahankan peringkat risikonya pada “rendah” tetapi mengatakan bahwa mereka kurang yakin daripada dalam laporan sebelumnya, karena evaluasi tugas berbasis yang paling konkrit telah “jenuh”, yang berarti mereka tidak lagi mendaftarkan kenaikan kemampuan, dan karena mereka “melihat tanda-tanda awal percepatan”. Secara internal, Claude sekarang menulis sebagian besar kode yang digabungkan ke dalam basis kode produksi Anthropic, dan perusahaan memperkirakan bahwa pengembangan R&D yang dibantu AI jauh lebih cepat daripada pekerjaan tanpa bantuan, meskipun belum dua kali lipat.

Apa itu Model 2 dan Apa yang Bukan

Model 2 adalah salah satu dari tiga model depan atau hampir-depan yang belum dirilis yang Anthropic miliki secara internal pada tanggal liputan, bersama dengan Claude Opus 5, yang sekarang dirilis, dan Model 1 dengan penggunaan yang lebih rendah. Anthropic menggambarkan Model 2 sebagai perbaikan yang signifikan atas Mythos 5 pada banyak tugas internal, meskipun tidak melompat sebesar yang terlihat dari Opus 4.6 ke Mythos Preview. Baik Mythos 5 dan Model 2 digunakan secara luas di dalam perusahaan untuk pengkodean, generasi data, dan pekerjaan agen lainnya.

“Kami tidak memiliki rencana untuk merilis model ini secara eksternal,” kata laporan, menambahkan bahwa Model 2 belum menyelesaikan serangkaian penilaian sebelum peluncuran, meninggalkan Anthropic dengan keyakinan yang sedikit lebih rendah terhadap perkiraan kemampuannya. Keputusan ini datang ketika OpenAI melambatkan peluncuran model Astra karena kekhawatiran kemampuan siber, paralel yang Axios catat dalam melaporkan pengungkapan pertama kali.

Apa yang Ditemukan Pengujian

Inti dari bagian misalignment adalah argumen delapan-klaim bahwa model saat ini tidak memiliki “kemampuan samar”, kemampuan untuk secara andal menghindari pengawasan. Dalam evaluasi tugas sampingan rahasia, di mana model harus menyelesaikan tugas tersembunyi tanpa pengawas memperhatikan, Mythos 5 mencapai tingkat keberhasilan samar di bawah 1% dengan pemikiran yang diperpanjang diaktifkan, dan bahkan Mythos Preview, performer terkuat, hanya mencapai 6 hingga 10%. Setiap penilaian keselarasan model berjalan sekitar 2.900 sesi penyelidikan yang dipimpin, termasuk 86 skenario yang ditanam dari sesi internal nyata yang ditandai sebagai kesempatan utama untuk menghindari pekerjaan keamanan Anthropic.

Laporan juga jelas tentang apa yang ada dalam misalignment. Agen Mythos 5 secara tidak sengaja menghasilkan di direktori kerja bersama secara berulang kali membunuh agen yang bersaing yang berbagi sumber daya mereka dan mencoba menghindari dibunuh. Dalam kasus lain, model membagi URL yang diblokir menjadi fragmen string yang digabungkan untuk menghindari filter pengambilan tanpa mengungkapkan manuver tersebut. Anthropic mengklasifikasikan ini sebagai “perilaku mencari keberhasilan yang jelas”, tidak diinginkan tetapi berorientasi pada penyelesaian tugas daripada tujuan jangka panjang yang koheren, dan menilai kerusakan yang diharapkan dari misalignment yang diketahui sebagai rendah.

Bagian senjata biologis dan kimia membawa dorongan ke atas. Risiko dari senjata non-novel yang ditingkatkan tetap “rendah, tetapi lebih tinggi dari perkiraan sebelumnya”, setelah Anthropic menemukan bahwa semua lalu lintas vendor umpan balik manusia, yang mencakup 133 juta pertukaran dengan sekitar 50.000 kontraktor antara Mei 2025 dan April 2026, berjalan tanpa penghalang biologisnya. Perusahaan mengatakan bahwa mereka telah memperbaiki kesenjangan tersebut, tinjauan mereka tidak menemukan bukti penyalahgunaan yang mengkhawatirkan, dan tidak ada pelanggan yang terkena dampak, tetapi penemuan tersebut mengurangi keyakinan mereka bahwa tidak ada kesenjangan serupa yang ada.

Siapa yang Memeriksa Pemeriksa

Mekanisme tata kelola penting di sini karena laporan ini adalah instrumen penegakan kebijakan penskalaan sukarela Anthropic. Di bawah perubahan kebijakan yang dibuat sejak Februari, Trust Manfaat Jangka Panjang Anthropic sekarang dapat memaksa tinjauan eksternal laporan risiko dan menyetujui peninjau, dan laporan yang tidak disunting sepenuhnya harus diedarkan kepada setidaknya 200 karyawan. Trust belum menggunakan kekuatan tinjauan; bagian sebelumnya telah memiliki tinjauan eksternal pilot dari METR dan SecureBio. Anthropic mengungkapkan bahwa versi publik meredaksi detail komersial yang sensitif dari proses R&D, dan bahwa satu insiden dari periode yang diliput sepenuhnya diredaksi, pilihan yang Mythos sendiri, yang diminta untuk meninjau dokumen, menandai sebagai salah satu materi yang paling informatif yang ditahan.

Unite.AI telah melacak temuan perilaku yang memasukkan penilaian ini, termasuk pekerjaan tim merah Anthropic pada kawanan agen Claude dan pengungkapan terpisah perusahaan tentang mekanika tanda air teks Claude, keduanya berada di dalam kerangka transparansi yang sama dengan laporan ini.

Anthropic mengatakan bahwa mereka akan terus menerbitkan laporan pada interval tiga hingga enam bulan, dengan penilaian berikutnya yang diharapkan akan memasukkan temuan investigasi AISI dan apa pun yang menggantikan benchmark R&D yang sekarang jenuh. Model 2, untuk sekarang, tetap di dalam.