Anthropic Merekrut Enam Evaluator METR dengan Akses Layaknya Karyawan

Anthropic mengumumkan pada 15 Oktober 2026 bahwa mereka mulai memberikan akses layaknya karyawan kepada tim METR yang ditempatkan di perusahaan. METR adalah organisasi nirlaba yang mengevaluasi model AI terdepan. Enam karyawan METR telah bergabung dan dibekali perangkat keras perusahaan, ruang kantor, serta akses ke alat dan sistem internal.

Pengumuman ini menyusul komitmen Anthropic pada September 2026 untuk memperkuat penilaian independen pihak ketiga terhadap model dan praktik keselamatannya, serta penandatanganan Kesepakatan Gedung Putih tentang Kecerdasan Super, yang di dalamnya perusahaan-perusahaan berjanji untuk bekerja sama dengan auditor atau evaluator eksternal independen. Anthropic mengatakan bahwa selama setahun terakhir, mereka telah bekerja sama dengan METR dalam beberapa peninjauan Laporan Risiko mereka.

Ketentuan Akses Layaknya Karyawan

Anthropic mengatakan bahwa akses tim yang ditempatkan di perusahaan tersebut ke alat dan sistem internal kurang lebih setara dengan akses yang dimiliki tim penilaian risiko internalnya. Selain sejumlah kecil kategori yang didefinisikan secara jelas—data pelanggan, informasi yang dilindungi hak istimewa hubungan pengacara-klien, dan informasi tentang arsitektur model—karyawan Anthropic didorong untuk berbagi informasi dengan tim tersebut seperti halnya dengan rekan kerja yang menangani risiko keselarasan.

Catatan kaki dalam pengumuman tersebut menjelaskan pengecualian terkait arsitektur. Karena evaluator, seperti pemeriksa bank, mungkin juga bekerja sama dengan perusahaan lain, Anthropic mengatakan bahwa mereka berhati-hati terhadap kemungkinan kebocoran yang tidak disengaja: informasi tentang arsitektur berisiko tinggi mengalami kebocoran semacam itu, sementara relevansinya terhadap penilaian risiko biasanya rendah. Jika informasi arsitektur sangat relevan, Anthropic umumnya akan berupaya membagikannya, meskipun hal itu memerlukan persetujuan internal secara eksplisit.

Berdasarkan ketentuan publikasi dalam kesepakatan ini, METR akan menerbitkan analisisnya tentang tingkat risiko, insiden, atau praktik Anthropic. Anthropic tidak dapat memveto publikasi, tetapi dapat meminta METR menyunting informasi yang termasuk dalam kategori terbatas yang telah ditetapkan sebelumnya. METR bebas menjelaskan penyuntingan tersebut kepada publik dan menyatakan apakah mereka menganggapnya beralasan, selama tidak mengungkapkan informasi yang disunting.

Keterlibatan ini terbatas pada tim kecil yang bekerja berdasarkan perjanjian yang dapat ditegakkan, sementara karyawan METR lainnya, termasuk para peneliti yang bekerja sama dengan Anthropic dalam proyek lain, dipisahkan dari pekerjaan tim yang ditempatkan di perusahaan tersebut. Anthropic menggambarkan evaluasi yang dilakukan tim di dalam perusahaan sebagai cara bagi sejumlah kecil orang berkualifikasi yang bekerja berdasarkan standar keamanannya untuk melihat dari dekat cara perusahaan beroperasi. Anthropic mengatakan bahwa langkah ini bukan cara bagi organisasi lain untuk memperoleh informasinya, maupun informasi milik pelanggan dan mitranya.

Alasan Anthropic Melakukan Evaluasi Independen

Menurut perusahaan, semakin canggih model, semakin kuat perlindungan yang diperlukan dan semakin menantang penilaian risikonya. Anthropic mengatakan bahwa mereka ingin bertanggung jawab kepada publik atas keputusan yang diambil, tetapi tidak dapat membagikan secara terbuka semua informasi yang relevan dengan upaya keselamatannya karena sebagian informasi dapat dimanfaatkan pelaku kejahatan atau bersifat sensitif secara komersial, seperti informasi tentang komputasi atau pelatihan. Sebagai gantinya, Anthropic memberikan akses mendalam ke informasinya kepada evaluator pihak ketiga dan meminta mereka membagikan bukti serta kesimpulan yang beralasan tentang risiko yang terkait dengan pengembangan modelnya. Tujuannya adalah mempersempit kesenjangan antara pemahaman evaluator tentang sistem perusahaan AI terdepan dan pemahaman perusahaan itu sendiri.

Pengumuman tersebut menyebutkan empat hal yang dibutuhkan evaluator untuk menilai model terdepan: keahlian dalam menilai kemampuan model terdepan, termasuk memahami berbagai cara evaluasi dapat keliru, seperti model yang berpura-pura selaras; independensi, yang berarti evaluator tidak boleh memiliki saham di perusahaan yang dinilai atau bergantung secara finansial maupun operasional pada perusahaan tersebut; akses yang memadai untuk menilai risiko secara bermakna, yang tidak hanya mencakup model terbaru, tetapi juga mencakup pemahaman tentang cara model tersebut dilatih dan cara kerja perlindungannya; serta kebebasan untuk menerbitkan pengamatan dan penilaian terhadap suatu model atau proses.

Anthropic membuat analogi dengan pengawasan bank, sambil mengakui bahwa analogi itu tidak sepenuhnya tepat: bank mengetahui posisi risikonya sendiri lebih baik daripada pihak luar, sehingga regulator menugaskan pemeriksa tetap untuk bekerja di bank-bank terbesar. Jika pengambilan risiko oleh suatu bank dapat mengancam masyarakat, pihak ketiga berupaya mengetahuinya terlebih dahulu.

Tiga Tingkat Akses

Anthropic mengatakan bahwa mereka sedang mengembangkan tiga tingkat akses bagi evaluator. Pada tingkat pertama, evaluator melakukan investigasi risiko dengan cakupan yang terbatas; Anthropic menentukan akses yang diberikan, dan evaluator dapat menerbitkan temuan mereka dengan persetujuan Anthropic. Pada tingkat kedua, evaluator dapat menerbitkan hasil tanpa persetujuan Anthropic dan memperoleh akses ke lebih banyak informasi, meskipun Anthropic masih dapat meminta penghapusan kategori informasi tertentu, sementara evaluator dapat menerbitkan pandangan mereka tentang apakah penyuntingan tersebut beralasan. Tingkat ketiga adalah kesepakatan dengan METR: akses layaknya karyawan dengan hak publikasi serupa dengan yang diberikan pada tingkat kedua.

Anthropic mengatakan bahwa seiring waktu, mereka berharap memiliki beberapa evaluator pada tingkat ketiga, dengan setiap tim menerbitkan analisisnya sendiri tentang profil risiko dan keputusan penting perusahaan.

SecureBio, Accenture, dan Pembicaraan Tahap Awal

SecureBio saat ini berada di tingkat pertama. Organisasi ini sedang meninjau bab tentang senjata kimia dan biologi dalam Laporan Risiko Anthropic edisi Agustus 2026, setelah menyelesaikan dan menerbitkan tinjauan uji coba atas laporan risiko sebelumnya. Anthropic mengatakan bahwa setelah tinjauan ini selesai, pihaknya akan mempertimbangkan untuk beralih ke proyek-proyek dengan akses dan hak publikasi yang lebih luas.

Anthropic mengatakan bahwa bersama Accenture dan Faculty, pihaknya sedang mengupayakan kemitraan yang mencakup evaluasi dan pengujian ketahanan model, melakukan penilaian keselarasan, menguji perlindungan model, serta membangun kapabilitas di seluruh organisasi.

Anthropic juga mengatakan bahwa pihaknya sedang melakukan pembicaraan tahap awal dengan beberapa organisasi lain, termasuk Hugging Face. Karena kemitraan tersebut masih dalam tahap awal, Anthropic memberikan informasi yang lebih terbatas kepada para evaluator itu, dan hak publikasi mereka juga lebih terbatas, sementara Anthropic memastikan bahwa para mitranya melindungi informasi rahasia serta memiliki sumber daya dan keahlian yang diperlukan. Seiring berkembangnya kemitraan dan meningkatnya kepercayaan, Anthropic mengatakan bahwa tujuannya adalah melibatkan lebih banyak evaluator independen secara penuh.

Komitmen September

Pada September 2026, salah satu pendiri Anthropic, Dario Amodei, menerbitkan esai berjudul “Kita Harus Mengatur Laju Kemajuan di Garis Depan”, yang menetapkan pelibatan evaluator dengan akses setara karyawan sebagai langkah pertama dalam rencana tiga tahap untuk mengatur laju pengembangan AI terdepan. Amodei menulis bahwa Anthropic berkomitmen secara sepihak untuk mengambil langkah tersebut dan menyerukan agar pemerintah mewajibkan perusahaan AI terdepan lainnya untuk melakukan hal yang sama. Ia menulis bahwa “kita harus memperlambat laju peningkatan kemampuan model AI” agar pencegahan risiko memiliki cukup waktu untuk mengimbangi kemajuan kapabilitas.

Esai tersebut menyatakan bahwa Anthropic bermaksud mengundang tim peninjau eksternal yang akan bekerja di kantornya, dengan meja kerja, kartu akses, dan laptop perusahaan; akses ke ruang kerja, perangkat, dan izin yang sebagian besar sebanding dengan yang dimiliki tim penilaian risiko internal, dengan beberapa pengecualian jika diwajibkan oleh hukum atau kontrak, atau untuk melindungi informasi pribadi pelanggan dan mitra; serta kontrak yang memberi peninjau eksternal hak untuk menerbitkan temuan utama tentang tingkat risiko, insiden, praktik, serta akses yang mereka peroleh maupun yang tidak mereka peroleh, tanpa kendali editorial Anthropic atas publikasi tersebut. Berdasarkan ketentuan yang direncanakan itu, Anthropic akan memiliki wewenang terbatas untuk menyensor informasi yang sensitif bagi keamanan, dilindungi secara hukum, sensitif secara komersial, atau bersifat rahasia milik pihak ketiga, tetapi tidak dapat menyensor temuan hanya karena temuan itu tidak menguntungkan Anthropic; para peninjau juga dapat menyampaikan kepada publik jika penyensoran menghilangkan sesuatu yang penting bagi kesimpulan mereka.

Anthropic mengatakan bahwa pihaknya melibatkan evaluator secara sukarela dan meyakini setiap perusahaan AI terdepan seharusnya melakukan hal yang sama. Anthropic mengatakan bahwa pihaknya bergerak cepat dengan melibatkan beberapa evaluator, secara aktif mempelajari jenis kemitraan yang efektif, dan berkomitmen untuk membagikan informasi terbaru seiring berjalannya proses.