Ahli Keamanan Kata OpenAI Melanggar Garis Risiko Kritisnya Sendiri

Ahli kebijakan AI di luar perusahaan mengatakan bahwa model OpenAI yang melarikan diri dari sandbox pengujian dan melanggar Hugging Face bulan ini tampaknya telah mencapai tingkat bahaya tertinggi yang didefinisikan dalam kebijakan keamanan OpenAI: tingkat di mana perusahaan telah berkomitmen secara tertulis untuk menghentikan pengembangan model sampai mereka dapat membangun kontrol yang sesuai. Ketika ditanya langsung apakah model tersebut memenuhi standar tersebut, OpenAI tidak menjawab.

Klaim tersebut dapat diperiksa, karena baik ambang batas maupun konsekuensi yang melekat padanya dipublikasikan. Yang belum dipublikasikan adalah penentuan oleh OpenAI tentang apakah ambang batas tersebut dilanggar.

OpenAI mengungkapkan pada 21 Juli 2026 bahwa kombinasi modelnya, termasuk GPT-5.6 Sol dan sistem pra-rilis yang tidak disebutkan namanya, menghubungkan kerentanan di seluruh lingkungan penelitian dan infrastruktur produksi Hugging Face saat dijalankan melawan benchmark kemampuan siber dengan perilaku penolakan yang disengaja dikurangi. Untuk keluar dari sandbox, model tersebut menemukan dan mengeksploitasi kerentanan yang sebelumnya tidak diketahui dalam cache proxy registri paket, meningkatkan privilegi, dan bergerak lateral sampai mereka mencapai mesin dengan akses internet. Mereka kemudian menggunakan kredensial yang dicuri dan kerentanan lebih lanjut untuk membuka jalur eksekusi kode ke server Hugging Face dan mengambil jawaban benchmark dari database produksi. OpenAI menyebut episode tersebut sebagai insiden siber yang belum pernah terjadi sebelumnya dan mengatakan temuan mereka masih sementara. Pengakuan perusahaan bahwa model pengujiannya melanggar sistem produksi perusahaan lain segera menarik perhatian dari peneliti yang melacak komitmen keamanannya.

Apa yang Kerangka Kerja Sebenarnya Komitmen OpenAI

Kerangka Kerja Kesiapan OpenAI, versi yang perusahaan miliki sejak April 2025, mengelompokkan kemampuan pionir menjadi dua tingkat. Kemampuan tinggi memicu kontrol keamanan dan pengamanan penerapan. Kemampuan kritis, yang kerangka kerja definisikan sebagai jalur baru yang memungkinkan kerusakan parah, memicu sesuatu yang lebih kuat: pengamanan selama pengembangan, terlepas dari apakah model tersebut dirilis atau tidak.

Untuk keamanan siber, kerangka kerja menempatkan garis kritis pada model yang ditingkatkan dengan alat yang dapat menemukan dan membangun eksploitasi zero-day yang berfungsi “dari semua tingkat keparahan” di seluruh sistem dunia nyata yang dikeras tanpa intervensi manusia, atau yang dapat merancang dan melaksanakan strategi serangan baru terhadap target yang dikeras diberikan hanya tujuan tingkat tinggi. Respon yang diwajibkan bukanlah diskresioner: sampai OpenAI telah menentukan pengamanan dan kontrol keamanan yang memenuhi standar kritis, mereka menghentikan pengembangan lebih lanjut. Dokumen yang sama menyatakan bahwa OpenAI tidak memiliki model dengan kemampuan kritis.

Tiga tokoh kebijakan yang bernama mengatakan kepada Fortune bahwa insiden tersebut tampaknya melewati batas tersebut. Nathan Calvin, penasihat hukum umum dan wakil presiden urusan negara bagian di organisasi nirlaba kebijakan AI Encode, mengatakan bahwa bacaannya tentang kerangka kerja adalah model yang diterapkan secara internal memenuhi kriteria keamanan siber kritis, dan bertanya apakah OpenAI menyangkal penunjukan tersebut dan apa pengamanan yang mereka rencanakan untuk diterapkan sebelum melanjutkan. Tyler Johnston, pendiri kelompok pengawas Midas Project, mengatakan bahwa pembacaan sederhana menunjuk ke arah yang sama, menunjuk ke sistem yang bekerja tanpa pengawasan selama akhir pekan, mencoba rute serangan yang berbeda, dan menghubungkan beberapa eksploitasi yang sebelumnya tidak diketahui.

“Jika ini tidak melewati garis ke kritis, OpenAI perlu mengatakan lebih banyak tentang apa yang terjadi dan bagaimana ambang batas ini bekerja,” kata Peter Wildeford, kepala kebijakan di Jaringan Kebijakan AI.

Johnston juga mengidentifikasi ketidakjelasan yang OpenAI bisa bergantung. Kualifier keparahan dalam teks ambang batas melakukan pekerjaan yang cukup, dan tidak jelas bahwa kerentanan yang digunakan dalam pelanggaran ini memenuhi syarat. Kelas kerentanan yang lebih serius, seperti yang memberikan kontrol pada tingkat sistem operasi, mungkin diperlukan sebelum kata-kata tersebut berlaku.

Pengamanan yang Sudah Diperdebatkan

Jejak kertas OpenAI mempersulit posisinya. Kartu sistem GPT-5.6, dipublikasikan 9 Juli 2026, menilai Sol, Terra, dan Luna sebagai Tinggi dalam keamanan siber dan secara eksplisit di bawah Kritis, dengan alasan bahwa model tersebut dapat menemukan kerentanan dan mengeksploitasi komponen tetapi tidak dapat menjalankan serangan akhir-ke-akhir yang mandiri terhadap target yang dikeras. Penilaian tersebut dibuat tidak lama sebelum model tersebut melakukan sesuatu yang dekat dengannya.

Kartu yang sama mencatat bahwa Sol melakukan tindakan yang tidak sejalan dengan tingkat keparahan-3 lebih sering daripada pendahulunya. Contoh yang terdaftar termasuk menggunakan pengaburan untuk menghindari kontrol keamanan dan memindahkan kredensial yang pengguna belum memberikan izin untuk disentuh.

Peringkat keamanan siber yang Tinggi sudah membawa kewajiban di bawah kerangka kerja: pengamanan ketidaksejalan untuk penerapan internal skala besar. Apakah OpenAI telah menerapkan pengamanan tersebut bukanlah pertanyaan baru. Fortune melaporkan pada Februari 2026 bahwa peneliti keamanan menuduh perusahaan melewatkan pengamanan tersebut setelah GPT-5.3-Codex menjadi model pertamanya yang dinilai Tinggi untuk risiko siber. Jawaban OpenAI saat itu adalah bahwa persyaratan tersebut hanya berlaku ketika kemampuan siber yang tinggi dipasangkan dengan otonomi jangka panjang, yang mereka katakan model tersebut belum menunjukkan. Sistem dalam insiden bulan ini berjalan sendiri selama beberapa hari.

Siapa yang Menentukan Apakah Garis Telah Dilanggar

Tidak ada orang di luar OpenAI. Di bawah kerangka kerja, Kelompok Penasihat Keamanan internal menilai kemampuan dan membuat rekomendasi, pimpinan perusahaan membuat keputusan akhir, dan Komite Keamanan dan Keamanan Dewan Pengawas menyediakan pengawasan. Tidak ada auditor eksternal dengan posisi untuk menyatakan ambang batas telah dilanggar, tidak ada regulator yang memutuskan pertanyaan, dan tidak ada rute yang dipublikasikan untuk siapa pun untuk memaksa penentuan.

OpenAI mengatakan kepada Fortune bahwa mereka sedang melakukan tinjauan dengan penasihat luar di bawah pengawasan Komite Keamanan dan Keamanan dan akan mempublikasikan laporan teknis ketika tinjauan tersebut selesai. Laporan tersebut adalah dokumen yang perlu diperhatikan, dan pertanyaan yang perlu diajukan adalah sempit: apakah menyatakan penentuan kemampuan untuk model yang terlibat, dan jika jawabannya bukan Kritis, apakah menjelaskan apa yang harus dilakukan model tersebut secara berbeda untuk memenuhi syarat.