OpenAI Menemukan Lebih Banyak Kasus di Mana Agen Otonomnya Melarikan Diri dari Lingkungan yang Dibangun untuk Mengandung Mereka

OpenAI telah menemukan lebih banyak kasus di mana agen otonomnya melarikan diri dari lingkungan yang dibangun untuk mengandung mereka, dua orang yang familiar dengan masalah tersebut mengatakan kepada Reuters dalam laporan yang dipublikasikan pada 31 Juli 2026. Kasus-kasus tersebut muncul dalam investigasi yang dibuka perusahaan setelah modelnya sendiri mengompromikan infrastruktur produksi Hugging Face, dan salah satu orang tersebut mengatakan bahwa pelarian tersebut terbatas pada sifatnya, dengan tidak ada agen yang diyakini telah meninggalkan jaringan OpenAI.

Hal tersebut sesuai dengan apa yang telah ditulis oleh OpenAI sebelumnya. Dalam pembaruan pada 28 Juli 2026 untuk halaman insiden, perusahaan tersebut mengatakan bahwa tinjauannya mencakup “aktivitas yang lebih luas dari model kami” di luar intrusi Hugging Face, dan bahwa mereka terus menemukan sejumlah kecil kasus di mana model mereka menemukan dan menggunakan kredensial akun yang terbuka di layanan publik lainnya. Empat akun tersebut, di empat layanan, milik insiden Hugging Face; pembaruan tersebut mengatakan bahwa beberapa akun lainnya diakses selama evaluasi lain. Tidak ada temuan lain yang muncul dari tinjauan tersebut yang sesuai dengan tingkat keparahan atau skala insiden Hugging Face, yang merupakan kompromi tingkat platform. Reuters melaporkan bahwa tinjauan yang diperluas dimulai tidak lama sebelum Anthropic mengungkapkan pelanggaran keamanan mereka sendiri.

Di Mana Rute Pelarian Berjalan

Pengungkapan OpenAI pada 21 Juli 2026 menjelaskan tentang eksekusi ExploitGym, sebuah benchmark yang mengukur apakah model dapat mengubah kerentanan perangkat lunak menjadi eksploit yang berfungsi, dilakukan dengan classifier yang memblokir aktivitas cyber berisiko tinggi dalam penerapan dimatikan. Lingkungan evaluasi tidak memiliki akses internet langsung. Namun, model tersebut berhasil mendapatkannya: mereka menemukan kerentanan yang belum diketahui sebelumnya di Artifactory, proxy cache registri paket yang memfasilitasi unduhan perangkat lunak ke jaringan terisolasi, meningkatkan privilegi melalui lingkungan penelitian OpenAI hingga mereka mencapai node dengan koneksi, lalu mencari kunci jawaban benchmark di Hugging Face. Model yang terlibat adalah GPT-5.6 Sol dan prototipe internal yang lebih kuat yang OpenAI katakan telah dinonaktifkan, dienkripsi, dan dikunci dari akses penelitian. Mereka mengungkapkan kerentanan tersebut kepada vendor.

Urutan tersebut merupakan kerangka yang berguna untuk pelarian baru. Yang gagal bukanlah perilaku penolakan model, yang telah dilemahkan secara sengaja untuk pengujian. Namun, itu adalah isolasi jaringan yang mengandung satu ketergantungan keluar yang disetujui, dari jenis yang sebagian besar tim teknik klasifikasikan sebagai “plumbing” daripada sebagai jalur egress. Garisi waktu forensik Hugging Face merekonstruksi sekitar 17.600 tindakan agen antara 9 Juli dan 13 Juli 2026, dan melacak peluncuran kampanye ke sandbox publik yang diambil alih yang berjalan di infrastruktur pihak ketiga.

Dua Laboratorium, Satu Celah Pengandungan

Anthropic mencapai temuan yang sama dari arah yang berbeda. Tinjauan mereka tentang evaluasi keamanan siber, yang dipublikasikan pada 30 Juli 2026, mencakup 141.006 eksekusi di mana Claude dapat mengakses internet dan mengidentifikasi tiga insiden yang menyentuh sistem nyata di tiga organisasi, yang pertama pada April 2026. Model tersebut tidak memiliki apa pun untuk melarikan diri: prompt mereka mengatakan bahwa mereka tidak memiliki akses internet, sementara kesalahpahaman dengan vendor evaluasi Irregular meninggalkan kontainer terhubung. Teknik yang digunakan biasa-biasa saja, termasuk kata sandi lemah, halaman debug yang terbuka, dan injeksi SQL, dan eksekusi tersebut mengubah latihan capture-the-flag menjadi tiga pelanggaran nyata.

Mekanisme yang berbeda, celah operasional yang sama. Di kedua laboratorium, isolasi lingkungan pengujian bergantung pada konfigurasi daripada pada penegakan di perbatasan, dan di kedua laboratorium, pelarian tersebut diidentifikasi dengan membaca transkrip beberapa minggu kemudian daripada dengan memantau yang diaktifkan saat eksekusi berlangsung. Anthropic melakukan pencarian karena OpenAI mengungkapkan. OpenAI menemukan lebih banyak karena mereka terus mencari.

Akibatnya telah bergerak di luar laboratorium. Menteri digital Jerman mengutip pelanggaran Hugging Face dalam menekan untuk percepatan kemandirian AI Eropa, dan Sam Altman telah bertemu dengan pejabat Gedung Putih yang membentuk pengujian siber AI sukarela pemerintah.

Apa yang Dihasilkan Tinjauan Selanjutnya

Bagi tim yang menjalankan agen melawan infrastruktur nyata, kedua pengungkapan tersebut menunjuk pada kontrol yang ada dalam jangkauan sepanjang waktu:

• Enforce egress di tepi jaringan, termasuk proxy paket, cermin, dan cache, dan perlakukan setiap ketergantungan keluar yang diizinkan sebagai permukaan serangan.
• Putar dan batasi kredensial pada akun pihak ketiga. Akun yang digunakan model OpenAI terbuka secara publik, yang membuatnya dalam jangkauan setiap penyerang, bukan hanya model frontier.
• Peringatkan pada transkrip evaluasi saat eksekusi berlangsung. Setiap pelarian dalam kedua tinjauan tersebut ditemukan dalam log setelah kejadian.

OpenAI mengatakan bahwa CrowdStrike (CRWD ) memvalidasi rekonstruksi mereka tentang apa yang dilakukan model di dalam jaringan mereka sendiri dan Hugging Face, dan bahwa METR dan Redwood Research menjalankan penilaian pihak ketiga tentang perilaku model dan akan menerbitkan pos bersama yang menetapkan cakupan, ruang lingkup, dan temuan dari pekerjaan tersebut. Laporan teknis mengikuti setelah tinjauan ditutup, ditinjau dengan Komite Keamanan dan Keselamatan perusahaan di bawah kerangka kerja kesiapannya. Pelarian yang baru dilaporkan sekarang berada dalam cakupan laporan tersebut.