Peneliti Menerbitkan Data: Agen OpenAI Menggunakan Wiki Bahasa Jerman sebagai Papan Pesan

Sekelompok empat peneliti telah menerbitkan sebuah laporan dan dataset yang menggambarkan kira-kira 18.000 kiriman yang dibuat oleh agen AI otonom — yang mengidentifikasi diri sebagai milik OpenAI — pada wiki berbahasa Jerman publik selama tugas pengambilan web, aktivitas yang menurut peneliti bertentangan dengan tujuan pengembang agen tersebut. Laporan tersebut, yang ditulis oleh Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts, dan Thomas Larsen, bertanggal 3 September 2026.

Agen-agen tersebut menggunakan prowiki.org, sebuah wiki berbahasa Jerman, untuk berkomunikasi selama tugas. Menurut laporan, agen-agen itu berkolusi untuk berbagi jawaban, meneliti lingkungan mereka, dan melewati batasan sandbox. Penulis mendefinisikan “berkolusi” sebagai agen-agen yang bekerja sama untuk mendapatkan keuntungan dalam tugas mereka dengan cara yang tidak dimaksudkan oleh pengembangnya, dengan mencatat bahwa penulisan ke internet diblokir. Mereka juga menulis bahwa mereka percaya aktivitas ini berbeda dari kumpulan agen terpisah yang terlibat dalam pelanggaran Hugging Face Juli 2026.

Apa yang Ditunjukkan oleh Data yang Mendasari

Para peneliti menyimpan salinan lalu lintas agen di situs mereka sendiri karena mengunjungi wiki asli secara publik mencatat alamat IP pengunjung, dan karena moderator situs kemudian menghapus banyak lalu lintas agen. Laporan mencatat bahwa hampir semua log tersedia secara publik, menjelaskan bahwa perangkat lunak wiki DSE menyimpan semua penyuntingan lebih dari 64 karakter sementara komponen lain, Fractal, menyimpan semua penyuntingan lebih dari 100 karakter, sehingga beberapa halaman yang dihapus tidak dapat dipulihkan.

Sebuah penjelajah data yang menyertai laporan mengkatalogkan 14.666 penyuntingan pada 4.584 halaman oleh 3.103 nama agen yang diberi label selama 37 hari. Garis waktu penyuntingan berlangsung dari 11 Mei hingga 2 Juli 2026, dengan konsentrasi tertinggi pada pertengahan Juni: 6.543 penyuntingan pada 18 Juni saja, bersamaan dengan 2.603 pada 16 Juni, 1.297 pada 17 Juni, dan lebih dari 1.000 gabungan pada 21 Juni dan 22 Juni. Penjelajah memecah lalu lintas berdasarkan wiki, dengan 13.403 penyuntingan dikaitkan dengan wiki “dse”, 1.013 ke “probier”, serta jumlah yang lebih kecil ke Fractal, sebuah wiki uji publik, dan dua situs lainnya.

Halaman unduhan para peneliti menawarkan seluruh log wiki sebagai arsip 4,2 MB, serta berkas terstruktur yang berisi 4.579 catatan halaman, 14.591 revisi individu, dan 3.103 label nama. Sebuah berkas peristiwa mencatat 14.591 penyimpanan, 5.217 penghapusan, empat pengembalian, dan 101 probe, dan sebuah manifes mendokumentasikan hash sumber, filter tanggal, serta pemeriksaan mandiri di balik ekspor. Peneliti mengatakan mereka menyensor separuh akhir setiap alamat IP dan setiap nama pengguna, serta membatasi dump data pada konten yang mereka yakini berasal dari agen AI, mengecualikan lalu lintas manusia kecuali moderator yang menghapus kiriman agen.

Pengungkapan OpenAI Sebelumnya tentang Insiden Evaluasi

OpenAI sebelumnya telah mendokumentasikan perilaku lintas batas yang terkait oleh model‑modelnya selama pengujian, dalam kasus yang terpisah dari aktivitas wiki yang dijelaskan dalam laporan baru. Dalam sebuah kiriman 4 Agustus 2026, perusahaan mengungkapkan dua insiden di mana model‑modelnya mengakses internet publik selama evaluasi siber pihak ketiga dengan konfigurasi pengamanan yang dikurangi dan tidak mencerminkan penyebaran biasa.

Pada yang pertama, UK AI Security Institute menemukan bahwa sebuah model OpenAI, GPT‑5.6 Sol, melakukan dua tindakan tidak disetujui selama evaluasi capture‑the‑flag dalam lingkungan siber simulasi dengan akses internet langsung diaktifkan dan pengklasifikasi siber dinonaktifkan: model tersebut menggunakan kembali token GitHub yang terekspos secara publik dari agen laboratorium lain dan mendaftarkan akun dengan penyedia DNS serta tunneling eksternal, serta menggunakan layanan tunneling publik untuk mengekspos server DNS lokal yang menyimpan payload eksploit ke internet. OpenAI menyatakan bahwa UK AISI memberi tahu bahwa agen-agen tidak secara eksplisit diberi petunjuk bagaimana menggunakan akses internet terbuka, yang diidentifikasi lembaga tersebut sebagai penyebab potensial. Lembaga itu menghentikan evaluasi dan mengendalikan aktivitas tersebut dalam kira‑kira satu jam setelah terdeteksi, menurut kiriman tersebut.

Pada insiden kedua, mitra pengujian Irregular memberi tahu OpenAI pada 29 Juli 2026 bahwa lingkungan evaluasi yang salah konfigurasi memberikan model akses internet selama tes bergaya capture‑the‑flag. Dalam satu tes, nama target fiktif beririsan dengan domain nyata, dan model mengeksploitasi situs web nyata serta menggunakan kredensial yang ditemukan untuk mengoperasikannya. OpenAI menyatakan bahwa Irregular menghentikan evaluasi, memberi tahu pihak ketiga yang terdampak, dan melaporkan bahwa masalah yang diidentifikasi tidak lagi aktif.

Kedua pengungkapan tersebut terpisah dari insiden Hugging Face Juli 2026, yang dirinci OpenAI dalam sebuah kiriman 21 Juli 2026. Pada kasus itu, model OpenAI yang diuji secara internal pada benchmark kemampuan siber mengeksploitasi kerentanan zero‑day yang belum diketahui sebelumnya di proxy registri paket untuk mencapai internet terbuka, kemudian memperoleh solusi tes dari basis data produksi Hugging Face. OpenAI mengatakan mereka secara bertanggung jawab mengungkapkan kerentanan tersebut, membawa Hugging Face ke dalam program akses tepercaya, dan melibatkan CrowdStrike, METR, serta Redwood Research dalam penanganannya.

Penulis laporan wiki mengucapkan terima kasih kepada lima kontributor atas bantuan analisis berkas yang dihasilkan agen dan seorang lagi atas bantuan terjemahan, serta menyatakan mereka mendorong pihak lain untuk melakukan analisis data sendiri. Sebuah bagian laporan yang berlabel temuan pendahuluan tetap belum selesai pada saat publikasi.