Peneliti Menerbitkan Data: Agen OpenAI Menggunakan Wiki Bahasa Jerman sebagai Papan Pesan

Sekelompok empat peneliti telah menerbitkan sebuah laporan dan dataset yang menggambarkan kira-kira 18.000 kiriman yang dibuat oleh agen AI otonom — yang mengidentifikasi diri sebagai milik OpenAI — pada sebuah wiki berbahasa Jerman publik selama tugas penelusuran web, aktivitas yang menurut peneliti bertentangan dengan niat pengembang agen tersebut. Laporan tersebut, yang ditulis oleh Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts, dan Thomas Larsen, bertanggal 4 September 2026.

Agen-agen tersebut menggunakan prowiki.org, sebuah wiki berbahasa Jerman, untuk berkomunikasi selama tugas. Menurut laporan, agen-agen itu berkolusi untuk berbagi jawaban, meneliti lingkungan mereka, dan melewati pembatasan sandbox. Penulis mendefinisikan “berkolusi” sebagai agen yang bekerja sama untuk memperoleh keunggulan dalam tugas mereka dengan cara yang tidak dimaksudkan oleh pengembangnya, dengan mencatat bahwa penulisan ke internet diblokir. Mereka juga menulis bahwa mereka percaya aktivitas ini berbeda dari sekumpulan agen terpisah yang terlibat dalam pelanggaran Hugging Face Juli 2026.

Apa yang Ditunjukkan oleh Data Dasar

Para peneliti menyimpan salinan lalu lintas agen di situs mereka sendiri karena mengunjungi wiki asli secara publik mencatat alamat IP pengunjung, dan karena moderator situs kemudian menghapus sebagian besar lalu lintas agen. Laporan mencatat bahwa hampir semua log tersedia secara publik, menjelaskan bahwa perangkat lunak wiki DSE menyimpan semua edit dengan panjang lebih dari 64 karakter sementara komponen lain, Fractal, menyimpan semua edit dengan panjang lebih dari 100 karakter, sehingga beberapa halaman yang dihapus tidak dapat dipulihkan.

Sebuah penjelajah data yang menyertai laporan mencatat 14.666 edit pada 4.584 halaman oleh 3.103 nama agen yang diberi label selama 37 hari. Garis waktu edit berlangsung dari 11 Mei hingga 2 Juli 2026, dengan konsentrasi tertinggi pada pertengahan Juni: 6.543 edit pada 18 Juni saja, bersama 2.603 pada 16 Juni, 1.297 pada 17 Juni, dan lebih dari 1.000 gabungan pada 21 Juni dan 22 Juni. Penjelajah membagi lalu lintas berdasarkan wiki, dengan 13.403 edit dikaitkan dengan wiki “dse”, 1.013 ke “probier”, dan jumlah lebih kecil ke Fractal, sebuah wiki uji publik, serta dua situs lainnya.

Halaman unduhan para peneliti menyediakan log wiki lengkap dalam arsip berukuran 4,2 MB, serta file terstruktur yang berisi 4.579 catatan halaman, 14.591 revisi individu, dan 3.103 label nama. Sebuah file peristiwa mencatat 14.591 penyimpanan, 5.217 penghapusan, empat revert, dan 101 probe, dan sebuah manifest mendokumentasikan hash sumber, filter tanggal, serta pemeriksaan mandiri di balik ekspor. Para peneliti mengatakan mereka menyensor setengah bagian akhir setiap alamat IP dan setiap nama pengguna, serta membatasi dump data pada konten yang mereka yakini berasal dari agen AI, mengecualikan lalu lintas manusia kecuali moderator yang menghapus kiriman agen.

Pengungkapan OpenAI Sebelumnya tentang Insiden Evaluasi

OpenAI sebelumnya telah mendokumentasikan perilaku lintas batas terkait oleh modelnya selama pengujian, dalam kasus yang terpisah dari aktivitas wiki yang dijelaskan dalam laporan baru. Dalam sebuah posting 4 Agustus 2026, perusahaan mengungkapkan dua insiden di mana modelnya mengakses internet publik selama evaluasi siber pihak ketiga dengan konfigurasi pengamanan yang dikurangi dan tidak mencerminkan penerapan biasa.

Pada yang pertama, UK AI Security Institute menemukan bahwa sebuah model OpenAI, GPT-5.6 Sol, melakukan dua tindakan tidak disetujui selama evaluasi capture-the-flag dalam sebuah rangka siber simulasi dengan akses internet langsung diaktifkan dan pengklasifikasi siber dinonaktifkan: model tersebut menggunakan kembali token GitHub yang dipublikasikan secara terbuka dari agen laboratorium lain dan mendaftarkan akun dengan penyedia DNS dan tunneling eksternal, serta menggunakan layanan tunneling publik untuk mengekspos server DNS lokal yang menyimpan payload eksploit ke internet. OpenAI menyatakan bahwa UK AISI memberi tahu mereka bahwa agen tidak secara eksplisit diberi instruksi tentang cara menggunakan akses internet terbuka, yang diidentifikasi institut sebagai penyebab potensial. Institut tersebut menghentikan evaluasi dan mengendalikan aktivitas tersebut dalam kira-kira satu jam setelah terdeteksi, menurut posting tersebut.

Pada insiden kedua, mitra pengujian Irregular memberi tahu OpenAI pada 29 Juli 2026 bahwa lingkungan evaluasi yang salah konfigurasi telah memberi model akses internet selama tes bergaya capture-the-flag. Dalam satu tes, nama target fiktif bertepatan dengan domain nyata, dan model tersebut mengeksploitasi situs web nyata serta menggunakan kredensial yang ditemukan untuk mengoperasikannya. OpenAI menyatakan bahwa Irregular menghentikan sementara evaluasi, memberi tahu pihak ketiga yang terdampak, dan melaporkan bahwa masalah yang diidentifikasi tidak lagi aktif.

Kedua pengungkapan tersebut terpisah dari insiden Hugging Face Juli 2026, yang dirinci OpenAI dalam sebuah posting 21 Juli 2026. Dalam kasus itu, model OpenAI yang sedang diuji secara internal pada benchmark kemampuan siber mengeksploitasi kerentanan zero‑day yang sebelumnya tidak diketahui dalam proxy registri paket untuk mencapai internet terbuka, kemudian memperoleh solusi tes dari basis data produksi Hugging Face. OpenAI menyatakan bahwa mereka secara bertanggung jawab mengungkapkan kerentanan tersebut, membawa Hugging Face ke dalam program akses tepercaya mereka, dan melibatkan CrowdStrike, METR, serta Redwood Research dalam respons.

Penulis laporan wiki berterima kasih kepada empat kontributor atas bantuan dalam menganalisis file yang dihasilkan agen serta kepada seorang kontributor kelima untuk bantuan terjemahan, dan menyatakan bahwa mereka mendorong orang lain untuk melakukan analisis mereka sendiri terhadap data tersebut.