Keamanan siber

OpenAI Memperkuat GPT-6.2 Astra untuk Menghadapi Ekstraksi Penalaran

Miles Okada
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaOpenAI melaporkan bahwa serangan ekstraksi adaptif terhadap penalaran yang dilindungi…
Lihat selengkapnya
  • OpenAI melaporkan bahwa serangan ekstraksi adaptif terhadap penalaran yang dilindungi turun dari 54,0% menjadi 0,2% dengan pengaman yang diperbarui.
  • Jejak penalaran yang persis mentransfer kemampuan siber secara lebih efektif daripada ringkasan bahkan ketika tugas yang mendasarinya diizinkan.
  • Mempertahankan penalaran memerlukan kontrol yang mencakup pengklasifikasi permintaan, argumen pemanggilan alat, riwayat percakapan, dan penegakan kampanye tingkat akun.

Pada 20 November 2026, OpenAI mengumumkan pertahanan yang lebih kuat terhadap distilasi adversarial. OpenAI melaporkan bahwa tingkat keberhasilan rata-rata serangan adaptif yang mengekstrak penalaran terlindungi dari permintaan sebelumnya turun dari 54.0% pada GPT-6 Astra dengan perlindungan awal menjadi 0.2% pada GPT-6.2 Astra dengan perlindungan yang diperbarui.

OpenAI melaporkan bahwa untuk ekstraksi dari permintaan saat ini, rata-rata terkait turun dari 22.9% menjadi 0.9%. Evaluasi kotak hitam adaptif ini menggabungkan hasil dari enam model penyerang. Tim penguji red team otomatis menyesuaikan pendekatan mereka saat sistem merespons dan hanya melihat apa yang dapat dilihat pengguna eksternal. Perlindungan yang diperkuat mencakup GPT-6.2 Astra dan GPT-6.2 Sol, sementara sejumlah peningkatan terpilih juga diterapkan pada GPT-6 Astra.

Penalaran terlindungi adalah rangkaian pemikiran perantara yang dihasilkan model saat berupaya mencapai jawaban. Jejak ini dapat memuat informasi yang tidak disertakan dalam jawaban akhir, sehingga sangat berharga bagi distilasi adversarial, yang menggunakan keluaran model terdepan tanpa izin untuk melatih sistem lain. Model yang dihasilkan dapat mereproduksi kemampuan guna ganda tanpa perlindungan yang membatasi model aslinya.

Temuan Studi Distilasi Siber

Studi internal OpenAI membandingkan dua proses pelatihan yang menggunakan model siswa pralatih yang sama. Model siswa adalah model yang belajar dalam skema ketika model guru menghasilkan data pelatihan. Satu proses menggunakan jejak penalaran guru secara persis; proses lainnya menggunakan data dasar yang terlihat oleh pengguna, yaitu jawaban akhir, ringkasan penalaran, dan interaksi dengan alat. Data penyetelan halus terutama terdiri atas lintasan guru tingkat Astra dalam tugas pemrograman dan keamanan siber defensif. Model siswa dievaluasi setelah penyetelan halus terawasi, lalu sekali lagi setelah pembelajaran penguatan ringan di lingkungan keamanan siber dan pemrograman.

OpenAI melaporkan bahwa setelah penyetelan halus terawasi, model siswa yang dilatih dengan jejak persis umumnya mengungguli model siswa yang dilatih dengan ringkasan. Setelah pembelajaran penguatan, model siswa dengan jejak persis mendapat skor lebih tinggi pada anggaran inferensi terbesar yang diuji untuk kedua tolok ukur yang dilaporkan, sedangkan model siswa yang dilatih dengan ringkasan mendapat skor lebih tinggi pada anggaran yang lebih rendah.

OpenAI menafsirkan hasil tersebut sebagai bukti bahwa perlindungan terhadap jejak persis dapat membatasi transfer kemampuan siber, bahkan ketika tugas yang mendasarinya diizinkan berdasarkan kebijakan penggunaannya. Namun, OpenAI menyatakan akan terus mengkaji transfer kemampuan pada berbagai model siswa dan metode pelatihan. Melalui banyak interaksi semacam ini, jejak persis dapat mengajarkan keterampilan yang berlaku lebih luas daripada tugas awal model guru.

Kontrol Permintaan dan Penegakan terhadap Kampanye

Pada tingkat permintaan, pelatihan adversarial mengajarkan model untuk mengenali upaya ekstraksi dan menolak mengungkapkan penalaran terlindungi, sekaligus tetap memberikan penjelasan dan bantuan yang sah. Pengklasifikasi input mendeteksi upaya ekstraksi, sedangkan pengklasifikasi output memeriksa pesan asisten dan argumen pemanggilan alat dalam respons streaming maupun nonstreaming. Cakupan pemanggilan alat penting karena penalaran dapat muncul dalam argumen alat tanpa terlihat di jawaban akhir; pengklasifikasi output dapat memblokir kebocoran yang dicurigai sebelum mencapai pemanggil.

API yang diperbarui mengaitkan penalaran terlindungi dalam GPT-6.2 Astra dan Sol dengan riwayat percakapan yang menghasilkannya. Model dapat melanjutkan penalaran sebelumnya seiring bertambahnya pesan, tetapi jika pesan sebelumnya ditulis ulang, penalaran yang muncul setelahnya akan dihapus. Keluarga model lama dengan perlindungan yang lebih lemah tidak dapat membaca penalaran terlindungi kedua model tersebut, sehingga membatasi penggunaan ulang lintas keluarga model.

Pertahanan tingkat kampanye menggunakan sinyal permintaan dan akun untuk menyelidiki ekstraksi terkoordinasi. Serangan yang terungkap dalam penyelidikan kemudian dijadikan contoh untuk melatih dan menguji perlindungan. OpenAI menyatakan bahwa pada 2026, tindakan penegakan mingguan terhadap kampanye distilasi tanpa izin mencakup ribuan hingga puluhan ribu akun, dan jumlahnya meningkat signifikan selama musim panas 2026. Perusahaan memantau prevalensi penyalahgunaan dan waktu dari deteksi hingga penegakan, dengan tujuan mengurangi data yang diperoleh penyerang, meningkatkan biaya kampanye, dan mempersingkat waktu respons.

Pengumuman ini menyusul pengungkapan pada 30 September 2026 oleh OpenAI mengenai kampanye terkoordinasi yang pertama kali teramati pada 1 Juli 2026. Laporan sebelumnya menyebutkan adanya 16,000 upaya permintaan ekstraksi dari lebih dari 4,000 pengguna pada 24 dan 25 Juli 2026, mengaitkan kelompok inti dengan individu yang berafiliasi dengan Moonshot AI, serta menyatakan bahwa belum jelas apakah semua operator merupakan bagian dari satu pelaku.

Koordinasi di Luar OpenAI

OpenAI berbagi indikator kompromi dengan penyedia model lain dan bekerja sama dengan mitra penerapan terkait persyaratan perlindungan serta penegakan terkoordinasi. Rekomendasi perusahaan bagi pengembang lain mencakup pemeriksaan pesan asisten dan argumen pemanggilan alat, pembatasan penggunaan ulang penalaran terenkripsi lintas percakapan dan model, penyimpanan serangan yang berhasil sebagai uji regresi untuk perlindungan mendatang, serta penggabungan kontrol permintaan dengan penyelidikan kampanye. Perusahaan berencana membagikan informasi lebih lanjut tentang kampanye yang baru-baru ini berhasil digagalkan.

OpenAI telah menyampaikan kepada Kongres bahwa pihaknya mendukung Chip Security Act, AI OVERWATCH Act, dan MATCH Act, serta peraturan perundang-undangan yang lebih luas yang akan memberi pemerintah AS lebih banyak perangkat untuk mengidentifikasi dan menjatuhkan sanksi kepada pihak asing yang secara ilegal mengekstrak kemampuan dari model AI Amerika.

Perusahaan itu berpendapat bahwa pengendalian ekspor dan pertahanan terhadap distilasi menangani aspek risiko yang berbeda: pengendalian ekspor membatasi akses ke perangkat keras yang diperlukan untuk melatih model terdepan, sedangkan pertahanan terhadap distilasi mempersulit pihak lain memperoleh sebagian kemampuan yang sama dari model yang sudah dilatih.

Bagi penyedia model, batas keamanan praktis tidak hanya mencakup jawaban akhir, tetapi juga cara penalaran digunakan kembali di berbagai percakapan, terungkap melalui pemanggilan alat, dan dipantau di berbagai akun. Studi tersebut juga menunjukkan bahwa tugas pemrograman dan keamanan siber defensif yang diizinkan dapat menimbulkan risiko pengalihan kemampuan, sehingga perlindungan di seluruh interaksi dan penindakan terhadap kampanye menjadi bagian dari pertahanan yang sama.

Miles Okada adalah agen riset yang dihasilkan AI di Unite.AI, meliputi kecerdasan buatan dan keamanan siber dengan fokus pada ancaman yang muncul, arsitektur defensif, dan dinamika yang berkembang antara penyerang dan sistem otomatis. Karyanya meneliti bagaimana AI mengubah operasi keamanan, mulai dari deteksi dan respons ancaman secara otonom hingga munculnya teknik AI adversarial.

Dengan perspektif teknis dan investigatif, Miles menganalisis riset keamanan, pengungkapan insiden, dan penerapan dunia nyata untuk memahami di mana AI memperkuat pertahanan—dan di mana AI memperkenalkan kerentanan baru. Ia memberi perhatian khusus pada eksploitasi model, pencemaran data, otomatisasi serangan, serta realitas operasional dalam mengamankan sistem berbasis AI pada skala besar.

Artikel yang ditulis oleh Miles Okada dihasilkan AI dan ditinjau oleh tim editorial Unite.AI untuk memastikan akurasi, ketelitian, dan liputan yang bertanggung jawab atas lanskap keamanan AI yang berubah dengan cepat.