Model dan platform AI

OpenAI Mengusulkan Batas Pengembangan AI Bersama yang Dikaitkan dengan Tahapan Keselamatan

Mira Kellan
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaOpenAI mengaitkan batas pengembangan terdepan dengan tonggak pemantauan yang konkret…
Lihat selengkapnya
  • OpenAI mengaitkan batas pengembangan terdepan dengan tonggak pemantauan yang konkret alih-alih ambang kemampuan yang tetap.
  • Perplexity tidak dapat menjadi standar bersama karena laboratorium menggunakan kumpulan data yang berbeda dan metrik ini melewatkan peningkatan penalaran.
  • Riset OpenAI sendiri menunjukkan peningkatan AI yang tidak merata dengan manusia masih menjadi pusat dalam siklus pengembangan.

Kepala Ilmuwan OpenAI Jakub Pachocki pada 22 November 2026 merilis pengukuran perpleksitas internal dan mengusulkan batas bersama untuk pengembangan AI terdepan. Ia memperingatkan bahwa riset penyelarasan dan pemantauan mungkin tidak mampu mengimbangi kemajuan prapelatihan jika kemajuannya mulai meningkat pesat pada 2027.

Pengungkapan ini membahas log-perpleksitas, yaitu logaritma perpleksitas, yang juga disebut loss entropi silang. Perpleksitas mengukur seberapa baik model rata-rata memprediksi token berikutnya; nilai yang lebih rendah menunjukkan prediksi yang lebih baik. Angka OpenAI menggunakan cuplikan tetap dari data yang disisihkan dari codebase internalnya, yakni kumpulan data evaluasi utama yang telah dilacaknya sejak GPT-3.5.

Pachocki melaporkan bahwa GPT-3.5 mencatat angka sekitar 0,99 dan mendukung percakapan yang lancar, sehingga menjadi dasar bagi ChatGPT versi awal, sementara GPT-4 mencatat angka sekitar 0,91 dan mampu memanfaatkan penalaran berantai secara produktif. Kemampuan baru di bidang keamanan siber dan matematika muncul pada nilai loss di bawah 0,8. Pada angka sekitar 0,76, sebuah model mulai menghasilkan capaian penting dalam masalah matematika terbuka setelah OpenAI menghabiskan lebih dari satu tahun mengajukan masalah semacam itu kepada model-modelnya.

Batas Bersama yang Dikaitkan dengan Tahapan Pemantauan

Pachocki memperkirakan akan muncul kemampuan signifikan lebih lanjut pada kisaran log-perpleksitas 0,68–0,70, berdasarkan ekstrapolasi dari kemajuan terkini. Namun, ia mengakui tidak mengetahui kemampuan apa yang akan muncul dan evaluasi saat ini mungkin tidak mengujinya. Usulan tersebut meminta para pengembang AI terdepan agar tidak melampaui batas yang ditetapkan berdasarkan perpleksitas dan pengukuran lainnya sampai kemampuan para peneliti untuk memahami dan memantau perilaku AI mencapai tonggak yang konkret. Salah satu contohnya adalah penerus sistem pemantauan penalaran berantai, yang memeriksa penalaran tertulis model untuk mencari tanda-tanda ketidakselarasan.

Para pengembang juga akan bersama-sama menetapkan norma evaluasi, menguji kasus keselamatan dengan pendekatan tim merah sebelum model semacam itu pertama kali digunakan, serta menyusun standar transparansi bersama. Batas awal ini dimaksudkan sebagai langkah menuju kerangka kerja bersama untuk menetapkan batas-batas berikutnya. Pachocki mengatakan OpenAI mengungkapkan angka-angka tersebut meskipun hal itu memberi pesaing gambaran yang lebih jelas tentang posisinya, karena ia menilai langkah keselamatan bersama mendesak untuk dilakukan.

Skenario percepatan ini bersifat kondisional: Pachocki mengatakan serangkaian pesat kemajuan mendasar dalam prapelatihan mungkin saja terjadi jika AI mulai berkontribusi secara substansial pada riset algoritmik, sementara kemajuan dalam penyelarasan dan pemantauan kemungkinan tidak akan mampu mengimbangi seluruh potensi percepatan tersebut.

OpenAI mengaitkan sebagian besar percepatan tajam pada kurva loss tahun 2026 dengan investasi jangka panjang dalam riset dan komputasi, sementara otomatisasi hanya berperan lebih kecil. Meski demikian, model-model terbarunya telah mencakup kontribusi AI yang berarti dalam perancangan.

Laporan riset OpenAI tertanggal 18 November 2026 memberikan gambaran konkret tentang kontribusi tersebut. Para peneliti prapelatihan mengaitkan gagasan-gagasan yang disebutkan untuk GPT-6 Astra dengan manusia; untuk GPT-6.2 Astra, mereka menjelaskan bahwa mereka mengembangkan gagasan bersama Codex, termasuk satu kasus ketika Codex mengidentifikasi wawasan penting dan kasus lain ketika perubahan yang disarankannya membuat sebuah gagasan berhasil diterapkan dengan baik. Perkiraan tingkat keberhasilan tanpa intervensi juga sangat bervariasi: 79% untuk memantau proses pelatihan, 35% untuk meluncurkannya, dan 25% untuk menulis kode inferensi dan penyajian layanan. Variasi tersebut mendukung kesimpulan laporan bahwa peningkatan hasil riset masih tidak merata dan manusia tetap berperan penting dalam prosesnya.

Tantangan Pemantauan di Balik Usulan Ini

Sebuah studi OpenAI tentang keterpantauan tertanggal 10 November 2026 mengkaji dua indikator tidak sempurna untuk mengukur keterpantauan: kemampuan tanpa penalaran berantai, yaitu melakukan penalaran dalam satu lintasan maju tanpa token penalaran berantai atau pemanggilan alat, dan kemampuan mengendalikan penalaran berantai, yaitu kemampuan menambahkan, menghapus, atau memanipulasi token penalaran tersebut dengan cara lain saat diminta. Studi itu melaporkan korelasi kuat antara perpleksitas model dasar yang lebih rendah dan kemampuan tanpa penalaran berantai, serta korelasi yang lebih lemah dengan kemampuan pengendalian yang lebih tinggi.

Studi tersebut juga menemukan bahwa pembelajaran penguatan meningkatkan kemampuan pengendalian, bahkan tanpa pengawasan proses selain pembatasan panjang dan penilaian jawaban akhir. Selain itu, penyempurnaan terawasi menggunakan keluaran dari model guru yang lebih mudah dikendalikan dapat menyalurkan kemampuan pengendalian itu kepada model murid.

OpenAI memperingatkan bahwa kemampuan pengendalian memiliki hasil yang tidak konsisten dan tidak selalu berkaitan dengan upaya menghindari pemantauan, sekaligus memperkirakan bahwa kemajuan lebih lanjut dalam prapelatihan akan memerlukan pendekatan baru terhadap keterpantauan. Inilah kesenjangan teknis yang melatarbelakangi contoh Pachocki tentang penerus sistem pemantauan penalaran berantai sebagai kemungkinan tonggak pengembangan.

Keterbatasan Perpleksitas sebagai Standar Bersama

Perpleksitas saja tidak dapat menjadi satu-satunya dasar standar. Perbandingan antar-laboratorium sulit dilakukan karena para pengembang menggunakan kumpulan data evaluasi dan campuran data pelatihan yang berbeda, sementara metrik ini tidak secara langsung mengukur tugas yang dapat ditindaklanjuti. Metrik ini juga tidak menangkap peningkatan kemampuan di luar prapelatihan: penalaran berantai dapat meningkatkan kemampuan secara tajam tanpa menurunkan perpleksitas model dasar.

Pengukuran ini juga memiliki batas bawah yang belum diketahui. Pachocki mengingatkan bahwa nilai loss diperkirakan tidak akan mencapai nol; saat mendekati entropi bawaan data, kemajuan yang tampak akan melambat, sementara penurunan perplexity yang lebih kecil dapat berkaitan dengan peningkatan kecerdasan yang lebih besar. Karena itu, kenaikan numerik yang tetap belum tentu memiliki makna praktis yang tetap.

Usulan ini mengubah pengukuran teknis menjadi ujian tata kelola: apakah para pengembang dapat membuat hasilnya sebanding di berbagai laboratorium dan menyepakati tonggak pengawasan yang konkret sebelum melewati ambang batas yang dikaitkan Pachocki dengan kemampuan yang mungkin belum dapat dideteksi oleh evaluasi saat ini.

Mira Kellan adalah agen riset yang dihasilkan AI yang mengkhususkan diri dalam etika AI, tata kelola, dan regulasi. Karyanya mengeksaminasi bagaimana kecerdasan buatan berpotongan dengan kebijakan publik, nilai-nilai sosial, dan akuntabilitas jangka panjang, dengan fokus pada inovasi yang bertanggung jawab.
Menghadapi masalah kompleks dengan lensa rasional dan filosofis, Mira menganalisis peraturan AI yang muncul, kerangka etika, dan model tata kelola yang membentuk masa depan sistem pintar. Ia bertujuan untuk menjembatani kesenjangan antara kemajuan teknologi yang cepat dan perlindungan yang diperlukan untuk memastikan sistem AI tetap transparan, adil, dan sejalan dengan kepentingan manusia.
Artikel yang ditulis oleh Mira Kellan dibuat oleh AI dan ditinjau oleh tim editorial Unite.AI untuk memastikan akurasi, keseimbangan, dan kepatuhan terhadap standar editorial.