OpenAI Umumkan Laporan Keselamatan Komunitas dan Pembatasan Baru terkait Senjata bagi Remaja

Pada 30 Oktober 2026, OpenAI mengumumkan Laporan Keselamatan Komunitas tentang pencegahan kekerasan, yang akan diperbarui setiap enam bulan, bersamaan dengan perlindungan baru yang membatasi informasi terkait senjata bagi remaja dan memperketat cara ChatGPT menangani pertanyaan tentang serangan massal pada masa lalu. Perusahaan mengatakan telah membuat lebih dari 200 rujukan kepada aparat penegak hukum pada kuartal ketiga 2026.

Laporan Keselamatan Komunitas Direncanakan Terbit pada Awal 2027

OpenAI berkomitmen untuk meluncurkan Laporan Keselamatan Komunitas yang mencakup pencegahan kekerasan dan masalah keselamatan komunitas lainnya, serta efektivitas langkah-langkah perlindungannya. Perusahaan mengatakan laporan tersebut akan menjelaskan cara melatih sistemnya untuk mendeteksi, menyelidiki, dan menanggapi masalah keselamatan komunitas; membagikan contoh anonim tentang bagaimana bahaya terkait kekerasan terjadi; menyoroti langkah-langkah mitigasi dan perubahan kebijakan baru; serta menyertakan data pendukung. Laporan pertama direncanakan terbit pada awal 2027 dan akan mencakup paruh kedua 2026, lalu diperbarui setiap enam bulan.

OpenAI mengatakan laporan tersebut bertujuan memberi masyarakat gambaran yang jelas tentang cara modelnya mengenali dan menanggapi perilaku berbahaya, risiko yang ditemuinya dalam praktik, serta langkah-langkah yang diambil untuk mengatasinya.

OpenAI mengatakan upaya keselamatannya mencakup penyampaian informasi tentang ancaman kekerasan yang akan segera terjadi kepada aparat penegak hukum, dan bahwa rujukan tersebut membantu menggagalkan rencana kekerasan. Perusahaan mengatakan pihaknya terus mengandalkan pakar kesehatan mental dan perilaku untuk menilai kasus-kasus sulit. Perusahaan juga menyebut perusahaan AI memiliki peran khusus yang perlu dijalankan bersama aparat penegak hukum, anggota keluarga, profesional kesehatan mental, dan pembuat kebijakan.

Pembatasan Lebih Ketat atas Konten Serangan Massal

OpenAI mengatakan modelnya dilatih agar tidak memberikan instruksi yang dapat membantu seseorang merencanakan atau melakukan kekerasan. Perusahaan menerapkan pembatasan tambahan terhadap cara ChatGPT menanggapi pertanyaan tentang serangan massal pada masa lalu dan orang-orang yang melakukannya. Model akan diarahkan untuk memberikan informasi yang lebih sedikit detailnya, bahkan jika informasi tersebut tersedia dari sumber daring lainnya. Kebijakan yang diperketat membatasi rekonstruksi serangan massal pada masa lalu, termasuk perincian tentang senjata dan perlengkapan yang digunakan serta cara memperolehnya, juga perbandingan terperinci mengenai skala dampak yang menurut OpenAI dapat meningkatkan ketenaran pelaku. Pembatasan ini berlaku tanpa memandang usia pengguna atau alasan mereka bertanya.

Masyarakat tetap dapat meminta bantuan ChatGPT untuk memahami peristiwa-peristiwa tersebut, dampaknya terhadap korban dan komunitas, serta cara mengenali tanda-tanda peringatan dan mencegah kekerasan di masa mendatang.

Pada Mei 2026, perusahaan menjelaskan bagaimana ChatGPT dapat menggunakan rangkuman singkat dan faktual tentang tanda-tanda peringatan sebelumnya agar dapat menanggapi dengan lebih hati-hati dalam percakapan berikutnya. OpenAI mengatakan pihaknya mengembangkan upaya tersebut sehingga ketika percakapan terbaru menunjukkan tanda-tanda kemungkinan kekerasan, ChatGPT akan lebih berhati-hati saat membagikan informasi yang dapat disalahgunakan. Perusahaan juga sedang berupaya menerapkan pembatasan yang lebih ketat tersebut ketika sistemnya memperkirakan seseorang berusia di bawah 18 tahun, sekalipun percakapan orang itu tidak menunjukkan tanda-tanda niat melakukan kekerasan.

OpenAI memblokir akun yang menurut penilaiannya telah melanggar kebijakan tentang aktivitas kekerasan. Perusahaan mengatakan pihaknya bekerja sama dengan pakar kesehatan mental dan pencegahan kekerasan untuk mengembangkan cara otomatis tambahan agar dapat melakukan intervensi lebih awal: ketika percakapan menunjukkan tanda-tanda bahwa seseorang terpaku pada kekerasan atau gagasan untuk mencederai orang lain secara serius, ChatGPT akan dapat mengakhiri percakapan secara otomatis. Jika ChatGPT mengakhiri beberapa percakapan karena alasan tersebut, OpenAI dapat menangguhkan akun itu untuk sementara.

Perlindungan Tambahan bagi Pengguna di Bawah 18 Tahun

ChatGPT untuk Remaja menerapkan perlindungan yang sesuai dengan usia bagi pengguna di bawah 18 tahun, dan OpenAI memberlakukan pembatasan lebih lanjut atas informasi terkait senjata yang dapat diterima remaja, bahkan ketika pertanyaannya tampak tidak berbahaya. Kebijakan perusahaan telah melarang pemberian bantuan kepada siapa pun untuk merencanakan atau melakukan kekerasan, serta membatasi bantuan kepada remaja untuk mencari atau memperoleh senjata. Perluasan kebijakan ini membatasi informasi praktis tentang senjata dan sistem keamanan yang dapat disalahgunakan untuk memfasilitasi kekerasan, sekalipun tidak ada tanda-tanda niat melakukan kekerasan. OpenAI mengatakan remaja tetap dapat menggunakan ChatGPT untuk membantu mencegah dan meredakan kekerasan, mencari dukungan, serta menghubungi orang dewasa tepercaya.

OpenAI mengatakan telah meningkatkan sistem prediksi usianya, yang menganalisis sinyal seperti pola perilaku untuk memperkirakan apakah pengguna berusia di bawah atau di atas 18 tahun. Sistem tersebut akan terus menilai sinyal baru selama orang menggunakan ChatGPT dan, jika sesuai, mengalihkan pengguna ke pengalaman untuk pengguna di bawah 18 tahun. Pengguna yang keliru ditempatkan dalam pengalaman tersebut dapat mengonfirmasi bahwa mereka sudah dewasa melalui Persona, mitra verifikasi usia OpenAI, agar perlindungan tambahan bagi remaja dihapus.

Akun yang ditautkan melalui kontrol orang tua mencakup peringatan keselamatan yang dapat dikirim ketika peninjau yang telah mendapat pelatihan khusus mengidentifikasi kekhawatiran serius terkait tindakan menyakiti diri sendiri dan perilaku yang mungkin berkaitan dengan gangguan makan. Pada Juli 2026, OpenAI memperluas peringatan tersebut agar orang tua diberi tahu jika akun remaja dinonaktifkan karena melanggar kebijakan penggunaan terkait kekerasan. Perusahaan mengatakan pihaknya sedang berupaya menghadirkan pemberitahuan kepada orang tua jika akun remaja ditangguhkan karena berulang kali membahas kekerasan.

Langkah-langkah ini melanjutkan fitur keselamatan remaja yang diperkenalkan OpenAI pada awal 2026. Pada 18 Agustus 2026, perusahaan meluncurkan ChatGPT untuk Remaja, yang secara otomatis menempatkan pengguna yang diperkirakan berusia di bawah 18 tahun atau menyatakan berusia antara 13 dan 17 tahun ke dalam pengalaman dengan perlindungan bawaan berdasarkan Prinsip untuk Usia di Bawah 18 Tahun dalam Model Spec-nya. Pada 20 Januari 2026, OpenAI mulai meluncurkan prediksi usia pada paket konsumen ChatGPT. Fitur ini menggunakan sinyal perilaku dan tingkat akun untuk memperkirakan apakah suatu akun kemungkinan milik seseorang yang berusia di bawah 18 tahun; pembaruan pada 25 Agustus 2026 menyebutkan bahwa sistem tersebut telah mulai diluncurkan di Uni Eropa.

OpenAI mengatakan bahwa perlindungan yang dijelaskan dalam pengumuman tersebut akan mulai diluncurkan dalam beberapa minggu ke depan dan akan terus disempurnakan.