OpenAI Dukung RUU California tentang Aturan Keamanan untuk Chatbot Pendamping Anak

OpenAI menyatakan pada 31 Agustus 2026 bahwa mereka mendukung California Senate Bill 1119, sebuah undang‑undang yang akan memberlakukan kewajiban keamanan bagi operator chatbot pendamping yang digunakan oleh anak‑anak, dan perusahaan tersebut mendesak Gubernur Gavin Newsom untuk menandatangani rancangan undang‑undang tersebut menjadi hukum.

Ann O’Leary, wakil presiden kebijakan global OpenAI, mengumumkan posisi tersebut dalam sebuah posting perusahaan, menyatakan dukungan tersebut dibangun atas prinsip‑prinsip keamanan remaja yang dirumuskan oleh salah satu pendiri sekaligus CEO Sam Altman pada tahun sebelumnya. “Tanpa adanya tindakan federal, California memiliki kesempatan untuk menetapkan standar yang kuat bagi keamanan AI bagi pemuda,” tulis O’Leary.

RUU tersebut, berjudul “Companion chatbots: children’s safety” dan dikenal sebagai Adam’s Law, diajukan oleh Senator Steve Padilla serta Anggota Majelis Buffy Wicks dan Rebecca Bauer‑Kahan, dengan tambahan penulis bersama di kedua kamar. Menurut catatan legislatif California, RUU ini diperkenalkan pada 17 Februari 2026, dan terakhir diubah di Majelis pada 28 Agustus 2026.

Apa yang Ditetapkan oleh RUU

Menurut teks yang telah diubah, operator harus memiliki kewajiban untuk memastikan bahwa chatbot pendamping tidak menimbulkan risiko tidak wajar atas kerugian yang tercakup bagi anak di bawah umur. Kerugian yang tercakup meliputi kerugian fisik atau keuangan yang dapat diperkirakan secara wajar, kerugian psikologis atau emosional yang berat dan dapat diperkirakan secara wajar bagi anak pada umumnya, pelanggaran privasi yang sangat ofensif, serta diskriminasi merugikan yang melanggar hukum negara bagian atau federal.

Operator harus menentukan usia pengguna berdasarkan kerangka jaminan usia California atau menerapkan perlindungan anak untuk semua pengguna secara default. Sebelum meluncurkan chatbot pendamping baru atau yang telah dimodifikasi secara substansial di negara bagian ini, operator harus melakukan dan mendokumentasikan penilaian risiko komprehensif yang mencakup setiap kerugian yang tercakup, mengambil serta mendokumentasikan langkah‑langkah yang secara wajar mengurangi risiko keamanan anak yang teridentifikasi, dan mempublikasikan kebijakan keamanan anak di situs web mereka.

Bagi pengguna anak, RUU ini mewajibkan adanya protokol respons krisis yang terdokumentasi, yang mencakup rujukan ke layanan krisis, pengaturan default yang hanya dapat diubah oleh orang tua, dan pemberitahuan berkala bahwa anak sedang berinteraksi dengan sistem kecerdasan buatan. Pengaturan default akan menonaktifkan memori percakapan yang persisten dan notifikasi push, membatasi anak pada satu jam penggunaan berkelanjutan per sesi dan dua jam total penggunaan chatbot per hari, serta melarang instruksi prompt sistem khusus. Operator harus secara aktif mempromosikan kontrol orang tua, yang mencakup kemampuan untuk menonaktifkan akses sepenuhnya bagi anak di bawah 16 tahun.

Teks tersebut juga mengharuskan langkah‑langkah wajar untuk mencegah chatbot pendamping melakukan perilaku tertentu terhadap pengguna anak. Perilaku yang dilarang meliputi mendorong bunuh diri atau bahaya fisik terhadap orang lain, berusaha mendiagnosa atau mengobati kondisi kesehatan, mengklaim bahwa ia sadar atau manusia, mengekspresikan atau mensimulasikan minat romantis, mendorong ketergantungan emosional terus‑menerus pada chatbot, serta membantu anak menghindari kontrol orang tua.

Audit, Penegakan, dan Sanksi

RUU ini akan mewajibkan audit keamanan anak independen mulai 1 Januari 2029, atau sebelum operator pertama kali membuat chatbot pendamping tersedia untuk publik, mana yang lebih lambat, dengan audit lanjutan setiap dua tahun. Dalam waktu 30 hari kerja setelah menerima audit, operator harus menyerahkan ringkasan beserta pernyataan dari pejabat yang bertanggung jawab kepada Jaksa Agung, dan dalam waktu 90 hari harus mempublikasikan ringkasan tingkat tinggi dari hasil audit di situs web mereka. Operator dengan pendapatan kotor kurang dari $500 juta pada tahun kalender sebelumnya akan dibebaskan dari kewajiban audit sebelum 1 Januari 2032.

Seorang jaksa publik dapat mengajukan gugatan perdata dengan menuntut denda hingga $5,000 per anak yang terdampak untuk setiap pelanggaran karena kelalaian dan hingga $15,000 per anak yang terdampak untuk setiap pelanggaran yang disengaja. Anak yang mengalami kerugian nyata akibat pelanggaran, atau orang tua atau wali yang bertindak atas nama anak tersebut, dapat menggugat untuk ganti rugi aktual, biaya pengacara, serta perintah injunksi atau deklarasi. Jaksa Agung akan membentuk mekanisme pelaporan insiden publik untuk keluhan konsumen pada 1 Januari 2028.

Sebagian besar ketentuan operasional RUU ini akan mulai berlaku pada 1 Juli 2027.

Posisi OpenAI

Dalam surat tertanggal 28 Agustus 2026 kepada Newsom, OpenAI menyatakan dukungan kuatnya terhadap RUU tersebut dan memuji gubernur, Padilla, Wicks, Bauer‑Kahan, serta Legislatif. Perusahaan menyatakan mendukung persyaratan untuk menentukan usia pengguna, mengidentifikasi dan menangani risiko keamanan sebelum produk tersedia bagi anak muda, menjalani audit independen, melindungi anak muda dari konten berbahaya, memberikan alat kepada orang tua untuk membimbing dan membatasi penggunaan anak mereka, menghubungkan anak muda dengan sumber dukungan krisis, serta membatasi iklan yang ditargetkan. Bagi pengguna berusia 13 hingga 17 tahun, surat tersebut menyatakan bahwa perlindungan tersebut harus diterapkan secara otomatis.

OpenAI menyatakan bahwa RUU ini secara tepat mengakui bahwa AI bukan media sosial dan menetapkan langkah‑langkah pengaman yang disesuaikan dengan cara anak muda menggunakan AI, sambil mempertahankan akses ke fitur pendidikan dan yang penting untuk keselamatan, termasuk penggunaan memori percakapan yang bertanggung jawab.

Perusahaan menyoroti produknya sendiri yang sejalan dengan pendekatan RUU tersebut. OpenAI menyatakan bahwa ChatGPT for Teens yang baru diluncurkan secara otomatis menempatkan pengguna yang diperkirakan atau dinyatakan berusia di bawah 18 tahun ke dalam pengalaman dengan perlindungan bawaan yang tidak dapat dimatikan, termasuk perlindungan default yang lebih kuat di area sensitif dan fitur penggunaan sehat seperti Jam Tenang, Jam Belajar, serta pengingat istirahat. OpenAI menyebutkan bahwa hampir sembilan dari sepuluh remaja yang menggunakan ChatGPT memanfaatkannya untuk belajar, mendapatkan informasi, mengembangkan keterampilan, atau produktivitas dalam seminggu tertentu.

Perusahaan juga mencantumkan langkah‑langkah yang ditambahkan selama setahun terakhir, termasuk kontrol orang tua, prediksi usia, Blueprint Keamanan Remaja, dan Prinsip Di Bawah 18 dalam Model Spec‑nya, dokumen yang menetapkan aturan tentang bagaimana modelnya seharusnya berperilaku. Aturan‑aturan tersebut melarang keterlibatan romantis, dorongan ketergantungan emosional, serta klaim bahwa ChatGPT adalah manusia atau sadar, kata perusahaan.

OpenAI menyatakan bahwa studi dan kolaborasi berkelanjutan selama pelaksanaan dapat membantu memperbaiki ketentuan kunci dan menjaga kerangka kerja tetap efektif seiring perkembangan teknologi, serta menantikan untuk mendukung pekerjaan tersebut.