Jika Bot Bisa Menggoda Anak-Anak, Apa Lagi yang Diperbolehkan untuk Dilakukan dengan Data Anda?

Ketika pedoman internal yang bocor mengungkap bahwa Meta memperbolehkan chatbot AI-nya untuk menggoda anak-anak, sebagian besar orang menganggapnya sebagai skandal dan melanjutkan. Namun, perlu untuk melihat lebih dekat apa yang investigasi itu ungkapkan tentang keadaan etika AI saat ini: Jika sebuah perusahaan seperti Meta memperbolehkan kebijakan seperti itu dengan skala yang besar, apa lagi yang diperbolehkan oleh platform ini tanpa kita sadari? Dan berapa banyak dari itu yang melibatkan data Anda?

Pemimpin bisnis cenderung mengevaluasi alat AI berdasarkan apa yang dapat mereka lakukan, seberapa cepat, dan dengan biaya berapa. Namun, ada pertanyaan yang lebih sulit yang perlu diajukan, terutama karena alat AI dengan cepat menjadi bagian penting: Apa syarat yang Anda setujui ketika tim Anda mulai menggunakan alat AI? Apa yang dilakukan oleh penyedia model dan pembangun agen dengan data Anda? Dan ketika sesuatu salah, siapa yang bertanggung jawab?

Sebagian besar organisasi sangat terlibat dalam mencari cara untuk mendapatkan keuntungan maksimal dari teknologi baru ini, sehingga mereka belum mempertimbangkan pertanyaan paling penting:

Apa yang Sebenarnya Terjadi pada Data Anda?

Sebagian besar orang Either sangat melebih-lebihkan risiko berbagi sesuatu dengan chatbot atau menganggap masalah itu tidak penting. Faktanya, model bahasa besar secara efektif “dibekukan” setelah dilatih dan dirilis ke publik. Artinya, percakapan Anda disimpan secara terpisah, tidak langsung dihubungkan kembali ke memori sistem; apa yang Anda katakan kepada ChatGPT pagi ini tidak langsung mempengaruhi apa yang model itu katakan kepada orang lain pada sore hari.

Itu tidak berarti data Anda tidak digunakan. Data Anda digunakan. Jalur yang ditempuh lebih rumit.

Log percakapan disimpan secara terpisah, dan banyak laboratorium AI secara eksplisit menyimpan hak untuk menggunakan log tersebut untuk melatih versi berikutnya dari model mereka. Ini tertulis dalam syarat layanan. Apa yang masuk sebagai pertanyaan dukungan pelanggan atau sesi brainstorming strategi hari ini dapat, dari waktu ke waktu, mempengaruhi model yang akan digunakan oleh jutaan orang esok.

Risiko kehilangan data propietary melampaui kebijakan. Pada 2025, Scale AI tidak sengaja membocorkan ribuan halaman bahan proyek rahasia dari klien, termasuk Meta, Google, dan xAI. Terpisah, pelanggaran keamanan pada November terhadap vendor OpenAI menyebabkan peretas membawa data pelanggan, termasuk nama, alamat email, dan detail sistem.

Untuk menjelaskan, ini bukanlah situasi yang sangat berbahaya, tetapi juga tidak bebas risiko. Sistem kelas perusahaan datang dengan penjaga kontraktual seputar penggunaan data kembali. Alat konsumen sebagian besar tidak. Jika data Anda sangat sensitif sehingga Anda ingin sebuah NDA untuk melindunginya, Anda tidak boleh memberikannya kepada chatbot konsumen dan menganggapnya tidak akan digunakan di tempat lain.

Angka-angka menunjukkan bahwa sebagian besar organisasi belum memahami hal ini. Hampir delapan dari sepuluh karyawan telah menempelkan informasi perusahaan ke alat AI, dan dari mereka, lebih dari empat dari lima melakukan itu menggunakan akun pribadi, menurut survei tenaga kerja 2025. Satu dari lima organisasi telah melaporkan pelanggaran keamanan yang terkait dengan penggunaan AI bayangan, dan hanya 37 persen memiliki kebijakan untuk mendeteksi atau mengelola hal itu, menurut Laporan Biaya Pelanggaran Data IBM 2025.

Setelah dipahami, risiko data jenis ini tidak sulit untuk diatasi. Bedakan antara alat konsumen dan perusahaan, ketahui apa yang Anda setujui, dan Anda telah menutupi sebagian besar basis Anda.

Di Mana Komunikasi yang Dimediasi AI Gagal untuk Bisnis

Apa yang terjadi pada data Anda adalah satu bagian dari gambaran. Yang lain, dan untuk banyak bisnis merupakan bagian yang lebih penting, adalah apa yang sistem ini lakukan pada kualitas dan akuntabilitas komunikasi paling penting Anda.

Pikirkan tentang percakapan yang menggerakkan bisnis: pertemuan untuk mempertahankan klien lama; negosiasi penjualan di mana nada dan kepercayaan hampir lebih penting daripada bahasa kesepakatan; atau presentasi kuartal kepada dewan tentang kemajuan Anda menuju tujuan tahunan. Ternyata, AI dapat menangani elemen transaksional dari interaksi ini dengan cukup baik, seperti mengambil catatan pertemuan, menetapkan prioritas, dan menyoroti poin aksi. AI mengalami kesulitan dengan semua hal di bawahnya.

Mode kegagalan spesifik patut disebutkan. AI mengompresi konteks; AI merangkum, meratakan, dan memstandarkan dengan cara yang dapat menghilangkan nuansa. Selain itu, isi yang dihasilkan oleh model bahasa besar sulit untuk diverifikasi. Orang-orang yang Anda kirimkan email yang dihasilkan AI atau catatan pertemuan yang diringkas tidak memiliki cara untuk memastikan bahwa apa yang mereka terima mencerminkan apa yang Anda maksud, atau bahwa pesan tidak disaring atau diubah oleh AI.

Itu tidak berarti AI tidak memiliki tempat dalam komunikasi bisnis. AI jelas memiliki tempat. Namun, ada kategori percakapan di mana keuntungan efisiensi tidak membenarkan eksposur, dan sebagian besar organisasi belum mempertimbangkan untuk membedakan kasus penggunaan tersebut dengan cukup.

Tahu Kapan untuk Melakukannya Sendiri

Jadi, pertanyaannya menjadi: Untuk komunikasi paling sensitif Anda, apakah AI seharusnya ada dalam loop sama sekali?

Jawaban jujur saya adalah tidak, setidaknya tidak tanpa orang yang dapat dipertanggungjawabkan untuk apa yang dikatakan, bagaimana dikatakan, dan apakah pesan itu disampaikan. Memverifikasi komunikasi manusia bukanlah preferensi untuk cara lama melakukan sesuatu; itu hanya pengakuan bahwa beberapa percakapan memerlukan orang untuk berdiri di belakangnya.

Pemimpin harus melakukan tugas mereka. Apa yang dikatakan kebijakan data vendor tentang penggunaan kembali? Apa yang terjadi pada log percakapan tim Anda ketika kontrak berakhir? Ini bukanlah pertanyaan untuk tim IT Anda untuk menyelesaikannya di latar belakang. Ini adalah pertanyaan pengadaan, dan mereka harus lebih awal dalam proses daripada yang sekarang.

Bot yang diperbolehkan untuk menggoda anak-anak tidak membuat keputusan itu sendiri. Seseorang menyetujui hal itu. Setiap sistem AI mencerminkan penilaian orang-orang yang membangun dan menerapkannya, dan keputusan itu tidak selalu jelas dari luar.

Sampai alat untuk memantau alat dan sistem AI mengejar adopsi mereka, posisi paling defensif yang dapat diambil oleh pemimpin bisnis adalah menggambar garis antara percakapan yang mereka nyaman untuk mengalihkan melalui AI, dan yang tidak.

Argumen efisiensi untuk AI sangat kuat. Demikian juga argumen untuk memiliki apa yang keluar dengan nama Anda.