Pemimpin pemikiran
Jika Bot Boleh Menggoda Anak-Anak, Apa Lagi yang Diizinkan Dilakukannya dengan Data Anda?

Poin utamaKebanyakan karyawan menempelkan data perusahaan ke dalam alat AI konsumen tanpa…
Lihat selengkapnya
- Kebanyakan karyawan menempelkan data perusahaan ke dalam alat AI konsumen tanpa perlindungan tingkat perusahaan.
- AI memampatkan konteks dan menghilangkan nuansa dari komunikasi bisnis yang sensitif.
- Setiap sistem AI mencerminkan penilaian pembuatnya, bukan hanya kode programnya.
Ketika pedoman internal yang bocor mengungkap bahwa Meta memperbolehkan chatbot AI-nya untuk menggoda anak-anak, sebagian besar orang menganggapnya sebagai skandal dan melanjutkan. Namun, perlu untuk melihat lebih dekat apa yang investigasi itu ungkapkan tentang keadaan etika AI saat ini: Jika sebuah perusahaan seperti Meta memperbolehkan kebijakan seperti itu dengan skala yang besar, apa lagi yang diperbolehkan oleh platform ini tanpa kita sadari? Dan berapa banyak dari itu yang melibatkan data Anda?
Pemimpin bisnis cenderung mengevaluasi alat AI berdasarkan apa yang dapat mereka lakukan, seberapa cepat, dan dengan biaya berapa. Namun, ada pertanyaan yang lebih sulit yang perlu diajukan, terutama karena alat AI dengan cepat menjadi bagian penting: Apa syarat yang Anda setujui ketika tim Anda mulai menggunakan alat AI? Apa yang dilakukan oleh penyedia model dan pembangun agen dengan data Anda? Dan ketika sesuatu salah, siapa yang bertanggung jawab?
Sebagian besar organisasi sangat terlibat dalam mencari cara untuk mendapatkan keuntungan maksimal dari teknologi baru ini, sehingga mereka belum mempertimbangkan pertanyaan paling penting:
Apa yang Sebenarnya Terjadi pada Data Anda?
Sebagian besar orang sangat melebih-lebihkan risiko berbagi sesuatu dengan chatbot atau menganggap masalah itu tidak penting. Faktanya, model bahasa besar dalam arti tertentu “dibekukan” setelah dilatih dan dirilis ke publik. Artinya, percakapan Anda disimpan secara terpisah, tidak langsung dihubungkan kembali ke memori sistem; apa yang Anda katakan kepada ChatGPT pagi ini tidak langsung mempengaruhi apa yang model itu katakan kepada orang lain pada sore hari.
Itu tidak berarti data Anda tidak digunakan. Data Anda digunakan. Jalur yang ditempuh lebih rumit.
Log percakapan disimpan secara terpisah, dan banyak laboratorium AI secara eksplisit mempertahankan hak untuk menggunakan log tersebut untuk melatih versi berikutnya dari model mereka. Ini tertulis dalam syarat layanan. Apa yang masuk sebagai pertanyaan dukungan pelanggan atau sesi brainstorming strategi hari ini dapat, dari waktu ke waktu, mempengaruhi model yang akan digunakan oleh jutaan orang esok.
Risiko terhadap data milik perusahaan melampaui kebijakan. Pada 2025, Scale AI tidak sengaja membocorkan ribuan halaman bahan proyek rahasia dari klien, termasuk Meta, Google, dan xAI. Terpisah, pelanggaran keamanan pada November terhadap vendor OpenAI menyebabkan peretas membawa data pelanggan, termasuk nama, alamat email, dan detail sistem.
Untuk memperjelas, ini bukan keadaan darurat dengan tingkat kewaspadaan tertinggi, tetapi juga bukan tanpa risiko. Sistem kelas perusahaan dilengkapi perlindungan kontraktual mengenai penggunaan ulang data. Sebagian besar alat konsumen tidak memiliki perlindungan tersebut. Jika data Anda sangat sensitif sehingga Anda ingin perjanjian kerahasiaan untuk melindunginya, Anda tidak boleh memberikannya kepada chatbot konsumen dan menganggapnya tidak akan digunakan di tempat lain.
Angka-angka menunjukkan bahwa sebagian besar organisasi belum memahami hal ini. Hampir delapan dari sepuluh karyawan telah menempelkan informasi perusahaan ke alat AI, dan dari mereka, lebih dari empat dari lima melakukan itu menggunakan akun pribadi, menurut survei tenaga kerja 2025. Satu dari lima organisasi telah melaporkan pelanggaran keamanan yang terkait dengan penggunaan AI bayangan, dan hanya 37 persen memiliki kebijakan untuk mendeteksi atau mengelola hal itu, menurut Laporan Biaya Pelanggaran Data IBM 2025.
Setelah dipahami, risiko data jenis ini tidak sulit untuk diatasi. Bedakan antara alat konsumen dan perusahaan, ketahui apa yang Anda setujui, dan Anda telah menangani sebagian besar aspek penting.
Di Mana Komunikasi yang Dimediasi AI Gagal untuk Bisnis
Apa yang terjadi pada data Anda adalah satu bagian dari gambaran. Yang lain, dan untuk banyak bisnis merupakan bagian yang lebih penting, adalah apa yang sistem ini lakukan pada kualitas dan akuntabilitas komunikasi paling penting Anda.
Pikirkan tentang percakapan yang menggerakkan bisnis: pertemuan untuk mempertahankan klien lama; negosiasi penjualan di mana nada dan kepercayaan hampir lebih penting daripada bahasa kesepakatan; atau presentasi triwulanan kepada dewan direksi tentang kemajuan menuju tonggak pencapaian tahun tersebut. Ternyata, AI dapat menangani elemen transaksional dari interaksi ini dengan cukup baik, seperti mencatat pertemuan, menetapkan prioritas, dan menyoroti poin aksi. AI mengalami kesulitan dengan semua hal di bawahnya.
Mode kegagalan spesifik patut disebutkan. AI mengompresi konteks; AI merangkum, meratakan, dan memstandarkan dengan cara yang dapat menghilangkan nuansa. Selain itu, isi yang dihasilkan oleh model bahasa besar sulit untuk diverifikasi. Orang-orang yang Anda kirimkan email yang dihasilkan AI atau catatan pertemuan yang diringkas tidak memiliki cara untuk memastikan bahwa apa yang mereka terima mencerminkan apa yang Anda maksud, atau bahwa pesan tidak disaring atau diubah oleh AI.
Itu tidak berarti AI tidak memiliki tempat dalam komunikasi bisnis. AI jelas memiliki tempat. Namun, ada kategori percakapan di mana keuntungan efisiensi tidak membenarkan eksposur, dan sebagian besar organisasi belum mempertimbangkan untuk membedakan kasus penggunaan tersebut dengan cukup.
Tahu Kapan untuk Melakukannya Sendiri
Jadi, pertanyaannya menjadi: Untuk komunikasi paling sensitif Anda, apakah AI seharusnya dilibatkan sama sekali?
Jawaban jujur saya adalah tidak, setidaknya tidak tanpa orang yang dapat dimintai pertanggungjawaban atas apa yang dikatakan, bagaimana dikatakan, dan apakah pesan itu disampaikan. Memverifikasi komunikasi manusia bukanlah preferensi untuk cara lama melakukan sesuatu; itu hanya pengakuan bahwa beberapa percakapan memerlukan orang yang bersedia bertanggung jawab atasnya.
Pemimpin harus melakukan kajian terlebih dahulu. Apa yang dikatakan kebijakan data vendor tentang penggunaan kembali? Apa yang terjadi pada log percakapan tim Anda ketika kontrak berakhir? Ini bukanlah pertanyaan untuk tim IT Anda untuk menyelesaikannya di latar belakang. Ini adalah pertanyaan pengadaan, dan pertanyaan ini perlu diajukan lebih awal dalam proses daripada praktik saat ini.
Bot yang diperbolehkan untuk menggoda anak-anak tidak membuat keputusan itu sendiri. Seseorang menyetujui hal itu. Setiap sistem AI mencerminkan penilaian orang-orang yang membangun dan menerapkannya, dan keputusan itu tidak selalu jelas dari luar.
Sampai alat untuk mengaudit alat dan sistem AI mampu mengimbangi penerapannya, posisi yang paling dapat dipertanggungjawabkan yang dapat diambil oleh pemimpin bisnis adalah menggambar garis antara percakapan yang dengan nyaman mereka percayakan untuk melalui AI, dan yang tidak.
Argumen efisiensi untuk AI sangat kuat. Demikian juga argumen untuk bertanggung jawab atas apa yang disampaikan atas nama Anda.












