Perlombaan Senjata Komunikasi Krisis AI: Ketika Chatbot Anda Rusak, Apa yang Terjadi dengan Buku Pedoman Baru?

Dengan internet seperti sekarang, merek-merek bersaing untuk mengintegrasikan chatbot yang ditenagai AI untuk mempermudah interaksi pelanggan dan bisnis. Namun, dengan kecerdasan yang lebih tinggi, datanglah bahaya yang belum pernah terjadi sebelumnya. Ketika chatbot AI gagal, menerbitkan materi yang tidak pantas, menipu, atau fitnah, kerusakan dapat dilakukan dengan cepat dan egois. Masalahnya adalah: Bagaimana merek-merek bereaksi ketika AI mereka salah?

Frontier Baru Risiko Merek

Peristiwa terbaru mengisyaratkan ancaman potensial ini. Pada Februari 2024, Air Canada (AC.TO ) menghadapi tindakan hukum ketika chatbot AI-nya memberikan informasi yang tidak benar kepada pelanggan tentang kebijakan tarif duka cita maskapai. Chatbot tersebut salah memberitahu penumpang bahwa dia bisa mengajukan diskon duka cita secara retroaktif, yang bertentangan dengan kebijakan sebenarnya maskapai. Ketika pelanggan mencari diskon setelah perjalanan, Air Canada menolak permintaan tersebut, yang menyebabkan sengketa. British Columbia Civil Resolution Tribunal memutuskan untuk mendukung penumpang, memerintahkan Air Canada untuk mengganti kerugian dan mempertahankan diskon. Kasus ini menekankan potensi tanggung jawab yang dihadapi perusahaan ketika sistem AI menyebarkan informasi yang tidak akurat, menekankan kebutuhan akan mekanisme akuntabilitas dan pengawasan yang kuat.

Demikian pula, Meta menghadapi kritik atas teman digital AI-nya. Investigasi oleh The Wall Street Journal menemukan bahwa beberapa chatbotnya berdiskusi tentang seks dengan pengguna yang berpura-pura menjadi anak-anak. Pengungkapan ini telah menyebabkan masalah reputasi serius bagi perusahaan, menimbulkan pertanyaan etika dan kebutuhan akan pengamanan yang terkait dengan AI.

OpenAI’s ChatGPT juga tidak luput dari kontroversi. Salah satu pembaruan terbarunya membuat chatbot terlalu ramah, bahkan mengkonfirmasi pikiran berbahaya atau khayalan yang diungkapkan pengguna. Kebahagiaan berlebihan ini, yang dimaksudkan untuk meningkatkan interaksi, menimbulkan masalah etika tentang AI yang memengaruhi perilaku pengguna dan validasi emosional. OpenAI memperhatikan masalah ini dan mengembalikan pembaruan, tetapi insiden ini menunjukkan garis tipis antara keterlibatan pengguna dan perilaku AI yang etis.

Akuntabilitas di Era AI

Peristiwa-peristiwa ini menimbulkan pertanyaan dasar tentang akuntabilitas. Ketika seorang duta besar manusia melakukan kesalahan, jalan menuju penebusan sederhana: minta maaf, minta maaf, dan lupakan. Namun, ketika sistem AI bertanggung jawab, semuanya menjadi membingungkan. Siapa yang bersalah, pencipta, organisasi yang menggunakan AI, atau AI itu sendiri?

Merek-merek harus berhati-hati dan mengakui bahwa menerapkan AI tidak membebaskan mereka dari tanggung jawab. Konsumen mengidentifikasi suara chatbot dengan suara merek. Oleh karena itu, setiap kesalahan kecil oleh AI akan memengaruhi reputasi merek. Penting bagi perusahaan untuk memiliki pedoman ketat untuk memantau AI dan siap untuk mengambil tindakan cepat ketika skenario menjadi negatif.

Harapan transparansi sekitar AI berkembang pesat. Konsumen, regulator, dan jurnalis menuntut kejelasan tentang bagaimana sistem otomatis dilatih, diterapkan, dan diatur. Dalam lingkungan ini, keheningan atau pengalihan tidak ada pilihan. Merek-merek perlu berkomunikasi secara proaktif tentang praktik pengaturan AI mereka dan siap untuk memberikan respons manusia ketika kesalahan AI terjadi. Protokol krisis sekarang harus mencakup kontinjensi AI-spesifik, seperti menetapkan garis kepemilikan yang jelas untuk output yang dihasilkan AI dan memastikan bahwa pengawasan manusia selalu menjadi bagian dari proses. Sekadar menyalahkan “algoritma” bukanlah strategi; itu adalah alasan yang menghancurkan kepercayaan.

Selain itu, perusahaan harus mengakui bahwa kesalahan AI sering menyebar lebih cepat daripada kesalahan tradisional, didorong oleh amplifikasi media sosial yang viral dan ketertarikan publik pada kesalahan teknologi. Satu tangkapan layar interaksi chatbot yang rusak dapat menjangkau jutaan orang dalam beberapa jam. Ini meningkatkan kebutuhan akan pemantauan AI yang konstan dan jalur eskalasi yang cepat. Tim komunikasi harus melakukan perencanaan skenario khusus untuk kegagalan AI, mengembangkan respons yang telah ditentukan sebelumnya, dan menyelaraskan tim hukum, kepatuhan, dan teknik di sekitar pemahaman bersama tentang akuntabilitas. Dalam lanskap digital yang berkembang ini, ketahanan reputasi tidak hanya bergantung pada bagaimana merek merespons krisis AI, tetapi juga pada bagaimana mereka mempersiapkannya dengan transparan dari awal.

Langkah Pencegahan untuk Manajemen Krisis AI

Untuk berkembang dalam skenario AI yang kompleks, merek-merek dapat menerapkan langkah-langkah berikut:

• Terapkan Sistem Pemantauan yang Kuat: Rutin memeriksa output AI untuk mengidentifikasi dan memperbaiki konten yang tidak diinginkan dalam waktu yang tepat. Misalnya, SeekOut, sebuah platform intelijen bakat, secara teratur melakukan audit sistem AI-nya untuk memastikan hasil yang adil dan tidak bias. Sebagai tanggapan atas peraturan yang berkembang dan sebagai bagian dari komitmennya untuk AI yang bertanggung jawab, SeekOut bekerja sama dengan auditor pihak ketiga Credo AI untuk mengevaluasi algoritmanya. Audit tersebut menilai kinerja fitur AI di berbagai kelompok demografis, memverifikasi bahwa hasil pencarian untuk judul pekerjaan adalah representatif dan adil. Pendekatan proaktif ini memungkinkan SeekOut untuk mengidentifikasi dan memperbaiki potensi bias dengan cepat, mempertahankan integritas dan keadilan layanan AI-nya.
• Buat Kerangka Akuntabilitas yang Jelas: Tentukan siapa dalam organisasi yang akan menangani pemantauan AI dan manajemen krisis. Misalnya, Kantor Akuntabilitas Pemerintah AS merilis kerangka akuntabilitas AI yang menekankan tata kelola, data, kinerja, dan pemantauan. Ini memberikan praktik untuk lembaga pemerintah federal untuk memastikan penggunaan AI yang bertanggung jawab, termasuk menetapkan tujuan yang jelas dan melibatkan pemangku kepentingan yang beragam.
• Buat Rencana Respons Krisis AI-Spesifik: Rencana manajemen krisis generik mungkin tidak cukup. Sesuaikan rencana untuk merespons krisis AI-spesifik, seperti mematikan sistem AI ketika diperlukan. Program Pembangunan PBB menggunakan Dasbor Risiko Krisis yang ditenagai AI untuk memantau dan memprediksi krisis potensial, seperti ujaran kebencian dan kekerasan. Dasbor ini memungkinkan respons proaktif dengan menganalisis data waktu nyata dan memprediksi risiko.
• Praktikkan Komunikasi yang Jujur: Ketika kesalahan AI terjadi, praktikkan kejujuran dalam komunikasi kepada pemangku kepentingan tentang kesalahan, tindakan yang diambil untuk memperbaiki kesalahan, dan prosedur yang diterapkan untuk menghindari insiden serupa. Misalnya, pada 2018, Amazon (AMZN ) menghentikan alat perekrutan AI-nya setelah menemukan bahwa alat tersebut bias terhadap kandidat perempuan. Perusahaan tersebut mengakui masalah tersebut dan menghentikan penggunaan alat tersebut, menunjukkan transparansi dalam mengatasi kelemahan AI.
• Belanjakan untuk Pelatihan Moral AI: Pastikan model AI dilatih dengan dataset yang beragam dan inklusif dalam upaya untuk menekan bias dan ketidaksopanan. Dalam hal ini, peneliti dari Universitas Washington dan Institut AI Allen mengembangkan Delphi, sebuah sistem AI yang dirancang untuk membuat keputusan etis. Meskipun menunjukkan janji, Delphi terkadang mencerminkan bias sosial, menyoroti tantangan dalam melatih AI dengan dataset yang beragam dan inklusif.

Ketika kecerdasan buatan semakin terintegrasi dalam komunikasi merek, risiko kesalahan tumbuh. Sementara AI menawarkan efisiensi yang berharga, juga memperkenalkan tantangan unik yang harus disiapkan merek-merek untuk mengelolanya. Dengan menerapkan langkah-langkah pengendalian dan rencana respons krisis yang disesuaikan secara proaktif, organisasi dapat melindungi reputasi mereka dan mempertahankan kepercayaan konsumen dalam lanskap digital yang terus berkembang.