Tiga Cara Membangun ‘Infrastruktur Emosi’ di Produk GenAI dan Membangun Kepercayaan Konsumen

Dalam percakapan baru-baru ini dengan seorang calon investor, saya ditanya apakah saya tahu rahasia paling efektif untuk meningkatkan skala. Bagi saya, ini tidaklah sulit – itu adalah emosi. Investor tersebut, bagaimanapun, menggelengkan kepala. Seperti banyak orang di dunia teknologi, dia percaya bahwa logika dapat diskalakan, tetapi emosi tidak.

Meskipun kami berdebat selama beberapa waktu, saya tidak berhasil mengubah pikirannya (atau memenangkan investasinya). Tetapi saya telah bekerja di industri pemasaran olahraga selama lebih dari satu dekade – Anda tidak akan pernah bisa membujuk saya bahwa logika adalah yang membuat stadion penuh dengan penggemar yang histeris. Itu semua tentang emosi.

Sementara beberapa orang mungkin berpendapat bahwa membandingkan teknologi dengan olahraga seperti membandingkan apel dengan jeruk, saya akan mengatakan bahwa teknologi dapat belajar dari beberapa hal dari industri olahraga. Karena ketika datang ke banyak produk teknologi, tidak mempertimbangkan emosi manusia adalah bekerja melawan kita. Ini adalah perspektif yang sempit yang telah menyebabkan aspek terburuk dari media sosial di masa lalu, dan yang saat ini memicu berita-berita yang paling merusak terkait kecerdasan buatan generatif hari ini.

Jika wirausaha teknologi ingin memenangkan kepercayaan konsumen dalam janji dan potensi kecerdasan buatan, kita perlu merancang produk yang dibangun dengan apa yang saya sebut “infrastruktur emosi.” Berikut adalah caranya.

Gunakan Memori untuk Mendukung, Bukan Menyalahgunakan

Fungsi yang luas yang dijanjikan oleh agen kecerdasan buatan akan dimungkinkan berkat kemampuan memori yang ditingkatkan – tetapi itu juga berarti menyimpan lebih banyak data pribadi, dan sayangnya, data pengguna telah secara historis banyak digunakan untuk mencoba dan memanipulasi pengguna untuk menghabiskan uang.

Membangun kecerdasan buatan dengan infrastruktur emosi, bagaimanapun, akan menggunakan memori data pengguna untuk mengisi kesenjangan pengetahuan yang mungkin tidak disadari oleh pengguna.

Misalnya, jika pengguna bertanya kepada agen kecerdasan buatan tentang pantai mana yang ramah anjing, seperti yang ada sekarang, sebagian besar agen akan mengembalikan daftar pantai dan mungkin bertanya apakah pengguna juga tertarik dengan daftar restoran ramah hewan peliharaan di dekatnya.

Namun, agen yang dirancang dengan infrastruktur emosi akan mengintegrasikan lapisan tambahan kecerdasan emosi. Dalam hal ini, itu akan mengingat bahwa janji vaksin anjing sehari sebelumnya dan memberi tahu pengguna bahwa membawa anjing ke air terlalu cepat dapat menyebabkan infeksi, kelelahan, atau efek sampingan yang tidak terduga.

Dengan cara ini, agen kecerdasan buatan akan berperilaku lebih seperti konsultan tepercaya yang bersedia untuk menentang ketika hanya mengikuti perintah dapat menyebabkan hasil yang kurang dari optimal. Melakukan hal ini juga lebih mungkin untuk membangun kepercayaan pengguna yang lebih besar, sehingga meningkatkan penggunaan.

Bangun Pendapatan Melalui Kepercayaan, Bukan Targeting

Pengadopsi awal kecerdasan buatan generatif telah memiliki akses ke pemain terbesar di pasar selama beberapa tahun sekarang, tanpa biaya. Ini mungkin membuat pendiri startup kecerdasan buatan B2C berpikir bahwa satu-satunya jalur untuk mendapatkan keuntungan adalah dengan produk gratis yang menghasilkan uang dengan menjual data kepada vendor pihak ketiga atau melalui penjualan iklan.

Namun, default ke model bisnis ini dapat membahayakan kepercayaan konsumen yang sudah rapuh jika pengguna tidak diperlakukan dengan tingkat respek, perawatan, dan tanggung jawab yang jauh lebih tinggi. Ambil contoh terbaru dari aplikasi Meta AI di mana pengguna tampaknya tidak sengaja membagikan pertanyaan pribadi ke umpan publik.

Tidak semua produk memiliki elemen sosial, tetapi contoh ini menggambarkan tingkat detail pribadi yang pengguna bersedia untuk dibagikan dengan agen kecerdasan buatan. Dan mempertimbangkan penelitian menunjukkan bahwa chatbot lebih mampu untuk membujuk lawan manusia ketika dilengkapi dengan detail pribadi, iklan dalam platform ini dapat dilakukan dengan cara yang tidak etis – seperti laporan bahwa Meta menayangkan iklan produk kecantikan setelah pengguna remaja menghapus foto selfie.

Sebaliknya, infrastruktur emosi akan mengoptimalkan perawatan daripada klik. Ini tidak harus datang dengan biaya pendapatan, juga.

Kecerdasan buatan dapat membuat pengalaman ini lebih efektif dengan hanya menayangkan iklan yang memenuhi kebutuhan pengguna secara nyata: jaket hujan ketika cuaca buruk akan datang, rencana asuransi hewan peliharaan yang sesuai dengan anggaran untuk anak kucing baru, suplemen vitamin C pada tanda pertama gejala pilek.

Namun, perawatan yang sebenarnya tidak hanya tentang penargetan yang akurat – seperti contoh pantai di atas, perawatan yang sebenarnya mengisi kesenjangan yang tidak disadari oleh pengguna. Misalnya, pelacak kesehatan hewan peliharaan mungkin memberi tahu pengguna bahwa ras tertentu rentan terhadap kekurangan vitamin B12 dan oleh karena itu merekomendasikan merek makanan yang lebih baik untuk memenuhi kebutuhan anjing mereka. Mengungkap detail yang terlewatkan seperti ini adalah di mana kecerdasan buatan dapat benar-benar bersinar dan membawa nilai nyata kepada pengguna akhir.

Tentang setengah dari konsumen global bersedia untuk membagikan data pribadi jika itu berarti pengalaman pengguna yang lebih baik, tetapi angka ini turun menjadi hanya 15% di pasar AS. Pengusaha kecerdasan buatan memiliki kesempatan nyata untuk mengubah persepsi itu melalui desain yang cerdas secara emosi.

Rancang Rel Pengaman Emosi yang Mengutamakan Orang

Aspek paling kritis dari infrastruktur emosi adalah membangun rel pengaman yang melindungi kepentingan terbaik pengguna. Ini melibatkan pemilihan jenis konten yang dapat dihasilkan oleh kecerdasan buatan, pelabelan jelas konten yang dihasilkan oleh kecerdasan buatan, dan perancangan intervensi yang jelas ketika pengguna melakukan eksplorasi ke wilayah yang berisiko secara emosi.

Misalnya, ketika membangun aplikasi perawatan hewan peliharaan, tim saya dan saya memutuskan bahwa kami tidak akan menggunakan kecerdasan buatan untuk konten yang terkait dengan kesehatan atau gizi. Risiko halusinasi atau informasi yang salah terlalu besar, sehingga kami memutuskan untuk membayar seorang dokter hewan profesional untuk menulis dan mengkurasi artikel-artikel tersebut. Tentu saja, ini adalah pilihan yang lebih mahal, tetapi ketika nyawa yang sebenarnya dipertaruhkan, itu adalah investasi yang layak.

Tidak hanya memberikan kredibilitas pada produk kami, tetapi juga menjaga pengguna dan hewan peliharaan mereka tetap aman. Ini juga merupakan apa yang diinginkan oleh konsumen – 79% setuju bahwa penggunaan kecerdasan buatan harus diungkapkan oleh perusahaan.

Akhirnya, ada dalam kepentingan terbaik perusahaan kecerdasan buatan untuk merancang produk mereka untuk berkomunikasi dengan keterbatasan mereka secara jelas, dan menunjukkan pengguna ke intervensi manusia ketika diperlukan. Telah ada cerita tentang pengguna yang rentan secara emosi berpaling ke kekerasan diri atau bunuh diri karena kurangnya rel pengaman yang memadai dalam chatbot, dan secara wajar, ini telah menimbulkan tuntutan hukum.

Meskipun saya percaya bahwa masa depan kecerdasan buatan dalam kehidupan kita adalah cerah, kita harus jujur tentang di mana kelemahan saat ini berada dan tidak membiarkan tekanan kecepatan dan persaingan mengambil prioritas atas keamanan. Jika kita melakukannya, kita akan kehilangan kepercayaan konsumen yang kita klaim ingin kita layani. Mengabaikan tanggung jawab itu akan merugikan seluruh ekosistem.