Pemimpin pemikiran

Membangun Kepercayaan dan Kontrol di Era AI Otonom

Claudio Rodrigues
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaSistem yang tidak dapat menjelaskan keputusannya merupakan liabilitas terlepas dari…
Lihat selengkapnya
  • Sistem yang tidak dapat menjelaskan keputusannya merupakan liabilitas terlepas dari akurasinya.
  • Kepemilikan model dan kedaulatan data menjaga sistem suara otonom tetap dapat dikendalikan, diaudit, dan diamati.
  • Model yang dilatih pada domain tertentu mengungguli model generik karena bahasa industri dan register emosional berbeda secara tajam.

Sebagian besar perusahaan yang mengimplementasikan Voice AI di pusat kontak mereka tidak dapat menjelaskan mengapa sistem tersebut mengatakan apa yang dikatakan pada panggilan tertentu. Mereka dapat memberitahu Anda tentang persentase permintaan yang diselesaikan tanpa dialihkan ke petugas manusia dan skor akurasi agregat. Namun, ketika pelanggan mengeluh, ketika sesuatu salah dan regulator mengajukan pertanyaan, jawabannya seringkali hanya angkat bahu. Sistem memutuskan. Kami tidak yakin bagaimana caranya.

Gap Akuntabilitas dalam Voice AI Otonom

Ini bukanlah masalah yang tidak signifikan. Gartner memprediksi bahwa paling lambat pada 2029, AI agentik akan secara otonom menyelesaikan 80% dari masalah layanan pelanggan yang umum. Hal ini menimbulkan pertanyaan yang tidak nyaman yang belum dijawab dengan jelas oleh industri: ketika 80% interaksi diputuskan oleh AI tanpa campur tangan manusia, siapa yang bertanggung jawab ketika sesuatu salah? Apa yang dimaksud dengan “kepercayaan” dalam pusat kontak di mana sistem beroperasi lebih cepat daripada manusia dapat meninjau?

Biaya Sesungguhnya dari Otomatisasi “Black-Box”

Bagi banyak pemimpin bisnis, pertanyaannya bukanlah apakah untuk mengimplementasikan Voice AI – keputusan itu sebagian besar sudah dibuat. Pertanyaannya adalah apakah struktur tata kelola di sekitarnya sudah cukup matang untuk mengimbangi kecepatan penerapan. Hampir dua pertiga pemimpin IT dan keamanan melaporkan merasa tidak siap untuk mengelola risiko adopsi AI. Dalam konteks pusat kontak, ketidaksiapan ini memiliki biaya langsung: dalam kepercayaan pelanggan yang terkikis oleh interaksi AI yang buruk, dalam paparan risiko kepatuhan, dan dalam keputusan operasional yang diambil berdasarkan sistem yang tidak dapat dijelaskan sepenuhnya oleh siapa pun.

Jawabannya bukan untuk memperlambat adopsi AI. Jawabannya adalah untuk merancangnya dengan sengaja, di mana setiap keputusan otomatis dapat diaudit, setiap hasil dapat dijelaskan, dan pengawasan manusia adalah fitur struktural dari sistem. Perbedaan ini lebih penting daripada setiap metrik akurasi. Sistem yang 96% akurat tetapi tidak dapat menjelaskan keputusannya adalah sebuah liabilitas. Sistem dengan akurasi yang sama dan jejak audit penuh adalah aset.

Voice AI memberikan nilai yang dapat diukur pada skala besar ketika dirancang secara sengaja. Ini mengurangi biaya, menyediakan ketersediaan 24/7, dan mempertahankan kualitas layanan yang konsisten yang tidak dapat selalu dicapai oleh agen manusia yang berada di bawah tekanan, sumber daya yang terbatas, dan mengelola beberapa percakapan simultan. Ketika bank mengelola lonjakan tiba-tiba dari peringatan penipuan atau perusahaan utilitas menangani panggilan dari ribuan pelanggan yang mengalami pemadaman listrik, layanan mandiri berbasis AI bukan sekadar fitur tambahan yang menyenangkan. Ini adalah satu-satunya respons operasional yang layak. Pertanyaannya adalah apakah respons tersebut dapat dipercaya.

Arsitektur di Atas Aspirasi: Tiga Pilar AI yang Dipercaya

Kepercayaan dibangun melalui arsitektur, bukan aspirasi. Platform yang mendapatkan kepercayaan perusahaan yang sebenarnya saat ini berbagi filosofi desain tertentu: mempertahankan kepemilikan model dan kedaulatan data untuk memastikan lingkungan yang dapat dikontrol, diaudit, dan diamati.

1. Kepemilikan Model dan Kedaulatan Data

Hal ini penting karena percakapan suara langsung tidak memberi ruang bagi kesalahan. Percakapan ini berlangsung secara real-time dan sinkron, disertai kebisingan, aksen, dan muatan emosional. Model yang mengalami halusinasi dalam chatbot teks adalah memalukan. Model yang mengalami halusinasi selama panggilan layanan keuangan atau kueri kesehatan adalah peristiwa kepatuhan.

2. Keterjelasan Penuh dan Jejak Audit

Persyaratan kedua adalah keterjelasan penuh: kemampuan bagi tim kepatuhan, pemimpin operasional, dan regulator untuk melihat secara tepat apa yang dikatakan AI, mengapa AI mengatakannya, dan informasi apa yang digunakan, tanpa membuka tiket dukungan kepada vendor. Otomatisasi “black-box” bukan hanya risiko tata kelola. Ini adalah batas atas seberapa jauh perusahaan mau melangkah. Organisasi yang bergerak paling cepat dalam adopsi AI adalah mereka yang telah mengatasi persoalan keterjelasan terlebih dahulu, karena setiap kekhawatiran stakeholder lain — dari tim hukum hingga dewan direksi — bersumber dari hal itu.

3. Keahlian Mendalam dalam Sektor vs. Model Generik

Persyaratan ketiga adalah keahlian nyata dalam sektor terkait. Pelanggan yang menelepon pusat kontak layanan keuangan dan pelanggan yang menelepon penyedia layanan kesehatan tidak berkomunikasi dalam bahasa yang sama. Tidak dalam kosakata, tidak dalam urgensi, tidak dalam register emosional. Model generik yang dilatih pada dataset yang luas berperforma secara generik. Celah akurasi antara model umum dan model yang dilatih pada miliaran interaksi nyata yang spesifik untuk industri terkait tidak marginal. Dalam penerapan pusat kontak, ini berarti perbedaan antara 25% dan 55% permintaan yang diselesaikan tanpa dialihkan ke petugas manusia pada hari pertama operasi.

Empati juga penting. Sistem AI terbaik dapat merasakan ketika pelanggan frustrasi atau cemas dan membawa perwakilan manusia pada waktu yang tepat tanpa membuat orang tersebut mengulangi diri. Ini tentang mengubah apa yang bisa menjadi pengalaman negatif menjadi satu yang membangun kepercayaan pelanggan.

Inovasi Bertahap: Masa Depan Pengalaman Pelanggan

Voice AI sekarang sudah cukup matang untuk mengubah cara seluruh sektor industri melayani pelanggan. Pemimpin sebenarnya akan menjadi mereka yang menggabungkan inovasi dengan tanggung jawab, yang menggelar AI secara bertahap, mengukur apa yang penting, dan mempertahankan kepedulian terhadap pelanggan di pusat setiap interaksi.

Ketika dilakukan dengan benar, sistem suara otonom tidak menggantikan kepercayaan, mereka membantu mendapatkan kepercayaan. Mereka membuat layanan lebih tangguh dan lebih pribadi, pada skala besar. Perusahaan yang mengambil pendekatan ini hari ini akan mendefinisikan seperti apa pengalaman pelanggan yang unggul di era AI.

Claudio Rodrigues adalah Direktur Produk di Omilia, pemimpin global di Agentic CX. Dengan keahlian yang mendalam yang meliputi Conversational AI, Generative AI, dan Agentic AI, ia memimpin visi produk Omilia dan mengawasi evolusi platform Agentic CX asli — memungkinkan perusahaan untuk mengubah layanan pelanggan melalui otomatisasi cerdas, pemberdayaan agen waktu nyata, dan pengalaman yang didorong AI pada skala besar.