Personalisasi AI Terus Gagal, dan Model Jarang Menjadi Alasannya

Setiap fitur AI terlihat cemerlang dalam demo. Salam pribadi mendarat, rekomendasi terasa tidak biasa, dan ruangan mengangguk. Masalahnya dimulai beberapa minggu kemudian, ketika fitur yang sama mengatakan sesuatu yang salah dengan percaya diri kepada pengguna nyata, dan mereka tidak pernah mempercayainya lagi.

Pada 2026, personalisasi AI adalah item utama yang direncanakan oleh setiap tim produk. Namun, 42% perusahaan membatalkan sebagian besar inisiatif AI mereka sebelum produksi, naik dari 17% pada tahun sebelumnya. Sebagian besar dari apa yang dikirimkan adalah bolted pada akhir dan rusak dengan cara yang bisa Anda sebut pada hari pertama. Berikut adalah empat kesalahan yang kami lihat terus-menerus, dipelajari dari membangun lineup perangkat sensing, tetapi tidak satu pun dari mereka tentang sensor atau perangkat keras, per se. Jika Anda meletakkan lapisan personalisasi pada apa pun, mereka menunggu Anda.

Berbicara tentang sensing kualitas udara, contoh cepat untuk membuat ini konkret. Perangkat yang ditempatkan di rumah baru memulai tidak mengetahui apa-apa tentang baseline rumah, pola memasak, kekhasan ventilasi, atau siklus pollen musiman. Setiap pola yang muncul dalam beberapa minggu pertama adalah proyeksi, bukan potret. Jarak antara proyeksi dan potret adalah tempat empat kesalahan hidup.

Kesalahan 1: Menjangkau model yang lebih besar ketika masalahnya adalah data

Ketika personalisasi tidak berperforma, instingnya adalah untuk meningkatkan model, yang jarang membantu. Personalisasi berjalan pada data per-pengguna, namun data ini tipis dan penuh lubang. Pengguna baru tidak memiliki riwayat, dan setiap tim menemukan masalah cold-start dengan cara yang sulit. Pengguna aktif memberikan beberapa hari pembacaan yang terlihat tidak seperti pola stabil. Umpankan itu ke dalam model yang mampu, dan… Anda tidak mendapatkan wawasan. Anda sering kali mendapatkan kepercayaan diri yang tidak masuk akal karena model secara diam-diam mengisi celah dengan rata-rata semua orang dan menyajikannya kembali sebagai milik Anda.

Rantai pasokan data adalah kendala nyata. Menurut survei 2025 dari 200 CMO di AS, UK, Jerman, Austria, dan Swiss, hanya 45% dari data yang dikumpulkan oleh organisasi benar-benar dapat digunakan untuk pengambilan keputusan yang didorong oleh AI. Analisis RAND yang terpisah menemukan bahwa banyak proyek AI gagal karena organisasi kekurangan data yang dibutuhkan untuk melatih model AI yang efektif, bersama dengan kesenjangan organisasional dan aliran kerja, bukan kualitas model. Laporan MIT “GenAI Divide” menempatkan tingkat kegagalan produksi bahkan lebih tinggi. Sekitar 95% pilot AI generatif perusahaan gagal menghasilkan dampak P&L yang dapat diukur, dengan aliran kerja yang rapuh dan pembelajaran kontekstual yang tidak cukup disebutkan sebagai pelaku utama.

Sebuah studi Nature Medicine menemukan pola yang sama dalam AI medis. Sistem berperforma baik ketika diberikan kasus yang lengkap dan terstruktur, dan terjatuh ketika orang biasa menggambarkan situasi mereka dengan cara yang tidak lengkap dan sedikit kabur, seperti orang biasa sebenarnya berbicara. Kebenaran adalah, pengguna Anda berada dalam keadaan yang tidak lengkap dan kabur secara default. Perbaikan bukanlah model yang lebih tajam – itu adalah akun yang jujur tentang betapa sedikitnya Anda benar-benar tahu tentang orang ini, dan disiplin untuk bertindak sesuai dengan itu. Sampai Anda telah belajar (dan mendapatkan) baseline pribadi, langkah yang tepat seringkali adalah mempersonalisasi lebih sedikit, bukan lebih banyak, dan untuk bersandar pada apa yang berlaku untuk orang-orang daripada menciptakan profil dari beberapa poin.

Dalam sensing kualitas udara, masalah baseline adalah struktural. Membangun profil kualitas udara pribadi yang bermakna memerlukan beberapa minggu pembacaan terus-menerus di berbagai aktivitas, keadaan ventilasi, dan kondisi luar. Perangkat indoor yang dipasang di musim dingin tidak menangkap profil polusi musim panas. Yang ditempatkan di dapur tidak menangkap apa-apa tentang kamar tidur. Drift musiman, perubahan okupansi, dan bahkan pengaturan ulang perabotan dapat menggeser baseline rumah tangga lebih dari anomali yang diberi label AI yang seharusnya dideteksi. Namun, tim secara rutin mulai menampilkan “wawasan pribadi” setelah 48 jam data – pada saat yang tepat ketika rata-rata populasi adalah satu-satunya sinyal yang jujur yang tersedia.

Kesalahan 2: Mengirimkan kepercayaan diri yang tidak diperoleh data

Model tidak akan menandai ketika ia menebak kecuali Anda memaksanya. Dibiarkan sendiri, seringkali mengembalikan jawaban yang sama untuk pengguna dengan tiga tahun riwayat dan pengguna dengan tiga jam. Bagi orang yang membacanya, jawaban-jawaban itu terlihat identik – sampai salah satu dari mereka salah.

Itulah bagaimana kepercayaan mati. Beritahu seseorang bahwa mereka tidur buruk karena X dengan kepercayaan diri palsu, lewatkan sekali dengan jelas, dan mereka akan mengarsipkan produk Anda di bawah gimmick. Mereka sudah siap melakukannya. Defisit kepercayaan sudah struktural: dalam survei benchmark Quantum Metric 2026, 81% konsumen mengatakan mereka tidak akan kembali ke merek setelah satu pengalaman AI yang buruk. Survei Rithum menemukan bahwa 58% menyalahkan merek – bukan alat AI – ketika rekomendasi AI salah, dan 16% akan menghindari membeli produk tersebut sama sekali. Hanya 13% konsumen mengatakan mereka benar-benar mempercayai AI.

Kualitas udara adalah contoh yang jelas. Konsentrasi PM2.5 bervariasi dengan pesanan besarnya dalam satu hari tergantung pada memasak, membersihkan, lalu lintas, cuaca, dan banyak faktor lain. Mengatakan kepada pengguna bahwa paparan mereka “ditingkatkan untuk Anda” setelah tiga hari pembacaan menggabungkan Selasa pagi dengan pola pribadi yang permanen. Model tidak berbohong. Ini hanya tidak memiliki cara untuk mengetahui apa yang tidak diketahuinya – kecuali tim membangun kesadaran itu. Menampilkan rentang kepercayaan (“rentang khas Anda masih dibangun”) bukanlah sinyal kelemahan. Dalam produk sensing yang terkait dengan kesehatan, itu adalah satu-satunya hal yang jujur untuk ditampilkan.

Taruhannya berkompound dalam konteks kesehatan. Sebuah studi kualitatif JMIR mHealth menemukan bahwa kesediaan pengguna untuk berbagi data kesehatan pribadi dan bertindak pada rekomendasi AI sangat bergantung pada apakah mereka memahami bagaimana sistem menggunakan data mereka dan apakah penalaran dijelaskan dengan jelas. Sebuah studi visualisasi ketidakpastian yang terkait menemukan bahwa menampilkan ketidakpastian AI dapat meningkatkan kepercayaan yang tepat daripada hanya mengganggu pengguna.

Fitur keandalan termurah untuk dibangun adalah baris “belum cukup data” atau “belajar dalam proses”. Hampir tidak ada yang membangunnya, karena terasa seperti mengakui kelemahan. Namun itu sebenarnya adalah kebalikannya. Baris itu menjaga pengguna pada hari ketika tebakan yang percaya diri akan kehilangan mereka.

Kesalahan 3: Mengoptimalkan untuk wow bukan berguna

Banyak personalisasi dibangun untuk mengesankan dalam sesi pertama, bukan untuk membantu dalam sesi ke-100. Momen wow memamerkan dengan indah dan menua dengan buruk. Lebih parah, trik yang sama yang terasa seperti sihir berbalik menjadi menyeramkan seketika itu salah membaca seseorang – lembah yang tidak biasa yang secara diam-diam merusak merek.

Orang bisa merasakan perbedaan antara AI yang melayani mereka dan AI yang melayani dashboard. Laporan Tren Pengalaman Konsumen Qualtrics 2026 menemukan bahwa hampir satu dari lima konsumen yang menggunakan AI untuk layanan pelanggan tidak melihat manfaat apa pun.

Angka peninggalan menceritakan kisah dengan jelas. 71% konsumen mengatakan mereka akan meninggalkan pembelian jika pengalaman yang didorong oleh AI tidak relevan dengan mereka. Dalam e-commerce khusus, 69% pembeli meninggalkan pencarian karena rekomendasi AI yang tidak relevan. Sementara itu, 80% pemimpin bisnis menilai personalisasi perusahaan mereka sebagai luar biasa – tetapi hanya 8% pelanggan setuju. Jarak itu adalah masalah produk karena tim mengoptimalkan metrik yang terasa baik secara internal daripada hasil yang terasa baik dan relevan bagi pengguna.

Penelitian Gartner menemukan bahwa pelanggan yang dipersonalisasi 3,2 kali lebih mungkin menyesali pembelian dan 44% kurang mungkin untuk membeli lagi dari merek yang sama – sebuah tuduhan terhadap personalisasi yang mengutamakan konversi daripada kecocokan. Wow menjadi sebuah liabilitas.

Novelty cenderung memudar lebih cepat setiap tahun. Fitur yang bertahan pada tahun kedua produk adalah yang dibangun untuk sesi ke-100, bukan yang pertama.

Kesalahan 4: Memersonalisasi di dalam kotak hitam

Personalisasi sering membutuhkan data yang cukup pribadi, dan semakin pribadi modelnya, semakin sensitif tumpukan yang sekarang Anda tanggung. Ini berhenti menjadi abstrak pada 2026. Pada bulan-bulan awal tahun, lima perusahaan teknologi meluncurkan alat kesehatan AI yang ditujukan untuk konsumen, termasuk produk yang memungkinkan pengguna untuk menghubungkan catatan medis, hasil laboratorium, dan data wearable ke dalam satu profil. Apa pun yang Anda personalisasi menuju sistem seperti itu.

Dua kegagalan mengikuti. Yang pertama adalah ketidaktransparanan. Rekomendasi yang pengguna tidak dapat membuka, mempertanyakan, atau memperbaiki bukanlah personalisasi, itu adalah vonis, dan orang-orang merespons vonis tentang tubuh dan kebiasaan mereka. Pelatih kesehatan AI yang sekarang umum di aplikasi kesehatan hidup atau mati tergantung pada apakah pengguna dapat melihat penalaran di balik saran. Studi JMIR mHealth mengkonfirmasi hal ini secara langsung: kesediaan pengguna untuk berbagi data kesehatan pribadi dan bertindak pada rekomendasi AI sangat bergantung pada kemampuan untuk mengakses penjelasan yang jelas dan proaktif tentang bagaimana data mereka digunakan.

Kegagalan kedua adalah kelalaian. Tim mengumpulkan setiap sinyal “jika model membutuhkannya,” menciptakan kewajiban yang tidak pernah mereka hargai. Laporan Transcend State of Customer Data 2026 menemukan bahwa 93% organisasi menghadapi masalah izin data atau tata kelola selama siklus hidup AI, dan bahwa 85% perusahaan kekurangan setidaknya satu dari empat kemampuan tata kelola data AI yang fundamental. Tiga puluh persen inisiatif AI personalisasi/pengalaman pelanggan telah macet khusus karena kesenjangan ini. Selanjutnya, 61% konsumen skeptis tentang bagaimana merek menggunakan data mereka, sementara 54% ingin tahu kapan mereka berinteraksi dengan AI.

Lebih baik mengumpulkan lebih sedikit dan membuat inferensi yang dapat dibaca. Biarkan orang-orang berdebat dengan mereka.

Apa yang dimiliki kegagalan bersama

Perhatikan benang merah. Tidak satu pun dari ini adalah kegagalan kecerdasan. Model biasanya adalah bagian terkuat dari tumpukan. Mereka adalah kegagalan kejujuran: tentang betapa sedikitnya data yang Anda miliki, betapa yakinnya Anda sebenarnya, apa yang Anda bangun fitur untuk lakukan, dan apa yang Anda kumpulkan dan mengapa. Itu tidak nyaman, karena kejujuran tidak demo dengan baik, sayangnya. Sebuah hedge kurang mengesankan daripada jawaban yang percaya diri, dan fitur yang kecil dan hati-hati terlihat sederhana di samping yang luas. Tim yang menang pada tahun kedua adalah mereka yang membuat perdamaian dengan itu.

Apa yang sebenarnya berhasil

Tidak satu pun dari ini adalah argumen melawan personalisasi AI. Ini adalah argumen untuk keterbatasan. Sempitkan ruang lingkup sampai Anda bisa benar di dalamnya. Kalibrasi sebelum Anda menafsirkan, dan simpan apa yang Anda ukur terpisah dari apa yang Anda inferensikan. Tampilkan ketidakpastian daripada menyembunyikannya. Buat setiap inferensi menjadi sesuatu yang pengguna dapat inspeksi dan mempertanyakan atau menolak. Dapatkan kepercayaan berikutnya sebelum Anda menghabiskannya. Tidak glamor, semuanya – dan itu adalah garis antara fitur yang orang simpan dan yang mereka matikan dalam seminggu.

Kembali ke demo. Versi yang mengesankan ruangan pada hari pertama dan versi yang pengguna masih percayai setahun kemudian bukanlah produk yang sama, dan jarak antara keduanya hampir tidak pernah modelnya. Itu adalah apakah tim mengatakan kebenaran tentang data yang tipis, merasa nyaman mengatakan “saya tidak tahu,” dan menunjukkan pekerjaan mereka. Bagian yang sulit dari personalisasi AI tidak pernah tentang kecerdasan. Itu adalah kerendahan hati. Sebagian besar tim masih melewatkan bagian itu, dan pengguna mereka dapat merasakannya.