Tính cách hóa AI liên tục thất bại, và mô hình hiếm khi là lý do

Mỗi tính năng AI trông tuyệt vời trong bản demo. Lời chào cá nhân hóa đạt được, khuyến nghị cảm giác không thể tin được, và mọi người trong phòng đều gật đầu. Vấn đề bắt đầu vài tuần sau, khi cùng một tính năng đó nói với người dùng thực sự một điều gì đó tự tin sai, và họ không bao giờ tin tưởng nó lại.

Năm 2026, tính cách hóa AI là mục tiêu hàng đầu mà mỗi đội sản phẩm lên kế hoạch. Tuy nhiên, 42% các công ty đã từ bỏ hầu hết các sáng kiến AI của họ trước khi sản xuất, tăng từ 17% vào năm trước. Hầu hết những gì được vận chuyển là được gắn vào muộn và bị hỏng theo những cách mà bạn có thể đã gọi vào ngày đầu tiên. Dưới đây là bốn sai lầm mà chúng tôi tiếp tục thấy, được học từ việc xây dựng một loạt các thiết bị cảm biến, nhưng không có gì trong số đó liên quan đến cảm biến hoặc phần cứng theo nghĩa đen. Nếu bạn đang đặt một lớp tính cách hóa trên bất cứ điều gì, họ đang chờ bạn.

Đề cập đến việc cảm biến chất lượng không khí, một ví dụ nhanh chóng để làm cho điều này cụ thể. Một thiết bị được đặt trong một ngôi nhà mới bắt đầu không biết gì về baseline của ngôi nhà đó, mẫu nấu ăn, đặc điểm thông gió hoặc chu kỳ phấn hoa theo mùa. Mỗi mẫu xuất hiện trong vài tuần đầu tiên là một dự đoán, không phải là một bức tranh. Khoảng cách giữa dự đoán và bức tranh là nơi bốn sai lầm sống.

Sai lầm 1: Đạt được mô hình lớn hơn khi vấn đề là dữ liệu

Khi tính cách hóa dưới hiệu suất, bản năng là nâng cấp mô hình, điều này hiếm khi giúp đỡ. Tính cách hóa chạy trên dữ liệu theo người dùng, nhưng dữ liệu này mỏng và đầy lỗ hổng. Một người dùng mới không có lịch sử, và mỗi đội đều tái phát hiện ra vấn đề khởi động lạnh theo cách khó khăn. Một người dùng hoạt động cung cấp cho bạn một vài ngày đọc mà trông không giống như một mẫu ổn định. Cho dữ liệu đó vào một mô hình có khả năng, và… bạn không nhận được thông tin. Bạn thường xuyên nhận được sự tự tin vô nghĩa vì mô hình im lặng lấp đầy các khoảng trống với trung bình của mọi người và trình bày nó lại như của riêng bạn.

Chuỗi cung ứng dữ liệu là ràng buộc thực sự. Theo một cuộc khảo sát năm 2025 của 200 CMO trên toàn Hoa Kỳ, Vương quốc Anh, Đức, Áo và Thụy Sĩ, chỉ 45% dữ liệu mà các tổ chức thu thập thực sự có thể sử dụng được cho việc ra quyết định dựa trên AI. Một phân tích riêng biệt của RAND cho thấy rằng nhiều dự án AI thất bại vì các tổ chức thiếu dữ liệu cần thiết để đào tạo các mô hình AI hiệu quả, cùng với khoảng trống trong quy trình làm việc và tổ chức, chứ không phải chất lượng mô hình. Báo cáo “GenAI Divide” của MIT đặt tỷ lệ thất bại sản xuất thậm chí còn cao hơn. Khoảng 95% các dự án AI tạo ra của doanh nghiệp không thể cung cấp tác động P&L có thể đo lường, với các quy trình làm việc giòn và học ngữ cảnh không đủ được nêu là những tội phạm hàng đầu.

Một nghiên cứu của Nature Medicine đã tìm thấy cùng một mẫu trong AI y tế. Các hệ thống hoạt động tốt khi được đưa ra các trường hợp hoàn chỉnh, có cấu trúc và vấp ngã khi những người bình thường mô tả tình huống của họ theo cách mờ nhạt, không rõ ràng mà mọi người thực sự nói. Sự thật là, người dùng của bạn đang ở trong một trạng thái mờ nhạt, không rõ ràng theo mặc định. Sự sửa chữa không phải là một mô hình sắc nét hơn – nó là một tài khoản trung thực về việc bạn thực sự biết ít về người này như thế nào, và kỷ luật để hành động theo đó. Cho đến khi bạn đã học (và kiếm được) một baseline cá nhân, động thái đúng thường là cá nhân hóa ít hơn, không phải nhiều hơn, và dựa vào những gì được áp dụng cho mọi người chứ không phải tạo ra một hồ sơ từ một số điểm.

Trong cảm biến chất lượng không khí, vấn đề baseline là cấu trúc. Thiết lập một hồ sơ chất lượng không khí cá nhân có ý nghĩa đòi hỏi vài tuần đọc liên tục trên các hoạt động khác nhau, trạng thái thông gió và điều kiện ngoài trời khác nhau. Một thiết bị trong nhà được cài đặt vào mùa đông không ghi lại hồ sơ ô nhiễm mùa hè. Một thiết bị được đặt trong nhà bếp không ghi lại gì về phòng ngủ. Sự thay đổi theo mùa, thay đổi về việc chiếm dụng và thậm chí việc sắp xếp lại đồ đạc có thể thay đổi baseline của một hộ gia đình nhiều hơn những bất thường mà AI được cho là phát hiện. Tuy nhiên, các đội thường bắt đầu hiển thị “các thông tin được cá nhân hóa” sau 48 giờ dữ liệu – chính xác vào thời điểm khi trung bình dân số là tín hiệu trung thực duy nhất có sẵn.

Sai lầm 2: Vận chuyển sự tự tin mà dữ liệu không kiếm được

Một mô hình sẽ không đánh dấu khi nó đang đoán trừ khi bạn buộc nó phải làm như vậy. Để riêng, nó thường trả về cùng một câu trả lời sắc nét cho một người dùng với ba năm lịch sử và một người dùng với ba giờ. Đối với người đọc, những câu trả lời đó trông giống hệt nhau – ngay cho đến khi một trong số chúng là sai.

Đó là cách niềm tin chết. Nói với ai đó rằng họ đã ngủ không tốt vì X với sự tự tin sai, bỏ lỡ một lần theo cách rõ ràng, và họ sẽ xếp toàn bộ sản phẩm của bạn vào chiêu trò. Họ đã sẵn sàng làm điều đó. Thâm hụt niềm tin đã là cấu trúc: trong một cuộc khảo sát chuẩn mực Quantum Metric năm 2026, 81% người tiêu dùng cho biết họ sẽ không quay lại một thương hiệu sau một trải nghiệm AI bị lỗi. Một cuộc khảo sát của Rithum của người mua sắm Hoa Kỳ và Vương quốc Anh cho thấy 58% đổ lỗi cho thương hiệu – không phải công cụ AI – khi một khuyến nghị AI sai, và 16% sẽ tránh mua sản phẩm hoàn toàn. Chỉ 13% người tiêu dùng cho biết họ hoàn toàn tin tưởng AI.

Chất lượng không khí là một trường hợp rõ ràng. Nồng độ PM2.5 thay đổi theo một bậc trong một ngày tùy thuộc vào việc nấu ăn, vệ sinh, giao thông, thời tiết và nhiều yếu tố khác. Nói với người dùng rằng mức phơi nhiễm của họ là “tăng cao đối với bạn” sau ba ngày đọc trộn một buổi sáng thứ ba với một mẫu cá nhân vĩnh viễn. Mô hình không nói dối. Nó đơn giản là không có cách nào để biết những gì nó không biết – trừ khi đội đã xây dựng nhận thức đó vào.

Đặt cược tăng lên trong các ngữ cảnh sức khỏe. Một nghiên cứu định tính JMIR mHealth cho thấy rằng sự sẵn sàng của người dùng để chia sẻ dữ liệu sức khỏe cá nhân và hành động trên các khuyến nghị AI phụ thuộc rất nhiều vào việc liệu họ có hiểu cách hệ thống sử dụng dữ liệu của họ và liệu lý do được giải thích rõ ràng hay không. Một nghiên cứu về việc trực quan hóa sự không chắc chắn cho thấy rằng việc hiển thị sự không chắc chắn của AI có thể tăng cường sự tin tưởng phù hợp thay vì chỉ làm cho người dùng lo lắng.

Tính năng độ tin cậy rẻ nhất để xây dựng là dòng “chưa đủ dữ liệu” hoặc “đang học”. Hầu như không ai xây dựng nó, vì nó cảm thấy như một sự thừa nhận điểm yếu. Tuy nhiên, đó là điều ngược lại. Dòng đó giữ một người dùng trên ngày mà một sự đoán tự tin sẽ mất họ.

Sai lầm 3: Tối ưu hóa cho sự ngạc nhiên thay vì sự hữu ích

Nhiều tính cách hóa được xây dựng để gây ấn tượng trong phiên đầu tiên, không phải để giúp đỡ trong phiên thứ 100. Khoảnh khắc “wow” trình diễn đẹp và lão hóa kém. Worst, chiêu trò đó cảm thấy như ma thuật lật sang đáng sợ ngay khi nó hiểu lầm ai đó – thung lũng không thể tin được đó im lặng phá hủy một thương hiệu.

Người dùng có thể cảm thấy sự khác biệt giữa AI phục vụ họ và AI phục vụ một bảng điều khiển. Một Báo cáo Xu hướng Trải nghiệm Khách hàng năm 2026 của Qualtrics cho thấy gần một trong năm người tiêu dùng sử dụng AI cho dịch vụ khách hàng không thấy lợi ích nào.

Số lượng người bỏ cuộc kể câu chuyện rõ ràng. 71% người tiêu dùng cho biết họ sẽ bỏ một giao dịch nếu trải nghiệm AI không liên quan đến họ. Trong thương mại điện tử cụ thể, 69% người mua sắm rời khỏi một tìm kiếm do các khuyến nghị AI không liên quan. Trong khi đó, 80% các nhà lãnh đạo doanh nghiệp đánh giá tính cách hóa của công ty họ là xuất sắc – nhưng chỉ 8% khách hàng đồng ý. Khoảng cách đó là một vấn đề sản phẩm khi các đội tối ưu hóa cho các chỉ số cảm thấy tốt nội bộ hơn là kết quả cảm thấy tốt và liên quan đến người dùng.

Nghiên cứu của Gartner cho thấy rằng khách hàng được cá nhân hóa có khả năng hối tiếc về một giao dịch 3,2 lần và ít có khả năng mua lại từ cùng một thương hiệu – một bản cáo trạng về tính cách hóa ưu tiên chuyển đổi hơn là phù hợp. Sự ngạc nhiên trở thành một trách nhiệm.

Mới mẻ có xu hướng mòn nhanh hơn mỗi năm. Những tính năng sống sót sau năm thứ hai là những tính năng được xây dựng cho phiên thứ 100, không phải cho phiên đầu tiên.

Sai lầm 4: Tính cách hóa bên trong một hộp đen

Tính cách hóa thường cần dữ liệu khá thân mật, và mô hình càng cá nhân hóa, càng nhạy cảm với đống mà bạn bây giờ chịu trách nhiệm. Điều này đã không còn là trừu tượng vào năm 2026. Trong những tháng đầu năm, năm công ty công nghệ đã ra mắt các công cụ sức khỏe AI dành cho người tiêu dùng, bao gồm các sản phẩm cho phép người dùng kết nối hồ sơ y tế, kết quả xét nghiệm và dữ liệu thiết bị đeo vào một hồ sơ duy nhất. Bất cứ điều gì bạn tính cách hóa trên đều đang trôi dạt về các hệ thống như vậy.

Hai thất bại theo sau. Thứ nhất là sự không minh bạch. Một khuyến nghị mà người dùng không thể mở, đặt câu hỏi hoặc sửa chữa không phải là tính cách hóa, nó là một phán quyết, và mọi người ghét những phán quyết về cơ thể và thói quen của chính họ. Các huấn luyện viên sức khỏe AI hiện nay phổ biến trong các ứng dụng sức khỏe sống hoặc chết dựa trên việc người dùng có thể thấy lý do đằng sau lời khuyên. nghiên cứu JMIR mHealth xác nhận điều này trực tiếp: sự sẵn sàng của người dùng để chia sẻ dữ liệu sức khỏe cá nhân và hành động trên các khuyến nghị AI phụ thuộc rất nhiều vào việc họ có thể truy cập vào các giải thích rõ ràng và chủ động về cách dữ liệu của họ đang được sử dụng.

Thất bại thứ hai là sự bỏ bê. Các đội tích lũy mọi tín hiệu “trường hợp mô hình cần nó”, tạo ra một trách nhiệm mà họ không bao giờ định giá. báo cáo Transcend State of Customer Data năm 2026 cho thấy rằng 93% tổ chức phải đối mặt với các vấn đề về quyền hoặc quản trị dữ liệu trong chu kỳ sống của AI, và 85% doanh nghiệp thiếu ít nhất một trong bốn khả năng quản trị dữ liệu AI cơ bản. 30% các sáng kiến AI về tính cách hóa / trải nghiệm khách hàng đã bị đình trệ cụ thể do những khoảng trống này. Một 61% người tiêu dùng hoài nghi về cách các thương hiệu sử dụng dữ liệu của họ, trong khi 54% muốn biết khi họ đang tương tác với AI.

Tốt hơn là thu thập ít hơn và làm cho các suy luận trở nên dễ đọc. Hãy để mọi người tranh luận với họ.

Điều mà những thất bại có chung

Lưu ý dòng chảy qua. Không có gì trong số này là thất bại của trí tuệ. Mô hình thường là phần mạnh nhất của ngăn xếp. Chúng là những thất bại của sự trung thực: về việc bạn có ít dữ liệu như thế nào, về việc bạn thực sự chắc chắn như thế nào, về việc bạn xây dựng tính năng để làm gì và về việc bạn thu thập và tại sao. Đó là điều không thoải mái, vì sự trung thực không trình diễn tốt, đáng tiếc. Một sự phòng ngừa ít ấn tượng hơn một câu trả lời tự tin, và một tính năng nhỏ, cẩn thận trông khiêm tốn so với một tính năng rộng lớn. Những đội thắng trong năm thứ hai là những đội đã làm hòa với điều đó.

Điều gì thực sự hoạt động

Không có gì trong số này là một lập luận chống lại tính cách hóa AI. Đó là một lập luận cho sự kiềm chế. Hẹp phạm vi cho đến khi bạn có thể đúng trong đó. Hiệu chỉnh trước khi diễn giải, và giữ những gì bạn đo lường riêng biệt với những gì bạn suy luận. Hiển thị sự không chắc chắn thay vì che giấu nó. Làm cho mọi suy luận trở thành thứ mà người dùng có thể kiểm tra và tranh luận hoặc đẩy lùi. Kiếm được sự tin tưởng tiếp theo trước khi bạn chi tiêu nó. Không ấn tượng, tất cả những điều đó – và đó là dòng giữa một tính năng mà mọi người giữ và một tính năng mà mọi người tắt trong một tuần.

Quay lại bản demo. Phiên bản gây ấn tượng với một phòng vào ngày đầu tiên và phiên bản mà người dùng vẫn tin tưởng một năm sau không phải là cùng một sản phẩm, và khoảng cách giữa chúng hầu như không bao giờ là mô hình. Đó là liệu đội đã nói sự thật về dữ liệu mỏng, cảm thấy thoải mái khi nói “Tôi không biết”, và hiển thị công việc của họ. Phần khó của tính cách hóa AI không bao giờ là về trí tuệ. Đó là sự khiêm tốn. Hầu hết các đội vẫn đang bỏ qua phần đó, và người dùng của họ có thể nói.