AI có thể giúp chúng ta tìm ra người thật, không phải thay thế họ

Một hình ảnh giả có thể lừa ngay cả những mắt tinh mắt nhất, nhưng hành vi giả mà nền tảng nhìn thấy không nên như vậy.

Trong hai thập kỷ qua, ngành hẹn hò trực tuyến đã dạy an toàn người dùng như một danh sách kiểm tra đơn giản. Chúng tôi khuyên người dùng nên xem xét kỹ ảnh, kiểm tra tính nhất quán của câu chuyện của người đó, hoặc yêu cầu cuộc gọi video trước khi đồng ý gặp mặt. Hướng dẫn đó, một thời là tiêu chuẩn vàng của an toàn kỹ thuật số, hiện đã hoàn toàn lỗi thời.Bằng chứng quyết định đã xuất hiện trong một Nghiên cứu tháng 2 năm 2025 từ iProov, một nhà cung cấp sinh trắc học hàng đầu. Các nhà nghiên cứu đã hỏi 2.000 người tham gia ở Vương quốc Anh và Hoa Kỳ để gán nhãn các mục khác nhau — sử dụng cả hình ảnh và video — là thật hay tổng hợp. Kết quả gây ngạc nhiên: chỉ có hai người không mắc lỗi nào. Đó chỉ là 0,1% số người được thử, nghĩa là 1.998 người còn lại đã mắc ít nhất một lỗi. Sự tự tin cao kết hợp với tỷ lệ lỗi cao là một hỗn hợp nguy hiểm cho người tiêu dùng. Và những kẻ gian lận đã sẵn sàng tận dụng điều đó.Theo Báo cáo gian lận danh tính 2026 của Entrust, hiện deepfake chiếm một trong năm nỗ lực gian lận sinh trắc học. Ảnh tự sướng được tạo bằng deepfake tăng 58% vào năm 2025, và các cuộc tấn công chèn tăng 40% so với năm trước. Mong đợi một người dùng bình thường có thể vượt qua một mô hình AI sinh tạo tiên tiến cao trong việc nhận thức hình ảnh là một sự từ bỏ trách nhiệm; nó chuyển rủi ro trực tiếp từ nền tảng sang khách hàng.

Gian lận không còn chỉ là việc tìm ảnh giả

Thực tế là các công cụ phát hiện hiện tại đang thất bại vì chúng thực hiện các kiểm tra mức đối tượng trên từng đối tượng một. Một kiểm tra hỏi liệu một hình ảnh cụ thể có được tạo ra bởi AI hay không. Kiểm tra khác hỏi liệu một tài liệu có bị giả mạo, trong khi kiểm tra thứ ba hỏi liệu văn bản trong một tin nhắn có được viết bởi máy hay không. Vấn đề là mỗi kiểm tra này nhanh chóng trở nên lỗi thời. Khi tiến bộ của mô hình sinh tạo liên tục nâng cao chất lượng đầu ra, các phản hồi và phương pháp phát hiện trước đây trở nên lỗi thời hoặc lỗi thời gần như trong một đêm.

Một cách tiếp cận tốt hơn nhiều là thay thế việc xuất hiện tín hiệu đơn lẻ bằng sự phù hợp chung của nhiều tín hiệu. Phương pháp của chúng tôi đánh giá mối quan hệ giữa các chiều khác nhau của sự hiện diện của người dùng. Một chiều của tín hiệu là thiết bị trông như thế nào đối với hệ thống của chúng tôi. Một chiều khác là nguồn gốc của phiên người dùng. Một chiều thứ ba là cách tài khoản thực sự hoạt động. Tất cả những điều này dẫn đến việc xem xét bởi con người khi hệ thống đánh dấu các chỉ báo của khả năng gian lận.

Văn phòng Liên hợp Quốc tế về Ma túy và Tội phạm, trong Đánh giá Mối đe dọa Tội phạm Tổ chức xuyên quốc gia cho khu vực Đông Nam Á 2026, ước tính thiệt hại lừa đảo trực tuyến năm 2025 ở mức từ US$88.3 billion và US$114.1 billion chỉ trong các khu vực được báo cáo. Gian lận công nghiệp ở quy mô này dựa vào tốc độ và khối lượng. Bất kỳ một mẩu thông tin nào cũng có thể dễ dàng bị giả mạo, nhưng việc giả mạotất cả của chúng một cách nhất quán — trên nhiều tài khoản liên tục bị nền tảng gỡ bỏ — trở nên quá nặng nề để duy trì. Mỗi lớp ma sát mà chúng tôi thêm vào làm tăng chi phí mỗi tài khoản cho doanh nghiệp gian lận cho đến khi biên lợi nhuận của họ bằng không.

Đây là nơi AI thực sự chứng tỏ giá trị của mình. Trong khi việc phát hiện giả mạo đã được cải thiện nhờ công nghệ mới, khả năng cải thiện trong việc xác định các yếu tố đồng thời chỉ ra gian lận — và dẫn đến can thiệp sớm hơn — mang lại lợi ích rất lớn cho người dùng của chúng tôi. Khi các chỉ báo của người dùng không nhất quán, ý định thực sự của họ bị lộ. Một thành viên trung thực, một kẻ gian lận và một khách truy cập có mục đích khác có thể đều có cùng ảnh và các dòng mở đầu gần như giống nhau. Tuy nhiên, các chỉ báo kết hợp của họ sẽ khác nhau và kể một câu chuyện hoàn toàn khác. Cách mọi người trả lời, tốc độ phản hồi, cách họ mở rộng cuộc trò chuyện, những gì họ hỏi, và những cuộc trò chuyện nào bị bỏ dở đều vẽ nên một bức tranh. Nhận dạng có thể là một lời nói dối được tạo ra một cách hoàn hảo, nhưng hành vi luôn tiết lộ ý định xấu.

Sự bất đối xứng thông tin: Nền tảng biết những điều người dùng không thể

Ủy ban Thương mại Liên bang (FTC) báo cáo vào năm 2026 rằng thiệt hại từ lừa đảo tình cảm năm 2025 tăng 22 phần trăm so với năm 2024, đạt khoảng $1.5 billion. Trong số những người xác định cách họ được liên lạc, khoảng 60% cho biết rằng lần liên lạc ban đầu của họ đến từ một nền tảng truyền thông xã hội.

Có một khoảng trống thông tin lớn trong ngành của chúng tôi. Các nền tảng nhìn thấy cùng các loại tín hiệu, nhưng chúng chắc chắn cũng có thể thấy quốc gia đăng nhập và tuổi tài khoản, ví dụ. Tất cả những gì các thành viên thấy chỉ là một nụ cười và một đoạn văn được chế tạo cẩn thận, khéo léo lồng ghép một thứ gì đó từ hồ sơ của họ. Các nền tảng có khả năng hành động dựa trên dữ liệu ẩn này, sử dụng nó để tạo ra môi trường an toàn hơn, hoặc tiết lộ để các thành viên có thể hành động phù hợp. Thật không may, hầu hết ngành không làm gì trong cả hai.

Sự không hành động của ngành thường liên quan đến các đánh đổi phức tạp liên quan đến quyền riêng tư của người dùng. Một nửa tốn kém của phương trình này là việc thực hiện hành động. Có hai con đường để xây dựng niềm tin: con đường chậm là danh tiếng, và con đường nhanh là xác thực. Xác thực tạo ra ma sát. Ngành công nghiệp hầu hết muốn tốc độ, khối lượng và ma sát thấp, điều này giải thích việc thiếu xác thực kéo dài của nó.

Tuy nhiên, các giải pháp đang xuất hiện. Một bản preprint tháng 8 2024 trên arXiv đề xuất “personhood credentials“. 32 tác giả từ các tổ chức như OpenAI, Microsoft, MIT, Oxford và Harvard đề xuất một chứng chỉ bảo vệ quyền riêng tư cho phép ai đó chứng minh với dịch vụ rằng họ là người thật mà không tiết lộ danh tính cơ bản của mình. Lập luận của họ là các CAPTCHA không đủ và việc phát hiện bất thường đang nhanh chóng bị phá vỡ bởi AI có khả năng. Họ đúng. Hẹn hò là một trong những nơi mà hậu quả của sự suy giảm này ảnh hưởng nặng nề nhất vì sản phẩm cốt lõi đang được bán chính là sự tin tưởng.

Xây dựng Tiêu chuẩn Cộng đồng Tốt hơn

Các tín hiệu giống nhau giúp xác định hành vi có thể là tội phạm cũng có thể giúp xác định các loại hành vi xấu khác. Đọc ý định vượt ra ngoài việc chỉ ngăn chặn gian lận. Không phải mọi người xấu trên một trang web đều là tội phạm. Một người dùng khó chịu có thể không vi phạm pháp luật, và một mối quan hệ được coi như một giao dịch có thể không phải là gian lận. Đối xử với người khác bằng sự khinh bỉ không dẫn đến cáo buộc hình sự. Nhưng những hành vi này làm suy giảm nghiêm trọng cộng đồng. Tệ hơn, chúng thường vô hình đối với các hệ thống dựa hoàn toàn vào báo cáo của thành viên để thực thi.

Ngành công nghiệp truyền thống đã vẽ ra ranh giới ở mức bất hợp pháp: sàng lọc gian lận và trẻ vị thành niên, loại bỏ những gì pháp luật yêu cầu nghiêm ngặt, và coi phần còn lại là vấn đề giữa các người trưởng thành đồng ý. Tôi không biết có trang hẹn hò nào khác sử dụng AI để giúp xác định hành vi giao dịch và chủ động ngăn chặn chúng. Tính năng Stop@Send của chúng tôi đánh giá tin nhắn gửi đi của người gửi khi nó đang được gửi. Nó tìm kiếm ý nghĩa sâu hơn thay vì chỉ so sánh nội dung với danh sách từ khóa tĩnh. Hầu hết thời gian, phản hồi là một lời giải thích được gửi tới người gửi, cho họ biết chính xác lý do tin nhắn không phù hợp với cộng đồng.

Tất nhiên, điều này không phải là miễn phí. Can thiệp vào cuộc trò chuyện của thành viên tạo ra ma sát, điều mà chúng tôi ngạc nhiên là chi phí mà chúng tôi chủ động chọn gánh chịu. Nhưng tiêu chuẩn của chúng tôi được thiết lập tốt nhất dựa trên những hành vi thực sự được phép trên nền tảng của chúng tôi, không phải dựa trên những gì được công bố trên trang hướng dẫn cộng đồng không được thực thi. Một nền tảng không gây phiền toái cho người xấu không có quyền tự gọi mình là cộng đồng.

Thách thức đối với Ngành công nghiệp

Thị trường hiện tại đang chạy đua để AI thay thế con người: chúng ta thấy sự xuất hiện của các bạn đồng hành AI, hồ sơ do AI tạo ra và các đại lý tán tỉnh. Tôi chắc chắn rằng hướng đi đó là một ngõ cụt. Nó tối ưu hoàn toàn cho sự tương tác nhưng không mang lại gì ngoài điều đó. Cách tiếp cận của chúng tôi hoàn toàn khác. Chúng tôi đang sử dụng AI để giúp loại bỏ những kẻ xấu, để các thành viên chịu trách nhiệm với nhau, và để giúp họ đối xử với nhau theo cách có khả năng dẫn đến các mối quan hệ thực sự, có ý nghĩa trong thế giới thực.

Danh sách các dấu hiệu cảnh báo cần tránh đã mất giá trị. Những tín hiệu mà trước đây tiết lộ kẻ lừa đảo chính là những đặc điểm mà các mô hình sinh ra đã học cách loại bỏ, tạo ra một cuộc chạy đua vũ khí mà chúng tôi luôn bị kẹt trong. Ngoại trừ Quy tắc Đầu tiên — không bao giờ gửi tiền cho bất kỳ ai mà bạn không biết và chưa gặp trực tiếp, mà mọi người nên tuân theo — câu hỏi then chốt không còn về bức ảnh nữa. Nó là về nền tảng, và những gì họ đang làm với những thông tin mà người dùng của họ không biết.

Một nền tảng có phản hồi tốt đối với thách thức đó đang tích cực thiết kế để xây dựng niềm tin. Một nền tảng không làm như vậy đang yêu cầu các thành viên của mình phải làm việc nhiều hơn với tỷ lệ thành công 0,1 phần trăm chỉ để bảo vệ bản thân.

Tôi đã đặt thách thức này cho mọi nền tảng, bao gồm cả nền tảng của mình. Tôi mong các câu trả lời sẽ trung thực và đầy đủ. Công nghệ để thu hẹp khoảng cách này đã tồn tại ngay bây giờ. Gian lận vẫn tồn tại vì việc ngăn chặn nó đồng nghĩa với việc từ bỏ sự tăng trưởng khổng lồ đến từ cánh cửa lớn của việc đăng ký dễ dàng. Đây là quyết định kinh doanh chứ không phải giới hạn kỹ thuật. Và những nền tảng quyết định đúng sẽ nắm giữ tài sản duy nhất quan trọng cho cuộc thảo luận này: niềm tin của các thành viên.