Lãnh đạo tư tưởng

Chống lừa đảo tình cảm bằng AI: Các nền tảng có thể bảo vệ người dùng như thế nào

Reinhard Hochrieser
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
A split scene at night shows a smiling woman on the right looking at a dating app on her phone. On the left, a hooded, faceless figure at a laptop manipulates a glowing, glitching deepfake avatar of a handsome man that floats between them.
Điểm chínhLừa đảo tình cảm sử dụng trí tuệ nhân tạo hiện là mối đe dọa an ninh lớn hơn cả trộm…
Xem thêm
  • Lừa đảo tình cảm sử dụng trí tuệ nhân tạo hiện là mối đe dọa an ninh lớn hơn cả trộm cắp danh tính truyền thống đối với 69% người tiêu dùng toàn cầu.
  • Các nền tảng cần triển khai xác minh danh tính chặt chẽ như kiểm tra CMND/CCCD để ngăn chặn hồ sơ giả và hạn chế lừa đảo.
  • Giám sát AI thời gian thực có thể phát hiện các mẫu hành vi lừa đảo như nhắn tin hàng loạt nhanh chóng để chủ động bảo vệ người dùng khỏi gian lận.

Mỗi năm, hàng triệu người đổ xô đến các nền tảng truyền thông xã hội và ứng dụng hẹn hò để tìm kiếm các kết nối. Thật không may, những kẻ lừa đảo sẽ ngay lập tức theo sát họ. Sự phát triển của các công nghệ trí tuệ nhân tạo như deepfake và chatbot tiên tiến đã cách mạng hóa các vụ lừa đảo tình yêu, khiến chúng trở nên đáng tin cậy và phổ biến hơn bao giờ hết. Những vụ lừa đảo này đang hoành hành trên toàn bộ cảnh quan kỹ thuật số, nhắm vào các cá nhân dễ bị tổn thương đang tìm kiếm sự đồng hành hoặc tình yêu.

Phạm Vi Của Vấn Đề

Các vụ lừa đảo thuộc mọi loại đang trở nên mạnh mẽ và mở rộng với sự giúp đỡ của các công nghệ mới như trí tuệ nhân tạo. Theo Liên minh Chống Lừa đảo Toàn cầu, 57% người trưởng thành trên toàn thế giới vào năm 2025 đã trải qua một vụ lừa đảo và 23% đã mất tiền. Tại Hoa Kỳ, 70% người trưởng thành đã trải qua một vụ lừa đảo, và người Mỹ trung bình hiện gặp 377 lần tìm cách lừa đảo mỗi năm. Trong một năm, người Mỹ đã mất khoảng 64,8 tỷ đô la cho tất cả các loại lừa đảo, trung bình khoảng 1.087 đô la cho mỗi nạn nhân.

Các vụ lừa đảo tình yêu có thể đặc biệt tốn kém cho người tiêu dùng trên toàn cầu. Tại Vương quốc Anh, ví dụ, Santander đã báo cáo rằng khách hàng của họ đã mất hơn 6,8 triệu bảng Anh cho các vụ lừa đảo tình yêu chỉ trong năm qua, nhấn mạnh tính chất phổ biến của các gian lận này. Đây là một lời nhắc nhở sắc nét về mức độ tốn kém của các vụ lừa đảo này đối với các cá nhân và xã hội, đặc biệt khi các công cụ trí tuệ nhân tạo như deepfake và chatbot được sử dụng để lừa dối các nạn nhân không nghi ngờ.

Vai Trò Của Trí Tuệ Nhân Tạo Trong Các Vụ Lừa Đảo Tình Cảm Hiện Đại

Các nghiên cứu gần đây cho thấy rằng 69% người tiêu dùng toàn cầu cho rằng các vụ lừa đảo được hỗ trợ bởi trí tuệ nhân tạo hiện nay gây ra một mối đe dọa lớn hơn cho an ninh cá nhân so với các hình thức đánh cắp danh tính truyền thống. Thống kê này nhấn mạnh sự lo lắng ngày càng tăng xung quanh các vụ lừa đảo được hỗ trợ bởi trí tuệ nhân tạo, bao gồm cả những vụ lừa đảo trong lĩnh vực tình yêu, nơi những kẻ lừa đảo sử dụng các kỹ thuật tinh vi để lừa dối các nạn nhân. Những kẻ lừa đảo hiện đang triển khai trí tuệ nhân tạo tạo sinh để tạo ra các câu chuyện thuyết phục, tạo ra hình ảnh deepfake giống như thật và tạo ra các tương tác cảm thấy thân mật và cá nhân. Những công cụ này cho phép các kẻ lừa đảo mở rộng hoạt động của họ, nhắm vào hàng nghìn nạn nhân tiềm năng cùng một lúc, và khai thác các điểm yếu về mặt cảm xúc. Sự tích hợp của trí tuệ nhân tạo tiên tiến trong các kỹ thuật lừa đảo đã làm cho những tội phạm này khó phát hiện và khó tránh hơn.

Các Nền Tảng Có Thể Làm Gì Để Đánh Lại?

Tin tốt là các nền tảng có những công cụ mạnh mẽ sẵn có để giúp ngăn chặn các vụ lừa đảo này và bảo vệ người dùng, và người dùng đang mong muốn có những biện pháp bảo vệ này. Dưới đây là một số bước các nền tảng có thể thực hiện để giảm thiểu rủi ro:

  • Triển Khai Xác Thực Danh Tính Vững Chắc
    Mặc dù nhiều nền tảng đang bắt đầu sử dụng các biện pháp xác thực danh tính mạnh mẽ hơn, nhưng vẫn còn nhiều việc phải làm. Việc triển khai các hệ thống yêu cầu người dùng gửi giấy tờ tùy thân do cơ quan nhà nước cấp cùng với ảnh tự chụp có thể ngăn chặn việc tạo ra các hồ sơ giả mạo. Điều này giúp đảm bảo rằng người dùng là những người họ tuyên bố, giảm khả năng một kẻ lừa đảo hoạt động mà không bị phát hiện.
  • Sử Dụng Trí Tuệ Nhân Tạo Để Phát Hiện Rủi Ro Trong Thời Gian Thực
    Các nền tảng có thể tận dụng trí tuệ nhân tạo để phát hiện hoạt động đáng ngờ trong thời gian thực. Bằng cách theo dõi các mẫu như nhiều tài khoản từ cùng một IP, gửi tin nhắn nhanh đến nhiều người dùng khác nhau, hoặc các hành vi khác điển hình của những kẻ lừa đảo, các nền tảng có thể xác định và ngăn chặn các kẻ lừa đảo trước khi chúng gây ra thiệt hại. Cách tiếp cận dựa trên dữ liệu này cho phép phản ứng ngay lập tức, có thể ngăn chặn sự mất mát đáng kể cho người dùng.
  • Tăng Cường Các Con Đường Báo Cáo và Hỗ Trợ
    Ngay cả khi người dùng phát hiện ra gian lận, nhiều người không biết phải tìm kiếm sự giúp đỡ ở đâu. Các nghiên cứu đã chỉ ra rằng một tỷ lệ nhỏ các nạn nhân báo cáo tội phạm với cơ quan thực thi pháp luật hoặc ngân hàng của họ. Để giải quyết vấn đề này, các nền tảng phải đơn giản hóa các cơ chế báo cáo của họ, khiến cho người dùng dễ dàng báo cáo hoạt động đáng ngờ. Ngoài ra, người dùng nên được cung cấp các kênh hỗ trợ rõ ràng để hướng dẫn họ trong quá trình báo cáo và giúp họ thực hiện các hành động phù hợp.

Trách Nhiệm Của Nền Tảng & Xây Dựng Môi Trường Kỹ Thuật Số An Toàn Hơn

Khi các kỹ thuật lừa đảo tiến hóa, các nền tảng phải vượt ra ngoài việc chỉ dựa vào giáo dục người dùng. Trách nhiệm bảo vệ người dùng không thể chỉ dựa vào các cá nhân. Các nền tảng phải triển khai các chiến lược chủ động để chống lại các vụ lừa đảo được hỗ trợ bởi trí tuệ nhân tạo. Với các công cụ như xác thực danh tính tiên tiến, phát hiện rủi ro được tăng cường bởi trí tuệ nhân tạo, và các hệ thống hỗ trợ dễ tiếp cận, các nền tảng có thể cung cấp cho người dùng các biện pháp bảo vệ cần thiết để duy trì an toàn trực tuyến.

Những kẻ lừa đảo đang trở nên tinh vi hơn, tận dụng các công cụ như deepfake và chatbot trí tuệ nhân tạo để khai thác các điểm yếu về mặt cảm xúc. Tuy nhiên, bằng cách kết hợp công nghệ tiên tiến với giáo dục người dùng, các nền tảng có thể phá vỡ các vụ lừa đảo này và tạo ra một môi trường trực tuyến an toàn hơn. Việc áp dụng giám sát trí tuệ nhân tạo trong thời gian thực, xác thực danh tính vững chắc, và các hệ thống báo cáo thân thiện với người dùng sẽ giúp ngăn chặn các vụ lừa đảo trong tương lai, tăng cường niềm tin của người dùng, và nuôi dưỡng các cộng đồng kỹ thuật số an toàn hơn.

Reinhard là Phó Chủ tịch cấp cao về Sản phẩm và Công nghệ tại Jumio, nơi ông thúc đẩy chiến lược và thực hiện cho danh mục Xác minh ID và Sinh trắc học của Jumio. Ông lãnh đạo các đội chức năng đa dạng tập trung vào xây dựng các giải pháp an toàn, có khả năng mở rộng, được thúc đẩy bởi Trí tuệ nhân tạo giúp các doanh nghiệp tăng tỷ lệ chuyển đổi khách hàng và ngăn chặn gian lận trên quy mô lớn.