Hãy tưởng tượng điều này: Bạn đang làm việc, tập trung vào một hạn chót khẩn cấp, khi bạn nhận được một cuộc gọi từ số điện thoại dường như là của mẹ bạn. Giọng nói ở đầu bên kia là không thể nhầm lẫn, bình tĩnh và yêu thương, nhưng với một gợi ý bất thường về sự khẩn cấp. Cô ấy nói với bạn rằng cô ấy đã gặp rắc rối nghiêm trọng trong khi đang nghỉ mát ở Paris và cần sự giúp đỡ tài chính ngay lập tức để giải quyết mọi thứ. Bạn biết cô ấy đang ở Paris, và các chi tiết cô ấy cung cấp, ngay cả đến tên của khách sạn, làm cho cuộc gọi trở nên thuyết phục hơn. Không cần phải suy nghĩ hai lần, bạn chuyển tiền, chỉ để phát hiện ra sau đó rằng mẹ bạn không bao giờ thực hiện cuộc gọi đó; đó là một hệ thống AI tiên tiến mô phỏng hoàn hảo giọng nói của cô ấy và tạo ra một kịch bản chi tiết. Bạn cảm thấy sợ hãi khi nhận ra điều vừa xảy ra.

Kịch bản này, từng là khoa học viễn tưởng thuần túy, hiện đang trở thành một thực tế mới. Sự ra đời của các công nghệ AI như mô hình ngôn ngữ lớn (LLM) đã mang lại những tiến bộ đáng kinh ngạc. Tuy nhiên, một mối đe dọa đáng kể đang xuất hiện: Scam được hỗ trợ bởi AI. Tiềm năng cho các scam tinh vi được hỗ trợ bởi trí tuệ nhân tạo là một mối đe dọa mới trên đường chân trời của tiến bộ công nghệ. Trong khi các scam qua điện thoại đã là một mối quan ngại kể từ khi phát minh ra điện thoại, việc tích hợp rộng rãi các mô hình ngôn ngữ lớn (LLM) vào mọi khía cạnh của giao tiếp kỹ thuật số đã tăng đáng kể mức độ rủi ro. Khi chúng ta chấp nhận tiềm năng của AI, điều quan trọng là chúng ta cũng phải tăng cường các biện pháp bảo vệ chống lại những mối đe dọa tinh vi này.

Thực trạng hiện tại của các scam qua điện thoại

Các tội phạm đã cố gắng lừa dối những người không nghi ngờ vào việc chuyển tiền hoặc tiết lộ thông tin nhạy cảm trong nhiều năm, nhưng mặc dù sự phổ biến của các scam qua điện thoại, nhiều trong số các scam này tương đối không tinh vi, dựa vào các vận hành viên đọc kịch bản của con người. Tuy nhiên, ngay cả với những hạn chế này, các scam qua điện thoại vẫn là một doanh nghiệp tội phạm béo bở.

Theo Ủy ban Thương mại Liên bang Hoa Kỳ, vào năm 2022 alone, người Mỹ đã mất hơn 8,8 tỷ đô la cho các hoạt động gian lận, với một phần đáng kể được quy cho các scam qua điện thoại, điều này có nghĩa là ngay cả trong hình thức hiện tại, ít tinh vi hơn, nhiều trong số các chiến thuật này vẫn hoạt động trên các cá nhân dễ bị tổn thương. Điều gì sẽ xảy ra khi chúng tiến hóa?

Tương lai của các scam được hỗ trợ bởi AI

Thực trạng của các scam qua điện thoại đang sẵn sàng cho một sự thay đổi đáng kể với sự ra đời của một số công nghệ then chốt:

Mô hình ngôn ngữ lớn (LLM)

Những hệ thống AI này có thể tạo ra văn bản giống con người và tham gia vào các cuộc trò chuyện tự nhiên. Khi áp dụng cho các scam, LLM có thể tạo ra các kịch bản rất thuyết phục và thích ứng, làm cho nó khó hơn cho các nạn nhân tiềm năng để xác định scam.

Truy xuất tăng cường tạo (RAG)

Công nghệ này cho phép các hệ thống LLM truy cập và sử dụng một lượng lớn thông tin trong thời gian thực. Các tội phạm có thể xây dựng một hồ sơ của một người dựa trên thông tin công khai của họ như tài khoản xã hội. Họ cũng có thể sử dụng các kỹ thuật kỹ sư xã hội trên bạn bè và gia đình để thu thập thông tin sâu hơn. Điều này sẽ cung cấp cho họ quyền truy cập vào thông tin như danh tính của mục tiêu, thông tin công việc hoặc thậm chí các hoạt động gần đây. Họ có thể sử dụng RAG để cung cấp cho LLM ngữ cảnh cần thiết, làm cho các cách tiếp cận của họ trở nên cá nhân hóa và hợp pháp.

Thế hệ âm thanh tổng hợp

Các nền tảng như Resemble AI và Lyrebird đang dẫn đầu trong việc tạo ra các giọng nói AI thực tế. Những công nghệ này có khả năng tạo ra âm thanh cá nhân hóa, giống con người, có thể được sử dụng trong nhiều ứng dụng, từ trợ lý ảo đến dịch vụ khách hàng tự động và tạo nội dung. Các công ty như ElevenLabs đang đẩy ranh giới xa hơn bằng cách cho phép người dùng tạo ra các giọng nói tổng hợp có thể mô phỏng chặt chẽ giọng nói của chính họ, cho phép một mức độ mới của cá nhân hóa và tương tác trong giao tiếp kỹ thuật số.

Thế hệ video tổng hợp

Các công ty như Synthesia đã chứng minh tiềm năng tạo ra nội dung video thực tế với các đại diện AI được tạo. Trong những năm tới, công nghệ này có thể cho phép các tội phạm giả mạo bạn bè hoặc thành viên gia đình hoặc tạo ra các nhân vật hoàn toàn giả mạo cho các cuộc gọi video, giới thiệu một mức độ thực tế vật lý trước đây không thể đạt được cho các scam.

Lip-syncing AI

Các công ty khởi nghiệp như Sync Labs đang phát triển công nghệ lip-syncing tiên tiến có thể phù hợp với âm thanh được tạo với video. Điều này có thể được sử dụng để tạo ra các video giả mạo sâu sắc về các nhân vật lịch sử, chính trị gia, người nổi tiếng và gần như mọi người khác, làm mờ ranh giới giữa thực tế và lừa dối.

Sự kết hợp của những công nghệ này vẽ ra một bức tranh khá đáng lo ngại. Hãy tưởng tượng một cuộc gọi scam mà AI có thể thích ứng cuộc trò chuyện trong thời gian thực, được trang bị thông tin cá nhân về mục tiêu, và thậm chí chuyển sang một cuộc gọi video với một người dường như thực sự có môi di chuyển hoàn hảo với giọng nói được tạo. Tiềm năng cho sự lừa dối thực sự là khổng lồ.

Sự cần thiết của các biện pháp bảo mật tăng cường

Khi các scam được hỗ trợ bởi AI trở nên tinh vi hơn, các phương pháp xác minh danh tính và tính xác thực sẽ phải chạy đua với sự tiến bộ của AI. Sẽ phải có những tiến bộ về quy định cũng như công nghệ để giữ cho thế giới trực tuyến an toàn.

Cải thiện quy định

Luật bảo vệ dữ liệu nghiêm ngặt hơn: Việc thực hiện các luật bảo vệ dữ liệu nghiêm ngặt hơn sẽ hạn chế lượng thông tin cá nhân có sẵn cho các tội phạm khai thác. Những luật này có thể bao gồm các yêu cầu nghiêm ngặt hơn về thu thập dữ liệu, các giao thức đồng ý người dùng được cải tiến và các hình phạt nghiêm khắc hơn cho các vi phạm dữ liệu.

Đám mây riêng cho các mô hình AI mạnh nhất: Quy định có thể yêu cầu các mô hình AI mạnh nhất được lưu trữ trên cơ sở hạ tầng đám mây riêng, an toàn thay vì được cung cấp công khai. Điều này sẽ hạn chế quyền truy cập vào các công nghệ tiên tiến nhất, khiến cho các tác nhân độc hại khó sử dụng chúng cho các scam. (ví dụ: https://security.apple.com/blog/private-cloud-compute/)

Hợp tác quốc tế về quy định AI: Nhìn xét tính chất toàn cầu của công nghệ AI, hợp tác quốc tế về các tiêu chuẩn quy định có thể có lợi. Việc thành lập một cơ quan toàn cầu chịu trách nhiệm tạo ra và thực thi các quy định AI quốc tế có thể giúp giải quyết các tội phạm liên quan đến AI xuyên biên giới.

Chiến dịch nâng cao nhận thức công chúng: Các chính phủ và cơ quan quản lý nên đầu tư vào các chiến dịch nâng cao nhận thức công chúng để giáo dục công dân về các rủi ro tiềm ẩn của các scam AI và cách bảo vệ mình. Nhận thức là bước đầu tiên quan trọng trong việc trao quyền cho các cá nhân và tổ chức thực hiện các biện pháp bảo mật cần thiết.

Các quy định AI hiện tại là không đủ để ngăn chặn các scam, và thách thức của quy định trong tương lai được tăng cường bởi tính chất mã nguồn mở của nhiều công nghệ mạnh. Sự mở này cho phép bất kỳ ai truy cập và sửa đổi những công nghệ này cho mục đích của riêng họ. Do đó, bên cạnh các quy định mạnh mẽ hơn, sự tiến bộ trong công nghệ bảo mật cũng cần thiết.

Phát hiện dữ liệu tổng hợp

Phát hiện âm thanh tổng hợp: Khi các tội phạm sử dụng AI, nên chúng ta cũng phải phát triển các biện pháp phòng thủ. Các công ty như Pindrop đang phát triển các hệ thống AI có khả năng phát hiện âm thanh tổng hợp trong thời gian thực trong các cuộc gọi điện thoại. Công nghệ của họ phân tích hơn 1.300 tính năng của âm thanh cuộc gọi để xác định xem nó đến từ một người thực sự hay một hệ thống AI tinh vi.

Phát hiện video tổng hợp: Phát hiện video tổng hợp: Just như âm thanh có thể được thao túng bởi AI, video cũng có thể bị thao túng, tạo ra các mối đe dọa đáng kể dưới dạng giả mạo và các nội dung video tổng hợp khác. Các công ty như Deepware đang dẫn đầu trong việc phát triển các công nghệ để phát hiện video tổng hợp. Nền tảng của Deepware sử dụng các thuật toán học máy tiên tiến để phân tích các sự không nhất quán tinh vi trong dữ liệu video, chẳng hạn như các chuyển động không tự nhiên, ánh sáng không đều và các bất thường pixel thường có trong nội dung được tạo bởi AI. Bằng cách xác định những sự không nhất quán này, công nghệ của Deepware có thể xác định xem một video có phải là thật hay đã bị thao túng, giúp bảo vệ các cá nhân và tổ chức khỏi bị lừa bởi các scam tinh vi và các chiến dịch thông tin sai lệch dựa trên video.

Xác thực danh tính

Có nhiều cách đang được phát triển để xác nhận danh tính người dùng và một hoặc nhiều cách sẽ trở nên phổ biến trong những năm tới để làm cho internet an toàn hơn.

Xác thực hai bước cho các cuộc trò chuyện từ xa: Xác thực hai yếu tố (2FA) vẫn là một thành phần cơ bản của giao tiếp an toàn. Theo phương pháp này, mỗi cuộc gọi điện thoại hoặc email sẽ kích hoạt một tin nhắn văn bản với một mã xác minh duy nhất, tương tự như đăng ký email hiện tại. Mặc dù 2FA hiệu quả cho xác thực cơ bản, nhưng những hạn chế của nó có nghĩa là nó không thể được dựa vào trong tất cả các ngữ cảnh, đòi hỏi sự phát triển của các phương pháp tiên tiến hơn để đảm bảo an toàn internet toàn diện có thể hoạt động trong nền.

Xác thực đa yếu tố dựa trên hành vi: Ngoài việc chỉ xác minh danh tính tại đầu cuộc gọi, các hệ thống bảo mật trong tương lai có thể liên tục phân tích hành vi trong suốt quá trình tương tác. Các công ty như BioCatch sử dụng sinh trắc học hành vi để tạo ra các hồ sơ người dùng dựa trên cách các cá nhân tương tác với thiết bị của họ. Công nghệ này có thể phát hiện các bất thường trong hành vi có thể chỉ ra rằng một kẻ lừa đảo đang sử dụng thông tin bị đánh cắp, ngay cả khi họ đã vượt qua các kiểm tra xác thực ban đầu.

Xác thực dựa trên sinh trắc học: Các công ty như Onfido đang ở vị trí hàng đầu trong công nghệ xác minh danh tính sinh trắc học, cung cấp các công cụ xác minh danh tính AI có khả năng phát hiện các giả mạo sâu sắc và các hình thức gian lận danh tính khác. Hệ thống của họ sử dụng sự kết hợp của xác minh tài liệu và phân tích sinh trắc học để đảm bảo rằng người ở đầu bên kia của cuộc gọi hoặc cuộc trò chuyện video thực sự là người họ tuyên bố mình là.

Xác thực kiến thức nâng cao: Tiến bộ hơn là các câu hỏi bảo mật đơn giản, các hệ thống xác thực trong tương lai có thể bao gồm các câu hỏi động, được tạo bởi AI dựa trên dấu ấn kỹ thuật số của người dùng và các hoạt động gần đây. Ví dụ, Prove, một công ty chuyên về xác minh danh tính tập trung vào điện thoại, đang phát triển các giải pháp tận dụng trí tuệ điện thoại và phân tích hành vi để xác minh danh tính. Công nghệ của họ có thể phân tích các mẫu sử dụng thiết bị để tạo ra một “chữ ký danh tính” độc nhất, khó bị giả mạo bởi các kẻ lừa đảo.

Xác thực danh tính dựa trên Blockchain: Công nghệ Blockchain cung cấp một phương pháp phân cấp và không thể thay đổi để xác minh danh tính. Các công ty như Civic đang tiên phong trong các hệ thống xác minh danh tính dựa trên Blockchain, cho phép người dùng kiểm soát thông tin cá nhân của mình trong khi cung cấp xác thực an toàn. Những hệ thống này tạo ra một hồ sơ xác minh được và không thể thay đổi của danh tính của một người, lý tưởng cho việc quản lý các giao dịch rủi ro cao.

Kết luận

Sự hội tụ của LLM, RAG, thế hệ âm thanh tổng hợp, thế hệ video tổng hợp và lip-syncing là một thanh gươm hai lưỡi. Trong khi những tiến bộ này có tiềm năng ứng dụng tích cực to lớn, chúng cũng tạo ra những rủi ro đáng kể khi được sử dụng bởi các kẻ lừa đảo.

Trận chiến liên tục này giữa các chuyên gia bảo mật và tội phạm mạng nhấn mạnh nhu cầu về sự đổi mới và cảnh giác liên tục trong lĩnh vực bảo mật kỹ thuật số. Chúng ta chỉ có thể tận dụng được lợi ích của những công cụ mạnh mẽ này trong khi giảm thiểu tiềm năng gây hại của chúng bằng cách nhận ra và chuẩn bị cho những rủi ro này.

Quy định toàn diện, giáo dục về những hình thức scam mới này, đầu tư vào các biện pháp bảo mật tiên tiến và có lẽ quan trọng nhất, một liều lượng lành mạnh sự hoài nghi từ mỗi và mọi người chúng ta khi tương tác với các thực thể không xác định trực tuyến hoặc qua điện thoại sẽ là điều cần thiết để điều hướng trong phong cảnh mới này.