Deepfakes và AI: Thông tin chi tiết từ Báo cáo bảo mật và thông minh giọng nói năm 2024 của Pindrop

Sự tiến bộ nhanh chóng của trí tuệ nhân tạo (AI) đã mang lại những lợi ích đáng kể và những thay đổi mang tính biến đổi trong nhiều ngành công nghiệp khác nhau. Tuy nhiên, nó cũng đặt ra những rủi ro và thách thức mới, đặc biệt khi nói đến gian lận và an ninh. Deepfakes, một sản phẩm của trí tuệ nhân tạongày càng trở nên phức tạp và gây ra mối đe dọa đáng kể cho tính toàn vẹn của hệ thống an ninh dựa trên giọng nói.

Những phát hiện từ Báo cáo bảo mật và thông minh giọng nói năm 2024 của Pindrop, nêu bật tác động của deepfake đối với các lĩnh vực khác nhau, những tiến bộ công nghệ thúc đẩy các mối đe dọa này và các giải pháp đổi mới đang được phát triển để chống lại chúng.

Sự trỗi dậy của Deepfakes: Con dao hai lưỡi

Deepfakes sử dụng nâng cao thuật toán học máy để tạo ra tính thực tế cao nội dung âm thanh và video tổng hợp. Mặc dù những công nghệ này có những ứng dụng thú vị trong giải trí và truyền thông nhưng chúng cũng đặt ra những thách thức nghiêm trọng về bảo mật. Theo báo cáo của Pindrop, người tiêu dùng Mỹ lo ngại nhất về nguy cơ deepfake và nhái giọng nói trong lĩnh vực tài chính ngân hàng, với 67.5% bày tỏ lo lắng đáng kể.

Tác động đến các tổ chức tài chính

Các tổ chức tài chính đặc biệt dễ bị tổn thương trước các cuộc tấn công deepfake. Kẻ lừa đảo sử dụng giọng nói do AI tạo ra để mạo danh cá nhân, giành quyền truy cập trái phép vào tài khoản và thao túng các giao dịch tài chính. Báo cáo tiết lộ rằng có số vụ xâm phạm dữ liệu kỷ lục vào năm 2023, tổng cộng 3,205 sự cố—tăng 78% so với năm trước. Chi phí trung bình của một vụ vi phạm dữ liệu ở Hoa Kỳ hiện lên tới 9.5 triệu USD, trong đó các trung tâm liên lạc phải chịu gánh nặng về hậu quả an ninh.

Một trường hợp đáng chú ý liên quan đến việc sử dụng một giọng nói deepfake để lừa một công ty có trụ sở tại Hồng Kông chuyển 25 triệu đô la, nêu bật tiềm năng tàn phá của những công nghệ này khi được sử dụng với mục đích xấu.

Các mối đe dọa lớn hơn đối với truyền thông và chính trị

Ngoài các dịch vụ tài chính, deepfake cũng gây ra rủi ro đáng kể cho các phương tiện truyền thông và thể chế chính trị. Khả năng tạo nội dung âm thanh và video giả mạo đầy thuyết phục có thể được sử dụng để truyền bá thông tin sai lệch, thao túng dư luận và làm suy yếu niềm tin vào các quy trình dân chủ. Báo cáo lưu ý rằng 54.9% người tiêu dùng lo ngại về mối đe dọa của deepfake đối với các thể chế chính trị, trong khi 54.5% lo lắng về tác động của chúng đối với truyền thông.

Vào năm 2023, công nghệ deepfake có liên quan đến một số vụ việc nổi tiếng, bao gồm cả vụ cuộc tấn công robocall sử dụng giọng nói tổng hợp của Tổng thống Biden. Những sự cố như vậy nhấn mạnh sự cấp thiết của việc phát triển các cơ chế phát hiện và ngăn chặn mạnh mẽ.

Những tiến bộ công nghệ thúc đẩy deepfake

Sự phổ biến của các công cụ AI tổng hợp, chẳng hạn như ChatGPT của OpenAI, Bard của Google và Bing AI của Microsoft, đã hạ thấp đáng kể các rào cản trong việc tạo ra các tác phẩm sâu. Ngày nay, hơn 350 hệ thống AI tổng hợp được sử dụng cho nhiều ứng dụng khác nhau, bao gồm Eleven Labs, Descript, Podcastle, PlayHT và Speechify. Ví dụ, mẫu VALL-E của Microsoft có thể sao chép giọng nói chỉ từ một đoạn âm thanh dài ba giây.

Những tiến bộ công nghệ này đã làm cho deepfake rẻ hơn và dễ sản xuất hơn, tăng khả năng tiếp cận của chúng với cả người dùng lành tính và tác nhân độc hại. Đến năm 2025, Gartner dự đoán rằng 80% dịch vụ AI đàm thoại sẽ kết hợp AI tổng hợp, tăng từ 20% vào năm 2023.

Chống lại Deepfake: Những đổi mới của Pindrop

Để giải quyết mối đe dọa ngày càng tăng của deepfake, Pindrop đã giới thiệu một số giải pháp tiên tiến. Một trong những điều đáng chú ý nhất là Bảo hành xung Deepfake, một chế độ bảo hành đầu tiên sẽ hoàn trả cho những khách hàng đủ điều kiện nếu Bộ sản phẩm của Pindrop không phát hiện được hành vi giả mạo sâu hoặc gian lận giọng nói tổng hợp khác. Sáng kiến ​​này nhằm mục đích mang lại sự an tâm cho khách hàng đồng thời nâng cao khả năng phát hiện gian lận.

Giải pháp công nghệ để tăng cường bảo mật

Báo cáo của Pindrop nêu bật tính hiệu quả của công nghệ phát hiện sự sống, công nghệ này phân tích các cuộc gọi điện thoại trực tiếp để tìm các đặc điểm quang phổ thời gian cho biết giọng nói trong cuộc gọi là “trực tiếp” hay tổng hợp. Trong thử nghiệm nội bộ, giải pháp phát hiện sự sống của Pindrop được cho là chính xác hơn 12% so với hệ thống nhận dạng giọng nói và chính xác hơn 64% so với con người trong việc xác định giọng nói tổng hợp.

Ngoài ra, Pindrop sử dụng tính năng xác thực và ngăn chặn gian lận đa yếu tố tích hợp, tận dụng giọng nói, thiết bị, hành vi, siêu dữ liệu của nhà cung cấp dịch vụ và tín hiệu sống động để tăng cường bảo mật. Cách tiếp cận nhiều lớp này nâng cao đáng kể rào cản đối với những kẻ lừa đảo, khiến chúng ngày càng khó thành công.

Xu hướng tương lai và sự chuẩn bị

Nhìn về phía trước, báo cáo dự báo rằng gian lận deepfake sẽ tiếp tục gia tăng, gây ra rủi ro 5 tỷ USD cho riêng các trung tâm liên lạc ở Mỹ. Sự phức tạp ngày càng tăng của hệ thống chuyển văn bản thành giọng nói, kết hợp với công nghệ giọng nói tổng hợp chi phí thấp, đặt ra những thách thức đang diễn ra.

Để đón đầu những mối đe dọa này, Pindrop khuyến nghị các kỹ thuật phát hiện rủi ro sớm, chẳng hạn như phát hiện giả mạo ID người gọi và phát hiện gian lận liên tục, để giám sát và giảm thiểu các hoạt động gian lận trong thời gian thực. Bằng cách triển khai các biện pháp bảo mật tiên tiến này, các tổ chức có thể tự bảo vệ mình tốt hơn trước bối cảnh gian lận do AI điều khiển ngày càng gia tăng.

Kết luận

Sự xuất hiện của deepfake và AI sáng tạo thể hiện một thách thức đáng kể trong lĩnh vực gian lận và bảo mật. Báo cáo An ninh và Thông minh Giọng nói năm 2024 của Pindrop nhấn mạnh nhu cầu cấp thiết về các giải pháp đổi mới để chống lại những mối đe dọa này. Với những tiến bộ trong việc phát hiện sự sống, xác thực đa yếu tố và chiến lược ngăn chặn gian lận toàn diện, Pindrop luôn đi đầu trong nỗ lực đảm bảo tương lai của các tương tác dựa trên giọng nói. Khi bối cảnh công nghệ tiếp tục phát triển, các phương pháp tiếp cận của chúng ta nhằm đảm bảo an ninh và niềm tin trong thời đại kỹ thuật số cũng phải phát triển.