Deepfakes và Trí tuệ nhân tạo: Thông tin từ Báo cáo Trí tuệ Giọng nói và An ninh của Pindrop năm 2024

Sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) đã mang lại nhiều lợi ích và thay đổi đáng kể trong nhiều ngành công nghiệp. Tuy nhiên, nó cũng đã giới thiệu những rủi ro và thách thức mới, đặc biệt là khi nói đến gian lận và an ninh. Deepfakes, một sản phẩm của trí tuệ nhân tạo sinh, đang trở nên tinh vi hơn và gây ra mối đe dọa đáng kể đối với tính toàn vẹn của hệ thống an ninh dựa trên giọng nói.

Các phát hiện từ Báo cáo Trí tuệ Giọng nói và An ninh của Pindrop năm 2024 đã nhấn mạnh tác động của deepfakes đối với các lĩnh vực khác nhau, sự phát triển công nghệ đang thúc đẩy những mối đe dọa này và các giải pháp sáng tạo đang được phát triển để chống lại chúng.

Sự trỗi dậy của Deepfakes: Một con dao hai lưỡi

Deepfakes sử dụng các thuật toán học máy tiên tiến để tạo ra nội dung âm thanh và video tổng hợp rất thực tế. Trong khi những công nghệ này có ứng dụng thú vị trong giải trí và truyền thông, chúng cũng đặt ra những thách thức an ninh nghiêm trọng. Theo báo cáo của Pindrop, người tiêu dùng Mỹ lo lắng nhất về rủi ro của deepfakes và bản sao giọng nói trong lĩnh vực ngân hàng và tài chính, với 67,5% thể hiện sự lo lắng đáng kể.

Tác động đối với các tổ chức tài chính

Các tổ chức tài chính đặc biệt dễ bị tấn công bởi deepfakes. Những kẻ gian lận sử dụng giọng nói được tạo ra bởi AI để giả mạo cá nhân, truy cập trái phép vào tài khoản và thao túng giao dịch tài chính. Báo cáo cho thấy có một số lượng kỷ lục các sự cố về dữ liệu trong năm 2023, với tổng số 3.205 sự cố – tăng 78% so với năm trước. Chi phí trung bình của một sự cố về dữ liệu ở Hoa Kỳ hiện là 9,5 triệu đô la, với các trung tâm liên lạc phải gánh chịu phần lớn hậu quả về an ninh.

Một trường hợp đáng chú ý liên quan đến việc sử dụng giọng nói deepfake để lừa một công ty ở Hồng Kông chuyển 25 triệu đô la, nhấn mạnh tiềm năng tàn phá của những công nghệ này khi được sử dụng một cách độc ác.

Mối đe dọa rộng lớn hơn đối với truyền thông và chính trị

Ngoài lĩnh vực tài chính, deepfakes cũng gây ra rủi ro đáng kể đối với các tổ chức truyền thông và chính trị. Khả năng tạo ra nội dung âm thanh và video giả rất thực tế có thể được sử dụng để lan truyền thông tin sai lệch, thao túng dư luận và làm suy yếu niềm tin vào các quá trình dân chủ. Báo cáo cho biết 54,9% người tiêu dùng lo lắng về mối đe dọa của deepfakes đối với các tổ chức chính trị, trong khi 54,5% lo lắng về tác động của chúng đối với truyền thông.

Năm 2023, công nghệ deepfake đã được sử dụng trong một số sự kiện nổi bật, bao gồm một cuộc tấn công robocall sử dụng giọng nói tổng hợp của Tổng thống Biden. Những sự kiện như vậy nhấn mạnh sự cấp thiết của việc phát triển các cơ chế phát hiện và phòng ngừa mạnh mẽ.

Các tiến bộ công nghệ thúc đẩy Deepfakes

Sự phổ biến của các công cụ trí tuệ nhân tạo sinh, như ChatGPT của OpenAI, Bard của Google (GOOGL ) và Bing AI của Microsoft (MSFT ), đã làm giảm đáng kể rào cản để tạo ra deepfakes. Hiện nay, hơn 350 hệ thống trí tuệ nhân tạo sinh được sử dụng cho các ứng dụng khác nhau, bao gồm Eleven Labs, Descript, Podcastle, PlayHT và Speechify. Mô hình VALL-E của Microsoft, ví dụ, có thể sao chép giọng nói từ chỉ một đoạn âm thanh ba giây.

Những tiến bộ công nghệ này đã làm cho deepfakes trở nên rẻ hơn và dễ sản xuất hơn, tăng khả năng tiếp cận của chúng với cả người dùng tốt bụng và những kẻ độc ác. Đến năm 2025, Gartner dự đoán rằng 80% các dịch vụ AI trò chuyện sẽ tích hợp trí tuệ nhân tạo sinh, tăng từ 20% vào năm 2023.

Chống lại Deepfakes: Các đổi mới của Pindrop

Để giải quyết mối đe dọa ngày càng tăng của deepfakes, Pindrop đã giới thiệu một số giải pháp tiên tiến. Một trong những giải pháp đáng chú ý nhất là Bảo hành Deepfake Pulse, một bảo hành đầu tiên trong ngành công nghiệp này, sẽ hoàn trả cho khách hàng đủ điều kiện nếu Bộ sản phẩm của Pindrop không phát hiện được deepfake hoặc gian lận giọng nói tổng hợp. Sáng kiến này nhằm mục đích mang lại sự yên tâm cho khách hàng đồng thời đẩy mạnh khả năng phát hiện gian lận.

Các giải pháp công nghệ để tăng cường an ninh

Báo cáo của Pindrop nhấn mạnh hiệu quả của công nghệ phát hiện sự sống, phân tích các cuộc gọi điện thoại trực tiếp để tìm kiếm các tính năng phổ thời gian cho thấy giọng nói trên cuộc gọi là “trực tiếp” hay tổng hợp. Trong quá trình thử nghiệm nội bộ, giải pháp phát hiện sự sống của Pindrop đã được chứng minh là chính xác hơn 12% so với hệ thống nhận dạng giọng nói và 64% chính xác hơn con người trong việc xác định giọng nói tổng hợp.

Ngoài ra, Pindrop sử dụng ngăn chặn gian lận và xác thực đa yếu tố tích hợp, tận dụng giọng nói, thiết bị, hành vi, siêu dữ liệu của nhà cung cấp dịch vụ và tín hiệu sự sống để tăng cường an ninh. Cách tiếp cận đa lớp này làm tăng đáng kể ngưỡng cho những kẻ gian lận, khiến họ khó thành công hơn.

Xu hướng tương lai và sự chuẩn bị

Nhìn về tương lai, báo cáo dự đoán rằng gian lận deepfake sẽ tiếp tục tăng, gây ra rủi ro 5 tỷ đô la cho các trung tâm liên lạc ở Hoa Kỳ alone. Sự tinh vi ngày càng tăng của các hệ thống văn bản-sang-nói và công nghệ giọng nói tổng hợp giá thấp tạo ra những thách thức liên tục.

Để dẫn đầu những mối đe dọa này, Pindrop khuyến nghị các kỹ thuật phát hiện rủi ro sớm, chẳng hạn như phát hiện giả mạo ID người gọi và phát hiện gian lận liên tục, để theo dõi và giảm thiểu các hoạt động gian lận trong thời gian thực. Bằng cách triển khai các biện pháp an ninh tiên tiến này, các tổ chức có thể bảo vệ mình tốt hơn chống lại bức tranh gian lận được thúc đẩy bởi AI đang thay đổi.

Kết luận

Sự xuất hiện của deepfakes và trí tuệ nhân tạo sinh tạo ra một thách thức đáng kể trong lĩnh vực gian lận và an ninh. Báo cáo Trí tuệ Giọng nói và An ninh của Pindrop năm 2024 nhấn mạnh sự cần thiết cấp thiết của các giải pháp sáng tạo để chống lại những mối đe dọa này. Với sự tiến bộ trong phát hiện sự sống, xác thực đa yếu tố và các chiến lược ngăn chặn gian lận toàn diện, Pindrop đang ở vị trí hàng đầu trong nỗ lực bảo vệ tương lai của các tương tác dựa trên giọng nói. Khi cảnh quan công nghệ tiếp tục phát triển, chúng ta cũng phải điều chỉnh cách tiếp cận của mình để đảm bảo an ninh và niềm tin trong kỷ nguyên số.