Các Ngân Hàng Có Sẵn Sàng Để Đối Mặt Với Gian Lận Giọng Nói AI?

Giọng nói được tạo ra bởi AI đã thay đổi kinh tế của gian lận. Những gì từng yêu cầu một người giả mạo có kỹ năng, một kịch bản thuyết phục, hoặc một số điện thoại bị xâm phạm, giờ đây có thể được thực hiện với quy mô lớn bằng các công cụ nghe có vẻ rất giống con người.

Và điều khiến mọi người lo lắng hơn, chúng đã nhắm vào lĩnh vực tài chính. Vào đầu năm 2024, một nhân viên tài chính tại công ty kỹ thuật Arup đã tham gia vào một cuộc gọi video thường xuyên với Giám đốc tài chính và một số đồng nghiệp. Các giọng nói quen thuộc, khuôn mặt dễ nhận biết, và yêu cầu có vẻ hợp lý đủ để vượt qua sự kiểm tra cơ bản. Cuối cùng, cô đã ủy quyền 25 triệu đô la trong các giao dịch chuyển tiền. Những người cô tin rằng mình đang nói chuyện với, bao gồm cả Giám đốc tài chính, sau đó được báo cáo là những bản sao giọng nói được tạo ra bởi AI.

Đối với các tổ chức tài chính, rủi ro không chỉ giới hạn ở việc phê duyệt thanh toán nội bộ. Sự sụp đổ niềm tin này có thể diễn ra trên toàn bộ quá trình xác thực khách hàng, nâng cấp trung tâm cuộc gọi, kiểm tra gian lận và quá trình phục hồi tài khoản.

Những kẻ lừa đảo đã khai thác sự ẩn danh tương đối của các cuộc gọi điện thoại để thực hiện gian lận trong nhiều thập kỷ. Tuy nhiên, với AI, nỗ lực cần thiết đã trở nên nhỏ bé, và kết quả trở nên thuyết phục hơn. Đối với các ngân hàng và công ty fintech, sự hội tụ này đang dẫn đến một bản đồ rủi ro chưa được khai thác.

Có một thực tế khó chịu hơn nằm dưới bề mặt này. Ngay cả khi những kẻ tấn công đang tìm cách xâm nhập, cơ sở hạ tầng AI mà các tổ chức tài chính đang triển khai để hiện đại hóa hỗ trợ khách hàng của họ đang khiến gian lận trở nên dễ dàng hơn khi thực hiện ngay trước mắt.

Cuộc gọi nghe có vẻ như thuộc về

Trước AI, gian lận giọng nói tương đối dễ nhận biết. Các cuộc gọi tự động nghe có vẻ phẳng và theo kịch bản, và các nỗ lực lừa đảo qua điện thoại phụ thuộc vào các vận hành viên theo kịch bản. Trong hầu hết các trường hợp, quy mô bị giới hạn bởi chất lượng của kẻ lừa đảo cố gắng thực hiện kỹ thuật xã hội.

AI đã thay đổi điều đó bằng cách gần như loại bỏ rào cản kỹ thuật cho việc giả mạo. Với đủ lời nhắc, AI có thể nghe rất giống con người, hoàn chỉnh với ngữ điệu, cảm xúc và những khiếm khuyết mà bạn mong đợi từ một người thực sự. Điều làm cho mọi thứ tồi tệ hơn, các công cụ AI có thể sao chép giọng nói đang có sẵn trên các nền tảng thương mại và kho lưu trữ mã nguồn mở.

McAfee Labs đã phát hiện ra rằng ba giây âm thanh đủ để một công cụ AI tạo ra một bản sao giọng nói với 85% độ chính xác. Mười giây ghi âm có thể đẩy con số đó lên trên 95%. Nguyên liệu thô ở mọi nơi: bài đăng trên mạng xã hội, lời chào điện thoại, bản ghi họp, cuộc gọi thu nhập, hoặc video trên LinkedIn.

Các công cụ chuyển đổi giọng nói thời gian thực đã trở nên rộng rãi vào năm 2024, điều này có nghĩa là các kẻ tấn công ngày nay không cần một đoạn ghi âm trước. Họ chỉ cần nói vào micro, và đầu ra sẽ nghe giống như bất kỳ ai họ đang cố gắng giả mạo.

Vụ việc Arup là một ví dụ: Nhân viên tài chính đã có những nghi ngờ, nhưng sự hiện diện của những giọng nói quen thuộc và khuôn mặt trên cuộc gọi đã vượt qua những nghi ngờ đó, và cô quyết định tin tưởng vào mắt và tai của mình. Cùng năm đó, các điều tra viên Hồng Kông đã phát hiện ra một hoạt động riêng biệt đã sao chép giọng nói của một nhà quản lý tài chính để chạy một 18,5 triệu đô la gian lận tiền điện tử.

Một giọng nói quen thuộc, hóa ra, là một giọng nói đáng tin cậy, và AI đã khiến giả định đó trở thành một điều nguy hiểm để duy trì.

Sự thất bại trong xác thực đang trở thành cơ hội cho gian lận

Các tổ chức tài chính đã bắt đầu phản ứng lại các mối đe dọa từ bên ngoài. Chi tiêu của doanh nghiệp cho các công cụ quản trị và tuân thủ AI được dự báo sẽ tăng từ 2,2 tỷ đô la vào năm 2025 lên 9,5 tỷ đô la vào năm 2035, đó là một tín hiệu cho thấy thị trường đang coi trọng vấn đề này như thế nào.

Tuy nhiên, rủi ro đáng kể hơn không xuất phát từ bên ngoài tường lửa của họ. Các ngân hàng và công ty fintech đang tích hợp AI vào ngăn xếp hỗ trợ khách hàng của họ, xây dựng hệ thống IVR hỗ trợ AI, xác thực sinh trắc học giọng nói, và luồng cuộc gọi được xử lý bởi các đại lý không phải con người. Những nỗ lực này nhằm cải thiện trải nghiệm khách hàng và giảm lao động con người, nhưng khi các hệ thống này thất bại, chúng sẽ để lại một điểm yếu mà các tác nhân đe dọa tìm thấy quá dễ để khai thác.

Các lỗi định tuyến, ngữ cảnh bị mất giữa các lần nâng cấp, và hệ thống xác thực hành động không thể dự đoán được trông giống như các vấn đề về trải nghiệm khách hàng, và được ghi lại như vậy.

Tuy nhiên, những vấn đề về CX này có thể biến thành điều tồi tệ hơn về sau. Một khách hàng bị khóa bởi sinh trắc học giọng nói sẽ hiếm khi báo cáo về điều đó. Thay vào đó, khả năng cao là họ sẽ gọi lại, tìm cách nói chuyện với một đại lý con người, và gây áp lực cho họ để bỏ qua các giao thức mà những hệ thống này được xây dựng để thực thi.

Vấn đề lớn hơn là một kẻ tấn công giả mạo khách hàng cũng có thể làm điều đó. Các tổ chức tài chính rất nhận thức được điều này. Trên thực tế, 91% ngân hàng tại Mỹ đang xem xét lại chiến lược xác thực sinh trắc học giọng nói của họ trước rủi ro sao chép giọng nói AI.

Việc xem xét lại sẽ không giải quyết được những vấn đề này. Một tổ chức mà xác thực giọng nói thường xuyên thất bại với khách hàng hợp pháp đã tạo ra điều kiện mà một kẻ tấn công quyết tâm cần để khai thác hệ thống. Sau tất cả, một kẻ tấn công không cần tìm một điểm yếu kỹ thuật khi ma sát trong hành trình khách hàng cho phép họ một cách vào.

Các công ty cần thay đổi quan điểm, không phải ngăn xếp bảo mật

Các công cụ có thể phát hiện giọng nói tổng hợp được tạo ra bởi AI đang được cải thiện, nhưng một kẻ tấn công đang thăm dò hệ thống của ngân hàng để tìm kiếm các điểm yếu không chỉ tìm kiếm một điểm thất bại duy nhất. Họ đang tìm kiếm các khu vực mà hệ thống vấp ngã và bỏ lỡ nhau, nơi các hệ thống xác thực thất bại trong việc truyền tín hiệu rõ ràng. Việc phát hiện tốt hơn ở ngoại vi không thể đóng khoảng trống đó.

Điều có thể giúp đỡ là xem xét lại cách các nhà lãnh đạo đối xử với cơ sở hạ tầng giọng nói. Giống như bất kỳ phần nào của ngăn xếp phần mềm của bạn, cơ sở hạ tầng giọng nói đòi hỏi mức độ kiểm tra giống như các biện pháp phòng thủ ngoại vi.

Trong thực tế, một tư thế an ninh như vậy sẽ đòi hỏi cả kiểm tra chức năng và độ bền trên các điều kiện mà hệ thống IVR, xác thực sinh trắc học và các hệ thống giọng nói khác sẽ phải đối mặt trong sản xuất: âm thanh chất lượng thấp, giọng nói khác nhau và tiếng ồn nền, các trường hợp nâng cấp biên, và các kịch bản ranh giới xác thực nơi người gọi hợp pháp chỉ nằm ngoài ngưỡng chấp nhận của hệ thống.

Câu trả lời không phải là một bài tập chứng nhận một lần. Ngân hàng cần xác thực liên tục toàn bộ hành trình giọng nói, từ định tuyến IVR và xác thực sinh trắc học đến nâng cấp, chuyển và đường dẫn dự phòng. Dù các hệ thống giọng nói được cập nhật thường xuyên như thế nào, các chiến thuật gian lận sẽ tự nhiên tiến hóa để tìm ra các điểm yếu trong bất kỳ biện pháp phòng thủ nào mà chúng gặp phải. Một hệ thống vượt qua xác thực tại thời điểm triển khai phải được kiểm tra thường xuyên và lặp lại trong điều kiện thế giới thực để đảm bảo nó vẫn an toàn ngay cả khi hiệu suất của nó đã tiến hóa.

Điều đáng chú ý là việc kiểm tra liên tục với quy mô lớn sẽ đi kèm với các xem xét về ngân sách. Có sự căng thẳng vốn có giữa việc di chuyển nhanh (triển khai các khả năng mới để duy trì tính cạnh tranh) và xác thực hệ thống một cách彻底 trước khi chúng tương tác với khách hàng thực sự và đối mặt với các nỗ lực gian lận thực sự.

Mặc dù rất khó để giải quyết sự căng thẳng đó một cách sạch sẽ, nhưng nó làm rõ chi phí của việc bỏ qua xác thực: Một sự thất bại trong hệ thống của bạn mà khách hàng thất vọng đã tìm cách vượt qua là một điểm yếu, bất kể công ty của bạn phân loại nó như thế nào.

Các hành trình khách hàng tốt hơn đang trở thành một biện pháp phòng thủ gian lận

Các rủi ro bên ngoài và bên trong được mô tả ở trên không phải là những vấn đề riêng biệt với các giải pháp khác nhau. Ma sát được tạo ra bởi các hành trình khách hàng không đáng tin cậy đang tạo ra các khoảng trống hành vi mà kỹ thuật xã hội được thiết kế để khai thác.

Đó là một vấn đề có thể giải quyết, nhưng chỉ khi các tổ chức nhận ra rằng tác động của trải nghiệm khách hàng kém có thể vượt ra ngoài việc giữ chân hoặc doanh thu. Các ngân hàng sẽ không giải quyết được gian lận giọng nói AI bằng cách chỉ xử lý nó như một vấn đề phát hiện. Họ cũng cần loại bỏ sự模糊, ma sát và các điểm thất bại trong chính các hành trình giọng nói của mình. Trong một thời đại mà một giọng nói quen thuộc không còn có thể được tin cậy theo mặc định, độ tin cậy của hành trình chính nó trở thành một phần của mô hình bảo mật.