The Wild West của gian lận được thúc đẩy bởi Trí tuệ nhân tạo

Chúng ta đang ở giữa một cơn sốt vàng của Trí tuệ nhân tạo. Công nghệ đang phát triển, dân chủ hóa việc tiếp cận mọi thứ từ tạo nội dung tự động đến ra quyết định thuật toán. Đối với các doanh nghiệp, điều này có nghĩa là cơ hội. Đối với những kẻ gian lận, nó có nghĩa là giấy phép vô giới hạn.

Deepfakes, danh tính tổng hợp và các cuộc tấn công tự động không còn là những chiến thuật ngoại vi. Theo Deloitte, genAI có thể làm tăng tổn thất do gian lận lên hơn 40 tỷ đô la tại Hoa Kỳ alone vào năm 2027. Các công cụ này mạnh mẽ và hầu như không được quản lý. Điều chúng ta được lại là một biên giới kỹ thuật số không có luật, nơi hậu quả đang diễn ra trong thời gian thực, trong đó đổi mới và bóc lột thường看 giống hệt nhau.

Trí tuệ nhân tạo đã làm giảm rào cản gia nhập

Trí tuệ nhân tạo đã làm phẳng đường cong học tập cho tội phạm mạng. Với chỉ một lời nhắc và một kết nối internet, gần như bất kỳ ai cũng có thể khởi động một cuộc tấn công tinh vi: một chiến dịch phishing thuyết phục, giả mạo một cá nhân được tin cậy hoặc tạo ra một danh tính kỹ thuật số hoàn toàn. Điều gì từng yêu cầu chuyên môn bây giờ chỉ đòi hỏi ý định. Các chiến thuật gian lận đang được mở rộng như các công ty khởi nghiệp: được thử nghiệm, lặp lại và ra mắt trong vài giờ, không phải vài tuần.

Đáng lo ngại, những cuộc tấn công này không chỉ xảy ra thường xuyên hơn; chúng trở nên đáng tin cậy hơn. Trí tuệ nhân tạo đã cho phép chúng cá nhân hóa gian lận với quy mô chưa từng thấy — bắt chước giọng nói và mẫu, sao chép hành vi xã hội và thích nghi với các biện pháp phòng thủ mới trong thời gian thực. Điều này đã dẫn đến sự gia tăng của các cuộc tấn công có tác động thấp, cao. Khi công nghệ tiếp tục đạt đến tầm cao mới, các công cụ hiện có để phát hiện và ngăn chặn nó đang tụt lại phía sau.

Sự trỗi dậy của danh tính tổng hợp và nền kinh tế Deepfake

Sự tiến hóa tiếp theo của gian lận được thúc đẩy bởi Trí tuệ nhân tạo sẽ không chỉ bắt chước thực tế, mà nó sẽ tạo ra thực tế hàng loạt. Gian lận danh tính tổng hợp đang nhanh chóng trở thành một trong những mối đe dọa tăng trưởng nhanh nhất. Điều này được thúc đẩy bởi các mô hình Trí tuệ nhân tạo tạo ra tạo ra các nhân vật giống như đời thực từ các mảnh dữ liệu bị đánh cắp. Theo Datos Insights, hơn 40% các tổ chức tài chính đã chứng kiến sự gia tăng của các cuộc tấn công liên quan đến danh tính tổng hợp được tạo ra bởi GenAI, trong khi thiệt hại liên quan đến các chiến thuật này đã vượt quá 35 tỷ đô la vào năm 2023. Những giả mạo kỹ thuật số này đánh lừa không chỉ con người, mà còn cả hệ thống xác minh sinh trắc học và tài liệu, làm xói mòn niềm tin tại trung tâm của các quy trình onboarding và tuân thủ.

Các nhà quản lý đang vẽ ra những ranh giới trong cát đang chuyển động

Các nhà hoạch định chính sách đang bắt đầu hành động, nhưng họ đang theo đuổi một mục tiêu di chuyển. Các khuôn khổ như Đạo luật Trí tuệ nhân tạo của EU và Kế hoạch Tuân thủ Trí tuệ nhân tạo của FTC cho thấy sự tiến bộ trong việc thiết lập các rào cản cho sự phát triển và triển khai Trí tuệ nhân tạo có đạo đức, nhưng gian lận không chờ đợi quy định để bắt kịp. Bằng thời gian các quy tắc được định nghĩa, các chiến thuật đã tiến hóa.

Khoảng trống quy định này để lại một khoảng trống nguy hiểm, trong đó các công ty ngày nay bị buộc phải hành động như cả những người đổi mới và những người thực thi. Không có tiêu chuẩn toàn cầu chung cho rủi ro Trí tuệ nhân tạo, các tổ chức được yêu cầu tự quản lý, xây dựng các rào cản của riêng họ, giải thích rủi ro độc lập và gánh chịu gánh nặng của cả đổi mới và trách nhiệm.

Đấu tranh với lửa bằng lửa: Phòng thủ hiệu quả trông như thế nào

Để theo kịp gian lận được thúc đẩy bởi Trí tuệ nhân tạo, các tổ chức cần phải áp dụng cùng một tư duy: linh hoạt, tự động hóa và dựa trên dữ liệu. Các biện pháp phòng thủ hiệu quả nhất ngày nay dựa trên việc phát hiện rủi ro trong thời gian thực được tăng cường bởi Trí tuệ nhân tạo: các hệ thống có thể xác định hành vi đáng ngờ trước khi nó leo thang và thích nghi với các mẫu tấn công mới mà không cần can thiệp của con người.

May mắn là dữ liệu cần thiết cho loại phòng thủ này đã có sẵn cho hầu hết các doanh nghiệp, được thu thập thụ động thông qua các tương tác kỹ thuật số hàng ngày. Mỗi lần nhấp, đăng nhập, cấu hình thiết bị, địa chỉ IP và tín hiệu hành vi giúp xây dựng một bức tranh chi tiết về ai đang ở phía sau màn hình. Điều này bao gồm thông tin thiết bị, sinh trắc học hành vi, siêu dữ liệu mạng và tín hiệu như tuổi của địa chỉ email và sự hiện diện trên mạng xã hội.

Giá trị thực sự nằm ở việc chuyển đổi các tín hiệu phân tán này thành thông tin chi tiết. Khi được phân tích với Trí tuệ nhân tạo, các điểm dữ liệu đa dạng này cho phép phát hiện bất thường nhanh hơn, quyết định sắc nét hơn và thích nghi tốt hơn với các mối đe dọa đang phát triển. Thay vì xử lý từng tương tác riêng biệt, các hệ thống gian lận hiện đại liên tục theo dõi các mẫu không thường xuyên, các kết nối đáng ngờ và sự偏离 khỏi hành vi điển hình. Bằng cách kết nối các điểm trong thời gian thực, chúng cho phép đánh giá rủi ro chính xác hơn, nhận thức về ngữ cảnh và giảm thiểu các kết quả dương tính giả.

Tuy nhiên, phòng thủ được thúc đẩy bởi Trí tuệ nhân tạo không có nghĩa là loại bỏ con người khỏi vòng lặp. Sự giám sát của con người là rất quan trọng để đảm bảo khả năng giải thích, giảm thiểu thiên vị và phản hồi các trường hợp ngoại lệ mà các hệ thống tự động có thể bỏ qua.

Tái đánh giá niềm tin trong một thế giới thời gian thực

Việc thích nghi với cảnh quan mối đe dọa này không chỉ là việc áp dụng các công cụ thông minh hơn. Nó đòi hỏi phải tái đánh giá cách chúng ta định nghĩa rủi ro và vận hành hóa niềm tin. Các mô hình phát hiện gian lận truyền thống thường dựa trên dữ liệu lịch sử và các quy tắc tĩnh. Các phương pháp này giòn trong mặt trận của các mối đe dọa được thúc đẩy bởi Trí tuệ nhân tạo động. Thay vào đó, các tổ chức phải chuyển hướng sang việc ra quyết định nhận thức về ngữ cảnh, dựa trên tín hiệu hành vi trong thời gian thực, dữ liệu thiết bị và mẫu mạng để tạo ra một bức tranh phong phú hơn về ý định của người dùng.

Quan trọng là, các hệ thống có con người trong vòng lặp củng cố khuôn khổ này bằng cách kết hợp sự chính xác phân tích của Trí tuệ nhân tạo với phán quyết của chuyên gia, đảm bảo rằng các bất thường được đánh dấu được xem xét trong ngữ cảnh, giảm thiểu các kết quả dương tính giả và quyết định về niềm tin phát triển thông qua phản hồi liên tục của con người. Sự thay đổi này không chỉ là kỹ thuật; nó là văn hóa.

Phòng chống gian lận không còn có thể được cô lập như một chức năng ở phía sau. Nó phải trở thành một phần của chiến lược niềm tin rộng lớn hơn, được tích hợp với onboarding, tuân thủ và trải nghiệm khách hàng. Điều đó có nghĩa là các đội chức năng chia sẻ thông tin, thống nhất về khẩu vị rủi ro và thiết kế các hệ thống cân bằng giữa bảo vệ và khả năng tiếp cận.

Điều đó cũng đòi hỏi một tư duy coi trọng sự linh hoạt hơn là sự cứng nhắc. Khi Trí tuệ nhân tạo định nghĩa lại tốc độ và quy mô của gian lận, khả năng thích nghi nhanh chóng, theo ngữ cảnh và liên tục trở thành baseline mới cho việc duy trì lợi thế. Chúng ta không thể ngăn chặn mọi nỗ lực gian lận, nhưng chúng ta có thể thiết kế các hệ thống thất bại thông minh hơn, phục hồi nhanh hơn và học hỏi trong thời gian thực.

Không ai có thể thắng trong cuộc đua vũ trang chống gian lận

Không có chiến thắng cuối cùng trong cuộc chiến chống lại gian lận được thúc đẩy bởi Trí tuệ nhân tạo. Mỗi biện pháp phòng thủ mới mời gọi một cuộc phản công thông minh hơn, nhanh hơn. Những kẻ gian lận hoạt động với ít hạn chế hơn, thích nghi trong thời gian thực và sử dụng cùng các mô hình Trí tuệ nhân tạo như các công ty chúng nhắm đến.

Trong vùng đồng cỏ kỹ thuật số mới này, những kẻ gian lận di chuyển nhanh, phá vỡ mọi thứ và không phải đối mặt với bất kỳ hạn chế quy định hoặc đạo đức nào làm chậm các doanh nghiệp hợp pháp lại. Và tất cả chúng ta cần phải chấp nhận thực tế mới này: Trí tuệ nhân tạo sẽ bị lợi dụng bởi những kẻ xấu. Sự phản ứng bền vững duy nhất là sử dụng Trí tuệ nhân tạo như một lợi thế chiến lược để xây dựng các hệ thống linh hoạt, thích nghi và liên tục phát triển như các mối đe dọa mà chúng phải đối mặt. Bởi vì trong một thế giới mà bất kỳ ai cũng có thể sử dụng Trí tuệ nhân tạo, đứng yên có nghĩa là đầu hàng hoàn toàn.