Kỷ Nguyên Mới Của Giả Mạo Giám Đốc Không Liên Quan Đến Giám Đốc

Trong những năm gần đây, mối đe dọa số lớn nhất đối với các thương hiệu là giả mạo giám đốc, thường được thực hiện thông qua địa chỉ email giả mạo hoặc tài khoản mạng xã hội giả mạo. Ngày nay, chúng ta đang đối mặt với một kẻ thù phức tạp và thuyết phục hơn nhiều: các tác nhân AI.

Sự xuất hiện của các tác nhân tự động được hỗ trợ bởi các mô hình ngôn ngữ lớn (LLM), được thiết kế để hoạt động với sự can thiệp của con người tối thiểu, đã mở ra những khả năng mới gần giống với sự phấn khích trong thời đại web2 và ứng dụng di động đầu tiên.

Mặc dù các tác nhân tự động thực sự chưa nhảy vọt từ tầm nhìn đến hiện thực, các chuyên gia cảnh báo họ có thể sẽ có thể di chuyển trong mạng lưới doanh nghiệp vào năm tới. Sự phấn khích và áp dụng sẽ không thể tránh khỏi rơi vào tầm ngắm của các tội phạm mạng luôn thay đổi, những người coi các tác nhân tự động là một biên giới mới cho lừa đảo số. Vậy điều gì xảy ra khi các tác nhân này bị giả mạo? Hay tệ hơn, khi họ là những kẻ giả mạo?

Giống như các ứng dụng di động từng phải đối mặt với một loạt các phiên bản giả mạo được xây dựng để trích xuất thông tin đăng nhập hoặc cài đặt phần mềm độc hại, các tác nhân AI hiện đang đứng trước một làn sóng tương tự của các bản sao. Lần này, tuy nhiên, rủi ro sẽ khó phát hiện hơn và thiệt hại có thể rộng lớn hơn.

Từ Giả Mạo Giám Đốc Đến Giả Mạo Tác Nhân

Trí tuệ nhân tạo đã mở ra những con đường mới cho lừa đảo và lừa dối, đặc trưng bởi các trò lừa đảo sao chép giọng nói có thể tái tạo các mẫu giọng nói của giám đốc chỉ bằng vài giây âm thanh, và gần đây, bằng chứng về việc giả mạo video và giọng nói thời gian thực đã được báo cáo. Bây giờ, hãy tưởng tượng một tác nhân tự động, được cho là đại diện cho công ty của bạn, tương tác với khách hàng, nhà đầu tư hoặc đối tác. Tác nhân đó có thể được nhúng vào một trang web, tích hợp vào một rô-bốt trò chuyện hoặc thậm chí tương tác qua email, cung cấp các tương tác chuyên nghiệp và hoàn toàn giả mạo.

Người tiền nhiệm của các tác nhân sao chép có thể nằm trong các mô hình “jailbreak“, trong đó các tác nhân đe dọa thao túng các LLM, thường thông qua các kỹ thuật tiêm lệnh hoặc đa lượt, để tạo ra các đầu ra có hại hoặc sai. Nhưng đây chỉ là bước đầu tiên.

Theo dữ liệu từ PitchBook, các công ty AI đã huy động được 131,5 tỷ đô la vào năm 2024, chiếm hơn một phần ba tổng số giao dịch vốn đầu tư toàn cầu. Cuộc đua vũ trang AI, được thúc đẩy bởi các nhà sáng lập tham vọng, các nhà đầu tư đói vốn và các chính phủ háo hức, sẽ nhanh chóng tăng tốc các khả năng của công nghệ mới nổi này, trong đó các trường hợp sử dụng hợp pháp sẽ tiếp tục bị khai thác cho các mục đích độc ác.

Trí tuệ nhân tạo tạo ra đã và sẽ tiếp tục dân chủ hóa việc tạo ra các tác nhân như vậy. Khi các nền tảng cạnh tranh để tích hợp chúng, rất ít rào cản tồn tại để xác minh tính xác thực của chúng. Điều này mở ra cánh cửa cho một lớp giả mạo mới: không chỉ của con người mà còn của phần mềm.

Một Cuộc Gọi Lên Hồi Cho Các Thương Hiệu Nghiện Và Người Tiêu Dùng Tò Mò

Người tiêu dùng và các thương hiệu đều chỉ mới bắt đầu hiểu được ý nghĩa của việc tin tưởng vào một tác nhân. Nhưng niềm tin là chìa khóa của bất kỳ tương tác số nào, và khi nó bị phá vỡ, hậu quả có thể là thảm khốc.

Như đã quan sát thấy với các video giả mạo và sao chép giọng nói, các tác nhân giả có thể được sử dụng để:

• Yêu cầu thanh toán hoặc dữ liệu nhạy cảm dưới danh nghĩa của một thương hiệu đã thành lập hoặc đáng tin cậy
• Chuyển hướng người dùng đến các trang web chứa phần mềm độc hại qua tin nhắn trực tiếp trên mạng xã hội hoặc quảng cáo trả tiền
• Làm xói mòn niềm tin của khách hàng và kích hoạt thiệt hại danh tiếng trên quy mô lớn

Theo một báo cáo gần đây của Ủy ban Thương mại Liên bang, các vụ lừa đảo giả mạo đã gây ra gần 3 tỷ đô la thiệt hại được báo cáo ở Mỹ alone – một con số dự kiến sẽ tăng mạnh khi lừa đảo AI trở nên tinh vi và có thể mở rộng hơn.

Sự Phát Triển Của Các Tác Nhân Giả: Quảng Cáo, Tìm Kiếm và Mạng Xã Hội

Điều gì đặc biệt nguy hiểm là cách các tác nhân sao chép sẽ được phân phối. Họ không cần có trang web hoặc miền riêng để đạt được động lực. Các tác nhân độc ác có thể và đã sử dụng kết quả tìm kiếm trả tiền và các nền tảng mạng xã hội để quảng bá các bản sao độc hại của các thương hiệu, giám đốc hoặc sản phẩm đáng tin cậy. Một liên kết được tài trợ trên Google hoặc một bài đăng được quảng cáo trên Instagram, ví dụ, là đủ để chuyển hướng người dùng không nghi ngờ đến một tác nhân giả hoặc cổng hỗ trợ.

Mối nguy hiểm này ở cấp độ hệ sinh thái, nơi các tác nhân độc ác chiếm đoạt không gian số hợp pháp để tạo điều kiện cho các vụ lừa đảo, đòi hỏi một trường phái tư duy mới về an ninh mạng. Nó không còn đủ để bảo vệ mạng của bạn, đám mây hoặc bảo mật thông tin đăng nhập của nhân viên. Chu vi đe dọa của thương hiệu của bạn hiện bao gồm mọi mạng quảng cáo, nền tảng tìm kiếm và công cụ của bên thứ ba mà khách hàng của bạn tương tác.

Đưa Ra Hành Động Trước Khi Quá Muộn

Chúng ta đang bước vào một thế giới nơi ranh giới giữa con người và tác nhân ngày càng bị xóa mờ. Mối đe dọa không còn chỉ là giả mạo con người, đang ở giai đoạn tăng trưởng theo cấp số nhân do các công cụ AI có sẵn, mà là giả mạo các nhân vật số.

Vậy, làm thế nào các doanh nghiệp có thể chuẩn bị?

1. Lập Bản Đồ Sự Hiện Diện Số Của Thương Hiệu: Biết nơi khách hàng của bạn tương tác với công ty và các tác nhân của bạn – dù trên trang web của bạn, qua API hoặc thông qua các bên thứ ba – và chủ động theo dõi các điểm vào đó để tìm kiếm các nỗ lực giả mạo.
2. Theo Dõi Các Hệ Sinh Thái Tác Nhân Mới: Khi các thị trường và nền tảng mở cho các tác nhân (như Hugging Face Spaces) trở nên phổ biến, hãy cảnh giác với các bản sao hoặc phân nhánh của các công cụ của bạn xuất hiện ở nơi khác.
3. Giảm Thời Gian Phát Hiện (TTD) và Thời Gian Khắc Phục (TTR): Sử dụng các giải pháp cho phép xác định và loại bỏ nhanh chóng những kẻ giả mạo, đặc biệt là những kẻ lạm dụng quảng cáo trả tiền hoặc nền tảng mạng xã hội, là điều quan trọng để hạn chế thiệt hại.
4. Giáo Dục Người Dùng Của Bạn: Xây dựng tính minh bạch vào các trải nghiệm tác nhân của bạn. Người dùng của bạn nên hiểu nơi và cách họ nên tương tác với các công cụ của bạn và cách nhận biết các tín hiệu cảnh báo.
5. Thiết Lập Giao Thức Xác Thực Tác Nhân: Làm việc hướng tới xác thực dựa trên mã hóa hoặc siêu dữ liệu có thể xác nhận nguồn gốc và tính hợp pháp của một tác nhân.

Giải pháp nằm ở việc bảo mật hệ sinh thái của các tác nhân AI, không phải là tránh nó. Giống như chúng ta đã học cách xác minh các miền, xác thực email và kiểm tra các ứng dụng di động trong những thập kỷ qua, chúng ta hiện cần mở rộng cùng mức độ cảnh giác đến thế giới của các tác nhân AI. Nếu chúng ta không vượt lên trước việc giả mạo tác nhân bây giờ, chúng ta có thể sớm tìm mình đang nói chuyện với một trợ lý trông quen thuộc đang làm việc cho phe đối lập.