Chiếu sáng điểm mù rủi ro kinh doanh: Cách Shadow AI định hình lại phong cảnh mối đe dọa di động

Trí tuệ nhân tạo đang cách mạng hóa cách chúng ta làm việc. Từ việc tóm tắt tài liệu và soạn thảo hợp đồng đến việc tạo mã và tự động hóa quy trình làm việc, các công cụ AI đã trở thành một phần không thể thiếu trong hoạt động kinh doanh hàng ngày. Tuy nhiên, bên cạnh việc sử dụng AI được phê duyệt trong các tổ chức, có một xu hướng ngày càng tăng được gọi là Shadow AI – việc sử dụng các ứng dụng AI không được phép mà không có sự giám sát chính thức từ các nhóm CNTT hoặc an ninh.

Shadow AI không chỉ là một vi phạm chính sách CNTT. Nó đại diện cho một khoảng trống quản trị cấu trúc tại điểm giao nhau giữa danh tính, bảo vệ dữ liệu, tuân thủ và các hệ thống tự chủ mới nổi. Khi các khả năng AI mở rộng, đặc biệt là trong môi trường di động, các tổ chức phải đối mặt với một bề mặt rủi ro đang tăng nhanh mà các biện pháp bảo mật truyền thống không được thiết kế để giải quyết.

Di động: Một nhân tố nhân lên rủi ro Shadow AI

Khi việc áp dụng di động tăng tốc, rủi ro Shadow AI cũng tăng theo. Điện thoại thông minh và máy tính bảng đã trở thành trung tâm hoạt động của doanh nghiệp, kết hợp danh tính, nhắn tin và truy cập đám mây vào một điểm cuối luôn bật. Trong khi đó, các ứng dụng được hỗ trợ bởi AI đang lấp đầy các cửa hàng ứng dụng, cho phép nhân viên triển khai các khả năng agentic ngay lập tức, thường nằm ngoài sự giám sát của CNTT. Trên thực tế, Lookout đã xác định hơn 25.000 ứng dụng di động có khả năng AI đã có sẵn trong Apple App Store và Google Play Store, nhấn mạnh sự phát triển nhanh chóng của sự phơi nhiễm này tại biên giới di động.

Khi di động và AI không được phép giao nhau, sự phơi nhiễm của doanh nghiệp tăng lên, khẳng định một sự thật cơ bản: rủi ro di động là rủi ro kinh doanh.

Agentic AI: Các diễn viên số tự chủ bên trong tổ chức

Agentic AI giới thiệu một bước thay đổi khác trong rủi ro của doanh nghiệp. Không giống như các công cụ tạo nội dung thụ động chỉ tạo ra nội dung để đáp ứng các yêu cầu, các hệ thống agentic được thiết kế để lập kế hoạch, quyết định và thực hiện các hành động độc lập. Chúng có thể tự động khởi xướng các cuộc trò chuyện, kích hoạt các giao dịch tài chính, sửa đổi hồ sơ, tương tác với các ứng dụng doanh nghiệp và kết hợp các quy trình làm việc nhiều bước mà không cần giám sát của con người. Về cơ bản, chúng hoạt động như các diễn viên số bên trong tổ chức.

Khi các khả năng này hoạt động ngoài các khuôn khổ quản trị đã thiết lập, chúng sẽ khuếch đại rủi ro với tốc độ máy. Các quyết định từng yêu cầu sự phán quyết của con người hiện có thể được thực hiện ngay lập tức, lặp đi lặp lại và với quy mô lớn. Các quyền truy cập, tích hợp API và ủy quyền biến các hệ thống này từ các công cụ tư vấn thành các tác nhân hoạt động có thể di chuyển dữ liệu, thay đổi hệ thống và khởi xướng các quy trình kinh doanh.

Ví dụ, một trợ lý AI di động có quyền truy cập vào email doanh nghiệp và lưu trữ đám mây có thể tự động tóm tắt các tài liệu hội đồng quản trị nhạy cảm và truyền chúng đến một dịch vụ AI bên ngoài để “phân tích”. Ngay cả khi được thực hiện với ý định tốt, các ý nghĩa quản trị là sâu sắc: thông tin bí mật có thể rời khỏi môi trường được kiểm soát, các nghĩa vụ quy định có thể được kích hoạt, các đường dẫn kiểm toán có thể không đầy đủ và các yêu cầu về cư trú dữ liệu có thể bị vi phạm. Rủi ro không chỉ là rò rỉ dữ liệu – mà là việc ủy quyền cho các hệ thống có thể không được hiển thị, không được phép hoặc không được quản lý.

Quản trị và sự trỗi dậy của ISO 42001

Khi rủi ro AI tăng tốc, các khuôn khổ quản trị toàn cầu đang xuất hiện để áp đặt cấu trúc và trách nhiệm. Trong số đó, tiêu chuẩn quốc tế ISO/IEC 42001 về Hệ thống quản lý trí tuệ nhân tạo là một trong những khuôn khổ quan trọng nhất. ISO 42001 yêu cầu các tổ chức phải triển khai các quy trình quản trị dựa trên rủi ro để giám sát, theo dõi và quản lý liên tục các hệ thống AI.

Tiêu chuẩn này áp dụng không chỉ cho các triển khai AI truyền thống mà còn cho các hệ thống AI agentic có khả năng hành động tự chủ. Các tổ chức phải chứng minh sự hiển thị, kiểm soát và khả năng theo dõi trên tất cả các hoạt động AI trong môi trường của họ. Shadow AI trực tiếp xói mòn yêu cầu này. Khi nhân viên triển khai các công cụ AI ngoài các kênh được phép, các doanh nghiệp mất khả năng khẳng định sự giám sát AI toàn diện.

Trong các lĩnh vực được quản lý – bao gồm chăm sóc sức khỏe, dịch vụ tài chính, chính phủ và cơ sở hạ tầng quan trọng – khoảng trống quản trị này đặc biệt có hậu quả. Việc sử dụng AI không được quản lý có thể tạo ra sự phơi nhiễm tuân thủ đáng kể theo các đạo luật về quyền riêng tư, quy định bảo vệ dữ liệu và nghĩa vụ hợp đồng.

Các biện pháp bảo mật truyền thống không đủ cho di động

Nhiều tổ chức cho rằng các biện pháp bảo mật hiện có – như cổng email, nền tảng bảo vệ điểm cuối và CASB – là đủ để quản lý rủi ro AI. Trong thực tế, chúng không. Shadow AI, đặc biệt là trong môi trường di động nơi hoạt động xảy ra hoàn toàn trên điện thoại thông minh và máy tính bảng, có thể tránh các biện pháp bảo mật dựa trên máy tính để bàn và vượt qua việc giám sát mạng truyền thống. Không có khả năng hiển thị chuyên dụng vào các ứng dụng di động, các đội an ninh thiếu thông tin cần thiết để phát hiện việc rò rỉ dữ liệu AI, tự động hóa không được phép hoặc hoạt động của hệ thống tự chủ xảy ra ngoài các biện pháp bảo mật.

Yêu cầu tuân thủ: Xác định các ứng dụng AI di động

Để phù hợp với ISO 42001 và các kỳ vọng quản lý mới nổi, các tổ chức cần có khả năng bảo mật có thể xác định các ứng dụng di động được hỗ trợ bởi AI, phát hiện việc sử dụng AI không được phép hoặc có rủi ro cao, theo dõi luồng dữ liệu giữa các ứng dụng AI và hệ thống doanh nghiệp, đánh giá các mẫu hành vi agentic và thực thi các biện pháp kiểm soát chính sách trực tiếp tại điểm cuối di động. Các sản phẩm bảo mật có khả năng phân loại và phân tích các ứng dụng di động được hỗ trợ bởi AI – đặc biệt là những ứng dụng có khả năng tự chủ – đang trở thành các công cụ tuân thủ thiết yếu chứ không phải là các tính năng tùy chọn.

Không có khả năng hiển thị vào các ứng dụng di động nào kết hợp các động cơ AI, các tổ chức không thể thực hiện các đánh giá rủi ro AI có ý nghĩa, ghi lại sự giám sát hoặc thực thi các biện pháp bảo mật. Khi AI trở nên tích hợp vào các ứng dụng năng suất, nền tảng nhắn tin và công cụ làm việc, việc phát hiện phải phát triển vượt ra ngoài việc xác định malware truyền thống để bao gồm phân tích hành vi, ánh xạ quyền và giám sát liên tục việc truy cập và di chuyển dữ liệu.

Lời kêu gọi hành động

Shadow AI không phải là một mối quan tâm trong tương lai; nó đã được nhúng vào các thiết bị di động cung cấp năng lượng cho hoạt động của doanh nghiệp. Khi việc áp dụng tăng tốc, khoảng trống quản trị sẽ mở rộng đầu tiên – và nhanh nhất – trên di động. Các nhà lãnh đạo an ninh phải biết các ứng dụng AI nào hiện diện trên các thiết bị doanh nghiệp và BYOD, phát hiện hành vi agentic trong các ứng dụng di động và theo dõi các luồng dữ liệu AI rời khỏi điểm cuối. Vì Shadow AI phát triển mạnh trong lưu lượng di động mã hóa và hệ sinh thái ứng dụng, tuân thủ hiện phụ thuộc vào các khả năng bảo mật di động bản địa có thể hiển thị hoạt động AI và thực thi các biện pháp bảo mật.

Khi AI định hình lại hoạt động kinh doanh, quản lý AI cuối cùng có nghĩa là bảo mật các thiết bị di động mà nhân viên mang theo mọi ngày.