Trí tuệ nhân tạo bóng tối là vấn đề dễ dàng: Rủi ro thực sự là các tác nhân ẩn trong phần mềm được phê duyệt

Hai năm trước, trí tuệ nhân tạo bóng tối có nghĩa là nhân viên dán dữ liệu khách hàng vào ChatGPT. Giải pháp, nói rộng, là có thể quản lý: phát hiện các công cụ, phê duyệt các công cụ tốt, chặn các công cụ xấu, đào tạo nhân viên. Hầu hết các tổ chức đang ở giữa quá trình thực hiện kế hoạch đó, nơi 61% đã gặp phải trí tuệ nhân tạo bóng tối trong môi trường của họ và kế hoạch đó hầu hết hoạt động.

Tuy nhiên, mô tả này không còn mô tả vấn đề nữa. Trí tuệ nhân tạo bóng tối đã chuyển từ một vấn đề hành vi sang một vấn đề kiến trúc. Quản lý truyền thống không thể theo kịp với phong cảnh hiện đại, bao gồm các tác nhân được nhúng bởi nhà cung cấp và nhân viên tự kết nối hoạt động trong các hệ thống được phê duyệt với các thông tin đăng nhập được kế thừa, khiến danh tính trở thành điểm kiểm soát thực sự.

Hai bóng tối bạn không theo dõi

Câu hỏi thú vị vào năm 2026 không phải là công cụ AI nào mà nhân viên đã mở. Đó là tác nhân AI nào mà nhà cung cấp của bạn đã chuyển vào sản phẩm cập nhật quý trước và những quyền hạn nào nó đã kế thừa từ người đã cài đặt nó.

Trí tuệ nhân tạo bóng tối trước đây là một vấn đề về hành vi. Bạn có thể nhìn thấy nó, đặt tên cho nó và tạo ra một chính sách chống lại nó. Phiên bản đang lan truyền hiện nay là cấu trúc. Nó đến thông qua phần mềm bạn đã phê duyệt, hoạt động dưới các thông tin đăng nhập bạn đã cấp, trong các quy trình bạn đã kiểm toán. Bóng tối không còn là hành vi nữa, mà là kiến trúc. Nhân viên vẫn còn trong bức tranh, nhưng họ đã chuyển từ sử dụng AI sang triển khai nó: kết nối các tác nhân vào các hệ thống họ đã có quyền truy cập và làm điều đó thông qua các giao diện được thiết kế để làm cho việc đó trở nên đơn giản. Các chính sách được viết cho hành vi đầu tiên không thể tiếp cận được hành vi thứ hai.

Đây là lý do tại sao “cấm nó” không bao giờ là cuộc tranh luận thực sự. Các CISO đã vượt lên trên trí tuệ nhân tạo bóng tối bằng cách phê duyệt các công cụ doanh nghiệp và đẩy nhân viên đến các giải pháp được quản lý đã giành chiến thắng trong vòng đó và phát hiện ra rằng vòng tiếp theo đã được bắt đầu và nó có hai vector, không phải một. Vector đầu tiên là những gì mà các nhà cung cấp được phê duyệt đang chuyển vào các sản phẩm đã được sản xuất: các mô hình nhúng, các chế độ tác nhân, các tích hợp mới đã đến trong một lưu ý phát hành mà không ai đọc. Vector thứ hai là những gì mà nhân viên đang tự kết nối: một LLM kết nối với CRM thông qua tự động hóa không mã, một GPT tùy chỉnh được cấp khóa API cho kho dữ liệu, một kết nối MCP từ trợ lý trên máy tính để bàn vào hệ thống sản xuất. Cả hai đều tạo ra cùng một kết quả, bao gồm các tác nhân hoạt động dưới các thông tin đăng nhập được phê duyệt, chống lại các hệ thống được phê duyệt, trong các quy trình mà không bao giờ đi qua bất kỳ đánh giá nào được thiết kế để bắt chúng. Quy trình mua sắm có thể nhìn thấy vector đầu tiên và bỏ lỡ vector thứ hai hoàn toàn.

Nó đáng được nói thẳng về cách không đồng đều mà vòng đầu tiên thực sự được giành chiến thắng. Chín trong số 10 tổ chức đang lên kế hoạch tăng ngân sách CNTT liên quan đến AI, với nhiều tổ chức đang lên kế hoạch mở rộng trên toàn bộ hoạt động CNTT trong vòng 6-24 tháng tới. Ngân sách đang chảy về các khả năng thông minh. Các biện pháp kiểm soát đang theo kịp từng bước nhỏ. Sự mất cân bằng đó là vấn đề, không phải là một tác dụng phụ của nó.

Phần ngoại vi luôn là con người

Mô hình tinh thần đã hoạt động cho làn sóng đầu tiên không hoạt động cho làn sóng này. Trí tuệ nhân tạo bóng tối như một hành vi của nhân viên giả định một con người trong vòng lặp đang đưa ra một lựa chọn mà nhóm bảo mật có thể ảnh hưởng. Trí tuệ nhân tạo bóng tối như một kiến trúc của nhà cung cấp loại bỏ lựa chọn đó. Mô hình đã soạn thảo email, tác nhân đã lên lịch cuộc họp, trợ lý đã tóm tắt tài liệu và chuyển nó tiếp. Không có gì trong số đó yêu cầu nhân viên làm gì khác ngoài tiếp tục sử dụng phần mềm họ được yêu cầu sử dụng.

Câu trả lời trung thực là rằng phần ngoại vi mà hầu hết các chương trình bảo mật vẫn đang bảo vệ là một phần ngoại vi của hành động con người. Nhân viên mở công cụ, nhân viên cấp quyền truy cập, nhân viên đưa ra quyết định mà nhóm bảo mật có thể quan sát và định hình. Phần ngoại vi đó đang tan biến theo hai hướng cùng một lúc. Từ trên cao, các nhà cung cấp đang chuyển các tác nhân vào các sản phẩm được phê duyệt với tốc độ nhanh hơn bất kỳ quy trình xem xét nào có thể theo kịp. Từ dưới lên, nhân viên đang bước ra khỏi vai trò người dùng và vào vai trò người tích hợp, bằng cách kết nối các tác nhân vào các hệ thống thông qua các giao diện được thiết kế để tự phục vụ và không bao giờ được lập trình cho quản lý. Phần ngoại vi thay thế, được xây dựng xung quanh những gì mà các danh tính đang làm, bất kể đó là người hay không, và bất kể ai đã triển khai chúng, đòi hỏi một cấu trúc kiểm soát mà hầu hết các tổ chức vẫn chưa có.

Nơi duy nhất còn lại để tìm kiếm

Danh tính là điểm kiểm soát đúng, nhưng khuôn khổ phải thay đổi. Công thức truyền thống cho rằng “danh tính là phần ngoại vi mới” vì người dùng ở mọi nơi và thiết bị ở mọi nơi và SaaS ở mọi nơi. Điều đó đã đúng một thập kỷ trước, nhưng bây giờ nó chỉ là một yêu cầu cơ bản. Phiên bản quan trọng vào năm 2026 khác: danh tính là nơi duy nhất còn lại nơi bạn có thể nhìn thấy những gì AI thực sự đang làm, vì vào thời điểm nó đang làm điều đó, ranh giới công cụ đã bị vượt qua. Tác nhân đang hoạt động dưới thông tin đăng nhập của ai đó. Ai, với phạm vi nào, chống lại dữ liệu nào, trên sự ủy quyền của ai là những câu hỏi duy nhất tạo ra một bản ghi chép hữu ích. Quản lý cấp công cụ không thể trả lời những câu hỏi này vì công cụ không còn là đơn vị phân tích.

Gần 90% các nhà lãnh đạo CNTT đã nhận ra rằng việc thống nhất có tác động trực tiếp đến khả năng của họ trong việc triển khai và mở rộng AI một cách an toàn. Câu hỏi khó hơn là thống nhất thực sự có nghĩa là gì tại lớp kiểm soát. Nó không thể chỉ đơn giản là ít bảng điều khiển hơn. Nó có nghĩa là một cấu trúc danh tính duy nhất nơi mọi tác nhân, cho dù là con người, tài khoản dịch vụ, tác nhân, mô hình nhúng, đều được cấp phát, định hình, giám sát và nghỉ hưu thông qua cùng một tập hợp các cơ chế. Bất cứ điều gì ít hơn điều đó sẽ mang lại cho bạn vẻ ngoài của quản lý thống nhất khi thực tế nó chỉ là thực thi phân mảnh.

Đánh giá nhà cung cấp của bạn có ngày hết hạn

Thật không may, một đánh giá nhà cung cấp chỉ có giá trị trong một khoảng thời gian nhất định. Điều này có những ý nghĩa không thoải mái về cách các chương trình bảo mật được cấu trúc. Hầu hết các ủy ban quản lý AI được tổ chức xung quanh việc xem xét công cụ, với các nhà cung cấp đến và được đánh giá, phê duyệt hoặc từ chối, để được thêm vào sổ đăng ký. Quá trình đó giả định rằng hành vi của công cụ tại thời điểm phê duyệt là hành vi của công cụ trong sản xuất. Đối với phần mềm nhúng AI, giả định đó bị phá vỡ ngay trước khi mực còn ướt. Nhà cung cấp sẽ chuyển một mô hình mới, một chế độ tác nhân mới, một tích hợp mới, và đánh giá quản lý được phê duyệt sáu tháng trước hiện đang mô tả một sản phẩm không còn tồn tại.

Khỏi công cụ, sang danh tính

Các chương trình sẽ đứng vững là những chương trình chuyển quản lý khỏi công cụ và sang danh tính. Mọi hành động chống lại dữ liệu của bạn, bởi bất kỳ tác nhân nào, đều có thể theo dõi đến một danh tính với một chủ sở hữu được biết, một tập hợp quyền hạn được định hình, và một vòng đời được xác định. Cho dù đó là con người hay không con người, nhân viên hay tác nhân, công cụ được phê duyệt hay chế độ nhúng, câu hỏi vẫn là như nhau: ai là này, họ được phép làm gì, và làm thế nào chúng ta biết khi nào điều đó nên ngừng được coi là đúng? Các chương trình có thể trả lời những câu hỏi đó không cần phải thắng trong cuộc đua phê duyệt công cụ. Các chương trình không thể sẽ chơi theo đuổi với các nhà cung cấp và nhân viên chuyển nhanh hơn bất kỳ quy trình xem xét nào có thể di chuyển.

Trí tuệ nhân tạo bóng tối như một loại không biến mất. Đặc biệt là với tuổi mới của lực lượng lao động tác nhân, 72% các tổ chức đã có các tác nhân AI trong sản xuất. Thay vào đó, nó đang trở thành một phần nhỏ hơn của một vấn đề lớn hơn. Các tổ chức đang chi tiêu chu kỳ ngân sách tiếp theo cho việc khám phá công cụ và chính sách phê duyệt là những tổ chức đang giải quyết vấn đề năm 2024 trên một lịch trình năm 2026. Những tổ chức đang chi tiêu nó cho việc lập công cụ lớp danh tính cho con người, cho các tác nhân, cho sự liên tục phức tạp giữa chúng, là những tổ chức đang giải quyết vấn đề họ thực sự sẽ có.

Làn sóng đầu tiên của trí tuệ nhân tạo bóng tối đã dạy các nhóm bảo mật rằng họ không thể vượt qua sự tò mò của nhân viên. Làn sóng thứ hai sẽ dạy họ rằng họ không thể vượt qua tốc độ của nhà cung cấp hoặc sự thông minh của nhân viên. Cả hai bài học đều chỉ đến cùng một kết luận. Đơn vị quản lý không bao giờ là công cụ. Nó luôn là danh tính hoạt động thông qua nó.