Rừng Sâu AI: Tại Sao Phê Duyệt Một Nền Tảng Không Phải Là Cùng Một Việc Với Bảo Mật Những Gì Được Xây Dựng Trên Đó

Sự áp dụng AI trong doanh nghiệp còn lâu mới trở nên không gặp trở ngại. Những lo ngại về kiểm soát dữ liệu, tuân thủ quy định và bảo mật đã đi cùng mọi giai đoạn của hành trình. Nhưng khi các tổ chức tăng cường hoạt động trên các nền tảng lớn như Microsoft, Salesforce và ServiceNow, có một cảm giác ngày càng tăng rằng những câu hỏi quản trị khó khăn nhất đang được giải quyết một phần. Các thỏa thuận doanh nghiệp đã được ký kết. Các đánh giá bảo mật đã được hoàn thành. Các nền tảng đã được phê duyệt.

Điều mà sự tự tin đó thường bỏ qua là một câu hỏi hoàn toàn khác: không phải liệu nền tảng có an toàn hay không, mà là ai và cái gì đang được xây dựng.

Trên toàn các ngành công nghiệp, một cuộc cách mạng im lặng đang diễn ra khi các nhân viên không phải là kỹ thuật sử dụng các nền tảng AI doanh nghiệp để tạo ra các tác nhân tự động, các quy trình tự động hóa và các ứng dụng kết nối dữ liệu, thường trong vài phút, mà không cần viết một dòng code nào. Miễn là các hạn chế và thời gian phát triển truyền thống, những người xây dựng này là một điều lợi cho hiệu quả của tổ chức. Nhưng những công cụ này không bao giờ được xem xét bởi một đội bảo mật. Trong nhiều trường hợp, các đội bảo mật không biết chúng tồn tại.

Những công cụ này, dù được phân loại là ứng dụng, tác nhân hay tự động hóa, đều là một phần của vấn đề ngày càng tăng được gọi là Shadow AI, và nó đại diện cho một trong những thay đổi lớn nhất về rủi ro doanh nghiệp trong một thập kỷ, vì lý do rất đơn giản là các mối đe dọa đã chuyển đến bên trong.

Vấn đề Shadow IT ban đầu tương đối đơn giản: nhân viên đang sử dụng các công cụ không được ủy quyền từ bên ngoài tổ chức, và công việc của bảo mật là tìm và chặn chúng. Shadow AI là một thách thức hoàn toàn khác. Các công cụ nằm trong các nền tảng mà bạn đã phê duyệt. Những người xây dựng chúng là nhân viên của chính bạn. Truy cập mà họ sử dụng là hợp pháp. Và không có gì trong số này đi qua các quy trình bảo mật được thiết kế để bắt các vấn đề trước khi chúng đến sản xuất.

Điều làm cho vấn đề này đặc biệt khó giải quyết là quy mô. Hầu hết các lãnh đạo bảo mật đều đánh giá thấp rất nhiều những gì đang được xây dựng bên trong môi trường của họ. Các nghiên cứu gần đây từ hơn 200 CISO và lãnh đạo bảo mật doanh nghiệp cho thấy rằng đội bảo mật trung bình của doanh nghiệp chỉ có thể tài khoản cho 44% các tác nhân AI, tự động hóa và ứng dụng mà người dùng kinh doanh của họ đã tạo. Đó không phải là một khoảng trống. Đó là một điểm mù che giấu đa số những gì đang chạy.

Lý do là đơn giản: người dùng kinh doanh hiện vượt quá số lượng nhà phát triển chuyên nghiệp tới 10 lần trong một số tổ chức. Họ luôn xây dựng trên mọi bộ phận, trên các nền tảng được thiết kế để làm cho việc xây dựng trở nên dễ dàng, và sau đó được khuyến khích bởi C-suite để xây dựng. Các đội bảo mật được định hướng xung quanh các đường ống phát triển và kho mã. Họ không được thiết kế để theo dõi điều này.

Sự hiểu lầm phổ biến nhất là niềm tin rằng việc phê duyệt một nền tảng giải quyết vấn đề bảo mật. Nó không, nó chỉ di chuyển nó. Khi một doanh nghiệp ký kết một thỏa thuận với Microsoft, Salesforce hoặc UiPath, nhà cung cấp nền tảng bảo mật cơ sở hạ tầng của họ. Những gì nhân viên xây dựng trên đó, và cách họ cấu hình nó, là trách nhiệm hoàn toàn của doanh nghiệp.

Vấn đề là các công cụ mà người dùng kinh doanh tạo ra không trông giống như phần mềm đối với các hệ thống bảo mật truyền thống. Không có mã để quét, không có kho để theo dõi, không có đường ống để kiểm tra. Một tác nhân AI được xây dựng bởi một người quản lý nhân sự thông qua một loạt các menu và lệnh văn bản là, từ góc độ của hầu hết các công cụ bảo mật, vô hình.

Và những công cụ này không hề tầm thường. Nghiên cứu đã chỉ ra rằng hơn một nửa số CISO xác nhận rằng các ứng dụng được xây dựng bởi kinh doanh hiện hỗ trợ các quy trình kinh doanh quan trọng và có quyền truy cập vào dữ liệu công ty nhạy cảm. Các ставки thực sự, và việc giám sát chưa theo kịp.

Từ Zero đến Thảm Họa

Các trường hợp sử dụng rất đa dạng và đến từ hầu như mọi bộ phận, thậm chí là những bộ phận mà đội bảo mật sẽ không bao giờ để ý đến.

Ví dụ, một người điều phối tiếp thị xây dựng một tác nhân AI hướng tới khách hàng trên một nền tảng được phê duyệt hoàn toàn để trả lời các câu hỏi về sản phẩm. Trong vài phút, ứng dụng đã hoạt động, nhưng với tư cách là một người không có đào tạo bảo mật, hai lỗi cấu hình nhỏ không được chú ý và để lại cho tác nhân quyền truy cập trực tiếp vào cơ sở dữ liệu công ty và không có ranh giới về những gì nó có thể truy xuất. Trong sản xuất, một người dùng yêu cầu nó kéo các hồ sơ nhân viên. Nó thực hiện. Vì tác nhân cũng có khả năng gửi email, người dùng hướng dẫn nó gửi dữ liệu đó đến một địa chỉ cá nhân. Toàn bộ chuỗi diễn ra trong dưới 60 giây. Không có truy cập không được ủy quyền. Không có vi phạm nền tảng. Không có cảnh báo bảo mật.

Điều này không phải là một cuộc tấn công tinh vi. Đó là kết quả có thể dự đoán của một nhân viên có ý định tốt xây dựng một thứ gì đó mà họ không hiểu đầy đủ, trên một nền tảng làm cho việc xây dựng trở nên dễ dàng và quản trị là tùy chọn.

Khoảng Trống Quản Trị Mà Không Ai Đã Tính Giá

Đối với hầu hết các tổ chức, vấn đề Shadow AI vẫn còn trừu tượng cho đến khi điều gì đó đi sai. Nhưng rủi ro kinh doanh chạy sâu hơn mức phản ứng vi phạm.

Khi một tác nhân được xây dựng bởi kinh doanh rò rỉ dữ liệu nhạy cảm, câu hỏi mà hội đồng sẽ hỏi không phải là “làm thế nào sự cấu hình sai xảy ra?” Nó sẽ là “làm thế nào không ai biết công cụ đang chạy?” Họ sẽ không phân biệt giữa một vi phạm do một kẻ tấn công bên ngoài và một do một công cụ nội bộ bị cấu hình sai. Nếu dữ liệu cá nhân bị lộ và tổ chức thiếu khả năng hiển thị những gì đang chạy, sự thiếu giám sát là chính bản thân trách nhiệm. “Một nhân viên đã xây dựng nó trên một nền tảng được phê duyệt” không phải là một biện pháp phòng thủ, đó là mô tả về khoảng trống.

Tính cấp bách là thực sự, nhưng ý định và thực hiện không phải là cùng một việc, và đối với hầu hết các doanh nghiệp, khoảng cách giữa chúng vẫn còn rộng mở.

Câu trả lời không phải là hạn chế những người có thể xây dựng. Việc khóa chặt phát triển của công dân sẽ hy sinh những lợi ích thực sự về năng suất và trên thực tế, sẽ không thành công. Nhân viên sẽ tìm cách tránh nó. Câu trả lời là đưa những gì được xây dựng vào tầm nhìn và quản lý nó tại điểm mà rủi ro thực sự xuất hiện: thời gian chạy.

Điều đó có nghĩa là hiểu không chỉ những tác nhân nào tồn tại, mà còn cách chúng hành xử, những dữ liệu nào chúng truy cập, những hệ thống nào chúng chạm vào và liệu hành động của chúng có nằm trong các ranh giới mà những người xây dựng chúng dự định hay không. Điều đó có nghĩa là thiết lập các rào cản hoạt động ở cấp độ tổ chức, không chỉ tại điểm cấu hình. Và điều đó có nghĩa là đi đến một nơi mà các đội bảo mật có thể trả lời những câu hỏi cơ bản nhất về bất kỳ tác nhân nào trong môi trường của họ: ai xây dựng nó, nó có quyền truy cập vào những gì và liệu nó có hành xử theo cách nó được thiết kế để làm hay không?

Hầu hết các doanh nghiệp không thể trả lời những câu hỏi đó ngày hôm nay. Những tổ chức đến đó đầu tiên sẽ là những tổ chức có thể mở rộng việc áp dụng AI với sự tự tin, vì họ sẽ biết những gì họ thực sự đang chạy.