Rừng Đen Của Trí Tuệ Nhân Tạo: Tại Sao Việc Phê Duyệt Một Nền Tảng Không Phải Là Điều Gì Cũng Được Bảo Mật

Việc áp dụng trí tuệ nhân tạo trong doanh nghiệp còn lâu mới trở nên hoàn hảo. Những lo ngại về kiểm soát dữ liệu, tuân thủ quy định và bảo mật đã đi kèm với mọi giai đoạn của hành trình. Nhưng khi các tổ chức tăng cường hoạt động trên các nền tảng lớn như Microsoft, Salesforce và ServiceNow, có một cảm giác ngày càng tăng rằng những câu hỏi quản trị khó khăn nhất đang được giải quyết một phần. Các thỏa thuận doanh nghiệp đã được ký kết. Các đánh giá bảo mật đã được hoàn thành. Các nền tảng đã được phê duyệt.

Tuy nhiên, điều mà sự tự tin này thường bỏ qua là một câu hỏi hoàn toàn khác: không phải liệu nền tảng có an toàn hay không, mà là ai và cái gì đang được xây dựng.

Trên toàn các ngành công nghiệp, một cuộc cách mạng im lặng đang diễn ra khi các nhân viên không phải là kỹ thuật sử dụng các nền tảng trí tuệ nhân tạo doanh nghiệp để tạo ra các tác nhân tự động, các quy trình tự động hóa và các ứng dụng kết nối dữ liệu, thường trong vài phút, mà không cần viết một dòng mã nào. Miễn là các hạn chế phát triển truyền thống và thời gian chờ đợi, những người xây dựng này là một điều tuyệt vời cho hiệu quả tổ chức. Nhưng những công cụ này không bao giờ được xem xét bởi một đội bảo mật. Trong nhiều trường hợp, các đội bảo mật thậm chí không biết chúng tồn tại.

Những công cụ này, cho dù được phân loại là ứng dụng, tác nhân hoặc tự động hóa, là một phần của một vấn đề ngày càng tăng được gọi là Trí Tuệ Nhân Tạo Bóng Tối, và nó đại diện cho một trong những thay đổi lớn nhất về rủi ro doanh nghiệp trong thập kỷ qua, vì lý do rất đơn giản là các mối đe dọa hiện đã di chuyển vào trong.

Vấn đề Trí Tuệ Nhân Tạo Bóng Tối ban đầu tương đối đơn giản: nhân viên đang sử dụng các công cụ không được ủy quyền từ bên ngoài tổ chức, và công việc của bảo mật là tìm và chặn chúng. Trí Tuệ Nhân Tạo Bóng Tối là một thách thức hoàn toàn khác. Các công cụ nằm trong các nền tảng mà bạn đã phê duyệt. Những người xây dựng chúng là nhân viên của chính bạn. Truy cập mà họ sử dụng là hợp pháp. Và không có gì trong số này đi qua các quy trình bảo mật được thiết kế để bắt các vấn đề trước khi chúng đến sản xuất.

Điều làm cho điều này đặc biệt khó giải quyết là quy mô. Hầu hết các nhà lãnh đạo bảo mật đều đánh giá thấp rất nhiều về những gì đang được xây dựng trong môi trường của chính họ. Nghiên cứu gần đây từ hơn 200 CISO và nhà lãnh đạo bảo mật doanh nghiệp cho thấy rằng đội bảo mật trung bình của doanh nghiệp chỉ có thể tài khoản cho 44% các tác nhân trí tuệ nhân tạo, tự động hóa và ứng dụng mà người dùng kinh doanh của họ đã tạo. Đó không phải là một khoảng trống. Đó là một điểm mù che giấu phần lớn những gì đang chạy.

Lý do là thẳng thắn: người dùng kinh doanh hiện vượt quá số lượng nhà phát triển chuyên nghiệp tới 10 lần trong một số tổ chức. Họ liên tục xây dựng trên mọi bộ phận, trên các nền tảng được thiết kế để làm cho việc xây dựng dễ dàng, và sau đó được khuyến khích bởi C-suite để xây dựng. Các đội bảo mật được định hướng xung quanh đường ống phát triển và kho mã. Họ không bao giờ được thiết kế để theo dõi điều này.

Sai lầm phổ biến nhất là niềm tin rằng việc phê duyệt một nền tảng giải quyết vấn đề bảo mật. Nó không, nó chỉ di chuyển nó. Khi một doanh nghiệp ký một thỏa thuận với Microsoft, Salesforce hoặc UiPath, nhà cung cấp nền tảng bảo mật cơ sở hạ tầng của họ. Những gì nhân viên xây dựng trên đó, và cách họ cấu hình nó, là trách nhiệm hoàn toàn của doanh nghiệp.

Vấn đề là các công cụ mà người dùng kinh doanh tạo ra không trông giống như phần mềm đối với các hệ thống bảo mật truyền thống. Không có mã để quét, không có kho để theo dõi, không có đường ống để kiểm tra. Một tác nhân trí tuệ nhân tạo được xây dựng bởi một người quản lý nhân sự thông qua một loạt các menu và lời nhắc văn bản là, từ góc độ của hầu hết các công cụ bảo mật, vô hình.

Và những công cụ này không hề tầm thường. Nghiên cứu đã chỉ ra rằng hơn một nửa số CISO xác nhận rằng các ứng dụng được xây dựng bởi kinh doanh hiện hỗ trợ các quy trình kinh doanh quan trọng và có quyền truy cập vào dữ liệu công ty nhạy cảm. Cái giá phải trả là thực sự, và việc giám sát chưa theo kịp.

Từ Zero đến Thảm Họa

Các trường hợp sử dụng rất đa dạng và đến từ hầu hết mọi bộ phận, ngay cả những bộ phận mà một đội bảo mật sẽ không bao giờ nghĩ đến.

Ví dụ, một phối hợp viên tiếp thị xây dựng một tác nhân trí tuệ nhân tạo hướng tới khách hàng trên một nền tảng được phê duyệt đầy đủ để trả lời các câu hỏi về sản phẩm. Trong vài phút, ứng dụng đã hoạt động, nhưng với tư cách là một người không có đào tạo bảo mật, hai lỗi cấu hình nhỏ không được chú ý và để lại tác nhân với quyền truy cập trực tiếp vào cơ sở dữ liệu công ty và không có ranh giới về những gì nó có thể truy xuất. Trong sản xuất, một người dùng yêu cầu nó kéo các bản ghi nhân viên. Nó làm. Vì tác nhân cũng có khả năng email, người dùng hướng dẫn nó gửi dữ liệu đó đến một địa chỉ cá nhân. Toàn bộ chuỗi diễn ra trong dưới 60 giây. Không có truy cập không được ủy quyền. Không có vi phạm nền tảng. Không có cảnh báo bảo mật.

Điều này không phải là một cuộc tấn công tinh vi. Đó là kết quả có thể dự đoán của một nhân viên có ý tốt xây dựng một thứ mà họ không hiểu đầy đủ, trên một nền tảng làm cho việc xây dựng dễ dàng và quản trị là tùy chọn.

Khoảng Trống Quản Trị Mà Không Ai Đã Tính Toán

Đối với hầu hết các tổ chức, vấn đề Trí Tuệ Nhân Tạo Bóng Tối vẫn còn trừu tượng cho đến khi điều gì đó đi sai. Nhưng rủi ro kinh doanh đi sâu hơn mức phản ứng vi phạm.

Khi một tác nhân được xây dựng bởi kinh doanh rò rỉ dữ liệu nhạy cảm, câu hỏi mà một hội đồng sẽ hỏi không phải là “làm thế nào sự cấu hình sai xảy ra?” mà sẽ là “làm thế nào không ai biết công cụ đang chạy?” Họ sẽ không phân biệt giữa một vi phạm do một kẻ tấn công bên ngoài và một do một công cụ nội bộ bị cấu hình sai. Nếu dữ liệu cá nhân bị lộ và tổ chức thiếu khả năng hiển thị về những gì đang chạy, sự thiếu giám sát là chính bản thân trách nhiệm. “Một nhân viên đã xây dựng nó trên một nền tảng được phê duyệt” không phải là một biện pháp bảo vệ, đó là mô tả về khoảng trống.

Tính cấp bách là thực sự, nhưng ý định và thực hiện không phải là điều gì đó giống nhau, và đối với hầu hết các doanh nghiệp, khoảng cách giữa chúng vẫn còn rộng mở.

Câu trả lời không phải là hạn chế ai có thể xây dựng. Việc khóa chặt phát triển của công dân sẽ hy sinh những lợi ích thực sự về năng suất và trên thực tế, sẽ không thành công. Nhân viên sẽ tìm ra các giải pháp thay thế. Câu trả lời là đưa những gì đang được xây dựng vào tầm nhìn và quản lý nó tại điểm mà rủi ro thực sự xuất hiện: thời gian chạy.

Điều đó có nghĩa là hiểu không chỉ những tác nhân nào tồn tại, mà còn cách chúng hành xử, những dữ liệu nào chúng truy cập, những hệ thống nào chúng chạm vào và liệu hành động của chúng có nằm trong ranh giới mà những người xây dựng chúng dự định hay không. Điều đó có nghĩa là thiết lập các rào cản hoạt động ở cấp độ tổ chức, không chỉ ở điểm cấu hình. Và điều đó có nghĩa là đến một nơi mà các đội bảo mật có thể trả lời những câu hỏi cơ bản nhất về bất kỳ tác nhân nào trong môi trường của họ: ai xây dựng nó, nó có quyền truy cập vào những gì và liệu nó có hành xử theo cách nó được thiết kế để làm hay không?

Hầu hết các doanh nghiệp không thể trả lời những câu hỏi đó ngày hôm nay. Những tổ chức đến đó đầu tiên sẽ là những tổ chức có thể mở rộng việc áp dụng trí tuệ nhân tạo với sự tự tin, vì họ sẽ biết những gì họ thực sự đang chạy.