Trí tuệ nhân tạo bóng tối: Khoảng trống quản trị mà các tổ chức không thể bỏ qua

Ở giai đoạn này của hành trình trí tuệ nhân tạo, các nhà lãnh đạo doanh nghiệp rộng rãi nhận ra tầm quan trọng của quản trị trí tuệ nhân tạo. Tuy nhiên, tốc độ mà các tổ chức đang phát triển chính sách và rào cản tiếp tục chậm hơn so với tốc độ mà nhân viên đang áp dụng và tích hợp trí tuệ nhân tạo vào công việc hàng ngày của họ.

Các tổ chức chờ đợi các khuôn khổ quản trị cảm thấy “hoàn chỉnh” trước khi cho phép trí tuệ nhân tạo phải đối mặt với một thực tế khó khăn: trong sự vắng mặt của các quy tắc rõ ràng về cách, gì và nơi trí tuệ nhân tạo có thể được sử dụng, nhân viên sẽ định nghĩa những ranh giới đó themselves. Và những quyết định đó có thể trực tiếp mâu thuẫn với tiêu chuẩn tổ chức, khả năng chịu rủi ro hoặc nghĩa vụ pháp lý.

Khoảng trống quản trị này đã khiến trí tuệ nhân tạo bóng tối trở thành mô hình hoạt động mặc định trong nhiều tổ chức.

Một vấn đề phổ biến và ngày càng tăng

Trí tuệ nhân tạo bóng tối không chỉ giới hạn ở các cá nhân đóng góp thí nghiệm trên biên giới. Nó mở rộng trên toàn tổ chức, bao gồm cả lãnh đạo. Khi trí tuệ nhân tạo trở thành một phần của các quy trình làm việc hàng ngày, thậm chí cả các nhà lãnh đạo cấp cao đang bỏ qua các quy trình phê duyệt正式 để tận dụng lợi ích của nó. Trên thực tế, một nghiên cứu gần đây cho thấy 68% các nhà lãnh đạo an ninh, bao gồm cả CISO, thừa nhận đã tích hợp một số mức độ trí tuệ nhân tạo không được ủy quyền vào các quy trình làm việc.

Đồng thời, 79% các nhà lãnh đạo CNTT báo cáo rằng các tổ chức của họ đã trải qua các kết quả tiêu cực từ việc chia sẻ dữ liệu doanh nghiệp với các công cụ trí tuệ nhân tạo. Và các nhà phân tích dự đoán vấn đề này sẽ trở nên nghiêm trọng hơn. Gartner ước tính rằng, vào năm 2030, hơn 40% các tổ chức sẽ trải qua các sự kiện an ninh hoặc tuân thủ do việc sử dụng các công cụ trí tuệ nhân tạo không được ủy quyền.

Bề mặt rủi ro mở rộng

Trí tuệ nhân tạo bóng tối trình bày một loạt các rủi ro, bao gồm:

• Mất kiểm soát dữ liệu và khả năng rò rỉ dữ liệu
• Giới thiệu các lỗ hổng bảo mật và bề mặt tấn công
• Khả năng tiếp xúc với các quy định và pháp lý
• Thiếu khả năng hiển thị về cách trí tuệ nhân tạo được sử dụng
• Mất tài sản trí tuệ
• Thiệt hại về danh tiếng
• Đầu ra không chính xác hoặc thiên vị

Một yếu tố quan trọng thúc đẩy những rủi ro này là sự hiểu lầm cơ bản về cách các hệ thống trí tuệ nhân tạo xử lý dữ liệu.

Nhiều nhân viên giả định rằng việc sử dụng các công cụ “miễn phí”, đặc biệt là những công cụ không yêu cầu thông tin đăng nhập, cung cấp tính ẩn danh hoặc bảo vệ. Trên thực tế, các công cụ này thường dựa vào đầu vào của người dùng để đào tạo và cải thiện các mô hình của họ, và trong một số trường hợp, chia sẻ dữ liệu với các bên thứ ba. Dữ liệu đó có thể bao gồm thông tin nhạy cảm cao như thông tin nhận dạng cá nhân (PII), dữ liệu y tế hoặc pháp lý, hồ sơ tài chính, tài sản trí tuệ và thông tin kinh doanh bí mật khác.

Thậm chí còn đáng lo ngại hơn, nhận thức không luôn thay đổi hành vi. Nghiên cứu cho thấy rằng 38% nhân viên biết rằng họ đang chia sẻ thông tin nhạy cảm với các công cụ trí tuệ nhân tạo mà không có sự chấp thuận của tổ chức.

Tại sao trí tuệ nhân tạo bóng tối tồn tại

Để giải quyết hiệu quả vấn đề trí tuệ nhân tạo bóng tối, các tổ chức phải hiểu nguyên nhân gốc rễ của nó.

Trong hầu hết các trường hợp, nhân viên không hành động với ý định恶意. Họ đang phản ứng một cách hợp lý với môi trường của mình. Họ đang dưới áp lực phải di chuyển nhanh hơn, làm nhiều hơn với ít hơn và mang lại kết quả tốt hơn. Trí tuệ nhân tạo cho phép tất cả những điều đó.

Trí tuệ nhân tạo bóng tối xuất hiện khi các hệ thống tổ chức không thể theo kịp những kỳ vọng đó. Các yếu tố thúc đẩy phổ biến bao gồm:

• Ngăn cấm nghiêm ngặt đối với các công cụ trí tuệ nhân tạo trong nơi làm việc
• Các công cụ được phê duyệt ít có khả năng hoặc ít thân thiện với người dùng
• Áp lực phải đáp ứng các thời hạn chặt chẽ
• Quy trình mua sắm chậm hoặc phức tạp
• Chính sách không rõ ràng, không nhất quán hoặc không tồn tại
• Giới hạn đào tạo hoặc hướng dẫn
• Tin tưởng quá mức vào phán quyết cá nhân hoặc đánh giá thấp rủi ro

Ở cốt lõi, trí tuệ nhân tạo bóng tối là một sự đánh đổi. Khi lợi ích về năng suất được nhận thức vượt qua rủi ro được nhận thức, nhân viên sẽ chọn tốc độ và hiệu quả mọi lúc.

Quản lý trí tuệ nhân tạo mà không kìm hãm sự đổi mới

Nhân viên đã đang sử dụng trí tuệ nhân tạo. Bỏ qua thực tế này hoặc trì hoãn hành động chỉ làm cho khoảng cách giữa chính sách và thực tiễn rộng hơn.

Các tổ chức nên thay đổi cách tiếp cận từ kiểm soát sang cho phép.

Điều đó bắt đầu với việc thiết lập các hướng dẫn rõ ràng, thực tế và minh bạch, ngay cả khi chúng không hoàn toàn trưởng thành. Các rào cản sớm cung cấp hướng dẫn, giảm thiểu sự模糊 và tạo ra sự hiểu biết chung về việc sử dụng chấp nhận được.

Nhưng chính sách alone không đủ. Các tổ chức cũng cần có khả năng hiển thị. Điều này đòi hỏi xây dựng các cơ chế dựa trên niềm tin cho phép nhân viên an toàn tiết lộ những công cụ họ đang sử dụng và tại sao. Các cách tiếp cận như “chương trình ân xá trí tuệ nhân tạo bóng tối” hoặc báo cáo匿名 có thể cung cấp thông tin quan trọng mà không ngay lập tức trừng phạt hành vi.

Đồng thời, các tổ chức phải duy trì trách nhiệm. Trong các trường hợp mà việc phơi bày dữ liệu là đáng kể hoặc cẩu thả, hậu quả có thể vẫn cần thiết. Mục tiêu không phải là loại bỏ hoàn toàn rủi ro, mà là quản lý nó một cách thông minh.

Từ bóng tối đến chiến lược

Trí tuệ nhân tạo bóng tối là một tín hiệu rằng sự đổi mới đang di chuyển nhanh hơn so với các cấu trúc tổ chức được thiết kế để chứa nó.

Các tổ chức không thể chờ đợi. Thiết lập quản trị ngay bây giờ, ngay cả khi không hoàn hảo, là điều quan trọng để giảm thiểu rủi ro và lấy lại khả năng hiển thị. Nhưng quản trị alone không đủ. Các rào cản rõ ràng phải được kết hợp với việc cho phép, giáo dục và các giải pháp thay thế có thể tiếp cận được để trao quyền cho nhân viên sử dụng trí tuệ nhân tạo một cách an toàn và hiệu quả.

Mục tiêu không phải là hạn chế việc áp dụng trí tuệ nhân tạo, mà là định hình nó. Khi các tổ chức tìm được sự cân bằng đó, trí tuệ nhân tạo bóng tối sẽ chuyển từ một trách nhiệm ẩn thành một khả năng chiến lược được quản lý. Và bằng cách đó, họ có thể đóng khoảng cách giữa cách trí tuệ nhân tạo đang được sử dụng và cách nó nên được sử dụng trước khi khoảng cách đó trở thành một sự cố.