Nguy cơ từ việc nói không với Trí tuệ nhân tạo

Tôi đã tham gia một cuộc gọi của một khách hàng tiềm năng vào tuần trước. Tất cả các chuyên gia bảo mật và mạng đều có mặt, cùng với ban quản lý. Các người trình bày khác nhau đang trình bày về các chủ đề nóng hổi. Sau đó, ai đó bắt đầu giải thích cách các đội kỹ thuật của họ sử dụng Trí tuệ nhân tạo trong công việc hàng ngày.

Người trình bày rất hào hứng. Anh ấy đã tìm ra cách nén ba ngày công việc thủ công thành chỉ vài phút bằng cách sử dụng các công cụ Trí tuệ nhân tạo. Thật tuyệt vời, đúng không? Tôi hiểu anh ấy đang làm gì và tại sao anh ấy lại làm như vậy. Đây là lời hứa của Trí tuệ nhân tạo!

Tuy nhiên, với tư cách là người bảo mật trong phòng, tôi đang nghĩ: “Oh không.” “Công cụ đó là gì? Ai sở hữu công cụ đó?” Bởi vì anh ấy đang đưa thông tin khách hàng vào các nền tảng này – dữ liệu giá cả. Có thể là thông tin tài chính? Bất cứ điều gì có thể xảy ra. Tất cả để tăng tốc quy trình làm việc của mình.

Vì vậy, tôi đã hỏi câu hỏi rõ ràng: “Bạn có chính sách Trí tuệ nhân tạo không?” Chúng tôi đã tìm kiếm. Tìm thấy một đoạn văn bị chôn vùi trong phần sử dụng chấp nhận được. Một điều gì đó mơ hồ về các công cụ Trí tuệ nhân tạo. Liệu có ai thực sự đọc điều đó không? Có lẽ không. Bạn ký nó trong quá trình giới thiệu và bạn đã xong.

Người của bạn đã sử dụng Trí tuệ nhân tạo

Dưới đây là những gì tôi đã học được khi nói chuyện với các công ty trên mọi ngành công nghiệp: Trí tuệ nhân tạo đã ở khắp mọi nơi, cho dù bạn công nhận nó hay không. Nghiên cứu gần đây xác nhận thực tế này – 75% nhân viên hiện đang sử dụng Trí tuệ nhân tạo tại nơi làm việc, gần như tăng gấp đôi chỉ trong sáu tháng.

Tuần trước ở Houston, tôi đã gặp một người đàn ông mà công ty của anh ấy khoan dầu. Họ có một nền tảng Trí tuệ nhân tạo phân tích thành phần đất và mô hình thời tiết để tối ưu hóa vị trí khoan. Anh ấy giải thích cách họ tính đến dữ liệu lượng mưa – “Chúng tôi biết nó mưa 18 ngày nhiều hơn so với khu vực này, vì vậy khả năng dầu có thể cao hơn, điều này cho phép máy khoan đi sâu hơn.”

Trong khi đó, tôi đang sử dụng Trí tuệ nhân tạo để tạo một lịch trình cho Đức. Tôi đã nói chuyện với các công ty trong lĩnh vực chăm sóc sức khỏe đang sử dụng nó cho các nền tảng chăm sóc sức khỏe từ xa. Các nhóm tài chính chạy mô hình rủi ro. Tôi thậm chí đã gặp một người đang chạy một doanh nghiệp nước chanh và đang tận dụng Trí tuệ nhân tạo theo một cách nào đó.

Điểm mấu chốt là: Trí tuệ nhân tạo đang ở trong mọi ngành công nghiệp, mọi quy trình làm việc. Nó không đến – nó đã ở đây. Và hầu hết các tổ chức này đều đang ở trên cùng một con thuyền mà chúng tôi đã từng. Họ biết nhân viên của họ đang sử dụng nó. Họ chỉ không biết cách quản lý nó.

Trí tuệ nhân tạo bóng tối trở nên nguy hiểm nhanh chóng

Bạn có biết điều gì xảy ra khi bạn nói với mọi người rằng họ không thể sử dụng Trí tuệ nhân tạo không? Đó chính xác như khi bạn nói với một thiếu niên không bao giờ được uống rượu. Chúc mừng, bây giờ họ sẽ uống rượu theo những cách không an toàn nhất, vì bạn đã tạo ra một lệnh cấm.

Số liệu chứng minh thực tế này: 72% sử dụng Trí tuệ nhân tạo trong các doanh nghiệp là Trí tuệ nhân tạo bóng tối, với nhân viên sử dụng tài khoản cá nhân để truy cập vào các ứng dụng Trí tuệ nhân tạo.

Người ta mua một chiếc laptop thứ hai. Họ sử dụng điện thoại cá nhân không được bảo vệ bởi bảo mật công ty. Sau đó họ sử dụng Trí tuệ nhân tạo dù sao. Đột nhiên bạn mất tầm nhìn và tạo ra chính những khoảng trống mà bạn đang cố gắng ngăn chặn.

Tôi đã thấy mẫu này trước. Các nhóm bảo mật nói “không” với mọi thứ cuối cùng sẽ đẩy mọi người xuống dưới lòng đất – và mất tất cả sự giám sát về những gì thực sự đang xảy ra.

Bảo mật trở thành kẻ thù

Có một nhận thức rằng các nhóm bảo mật là “những người đàn ông xấu tính trong tầng hầm.” Mọi người nghĩ: “Oh, bảo mật có lẽ sẽ nói không cách nào, vì vậy không cần quan tâm đến những người đó. Tôi sẽ làm điều đó dù sao.”

Chúng tôi đã tạo ra sự hiểu lầm này. Và với Trí tuệ nhân tạo, mọi người có thiên vị để giả định chúng tôi sẽ tắt họ, vì vậy họ không cần phải hỏi. Điều đó giết chết sự giao tiếp mà bạn thực sự muốn.

Tôi đã có một nhà phát triển đến gặp tôi sau một buổi trình bày tại hội nghị. Anh ấy sử dụng API mỗi ngày và đã cố gắng thu hút sự chú ý của nhóm bảo mật về việc kiểm tra và xác thực. Nhưng anh ấy đã quyết định không hỏi vì anh ấy nghĩ họ sẽ chỉ nói không.

Thâm hụt niềm tin chi phí mọi thứ

Dưới đây là cuộc trò chuyện mà bạn muốn: ai đó từ bộ phận marketing đến và nói: “Này, tôi muốn sử dụng công cụ Trí tuệ nhân tạo này. Chính sách của chúng tôi về nó là gì? Làm thế nào để tôi sử dụng nó một cách an toàn?” Đó là cách đúng đắn để hợp tác với bảo mật.

Chúng tôi sẽ xem xét nó. Chúng tôi hiểu Trí tuệ nhân tạo sẽ là một phần của kinh doanh. Chúng tôi sẽ không nói không với nó – chúng tôi muốn mọi người sử dụng nó một cách an toàn. Nhưng chúng tôi cần cuộc trò chuyện đó trước.

Khi mọi người giả định bảo mật sẽ chặn mọi thứ, họ ngừng hỏi. Họ đăng ký bằng email cá nhân, bắt đầu cho dữ liệu công ty vào các nền tảng chưa được kiểm tra, và bạn mất tất cả tầm nhìn và kiểm soát. Kết quả là có thể dự đoán được: 38% nhân viên chia sẻ thông tin công việc nhạy cảm với các công cụ Trí tuệ nhân tạo mà không có sự cho phép của người sử dụng.

Các tổ chức sẽ sử dụng Trí tuệ nhân tạo dù sao. Câu hỏi là: làm thế nào chúng tôi đảm bảo nhân viên của mình có thể tận dụng nó một cách an toàn mà không đặt dữ liệu công ty, quyền riêng tư hoặc bảo mật vào tình huống nguy hiểm?

Bắt đầu với những cái “có” thông minh, không phải những cái “không” chung chung

Dưới đây là những gì thực sự hoạt động: giao tiếp chủ động. Gửi thư tin tức hoặc tổ chức các buổi hội thảo 30 phút nói: “Chúng tôi cho phép Trí tuệ nhân tạo trong tổ chức. Dưới đây là cách để làm điều đó một cách an toàn.” Ghi lại các phiên cho những người vắng mặt.

Hiển thị các ví dụ về nhân viên đã hợp tác thành công với bảo mật. Làm cho những hợp tác đó trở nên rõ ràng thay vì trở thành một thực thể bóng tối mà mọi người nghĩ sẽ tắt họ.

Bạn cần xây dựng niềm tin giữa bảo mật và nhân viên theo thời gian. Cuối cùng, chúng tôi đều đang sử dụng Trí tuệ nhân tạo theo những cách lớn và nhỏ. Tôi đã sử dụng nó để lên kế hoạch cho chuyến đi đến Đức – nói với nó để tạo một lịch trình ba ngày và tôi đã có một chuyến đi tuyệt vời.

Từ góc độ tổ chức, chúng tôi cần nhận ra nơi Trí tuệ nhân tạo nằm trong kinh doanh. Nó có tăng doanh thu không? Có lẽ. Trường hợp kinh doanh là rõ ràng: Trí tuệ nhân tạo đã chuyển từ ‘thử nghiệm’ sang ‘quan trọng’, với chi tiêu doanh nghiệp tăng 130%. Vậy chúng tôi làm gì? Làm thế nào chúng tôi cung cấp bảo vệ đồng thời cho phép năng suất?

Mục tiêu không phải là kiểm soát hoàn hảo, điều đó là không thể. Mục tiêu là việc áp dụng Trí tuệ nhân tạo thông minh với các rào cản thực sự hoạt động trong thực tế. Rủi ro mới cho bảo mật là trở nên cách ly với việc sử dụng Trí tuệ nhân tạo – việc sử dụng đang xảy ra với hoặc không có bạn.

Đối với các tổ chức nghiêm túc về việc làm điều này đúng, các chuyên gia khuyên bạn nên phát triển chính sách quản lý Trí tuệ nhân tạo rõ ràng cân bằng giữa nhu cầu kinh doanh và yêu cầu bảo mật trước khi việc sử dụng Trí tuệ nhân tạo bóng tối hoàn toàn mất kiểm soát.