Chiếu sáng vào bóng tối của Trí tuệ nhân tạo

Khắp các ngành công nghiệp, công nhân ngày càng tận dụng các công cụ Trí tuệ nhân tạo (AI) để chuyển đổi các hoạt động hàng ngày. Cho dù đó là các chuyên gia tiếp thị sử dụng ChatGPT để soạn thảo chiến dịch hay các kỹ sư phần mềm viết mã với các công cụ tạo ra, AI đang âm thầm tích hợp vào gần như mọi khía cạnh của kinh doanh. Trên thực tế, Dự án NANDA của MIT đã phát hiện ra rằng trong hơn 90% các tổ chức, nhân viên đang sử dụng tài khoản trò chuyện cá nhân để hỗ trợ công việc hàng ngày của họ, thường không có sự giám sát của bộ phận CNTT, tuy nhiên, chỉ 40% các công ty có đăng ký chính thức cho các công cụ mô hình ngôn ngữ lớn (LLM). Sự mất kết nối này giữa việc sử dụng AI được phê duyệt và bí mật đã mở ra một điểm mù an ninh mới: bóng tối của Trí tuệ nhân tạo. 

Không có sự giám sát, dữ liệu nhạy cảm có thể được chia sẻ với các mô hình bên ngoài, đầu ra có thể không chính xác hoặc bị thiên vị, và các đội ngũ tuân thủ sẽ mất tầm nhìn vào nơi và cách thông tin được xử lý. Khi nhân viên tiếp tục thử nghiệm với các công cụ bên ngoài các kênh được phê duyệt, các tổ chức cần phải tưởng tượng lại chiến lược quản lý AI của họ, hoặc những rủi ro này sẽ tiếp tục nổi lên. Đối với các CIO, việc cấm các công cụ AI hoàn toàn không phải là giải pháp, vì nó có thể ảnh hưởng đến khả năng cạnh tranh. Thay vào đó, sự tập trung nên được đặt vào các rào cản thích ứng mà cân bằng giữa đổi mới và quản lý rủi ro có trách nhiệm.

Để ở một bước trước các rủi ro liên quan đến AI, các tổ chức nên thiết lập các chính sách AI nhằm thúc đẩy việc áp dụng có trách nhiệm. Những hướng dẫn này nên khuyến khích nhân viên sử dụng AI một cách hợp lý, và bất kỳ chính sách nào được đưa ra phải được căn chỉnh với các giá trị và khẩu vị rủi ro của công ty. Để đạt được một chương trình thành công, các tổ chức phải đi vượt quá các mô hình quản trị lỗi thời và các công cụ di sản không phát hiện hoặc theo dõi việc sử dụng AI trên toàn bộ doanh nghiệp của họ.

Mặc dù việc thiết lập một chính sách AI là một bước quan trọng, nhưng điều thực sự quan trọng là phải đảm bảo rằng chúng được thiết kế để trở nên thực tế, có thể thực thi và phù hợp với tầm nhìn đổi mới và nhu cầu tuân thủ của từng doanh nghiệp, mà không cản trở tiến bộ của họ.

Dưới đây là bốn bước các tổ chức có thể thực hiện:

1. Xác định khuôn khổ tốt nhất

Các doanh nghiệp không cần phải bắt đầu từ đầu. Một số tổ chức hàng đầu đã phát triển các khuôn khổ cung cấp các điểm tham chiếu có giá trị. Tài nguyên từ Tổ chức Hợp tác và Phát triển Kinh tế (OECD), Viện Tiêu chuẩn Quốc gia (NIST), và ISO/IEC, có thể cung cấp hướng dẫn về việc quản lý AI một cách an toàn và hiệu quả. Ngoài ra, các cơ quan chính phủ đang bắt đầu tham gia. Các quy định mới từ Liên minh Châu Âu (EU) đang đặt ra các kỳ vọng xung quanh tính minh bạch, trách nhiệm và quản trị. Cùng nhau, những tài nguyên này sẽ giúp cung cấp một nền tảng vững chắc cho các doanh nghiệp xây dựng và tinh chỉnh khuôn khổ của riêng họ để hướng dẫn việc áp dụng AI có trách nhiệm.

2. Tăng cường khả năng hiển thị của AI

Khi các tổ chức vạch ra con đường của họ để quản lý rủi ro AI hiệu quả, điều quan trọng là các nhà lãnh đạo an ninh phải phát triển một sự hiểu biết vững chắc về cách AI thực sự được sử dụng trên toàn bộ doanh nghiệp của họ. Họ nên đầu tư vào các công cụ giúp cung cấp khả năng hiển thị vào hoạt động trên các chức năng. Những công cụ này có thể theo dõi và truy cập vào hành vi của người dùng, và sẽ không bỏ qua bất kỳ đá nào khi nói đến việc xác định nơi AI tạo ra đang được sử dụng. Thông tin này là rất quan trọng khi nói đến việc tìm kiếm việc sử dụng AI bóng tối và giúp các nhà lãnh đạo đánh giá rủi ro và giải quyết chúng.

3. Thành lập Hội đồng AI

Một khi khả năng hiển thị đã được thiết lập, các nhà lãnh đạo an ninh có thể sử dụng nó để thông báo cho các chính sách mới. Vì việc sử dụng AI ảnh hưởng đến toàn bộ doanh nghiệp, họ không nên cô lập quá trình ra quyết định. Các CISO nên xem xét việc thành lập một hội đồng AI bao gồm các bên liên quan chính từ an ninh, pháp lý, CNTT và C-suite. Trên thực tế, Gartner báo cáo rằng 55% các tổ chức đã thành lập một hội đồng AI, trong khi 54% đã bổ nhiệm một người đứng đầu AI hoặc lãnh đạo AI chuyên dụng để giám sát chiến lược và triển khai.

Các nhóm chức năng này có thể đánh giá cả rủi ro và cơ hội được trình bày bởi các công cụ AI, dù được ủy quyền hay không, đang bắt đầu xâm nhập vào môi trường kinh doanh của họ. Họ có thể hình thành các chính sách mới cùng nhau để giải quyết nhu cầu của doanh nghiệp của họ và cân bằng rủi ro.

Ví dụ, nếu hội đồng xác định một công cụ AI phổ biến đang được sử dụng mà không được phê duyệt và gây ra các lo ngại về bảo mật, nó có thể khuyến nghị cấm ứng dụng đó trong khi phê duyệt một giải pháp thay thế an toàn hơn. Những chính sách này nên được củng cố bởi các khoản đầu tư vào các biện pháp kiểm soát bảo mật và các nền tảng AI được phê duyệt đáp ứng các tiêu chuẩn tuân thủ. Khi các tiến bộ mới xuất hiện, hội đồng cũng có thể giới thiệu một quy trình chính thức để nhân viên đề xuất các công cụ để kiểm tra, giúp tổ chức vẫn linh hoạt và tuân thủ chiến lược AI của mình.

4. Tăng cường giáo dục AI

Giáo dục và tương tác với nhân viên về AI sẽ là một phần quan trọng khác của việc đảm bảo sự đồng thuận toàn tổ chức và làm giảm việc sử dụng AI bóng tối. Ngay cả với các mô hình quản trị phù hợp, thành công phụ thuộc vào việc nhân viên hiểu và chấp nhận chúng.

Trong một khảo sát của Pew Research, trong số những người lao động đã nhận được đào tạo tại nơi làm việc (51%), chỉ một phần tư (24%) cho biết nó liên quan đến việc sử dụng AI. Các tổ chức nên đảm bảo rằng họ có các chương trình đào tạo AI, vì chúng có thể giúp nhân viên hiểu các cơ hội và chức năng có sẵn cho họ. Việc tăng cường kỹ năng cũng có thể giúp họ phát triển trong sự nghiệp và cảm thấy hài lòng hơn trong vị trí của mình.

Các chương trình đào tạo AI nên tập trung vào việc giúp các đội hiểu được bối cảnh rộng lớn hơn của AI và cách nó hoạt động trong hệ sinh thái kinh doanh của họ. Các chủ đề cần được bao gồm bao gồm lý do tại sao việc sử dụng AI có trách nhiệm lại quan trọng, những chính sách nào tồn tại để bảo vệ cả doanh nghiệp và khách hàng của họ, và cách xác định các rủi ro xử lý dữ liệu hoặc quyền riêng tư tiềm ẩn. Khi nhân viên được trang bị kiến thức phù hợp, họ được trao quyền để trở thành những người bạn đồng hành tích cực trong việc đổi mới một cách an toàn.

Định hình tương lai của Trí tuệ nhân tạo có trách nhiệm 

AI bóng tối sẽ không biến mất trong thời gian gần. Khi các công nghệ tạo ra trở nên sâu sắc hơn trong các quy trình làm việc hàng ngày, những thách thức đối với các tổ chức sẽ chỉ tăng lên. Các nhà lãnh đạo hiện đang đối mặt với lựa chọn giữa việc coi AI bóng tối là một mối đe dọa không thể kiểm soát hoặc công nhận nó là một cơ hội để tối đa hóa hiệu quả và năng suất, khi được quản lý đúng cách.

Phát triển một chính sách AI hoặc hội đồng không phải là một hành động một lần. Cũng như AI đang phát triển nhanh chóng, chiến lược của một tổ chức cũng phải thay đổi như vậy. AI có thể giúp hướng dẫn các quyết định thông minh hơn, tăng tốc đổi mới và nâng cao năng suất trên mọi chức năng. Nhưng để duy trì những lợi ích đó, nhân viên phải hiểu những công cụ nào có sẵn cho họ và cách sử dụng chúng một cách có trách nhiệm. Những người thành công sẽ vẫn linh hoạt, chủ động tinh chỉnh các chính sách của họ để ở phía trước của sự thay đổi, không phải theo đuổi nó.