Tại Sao Cấm AI Tăng Rủi Ro Bảo Mật và Làm Thế Nào Các Tổ Chức Nên Phản Ứng

Khắp nước Mỹ, các khu học chánh và tổ chức thuộc lĩnh vực công đang cố gắng hạn chế hoặc chặn truy cập vào các công nghệ trí tuệ nhân tạo sinh (GenAI) hoặc các công cụ cụ thể. Tại Colorado, khu học chánh Boulder Valley đã cấm ChatGPT trên mạng lưới khu học chánh, với lý do lo ngại về việc lạm dụng, an toàn và tính toàn vẹn học thuật.

Khả năng giảm thiểu phơi nhiễm trước các sự cố bảo mật hoặc lạm dụng dữ liệu là dễ hiểu. Các nền tảng có hàng rào bảo vệ yếu hoặc cam kết bảo mật không rõ ràng, như DeepSeek, cần được hạn chế và kiểm tra. Nhưng cấm truy cập vào các công cụ GenAI không giảm thiểu rủi ro một cách có ý nghĩa; nó thường chỉ chuyển rủi ro sang môi trường mà sự giám sát biến mất.

Một khảo sát của College Board cho thấy 84% học sinh trung học báo cáo sử dụng GenAI cho công việc học, ngay cả khi 45% hiệu trưởng báo cáo có ít nhất một số hạn chế về truy cập AI tại trường. Tương tự, một báo cáo của IBM cho thấy 80% nhân viên văn phòng sử dụng AI, nhưng chỉ 22% phụ thuộc hoàn toàn vào các công cụ do nhà tuyển dụng cung cấp.

Chính sách truy cập alone không quyết định hành vi. Học sinh có thể lấy điện thoại di động và sử dụng bất kỳ công cụ AI nào qua mạng di động, hoặc sử dụng nền tảng khi ở nhà hoặc trên wifi công cộng. Họ cũng có thể sử dụng VPN, máy tính từ xa và plugin để vượt qua các hạn chế. Nhân viên cũng có thể làm như vậy để vượt qua các kiểm soát tại nơi làm việc.

Các tổ chức nên giả định rằng khi có ý chí sử dụng AI, sẽ có cách. Khi công nghệ bị hạn chế theo cách đẩy sử dụng vượt ra ngoài tầm nhìn của tổ chức, rủi ro của AI bóng tối tăng lên. Không có sự giám sát nào về thông tin được nhập vào các lời nhắc hoặc dữ liệu được giữ lại bởi mô hình. Bất kỳ kiểm soát bảo mật nào đều biến mất ngay lập tức.

Beyond rủi ro của AI bóng tối, cấm tạo ra một khoảng trống về năng lực, để lại học sinh hoàn toàn không chuẩn bị để sử dụng công nghệ sẽ là một phần lớn của tương lai họ. Các công cụ này đang ngày càng được tích hợp vào các công cụ tìm kiếm, nền tảng kinh doanh, bộ ứng dụng năng suất và thiết bị cá nhân. Một khảo sát của Pew Research cho thấy 62% người trưởng thành tại Mỹ cho biết họ tương tác với AI ít nhất vài lần một tuần. Điều này gần như chắc chắn rằng học sinh và nhân viên sẽ gặp phải hệ thống GenAI bất kể chính sách của tổ chức.

Trong môi trường này, giáo dục là biện pháp bảo vệ đáng tin cậy nhất trước các lo ngại về lạm dụng hoặc bảo mật, và để đảm bảo rằng học sinh và người lao động đều được chuẩn bị tốt để sử dụng một công cụ sẽ là một phần quan trọng của sự nghiệp của họ. Dạy sử dụng có trách nhiệm và đạo đức trang bị cho người dùng khả năng nhận biết rủi ro dữ liệu và đưa ra quyết định thông minh ở bất cứ nơi nào họ gặp phải các hệ thống này.

Chương trình giáo dục nên tập trung vào cách các mô hình ngôn ngữ lớn (LLM) xử lý và giữ lại dữ liệu, cách nhận biết các ảo giác, cách xác minh đầu ra được tạo bởi AI, và cách nhận biết các chiến dịch lừa đảo và hình ảnh được tạo bởi AI, chỉ để đặt tên một vài. Dạy người dùng phải hoài nghi. Đầu ra của AI thường được trình bày một cách tự tin và bằng ngôn ngữ được chỉnh sửa, điều này có thể tạo ra một ảo giác về quyền威.

Khả năng đặt câu hỏi về nội dung kỹ thuật số là một biện pháp phòng thủ quan trọng khi các chiến dịch lừa đảo và các hình ảnh được tạo bởi AI trở nên tinh vi hơn. Một khảo sát của Gartner cho thấy 62% tổ chức đã trải qua một cuộc tấn công giả mạo năm ngoái, và 32% đối mặt với một cuộc tấn công vào các ứng dụng AI. Tần suất và phạm vi của các sự cố này chỉ được dự đoán sẽ tiếp tục tăng.

Các tổ chức thuộc lĩnh vực công, chẳng hạn như trường học và chính quyền địa phương, đặc biệt dễ bị tổn thương trước các cuộc tấn công lừa đảo được kích hoạt bởi giả mạo vì nhiều hoạt động của họ được ghi lại và công khai. Các đoạn âm thanh từ các cuộc họp công khai có thể bị thao túng và được sử dụng để tạo ra các cuộc gọi giọng nói thuyết phục. Chúng tôi đã thấy các tác nhân đe dọa sử dụng điều này để lừa đảo, chẳng hạn như chuyển hướng quỹ trong các giao dịch nhạy cảm. Mặc dù điều này xảy ra thường nhất trong các trường hợp được nhắm mục tiêu, nhưng người dùng chưa từng được đào tạo để nhận ra các kỹ thuật này, hoặc thậm chí biết rằng chúng có thể xảy ra, sẽ bị bất lợi từ đầu.

Theo sau giáo dục, các tổ chức nên có các chính sách rõ ràng về việc sử dụng và quản lý AI. Những chính sách này nên xác định các công cụ được phê duyệt, các trường hợp sử dụng được chấp nhận, và dữ liệu nào có thể và không thể được nhập vào mô hình nào. Các chính sách cần được áp dụng nhất quán trên các bộ phận thay vì thay đổi từ lớp học này sang lớp học khác hoặc văn phòng này sang văn phòng khác. Các kỳ vọng rõ ràng giảm thiểu sự模糊 và tăng cường trách nhiệm.

Thay vì hạn chế hoàn toàn, các tổ chức nên tìm cách định hình cách công nghệ được sử dụng trong thực tế. Khi một tổ chức chấp thuận một công cụ có thể truy cập, bảo mật và hoạt động tốt, nó trở thành mặc định cho hầu hết người dùng. Sử dụng AI bóng tối giảm vì có một giải pháp thay thế trực tiếp không bao gồm việc tải xuống VPN để sử dụng nó.

Các tổ chức và tổ chức đang tìm cách cung cấp truy cập an toàn vào LLM theo cách mà dữ liệu của họ được bảo mật và không được chia sẻ hoặc sử dụng để đào tạo. Một loại công cụ kích hoạt và bảo mật AI đang xuất hiện để thực hiện điều đó. Họ có thể cung cấp truy cập vào nhiều LLM trong khi giữ dữ liệu của tổ chức được bảo mật. Các thỏa thuận không giữ lại dữ liệu cung cấp khuôn khổ pháp lý để đảm bảo rằng dữ liệu của tổ chức vẫn thuộc sở hữu của công ty hoặc tổ chức, và LLM không thể được đào tạo trên đó. Ngoài ra, nếu một nhân viên rời tổ chức, bất kỳ sử dụng AI, quy trình làm việc hoặc dữ liệu nào vẫn thuộc sở hữu của tổ chức.

Các hàng rào kỹ thuật cũng có thể được áp dụng ở cấp tính năng. Một tổ chức có thể cho phép học sinh hoặc nhân viên đặt câu hỏi chung trong một LLM được phê duyệt trong khi vô hiệu hóa việc tải tệp, chia sẻ tài liệu hoặc các khả năng có rủi ro cao khác. Những cấu hình này bảo tồn lợi ích về năng suất mà không mở cửa cho việc phơi nhiễm dữ liệu không kiểm soát.

Các công cụ tiên tiến hơn có thể tự động ẩn danh hóa thông tin nhạy cảm trước khi nó đến mô hình. Ví dụ, thay thế tên bệnh nhân hoặc định danh bằng các giữ chỗ trung lập để bác sĩ và y tá có thể sử dụng GenAI mà không phơi nhiễm dữ liệu được bảo vệ. Những công cụ khác tích hợp các kiểm soát ngăn chặn mất dữ liệu để phát hiện và chặn số an sinh xã hội, dữ liệu tài khoản tài chính hoặc thông tin quy định khác được gửi trong các lời nhắc.

Các chính sách rõ ràng với các hàng rào kỹ thuật, được xây dựng trên nền tảng giáo dục, tạo ra biện pháp phòng thủ tốt nhất, đặc biệt là khi công nghệ thay đổi rất nhanh. GenAI đang phát triển nhanh hơn so với hầu hết các tổ chức thuộc lĩnh vực công – và ngân sách của họ – có thể thích nghi. Việc cố gắng chặn từng mô hình mới khi nó xuất hiện là không bền vững vì vào thời điểm một nền tảng bị hạn chế, một nền tảng khác đã đạt được động lực.

Bảo mật trong môi trường được kích hoạt bởi AI phụ thuộc vào việc acknowledging the reality that GenAI is now embedded into daily life. Không có cách nào để đưa genie trở lại vào chai. Các lệnh cấm hoàn toàn có thể báo hiệu sự thận trọng, nhưng chúng thường trao đổi rủi ro có thể nhìn thấy và có thể quản lý cho rủi ro vô hình và không được quản lý. Dạy một người sử dụng AI một cách có trách nhiệm, và họ sẽ được thiết lập cho bất cứ điều gì tiếp theo.