Những Lỗ Hổng Bảo Mật Mới từ Việc Áp Dụng GenAI Nhanh Chóng mà Các Tổ Chức Phải Giải Quyết

AI Sinh Tạo (GenAI) đã bứt phá từ một công nghệ tò mò thành một lực lượng trung tâm trong công nghệ doanh nghiệp. Khả năng tạo ra văn bản, mã code, hình ảnh và thông tin chi tiết theo yêu cầu của nó đã khiến nó trở nên không thể thiếu đối với nhân viên mong muốn vượt qua sự phức tạp và tăng tốc năng suất. Nhưng cùng với sự đổi mới và hiệu quả này là sự phơi bày rất lớn trước rủi ro.

Trong các cuộc trao đổi với các giám đốc điều hành và lãnh đạo quản trị AI trên khắp các ngành công nghiệp, một chủ đề liên tục xuất hiện: An ninh dữ liệu đã chuyển từ một mối quan tâm chính thành trọng tâm trong chiến lược của họ và giờ đây là thách thức xác định của việc áp dụng AI. Không giống như phần mềm truyền thống hay thậm chí là các làn sóng học máy trước đây, GenAI thay đổi cơ bản quy trình bảo mật dữ liệu trong một tổ chức.

Một nghiên cứu gần đây của MIT phát hiện ra rằng 95% các dự án thử nghiệm GenAI của doanh nghiệp đang thất bại. Không phải vì công nghệ yếu; mà là vì các doanh nghiệp thiếu các khuôn khổ quản trị và bảo mật cần thiết để vận hành GenAI một cách phù hợp và có trách nhiệm. Trong một nghiên cứu khác của MIT, các nhà lãnh đạo doanh nghiệp đã trích dẫn an ninh dữ liệu là rủi ro kinh doanh và bảo mật hàng đầu cản trở việc áp dụng AI nhanh hơn. Ngoài ra, “shadow AI”, tức việc nhân viên sử dụng trái phép các công cụ công khai, được công nhận rộng rãi là động lực khiến rủi ro dữ liệu tăng vọt ngoài tầm kiểm soát của công ty.

Quyền truy cập tối thiểu là một mô hình bảo mật trong đó bất kỳ thực thể nào, dù là người dùng, chương trình hay quy trình, chỉ được cấp mức độ truy cập và quyền tối thiểu cần thiết để thực hiện các chức năng hợp pháp của nó. Tuy nhiên, GenAI lật đổ toàn bộ mô hình đó: Bản thân quyền tối thiểu trở thành một ràng buộc mâu thuẫn với cách các hệ thống này được thiết kế để hoạt động. Điều này là do các công cụ GenAI doanh nghiệp có xu hướng mang lại lợi ích năng suất cao hơn khi chúng có quyền truy cập vào nhiều dữ liệu kinh doanh và ngữ cảnh kinh doanh hơn.

Khi việc áp dụng GenAI tăng tốc, người dùng tiếp tục khám phá ra các ứng dụng mới của GenAI, hầu hết trong số đó xuất hiện từ việc thử nghiệm và tò mò tự nhiên, thay vì kế hoạch kinh doanh từ trên xuống. Nếu một thực thể không thể xác định các nhiệm vụ mà GenAI sẽ được sử dụng, hoặc các loại dữ liệu mà nó cần truy cập, thì việc thiết lập quyền truy cập tối thiểu trở nên không khả thi. Ngoài ra, một người dùng có thể có quyền truy cập thích hợp vào một tập dữ liệu và cung cấp nó một cách hợp pháp làm đầu vào cho một công cụ GenAI, nhưng một khi dữ liệu đó được thu nạp, nó không còn bị ràng buộc bởi các quyền ban đầu của người dùng nữa. Thay vào đó, nó có thể được hấp thụ vào mô hình, xuất hiện trong các đầu ra tương lai hoặc được cung cấp cho những người khác sử dụng cùng một công cụ. Vì GenAI không nhất thiết kế thừa các điều khiển truy cập của dữ liệu, nó thực tế làm cho quyền tối thiểu không thể thực thi được.

Những Lỗ Hổng GenAI Cần Xem Xét

GenAI tạo ra một bề mặt dữ liệu rộng lớn và không ngừng mở rộng, làm phức tạp việc quản trị và bảo mật dữ liệu doanh nghiệp theo nhiều cách liên kết với nhau. Chúng bao gồm:

Rò rỉ đầu vào – GenAI có thể thu nạp dữ liệu ở dạng thô, bao gồm văn bản, hình ảnh, âm thanh, video và dữ liệu có cấu trúc. Người dùng cuối giờ đây có thể hướng các công cụ GenAI đến các tập dữ liệu mới với nỗ lực hoặc chuyên môn tối thiểu. Thay vì bị giới hạn ở các bảng được tuyển chọn cẩn thận, có cấu trúc với các lược đồ và mối quan hệ xác định, các tập dữ liệu này có thể bao gồm bản ghi cuộc gọi bán hàng, ghi chú email CRM, bản ghi dịch vụ khách hàng và hơn thế nữa. Trong thực tế, nhân viên đang cung cấp các lệnh với thông tin kinh doanh cực kỳ nhạy cảm, bao gồm PII của khách hàng, tài sản trí tuệ, dự báo tài chính và thậm chí cả mã nguồn.

Phơi bày đầu ra – Các mô hình sinh tạo không chỉ tiêu thụ, chúng còn tổng hợp. Một lệnh có thể vô tình rút ra thông tin chi tiết từ nhiều tập dữ liệu và phơi bày chúng cho người dùng mà không có sự xác minh phù hợp. Trong một số trường hợp, đầu ra thậm chí có thể “ảo giác” dữ liệu có vẻ hợp pháp nhưng chứa các mảnh của tài liệu đào tạo thực tế, rất nhạy cảm.

Các công cụ GenAI hoạt động tốt hơn khi chúng có ngữ cảnh cho nhiệm vụ hiện tại. Kết quả là, không chỉ GenAI đang thu nạp thông tin hiện có, mà người dùng còn đang tạo ra dữ liệu mới để hướng dẫn nó dưới dạng các lệnh mở rộng, chi tiết ghi lại ngữ cảnh kinh doanh, quy trình nội bộ và các thông tin nhạy cảm hoặc quan trọng với kinh doanh khác.

Tính dễ tiếp cận mà không có giám sát – Các hệ thống doanh nghiệp truyền thống yêu cầu tích hợp nhà cung cấp và cung cấp CNTT. Ngày nay GenAI được nhúng ở khắp mọi nơi—trong bộ Microsoft Office, trình duyệt, công cụ trò chuyện và nền tảng SaaS. Nhân viên có thể áp dụng nó ngay lập tức, bỏ qua hoàn toàn quản trị. Việc truy cập không ma sát này thúc đẩy “shadow AI”, và mỗi lần sử dụng GenAI trái phép là một sự kiện rò rỉ dữ liệu tiềm ẩn đang xảy ra một cách vô hình, trên quy mô lớn và bên ngoài phạm vi quản trị của doanh nghiệp.

Rủi ro chuỗi cung ứng cấp hai – Một nhà cung cấp có vẻ an toàn, nhưng họ thường dựa vào các nhà thầu phụ như nhà cung cấp dịch vụ đám mây, dịch vụ chú thích hoặc phòng thí nghiệm AI của bên thứ ba. Mỗi bên giới thiệu các thỏa thuận cấp phép người dùng cuối (EULA) và chính sách riêng của mình. Dữ liệu doanh nghiệp nhạy cảm có thể lan truyền qua nhiều bàn tay vô hình, nhưng trách nhiệm giải trình vẫn thuộc về doanh nghiệp. Ví dụ, một doanh nghiệp có thể có một nhà cung cấp trước đây đã hoàn thành quy trình tích hợp, nhưng nhà cung cấp đó hiện sử dụng một công cụ GenAI có thể cho phép dữ liệu của doanh nghiệp được sử dụng làm dữ liệu đào tạo, với những tác động hạ nguồn đáng kể.

Khoảng trống quản trị trong dữ liệu đào tạo – Một khi dữ liệu đi vào mô hình AI, việc kiểm soát thực sự kết thúc. Các doanh nghiệp không thể dễ dàng rút lại hoặc quản lý cách thông tin của họ được sử dụng. Kiến thức độc quyền có thể tồn tại và sau đó xuất hiện trong đầu ra rất lâu sau khi nguồn gốc của nó bị lãng quên. Chúng tôi chưa gặp bất kỳ công cụ GenAI nào cho phép yêu cầu xóa thông tin mà nó đã thu nạp, tương tự như những gì được thấy trong các quy định về quyền riêng tư như Quy định Bảo vệ Dữ liệu Chung (GDPR) hoặc Đạo luật Bảo mật Người tiêu dùng California (CCPA). Việc triển khai các quy trình như vậy khó có thể xảy ra cho đến khi quy định thúc đẩy sự thay đổi.

Rủi ro mã ứng dụng – AI ngày càng viết mã code làm nền tảng cho các hệ thống kinh doanh. Các nhà phát triển sử dụng các công cụ GenAI như Microsoft Copilot để tạo mã có thể vô tình đưa vào các phụ thuộc không an toàn, lan truyền lỗ hổng hoặc nhúng mã dưới các giấy phép nguồn mở xung đột. Một khi được triển khai, những điểm yếu này sẽ được nhúng vào chuỗi cung ứng phần mềm.

Giải Quyết Rủi ro GenAI

GenAI đã được nhúng vào quy trình làm việc của doanh nghiệp, vì vậy câu hỏi đối với các doanh nghiệp không phải là có nên áp dụng nó hay không mà là làm thế nào để áp dụng một cách có trách nhiệm. Áp dụng GenAI mà không có quản trị sẽ có nguy cơ vi phạm tốn kém, hình phạt quy định và thiệt hại về danh tiếng. Nhưng chặn nó chỉ khiến nhân viên sử dụng các giải pháp trái phép. Cách duy nhất để tiến lên là cho phép được bao bọc trong khả năng hiển thị và kiểm soát.

Quản trị GenAI đòi hỏi khả năng hiển thị dựa trên ngữ cảnh không chỉ vào dữ liệu mà doanh nghiệp có, nơi nó tồn tại và ai có quyền truy cập vào nó, mà còn vào cách GenAI được sử dụng. Các doanh nghiệp cần thấy những công cụ nào đang được truy cập, những lệnh nào đang được nhập và liệu dữ liệu nhạy cảm có đang rời khỏi môi trường của họ hay không. Từ đó, họ có thể áp dụng các biện pháp kiểm soát thích hợp để giám sát lệnh và đầu ra trong thời gian thực, đánh dấu các phiên rủi ro hoặc luồng dữ liệu bất thường, chặn các công cụ trái phép, lọc các lệnh nhạy cảm trước khi chúng rời đi, ẩn danh hóa dữ liệu nhạy cảm khi nó được nhập vào lệnh và thực thi các hạn chế dựa trên vai trò đối với thông tin chi tiết do AI cung cấp.

GenAI là một lớp rủi ro và cơ hội hoàn toàn mới của doanh nghiệp. Quản lý nó đòi hỏi tư duy rằng bảo mật không phải là phanh hãm đổi mới mà là nền tảng làm cho đổi mới trở nên an toàn.