Các lỗ hổng bảo mật mới của việc áp dụng GenAI nhanh chóng mà các tổ chức phải giải quyết

Trí tuệ nhân tạo tạo sinh (GenAI) đã chuyển từ một điều tò mò sang một lực lượng trung tâm trong công nghệ doanh nghiệp. Khả năng tạo ra văn bản, mã, hình ảnh và thông tin theo yêu cầu đã làm cho nó trở nên không thể thiếu cho nhân viên muốn cắt giảm sự phức tạp và tăng tốc độ sản xuất. Nhưng cùng với sự đổi mới và hiệu quả này đến là sự phơi nhiễm lớn đối với rủi ro.

Trong các cuộc gọi với các giám đốc điều hành và các nhà lãnh đạo quản trị AI trên các ngành công nghiệp, một chủ đề xuất hiện lại và lại: Bảo mật dữ liệu đã chuyển từ một mối quan tâm quan trọng sang điểm trung tâm của chiến lược và hiện là thách thức xác định của việc áp dụng AI. Không giống như phần mềm truyền thống hoặc thậm chí các làn sóng học máy trước đây, GenAI thay đổi cơ bản quá trình bảo mật dữ liệu trong một tổ chức.

Một nghiên cứu gần đây của MIT cho thấy 95% các dự án thí điểm GenAI của doanh nghiệp đang thất bại. Không phải vì công nghệ yếu; mà vì các doanh nghiệp thiếu các khuôn khổ quản trị và bảo mật cần thiết để vận hành GenAI một cách phù hợp và có trách nhiệm. Trong một nghiên cứu khác của MIT, các nhà lãnh đạo doanh nghiệp đã chỉ ra bảo mật dữ liệu là rủi ro kinh doanh và bảo mật hàng đầu cản trở việc áp dụng AI nhanh hơn. Ngoài ra, “AI bóng tối”, tức là việc sử dụng công cụ công cộng không được phép của nhân viên, được công nhận rộng rãi là một yếu tố thúc đẩy rủi ro dữ liệu tăng vọt ngoài tầm kiểm soát của doanh nghiệp.

Quyền truy cập tối thiểu là một mô hình bảo mật trong đó bất kỳ thực thể nào, dù là người dùng, chương trình hay quá trình, chỉ được cấp quyền truy cập và quyền tối thiểu cần thiết để thực hiện các chức năng hợp pháp của nó. Tuy nhiên, GenAI lại đảo lộn hoàn toàn mô hình này: Quyền truy cập tối thiểu trở thành một ràng buộc mâu thuẫn với cách các hệ thống này được thiết kế để hoạt động. Điều này là do các công cụ GenAI của doanh nghiệp thường mang lại lợi ích sản xuất cao hơn khi chúng có quyền truy cập vào nhiều dữ liệu kinh doanh và ngữ cảnh kinh doanh.

Khi việc áp dụng GenAI tăng tốc, người dùng tiếp tục khám phá các ứng dụng mới của GenAI, hầu hết trong số đó xuất phát từ việc thử nghiệm và tò mò tự phát, chứ không phải từ việc lập kế hoạch kinh doanh hàng đầu. Nếu một thực thể không thể xác định các nhiệm vụ GenAI sẽ được sử dụng cho, hoặc các loại dữ liệu nó cần truy cập, thì việc thiết lập quyền truy cập tối thiểu trở nên không khả thi. Ngoài ra, một người dùng có thể có quyền truy cập phù hợp vào một tập dữ liệu và cung cấp nó một cách hợp pháp làm đầu vào cho một công cụ GenAI, nhưng một khi dữ liệu đó được tiêu thụ, nó không còn bị ràng buộc bởi các quyền truy cập ban đầu của người dùng. Thay vào đó, nó có thể được hấp thụ vào mô hình, xuất hiện trong các đầu ra tương lai hoặc được làm cho có sẵn cho những người khác sử dụng cùng một công cụ. Vì GenAI không nhất thiết phải kế thừa các kiểm soát truy cập dữ liệu, nên nó hiệu quả làm cho quyền truy cập tối thiểu không thể thực thi được.

Các lỗ hổng GenAI cần xem xét

GenAI tạo ra một bề mặt dữ liệu rộng lớn và không ngừng mở rộng, làm phức tạp việc quản trị và bảo mật dữ liệu của doanh nghiệp theo nhiều cách liên kết. Những điều này bao gồm:

Rò rỉ đầu vào – GenAI có thể tiêu thụ dữ liệu ở dạng thô, bao gồm văn bản, hình ảnh, âm thanh, video và dữ liệu có cấu trúc. Người dùng cuối có thể chỉ đạo các công cụ GenAI đến các tập dữ liệu mới với sự cố gắng tối thiểu hoặc chuyên môn. Thay vì bị giới hạn ở các bảng có cấu trúc cẩn thận với các lược đồ và mối quan hệ được xác định, các tập dữ liệu này có thể bao gồm bản ghi cuộc gọi bán hàng, ghi chú email CRM, bản ghi dịch vụ khách hàng và nhiều hơn nữa. Trong thực tế, nhân viên đang cung cấp các lời nhắc với thông tin kinh doanh nhạy cảm cao, bao gồm PII của khách hàng, tài sản trí tuệ, dự báo tài chính và thậm chí cả mã nguồn.

Đầu ra暴露 – Các mô hình tạo sinh không chỉ tiêu thụ, mà còn tổng hợp. Một lời nhắc có thể vô tình rút ra thông tin từ các tập dữ liệu khác nhau và暴露 chúng cho người dùng mà không có sựอนุมัติ thích hợp. Trong một số trường hợp, đầu ra甚至 có thể “ảo giác” dữ liệu trông có vẻ hợp pháp nhưng chứa các mảnh của tài liệu đào tạo nhạy cảm thực sự.

Các công cụ GenAI hoạt động tốt hơn khi chúng có ngữ cảnh cho nhiệm vụ tại tay. Do đó, không chỉ GenAI tiêu thụ thông tin hiện có, mà người dùng cũng tạo ra dữ liệu mới để hướng dẫn nó dưới dạng các lời nhắc chi tiết, dài dòng ghi lại ngữ cảnh kinh doanh, quy trình nội bộ và thông tin nhạy cảm hoặc kinh doanh quan trọng khác.

Khả năng truy cập mà không có sự giám sát – Các hệ thống doanh nghiệp truyền thống yêu cầu việc cấp phép của nhà cung cấp và cung cấp của IT. Ngày nay, GenAI được nhúng mọi nơi – trong các bộ Microsoft Office, trình duyệt, công cụ trò chuyện và nền tảng SaaS. Nhân viên có thể áp dụng nó ngay lập tức, bỏ qua quản trị hoàn toàn. Việc truy cập ma sát này thúc đẩy “AI bóng tối”, và mỗi lần sử dụng không được phép của GenAI là một sự kiện exfiltration dữ liệu tiềm năng xảy ra vô hình, theo quy mô và ngoài phạm vi quản trị của doanh nghiệp.

Rủi ro chuỗi cung ứng cấp hai – Một nhà cung cấp có thể xuất hiện an toàn, nhưng họ thường phụ thuộc vào các nhà thầu phụ như nhà chủ trì đám mây, dịch vụ chú thích hoặc phòng thí nghiệm AI của bên thứ ba. Mỗi nhà thầu phụ này lại giới thiệu các thỏa thuận cấp phép người dùng cuối (EULA) và chính sách riêng. Dữ liệu kinh doanh nhạy cảm có thể lan truyền qua nhiều tay vô hình, nhưng trách nhiệm vẫn nằm hoàn toàn với doanh nghiệp. Ví dụ, một doanh nghiệp có thể có một nhà cung cấp đã hoàn thành quá trình cấp phép của họ, nhưng nhà cung cấp đó hiện đang sử dụng một công cụ GenAI có thể cho phép dữ liệu của doanh nghiệp được sử dụng làm dữ liệu đào tạo, với những tác động đáng kể về hạ游.

Khoảng trống quản trị trong dữ liệu đào tạo – Một khi dữ liệu vào một mô hình AI, việc kiểm soát hiệu quả kết thúc. Doanh nghiệp không thể dễ dàng thu hồi hoặc quản lý cách thông tin của họ được sử dụng. Kiến thức độc quyền có thể tồn tại và sau đó xuất hiện trong đầu ra lâu sau khi nguồn gốc của nó đã bị quên. Chúng tôi chưa từng gặp bất kỳ công cụ GenAI nào cho phép yêu cầu xóa thông tin nó đã tiêu thụ, tương tự như những gì được thấy trong các quy định về quyền riêng tư như Quy định Bảo vệ Dữ liệu Chung (GDPR) hoặc Đạo luật Quyền riêng tư của Người tiêu dùng California (CCPA). Việc thực hiện các quy trình như vậy không thể xảy ra cho đến khi quy định thúc đẩy sự thay đổi.

Rủi ro mã ứng dụng – AI đang ngày càng viết mã code cho các hệ thống kinh doanh. Các nhà phát triển sử dụng công cụ GenAI như Microsoft Copilot để tạo mã có thể vô tình giới thiệu các依赖 không an toàn, lan truyền các lỗ hổng hoặc nhúng mã dưới các giấy phép nguồn mở mâu thuẫn. Một khi được triển khai, những điểm yếu này trở thành một phần của chuỗi cung ứng phần mềm.

Giải quyết rủi ro GenAI

GenAI đã được nhúng trong các quy trình làm việc của doanh nghiệp, vì vậy câu hỏi cho các doanh nghiệp không phải là liệu họ có nên áp dụng nó hay không, mà là làm thế nào để áp dụng nó một cách có trách nhiệm. Việc áp dụng GenAI mà không có quản trị rủi ro có thể dẫn đến các vi phạm tốn kém, phạt quy định và thiệt hại về danh tiếng. Nhưng việc chặn nó chỉ thúc đẩy nhân viên sử dụng các giải pháp không được phép. Con đường duy nhất phía trước là việc trao quyền được bao quanh bởi khả năng hiển thị và kiểm soát.

Quản trị GenAI đòi hỏi khả năng hiển thị dựa trên ngữ cảnh không chỉ vào dữ liệu mà doanh nghiệp có, nơi nó sống và ai có quyền truy cập vào nó, mà còn vào cách GenAI được sử dụng. Doanh nghiệp cần thấy được các công cụ nào đang được truy cập, các lời nhắc nào đang được nhập và liệu dữ liệu nhạy cảm có đang rời khỏi môi trường của họ hay không. Từ đó, họ có thể áp dụng các kiểm soát phù hợp để theo dõi các lời nhắc và đầu ra theo thời gian thực, đánh dấu các phiên rủi ro hoặc luồng dữ liệu bất thường, chặn các công cụ không được phép, lọc các lời nhắc nhạy cảm trước khi chúng rời đi, làm ẩn danh dữ liệu nhạy cảm khi nó được nhập vào các lời nhắc và thực thi các hạn chế dựa trên vai trò đối với các thông tin được thúc đẩy bởi AI.

GenAI là một lớp rủi ro và cơ hội hoàn toàn mới cho doanh nghiệp. Quản lý nó đòi hỏi một tư duy rằng bảo mật không phải là phanh đối với sự đổi mới, mà là nền tảng làm cho nó an toàn.