Lãnh đạo tư tưởng

Các lỗ hổng bảo mật mới của việc áp dụng GenAI nhanh chóng mà các tổ chức phải giải quyết

Dr. Madhu Shashanka Lane Sullivan
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhGenAI làm suy yếu nguyên tắc truy cập tối thiểu bằng cách hấp thụ dữ liệu mà không kế…
Xem thêm
  • GenAI làm suy yếu nguyên tắc truy cập tối thiểu bằng cách hấp thụ dữ liệu mà không kế thừa các điều khiển truy cập gốc của nó.
  • AI ngầm tạo ra các rủi ro rò rỉ dữ liệu vô hình khi nhân viên sử dụng ngay các công cụ không được phê duyệt.
  • Doanh nghiệp không thể thu hồi dữ liệu từ các mô hình GenAI một khi đã được hấp thụ, tạo ra các lỗ hổng quản trị vĩnh viễn.

Trí tuệ nhân tạo tạo sinh (GenAI) đã chuyển từ một điều tò mò sang một lực lượng trung tâm trong công nghệ doanh nghiệp. Khả năng tạo ra văn bản, mã, hình ảnh và thông tin theo yêu cầu đã làm cho nó trở nên không thể thiếu cho nhân viên muốn cắt giảm sự phức tạp và tăng năng suất. Nhưng cùng với sự đổi mới và hiệu quả này đến là sự phơi nhiễm lớn đối với rủi ro.

Trong các cuộc gọi với các giám đốc điều hành và các nhà lãnh đạo quản trị AI trên các ngành công nghiệp, một chủ đề xuất hiện lại và lại: Bảo mật dữ liệu đã chuyển từ một mối quan tâm quan trọng sang điểm trung tâm của chiến lược và hiện là thách thức xác định của việc áp dụng AI. Không giống như phần mềm truyền thống hoặc thậm chí các làn sóng học máy trước đây, GenAI thay đổi cơ bản quá trình bảo mật dữ liệu trong một tổ chức.

Một nghiên cứu gần đây của MIT cho thấy 95% các dự án thí điểm GenAI của doanh nghiệp đang thất bại. Không phải vì công nghệ yếu; mà vì các doanh nghiệp thiếu các khuôn khổ quản trị và bảo mật cần thiết để vận hành GenAI một cách phù hợp và có trách nhiệm. Trong một nghiên cứu khác của MIT, các nhà lãnh đạo doanh nghiệp đã chỉ ra bảo mật dữ liệu là rủi ro kinh doanh và bảo mật hàng đầu cản trở việc áp dụng AI nhanh hơn. Ngoài ra, “AI bóng tối”, tức là việc sử dụng công cụ công cộng không được phép của nhân viên, được công nhận rộng rãi là một yếu tố thúc đẩy rủi ro dữ liệu tăng vọt ngoài tầm kiểm soát của doanh nghiệp.

Quyền truy cập tối thiểu là một mô hình bảo mật trong đó bất kỳ thực thể nào, dù là người dùng, chương trình hay quá trình, chỉ được cấp quyền truy cập và quyền tối thiểu cần thiết để thực hiện các chức năng hợp pháp của nó. Tuy nhiên, GenAI lại đảo lộn hoàn toàn mô hình này: Quyền truy cập tối thiểu trở thành một ràng buộc mâu thuẫn với cách các hệ thống này được thiết kế để hoạt động. Điều này là do các công cụ GenAI của doanh nghiệp thường mang lại mức tăng năng suất cao hơn khi chúng có quyền truy cập vào nhiều dữ liệu kinh doanh và ngữ cảnh kinh doanh.

Khi việc áp dụng GenAI tăng tốc, người dùng tiếp tục khám phá các ứng dụng mới của GenAI, hầu hết trong số đó xuất phát từ việc thử nghiệm và tò mò tự phát, chứ không phải từ việc lập kế hoạch từ trên xuống theo định hướng kinh doanh. Nếu một thực thể không thể xác định các nhiệm vụ GenAI sẽ được sử dụng cho, hoặc các loại dữ liệu nó cần truy cập, thì việc thiết lập quyền truy cập tối thiểu trở nên không khả thi. Ngoài ra, một người dùng có thể có quyền truy cập phù hợp vào một tập dữ liệu và cung cấp nó một cách hợp pháp làm đầu vào cho một công cụ GenAI, nhưng một khi dữ liệu đó được tiêu thụ, nó không còn bị ràng buộc bởi các quyền truy cập ban đầu của người dùng. Thay vào đó, nó có thể được hấp thụ vào mô hình, xuất hiện trong các đầu ra tương lai hoặc được làm cho có sẵn cho những người khác sử dụng cùng một công cụ. Vì GenAI không nhất thiết phải kế thừa các kiểm soát truy cập dữ liệu, nên nó hiệu quả làm cho quyền truy cập tối thiểu không thể thực thi được.

Các lỗ hổng GenAI cần xem xét

GenAI tạo ra một bề mặt dữ liệu rộng lớn và không ngừng mở rộng, làm phức tạp việc quản trị và bảo mật dữ liệu của doanh nghiệp theo nhiều cách liên kết. Những điều này bao gồm:

Rò rỉ đầu vào – GenAI có thể tiêu thụ dữ liệu ở dạng thô, bao gồm văn bản, hình ảnh, âm thanh, video và dữ liệu có cấu trúc. Người dùng cuối có thể chỉ đạo các công cụ GenAI đến các tập dữ liệu mới với sự cố gắng tối thiểu hoặc chuyên môn. Thay vì bị giới hạn ở các bảng có cấu trúc cẩn thận với các lược đồ và mối quan hệ được xác định, các tập dữ liệu này có thể bao gồm bản ghi cuộc gọi bán hàng, ghi chú email CRM, bản ghi dịch vụ khách hàng và nhiều hơn nữa. Trong thực tế, nhân viên đang cung cấp các lời nhắc với thông tin kinh doanh nhạy cảm cao, bao gồm PII của khách hàng, tài sản trí tuệ, dự báo tài chính và thậm chí cả mã nguồn.

Phơi lộ đầu ra – Các mô hình tạo sinh không chỉ tiêu thụ, mà còn tổng hợp. Một lời nhắc có thể vô tình rút ra thông tin từ các tập dữ liệu khác nhau và tiết lộ chúng cho người dùng mà không có quyền truy cập phù hợp. Trong một số trường hợp, đầu ra thậm chí có thể “ảo giác” dữ liệu trông có vẻ hợp pháp nhưng chứa các mảnh của tài liệu đào tạo nhạy cảm thực sự.

Các công cụ GenAI hoạt động tốt hơn khi chúng có ngữ cảnh cho nhiệm vụ tại tay. Do đó, không chỉ GenAI tiêu thụ thông tin hiện có, mà người dùng cũng tạo ra dữ liệu mới để hướng dẫn nó dưới dạng các lời nhắc chi tiết, dài dòng ghi lại ngữ cảnh kinh doanh, quy trình nội bộ và thông tin nhạy cảm hoặc kinh doanh quan trọng khác.

Khả năng truy cập mà không có sự giám sát – Các hệ thống doanh nghiệp truyền thống yêu cầu quy trình tiếp nhận nhà cung cấp và việc cấp phát tài nguyên, quyền truy cập của bộ phận IT. Ngày nay, GenAI được nhúng mọi nơi – trong các bộ Microsoft Office, trình duyệt, công cụ trò chuyện và nền tảng SaaS. Nhân viên có thể áp dụng nó ngay lập tức, bỏ qua quản trị hoàn toàn. Khả năng truy cập không rào cản này thúc đẩy “AI bóng tối”, và mỗi lần sử dụng không được phép của GenAI là một sự kiện đánh cắp dữ liệu ra ngoài tiềm năng xảy ra vô hình, theo quy mô và ngoài phạm vi quản trị của doanh nghiệp.

Rủi ro chuỗi cung ứng cấp hai – Một nhà cung cấp có thể xuất hiện an toàn, nhưng họ thường phụ thuộc vào các nhà thầu phụ như nhà chủ trì đám mây, dịch vụ chú thích hoặc phòng thí nghiệm AI của bên thứ ba. Mỗi nhà thầu phụ này lại giới thiệu các thỏa thuận cấp phép người dùng cuối (EULA) và chính sách riêng. Dữ liệu kinh doanh nhạy cảm có thể lan truyền qua nhiều tay vô hình, nhưng trách nhiệm vẫn nằm hoàn toàn với doanh nghiệp. Ví dụ, một doanh nghiệp có thể có một nhà cung cấp đã hoàn thành quá trình cấp phép của họ, nhưng nhà cung cấp đó hiện đang sử dụng một công cụ GenAI có thể cho phép dữ liệu của doanh nghiệp được sử dụng làm dữ liệu đào tạo, với những tác động đáng kể về hạ nguồn.

Khoảng trống quản trị trong dữ liệu đào tạo – Một khi dữ liệu vào một mô hình AI, việc kiểm soát hiệu quả kết thúc. Doanh nghiệp không thể dễ dàng thu hồi hoặc quản lý cách thông tin của họ được sử dụng. Kiến thức độc quyền có thể tồn tại và sau đó xuất hiện trong đầu ra lâu sau khi nguồn gốc của nó đã bị quên. Chúng tôi chưa từng gặp bất kỳ công cụ GenAI nào cho phép yêu cầu xóa thông tin nó đã tiêu thụ, tương tự như những gì được thấy trong các quy định về quyền riêng tư như Quy định Bảo vệ Dữ liệu Chung (GDPR) hoặc Đạo luật Quyền riêng tư của Người tiêu dùng California (CCPA). Việc thực hiện các quy trình như vậy khó có khả năng xảy ra cho đến khi quy định thúc đẩy sự thay đổi.

Rủi ro mã ứng dụng – AI đang ngày càng viết mã code cho các hệ thống kinh doanh. Các nhà phát triển sử dụng công cụ GenAI như Microsoft Copilot để tạo mã có thể vô tình giới thiệu các thành phần phụ thuộc không an toàn, lan truyền các lỗ hổng hoặc nhúng mã dưới các giấy phép nguồn mở mâu thuẫn. Một khi được triển khai, những điểm yếu này trở thành một phần của chuỗi cung ứng phần mềm.

Giải quyết rủi ro GenAI

GenAI đã được nhúng trong các quy trình làm việc của doanh nghiệp, vì vậy câu hỏi cho các doanh nghiệp không phải là liệu họ có nên áp dụng nó hay không, mà là làm thế nào để áp dụng nó một cách có trách nhiệm. Việc áp dụng GenAI mà không có quản trị rủi ro có thể dẫn đến các vi phạm tốn kém, phạt quy định và thiệt hại về danh tiếng. Nhưng việc chặn nó chỉ thúc đẩy nhân viên sử dụng các giải pháp không được phép. Con đường duy nhất phía trước là việc trao quyền được bao quanh bởi khả năng hiển thị và kiểm soát.

Quản trị GenAI đòi hỏi khả năng hiển thị dựa trên ngữ cảnh không chỉ vào dữ liệu mà doanh nghiệp có, nơi nó sống và ai có quyền truy cập vào nó, mà còn vào cách GenAI được sử dụng. Doanh nghiệp cần thấy được các công cụ nào đang được truy cập, các lời nhắc nào đang được nhập và liệu dữ liệu nhạy cảm có đang rời khỏi môi trường của họ hay không. Từ đó, họ có thể áp dụng các kiểm soát phù hợp để theo dõi các lời nhắc và đầu ra theo thời gian thực, đánh dấu các phiên rủi ro hoặc luồng dữ liệu bất thường, chặn các công cụ không được phép, lọc các lời nhắc nhạy cảm trước khi chúng rời đi, làm ẩn danh dữ liệu nhạy cảm khi nó được nhập vào các lời nhắc và thực thi các hạn chế dựa trên vai trò đối với các thông tin được thúc đẩy bởi AI.

GenAI là một lớp rủi ro và cơ hội hoàn toàn mới cho doanh nghiệp. Quản lý nó đòi hỏi một tư duy rằng bảo mật không phải là phanh đối với sự đổi mới, mà là nền tảng làm cho nó an toàn.

Tiến sĩ Shashanka là Giám đốc khoa học và đồng sáng lập Concentric. Trước khi gia nhập Concentric, Tiến sĩ Shashanka giữ chức Giám đốc điều hành nhóm Khoa học dữ liệu và Học máy tại Charles Schwab. Ông đồng sáng lập PetaSecure và giữ chức Giám đốc khoa học tại đây trước khi công ty được Niara mua lại.

Lane Sullivan là Phó Chủ tịch Cấp cao kiêm Giám đốc An toàn Thông tin và Chiến lược tại Concentric AI. Ông lãnh đạo chương trình an ninh mạng toàn cầu của công ty và góp phần định hướng chiến lược sản phẩm nhằm tăng cường bảo mật dữ liệu doanh nghiệp và quản trị AI. Trước đó, Lane giữ chức Phó Chủ tịch Cấp cao kiêm Giám đốc An toàn Thông tin tại Magellan Health, tập trung vào việc tuân thủ trong một môi trường chịu sự quản lý pháp lý chặt chẽ. Kinh nghiệm của ông còn bao gồm lãnh đạo chương trình an ninh mạng trị giá nhiều triệu đô la tại Ingram Content Group và phụ trách hạ tầng tại C&S Wholesale Grocers. Các vai trò lãnh đạo trước đây của Lane gồm quản lý hoạt động và công nghệ tại JT Investments, cùng công việc tại Basin Home Health & Hospice Inc., nơi đạt được những bước tiến đáng kể về CNTT y tế. Lane có bằng thạc sĩ về bảo mật hệ thống máy tính và thông tin của Western Governors University, bổ sung cho bằng cử nhân quản lý CNTT từ cùng trường.