Sử dụng Trí tuệ nhân tạo sinh (Generative AI): Tìm hiểu về các hàm ý an ninh mạng của các công cụ Trí tuệ nhân tạo sinh

Nó là điều công bằng khi nói rằng trí tuệ nhân tạo sinh đã thu hút sự chú ý của mọi phòng họp và lãnh đạo kinh doanh. Một công nghệ từng là một công nghệ ngoại vi khó sử dụng, giờ đây đã được mở rộng nhờ vào các ứng dụng như ChatGPT hoặc DALL-E. Chúng ta đang chứng kiến sự áp dụng rộng rãi trí tuệ nhân tạo sinh trên tất cả các ngành và độ tuổi khi nhân viên tìm cách tận dụng công nghệ này để có lợi thế.

Một cuộc khảo sát gần đây cho thấy 29% người thuộc thế hệ Z, 28% người thuộc thế hệ X và 27% người thuộc thế hệ Millennials hiện đang sử dụng các công cụ trí tuệ nhân tạo sinh như một phần của công việc hàng ngày. Vào năm 2022, việc áp dụng trí tuệ nhân tạo sinh trên quy mô lớn là 23%, và con số này dự kiến sẽ tăng gấp đôi lên 46% vào năm 2025.

Trí tuệ nhân tạo sinh là một công nghệ mới và đang phát triển nhanh, sử dụng các mô hình được đào tạo để tạo ra nội dung gốc ở nhiều hình thức, từ văn bản và hình ảnh đến video, âm nhạc và thậm chí mã code. Sử dụng các mô hình ngôn ngữ lớn (LLM) và tập dữ liệu khổng lồ, công nghệ này có thể tạo ra nội dung độc đáo gần như không thể phân biệt với công việc của con người, và trong nhiều trường hợp, nó chính xác và hấp dẫn hơn.

Tuy nhiên, trong khi các doanh nghiệp đang ngày càng sử dụng trí tuệ nhân tạo sinh để hỗ trợ hoạt động hàng ngày, và nhân viên đã nhanh chóng áp dụng, tốc độ áp dụng và thiếu quy định đã gây ra những lo ngại đáng kể về an ninh mạng và tuân thủ quy định.

Theo một khảo sát của dân số chung, hơn 80% người dân lo lắng về các rủi ro an ninh mạng do ChatGPT và trí tuệ nhân tạo sinh gây ra, và 52% những người được hỏi muốn phát triển trí tuệ nhân tạo sinh bị tạm dừng để quy định có thể theo kịp. Quan điểm rộng lớn hơn này cũng được các doanh nghiệpเอง lặp lại, với 65% lãnh đạo CNTT cấp cao không sẵn sàng chấp nhận việc truy cập không ma sát vào các công cụ trí tuệ nhân tạo sinh do lo ngại về an ninh mạng.

Trí tuệ nhân tạo sinh vẫn là một điều chưa biết

Các công cụ trí tuệ nhân tạo sinh dựa trên dữ liệu. Các mô hình như những mô hình được sử dụng bởi ChatGPT và DALL-E được đào tạo trên dữ liệu bên ngoài hoặc dữ liệu tự do có sẵn trên internet, nhưng để có được kết quả tốt nhất từ các công cụ này, người dùng cần chia sẻ dữ liệu rất cụ thể. Thường khi sử dụng các công cụ như ChatGPT, người dùng sẽ chia sẻ thông tin kinh doanh nhạy cảm để có được kết quả chính xác và toàn diện. Điều này tạo ra nhiều điều chưa biết cho các doanh nghiệp. Rủi ro truy cập không được phép hoặc tiết lộ thông tin nhạy cảm là “được xây dựng” khi sử dụng các công cụ trí tuệ nhân tạo sinh có sẵn miễn phí.

Rủi ro này không nhất thiết là một điều xấu. Vấn đề là những rủi ro này chưa được khám phá một cách đầy đủ. Cho đến nay, chưa có phân tích tác động kinh doanh thực sự về việc sử dụng các công cụ trí tuệ nhân tạo sinh rộng rãi, và các khuôn khổ pháp lý và quy định toàn cầu về việc sử dụng trí tuệ nhân tạo sinh vẫn chưa đạt đến bất kỳ hình thức trưởng thành nào.

Quy định vẫn đang trong quá trình hoàn thiện

Các nhà quản lý đang đánh giá các công cụ trí tuệ nhân tạo sinh về mặt quyền riêng tư, an ninh dữ liệu và tính toàn vẹn của dữ liệu chúng tạo ra. Tuy nhiên, như thường thấy với công nghệ mới, cơ chế quản lý để hỗ trợ và điều chỉnh việc sử dụng chúng đang tụt lại phía sau. Trong khi công nghệ đang được sử dụng bởi các công ty và nhân viên rộng rãi, các khuôn khổ quản lý vẫn còn trên bảng vẽ.

Điều này tạo ra một rủi ro rõ ràng và hiện tại cho các doanh nghiệp, điều mà hiện tại không được coi trọng như nó nên được. Các giám đốc điều hành tự nhiên quan tâm đến cách các nền tảng này sẽ mang lại lợi ích kinh doanh đáng kể như cơ hội tự động hóa và tăng trưởng, nhưng các nhà quản lý rủi ro đang hỏi làm thế nào công nghệ này sẽ được quản lý, những ý nghĩa pháp lý có thể xảy ra và làm thế nào dữ liệu công ty có thể bị tổn hại hoặc lộ. Nhiều công cụ này có sẵn miễn phí cho bất kỳ người dùng nào có trình duyệt và kết nối internet, vì vậy trong khi họ chờ đợi quy định theo kịp, các doanh nghiệp cần bắt đầu suy nghĩ rất cẩn thận về “quy tắc nội bộ” của họ xung quanh việc sử dụng trí tuệ nhân tạo sinh.

Vai trò của CISO trong việc quản lý trí tuệ nhân tạo sinh

Với các khuôn khổ quản lý vẫn còn thiếu, các Giám đốc An ninh Thông tin (CISO) phải đứng lên và đóng vai trò quan trọng trong việc quản lý việc sử dụng trí tuệ nhân tạo sinh trong tổ chức của họ. Họ cần hiểu ai đang sử dụng công nghệ và với mục đích gì, cách bảo vệ thông tin doanh nghiệp khi nhân viên tương tác với các công cụ trí tuệ nhân tạo sinh, cách quản lý rủi ro an ninh mạng của công nghệ cơ bản và cách cân bằng các giao dịch an ninh với giá trị công nghệ mang lại.

Đây không phải là một nhiệm vụ dễ dàng. Các đánh giá rủi ro chi tiết nên được thực hiện để xác định cả kết quả tiêu cực và tích cực do việc triển khai công nghệ này trong một khả năng chính thức và cho phép nhân viên sử dụng các công cụ có sẵn miễn phí mà không có sự giám sát. Dữ liệu cho thấy tính chất dễ tiếp cận của các ứng dụng trí tuệ nhân tạo sinh, CISO sẽ cần suy nghĩ cẩn thận về chính sách công ty xung quanh việc sử dụng chúng. Liệu nhân viên có nên được phép tận dụng các công cụ như ChatGPT hoặc DALL-E để làm cho công việc của họ dễ dàng hơn? Hay liệu việc truy cập vào các công cụ này nên bị hạn chế hoặc điều chỉnh theo một cách nào đó, với các hướng dẫn và khuôn khổ nội bộ về cách chúng nên được sử dụng? Một vấn đề rõ ràng là ngay cả khi các hướng dẫn sử dụng nội bộ được tạo ra, do tốc độ phát triển của công nghệ, chúng có thể đã lỗi thời khi chúng được hoàn thiện.

Một cách giải quyết vấn đề này có thể là chuyển sự chú ý khỏi các công cụ trí tuệ nhân tạo sinh và tập trung vào phân loại và bảo vệ dữ liệu. Phân loại dữ liệu luôn là một khía cạnh quan trọng trong việc bảo vệ dữ liệu khỏi bị vi phạm hoặc泄露, và điều đó cũng đúng trong trường hợp sử dụng này. Nó liên quan đến việc gán một mức độ nhạy cảm cho dữ liệu, điều này quyết định cách nó nên được xử lý. Liệu nó nên được mã hóa? Liệu nó nên bị chặn để được chứa? Liệu nó nên được thông báo? Ai nên có quyền truy cập vào nó và nơi nào được phép chia sẻ? Bằng cách tập trung vào luồng dữ liệu, thay vì công cụ chính nó, CISO và các sĩ quan an ninh sẽ có cơ hội lớn hơn trong việc giảm thiểu một số rủi ro được đề cập.

Giống như mọi công nghệ mới, trí tuệ nhân tạo sinh vừa là một lợi ích vừa là một rủi ro cho các doanh nghiệp. Trong khi nó cung cấp các khả năng mới như tự động hóa và概念 hóa sáng tạo, nó cũng giới thiệu một số thách thức phức tạp xung quanh an ninh dữ liệu và bảo vệ tài sản trí tuệ. Trong khi các khuôn khổ quản lý và pháp lý vẫn đang được hoàn thiện, các doanh nghiệp phải tự mình đi trên dây giữa cơ hội và rủi ro, thực hiện các kiểm soát chính sách của riêng họ phản ánh tư thế an ninh tổng thể. Trí tuệ nhân tạo sinh sẽ thúc đẩy kinh doanh tiến về phía trước, nhưng chúng ta nên cẩn thận để giữ một tay trên bánh xe.