Khi Lạm Dụng Trí Tuệ Nhân Tạo Kích Hoạt Một Khủng Hoảng Doanh Nghiệp

Hầu hết các công ty thiếu chính sách để ngăn chặn thảm họa danh tiếng từ các công cụ trí tuệ nhân tạo

Recent khảo sát cho thấy chỉ khoảng 30 phần trăm các công ty đã thiết lập chính sách trí tuệ nhân tạo. Trong khi đó, 77 phần trăm nhân viên chia sẻ bí mật công ty trên ChatGPT, theo Báo cáo An ninh Dữ liệu Doanh nghiệp và SaaS Trí tuệ Nhân tạo năm 2025 của LayerX. Sự kết hợp này tạo ra điều kiện hoàn hảo cho các cuộc khủng hoảng danh tiếng.

Hầu hết các chính sách trí tuệ nhân tạo hiện có có xu hướng tập trung vào rủi ro kỹ thuật và tuân thủ. Chúng giải quyết các giao thức bảo mật dữ liệu, đánh giá nhà cung cấp và yêu cầu quy định. Những gì các chính sách này thường bỏ qua là một thảm họa quan hệ công chúng có thể xảy ra trong vài giờ do lạm dụng trí tuệ nhân tạo. Tại Red Banyan, chúng tôi tư vấn cho ngày càng nhiều tổ chức thông qua các cuộc khủng hoảng liên quan đến trí tuệ nhân tạo, và chúng tôi bắt đầu thấy một mẫu chung. Sự vi phạm kỹ thuật thường được chứa trong thời gian ngắn, nhưng thiệt hại đến danh tiếng, quan hệ khách hàng và niềm tin của các bên liên quan có thể kéo dài trong vài tháng hoặc thậm chí vài năm.

Vấn Đề Trí Tuệ Nhân Tạo Bóng Tối

Nguy cơ lớn nhất đến từ những gì các chuyên gia an ninh gọi là “Trí tuệ Nhân tạo Bóng Tối.” Đây là nơi nhân viên sử dụng tài khoản trí tuệ nhân tạo cá nhân không được phê duyệt cho các nhiệm vụ công việc, bỏ qua các kiểm soát bảo mật doanh nghiệp. Hầu hết thời gian, họ làm như vậy mà không hoàn toàn nhận thức được rủi ro.

Theo nghiên cứu của Cyberhaven nghiên cứu, 11 phần trăm dữ liệu mà nhân viên đưa vào ChatGPT là bí mật. Con số đó nên cảnh báo mọi CIO và nhà lãnh đạo truyền thông. Chúng tôi đang nói về mã nguồn, hợp đồng khách hàng, bản đồ sản phẩm chưa phát hành, dự báo tài chính và hồ sơ nhân viên chảy vào các hệ thống mà tổ chức không kiểm soát.

Làm Thế Nào Dữ Liệu Bị Tiết Lộ

Các kỹ sư phần mềm có thể sử dụng các công cụ trí tuệ nhân tạo như Claude hoặc ChatGPT để gỡ lỗi hoặc tối ưu hóa các đoạn mã. Vào năm 2023, các kỹ sư phần mềm của Samsung đã làm điều đó – họ tải mã nguồn nội bộ lên ChatGPT trong khi cố gắng gỡ lỗi các vấn đề. Sự rò rỉ mã bí mật buộc Samsung phải thực hiện các hạn chế toàn diện về việc sử dụng trí tuệ nhân tạo trên tất cả các bộ phận kỹ thuật.

Các chuyên gia tiếp thị và nhân sự thường sử dụng trí tuệ nhân tạo để hoàn thiện văn viết của họ. Họ tải lên các đề xuất dự thảo, tài liệu chính sách nội bộ và đôi khi thậm chí cả thỏa thuận khách hàng, yêu cầu trí tuệ nhân tạo cải thiện sự rõ ràng hoặc sửa lỗi ngữ pháp. Những tài liệu này thường chứa dự báo tài chính, điều khoản pháp lý hoặc kế hoạch chiến lược mà các đối thủ cạnh tranh sẽ tìm thấy có giá trị.

Các đội dịch vụ khách hàng thử nghiệm với các công cụ hiệu quả của trí tuệ nhân tạo đôi khi nhập các cuộc trò chuyện và vé hỗ trợ của khách hàng thực tế. Họ muốn trí tuệ nhân tạo tóm tắt các tương tác hoặc đề xuất các phản hồi tốt hơn. Khi những đầu vào này bao gồm tên khách hàng, thông tin liên lạc, chi tiết tài khoản hoặc lịch sử mua hàng, công ty đã có khả năng vi phạm các quy định về bảo mật như GDPR hoặc CCPA.

Các đội phát triển sản phẩm đang suy nghĩ về các tính năng mới có thể mô tả các khả năng chưa được công bố cho ChatGPT, hy vọng trí tuệ nhân tạo sẽ giúp tinh chỉnh ý tưởng của họ hoặc xác định các vấn đề tiềm ẩn. Những mô tả này có thể tiết lộ lợi thế cạnh tranh, đổi mới công nghệ hoặc chiến lược thị trường mà công ty muốn giữ bí mật cho đến khi ra mắt.

Tất cả thông tin này có thể được giữ lại bởi các mô hình ngôn ngữ lớn và thông báo cho các phản hồi trí tuệ nhân tạo cho người dùng khác trong tương lai.

Ví dụ, sau khi đội phát triển sản phẩm đã mô tả sản phẩm sắp tới của họ cho ChatGPT, một đối thủ cạnh tranh hoặc nhà báo có thể hỏi công cụ trí tuệ nhân tạo về các bản phát hành sắp tới của công ty đó. ChatGPT có thể tham khảo thông tin bí mật đã được chia sẻ và tiết lộ thông tin về một sản phẩm hoặc công nghệ mới mà công ty đã đầu tư nhiều tài nguyên để phát triển.

Làm Thế Nào Điều Này Trở Thành Một Khủng Hoảng Quan Hệ Công Chúng

Khi những sự cố này xuất hiện, chúng hiếm khi được giữ kín như các vấn đề CNTT. Dưới đây là những gì thường xảy ra:

Sự vi phạm được phát hiện, thường là bằng tai nạn hoặc thông qua cảnh báo của bên thứ ba. Bộ phận CNTT bắt đầu điều tra trong khi cố gắng đánh giá phạm vi. Trong khi đó, nếu sự cố liên quan đến dữ liệu khách hàng hoặc thông tin được quy định, các nghĩa vụ pháp lý yêu cầu tiết lộ. Một khi được tiết lộ, các phương tiện truyền thông bắt đầu đưa tin. Truyền thông xã hội khuếch đại câu chuyện. Khách hàng bắt đầu gọi với những lo ngại. Nhân viên lo lắng về bảo mật công việc và trách nhiệm pháp lý của họ.

Trong 24 đến 48 giờ, những gì bắt đầu như một sự cố kỹ thuật đã trở thành một cuộc khủng hoảng danh tiếng đầy đủ. Công ty cần giải thích cho nhiều đối tượng khác nhau về cách điều này xảy ra, tại sao các biện pháp kiểm soát thất bại và những gì đang được thực hiện để ngăn chặn sự tái diễn. Nếu công ty chưa chuẩn bị cho kịch bản này, phản hồi thường chậm, không nhất quán hoặc phòng thủ. Mỗi bước sai lầm kéo dài cuộc khủng hoảng và làm sâu sắc thêm thiệt hại.

Xây Dựng Khung Phản Ứng Khủng Hoảng Cho Các Sự Cố Trí Tuệ Nhân Tạo

Các CIO cần hợp tác với các đội truyền thông và pháp lý để xây dựng các giao thức phản ứng khủng hoảng cụ thể cho các sự cố trí tuệ nhân tạo. Các biện pháp kiểm soát kỹ thuật và chính sách quan trọng, nhưng chúng không đủ nếu không có kế hoạch quản lý các hậu quả truyền thông khi điều gì đó sai sót.

Dưới đây là sáu bước có thể thực hiện để bắt đầu quá trình này:

1. Thiết lập đường dẫn leo thang rõ ràng. Khi một sự cố liên quan đến trí tuệ nhân tạo được phát hiện, ai sẽ được thông báo ngay lập tức? Bộ phận CNTT, Pháp lý, Truyền thông và cấp điều hành nên tất cả được thông báo nhanh chóng. Tạo một cây quyết định xác định khi nào nên kích hoạt giao thức khủng hoảng dựa trên loại và độ nhạy của dữ liệu bị lộ.
2. Phát triển các mẫu phản hồi. Soạn thảo trước các tuyên bố và tài liệu Q&A cho các kịch bản sai sót trí tuệ nhân tạo phổ biến. Những điều này nên giải quyết việc lạm dụng của nhân viên, vấn đề bảo mật của nhà cung cấp và sự lộ lọt dữ liệu không cố ý. Việc có các mẫu sẵn cho phép phản hồi nhanh hơn và nhất quán hơn khi thời gian là quan trọng.
3. Đào tạo người phát ngôn. Các giám đốc điều hành và nhân viên truyền thông cần được đào tạo truyền thông cụ thể về cách thảo luận về các sự cố trí tuệ nhân tạo. Công nghệ này phức tạp và đầy từ ngữ, điều này có thể khó khăn khi trả lời các câu hỏi từ các bên liên quan.
4. Giám sát các dấu hiệu cảnh báo sớm. Giám sát truyền thông xã hội nên bao gồm các từ khóa liên quan đến tổ chức và công cụ trí tuệ nhân tạo của bạn. Đôi khi dấu hiệu đầu tiên của vấn đề đến từ một nhân viên đăng trên LinkedIn hoặc một khách hàng khiếu nại trên Twitter về phản hồi được tạo bởi trí tuệ nhân tạo.
5. Thực hiện mô phỏng khủng hoảng. Các bài tập trên bàn về một kịch bản lộ lọt dữ liệu trí tuệ nhân tạo giúp các đội hiểu vai trò của họ và xác định các khoảng trống trong kế hoạch phản ứng. Những cuộc模 phỏng này nên bao gồm CNTT, Pháp lý, Truyền thông, Nhân sự và lãnh đạo điều hành.
6. Xây dựng mối quan hệ trước khi bạn cần chúng. Thiết lập các kết nối với các công ty truyền thông khủng hoảng, các chuyên gia an ninh mạng có thể cung cấp xác nhận của bên thứ ba và tư vấn pháp lý có kinh nghiệm trong các vấn đề liên quan đến trí tuệ nhân tạo. Khi một cuộc khủng hoảng xảy ra, bạn muốn có các cố vấn đáng tin cậy có thể huy động ngay lập tức.

Con Đường Tiếp Theo

Khoảng cách giữa sự áp dụng trí tuệ nhân tạo và quản trị trí tuệ nhân tạo tiếp tục mở rộng. Nhân viên có quyền truy cập dễ dàng vào các công cụ mạnh mẽ có thể tạo ra rủi ro danh tiếng đáng kể. Các CIO truyền thống đã tập trung vào khía cạnh công nghệ của quản lý rủi ro trí tuệ nhân tạo. Tuy nhiên, khía cạnh danh tiếng của các sự cố trí tuệ nhân tạo đòi hỏi sự chú ý và chuẩn bị tương đương.

Câu hỏi không phải là liệu tổ chức của bạn sẽ phải đối mặt với một cuộc khủng hoảng liên quan đến trí tuệ nhân tạo hay không. Với tốc độ áp dụng hiện tại và sự phổ biến của Trí tuệ Nhân tạo Bóng Tối, câu hỏi là khi nào. Các công ty chuẩn bị ngay bây giờ, với các chính sách giải quyết cả rủi ro kỹ thuật và danh tiếng, sẽ vượt qua những sự cố này tốt hơn nhiều so với những công ty bị bắt quả tang không chuẩn bị.