Tại Sao Các Công Ty Còn Ngại Ngùng Với Trí Tuệ Nhân Tạo — Và Làm Thế Nào Để Triển Khai Nó Một Cách An Toàn

Trí tuệ nhân tạo đã làm nên một cơn bão trên toàn thế giới. Trong khi một số tổ chức đã áp dụng sớm, nhiều công ty đã采 một cách tiếp cận thận trọng hơn — lo lắng về vấn đề riêng tư, tuân thủ và các vấn đề hoạt động vẫn còn tồn tại cho đến ngày nay.

Tôi đã làm việc trên hàng trăm dự án triển khai các công cụ bảo mật được hỗ trợ bởi trí tuệ nhân tạo và đã thấy một mô hình quen thuộc được lặp lại. Những người ủng hộ mang lại sự hào hứng ban đầu. Các dự án thử nghiệm cho thấy hứa hẹn. Sau đó, các cuộc tranh luận nội bộ, xem xét pháp lý và cuối cùng là một sự chậm lại khi các tổ chức chìm vào tình trạng phân tích quá mức. Mặc dù tiềm năng khổng lồ của trí tuệ nhân tạo trong việc chuyển đổi các hoạt động bảo mật, nhiều công ty vẫn còn do dự trong việc áp dụng nó một cách toàn diện.

Trong lĩnh vực bảo mật, sự thận trọng thường là bản năng đúng. Nhưng việc trì hoãn việc triển khai trí tuệ nhân tạo sẽ không ngăn chặn được các mối đe dọa được hỗ trợ bởi trí tuệ nhân tạo đang ngày càng tăng về quy mô và tần suất. Thách thức thực sự là làm thế nào để áp dụng trí tuệ nhân tạo một cách an toàn, có chủ ý và không ảnh hưởng đến niềm tin.

Dưới đây là những gì tôi đã học được từ tiền tuyến — và những gì tôi khuyên các nhà lãnh đạo bảo mật nên làm để tiến bước với sự tự tin.

1. Vấn Đề Tin Cậy Dữ Liệu

Chướng ngại vật đầu tiên và lớn nhất là quản lý dữ liệu. Nhiều công ty sợ rằng dữ liệu nhạy cảm có thể bị rò rỉ, bị lạm dụng hoặc — tồi tệ nhất — được sử dụng để đào tạo một mô hình có lợi cho đối thủ cạnh tranh. Các vụ vi phạm bảo mật nổi tiếng và các đảm bảo mập mờ của nhà cung cấp chỉ làm tăng thêm những nỗi sợ hãi này.

Nó không phải là sự hoang tưởng. Khi bạn đang xử lý thông tin cá nhân của khách hàng, tài sản trí tuệ hoặc dữ liệu được quy định, việc chuyển giao nó cho một bên thứ ba có thể cảm thấy như mất kiểm soát. Và cho đến khi các nhà cung cấp làm tốt hơn việc làm rõ các chính sách của họ xung quanh phân tách dữ liệu, lưu giữ, tham gia của bên thứ tư và đào tạo mô hình, việc áp dụng sẽ vẫn còn thận trọng.

Đây là nơi quản trị trở nên quan trọng. Các CISO nên đánh giá các nhà cung cấp bằng cách sử dụng các khuôn khổ mới nổi như Khuôn khổ Quản lý Rủi ro Trí tuệ Nhân tạo của NIST hoặc ISO/IEC 42001, cung cấp hướng dẫn thực tế về niềm tin, minh bạch và trách nhiệm giải trình trong các hệ thống trí tuệ nhân tạo.

2. Bạn Không Thể Cải Thiện Điều Bạn Không Đo Lường

Một chướng ngại vật khác là thiếu các chỉ số cơ bản. Nhiều công ty không thể định lượng hiệu suất hiện tại, điều này khiến việc chứng minh ROI của các công cụ trí tuệ nhân tạo gần như không thể. Làm thế nào bạn có thể tuyên bố một lợi ích hiệu quả 40% nếu không ai theo dõi thời gian thực hiện nhiệm vụ trước khi tự động hóa?

Cho dù đó là thời gian trung bình để phát hiện (MTTD), tỷ lệ dương tính giả, hay giờ làm việc của nhà phân tích được tiết kiệm, các tổ chức cần bắt đầu bằng cách đo lường các quy trình hiện tại. Nếu không có dữ liệu này, trường hợp cho các công cụ trí tuệ nhân tạo vẫn chỉ là giai thoại — và các nhà tài trợ điều hành sẽ không phê duyệt các sáng kiến quy mô lớn mà không có số liệu thực, có thể bảo vệ.

Bắt đầu theo dõi các KPI chính ngay bây giờ, bao gồm:

• Thời gian trung bình để phát hiện/phản ứng (MTTD/MTTR)
• Giảm thiểu các dương tính giả, âm tính giả và số lượng vé
• Giờ làm việc của nhà phân tích được tiết kiệm cho mỗi sự cố
• Cải thiện phạm vi bảo vệ (ví dụ: các điểm yếu được quét và khắc phục)
• Các sự cố được giải quyết mà không cần nâng cấp

Những chỉ số cơ bản này sẽ trở thành xương sống của chiến lược chứng minh trí tuệ nhân tạo của bạn.

3. Khi Các Công Cụ Hoạt Động Quá Tốt

Đúng là một trong những lý do việc áp dụng trí tuệ nhân tạo bị chậm lại là vì một số công cụ hoạt động quá tốt —暴露 nhiều rủi ro hơn tổ chức sẵn sàng xử lý.

Các nền tảng thông tin về mối đe dọa tiên tiến, các công cụ giám sát web tối và các giải pháp khả năng hiển thị được hỗ trợ bởi LLM thường tiết lộ thông tin đăng nhập bị đánh cắp, tên miền giống hệt hoặc các điểm yếu chưa được phát hiện trước đó. Thay vì tạo ra sự rõ ràng, khả năng hiển thị quá mức này có thể tạo ra một vấn đề mới: Chúng ta bắt đầu từ đâu?

Tôi đã thấy các đội vô hiệu hóa các cuộc quét tiên tiến vì số lượng phát hiện tạo ra sự khó chịu về chính trị hoặc ngân sách. Khả năng hiển thị tốt hơn đòi hỏi sự ưu tiên tốt hơn — và sẵn sàng đối mặt với các vấn đề một cách thẳng thắn.

4. Được Khóa Vào Các Hợp Đồng Legacy

Ngay cả khi các công cụ tốt hơn có sẵn, nhiều công ty vẫn bị khóa vào các thỏa thuận nhiều năm với các nhà cung cấp legacy. Một số hợp đồng này mang lại các hình phạt tài chính quá lớn đến mức việc chuyển đổi giữa kỳ là không thể.

Bảo mật email là một trường hợp điển hình. Các giải pháp hiện đại hiện cung cấp khả năng phát hiện mối đe dọa được hỗ trợ bởi trí tuệ nhân tạo, mô hình hóa hành vi và khả năng phục hồi tích hợp cho các môi trường hybrid. Nhưng nếu nhà cung cấp hiện tại của bạn chưa theo kịp và bạn bị ràng buộc bởi một thỏa thuận năm năm, bạn cơ bản bị đóng băng cho đến khi hợp đồng kết thúc.

Nó không chỉ là về công nghệ. Nó là về thời gian, mua sắm và lập kế hoạch chiến lược.

5. Sự Phát Triển Của Trí Tuệ Nhân Tạo Bóng Tối

Việc áp dụng trí tuệ nhân tạo không chỉ xảy ra từ trên cao xuống — nó xảy ra mọi nơi, thường mà không có kiến thức của bảo mật. Nghiên cứu của chúng tôi cho thấy hơn 85% nhân viên đã sử dụng các công cụ trí tuệ nhân tạo như ChatGPT, Copilot và Bard. (không kể DeepSeek và TikTok!)

Không có sự giám sát thích hợp, nhân viên có thể nhập dữ liệu nhạy cảm vào các công cụ công cộng, dựa vào đầu ra bị ảo hóa hoặc vô tình vi phạm các chính sách của công ty. Đó là một cơn ác mộng về tuân thủ và bảo vệ dữ liệu, và việc giả vờ nó không xảy ra không giải quyết được vấn đề.

Các nhà lãnh đạo bảo mật cần phải có một lập trường chủ động bằng cách:

• Thiết lập các chính sách sử dụng chấp nhận được
• Chặn các ứng dụng trí tuệ nhân tạo không được phê duyệt khi cần và chuyển hướng người dùng đến các công cụ được ủy quyền
• Triển khai các nền tảng trí tuệ nhân tạo an toàn được phê duyệt cho sử dụng nội bộ
• Đào tạo nhân viên về việc sử dụng trí tuệ nhân tạo có trách nhiệm

Lưu ý trường: Các chính sách sử dụng trí tuệ nhân tạo sẽ không thay đổi việc sử dụng. Bạn không thể thực thi những gì bạn không biết, vì vậy bước đầu tiên là lượng hóa việc sử dụng, sau đó bật công tắc thực thi.

6. Việc Outsourcing Mang Lại Các Rủi Ro Riêng

Ít có công ty có cơ sở hạ tầng để xây dựng và lưu trữ các mô hình lớn trong nhà. Điều đó có nghĩa là việc outsourcing thường là con đường duy nhất có thể — nhưng nó mang lại các rủi ro của bên thứ ba và chuỗi cung ứng mà các CISO quá quen thuộc.

Các sự kiện như SolarWinds, Kaseya và sự cố gần đây của Snowflake nhấn mạnh cách tin tưởng các đối tác bên ngoài mà không có khả năng hiển thị có thể dẫn đến các lỗ hổng bảo mật lớn. Khi bạn outsourcing cơ sở hạ tầng trí tuệ nhân tạo, bạn sẽ thừa hưởng tư thế bảo mật của nhà cung cấp — tốt hay xấu.

Nó không đủ để chỉ tin tưởng một thương hiệu. Yêu cầu sự rõ ràng về:

• Chu kỳ sống của mô hình và tần suất cập nhật
• Các giao thức phản ứng sự cố
• Các biện pháp kiểm soát bảo mật và lịch sử tuân thủ của nhà cung cấp
• Các biện pháp cách ly dữ liệu và kiểm soát thuê bao

7. Bề Mặt Tấn Công Của Trí Tuệ Nhân Tạo Đang Mở Rộng

Khi các tổ chức áp dụng trí tuệ nhân tạo, họ cũng phải chuẩn bị cho các vectơ tấn công cụ thể của trí tuệ nhân tạo. Các kẻ tấn công đang thử nghiệm với:

• Độc tố mô hình (thay đổi tinh vi dữ liệu đào tạo)
• Tiêm lệnh (manipulating hành vi LLM)
• Đầu vào đối lập (bypassing phát hiện)
• Khai thác ảo hóa (lừa người dùng tin vào đầu ra sai)

Những điều này không phải là lý thuyết. Chúng là thực và đang phát triển. Khi các nhà bảo vệ áp dụng trí tuệ nhân tạo, họ cũng phải thích nghi với các chiến lược tấn công đỏ, giám sát và phản ứng để tính đến bề mặt tấn công mới và độc đáo này.

8. Con Người Và Quá Trình Có Thể Là Chướng Ngại Vật Cổ

Một trong những thách thức bị bỏ qua nhất là sự sẵn sàng của tổ chức. Các công cụ trí tuệ nhân tạo thường đòi hỏi sự thay đổi trong các quy trình làm việc, kỹ năng và tâm trạng.

Các nhà phân tích cần hiểu khi nào nên tin tưởng trí tuệ nhân tạo, khi nào nên thách thức nó và cách nâng cấp hiệu quả. Các nhà lãnh đạo cần tích hợp trí tuệ nhân tạo vào các quy trình ra quyết định mà không tự động hóa rủi ro một cách mù quáng.

Đào tạo, sổ tay và quản lý thay đổi phải phát triển cùng với công nghệ. Việc áp dụng trí tuệ nhân tạo không chỉ là một sáng kiến công nghệ. Đó là một sáng kiến chuyển đổi con người.

Vậy Chúng Ta Có Thể Làm Gì?

Mặc dù có những thách thức, tôi tin chắc rằng lợi ích của trí tuệ nhân tạo trong bảo mật vượt xa rủi ro — nếu được thực hiện đúng. Dưới đây là cách tôi tư vấn cho các tổ chức để tiến bước:

• Bắt đầu từ nhỏ và thử nghiệm nghiêm ngặt
• Chọn một trường hợp sử dụng có phạm vi đo lường được. Chạy các thử nghiệm được kiểm soát. Xác thực hiệu suất. Xây dựng niềm tin với dữ liệu, không phải với sự cường điệu.
• Đưa Pháp lý, Rủi ro và Bảo mật vào sớm
• Đừng chờ đến giai đoạn hợp đồng. Hãy đưa pháp lý và tuân thủ vào để xem xét các điều khoản xử lý dữ liệu, rủi ro quy định và ảnh hưởng của chuỗi cung ứng từ sớm.

Đo Lường Mọi Thứ

Theo dõi KPI trước và sau khi triển khai. Tạo các bảng điều khiển nói bằng cả ngôn ngữ bảo mật và kinh doanh. Các chỉ số quyết định việc tài trợ cho trí tuệ nhân tạo.

Chọn Các Đối Tác Có Bằng Chứng Thực Tế Của Các Dự Án Thành Công

Nhìn vượt ra ngoài các bản demo. Yêu cầu tham chiếu. Hỏi về hỗ trợ sau bán hàng, độ phức tạp của triển khai và kết quả trong các môi trường như của bạn.

Vậy Tiếp Theo Là Gì? Các Trường Hợp Sử Dụng Mới Đáng Chú Ý

Chúng ta vẫn còn trong giai đoạn đầu của hành trình trí tuệ nhân tạo trong bảo mật. Các CISO hướng tới tương lai đang khám phá:

• Phi công trí tuệ nhân tạo cho Quản lý Tường lửa, GRC và tự động hóa tuân thủ
• Sử dụng các nguồn cấp dữ liệu mối đe dọa được tăng cường bởi trí tuệ nhân tạo để tăng tốc độ phản ứng với mối đe dọa zero-day và độ chính xác
• Thử nghiệm tấn công đỏ và mô phỏng tấn công
• Cơ sở hạ tầng đa nhà cung cấp tự chữa lành
• Kiểm soát danh tính dựa trên rủi ro được hỗ trợ bởi dữ liệu hành vi

Những trường hợp sử dụng này đang chuyển từ các phòng thí nghiệm đổi mới sang sản xuất. Các tổ chức xây dựng cơ bắp ngay bây giờ sẽ được chuẩn bị tốt hơn để tận dụng lợi thế.

Suy Nghĩ Cuối Cùng: Trì Hoãn Không Phải Là Phòng Thủ

Trí tuệ nhân tạo đã có mặt và các mối đe dọa được hỗ trợ bởi trí tuệ nhân tạo cũng vậy. Càng chờ đợi, bạn sẽ càng mất nhiều lợi thế. Nhưng điều này không có nghĩa là bạn nên lao vào một cách mù quáng.

Với việc lập kế hoạch cẩn thận, quản trị minh bạch và các đối tác phù hợp, tổ chức của bạn có thể áp dụng trí tuệ nhân tạo một cách an toàn — tăng cường khả năng mà không hy sinh kiểm soát.

Tương lai của bảo mật là được tăng cường. Câu hỏi duy nhất là liệu bạn sẽ dẫn đầu hay tụt lại phía sau.