Liat Hayun, Phó Chủ tịch Quản lý Sản phẩm và Nghiên cứu tại Tenable – Loạt Phỏng vấn

Liat Hayun là Phó Chủ tịch Quản lý Sản phẩm và Nghiên cứu tại Tenable Cloud Security. Trước khi gia nhập Tenable, Liat đã đồng sáng lập và từng là Giám đốc điều hành của Eureka Security, một công ty bảo mật dữ liệu được Tenable mua lại. Trước khi đồng sáng lập Eureka Security, Liat đã dành hơn một thập kỷ lãnh đạo các nỗ lực an ninh mạng tại Bộ Chỉ huy mạng của Israel và tại Palo Alto Networks (PANW ). Với tư cách là Phó Chủ tịch Quản lý Sản phẩm tại Palo Alto Networks, Liat đã lãnh đạo việc phát triển Cortex XDR và dịch vụ săn tìm mối đe dọa được quản lý của công ty.

Tenable là một công ty an ninh mạng của Mỹ, tập trung vào việc giúp các tổ chức xác định, hiểu, ưu tiên và khắc phục các điểm yếu bảo mật trên toàn bộ bề mặt tấn công kỹ thuật số. Công ty này được biết đến với nền tảng quản lý暴露 và các công cụ như máy quét điểm yếu Nessus, cho phép các doanh nghiệp có cái nhìn tổng quan về các mối đe dọa trên cơ sở hạ tầng CNTT, đám mây, OT / IoT và hệ thống nhận dạng, và thực hiện các hành động quyết định để giảm thiểu rủi ro ảnh hưởng đến kinh doanh. Các giải pháp của Tenable cung cấp việc khám phá liên tục, ưu tiên và thông tin về mối đe dọa để hỗ trợ quản lý rủi ro mạng một cách chủ động cho hàng chục nghìn khách hàng trên toàn thế giới.

Điều gì cơ bản làm cho các tác nhân AI tự động trở nên nguy hiểm hơn so với các mô hình AI truyền thống chỉ phản hồi các lệnh của người dùng, thay vì hoạt động độc lập?

Các tác nhân AI tự động thay đổi bản chất của rủi ro vì chúng có thể khởi xướng nhiệm vụ, truy cập hệ thống, đưa ra quyết định và tương tác với các dịch vụ khác mà không cần giám sát của con người.

Sự độc lập đó mở rộng cả tốc độ và quy mô của tác động tiềm tàng, làm tăng khả năng lộ dữ liệu, gián đoạn hoạt động và tổn thất tài chính. Một tác nhân AI có thể truy vấn các kho dữ liệu, kích hoạt các quy trình làm việc, gọi API hoặc sửa đổi cơ sở hạ tầng theo thời gian thực. Nếu bị cấu hình sai hoặc bị xâm phạm, nó có thể di chuyển ngang qua các hệ thống bằng cách sử dụng các quyền đã được cấp, thường nhanh hơn so với một người có thể phát hiện hoặc can thiệp.

Theo Báo cáo Rủi ro An ninh Mạng và Trí tuệ nhân tạo của Tenable năm 2026, 52% các tổ chức hiện có các danh tính phi con người với các quyền truy cập quá mức, và gần một nửa trong số đó đang không hoạt động, tạo ra sự truy cập không được quản lý rộng rãi trên các môi trường sản xuất. Điều đó có nghĩa là nhiều quy trình được thúc đẩy bởi AI đã có quyền truy cập mà chúng không sử dụng tích cực nhưng các kẻ tấn công có thể.

Các kẻ tấn công ngày càng khai thác vấn đề được gọi là vấn đề “Đại diện Bối rối”. Họ không cần phải xâm phạm chính tác nhân. Thay vào đó, họ lừa một tác nhân được ủy quyền thực hiện các hành động thay mặt cho họ, thường thông qua việc tiêm lệnh gián tiếp hoặc các đầu vào được thao túng. Tác nhân thực hiện yêu cầu bằng cách sử dụng các quyền hợp pháp của nó, hiệu quả là làm việc cho kẻ tấn công. Khi các hệ thống tự động kế thừa các quyền truy cập rộng rãi hoặc giả định các vai trò được đặc quyền quá mức, khoảng thời gian giữa việc cấu hình sai và khai thác hiệu quả là không tồn tại, tạo ra một khoảng trống暴露 AI không có giới hạn.

Nhiều doanh nghiệp đang thử nghiệm các tác nhân AI một cách không chính thức. Những bước cụ thể đầu tiên mà các đội an ninh nên thực hiện để đánh giá xem liệu các tác nhân AI có đang hoạt động bên trong môi trường của họ hay không?

Việc đóng khoảng trống暴露 AI bắt đầu với việc khám phá mở rộng ra ngoài các kho tài sản truyền thống. Giai đoạn thử nghiệm thường là giai đoạn nguy hiểm nhất vì các tổ chức không biết đầy đủ về AI đang được sử dụng, cách nó được cấu hình, hoặc quyền truy cập mà nó đã được cấp.

Các tác nhân AI hiếm khi sống trong một hệ thống duy nhất, rõ ràng được dán nhãn. Nhiều tác nhân hoạt động bên ngoài quản trị chính thức. Chúng xuất hiện trong các công cụ của nhà phát triển, tích hợp SaaS, quy trình làm việc tự động, tiện ích mở rộng trình duyệt và dịch vụ đám mây, tạo ra một triển khai phân tán làm tăng các điểm mù và hạn chế kiểm soát tập trung. Điều này đã trở nên phổ biến, vì hơn 70% các tổ chức đã tích hợp ít nhất một gói hoặc mô hình AI của bên thứ ba, thường nhúng AI sâu vào các ứng dụng và cơ sở hạ tầng với sự giám sát tập trung hạn chế.

Nghiên cứu gần đây về Clawdbot cho thấy rằng việc triển khai tác nhân thử nghiệm có thể tạo ra rủi ro nghiêm trọng khi các khả năng được triển khai trước khi các biện pháp kiểm soát an ninh hoặc tiêu chuẩn cấu hình được hiểu đầy đủ. Ngay cả sau khi thử nghiệm kết thúc và các tổ chức quyết định ứng dụng AI nào sẽ được áp dụng, họ vẫn cần có quản trị mạnh mẽ về cách các hệ thống đó được sử dụng, quyền truy cập mà chúng nắm giữ và cách chúng tương tác với các tài sản quan trọng.

Giai đoạn khám phá nên bắt đầu bằng cách thiết lập một danh mục thống nhất về nơi AI tồn tại trên các điểm cuối, cơ sở hạ tầng đám mây và bề mặt tấn công bên ngoài. Điều này bao gồm việc xác định các thư viện AI, tác nhân, API, dịch vụ mô hình và tích hợp của bên thứ ba, không chỉ là các hệ thống được triển khai nội bộ, mà còn là bất cứ thứ gì có thể truy cập được từ bên ngoài.

Tiếp theo, các đội phải ánh xạ cách các tác nhân đó được kết nối và dữ liệu chúng truy cập, các danh tính chúng sử dụng, quyền truy cập chúng nắm giữ và hệ thống nào chúng có thể tiếp cận. Tính minh bạch đòi hỏi ngữ cảnh vì rủi ro xuất phát từ các mối quan hệ.

Cuối cùng, sau khi thử nghiệm, các tổ chức nên xác định những kết nối nào tạo ra các đường dẫn có thể tiếp cận đến các tài sản quan trọng và đóng khoảng trống暴露 AI.

Làm thế nào rủi ro như các bề mặt kiểm soát暴露 hoặc các “kỹ năng” của bên thứ ba không được kiểm tra so với các mối đe dọa quen thuộc hơn như tấn công chuỗi cung ứng hoặc leo thang đặc quyền?

Các kỹ năng của bên thứ ba không được kiểm tra và các bề mặt kiểm soát暴露 mở rộng rủi ro tương tự như sự thỏa hiệp của chuỗi cung ứng và leo thang đặc quyền, nhưng với tốc độ, quy mô và kết nối được khuếch đại.

Các kỹ năng của tác nhân bên thứ ba hoạt động giống như các phụ thuộc của chuỗi cung ứng phần mềm, và bề mặt暴露 đã mang trọng lượng đáng kể. Tám mươi sáu phần trăm các tổ chức lưu trữ các gói mã của bên thứ ba có các điểm yếu về mức độ nghiêm trọng. Khi các thành phần này hoạt động trong các tác nhân AI tự động, việc thực thi trở nên liên tục và tự động, loại bỏ khoảng thời gian giữa việc xâm phạm và tác động.

Các bề mặt kiểm soát暴露 mở rộng lớp danh tính và truy cập của rủi ro bằng cách tạo ra các giao diện hoạt động mới mang theo các quyền truy cập được nâng cao. Mười tám phần trăm các tổ chức đã cho phép các dịch vụ AI giả định các vai trò được đặc quyền quá mức, cấp cho các hệ thống tự động phạm vi hoạt động rộng trên các môi trường. Các tác nhân AI liên kết những暴露 này thành một chuỗi hoạt động duy nhất. Một sự phụ thuộc dễ bị tấn công, các quyền truy cập quá mức và các giao diện暴露 kết hợp thành một đường dẫn tấn công có thể tiếp cận. Các tổ chức hoạt động trong một môi trường không có giới hạn lỗi, nơi暴露 và khai thác gần như tức thời.

Từ góc độ phòng thủ, “vệ sinh tốt” trông như thế nào đối với các tổ chức triển khai các tác nhân AI có quyền truy cập vào các hệ thống nội bộ hoặc dữ liệu nhạy cảm?

Vệ sinh tốt bắt đầu bằng cách đối xử với các tác nhân AI như các diễn viên số được đặc quyền với thẩm quyền thực sự trên các hệ thống và dữ liệu. Các tổ chức cần có tầm nhìn liên tục vào từng tác nhân, những gì nó làm và những gì nó có thể tiếp cận. Các đội nên thực thi nguyên tắc đặc quyền tối thiểu cho các danh tính máy và dịch vụ, loại bỏ quyền truy cập không hoạt động và giới hạn chặt chẽ các quyền truy cập. Mỗi tác nhân nên được dành riêng cho một loại nhiệm vụ cụ thể, với quyền truy cập và quyền hạn được giới hạn nghiêm ngặt trong chức năng đó.

Điều này quan trọng vì quyền truy cập không sử dụng là phổ biến. Gần một nửa số danh tính có quyền truy cập quá mức là không hoạt động, và hơn 70% vai trò thực thi AI mặc định vẫn không được sử dụng. Những điều kiện này tạo ra các đường dẫn leo thang sẵn sàng mang rủi ro mà không mang lại giá trị.

Các đội an ninh cũng cần hiểu các mối quan hệ trên cơ sở hạ tầng, chuỗi cung ứng phần mềm, và lớp danh tính. Việc ánh xạ những kết nối này sẽ tiết lộ các kết hợp暴露 độc hại, chẳng hạn như các tải trọng dễ bị tấn công có thể tiếp cận thông qua các tác nhân được đặc quyền quá mức với quyền truy cập vào dữ liệu nhạy cảm.

Vệ sinh mạnh mẽ cũng đòi hỏi quản trị liên tục. Các tổ chức phải theo dõi hành vi của tác nhân, kiểm soát các tích hợp, thực thi các rào cản dữ liệu và thường xuyên xác thực các quyền truy cập. Những thực hành này đóng khoảng trống暴露 AI và loại bỏ các đường dẫn tấn công có thể tiếp cận.

Các tổ chức có thể làm gì để bảo vệ các bề mặt tấn công AI một cách nhanh chóng mà không làm chậm lại sự đổi mới?

Các tổ chức có thể bảo vệ các bề mặt tấn công AI bằng cách giảm暴露 với tốc độ và chính xác.

Để làm điều đó, ưu tiên đầu tiên là xác định các hệ thống AI nào tạo ra các đường dẫn có thể tiếp cận đến các tài sản quan trọng. Hơn 80% các tổ chức chạy các tải trọng có các điểm yếu đã bị khai thác trong tự nhiên. Rủi ro đã tồn tại trong hầu hết các môi trường. Các đội an ninh cần tập trung vào các kết nối tạo ra tác động thực sự.

Tiếp theo, nhận ra rằng tự động hóa cho phép mở rộng quy mô. Khám phá liên tục, ưu tiên theo ngữ cảnh và khắc phục có hướng dẫn cho phép các đội giảm thiểu rủi ro trong khi duy trì tốc độ phát triển.

Trong khi các rào cản chính sách bảo vệ việc áp dụng, việc truy cập vừa kịp thời, luồng dữ liệu được theo dõi và các tích hợp được kiểm soát giúp các tổ chức quản lý hoạt động AI trong khi duy trì sự đổi mới.

Cùng nhau, những bước này thu hẹp khoảng trống暴露 AI bằng cách loại bỏ quyền truy cập rủi ro cao và các kết nối không an toàn. Việc giảm暴露 nhanh chóng bảo vệ các hệ thống trong khi cho phép việc áp dụng AI tiến triển.

Làm thế nào các CISO nên suy nghĩ về danh tính, quyền hạn và phạm vi khi cấp quyền truy cập cho các tác nhân AI vào các hệ thống sản xuất?

Các CISO nên đối xử với các tác nhân AI như các danh tính phi con người có thẩm quyền hoạt động trên các hệ thống và dữ liệu.

Các quyết định về quyền truy cập nên tập trung vào độ chính xác. Các quyền hạn nên được căn chỉnh với các nhiệm vụ cụ thể, vẫn thời gian và trải qua việc xem xét liên tục. Quyền truy cập quá mức mở rộng phạm vi và tăng tác động khi các hệ thống tương tác ở tốc độ máy.

Các lãnh đạo an ninh cũng cần có cái nhìn rõ ràng về phạm vi hiệu quả. Các quyền hạn, kết hợp với các đường dẫn mạng, quyền truy cập dữ liệu và tích hợp dịch vụ, xác định những gì một tác nhân có thể thực sự làm. Việc hiểu những mối quan hệ này sẽ tiết lộ sự暴露 tiềm tàng trước khi nó trở thành tác động.

Danh tính kết nối cơ sở hạ tầng, dữ liệu và ứng dụng trên khoảng trống暴露 AI. Thiết kế quyền hạn chặt chẽ hạn chế bán kính và duy trì kiểm soát. Khi khoảng thời gian từ việc phát hiện暴露 đến khai thác gần như bằng không, quản trị danh tính quyết định mức độ an toàn mà AI hoạt động trong sản xuất.

Liệu các tác nhân AI có buộc phải suy nghĩ lại các khuôn khổ an ninh hiện có, hay các mô hình hiện tại có thể được thích nghi để xử lý những rủi ro mới này?

Các nguyên tắc an ninh vẫn nhất quán, nhưng các mô hình hoạt động đang phát triển. Các tác nhân AI kết nối các hệ thống, danh tính và dữ liệu vào các môi trường động thay đổi liên tục và hoạt động ở tốc độ máy. Không giống như các vận hành viên con người, các tác nhân không áp dụng phán đoán vào các hành động của chúng hoặc phân biệt giữa các yêu cầu phù hợp và không phù hợp. Chúng thực thi dựa trên các lệnh và quyền hạn, điều này làm tăng tầm quan trọng của việc kiểm soát và quản trị nghiêm ngặt.

Rủi ro xuất phát từ các mối quan hệ trên cơ sở hạ tầng, chuỗi cung ứng phần mềm và lớp danh tính. Các tổ chức thừa hưởng rủi ro nhanh hơn so với các chu kỳ khắc phục có thể theo kịp. Việc triển khai tự động và khai thác tự động nén thời gian phản hồi và tăng áp lực hoạt động.

Các khuôn khổ an ninh cần tập trung vào việc giảm thiểu và hiển thị rủi ro. Các đội cần có tầm nhìn liên tục vào những gì tồn tại, cách các hệ thống kết nối và những đường dẫn nào dẫn đến các tài sản quan trọng.

Thử thách xác định là quản lý rủi ro liên kết trên khoảng trống暴露 AI. Các chương trình an ninh thành công bằng cách liên tục giảm thiểu rủi ro có thể tiếp cận và duy trì kiểm soát trên các môi trường phức tạp.

Nhìn về tương lai, những lĩnh vực nghiên cứu an ninh AI nào bạn tin là đáng được chú ý hơn khi các công cụ này chuyển từ thử nghiệm sang trọng yếu?

Một số lĩnh vực nghiên cứu sẽ định hình tương lai của an ninh AI.

Trước hết, sự phát triển của các hệ sinh thái danh tính phi con người đòi hỏi phải phân tích sâu hơn. Các tổ chức đang nhanh chóng mở rộng các danh tính máy hoạt động trên cơ sở hạ tầng, dữ liệu và dịch vụ. Việc hiểu các mẫu đặc quyền, hành vi và quản lý vòng đời sẽ là điều thiết yếu.

Thứ hai, nghiên cứu phải phát triển mô hình đường dẫn tấn công nhiều bước. Các hệ thống AI kết nối chuỗi cung ứng phần mềm, cơ sở hạ tầng đám mây và lớp danh tính. Việc ánh xạ cách các yếu tố này tương tác sẽ cải thiện dự đoán và ưu tiên rủi ro.

Thứ ba, quản trị việc ra quyết định tự động đòi hỏi sự tập trung nhiều hơn. Các đội an ninh cần có tầm nhìn vào cách các tác nhân truy cập, xử lý và chuyển giao dữ liệu nhạy cảm theo thời gian.

Cuối cùng, tốc độ khai thác tiếp tục tăng tốc. Việc nghiên cứu cách các kẻ tấn công và những người bảo vệ hoạt động ở tốc độ máy sẽ định hình các chiến lược phản hồi.

Tương lai an ninh phụ thuộc vào việc hiểu và giảm khoảng trống暴露 AI. Nghiên cứu phải tập trung vào việc kiểm soát rủi ro liên kết trên toàn bộ bề mặt tấn công.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Tenable.