Jeff Margolies, Chief Product và Strategy Officer tại Saviynt – Phỏng vấn Series

Jeff Margolies, Chief Product và Strategy Officer tại Saviynt, lãnh đạo quản lý sản phẩm, chiến lược doanh nghiệp, quan hệ đối tác công nghệ và phát triển doanh nghiệp, làm việc với khách hàng, đối tác và các nhóm trong toàn tổ chức để định hình tầm nhìn sản phẩm và lộ trình tăng trưởng lâu dài của công ty. Ông mang lại hơn 25 năm kinh nghiệm trong lĩnh vực danh tính và an ninh mạng, trước đây từng giữ vị trí Chief Strategy Officer tại Saviynt và từng giữ các vị trí lãnh đạo tại Mandiant, Deloitte và Accenture. Tại Mandiant, ông giám sát chiến lược, quan hệ đối tác chiến lược và phát triển doanh nghiệp, trong khi sự nghiệp trước đây của ông bao gồm giúp thành lập và mở rộng thực tiễn quản lý danh tính và truy cập của Accenture thành một tổ chức toàn cầu với hơn 700 chuyên gia. Margolies holds a bachelor’s degree in Optical Engineering từ Đại học Rochester và một bằng thạc sĩ về Electrical Engineering từ Đại học California, Berkeley.

Saviynt là một công ty an ninh danh tính được hỗ trợ bởi trí tuệ nhân tạo, tập trung vào việc giúp các doanh nghiệp quản lý và bảo mật truy cập trên người dùng, danh tính không phải của con người, máy móc, ứng dụng, cơ sở hạ tầng và các tác nhân trí tuệ nhân tạo. Nền tảng danh tính Saviynt của họ kết hợp quản lý danh tính, quản lý truy cập đặc biệt, quản lý truy cập ứng dụng, quản lý danh tính bên ngoài, bảo mật danh tính không phải của con người và quản lý tư thế bảo mật danh tính trong một nền tảng đám mây thống nhất được thiết kế cho môi trường đám mây, trên cơ sở, SaaS, IaaS và hỗn hợp. Công ty đã ngày càng định vị mình xung quanh nhu cầu của kỷ nguyên trí tuệ nhân tạo, bao gồm các công cụ để bảo mật các tác nhân trí tuệ nhân tạo, quản lý các quy trình tác nhân và cho phép các hoạt động danh tính ngôn ngữ tự nhiên thông qua các dịch vụ như Saviynt MCP Server trong AWS Marketplace.

Là Chief Product và Strategy Officer, bạn có một vị trí quan trọng để xem xét cách các yêu cầu bảo mật danh tính doanh nghiệp đang thay đổi. Làm thế nào sự gia tăng của các tác nhân trí tuệ nhân tạo đã thay đổi cách các tổ chức cần suy nghĩ về danh tính, truy cập và quản lý, và làm thế nào những thay đổi đó ảnh hưởng đến sự phát triển của Saviynt’s Agent Access Gateway và Intent-Aware Runtime Authorization?

Các tác nhân trí tuệ nhân tạo thay đổi bảo mật danh tính vì danh tính của con người và máy móc hoạt động theo những cách rất khác nhau. Nó không chỉ là quản lý người dùng đăng nhập vào các ứng dụng. Các tổ chức đang quản lý phần mềm có thể suy luận, đưa ra quyết định và hành động tự chủ trên các hệ thống. Tôi nghĩ về các tác nhân như thế hệ ứng dụng tiếp theo. Sau mainframe, client-server, web và ứng dụng SaaS, chúng ta đang bước vào kỷ nguyên của các ứng dụng tác nhân.

Các nguyên tắc cơ bản vẫn giống nhau. Các tổ chức cần biết ai sở hữu tác nhân, ai có thể sử dụng nó, các hệ thống nào nó có thể truy cập và hoạt động của nó được quản lý như thế nào. Danh tính máy móc thay đổi tốc độ và quy mô. Một người dùng doanh nghiệp có thể tạo ra một tác nhân trong vài phút, điều đó có nghĩa là quản lý phải di chuyển nhanh như vậy. Đó là lý do chúng tôi phát triển Agent Access Gateway và Intent-Aware Runtime Authorization — để giúp các doanh nghiệp áp dụng các tác nhân với các kiểm soát truy cập, trách nhiệm và rào cản từ đầu.

Các tác nhân trí tuệ nhân tạo đang nhanh chóng chuyển từ thử nghiệm sang môi trường sản xuất. Làm thế nào các tác nhân tự chủ thay đổi mô hình quản lý danh tính và truy cập truyền thống mà các doanh nghiệp đã dựa vào trong nhiều thập kỷ?

Quản lý danh tính và truy cập truyền thống được xây dựng xung quanh con người và phần mềm dự đoán. Một người dùng đã được xác thực, yêu cầu truy cập và thực hiện các hành động cụ thể trong các hệ thống được xác định. Chúng tôi hiểu rõ chu kỳ sống của danh tính con người trong bối cảnh này, bao gồm cách cấp phát truy cập. Các tác nhân trí tuệ nhân tạo giới thiệu một chu kỳ sống khác. Chúng có thể được tạo ra nhanh chóng, hành động liên tục, thích nghi trên các quy trình và tương tác với nhiều ứng dụng, API và nguồn dữ liệu với sự tự chủ nhiều hơn.

Các nguyên tắc danh tính cốt lõi vẫn áp dụng: mỗi danh tính cần xác thực, ủy quyền, quản lý và trách nhiệm. Tốc độ là rất khác. Thay vì một vài ứng dụng doanh nghiệp được xây dựng bởi các nhóm tập trung, các tổ chức có thể có hàng nghìn tác nhân được tạo ra bởi người dùng doanh nghiệp. Trên thực tế, 92% của CISO không có tầm nhìn đầy đủ vào các danh tính trí tuệ nhân tạo, và 95% nghi ngờ họ có thể phát hiện hoặc chứa đựng sự lạm dụng nếu nó xảy ra. Bảo mật danh tính phải phát triển để quyền sở hữu, kiểm soát truy cập, phê duyệt và giám sát được thiết lập tự động khi các tác nhân được tạo ra.

Nhiều tổ chức vẫn sử dụng các quyền và kiểm soát truy cập được thiết kế cho nhân viên và ứng dụng phần mềm truyền thống. Tại sao những cách tiếp cận đó không đủ khi đối phó với các tác nhân trí tuệ nhân tạo có thể suy luận, thích nghi và thực hiện hành động độc lập?

Ủy quyền truyền thống thường hỏi, “Liệu danh tính này được phép thực hiện hành động này?” Đó không còn đủ cho các tác nhân trí tuệ nhân tạo vì một tác nhân có thể có quyền kỹ thuật để thực hiện một việc gì đó, nhưng vẫn hành động ngoài ý định của người dùng.

Ví dụ, nếu người dùng yêu cầu một tác nhân “dọn dẹp” một cơ sở dữ liệu, tác nhân có thể giải thích đó là xóa các bản ghi. Nó có thể được ủy quyền để xóa các bản ghi đó, nhưng đó có thể không phải là những gì người dùng muốn. Với các tác nhân, các tổ chức cần đánh giá không chỉ liệu một hành động có được phép hay không, mà còn liệu nó có phù hợp với kế hoạch và ý định ban đầu đằng sau nhiệm vụ.

Saviynt gần đây đã giới thiệu Intent-Aware Runtime Authorization ™. Chính xác thì “intent-aware” ủy quyền có nghĩa là gì, và nó khác với các mô hình xác thực và ủy quyền truyền thống như thế nào?

Ủy quyền nhận thức ý định có nghĩa là đánh giá liệu các hành động của tác nhân có phù hợp với những gì con người dự định nó sẽ làm hay không. Mỗi tác nhân được tạo ra hoặc gửi đi để thực hiện một nhiệm vụ, và nhiệm vụ đó tạo ra bối cảnh cho những gì tác nhân nên và không nên làm.

Ủy quyền truyền thống đưa ra một quyết định nhị phân: liệu điều này được phép hay không? Ủy quyền nhận thức ý định thêm một lớp khác bằng cách hỏi liệu hành động có ý nghĩa trong bối cảnh của nhiệm vụ ban đầu. Nếu một tác nhân được yêu cầu lưu trữ dữ liệu cũ nhưng bắt đầu xóa các bản ghi hoạt động, điều đó có thể được phép về mặt kỹ thuật, nhưng nó không phù hợp với ý định của người dùng. Mục tiêu của ủy quyền nhận thức ý định thời gian chạy là quản lý các hành động của tác nhân trong thời gian thực dựa trên bối cảnh nhiệm vụ, chính sách và kết quả dự kiến.

Làm thế nào các doanh nghiệp có thể xác định liệu một tác nhân trí tuệ nhân tạo có nên được phép thực hiện một hành động cụ thể ngay cả khi nó có quyền truy cập kỹ thuật vào hệ thống cơ bản?

Nó bắt đầu với việc lập kế hoạch. Trước khi một tác nhân thực hiện hành động, các tổ chức cần xác định những gì nó được dự định sẽ đạt được, những hệ thống nào nó nên truy cập, những rào cản nào áp dụng và những chính sách nào nó phải tuân theo. Kế hoạch đó trở thành cơ sở để đánh giá hành vi của tác nhân.

Câu hỏi chính không chỉ là liệu tác nhân có quyền truy cập hay không, mà còn liệu hành động của nó có nhất quán với nhiệm vụ nó được tạo ra để thực hiện. Nhiều ứng dụng và API hiện có không được xây dựng để thực thi mức độ ngữ cảnh đó, đó là lý do tại sao mô hình cổng là quan trọng. Cổng truy cập tác nhân cung cấp một lớp kiểm soát bổ sung để đánh giá kế hoạch so với hành động và giúp quản lý quá mức ủy quyền hoặc khoảng trống trong các hệ thống cũ.

Một trong những mối quan tâm lớn nhất xung quanh các tác nhân trí tuệ nhân tạo là chúng có thể hành động trên nhiều ứng dụng và nguồn dữ liệu trong vài giây. Mối nguy hiểm mới nào được tạo ra cho các nhóm bảo mật, và những rủi ro nào hiện đang được đánh giá thấp?

Các tác nhân trí tuệ nhân tạo không luôn tạo ra các rủi ro hoàn toàn mới. Trong nhiều trường hợp, chúng làm tăng khả năng các rủi ro hiện có sẽ bị khai thác. Nếu một tổ chức đã có các tài khoản được ủy quyền quá mức, các kiểm soát yếu hoặc các hệ thống dựa trên sự mơ hồ, các tác nhân có thể tìm thấy và hành động trên những điểm yếu đó nhanh hơn con người, làm tăng quy mô rủi ro.

Tôi đôi khi so sánh nó với việc để một cánh cửa hậu bị khóa. Điểm yếu đã tồn tại, nhưng khả năng ai đó tìm thấy nó có thể thấp. Hãy tưởng tượng một tác nhân kiểm tra mọi cánh cửa hậu trên hàng nghìn môi trường trong vài giây. Đó là lý do tại sao các tổ chức cần thực hiện các biện pháp cơ bản: biết những tác nhân nào tồn tại, hiểu những gì chúng có thể truy cập, hạn chế các quyền không cần thiết và quản lý hoạt động của chúng liên tục.

Làm thế nào các doanh nghiệp nên quản lý ai có thể tương tác với các tác nhân đó và những thông tin hoặc hệ thống nào mà các tác nhân đó có thể truy cập khi các doanh nghiệp triển khai nhiều tác nhân trí tuệ nhân tạo trên các bộ phận?

Một cách hữu ích để suy nghĩ về một tác nhân trí tuệ nhân tạo là như một ứng dụng. Các doanh nghiệp đã biết cách quản lý các ứng dụng: ai sở hữu chúng, ai có thể sử dụng chúng, những hệ thống nào chúng kết nối, những dữ liệu nào chúng có thể truy cập và quyền truy cập của chúng được xem xét như thế nào. Những câu hỏi tương tự áp dụng cho các tác nhân.

Sự khác biệt là các tác nhân có thể được tạo ra trong vài phút bởi người dùng doanh nghiệp, không phải trong vài tháng bởi các nhóm phát triển lớn và chỉ 5% của CISO cảm thấy tự tin họ có thể chứa đựng một tác nhân trí tuệ nhân tạo bị xâm phạm. Quản lý cần được xây dựng vào quá trình tạo ra để quyền sở hữu, truy cập, phê duyệt, ủy quyền và xem xét định kỳ được thiết lập từ đầu thay vì được thêm vào sau khi tác nhân đã hoạt động.

Shadow AI đã trở thành một mối quan tâm ngày càng tăng khi nhân viên áp dụng các công cụ trí tuệ nhân tạo bên ngoài sự giám sát chính thức của IT. Làm thế nào các tác nhân trí tuệ nhân tạo khuếch đại thách thức này, và những bước thực tế nào các tổ chức có thể thực hiện để lấy lại tầm nhìn và kiểm soát?

Các tác nhân trí tuệ nhân tạo khuếch đại Shadow AI vì chúng dễ tạo ra và có thể hành động trên các hệ thống. Điều đó không có nghĩa là các tổ chức nên cố gắng ngăn chặn mọi người sử dụng chúng. Lợi ích về năng suất là thực sự, và các doanh nghiệp sẽ theo đuổi chúng.

Câu trả lời thực tế là tầm nhìn và rào cản. Các tổ chức cần biết những tác nhân nào tồn tại, ai sở hữu chúng, chúng được dự định sẽ làm gì và những hệ thống hoặc dữ liệu nào chúng có thể truy cập. Mỗi tác nhân nên có một danh tính, các quyền được xác định và giám sát liên tục. Nhiều doanh nghiệp vẫn còn trong giai đoạn thử nghiệm khá sớm, vì vậy vẫn còn thời gian để xây dựng quản lý trước khi việc áp dụng tác nhân đạt đến quy mô lớn hơn. Nhưng thời gian đó đang nhanh chóng kết thúc.

Nhìn về tương lai, bạn có tin rằng mọi tác nhân trí tuệ nhân tạo cuối cùng sẽ yêu cầu một danh tính kỹ thuật số, khuôn khổ quản lý và nhật ký kiểm toán tương tự như nhân viên con người? Mô hình tương lai đó trông như thế nào?

Mỗi tác nhân trí tuệ nhân tạo nên có một danh tính không thể nghi ngờ để các tổ chức biết nó là gì, ai sở hữu nó, những gì nó có thể truy cập và những gì nó đang làm. Danh tính con người và danh tính không phải của con người, bao gồm cả các tác nhân trí tuệ nhân tạo, phải được quản lý thông qua một mô hình bảo mật danh tính thống nhất.

Các khái niệm là quen thuộc: xác thực, ủy quyền, quyền sở hữu, ủy quyền, theo dõi hoạt động và quản lý. Điều thay đổi là quy mô. Các doanh nghiệp có thể sớm tạo ra hàng trăm tác nhân mỗi tuần, cuối cùng dẫn đến hàng chục nghìn hoặc thậm chí hàng triệu ứng dụng tác nhân. Tương lai là về việc áp dụng các nguyên tắc bảo mật danh tính cơ bản cho mọi loại danh tính với tốc độ và quy mô lớn hơn. Bây giờ là thời điểm để bắt đầu thực hiện.

Là các doanh nghiệp chạy đua để triển khai trí tuệ nhân tạo tác nhân, những sai lầm phổ biến nhất bạn thấy các tổ chức đang mắc phải ngày nay, và những gì các nhà lãnh đạo bảo mật và công nghệ nên ưu tiên trong 12 đến 24 tháng tới để đảm bảo các tác nhân trí tuệ nhân tạo vẫn sản xuất và đáng tin cậy?

Điều đó sẽ là một sự bỏ qua lớn nếu để bảo mật trong kỷ nguyên này cho sự may rủi. Lợi ích về năng suất liên quan đến trí tuệ nhân tạo tác nhân là thực sự, và các tổ chức cần nắm bắt chúng. Rủi ro lớn nhất là bảo mật và quản lý không theo kịp.

Trong 12 đến 24 tháng tới, các nhà lãnh đạo nên tập trung vào các nguyên tắc cơ bản về tầm nhìn và quản lý: duy trì hàng tồn kho của các tác nhân, chỉ định quyền sở hữu, cho mỗi tác nhân một danh tính, hiểu những gì nó có thể truy cập, và làm cho quản lý một phần của quá trình tạo ra. Đây là cơ hội để xây dựng bảo mật vào một sự thay đổi lớn về nền tảng từ đầu thay vì cố gắng sửa đổi nó sau này.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Saviynt.