Jacob Ideskog, CTO của Curity – Phỏng vấn Series

Jacob Ideskog là một chuyên gia về Identity và CTO tại Curity. Hầu hết thời gian của anh ấy được dành để làm việc với các giải pháp bảo mật trong không gian API và Web. Anh ấy đã làm việc với cả việc thiết kế và triển khai các giải pháp OAuth và OpenID Connect cho các doanh nghiệp lớn cũng như các công ty khởi nghiệp nhỏ.

Curity là một nền tảng quản lý danh tính và truy cập hiện đại (IAM) được xây dựng xung quanh Curity Identity Server, một giải pháp dựa trên tiêu chuẩn được thiết kế để bảo mật xác thực và ủy quyền cho các ứng dụng, API và dịch vụ số tại quy mô lớn. Nó hỗ trợ các giao thức như OAuth 2.0 và OpenID Connect để tập trung hóa các luồng đăng nhập, thực thi các chính sách truy cập tinh粒 và cấp phát các token bảo mật cho cả người dùng và máy khách, bao gồm API và dịch vụ. Nền tảng này được thiết kế để linh hoạt và có khả năng mở rộng, cho phép các tổ chức triển khai trên môi trường đám mây, hybrid hoặc trên cơ sở, tích hợp với các hệ thống hiện có và cung cấp các trải nghiệm người dùng bảo mật và liền mạch mà không cần dựa vào cơ sở hạ tầng bảo mật tùy chỉnh.

Bạn đã dành phần lớn sự nghiệp của mình để xây dựng các hệ thống bảo mật danh tính và API, từ việc đồng sáng lập Curity đến việc lãnh đạo nó với tư cách là CTO trong thời kỳ phát triển của đám mây và bây giờ là AI. Làm thế nào mà hành trình đó đã định hình quan điểm của bạn về việc các tác nhân AI nên được đối xử như những danh tính số hạng nhất chứ không chỉ là một phần mềm khác?

Trong mọi lĩnh vực công nghệ mà tôi đã làm việc, một vấn đề luôn xuất hiện. Cho dù đó là tính toán đám mây hay bây giờ là AI, nếu phần mềm hoạt động thay mặt cho một người hoặc một hệ thống khác, bạn sẽ có một vấn đề về danh tính.

Với việc áp dụng rộng rãi các tác nhân AI tự động, vấn đề này trở nên nghiêm trọng hơn. Hành vi của chúng không còn được viết kịch bản chặt chẽ và chúng hoạt động với mức độ tự chủ mà các doanh nghiệp chưa từng thấy trước đây. Các tác nhân AI đưa ra quyết định, gọi API và tạo ra các hành động trên nhiều hệ thống – thường mà không có sự giám sát trực tiếp của con người. Hành vi này tạo ra các thách thức về danh tính và truy cập mà khác biệt cơ bản so với phần mềm truyền thống.

Đối xử với các tác nhân AI như những danh tính số hạng nhất là cách duy nhất để giải quyết vấn đề này một cách đúng đắn. Nếu các tổ chức đối xử với chúng như chỉ là một quá trình hoặc tài khoản dịch vụ, họ sẽ mất tầm nhìn và kiểm soát rất nhanh – và đó là một công thức cho một cuộc khủng hoảng bảo mật.

Nhiều doanh nghiệp rất hào hứng với các tác nhân AI tự động nhưng vẫn còn mắc kẹt trong giai đoạn thử nghiệm. Từ những gì bạn thấy trong các triển khai thực tế, những khoảng trống về danh tính và quản trị nào là phổ biến nhất ngăn cản các tổ chức mở rộng các tác nhân một cách an toàn?

Hầu hết các thử nghiệm xảy ra trong các môi trường cát riêng biệt mà bỏ qua những gì xảy ra ở quy mô lớn. Trong các thử nghiệm ban đầu, các nhóm thường cung cấp cho các tác nhân các khóa API rộng, thông tin đăng nhập chung hoặc quyền trên đám mây chỉ để bắt đầu.

Cách tiếp cận đó thất bại ngay khi các tác nhân được triển khai vượt quá các thử nghiệm. Điều này là vì các nhóm bảo mật không thể thấy dữ liệu mà một tác nhân đã truy cập, hành động của nó hoặc liệu nó có thể vượt quá phạm vi dự kiến hay không; dù vô tình hay có chủ ý. Những điểm mù này làm cho việc quản lý các tác nhân một cách an toàn trở nên không thể, và đó là lý do tại sao nhiều tổ chức gặp khó khăn khi chuyển sang các triển khai thực tế.

Bạn đã lập luận rằng các rào cản nghiêm ngặt là điều cần thiết cho các tác nhân AI tự động. “Thiết kế danh tính tốt” trông như thế nào đối với các tác nhân AI trong thực tế, và các công ty thường làm sai ở đâu?

Thiết kế danh tính tốt bắt đầu từ nguyên tắc đặc quyền tối thiểu và các quyền được gắn với ý định rõ ràng. Mỗi tác nhân AI nên có danh tính riêng, các quyền được giới hạn và các mối quan hệ tin cậy được định nghĩa rõ ràng (quy tắc rõ ràng về các hệ thống mà nó được phép tương tác). Về cơ bản, quyền truy cập nên được gắn với mục đích, hạn chế thời gian và dễ dàng thu hồi.

Các công ty thường làm sai khi tái sử dụng các tài khoản dịch vụ hiện có hoặc giả định rằng các tác nhân nội bộ là an toàn theo mặc định. Giả định đó không đứng vững trước các mối đe dọa thực tế. Các tác nhân độc hại chủ động tìm kiếm chính xác những điểm yếu này, và các tác nhân AI làm tăng đáng kể phạm vi ảnh hưởng khi thiết kế danh tính lỏng lẻo.

Curity đã làm việc lâu dài với các tiêu chuẩn như OAuth và OpenID Connect. Những tiêu chuẩn danh tính mở này quan trọng như thế nào trong việc làm cho các tác nhân AI tự động có thể tương tác và bảo mật trên các môi trường doanh nghiệp phức tạp?

Các tiêu chuẩn mở là cực kỳ quan trọng. Các doanh nghiệp đã chạy các vải danh tính phức tạp bao gồm các nền tảng đám mây, dịch vụ SaaS và API nội bộ. Các tác nhân AI tự động chỉ làm tăng thêm sự phức tạp.

Không có tiêu chuẩn, mỗi tác nhân trở thành một tích hợp riêng và một ngoại lệ bảo mật vĩnh viễn. Với các tiêu chuẩn như OAuth và OpenID Connect, các tác nhân có thể được xác thực, ủy quyền và kiểm toán giống như bất kỳ tải trọng nào khác. Đây là cách duy nhất có thể tạo điều kiện cho việc mở rộng bảo mật trên các môi trường doanh nghiệp thực tế.

Những danh tính phi con người đang trở nên phổ biến hơn, từ các tài khoản dịch vụ đến các danh tính máy. Điều gì làm cho các tác nhân AI khác biệt so với các danh tính phi con người trước đây từ góc độ bảo mật?

Sự khác biệt chính giữa các tác nhân AI hiện đại và các danh tính phi con người (NHIs) trước đây là tính tự chủ. Một tài khoản dịch vụ truyền thống làm chính xác những gì mã của nó chỉ định, bị giới hạn nghiêm ngặt trong nhiệm vụ của nó. Một tác nhân AI giải thích các hướng dẫn, thích nghi với hành vi của nó và thực hiện các hành động mà không bao giờ được viết kịch bản rõ ràng – tất cả đều làm tăng nguy cơ tiềm ẩn nếu không có các rào cản phù hợp.

Một sai sót nhỏ về danh tính hoặc truy cập có thể nhanh chóng trở thành một thảm họa, vì một tác nhân có thể hành động với tốc độ và trên nhiều hệ thống. Từ góc độ bảo mật, điều này tạo ra một rủi ro lớn.

Làm thế nào quan trọng của việc theo dõi và ghi nhật ký dựa trên danh tính đối với việc quản trị các tác nhân AI tự động, đặc biệt là trong các ngành được quy định?

Các bản ghi nhật ký không nên là “tốt để có”. Chúng cần được xây dựng từ đầu. Trong các môi trường được quy định, các tổ chức được mong đợi trả lời các câu hỏi đơn giản nhưng quan trọng: tác nhân này đã truy cập gì, khi nào nó xảy ra và ai đã ủy quyền?

Ghi nhật ký dựa trên danh tính là cách duy nhất để có được mức độ trách nhiệm đó. Nó cũng đóng vai trò quan trọng trong việc phản ứng với các sự cố. Không có ngữ cảnh danh tính rõ ràng, gần như không thể biết liệu một vấn đề đến từ một tác nhân không đúng hành vi, một danh tính bị xâm phạm hay chỉ là một lời nhắc nhở không tốt.

Những rủi ro thực tế nào bạn thấy xuất hiện khi các tổ chức triển khai các tác nhân AI tự động quá đặc quyền hoặc không được giám sát tốt trong sản xuất?

Một rủi ro phổ biến là sự tích lũy dữ liệu im lặng. Một tác nhân quá đặc quyền có thể kéo thông tin nhạy cảm từ nhiều hệ thống (hồ sơ khách hàng, tài liệu nội bộ, nhật ký) và sau đó lộ dữ liệu đó thông qua các lời nhắc, tóm tắt hoặc tích hợp bên ngoài.

Một rủi ro khác là các tác nhân có quyền quản trị thực hiện các thay đổi lớn với tốc độ máy, gây ra nhiều thiệt hại hơn những gì con người có thể làm trong một khoảng thời gian ngắn. Điều này có thể bao gồm việc sửa đổi tài nguyên đám mây, vô hiệu hóa các biện pháp bảo mật hoặc kích hoạt các công việc tự động mà không có sự giám sát.

Các sự cố này có thể là có chủ ý, nhưng chúng không nhất thiết phải như vậy. Một tác nhân quá đặc quyền hoặc không được giám sát tốt có thể đơn giản là hoạt động dựa trên các giả định cũ hoặc không chính xác, khuếch đại các sai lầm trên nhiều hệ thống trước khi ai đó nhận ra.

Nhưng từ góc độ của một kẻ tấn công, một danh tính tác nhân bị xâm phạm là cực kỳ có giá trị. Nó cho phép di chuyển ngang trên các API và dịch vụ, thường với mức độ truy cập mà không người dùng nào được cấp. Không có các biện pháp kiểm soát danh tính và giám sát mạnh mẽ, các tổ chức thường chỉ phát hiện ra những thất bại này sau khi thiệt hại thực sự đã được thực hiện.

Đối với các công ty đang chuyển từ các thử nghiệm sang các triển khai thực tế của các tác nhân AI tự động, những quyết định về danh tính và truy cập nào nên được thực hiện sớm để tránh phải thiết kế lại tốn kém sau này?

Các tổ chức nên quyết định sớm về cách các tác nhân được cấp danh tính, cách các quyền được phê duyệt và cách truy cập được xem xét theo thời gian, xác định ranh giới danh tính từ trước.

Đưa các biện pháp kiểm soát danh tính vào một cách hồi cứu gần như luôn luôn gây ra vấn đề. Các tác nhân thường được nhúng sâu vào các công việc sử dụng thông tin đăng nhập chung hoặc vai trò rộng, vì vậy việc thắt chặt truy cập sau thực tế sẽ phá vỡ các giả định mà hệ thống dựa vào. Điều này cuối cùng sẽ gây ra thất bại trong các công việc và làm suy yếu niềm tin vào công nghệ. Nó rẻ hơn, cũng như an toàn hơn, để thiết kế đúng các danh tính, phạm vi và ranh giới truy cập từ đầu.

Ở đâu thì tích hợp danh tính thường trở thành một nút thắt khi triển khai các tác nhân AI tự động, và những phương pháp hay nhất nào giúp giảm ma sát?

Quản lý danh tính có thể trở thành một nút thắt nhưng chỉ khi nó được coi là một ý tưởng sau cùng. Các nhóm tập trung vào việc xây dựng các khả năng tác nhân ấn tượng trước và sau đó nhận ra rằng họ cần tích hợp với các hệ thống IAM, cổng API và nền tảng ghi nhật ký để trở nên bảo mật thực sự.

Cách tiếp cận tốt nhất là bắt đầu với một sự hiểu biết rõ ràng và triển khai đúng các nền tảng danh tính, sau đó thiết kế các tác nhân để phù hợp với chúng. Các tổ chức nên tái sử dụng các tiêu chuẩn và cơ sở hạ tầng hiện có thay vì bỏ qua chúng; việc cắt góc này sẽ vô tình gây ra vấn đề sau này. Khi danh tính được xây dựng từ đầu, nó sẽ tăng tốc triển khai thay vì làm chậm nó lại.

Đối với các lãnh đạo bảo mật và kỹ thuật muốn chấp nhận các tác nhân AI tự động nhưng lo lắng về quản trị và rủi ro, bạn sẽ đưa ra lời khuyên gì khi họ lên kế hoạch cho con đường của mình?

Chậm lại vừa đủ để đặt nền móng đúng. Các tác nhân AI phải được đối xử như những danh tính và vì vậy bạn cần áp dụng cùng một quản trị mà bạn mong đợi từ con người, và yêu cầu sự minh bạch từ đầu. Nếu một tổ chức làm điều đó, thì việc mở rộng các tác nhân AI tự động trở thành một việc tập trung vào bảo mật, không phải là một bước nhảy mù quáng và đầy rủi ro.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Curity.