Cách giải quyết các thách thức về bảo mật mạng liên quan đến Trí tuệ nhân tạo Agentic

Trí tuệ nhân tạo Agentic (AI) đại diện cho biên giới tiếp theo của AI, hứa hẹn sẽ vượt qua thậm chí cả khả năng của trí tuệ nhân tạo tạo sinh (GenAI). Không giống như hầu hết các hệ thống GenAI, phụ thuộc vào sự can thiệp của con người hoặc giám sát, trí tuệ nhân tạo Agentic là chủ động vì nó không yêu cầu đầu vào của người dùng để giải quyết các vấn đề phức tạp, nhiều bước. Bằng cách tận dụng hệ sinh thái số của các mô hình ngôn ngữ lớn (LLM), học máy (ML) và xử lý ngôn ngữ tự nhiên (NLP), trí tuệ nhân tạo Agentic thực hiện các nhiệm vụ tự động thay mặt cho con người hoặc hệ thống, cải thiện đáng kể năng suất và hoạt động.

Mặc dù trí tuệ nhân tạo Agentic vẫn còn trong giai đoạn đầu, các chuyên gia đã nhấn mạnh một số trường hợp sử dụng đột phá. Hãy xem xét một môi trường dịch vụ khách hàng cho một ngân hàng nơi một tác nhân AI không chỉ trả lời câu hỏi của người dùng khi được yêu cầu. Thay vào đó, tác nhân sẽ thực hiện các giao dịch hoặc nhiệm vụ như chuyển tiền khi được người dùng yêu cầu. Một ví dụ khác có thể là trong một môi trường tài chính nơi các hệ thống trí tuệ nhân tạo Agentic hỗ trợ các nhà phân tích con người bằng cách tự động và nhanh chóng phân tích lượng lớn dữ liệu để tạo báo cáo sẵn sàng cho việc ra quyết định dựa trên dữ liệu.

Những khả năng đáng kinh ngạc của trí tuệ nhân tạo Agentic là không thể phủ nhận. Tuy nhiên, như bất kỳ công nghệ mới nào, cũng có những lo ngại về bảo mật, quản trị và tuân thủ. Bản chất độc đáo của những tác nhân AI này đưa ra một số thách thức về bảo mật và quản trị cho các tổ chức. Các doanh nghiệp phải giải quyết những thách thức này không chỉ để tận dụng lợi ích của trí tuệ nhân tạo Agentic mà còn đảm bảo bảo mật mạng và hiệu quả.

Trí tuệ nhân tạo Agentic tạo ra những thách thức bảo mật mạng nào cho các tổ chức?

Các tác nhân AI có bốn hoạt động cơ bản. Đầu tiên là nhận thức và thu thập dữ liệu. Hàng trăm, hàng nghìn và có thể hàng triệu tác nhân này thu thập và thu thập dữ liệu từ nhiều nơi, dù trên đám mây, tại chỗ, cạnh, v.v., và dữ liệu này có thể vật lý từ bất kỳ đâu, chứ không chỉ một vị trí địa lý cụ thể.Bước thứ hai là ra quyết định. Một khi các tác nhân đã thu thập dữ liệu, chúng sử dụng các mô hình AI và ML để đưa ra quyết định. Bước thứ ba là hành động và thực hiện. Sau khi đã quyết định, các tác nhân này thực hiện hành động tương ứng để thực hiện quyết định đó. Bước cuối cùng là học hỏi, nơi các tác nhân này sử dụng dữ liệu thu thập trước và sau khi đưa ra quyết định để điều chỉnh và thích nghi tương ứng.

Trong quá trình này, trí tuệ nhân tạo Agentic yêu cầu quyền truy cập vào lượng lớn dữ liệu để hoạt động hiệu quả. Các tác nhân sẽ thường tích hợp với các hệ thống dữ liệu xử lý hoặc lưu trữ thông tin nhạy cảm, chẳng hạn như hồ sơ tài chính, cơ sở dữ liệu chăm sóc sức khỏe và các thông tin cá nhân khác (PII). Thật không may, trí tuệ nhân tạo Agentic làm phức tạp nỗ lực bảo mật cơ sở hạ tầng mạng chống lại các lỗ hổng, đặc biệt là với kết nối đa đám mây. Nó cũng đưa ra các thách thức về bảo mật xuất, khiến các doanh nghiệp khó bảo vệ chống lại việc trích xuất và các cuộc tấn công điều khiển và kiểm soát. Nếu một tác nhân AI bị xâm phạm, dữ liệu nhạy cảm có thể dễ dàng bị rò rỉ hoặc bị đánh cắp. Tương tự, các tác nhân có thể bị các tác nhân độc hại chiếm quyền và sử dụng để tạo và phân phối thông tin sai lệch trên quy mô lớn. Khi xảy ra vi phạm, không chỉ có các hình phạt tài chính, mà còn có hậu quả về uy tín.

Các khả năng quan trọng như quan sát và theo dõi có thể bị cản trở bởi trí tuệ nhân tạo Agentic vì nó khó theo dõi các tập dữ liệu mà các tác nhân AI đang truy cập, tăng nguy cơ dữ liệu bị lộ hoặc truy cập bởi người dùng không được ủy quyền. Tương tự, việc học hỏi và thích nghi động của trí tuệ nhân tạo Agentic có thể cản trở các kiểm toán bảo mật truyền thống, những kiểm toán dựa trên các nhật ký có cấu trúc để theo dõi luồng dữ liệu. Trí tuệ nhân tạo Agentic cũng là tạm thời, động và liên tục chạy, tạo ra nhu cầu 24/7 để duy trì tầm nhìn và bảo mật tối ưu. Quy mô là một thách thức khác. Bề mặt tấn công đã tăng lên theo cấp số nhân, mở rộng ra ngoài trung tâm dữ liệu tại chỗ và đám mây để bao gồm cả cạnh. Trên thực tế, tùy thuộc vào tổ chức, trí tuệ nhân tạo Agentic có thể thêm hàng nghìn đến hàng triệu điểm cuối mới ở cạnh. Những tác nhân này hoạt động ở nhiều vị trí, dù trên đám mây khác nhau, tại chỗ, cạnh, v.v., khiến mạng trở nên dễ bị tấn công hơn.

Phương pháp toàn diện để giải quyết các thách thức bảo mật của Trí tuệ nhân tạo Agentic

Các tổ chức có thể giải quyết các thách thức bảo mật của trí tuệ nhân tạo Agentic bằng cách áp dụng các giải pháp bảo mật và thực hành tốt nhất tại từng bước hoạt động cơ bản của bốn bước:

1. Nhận thức và Thu thập Dữ liệu: Các doanh nghiệp cần kết nối mạng có băng thông cao được mã hóa từ đầu đến cuối để cho phép các tác nhân của họ thu thập lượng lớn dữ liệu cần thiết để hoạt động. Hãy nhớ rằng dữ liệu này có thể nhạy cảm hoặc có giá trị cao, tùy thuộc vào trường hợp sử dụng. Các công ty nên triển khai một giải pháp kết nối mã hóa tốc độ cao để chạy giữa tất cả các nguồn dữ liệu này và bảo vệ dữ liệu nhạy cảm và PII.
2. Quyết định: Các công ty phải đảm bảo rằng các tác nhân AI của họ có quyền truy cập vào các mô hình và cơ sở hạ tầng AI và ML chính xác để đưa ra quyết định đúng. Bằng cách triển khai tường lửa đám mây, các doanh nghiệp có thể có được kết nối và bảo mật mà các tác nhân AI của họ cần để truy cập các mô hình chính xác một cách có thể kiểm toán.
3. Thực hiện Hành động: Các tác nhân AI thực hiện hành động dựa trên quyết định. Tuy nhiên, các doanh nghiệp phải xác định tác nhân nào trong số hàng trăm hoặc hàng nghìn tác nhân đã đưa ra quyết định đó. Họ cũng cần biết cách các tác nhân của họ giao tiếp với nhau để tránh xung đột hoặc “rô-bốt chiến đấu với rô-bốt”. Do đó, các tổ chức cần có khả năng quan sát và theo dõi các hành động được thực hiện bởi các tác nhân AI của họ. Khả năng quan sát là khả năng theo dõi, giám sát và hiểu trạng thái và hành vi bên trong của các tác nhân AI trong thời gian thực. Khả năng theo dõi là khả năng theo dõi và ghi lại dữ liệu, quyết định và hành động được thực hiện bởi một tác nhân AI.
4. Học hỏi và Thích nghi: Các công ty chi hàng triệu, nếu không phải hàng trăm triệu hoặc hơn, để điều chỉnh các thuật toán của họ, điều này làm tăng giá trị và độ chính xác của các tác nhân này. Nếu một tác nhân xấu có được mô hình và trích xuất nó, tất cả các nguồn lực đó có thể nằm trong tay họ trong vài phút. Các doanh nghiệp có thể bảo vệ đầu tư của mình thông qua các tính năng bảo mật xuất để bảo vệ chống lại việc trích xuất và các cuộc tấn công điều khiển và kiểm soát.

Tận dụng Trí tuệ nhân tạo Agentic một cách An toàn và Có Trách nhiệm

Trí tuệ nhân tạo Agentic mang lại tiềm năng đáng kể, cho phép các công ty đạt được mức độ năng suất và hiệu quả mới. Tuy nhiên, như bất kỳ công nghệ mới nào trong không gian AI, các tổ chức phải采取 biện pháp phòng ngừa để bảo vệ mạng và dữ liệu nhạy cảm của họ. Bảo mật đặc biệt quan trọng ngày nay, đặc biệt là khi các tác nhân độc hại tinh vi và được tổ chức tốt, được tài trợ bởi các quốc gia, như Salt Typhoon và Silk Typhoon, tiếp tục thực hiện các cuộc tấn công quy mô lớn.

Các tổ chức nên hợp tác với các chuyên gia bảo mật đám mây để phát triển một chiến lược bảo mật mạnh mẽ, có thể mở rộng và sẵn sàng cho tương lai, có khả năng giải quyết các thách thức độc đáo của trí tuệ nhân tạo Agentic. Những đối tác này có thể cho phép các doanh nghiệp theo dõi, quản lý và bảo mật tác nhân AI của họ; hơn nữa, họ giúp cung cấp cho các công ty sự nhận thức cần thiết để đáp ứng các tiêu chuẩn liên quan đến tuân thủ và quản trị.