Chiến lược an ninh mạng cho phát triển tác tử bằng phương pháp ít mã và nhiều mã

Khi các tổ chức đưa tác tử trí tuệ nhân tạo vào vận hành trên các hệ thống kinh doanh, tốc độ phát triển và công tác giám sát an ninh ngày càng gắn bó chặt chẽ. Chiến lược an ninh mạng cho việc phát triển tác tử bằng phương pháp ít mã và nhiều mã cần tính đến cách mỗi phương pháp cấp quyền truy cập thông tin và cho phép thực hiện hành động. Các biện pháp bảo vệ có mục tiêu có thể xử lý những khác biệt đó, trong khi cơ chế quản trị chung giúp hoạt động của tác tử luôn phù hợp với các nhiệm vụ được phép khi việc triển khai mở rộng.

Điểm khác biệt giữa phát triển tác tử AI bằng phương pháp ít mã và nhiều mã

Nền tảng ít mã cho phép người dùng tạo tác tử thông qua giao diện trực quan và các bộ kết nối dựng sẵn liên kết với những dịch vụ kinh doanh. Phương pháp phát triển nhiều mã giúp lập trình viên linh hoạt hơn trong việc xác định hành vi của tác tử bằng mã tùy chỉnh, tích hợp công cụ và môi trường thực thi. Cả hai phương pháp đều cần giám sát thông tin mà tác tử có thể truy cập và những hành động mà chúng có thể thực hiện.

Trách nhiệm bảo mật khác nhau vì quyền kiểm soát nằm ở những nơi khác nhau. Người dùng nền tảng ít mã làm việc trong các thiết lập của nền tảng, vốn điều chỉnh việc chia sẻ và quyền truy cập của bộ kết nối; vì vậy, các quyết định cấu hình đặc biệt quan trọng. Các nhóm phát triển nhiều mã chịu trách nhiệm lớn hơn đối với phần mềm và môi trường thực thi chỉ dẫn của tác tử, bao gồm cả việc thiết lập ranh giới truy cập đối với tệp và thông tin xác thực.

The Cybersecurity and Infrastructure Security Agency nêu ra một số rủi ro của AI tác tử, qua đó cung cấp khuôn khổ hữu ích cho cả hai phương pháp. Bề mặt tấn công mở rộng là việc xuất hiện thêm các điểm xâm nhập, còn tình trạng quyền hạn tăng dần là sự tích lũy quyền truy cập. Sai lệch hành vi xảy ra khi tác tử đi chệch khỏi nhiệm vụ dự kiến; nhật ký sự kiện không rõ ràng khiến việc điều tra thêm khó khăn. Một bộ kết nối được sử dụng rộng rãi và một công cụ dòng lệnh không bị giới hạn có thể tạo ra những dạng khác nhau của cùng các vấn đề này.

Rủi ro bảo mật và cách khắc phục đối với tác tử AI ít mã

Tính dễ tiếp cận của phương pháp ít mã giúp nhân viên ngoài các nhóm phát triển truyền thống cũng có thể tạo tác tử. Công tác giám sát an ninh cần bao gồm cả những người này để các kết nối tiện lợi vẫn phù hợp với mục đích kinh doanh được cho phép.

Những hạn chế về bảo mật của môi trường ít mã

Những người không chuyên phát triển phần mềm có thể kết nối tác tử với tệp dùng chung hoặc ứng dụng kinh doanh mà chưa hiểu đầy đủ về quyền của tác tử. Quyền truy cập được cấp thông qua các kết nối đó có thể làm lộ thông tin nhạy cảm hoặc cho phép thực hiện những hành động vượt quá quy trình dự kiến. Việc chia sẻ quá rộng và quyền sở hữu không rõ ràng có thể làm vấn đề lộ lọt nghiêm trọng hơn.

Quy mô áp dụng khiến việc giám sát nhất quán giữa các phòng ban trở nên quan trọng. Trong một phân tích thị trường năm 2024, Forrester cho biết 87% nhà phát triển trong doanh nghiệp sử dụng nền tảng ít mã cho một số công việc phát triển. Phát hiện này đề cập đến hoạt động phát triển nói chung, vì vậy cho thấy mức độ phổ biến của các nền tảng này nhưng không đo lường cụ thể mức độ áp dụng tác tử AI.

Các cách thiết thực để tăng cường bảo mật cho tác tử ít mã

Các nhóm nên rà soát quyền của bộ kết nối theo nhiệm vụ được giao cho từng tác tử và áp dụng nguyên tắc quyền tối thiểu. Một danh mục tập trung nên ghi lại chủ sở hữu và các dịch vụ được kết nối của từng lần triển khai, đồng thời quy định yêu cầu phê duyệt đối với những hành động nhạy cảm. Nhờ đó, các nhóm bảo mật có cơ sở để xác định tác tử chưa được đăng ký và điều tra việc truy cập không phù hợp.

Cách tiếp cận quản trị dữ liệu của Microsoft nhấn mạnh việc kiểm soát quyền truy cập thông tin kinh doanh. Naveen Jangir, kiến trúc sư trưởng tại Microsoft Digital, khuyến nghị các tổ chức “quản trị và bảo vệ thông tin bằng những hạn chế truy cập phù hợp”. Các biện pháp kiểm soát này cho phép người dùng được cấp quyền và các năng lực AI sử dụng thông tin đó mà không để lộ quá mức cần thiết trong phạm vi quyền hạn đã thiết lập. Việc áp dụng chính sách cho bộ kết nối cùng với quy định rõ trách nhiệm sở hữu có thể giúp đưa các hạn chế này vào hoạt động phát triển thường ngày.

Rủi ro bảo mật và cách khắc phục đối với tác tử AI nhiều mã

Khi các nhóm sử dụng tác tử AI lập trình để xây dựng hệ thống tùy chỉnh, những thay đổi do AI tạo ra có thể xuất hiện nhanh hơn khả năng xem xét của con người. Vì vậy, bảo mật trong phát triển nhiều mã đòi hỏi phải kiểm soát cả quy trình phát triển lẫn môi trường nơi tác tử thực thi nhiệm vụ.

Những thách thức bảo mật đặc thù của phương pháp phát triển nhiều mã

Tác tử lập trình có thể gặp phải tình trạng chèn chỉ dẫn gián tiếp vào câu lệnh khi đọc các kho mã bên ngoài chứa chỉ dẫn do kẻ tấn công đưa vào. Nếu làm theo những chỉ dẫn đó trong khi có quyền truy cập công cụ phát triển, tác tử có thể chạy lệnh không an toàn hoặc làm lộ thông tin xác thực. Hậu quả tiềm ẩn một phần phụ thuộc vào những tệp, công cụ và đích đến bên ngoài mà môi trường thực thi cho phép tác tử truy cập.

Hướng dẫn tạo môi trường cách ly của NVIDIA đề cập đến nguy cơ lộ thông tin xác thực trong ranh giới thực thi đó. Tài liệu nêu rằng “môi trường cách ly nên dựa vào việc cấp bí mật một cách tường minh” để hạn chế quyền truy cập thông tin xác thực. Theo đó, tác tử không nên được kế thừa toàn bộ thông tin xác thực của môi trường khi nhiệm vụ chỉ cần quyền truy cập hạn chế. Các nhóm nên cấp thông tin xác thực riêng cho từng nhiệm vụ và giữ những bí mật không liên quan ngoài tầm với của tác tử.

Chiến lược củng cố quy trình phát triển tác tử bằng mã

Môi trường thực thi bị giới hạn cần kiểm soát quyền truy cập tệp và kết nối ra bên ngoài tùy theo nhiệm vụ. Các nhóm cũng nên áp dụng kiểm thử bảo mật ứng dụng tĩnh đối với mã được tạo ra. Những người đánh giá độc lập cần xem xét các quyết định phân quyền hoặc logic nghiệp vụ mà các bước kiểm tra tự động có thể bỏ sót. Những lớp bảo vệ này giúp kiểm soát ranh giới thực thi và khắc phục các điểm yếu trong phần mềm được tạo ra.

Amazon Web Services khuyến nghị tách biệt việc tạo mã với việc đánh giá mã trong khuôn khổ kiểm soát tác tử lập trình của mình. Họ lưu ý rằng “một phiên riêng biệt giúp tránh thiên kiến tự xác nhận”. Tuy nhiên, hai phiên sử dụng cùng một mô hình có thể mắc cùng những điểm mù tiềm ẩn trong quá trình đánh giá. Khi khả thi, sử dụng một mô hình khác để đánh giá và để con người thẩm định các thay đổi nhạy cảm về bảo mật có thể giúp tăng cường giám sát.

Xây dựng chiến lược bảo mật bao quát cả hai phương pháp

Bảo mật AI trong quá trình phát triển tác tử bằng nền tảng ít mã và bằng mã cần có cái nhìn tổng thể về hoạt động tại mọi điểm các tác tử trao đổi thông tin. Chẳng hạn, một quy trình làm việc ít mã có thể gửi nội dung đến một tác tử được xây dựng riêng, rồi tác tử này gọi một dịch vụ kinh doanh khác. Việc xem xét riêng từng thành phần có thể khiến các nhóm bảo mật thiếu bối cảnh cần thiết để hiểu toàn bộ chuỗi hoạt động.

Các chuyên gia bảo mật AI tại Darktrace cho rằng các tổ chức phải kiểm tra lời nhắc và các phiên cùng với các phản hồi trên những công cụ AI tạo sinh dành cho doanh nghiệp và trong cả hai phương pháp phát triển. Góc nhìn của Darktrace cũng bao quát các môi trường phần mềm dưới dạng dịch vụ và biên dịch vụ truy cập an toàn. Nhờ khả năng quan sát đó, các tổ chức có thêm bối cảnh để “phát hiện những cuộc tấn công bằng lời nhắc hội thoại tinh vi và các chuỗi hành động độc hại”.

Quan điểm của Darktrace góp phần củng cố chiến lược bảo mật AI rộng hơn cho quá trình phát triển tác tử bằng nền tảng ít mã và bằng mã, bởi khả năng quan sát lời nhắc, giám sát phiên và kiểm soát danh tính giúp các nhóm hiểu được cách tác tử tương tác qua những công cụ được kết nối. Các nhóm bảo mật cần xem xét chỉ dẫn thay đổi như thế nào qua các phiên được kết nối, cũng như liệu những hành động tiếp theo có còn phù hợp với quyền hạn ban đầu hay không. Họ cũng cần cân nhắc mức độ nhạy cảm của mọi thông tin được lưu giữ để phục vụ điều tra.

Quản trị và giám sát để bảo đảm an ninh cho tác tử AI lâu dài

Mỗi tác tử cần có một người chịu trách nhiệm rõ ràng và phạm vi công việc được phép cụ thể, bất kể phương pháp phát triển. Hoạt động quản trị cũng cần xác định ai có thể phê duyệt thay đổi đối với phạm vi đó và ai có thể đình chỉ hoạt động khi tác tử hành xử bất thường.

Nghiên cứu về quản trị tác tử cho thấy tác tử cần có thẩm quyền có thể được xác thực và kiểm toán để bảo đảm trách nhiệm giải trình. Cách tiếp cận này liên kết người cấp quyền với những nhiệm vụ mà tác tử được phép thực hiện. Khi đó, các tổ chức có thể đối chiếu từng hành động với quyền hạn đã cấp.

Các nhóm cần lưu giữ hồ sơ hoạt động liên kết quyền được ủy thác với việc sử dụng công cụ và kết quả đạt được. Các đợt rà soát định kỳ cần xem xét lại những quyền này khi năng lực thay đổi, thu hồi quyền truy cập còn sót lại sau khi công việc hoàn tất và xác nhận người chịu trách nhiệm vẫn phù hợp. Các nhóm phát triển và bảo mật có thể dùng những đợt rà soát này để bảo đảm các biện pháp kiểm soát vận hành luôn phù hợp với mục đích đã được phê duyệt của tác tử.

Chủ động ứng phó với rủi ro bảo mật của tác tử AI

Phát triển bằng nền tảng ít mã đòi hỏi quản lý chặt chẽ quyền trên nền tảng và việc quản trị các bộ kết nối, trong khi phát triển bằng mã cần chú trọng đến môi trường thực thi tùy chỉnh và việc rà soát mã. Giám sát tập trung và trách nhiệm giải trình nhất quán tạo nền tảng chung để theo dõi cách tác tử truy cập thông tin và hành động trên các hệ thống kinh doanh được kết nối. Khi năng lực được mở rộng, nhà phát triển cần đánh giá lại các biện pháp bảo vệ song song với những thay đổi về công cụ và trách nhiệm của tác tử, đồng thời làm rõ các hoạt động được phép của từng lần triển khai trong suốt vòng đời.