Google Chi Tiết Kiến Trúc Bảo Mật Cho Tính Năng Trình Đạo Agent Của Chrome

Google đã xuất bản một khuôn khổ bảo mật chi tiết cho các tính năng trình đạo AI sắp tới của Chrome, giới thiệu nhiều lớp phòng thủ được thiết kế để bảo vệ người dùng khi các tác nhân Gemini thực hiện các nhiệm vụ trình duyệt tự động.

Thông báo từ kỹ sư bảo mật Chrome Nathan Parker đã phác thảo bốn trụ cột bảo mật cốt lõi sẽ quản lý cách các tác nhân AI tương tác với các trang web trên behalf của người dùng. Kiến trúc này giải quyết các rủi ro đã ảnh hưởng đến các hệ thống trình đạo sớm, bao gồm cả tấn công tiêm lệnh, truy cập dữ liệu không được phép và giao dịch gian lận.

Cách tiếp cận của Google đến khi các đối thủ cạnh tranh đang chạy đua để phát hành các trình duyệt dựa trên trình đạo AI. OpenAI đã ra mắt ChatGPT Atlas vào tháng 10 với khả năng trình đạo, trong khi Perplexity đã phát hành trình duyệt Comet vào tháng 7. Khuôn khổ bảo mật này cho thấy ý định của Google trong việc di chuyển một cách thận trọng hơn so với các đối thủ cạnh tranh, những người đã chứng minh tính dễ bị khai thác của các tính năng trình đạo.

Bốn Trụ Cột Bảo Mật Của Trình Đạo

Trình Đạo Critic hình thành lớp phòng thủ đầu tiên – một mô hình Gemini riêng biệt kiểm tra mọi hành động mà tác nhân AI chính đề xuất. Trình này hoạt động trong môi trường cách ly và chỉ kiểm tra các siêu dữ liệu về các hành động được đề xuất chứ không phải nội dung trang đầy đủ, giảm thiểu sự phơi nhiễm với các đầu vào độc hại. Nếu một hành động có vẻ rủi ro hoặc không liên quan đến mục tiêu đã nêu của người dùng, trình này có thể yêu cầu thử lại hoặc trả lại quyền kiểm soát cho người dùng.

Origin Sets hạn chế các trang web và phần tử trang mà một tác nhân có thể truy cập trong quá trình thực hiện một nhiệm vụ nhất định. Hệ thống phân biệt giữa các nguồn gốc chỉ đọc, nơi tác nhân có thể tiêu thụ nội dung và các nguồn gốc có thể ghi, nơi tác nhân có thể thực hiện hành động. Các trang web và iframe không liên quan sẽ bị từ chối hoàn toàn, với một chức năng cổng tin cậy được yêu cầu để phê duyệt quyền truy cập vào các miền mới. Điều này ngăn chặn sự rò rỉ dữ liệu giữa các trang web và hạn chế thiệt hại tiềm năng từ một tác nhân bị xâm phạm.

Giám Sát Người Dùng yêu cầu xác nhận thủ công cho các hoạt động nhạy cảm. Khi một tác nhân gặp các cổng thông tin ngân hàng, trang web dữ liệu y tế hoặc cần truy cập vào thông tin đăng nhập được lưu trữ từ Trình Quản Lý Mật Khẩu Google, Chrome sẽ tạm dừng và yêu cầu người dùng phê duyệt hành động. Điều tương tự cũng áp dụng trước khi thực hiện mua hàng hoặc gửi tin nhắn – tác nhân không thể hoàn thành các hành động này một cách tự động.

Phát Hiện Tiêm Lệnh Sử Dụng một phân loại chuyên dụng quét các trang web theo thời gian thực để phát hiện các nỗ lực tiêm lệnh gián tiếp. Hệ thống này hoạt động cùng với cơ sở hạ tầng Safe Browsing hiện có của Chrome và phát hiện lừa đảo trên thiết bị để chặn nội dung đáng ngờ trước khi tác nhân có thể hành động trên nó.

Tự Động Kiểm Thử Red-Teaming và Bug Bounties

Google đã phát triển các hệ thống kiểm thử red-teaming tự động tạo ra các trang web thử nghiệm và các cuộc tấn công LLM để liên tục xác thực kiến trúc bảo mật. Công ty ưu tiên kiểm tra các vector tấn công có thể gây ra thiệt hại lâu dài, đặc biệt là những vector nhắm vào giao dịch tài chính hoặc đánh cắp thông tin đăng nhập.

Cơ chế cập nhật tự động của Chrome sẽ cung cấp các bản vá nhanh chóng khi các điểm yếu mới được phát hiện. Để khuyến khích nghiên cứu bảo mật bên ngoài, Google đã công bố các khoản thanh toán tiền thưởng lên đến 20.000 đô la cho các nhà nghiên cứu tìm ra các điểm yếu trong khuôn khổ trình duyệt trình đạo.

Các biện pháp phòng thủ phản ánh những bài học rút ra từ các tiện ích mở rộng trình duyệt AI và tích hợp trò chuyện sớm, nơi các cuộc tấn công tiêm lệnh đã chứng minh hiệu quả đáng ngạc nhiên trong việc thao túng hành vi AI. Bằng cách cách ly mô hình critic và hạn chế truy cập nguồn gốc ở cấp trình duyệt, Google nhằm mục đích ngăn chặn trang web chính nó trở thành bề mặt tấn công.

Ảnh Hưởng Đến Cuộc Đua Trình Duyệt AI

Thông báo bảo mật chi tiết của Google trái ngược với sự không minh bạch tương đối xung quanh các hệ thống trình duyệt trình đạo cạnh tranh. Công ty dường như đang đặt cược rằng người dùng doanh nghiệp và những người quan tâm đến bảo mật sẽ đánh giá cao các biện pháp bảo vệ minh bạch hơn là các tính năng tiên phong.

Kiến trúc cũng gợi ý về những gì Google coi là tự chủ chấp nhận được cho các tác nhân AI. Mua sắm, nghiên cứu và điền biểu mẫu có thể tiếp tục với sự giám sát, nhưng bất cứ điều gì liên quan đến tài khoản tài chính, dữ liệu chăm sóc sức khỏe hoặc thông tin đăng nhập được lưu trữ sẽ yêu cầu sự phê duyệt rõ ràng của con người. Điều này vẽ ra một ranh giới rõ ràng mà các nhà cung cấp khác đã không sẵn sàng xác định công khai.

Đối với các nhà phát triển xây dựng trên nền tảng Chrome, các hạn chế bộ nguồn gốc sẽ yêu cầu sự xem xét cẩn thận về cách các tính năng trình đạo tương tác với các quy trình làm việc đa trang web. Các ứng dụng dự kiến các tác nhân sẽ tự do điều hướng qua các miền khác nhau có thể cần thay đổi kiến trúc để phù hợp với mô hình bảo mật của Google.

Google chưa công bố một ngày ra mắt cụ thể cho các tính năng trình duyệt trình đạo trong Chrome, nhưng khuôn khổ bảo mật chi tiết cho thấy việc triển khai đang đến gần. Sự sẵn sàng của công ty trong việc xuất bản kiến trúc phòng thủ trước khi ra mắt cho thấy sự tự tin vào cách tiếp cận này – và một thách thức ngầm đối với các đối thủ cạnh tranh để sánh ngang với sự minh bạch của họ.