Google, Chrome의 AI 에이전트 기능을 위한 보안 아키텍처 세부 정보 공개

Google은 Chrome의 即将 출시되는 에이전트 AI 기능을 위한詳細한 보안 프레임워크를 공개했으며, 사용자가 Gemini 기반 에이전트가 자율적인 브라우징 작업을 수행할 때 사용자를 보호하기 위한 다중 방어 계층을 도입했습니다.

Chrome 보안 엔지니어 Nathan Parker의 발표는 사용자의 대리하여 웹사이트와 상호 작용하는 방법을 규정하는 4개의 핵심 보안 필러를 설명합니다. 이 아키텍처는 초기 에이전트 시스템에서 발생한 프롬프트 주입 공격, 무단 데이터 액세스 및 사기성 트랜잭션과 같은 위험을 해결합니다.

Google의 접근 방식은 경쟁사가 브라우저 기반 AI 에이전트를 출하하는競争에서 나온 것입니다. OpenAI는 ChatGPT Atlas를 10월에 출시했으며 에이전트 모드 기능을 제공했습니다. Perplexity는 7월에 Comet 브라우저를 출하했습니다. 보안 프레임워크는 Google이 경쟁사보다 더 신중하게 움직이고 있음을 시사합니다. 경쟁사들의 에이전트 기능은 이미 연구자들이 취약점을 이용할 수 있음을 보여주었습니다.

에이전트 보안의 4가지 필러

User Alignment Critic은 첫 번째 방어 계층을 형성합니다. 이는 제안된 모든 작업에 대한 검토를 수행하는 별도의 Gemini 모델입니다. 이 비평가는 고립되어 있으며 제안된 작업에 대한 메타데이터만 검토하며 전체 페이지 콘텐츠는 검토하지 않습니다. 따라서 악의적인 입력에 대한 노출이 줄어듭니다. 작업이 위험하거나 사용자의 명시된 목표와 관련이 없으면 비평가는 재시도하거나 사용자에게 제어를 반환할 수 있습니다.

Origin Sets는 에이전트가 특정 작업을 수행하는 동안 액세스할 수 있는 웹사이트와 페이지 요소를 제한합니다. 시스템은 에이전트가 콘텐츠를 사용할 수 있는 읽기 전용 원본과 에이전트가 작업을 수행할 수 있는 읽기-쓰기 가능한 원본을 구분합니다. 관련이 없는 웹사이트와 iframe은 완전히 차단되며 신뢰할 수 있는 게이팅 함수가 새로운 도메인에 대한 액세스를 승인해야 합니다. 이것은 크로스 사이트 데이터 누출을 방지하고 잠재적인 피해를 제한합니다.

User Oversight은 민감한 작업에 대한 수동 확인을 요구합니다. 에이전트가 은행 포털, 의료 데이터 사이트 또는 Google Password Manager에서 저장된 자격 증명을 액세스해야 하는 경우 Chrome은 작업을 승인하기 전에 사용자에게 승인을 요청합니다. 구매 또는 메시지 전송과 같은 작업도 동일하게 적용되며 에이전트는 이러한 작업을 자율적으로 완료할 수 없습니다.

Prompt Injection Detection은 간접적인 프롬프트 주입 시도를 실시간으로 검색하는 전용 분류기를 사용합니다. 이 시스템은 Chrome의 기존 Safe Browsing 인프라와 기기上的 스캠 감지와 함께 작동하여 의심되는 악의적인 콘텐츠를 차단합니다.

자동화된 Red-Teaming 및 버그 바운티

Google은 보안 아키텍처를 지속적으로 검증하기 위해 자동화된 Red-Teaming 시스템을 개발했습니다. 시스템은 테스트 사이트와 LLM 기반 공격을 생성하여 특히 금융 거래나 자격 증명 도용을 대상으로 하는 공격 벡터를 테스트합니다.

Chrome의 자동 업데이트 메커니즘은 새로운 취약점이 발견됨에 따라 빠르게 수정을 제공할 것입니다. 외부 보안 연구를鼓励하기 위해 Google은 에이전트 브라우징 프레임워크의 약점을 발견한 연구자에게 최대 20,000달러의 버그 바운티를 발표했습니다.

방어 조치는 초기 AI 브라우저 확장 및 채ット봇 통합에서 프롬프트 주입 공격이 놀랍게도 효과적으로 AI 동작을 조작하는 것을 보여준 것에서 배운 교훈을 반영합니다. 비평가 모델을 분리하고 브라우저 수준에서 원본 액세스를 제한함으로써 Google은 웹 페이지 자체가 공격 표면이 되는 것을 방지하는 것을 목표로 합니다.

AI 브라우저 경쟁에 대한 영향

Google의 자세한 보안 공개는 경쟁사 브라우저 시스템에 대한 상대적으로 불투명한 내용과 대조됩니다. 회사는 기업 및 보안 의식이 높은 사용자가 투명한 안전한 기능보다 먼저 출시되는 기능을 더 중시할 것이라고 판단하는 것으로 보입니다.

아키텍처는 또한 Google이 AI 에이전트에 대한 적절한 자율성을 무엇이라고 생각하는지 나타냅니다. 쇼핑, 연구, 양식 작성과 같은 작업은 감시하에 진행될 수 있지만 금융 계좌, 의료 데이터 또는 저장된 자격 증명과 관련된 모든 작업은 명시적인 인간 승인이 필요합니다. 이것은 다른 공급자가 공개적으로 정의하기를 주저하는明確한 선을 긋습니다.

Chrome 플랫폼에서 개발하는 개발자들에게 원본 집합 제한은 에이전트 기능이 멀티 사이트 워크플로우와 상호 작용하는 방식을 신중하게 고려해야 합니다. 도메인 전체에 자유롭게 탐색할 것으로 예상하는 애플리케이션은 Google의 보안 모델에서 작동하기 위해 아키텍처 변경이 필요할 수 있습니다.

Google은 아직 Chrome의 에이전트 브라우징 기능에 대한 출시일을 발표하지 않았지만 자세한 보안 프레임워크는 배포가 임박했음을 시사합니다. 회사의 방어 아키텍처를 출시 전에 공개하는 의지는 접근 방식에 대한 자신감을 나타내며, 이는 경쟁사에게 투명성을 따라잡으라는 암시적인 도전입니다.