Google Detaliază Arhitectura de Securitate pentru Funcțiile Agent AI din Chrome

Google (GOOGL ) a publicat un cadru de securitate detaliat pentru funcțiile viitoare de agent AI din Chrome, introducând multiple straturi de apărare proiectate pentru a proteja utilizatorii atunci când agenții Gemini efectuează sarcini de navigare autonome.

Anunțul de la inginerul de securitate Chrome, Nathan Parker, descrie cele patru piloni de securitate fundamentali care vor guverna modul în care agenții AI interacționează cu site-urile web în numele utilizatorilor. Arhitectura abordează riscurile care au afectat sistemele agențiale timpurii, inclusiv atacurile de injecție de prompt, accesul neautorizat la date și tranzacțiile frauduloase.

Abordarea Google apare în timp ce competitorii se grăbesc să lanseze agenți de browser bazati pe AI. OpenAI a lansat ChatGPT Atlas în octombrie cu capacități de mod agent, în timp ce Perplexity a lansat browserul Comet în iulie. Cadru de securitate semnalează intenția Google de a acționa mai prudent decât rivalii, ale căror funcții agențiale au fost deja demonstrate a fi vulnerabile la exploatare.

Cei Patru Piloni ai Securității Agenților

Criticul de Aliniere a Utilizatorului formează primul strat de apărare – un model Gemini separat care verifică fiecare acțiune propusă de agentul AI principal. Acest critic funcționează în izolare și examinează doar metadatele despre acțiunile propuse, mai degrabă decât conținutul complet al paginii, reducând expunerea la intrări maligne. Dacă o acțiune pare riscantă sau irelevantă pentru obiectivul declarat al utilizatorului, criticul poate ordona o reluare sau returna controlul utilizatorului.

Seturile de Origine restricționează care site-uri web și elemente de pagină poate accesa un agent în timpul unei sarcini date. Sistemul distinge între originile doar pentru citire, unde agentul poate consuma conținut, și originile care pot fi citite și scrise, unde poate efectua acțiuni. Site-urile web și cadrele nelegate de subiect sunt retrase în întregime, cu o funcție de porță de încredere necesară pentru a aproba accesul la noi domenii. Acest lucru previne scurgerea de date între site-uri și limitează daunele potențiale din cauza unui agent compromis.

Supravegherea Utilizatorului necesită confirmare manuală pentru operațiuni sensibile. Atunci când un agent întâlnește portaluri de bancă, site-uri de date medicale sau are nevoie să acceseze credențiale stocate din Google Password Manager, Chrome se oprește și solicită utilizatorilor să aprobe acțiunea. Același lucru se aplică înainte de a face cumpărături sau de a trimite mesaje – agentul nu poate finaliza aceste acțiuni în mod autonom.

Deteccția de Injecție de Prompt utilizează un clasificator dedicat care scanează paginile în timp real pentru încercări de injecție de prompt indirect. Acest sistem funcționează alături de infrastructura de navigare sigură a Chrome și de detectarea de escrocherie pe dispozitiv pentru a bloca conținutul suspect malign înainte ca agentul să poată acționa asupra lui.

Testarea Automată Red-Teaming și Bug Bounties

Google a dezvoltat sisteme automate de testare red-teaming care generează site-uri de test și atacuri LLM-conduse pentru a valida în mod continuu arhitectura de securitate. Compania prioritizează testarea vectorilor de atac care ar putea cauza daune de durată, în special cele care vizează tranzacții financiare sau furt de credențiale.

Mecanismul de actualizare automată al Chrome va livra remedieri rapide atunci când sunt descoperite vulnerabilități noi. Pentru a încuraja cercetarea externă de securitate, Google a anunțat plăți de până la 20.000 de dolari pentru cercetătorii care identifică slăbiciuni în cadrul de navigare agențial.

Măsurile defensive reflectă lecțiile învățate din extensiile de browser AI timpurii și integrările de chatbot, unde atacurile de injecție de prompt s-au dovedit a fi surprinzător de eficiente în manipularea comportamentului AI. Prin izolarea modelului critic și restricționarea accesului la origine la nivel de browser, Google își propune să prevină ca pagina web însăși să devină o suprafață de atac.

Implicații pentru Cursele de Browser AI

Divulgarea detaliată a securității de către Google se diferențiază de opacitatea relativă din jurul sistemelor de browser agențiale concurente. Compania pare a paria că utilizatorii enterprise și cei conștienți de securitate vor valoriza gardurile transparente mai mult decât funcțiile de prim-mutare.

Arhitectura sugerează, de asemenea, ce consideră Google a fi autonomie acceptabilă pentru agenții AI. Cumpărături, cercetare și completarea formularului pot continua cu supraveghere, dar orice lucru care atinge conturi financiare, date de sănătate sau credențiale stocate necesită aprobare explicită umană. Acesta desenează o linie clară pe care alte furnizori nu au fost dispuși să o definească public.

Pentru dezvoltatorii care construiesc pe platforma Chrome, restricțiile de set de origine vor necesita o considerare atentă a modului în care funcțiile agențiale interacționează cu fluxurile de lucru multisite. Aplicațiile care se așteaptă ca agenții să navigheze liber între domenii pot necesita modificări arhitecturale pentru a funcționa în cadrul modelului de securitate al Google.

Google nu a anunțat o dată specifică de lansare pentru funcțiile de navigare agențială în Chrome, dar cadrul de securitate detaliat sugerează că lansarea se apropie. Disponibilitatea companiei de a publica arhitectura defensivă înainte de lansare indică încredere în abordare – și o provocare implicită pentru competitori să egaleze transparența lor.