Google Detaliază Arhitectura de Securitate pentru Funcțiile Agent ale Chrome bazate pe IA

Google a publicat un cadru de securitate detaliat pentru funcțiile agenților IA viitoare ale Chrome, introducând multiple straturi de apărare proiectate pentru a proteja utilizatorii atunci când agenții alimentați de Gemini efectuează sarcini de navigare autonome.

Anunțul de la inginerul de securitate Chrome Nathan Parker descrie cele patru piloni de securitate fundamentale care vor guverna modul în care agenții IA interacționează cu site-urile web în numele utilizatorilor. Arhitectura abordează riscurile care au afectat sistemele agențiale timpurii, inclusiv atacurile de injectare a prompturilor, accesul neautorizat la date și tranzacțiile frauduloase.

Abordarea Google apare în timp ce competitorii se grăbesc să lanseze agenți IA bazati pe browser. OpenAI a lansat ChatGPT Atlas în octombrie cu capacități de mod agent, în timp ce Perplexity a lansat browserul său Comet în iulie. Cadru de securitate semnalează intenția Google de a acționa mai prudent decât rivalii ale căror funcții agențiale cercetătorii le-au demonstrat deja a fi vulnerabile la exploatare.

Cele Patru Piloni ai Securității Agenților

Critica de Aliniere a Utilizatorului formează primul strat de apărare – un model Gemini separat care verifică fiecare acțiune pe care agentul IA principal o propune. Acest critic funcționează în izolare și examinează doar metadatele despre acțiunile propuse, mai degrabă decât conținutul integral al paginii, reducând expunerea la intrări maligne. Dacă o acțiune pare riscantă sau irelevantă pentru obiectivul declarat al utilizatorului, criticul poate ordona o reluare sau returna controlul utilizatorului.

Seturile de Origine restricționează care site-uri web și elemente de pagină poate accesa un agent în timpul unei sarcini date. Sistemul distinge între origini doar pentru citire, unde agentul poate consuma conținut, și origini care pot fi citite și scrise, unde poate efectua acțiuni. Site-urile web și cadrele necorelate sunt retrase integral, fiind necesară o funcție de porță de încredere pentru a aproba accesul la noi domenii. Acest lucru previne scurgerea de date între site-uri și limitează daunele potențiale din cauza unui agent compromis.

Supravegherea Utilizatorului necesită confirmare manuală pentru operațiuni sensibile. Atunci când un agent întâlnește portaluri bancare, site-uri cu date medicale sau are nevoie să acceseze credențiale stocate din Google Password Manager, Chrome se oprește și solicită utilizatorului să aprobe acțiunea. Același lucru se aplică și înainte de a efectua cumpărături sau de a trimite mesaje – agentul nu poate finaliza aceste acțiuni în mod autonom.

Detectarea Injectării de Prompturi utilizează un clasificator dedicat care scanează paginile în timp real pentru încercări de injectare de prompturi indirecte. Acest sistem funcționează alături de infrastructura Safe Browsing existentă a Chrome și de detectarea scamurilor pe dispozitiv pentru a bloca conținutul suspect malign înainte ca agentul să poată acționa asupra lui.

Testarea Automată Red-Teaming și Programele de Vânătoare de Buguri

Google a dezvoltat sisteme automate de testare red-teaming care generează site-uri de test și atacuri conduse de LLM pentru a valida continuu arhitectura de securitate. Compania prioritizează testarea vectorilor de atac care ar putea cauza daune durabile, în special cele care vizează tranzacții financiare sau furt de credențiale.

Mecanismul de actualizare automată al Chrome va livra remedieri rapide atunci când sunt descoperite noi vulnerabilități. Pentru a încuraja cercetarea externă de securitate, Google a anunțat plăți de până la 20.000 de dolari pentru cercetătorii care identifică slăbiciuni în cadrul de navigare agențial.

Măsurile defensive reflectă lecțiile învățate din extensiile de browser IA timpurii și integrările de chatbot, unde atacurile de injectare a prompturilor s-au dovedit a fi surprinzător de eficiente în manipularea comportamentului IA. Prin izolarea modelului critic și restricționarea accesului la origine la nivel de browser, Google își propune să prevină ca pagina web însăși să devină o suprafață de atac.

Implicațiile pentru Cursele de Browser IA

Divulgarea detaliată a securității de către Google se diferențiază de opacitatea relativă din jurul sistemelor agențiale de browser concurente. Compania pare a paria că utilizatorii enterprise și cei conștienți de securitate vor valoriza garanțiile transparente mai mult decât funcțiile de prim-mutare.

Arhitectura sugerează, de asemenea, ce consideră Google acceptabil pentru autonomia agenților IA. Cumpărăturile, cercetarea și completarea formularului pot continua cu supraveghere, dar orice lucru care atinge conturi financiare, date de sănătate sau credențiale stocate necesită aprobare umană explicită. Acesta atrage o linie clară pe care alte furnizori nu au fost dispuși să o definească public.

Pentru dezvoltatorii care construiesc pe platforma Chrome, restricțiile de set de origine vor necesita o considerare atentă a modului în care funcțiile agențiale interacționează cu fluxurile de lucru multisite. Aplicațiile care se așteaptă ca agenții să navigheze liber între domenii pot necesita modificări arhitecturale pentru a funcționa în cadrul modelului de securitate al Google.

Google nu a anunțat o dată de lansare specifică pentru funcțiile de navigare agențială în Chrome, dar cadrul de securitate detaliat sugerează că lansarea se apropie. Disponibilitatea companiei de a publica arhitectura defensivă înainte de lansare indică încredere în abordare – și o provocare implicită pentru competitori să egaleze transparența.