Google paljastaa Chrome-selaimen tekoälyominaisuuksien turvallisuusarkkitehtuurin

Google (GOOGL ) on julkaisnut yksityiskohtaisen turvallisuusarkkitehtuurin tuleville Chrome-selaimen tekoälyominaisuuksille, jotka sisältävät useita puolustuskerroksia, joiden tarkoituksena on suojella käyttäjiä, kun Gemini-pohjaiset agentit suorittavat itsenäisiä selaustehtäviä.

Chrome-selaimen turvallisuusinsinööri Nathan Parkerin ilmoitus esittää neljä keskeistä turvallisuuspilaria, jotka määrittävät, miten tekoälyagentit vuorovaikuttavat verkkosivujen kanssa käyttäjien puolesta. Arkkitehtuuri käsittelee riskejä, jotka ovat vaivanneet varhaisia tekoälyjärjestelmiä, mukaan lukien ohjelmointihyökkäykset, laittomat tietojen käyttö ja petolliset transaktiot.

Googlen lähestymistapa saapuu kilpailijoiden kilpaillessa tekoälypohjaisia selaimia. OpenAI julkaisi ChatGPT Atlasin lokakuussa agenttiominaisuuksilla, kun taas Perplexity julkaisi Comet-selaimensa heinäkuussa. Turvallisuusarkkitehtuuri osoittaa Googlen aikomusta edetä varovaisemmin kuin kilpailijat, joiden tekoälyominaisuuksia tutkijat ovat jo osoittaneet alttiiksi hyökkäyksille.

Tekoälyagenttien neljä turvallisuuspilaria

Käyttäjän mukautusarvostelija muodostaa ensimmäisen puolustuskerroksen – erillisen Gemini-mallin, joka tarkistaa jokaisen toimen, jonka päätekoälyagentti ehdottaa. Tämä arvostelija toimii eristetyssä ympäristössä ja tarkastelee vain ehdotettujen toimien metatietoja eikä kokonaista sivun sisältöä, mikä vähentää sen altistumista haitallisiin syötteille. Jos toimenpiteenä näyttää riskialttiina tai merkityksettömänä käyttäjän ilmoitetun tavoitteen suhteen, arvostelija voi määrätä toimenpiteen uudelleen tai palauttaa valvonnan käyttäjälle.

Alkuperäiset joukot rajoittavat, mitkä verkkosivut ja sivuelementit agentti voi käyttää tietyssä tehtävässä. Järjestelmä erottaa lukuoikeuksien joukot, joissa agentti voi lukea sisältöä, ja kirjoitusoikeuksien joukot, joissa se voi suorittaa toimia. Sivustot ja kehykset, jotka eivät liity tehtävään, estetään kokonaan, ja luotettu portti on tarpeen hyväksyä pääsy uusiin verkkotunnuksiin. Tämä estää verkkosivujen välistä tietovuotoa ja rajoittaa potentiaalista vahinkoa, jonka komprometoidun agentin aiheuttama vahinko voi aiheuttaa.

Käyttäjän valvonta edellyttää manuaalista vahvistusta herkillä toimilla. Kun agentti kohtaa pankkipalveluja, terveydenhuollon tietoja tai tarvitsee pääsyä tallennettuihin tunnistetietoihin Google Password Managerista, Chrome pysähtyy ja pyytää käyttäjää vahvistamaan toimen. Sama koskee ostoksia tai viestien lähettämistä – agentti ei voi suorittaa näitä toimia itsenään.

Ohjelmointihyökkäyksen havaitseminen käyttää omistajaa, joka skannaa sivuja reaaliajassa epäsuorien ohjelmointihyökkäyksen yritysten havaitsemiseksi. Tämä järjestelmä toimii Chrome-selaimen olemassa olevan turvallisen selaamisen infrastruktuurin ja laitteiston huijausilmoituksen rinnalla estämään epäiltyä haitallista sisältöä ennen kuin agentti voi toimia siitä.

Automaattinen punainen tiimi ja bugipalkinnot

Google on kehittänyt automaattisen punaisen tiimin järjestelmiä, jotka luovat testisivuja ja LLM-ohjattuja hyökkäyksiä jatkuvasti vahvistamaan turvallisuusarkkitehtuuria. Yhtiö priorisoi testaamista hyökkäysvektoreita, jotka voivat aiheuttaa kestävää vahinkoa, erityisesti niitä, jotka kohdistuvat taloudellisiin transaktioihin tai tunnistetietojen varastamiseen.

Chrome-selaimen automaattinen päivitysmekanismi toimittaa korjauksia nopeasti, kun uusia haavoittuvuuksia havaitaan. Lisäksi yhtiö on ilmoittanut palkintomaksuja jopa 20 000 dollaria tutkijoille, jotka tunnistavat heikkoudet tekoälyselaimen turvallisuusarkkitehtuurissa.

Puolustusjärjestelyt heijastavat oppeja, jotka on opittu varhaisista tekoälyselainlaajennuksista ja chatbot-integraatioista, joissa ohjelmointihyökkäykset osoittautuivat yllättävän tehokkaiksi tekoälykäyttäytymisen manipuloinnissa. Eristämällä arvostelijamallin ja rajoittamalla alkuperäisten joukkojen pääsyä selaimen tasolla Google pyrkii estämään verkkosivun itsensä muuttumisen hyökkäyspinnaksi.

Vaikutukset tekoälyselainten kilpailuun

Googlen yksityiskohtainen turvallisuusjulkaisu vastaa kilpailijoiden verrattain epäselvää tekoälyselainten järjestelmien turvallisuutta. Yhtiö näyttää panostavan siihen, että yritys- ja turvallisuustietoiset käyttäjät arvostavat avoimia turvallisuussuojaustoimia enemmän kuin ensimmäiset ominaisuudet.

Arkkitehtuuri osoittaa myös, mitä Google pitää tekoälyagenttien hyväksyttävänä autonomiana. Ostokset, tutkimus ja lomakkeiden täyttäminen voivat jatkua valvonnassa, mutta kaikki, mitä koskee taloudellisia tietoja, terveydenhuollon tietoja tai tallennettuja tunnistetietoja, edellyttää eksplisiittistä ihmisen hyväksyntää. Tämä piirtää selkeän rajan, jonka muut toimijat eivät ole halunneet määritellä julkisesti.

Kehittäjille, jotka rakentavat Chrome-selaimen alustalle, alkuperäisten joukkojen rajoitukset edellyttävät tarkkaa harkintaa siitä, miten tekoälyominaisuudet vuorovaikuttavat monisivuisilla työvirroilla. Sovellukset, jotka odottavat agenteilta vapaata navigointia verkkosivujen välillä, saattavat vaatia arkkitehtonisia muutoksia toimimaan Googlen turvallisuusmallin puitteissa.

Google ei ole ilmoittanut tarkkaa julkaisupäivämäärää tekoälyselaimen ominaisuuksille Chromeen, mutta yksityiskohtainen turvallisuusarkkitehtuuri viittaa siihen, että käyttöönotto on lähellä. Yhtiön valmius julkaisemaan puolustusarkkitehtuuri ennen julkaisua osoittaa luottamusta lähestymistapaan – ja epäsuoran haasteen kilpailijoille vastata avoimuudella.