Google детально розповідає про архітектуру безпеки для функцій агентських можливостей Chrome з штучним інтелектом

Google опублікував детальну структуру безпеки для майбутніх агентських можливостей Chrome, що працюють на основі штучного інтелекту, представивши кілька захисних шарів, призначених для захисту користувачів під час виконання автономних завдань агентами, що працюють на основі Gemini.

Оголошення від інженера з безпеки Chrome Натана Паркера описує чотири основні стовпи безпеки, які будуть регулювати взаємодію агентів штучного інтелекту з веб-сайтами від імені користувачів. Архітектура розглядає ризики, які були характерні для ранніх агентських систем, включаючи атаки за допомогою ін’єкції запитів, несанкціонований доступ до даних та фальшиві транзакції.

Підхід Google з’являється в той час, коли конкуренти намагаються випустити браузери з функціями штучного інтелекту. OpenAI запустила ChatGPT Atlas у жовтні з можливостями агента, тоді як Perplexity випустила свій браузер Comet у липні. Структура безпеки сигналізує про намір Google діяти більш обережно, ніж конкуренти, чий агентські функції дослідники вже показали вразливими до експлуатації.

Чотири стовпи безпеки агентів

Критик узгодження користувача утворює перший захисний шар – окрему модель Gemini, яка перевіряє кожну дію, запропоновану основним агентом штучного інтелекту. Цей критик працює в ізоляції та розглядає лише метадані про запропоновані дії, а не повний вміст сторінки, тим самим зменшуючи свою вразливість до шкідливих входів. Якщо дія видається ризикованою або неважливою для заявленої мети користувача, критик може наказати повторити спробу або повернути контроль користувачеві.

Набори походження обмежують, які веб-сайти та елементи сторінок агент може доступитися під час виконання завдань. Система розрізняє між лише для читання походження, де агент може споживати вміст, та походженням для читання та запису, де він може виконувати дії. Непов’язані веб-сайти та фрейми повністю обмежені, а для доступу до нових доменів потрібна довірена функція-брама. Це запобігає витоку даних між сайтами та обмежує потенційну шкоду від скомпрометованого агента.

Контроль користувачем вимагає ручного підтвердження для чутливих операцій. Коли агент зустрічає портали банківських послуг, сайти медичної інформації або потребує доступу до збережених паролів з Google Password Manager, Chrome паузує та пропонує користувачеві підтвердити дію. Те саме стосується покупок чи відправки повідомлень – агент не може виконувати ці дії автономно.

Виявлення ін’єкції запитів використовує спеціальний класифікатор, який сканує сторінки в реальному часі для виявлення спроб ін’єкції запитів. Ця система працює поряд з інфраструктурою безпечного браузингу Chrome та виявленням шахрайства на пристрої для блокування підозрілого шкідливого вмісту, перш ніж агент зможе на нього відреагувати.

Автоматичне тестування на проникнення та програма винагород за баги

Google розробила автоматичні системи тестування на проникнення, які генерують тестові сайти та атаки, керовані великими мовними моделями, для постійного підтвердження безпеки архітектури. Компанія пріоритезує тестування векторів атак, які можуть завдати тривалої шкоди, особливо тих, що націлені на фінансові транзакції або крадіжку паролів.

Механізм авто-оновлення Chrome забезпечить швидке доставлення виправлень, як тільки будуть виявлені нові уразливості. Для заохочення зовнішніх досліджень безпеки Google оголосила про виплату винагород до $20 000 дослідникам, які виявлять слабкості в агентських можливостях браузера.

Захисні заходи відображають уроки, виведені з ранніх розширень браузера штучного інтелекту та інтеграцій чат-ботів, де атаки за допомогою ін’єкції запитів виявилися досить ефективними для маніпулювання поведінкою штучного інтелекту. Ізолюючи модель-критик та обмежуючи доступ до походження на рівні браузера, Google намагається запобігти перетворенню самої веб-сторінки на поверхню атаки.

Вплив на гонку штучного інтелекту в браузерах

Детальне повідомлення про безпеку від Google контрастує з відносною не透ністю навколо конкуруючих систем агентських браузерів. Компанія, здається, робить ставку на те, що корпоративні користувачі та ті, хто уважно ставиться до безпеки, будуть цінувати прозорі засоби захисту над першими функціями.

Архітектура також свідчить про те, яку автономність агентів штучного інтелекту вважає прийнятною Google. Пошуки, дослідження та заповнення форм можуть продовжуватися під контролем, але все, що стосується фінансових рахунків, даних про здоров’я чи збережених паролів, потребує явного підтвердження людини. Це проводиться чітка межа, яку інші виробники були менш схильні публічно визначати.

Для розробників, які будують на платформі Chrome, обмеження наборів походження вимагатимуть ретельного розгляду того, як агентські можливості взаємодіють з мульти-сайтовими робочими процесами. Застосунки, які очікують, що агенти будуть вільно переміщуватися між доменами, можуть потребувати архітектурних змін для роботи в рамках моделі безпеки Google.

Google не оголосила конкретної дати запуску агентських можливостей браузера Chrome, але детальна структура безпеки свідчить про те, що запуск наближається. Готовність компанії опублікувати захисну архітектуру до запуску свідчить про впевненість у підході та про неявний виклик конкурентам наслідувати свою прозорість.