Google, Chrome'un AI Agent Özellikleri için Güvenlik Mimarisini Detaylandırıyor

Google, Chrome'un yaklaşan aracı yapay zeka özellikleri için ayrıntılı bir güvenlik çerçevesi yayınladı ve Gemini destekli aracıların otonom tarama görevlerini gerçekleştirirken kullanıcıları korumak için tasarlanmış birden fazla savunma katmanı tanıttı.

MKS Chrome güvenlik mühendisi Nathan Parker'ın duyurusu Yapay zeka aracılarının kullanıcılar adına web siteleriyle nasıl etkileşim kuracağını yönetecek dört temel güvenlik sütununu özetlemektedir. Mimari, hızlı enjeksiyon saldırıları, yetkisiz veri erişimi ve sahtekarlık işlemleri de dahil olmak üzere erken dönem aracı sistemlerini etkileyen riskleri ele almaktadır.

Google'ın yaklaşımı, rakiplerin tarayıcı tabanlı yapay zeka ajanlarını piyasaya sürmek için yarıştığı bir dönemde ortaya çıktı. OpenAI, ChatGPT Atlas'ı başlattı Ekim ayında ajan modu yetenekleriyle piyasaya sürülürken, Perplexity Temmuz ayında Comet tarayıcısını piyasaya sürdü. Bu güvenlik çerçevesi, Google'ın, araştırmacıların istismara açık olduğunu gösterdiği ajan özellikleriyle rakiplerine kıyasla daha temkinli hareket etme niyetini gösteriyor.

Ajan Güvenliğinin Dört Temel Direği

Kullanıcı Hizalama Eleştirmeni, birincil yapay zeka aracısının önerdiği her eylemi inceleyen ayrı bir Gemini modeli olan ilk savunma katmanını oluşturur. Bu eleştirmen, izole bir şekilde çalışır ve tam sayfa içeriği yerine yalnızca önerilen eylemlerle ilgili meta verileri inceleyerek kötü amaçlı girdilere maruz kalma riskini azaltır. Bir eylem riskli veya kullanıcının belirttiği hedefle alakasız görünüyorsa, eleştirmen yeniden deneme emri verebilir veya kontrolü kullanıcıya geri verebilir.

Kaynak Kümeleri, bir aracının herhangi bir görev sırasında erişebileceği web sitelerini ve sayfa öğelerini kısıtlar. Sistem, aracının içerik tüketebileceği salt okunur kaynaklar ile eylem gerçekleştirebileceği okunabilir/yazılabilir kaynaklar arasında ayrım yapar. İlgisiz web siteleri ve iframe'ler tamamen gizlenir ve yeni alan adlarına erişimi onaylamak için güvenilir bir geçit işlevi gerekir. Bu, siteler arası veri sızıntısını önler ve güvenliği ihlal edilmiş bir aracının neden olabileceği olası hasarı sınırlar.

Kullanıcı Denetimi, hassas işlemler için manuel onay gerektirir. Bir temsilci bankacılık portallarıyla, tıbbi veri siteleriyle karşılaştığında veya Google Şifre Yöneticisi'nde kayıtlı kimlik bilgilerine erişmesi gerektiğinde, Chrome duraklar ve kullanıcılardan işlemi onaylamalarını ister. Aynı durum, satın alma veya mesaj gönderme işlemleri öncesinde de geçerlidir; temsilci bu işlemleri kendi başına tamamlayamaz.

Hızlı Enjeksiyon Algılama, sayfaları gerçek zamanlı olarak tarayan özel bir sınıflandırıcı kullanır ve dolaylı hızlı enjeksiyon girişimlerini tespit eder. Bu sistem, şüpheli kötü amaçlı içeriği, aracının müdahale edebilmesinden önce engellemek için Chrome'un mevcut Güvenli Tarama altyapısı ve cihaz içi dolandırıcılık algılama özelliğiyle birlikte çalışır.

Otomatik Kırmızı Takım ve Hata Ödülleri

Google, güvenlik mimarisini sürekli olarak doğrulamak için test siteleri ve LLM odaklı saldırılar üreten otomatik kırmızı takım sistemleri geliştirdi. Şirket, özellikle finansal işlemleri veya kimlik bilgisi hırsızlığını hedef alan, kalıcı zarara yol açabilecek saldırı vektörlerini test etmeye öncelik veriyor.

Chrome'un otomatik güncelleme mekanizması, yeni güvenlik açıkları keşfedildikçe hızla düzeltmeler sunacak. Google, harici güvenlik araştırmalarını teşvik etmek amacıyla, aracı tarama çerçevesindeki zayıflıkları tespit eden araştırmacılara 20,000 ABD dolarına kadar ödül vereceğini duyurdu.

Savunma önlemleri, yapay zeka tarayıcı uzantıları ve sohbet robotu entegrasyonlarından alınan dersleri yansıtıyor. Bu uygulamalarda, hızlı enjeksiyon saldırıları yapay zeka davranışını manipüle etmede şaşırtıcı derecede etkili oldu. Google, eleştiri modelini izole ederek ve tarayıcı düzeyinde kaynak erişimini kısıtlayarak, web sayfasının kendisinin bir saldırı yüzeyine dönüşmesini engellemeyi amaçlıyor.

Yapay Zeka Tarayıcı Yarışı İçin Sonuçlar

Google'ın ayrıntılı güvenlik açıklaması, rakip aracı tarayıcı sistemleri etrafındaki göreceli şeffaflık ile çelişiyor. Şirket, kurumsal ve güvenlik bilincine sahip kullanıcıların, öncü özellikler yerine şeffaf güvenlik önlemlerine değer vereceğine inanıyor gibi görünüyor.

Mimari ayrıca, Google'ın yapay zeka temsilcileri için kabul edilebilir özerklik olarak gördüğü şeyi de öneriyor. Alışveriş, araştırma ve form doldurma işlemleri gözetim altında gerçekleştirilebilir, ancak finansal hesaplar, sağlık verileri veya saklanan kimlik bilgileriyle ilgili her şey açık bir insan onayı gerektirir. Bu, diğer tedarikçilerin kamuoyuna açıklamakta daha az istekli olduğu net bir çizgi çiziyor.

Chrome platformunda geliştirme yapan geliştiriciler için, kaynak kümesi kısıtlamaları, aracı özelliklerinin çoklu site iş akışlarıyla nasıl etkileşim kurduğunun dikkatlice değerlendirilmesini gerektirecektir. Aracıların alanlar arasında serbestçe gezinmesini bekleyen uygulamaların, Google'ın güvenlik modeli dahilinde çalışabilmesi için mimari değişikliklere ihtiyacı olabilir.

Google, Chrome'daki aracı tarama özellikleri için belirli bir lansman tarihi açıklamadı, ancak ayrıntılı güvenlik çerçevesi dağıtımın yaklaştığını gösteriyor. Şirketin lansmandan önce savunma mimarisini yayınlama isteği, yaklaşıma olan güveni ve rakiplerine şeffaflık konusunda örtük bir meydan okumayı gösteriyor.