Google, Chrome’un AI Aracılı Özelliklerinin Güvenlik Mimarısını Açıkladı

Google, Chrome’un yakında çıkacak olan ajantik AI özelliklerine yönelik ayrıntılı bir güvenlik çerçevesi yayınladı ve kullanıcıları, Gemini güçlendirilmiş ajanların özerk tarayıcı görevleri gerçekleştirdiğinde korumak için tasarlanmış çoklu savunma katmanları tanıttı.

Chrome güvenlik mühendisi Nathan Parker’dan yapılan açıklama, AI ajanlarının kullanıcıların adına web siteleri ile etkileşime girdiğinde yönetilecek dört temel güvenlik pilini ortaya koyuyor. Mimarlık, erken ajantik sistemleri etkileyen riskleri ele alıyor; bunlar arasında.prompt enjeksiyon saldırıları, yetkisiz veri erişimi ve sahte işlemler bulunuyor.

Google’un yaklaşımı, rakiplerin tarayıcı tabanlı AI ajanlarını sevkedebilecek bir yarış içinde gelirken ortaya çıkıyor. OpenAI, Ekim ayında ChatGPT Atlas’ı ajan modu yetenekleriyle piyasaya sürdü, Perplexity ise Temmuz ayında Comet tarayıcısını çıkardı. Güvenlik çerçevesi, Google’un rakiplerinden daha temkinli hareket ettiğini ve ajantik özelliklerin açığa çıkarmaya karşı daha savunmacı bir yaklaşım benimsediğini gösteriyor.

Dört Güvenlik Pili

Kullanıcı Uyumlu Eleştirmen, ilk savunma katmanını oluşturuyor – her bir eylem için birincil AI aracının önerilerini değerlendiren ayrı bir Gemini modeli. Bu eleştirmen, yalnızca önerilen eylemler hakkında meta verileri inceleyerek ve tam sayfa içeriğine maruz kalmayarak izole bir şekilde çalışıyor. Bir eylem riskli veya kullanıcıların belirtilen hedefiyle alakasız görünüyorsa, eleştirmen yeniden deneme emri verebilir veya kontrolü kullanıcıya iade edebilir.

Kaynak Kümeleri, bir aracının belirli bir görev sırasında erişebileceği web siteleri ve sayfa öğelerini kısıtlar. Sistem, aracının içerik tüketebileceği salt okunur kaynaklar ve aracının eylemler gerçekleştirebileceği okunabilir-yazılabilir kaynaklar arasında ayrım yapar. İlgisiz web siteleri ve iframe’ler tamamen engellenir ve yeni alanlara erişimi onaylamak için güvenilir bir kapı fonksiyonu gereklidir. Bu, siteler arası veri sızıntısını önler ve aracının tehlikeye atılmasının potansiyel zararını sınırlar.

Kullanıcı Denetimi, duyarlı işlemler için manuel onay gerektirir. Bir aracı, bankacılık portalları, tıbbi veri siteleri veya Google Parola Yöneticisi’nden depolanan kimlik bilgilerine erişmek zorunda kalıyorsa, Chrome durur ve kullanıcıdan eylemi onaylamasını ister. Aynı durum, satın alma işlemlerinin yapılması veya mesajların gönderilmesi öncesinde de geçerlidir – aracı bu eylemleri otomatik olarak gerçekleştiremez.

İki Yönlü Enjeksiyon Tespiti, sayfalarda gerçek zamanlı olarak dolaylı enjeksiyon girişimlerini taramak için özel bir sınıflandırıcı kullanır. Bu sistem, Chrome’un mevcut Güvenli Tarama altyapısı ve cihazda bulunan dolandırıcılık tespiti ile birlikte çalışır ve aracının üzerine davranmasından önce şüpheli kötü amaçlı içeriği engeller.

Otomatik Kırmızı Takımlar ve Hata Avı Ödülleri

Google, güvenlik mimarisini sürekli olarak doğrulamak için test siteleri ve LLM sürücülü saldırılar oluşturan otomatik kırmızı takımlar geliştirdi. Şirket, özellikle finansal işlemlere veya kimlik avına yönelik olabilecek saldırı vektörlerinin testini önceliklendirdi.

Chrome’un otomatik güncelleme mekanizması, yeni açıklar keşfedildikçe hızlı bir şekilde düzeltmeler dağıtacak. Dış güvenlik araştırmalarını teşvik etmek için Google, ajantik tarama çerçevesindeki zayıflıkları tespit eden araştırmacılara 20.000 dolarlık ödül ödemeyi duyurdu.

Savunma önlemleri, erken AI tarayıcı uzantıları ve sohbet botu entegrasyonlarından elde edilen dersleri yansıtıyor; burada.prompt enjeksiyon saldırıları, AI davranışını manipüle etmede şaşırtıcı bir şekilde etkili oldu. Eleştirmen modelini izole ederek ve kaynak erişimini tarayıcı düzeyinde kısıtlayarak Google, web sayfasının kendisiyle bir saldırı yüzeyi haline gelmesini önlemek istiyor.

AI Tarayıcı Yarışması İçin Sonuçlar

Google’un ayrıntılı güvenlik açıklaması, rakip ajantik tarayıcı sistemlerinin göreceli şeffaflığıyla tezat oluşturuyor. Şirket, güvenlik önlemlerinin şeffaf olmasının, güvenlik bilinçli kullanıcılar için ilk hareket özelliklerinden daha önemli olduğunu düşünüyor.

Mimari, Google’un AI ajanları için kabul edilebilir özerklik düzeyini de ortaya koyuyor. Alışveriş, araştırma ve form doldurma gibi işlemler denetim altında gerçekleştirilebilir, ancak mali hesaplar, sağlık verileri veya depolanan kimlik bilgileriyle ilgili her şey için açık insan onayı gereklidir. Bu, diğer satıcıların kamuoyu önünde tanımlamaya daha az istekli olduğu bir çizgi çiziyor.

Chrome platformu üzerinde geliştirme yapan geliştiriciler için, kaynak kümesi kısıtlamaları, ajantik özelliklerin çoklu site iş akışlarıyla nasıl etkileşime gireceği konusunda dikkatli bir şekilde değerlendirilmelidir. Birden fazla domaine serbestçe gezinebilecek ajanları bekleyen uygulamalar, Google’un güvenlik modeli içinde çalışmak için mimari değişiklikler gerektirebilir.

Google, Chrome’da ajantik tarama özelliklerinin具体 bir yayın tarihini açıklamadı, ancak ayrıntılı güvenlik çerçevesi, dağıtımın yaklaşmakta olduğunu gösteriyor. Şirketin, lansmandan önce savunma mimarisini yayınlama istekliliği, yaklaşımın güvenine işaret ediyor ve rakiplerine şeffaflıklarını eşleştirmeleri için zımnî bir meydan okuma sunuyor.