Görüş
Yapay zekâ bilgisayarlarımıza geliyor — peki neleri görebileceğini kim kontrol ediyor?

Öne çıkan noktalarYerel yapay zeka işleme, cihaz üzerindeki ajanlar için otomatik olarak gizlilik veya…
Daha fazla göster
- Yerel yapay zeka işleme, cihaz üzerindeki ajanlar için otomatik olarak gizlilik veya güvenlik garantisi vermez.
- Ajanlar, her bir özel iş akışının gerektirdiğiyle sınırlı en az ayrıcalık erişimi altında çalışmalıdır.
- Kullanıcıların, ajanların neleri görebileceği ve yapabileceği üzerinde şeffaf ve geri alınabilir kontrole ihtiyacı vardır.
Yapay zekâ ajanları sohbet pencerelerinin ötesine geçerek insanların her gün kullandığı işletim sistemlerine, uygulamalara ve dosyalara girmeye başlıyor.
Son aylarda piyasaya sürülen yeni Windows bilgisayarlar ve yazılımlar, sıradan kullanıcılar için çok adımlı otonom yapay zekâ iş akışlarında yeni bir dönemin kapısını aralıyor; bu iş akışları kurumsal ortamlara da taşınıyor. Bu geçiş artık yalnızca bir teknoloji öngörüsü değil.
NVIDIA’nın RTX destekli Windows bilgisayarları, yapay zekâ ajanlarının yerel olarak çalışmasını sağlarken Perplexity, uyumlu Windows bilgisayarlardaki ajan yeteneklerini genişleterek yerel dosyaları ve bağlı uygulamaları içeren iş akışlarının önünü açtı. Microsoft ise ajanların kaynaklara nasıl erişeceğini ve nasıl işlem yapacağını denetlemek için koruma önlemleri geliştiriyor.
Ancak özerklik arttıkça güvenlik riskleri de artıyor. Microsoft Güvenlikten Sorumlu Başkan Yardımcısı Hayete Gallot, 19 Ekim’de kuruluşların “ajan hâline gelmiş içeriden kişileri” güvence altına almak için daha fazlasını yapması gerektiği konusunda uyarıda bulundu. Yapay zekâ ajanlarının sıklıkla gereğinden fazla yetkiye sahip olduğunu ve kritik süreçlerde karar verirken hassas verilere, araçlara ve sistemlere erişebildiğini belirtti.
Microsoft’un Windows güvenlik stratejisi; yalıtım, kısıtlı izinler ve sınırlı denetim üzerine kurulu. Ayrıca bir ajanın yapacağı hatanın basitçe yanlış bir yanıt vermenin ötesinde sonuçlar doğurabileceğine dair kaygılar giderek artıyor. Ajan hassas bilgileri açığa çıkarabilir, kritik dosyaları değiştirebilir veya iş uygulamalarında istenmeyen işlemlere yol açabilir.
Yerel yapay zekâ, kendiliğinden özel yapay zekâ anlamına gelmez
Bir bilgisayarda yapay zekâ ajanları kullanmak, bulut tabanlı hizmetlere aktarılan hassas veri miktarını azaltmaya yardımcı olabilir; ancak yerel işleme tek başına tam kapsamlı bir güvenlik kalkanı değildir.
Cihaz üzerinde çalışan bir model bile gereğinden fazla dosyaya erişebilir, yetersiz güvenliğe sahip olabilir veya diğer uygulamalara güvenli olmayan bağlantılar kurabilir.
Amerika kıtasında yapay zekâ çözümleri geliştiren iData Global’in CEO’su ve kurucu ortağı Bayron Quintero, sorunun her zaman yapay zekâ modeli olmadığını, çoğu zaman kurumsal yönetişimden kaynaklandığını söyledi.
Quintero, şirketlerin verilere, uygulamalara ve iş süreçlerine gereğinden fazla ya da yetersiz erişim izni verebildiğini Unite AI’a söyledi. Ajanlara, yapmaları beklenen işlemlerle bağdaşmayan haklar tanınabiliyor.
Quintero, “Zorluk, bir ajanın en az ayrıcalık ilkesine göre çalışmasını; belirli bir iş akışı için gereken veri, sistem ve işlemlere yalnızca gerektiği ölçüde erişmesini sağlamaktır,” dedi. Bunun anlamı, yalnızca belirli bir iş akışı için gereken verilere, sistemlere ve işlemlere erişim izni vermektir.
Quintero, veri sahipliğinin açıkça belirlenmesini, rol tabanlı erişim denetimlerini ve kurum içi sistemlerle üçüncü taraf sistemleri arasındaki etkileşimlerin sürekli izlenmesini temel güvenlik önlemleri olarak sıraladı.
Quintero, güvenli yerel yapay zekâ diye bir şey olmadığını vurguladı.
Aşırı izinler, zayıf şifreleme, yetersiz izleme ve güvenli olmayan entegrasyonlar, cihaz üzerinde çalışan bir ajanı bulut tabanlı bir ajan kadar, hatta ondan daha riskli hâle getirebilir.
Güvenlik yalnızca bir sistemin modelinin nerede çalıştığıyla ilgili değildir; sistemin nasıl yapılandırıldığı ve yönetildiği de önemlidir.
Yeni sınır izinler
Sıradan kullanıcıların yanıtlaması gereken soru, bir yapay zekâ ajanının erişim düzeyinin üstlendiği görev için uygun olup olmadığıdır.
Bir ajandan yalnızca tek bir belgeyi özetlemesi isteniyorsa tüm sürücüyü taraması gerekmemelidir. Fotoğrafları düzenleyen bir araç, finansal verileri kendiliğinden okumamalı veya mesaj gönderme yetkisine sahip olmamalıdır. İzinler sıkı biçimde sınırlandırılmalı, şeffaf olmalı ve geri alınabilmelidir.
Microsoft’taki ajan hesabı ve çalışma alanı modeli, ajanın faaliyetlerini kişinin oturumundan ayırma yolunda atılmış bir adım. Ancak korumaların yalnızca gösterim aşamasında değil, gerçek kullanımda da etkili olması gerekiyor.
Microsoft’un Windows’ta ajan güvenliğine ilişkin yönergeleri; kullanıcı onayı alınmasını, faaliyet kayıtlarının tutulmasını ve ajanları yalnızca ihtiyaç duydukları erişimle sınırlayacak bir mekanizma kurulmasını öngörüyor. İşverenlerin ve geliştiricilerin, ajanların belgelerde, web sitelerinde veya mesajlarda yer alan yanıltıcı talimatlara nasıl tepki verdiğini izlemesi gerekiyor.
Ajanlar, yetkilendirilmiş bir görevi yerine getirirken güvenilmeyen içeriklerle karşılaşabilir. Bir ajan düşmanca bir metni komut olarak algılarsa bu ciddi bir güvenlik sorununa yol açabilir; çünkü söz konusu bilgilere kolayca erişilebilir.
Hassas işlemlerde insan onayı ve en az ayrıcalıkla erişim, yalıtımla birlikte uygulanmalıdır.
Kolaylığın da sınırları açıkça çizilmeli
Yapay zekâlı bilgisayarlar yalnızca ajanların ne kadar işi otomatikleştirebildiğine göre değil, kullanıcıların kişisel ve profesyonel verilerini paylaşma konusundaki güvenine göre de değerlendirilecek.
Yerel işleme hız artışı sağlayıp bazı veri ifşası risklerini azaltabilse de ajan tabanlı yapay zekâ, izin ve denetim gereksinimini ortadan kaldırmıyor.
İlke basit olmalı: Ajanlar yalnızca işleri için gerekli olanlara erişebilmeli; kullanıcılar da ajanın ne yaptığını anlayabilmeli, izleyebilmeli ve engelleyebilmelidir.
Bilgisayarlar bizim adımıza daha fazla işlem yapabilir hâle geldikçe denetim sonradan düşünülecek bir konu olmamalı; tasarımın ayrılmaz bir parçası olmalıdır.












