Düşünce Liderleri

Riskleri Göz Önüne Almadan Bard ile AI Uzantılarını Kullanmaya Başlamayın

Tal Zamir
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarGoogle personeli, özel kullanıcı verileri içeren Bard konuşmalarını inceleyebilir.
Daha fazla göster
  • Google personeli, özel kullanıcı verileri içeren Bard konuşmalarını inceleyebilir.
  • Bir Bard konuşmasını paylaşmak, onun genel Google arama sonuçlarında görünmesine yol açabilir.
  • DLP kontrollerine sahip tarayıcı uzantıları, AI veri hırsızlığı risklerini azaltabilir.

Google yakın zamanda, sohbet odaklı üretken yapay zekâ (GenAI) aracını diğer hizmetleriyle bütünleştiren Bard Uzantılarının tam kapsamlı kullanıma sunulduğunu duyurdu. Bard artık kullanıcıların kişisel verilerini çeşitli görevler için kullanabilir – e-postaları düzenleme, uçuşlar rezerve etme, seyahat planlama, mesaj yanıtları oluşturma ve çok daha fazlası.

Google’ın hizmetleri zaten günlük hayatlarımızda derinlemesine iç içe geçmişken, bu entegrasyon GenAI’nin pratik günlük uygulamaları için gerçek bir ilerleme sağlıyor ve kişisel görevleri ve iş akışlarını daha verimli ve üretken bir şekilde ele alma yolları oluşturuyor. Sonuç olarak, Google daha da rahat AI araçları yayınladıkça, artık tarayıcı tabanlı üretkenlik uzantıları arayan kullanıcıların talebini karşılamak üzere başka web tabanlı AI özellikleri de ortaya çıkıyor.

Kullanıcılar ise dikkatli ve sorumlu olmalıdır. Bard Uzantıları ve benzer araçlar ne kadar kullanışlı ve üretken olabilecek olsa da, kullanıcıların kişisel verilerini tehlikeye atan yeni güvenlik açıkları oluşturabilir ve henüz keşfedilmemiş diğer riskler ortaya çıkabilir. Bard veya diğer GenAI üretkenlik araçlarını kullanmak isteyen kullanıcılar, en iyi uygulamaları öğrenmeli ve hassas bilgilerini düşünmeden teslim etmeden önce kapsamlı güvenlik çözümleri aramalıdır.

Kişisel Verileri İnceleme

Google açıkça belirtiyor ki şirket personeli kullanıcıların Bard ile yaptığı sohbetleri inceleyebilir – ki bu sohbetler özel bilgiler, faturalar, banka detayları veya aşk mektupları içerebilir. Bu nedenle kullanıcılara, gizli bilgileri veya Google çalışanlarının görmesini ya da ürünleri, hizmetleri ve makine öğrenimi teknolojilerini geliştirmek için kullanmasını istemedikleri verileri girmemeleri yönünde uyarı yapılır.

Google ve diğer GenAI aracı sağlayıcıları, kullanıcıların kişisel verilerini makine öğrenimi modellerini yeniden eğitmek için kullanması da olasıdır; bu, GenAI’nin geliştirilmesinin gerekli bir parçasıdır. AI’nin gücü, kendini öğretme ve yeni bilgilerden öğrenme yeteneğinde yatıyor, ancak bu yeni bilgiler kişisel verilerini bir GenAI uzantısına emanet eden kullanıcılardan geldiğinde, parolalar, banka bilgileri veya iletişim detayları gibi bilgileri Bard’ın herkese açık hizmetlerine entegre etme riski ortaya çıkabilir.

Belirsiz Güvenlik Endişeleri

Bard, Google içinde daha geniş bir şekilde entegre bir araç haline geldikçe, uzmanlar da kullanıcılar da, onun işlevselliğinin kapsamını anlamaya çalışıyor. Ancak AI alanındaki diğer öncü şirketler gibi Google da, kullanıcıların bilgilerini ve verilerini tam olarak nasıl kullanacağını bilmeden ürünleri yayınlamaya devam ediyor. Örneğin, kısa süre önce ifşa edildi ki, Bard ile yapılan bir sohbeti Paylaş düğmesi aracılığıyla bir arkadaşınızla paylaşırsanız, tüm sohbet standart Google arama sonuçlarında herkesin görebileceği şekilde görünebilir.

İş akışlarını ve verimliliği iyileştirmek için cazip bir çözüm olsa da Bard’a veya diğer AI destekli uzantılara, günlük görevleri sizin adınıza gerçekleştirmek için izin vermek, istenmeyen sonuçlara yol açabilir – GenAI’nin zaman zaman ürettiği yanlış veya hatalı çıktılar olan AI halüsinasyonları. Google kullanıcıları için bu, yanlış bir uçuş rezerve etmek, bir faturayı yanlış ödemek veya belgeleri yanlış kişiyle paylaşmak anlamına gelebilir. Kişisel verilerin yanlış kişiye veya kötü niyetli bir aktöre maruz kalması veya yanlış verilerin doğru kişiye gönderilmesi, kimlik hırsızlığı, dijital gizlilik kaybı, potansiyel finansal kayıp veya utandırıcı yazışmaların ifşa olmasına yol açabilir.

Güvenliği Genişletme

Ortalama AI kullanıcısı için en iyi uygulama, davranışları hâlâ öngörülemeyen AI asistanlarıyla hiçbir kişisel bilgiyi paylaşmamaktır. Ancak bu, tam güvenlik garantisi vermez.

Şirketlerin SaaS ve web tabanlı uygulamalara kayması, tarayıcıyı zaten saldırganlar için birincil hedef haline getirdi. İnsanlar daha fazla web tabanlı AI aracını benimsemeye başladığında, hassas verilerin çalınması için fırsat penceresi biraz daha genişliyor. GenAI’nin başarısına binerek yeni ve verimli özelliklerle kullanıcıları cezbetmek isteyen daha fazla tarayıcı uzantısı ortaya çıkarken, insanlar bu uzantıların çoğunun sonunda kişisel bilgileri çalmak veya ChatGPT ile ilgili araçların durumunda OpenAI API anahtarlarını çalmak için ortaya çıkacağını bilmelidir.

Neyse ki, tarayıcı uzantı güvenlik çözümleri zaten mevcut ve veri hırsızlığını önlemek için kullanılabilir. Bir tarayıcı uzantısı ile DLP kontrollerini uygulayarak, kullanıcılar AI tabanlı olsun ya da olmasın diğer tarayıcı uzantılarının kişisel verileri suistimal etme veya paylaşma riskini azaltabilir. Bu güvenlik uzantıları tarayıcı faaliyetlerini inceleyebilir ve güvenlik politikalarını uygulayabilir, web tabanlı uygulamaların hassas bilgileri ele geçirme riskini önleyebilir.

Bard’ı Koruma

Bard ve benzer uzantılar üretkenliği ve kullanım kolaylığını artırmayı vaat ediyor olsa da, önemli güvenlik riskleri taşıyor. Kişisel veriler söz konusu olduğunda, her zaman altta yatan güvenlik endişeleri vardır ve kullanıcılar bunları bilmelidir – özellikle de yeni ve keşfedilmemiş GenAI sularında.

Kullanıcılar Bard ve diğer AI ve web tabanlı araçlara, hassas kişisel verileri bağımsız olarak kullanma izni verdiğinde, daha ciddi sonuçlar şüphesiz ki tarayıcı güvenlik uzantıları veya DLP kontrolleri olmadan kendilerini savunmasız bırakan kullanıcılar için bekliyor. Sonuçta, üretkenlikteki bir artış, bilgi ifşa etme olasılığını artırıyorsa, çok daha az fayda sağlayacaktır; bu nedenle bireyler, verileri kendi zararlarına olacak biçimde yanlış kullanılmadan önce AI için güvenlik önlemleri almalıdır.

Tal, Perception Point'da Chief Technology Officer'dir. Önceden Hysolate'in kurucusu ve CTO'su olan Tal Zamir, 20 yıllık bir yazılım endüstrisi lideridir ve teknolojinin nasıl çalıştığına yeniden bakarak acil iş zorluklarını çözme konusunda bir geçmişe sahiptir.

O, birden fazla siber güvenlik ve sanallaştırma ürününde çığır açan yenilikler yapmıştır. Tal, VMware'deki CTO ofisinde yeni nesil son kullanıcı bilişim ürünlerinin geliştirilmesine öncülük etti.