“Yapay Zekâ Sihirlidir” Zihniyetini Aşmak: Yapay Zekâ Modellerinin Nasıl Çalıştığını Öğrenmek Neden Şirket Genelinde Öncelik Olmalı?

Başıboş yapay zekâ ajanlarına ilişkin uyarılar sürerken bir geliştirici, kısa süre önce bir kodlama ajanına uzaktan yedeklemesi olmayan bir makine üzerinde sınırsız yetki verdi. İki dakikadan kısa sürede 48.000 dosyayı sildi.

Bu tür olaylar, yapay zekâ ajanlarını devreye almanın risk taşıdığını çarpıcı biçimde hatırlatıyor; karmaşık bir sürecin herhangi bir noktasına bir insan denetçi ekleyip sistemin güvenli olduğunu varsaymak yeterli değil. Bazı süreçler müdahale gerektirmezken diğerlerinde çok daha sıkı kontroller gerekir. Bir yazım yanlışını düzeltmekle binlerce dosyayı silmek açıkça aynı düzeyde risk taşımaz; bu nedenle denetim, gerçekten tehlikede olan unsurları yansıtmalıdır.

Kuruluşlar, özellikle bir eylemin etkisi büyük olduğunda veya geri alınması zor olduğunda, insan muhakemesinin gerçekten önem taşıdığı anları daha iyi belirlemelidir. Ajanlar hata yaptığında ise çalışma ortamı, hatanın yol açabileceği zararı sınırlamalıdır.

Yapay Zekâ Deterministik Değil, Olasılıksaldır

Her şeyden önce, yazılım geliştirmeye doğrudan veya dolaylı olarak dokunan her çalışanın, yapay zekâ modellerinin bilgiyi nasıl işlediğine dair temel bir anlayış edinmesi şarttır. Bu hiç de küçük bir iş değildir; ekipleri eğitmeye kararlılıkla odaklanmayı gerektirir ve zamanla şirket genelinde bir hedef hâline gelmelidir.

Bir kişi yapay zekâyla ilk kez etkileşime geçtiğinde, bu ona sihir gibi gelir. Bir cümle yazarsınız ve birden sohbet etmeye başlarsınız. Modellerin ve eğitimin arka planda gerçekte nasıl işlediğine dair temel bir anlayış edinmek, güvenlik ve verimlilikle ilgili şirket genelindeki yapay zekâ politikasını belirlemek açısından önemlidir. Sinir ağı, belirteçlere ayırma ve bunun ardında gerçekleşen istatistiksel çözümleme ile bunların çıktılara nasıl dönüştüğü, şirketteki tüm çalışanlar için önemli bir eğitim fırsatı sunacaktır.

Büyük dil modelleri hiçbir zaman deterministik sonuçlar üretmeyecek. Çıktı olasılıksaldır. Geleneksel yazılımlarda girdi verdiğinizde, çıktının A, B veya C gibi neler olabileceğine dair bazı beklentileriniz olur. Ancak yapay zekâda F, bir & işareti ya da güneş gözlüğü takan bir kedinin betimlemesiyle karşılaşabilirsiniz.

Bir şey olasılıksalsa, onu alışılmış yöntemlerle test edemezsiniz. Olasılıksal unsurları yakalamak ve bunların yol açabileceği sorunları fark etmek için hızlıca ayarlama yapabilen, akıl yürütebilen, anlayabilen ve bağlamı çekip kullanabilen bir test yöntemine ihtiyaç vardır. Bu tür testleri, kapsamına ve risk düzeyine bağlı olarak yapay zekâ ya da ilgili uzmanlığa sahip bir kişi yürütebilir. Sürecin en başında, çözülecek sorunu belirleyip çerçeveyi oluşturabilmek ve ardından sonunda inceleme yapabilmek için bir insanı sürece dahil etmek en yararlı yaklaşım olacaktır.

Geliştiriciler, kuruluşlarının kurum içi yapay zekâsının girdilerden nasıl yanıtlar ürettiğini belirleyen değişkenleri ve yaygın uygulamaları gözlemlemeye en yakın kişiler olduğundan, şirketlerindeki yapay zekâ eğitimini şekillendirmeye ve herkesin yapay zekâdaki determinizm ile olasılıksallık arasındaki farkı ve bunun neden önemli olduğunu anlamasını sağlamaya önemli katkıda bulunabilir. Amaç, yapay zekâ kullanmanın sihir gibi olduğu ve hangi çıktıyı alırsanız alın memnun kaldığınız yönündeki zihniyeti azaltmaktır. Bunun yerine kuruluşlar, işletmenin kullandığı modelleri, bunların nasıl kullanıldığını, hangi sorunların ortaya çıkabileceğini, nasıl denetlendiklerini ve bu sürecin sonuçlarını anlaşılır kılmaya ve açıklamaya çalışmalıdır.

Güvenlik Önlemleri Modelde Değil, Altyapıda Olmalı

Yapay zekânın “sihri” çürütülüp yapay zekâ destekli bir proje başladıktan sonra, her şeyin beklenen doğrultuda ilerlediğinden emin olmak için şeffaf bir denetim politikasının yürürlükte olması hayati önem taşır. Böylece proje “kötü” ya da yetersiz bir çıktı verirse sorumlu kişi izlenen adımları denetleyebilir ve sorunun tekrarlanmasını önleyebilir. Beklenenden iyi sonuçlar elde edildiğinde de bunun faydası görülür; çünkü bu adımlar tekrarlanıp başka projelerle veya gruplarla paylaşılabilir.

Bu süreci sistematik hâle getirmek, her ekipte onlarca geliştiricinin bulunabileceği ve gün boyunca yüzlerce geliştiricinin kod üzerinde çalışabileceği büyük şirketler için özellikle önemlidir. Yapay zekâ pek çok şeyi gerçekten çok hızlı yapabilir ve bir sorun çıkarsa, sorunun tam olarak hangi adımda ortaya çıktığını değerlendirecek bir sistem bulunmalıdır. OpenAI’ın ajanlarının bu yaz Hugging Face sistemlerine sızmasına bakın. OpenAI, ExploitGym adlı bir kıyaslama testini kullanarak modellerinin yazılım güvenlik açıklarından ne ölçüde yararlanabildiğini sınamaktaydı. Test için modellerin saldırı amaçlı siber faaliyetlere yönelik retlerini bilerek gevşetti. Korumalı alandan çıkmanın tek yolu bir paket vekil sunucusuydu. Modeller bu vekil sunucuda bilinmeyen bir açık bulup dışarı çıktı ve test yanıtlarını aramak için Hugging Face’in üretim sistemlerinde iki günden fazla zaman geçirdi.

Manşetlerde olay başıboş bir yapay zekâya bağlandı. Bense buna olasılıksal bir sistemin etrafında kurulmuş deterministik bir düzenek derdim. OpenAI modellere sistemlere sızmalarını söyledi, ardından da onların beklenen rotada kalacağına güvendi. Kıyaslama testinin yaratıcısı, modellerin daha önce de testte hile yaptığını, ancak bunun her zaman korumalı alanın içinde kaldığını söylüyor. Bu kez modellerden biri dışarı çıktı. Standart güvenlik önlemleri standart davranış varsayar; oysa yapay zekânın standartlara uyması gerekmez.

Yapay zekâ güvenliği, bu nedenle, modelin iyi davranmasına değil, ortam tarafından uygulanan erişim ve güvenlik kontrollerine dayanır. Ajanın her kapıyı deneyeceğini varsayın ve yalnızca ihtiyacı olan kapıları açık bırakın. 48.000 dosyayı silen ajana kopyalar üzerinde çalışması ve orijinallere dokunmaması söylenmişti. Buna rağmen orijinalleri sildi. Talimatlar güvenlik kontrolleri değildir.

Ajan izinlerini yönetmek, yeni işe alınmış kıdemsiz bir geliştiriciyi işe alıştırmaya benzer. İlk günden üretim ortamına root erişimi vermezsiniz. Verip de veritabanınızı silseydi, bunu onun dâhi bir bilgisayar korsanı olmasına bağlamazdınız. Her ölçekteki güvenlik olayında temel nedeni saptamak büyük önem taşır. Sorun modelde mi? Modeli oluşturan şirkette mi? Modele erişim izni veren şirkette mi? Nedeni ne olursa olsun, nihai sorumluluk bir insana aittir.

Son olarak, bugün ele alınması gereken önemli konulardan biri, bir geliştiricinin dizüstü bilgisayarında gözlerden uzak neler yaşandığıdır. Geçmişte iş akışının izini sürmek daha kolaydı. Geliştiriciler kod yazıyor, gözden geçiriyor ve yayımlıyordu; bu nedenle bir şeylerin ters gittiği ana kadar izlenebilecek açık bir yol vardı. Artık bir geliştirici iş kaydını bir ajana verip “bunu düzelt” diyebilir. Bu çalışma gözlerden uzak gerçekleşirse izlenecek hiçbir şey kalmaz. Her adımın eksiksiz bir kaydı tutulmalıdır: hangi ajanın çalıştığı, hangi modeli kullandığı, kendisine hangi istemlerin verildiği, hangi araçları çağırdığı ve o sırada hangi izinlere sahip olduğu. Ajanları kişisel dizüstü bilgisayarlar yerine merkezi olarak çalıştırmak, bunu sağlamanın bir yoludur. Önemli olan, bu kaydın mevcut olmasıdır.

Sonuçta, bir olay yaşanması durumunda her şirketin kendini koruması gerekir. Bu kayıt, kök neden analizi yapmaya ve soruna yol açan adımı ve kodu bulmaya yetecek kadar bilgi içermelidir.

Yapay zekâ dünyayı büyük ölçüde değiştirdi ve iş süreçleri de buna ayak uydurmalı. Uygun koruyucu önlemleri belirlemek için yapay zekâ süreçleri, test, gözden geçirme döngüleri ve denetim döngüleri daha iyi anlaşılmalıdır; hem geliştirici ekiplerinde hem de şirket genelinde.