Düşük Kodlu ve Yüksek Kodlu Ajan Geliştirme için Siber Güvenlik Stratejileri

Kuruluşlar, yapay zekâ ajanlarını iş sistemlerinde kullanmaya başladıkça geliştirme hızı ile güvenlik denetimi arasındaki bağ güçleniyor. Düşük kodlu ve yüksek kodlu ajan geliştirmeye yönelik siber güvenlik stratejileri, her yaklaşımın bilgilere nasıl erişim sağladığını ve hangi eylemlere olanak tanıdığını dikkate almalı. Hedefe yönelik koruma önlemleri bu farklılıkları ele alırken, ortak yönetişim de dağıtımlar yaygınlaştıkça ajan faaliyetlerinin yetkilendirilmiş görevlerle uyumlu kalmasını sağlar.

Düşük Kodlu ve Yüksek Kodlu Yapay Zekâ Ajanı Geliştirmeyi Birbirinden Ayıran Nedir?

Düşük kodlu platformlar, iş hizmetlerini birbirine bağlayan görsel arayüzler ve önceden oluşturulmuş bağlayıcılar aracılığıyla geliştiricilerin ajanlar oluşturmasına olanak tanır. Yüksek kodlu geliştirme ise programcılara özel kod, araç entegrasyonları ve yürütme ortamları üzerinden ajan davranışını tanımlama konusunda daha fazla esneklik sunar. Her iki yaklaşımda da ajanların erişebileceği bilgiler ve gerçekleştirebileceği eylemler denetlenmelidir.

Denetimin farklı noktalarda olması, güvenlik sorumluluklarının da farklılaşmasına yol açar. Düşük kodlu geliştirme yapanlar, paylaşımı ve bağlayıcı erişimini yöneten platform ayarları içinde çalışır; bu nedenle yapılandırma kararları özellikle önem taşır. Yüksek kodlu ekipler ise dosya ve kimlik bilgilerine ilişkin sınırlar da dâhil olmak üzere, ajan talimatlarını yürüten yazılım ve ortamlar konusunda daha fazla sorumluluk üstlenir.

The Cybersecurity and Infrastructure Security Agency ajan tabanlı yapay zekânın çeşitli risklerini tanımlıyor; bu riskler her iki yaklaşım için de yararlı bir çerçeve sunuyor. Saldırı yüzeyinin genişlemesi, ek giriş noktalarının ortaya çıkmasını; ayrıcalıkların giderek artması ise erişim yetkilerinin birikmesini ifade eder. Davranışsal uyumsuzluk, amaçlanan görevlerden sapmaları kapsar; olay kayıtlarının yetersizliği de soruşturmayı zorlaştırır. Yaygın olarak kullanılan bir bağlayıcı ile kısıtlanmamış bir komut satırı aracı, aynı sorunların farklı biçimlerde ortaya çıkmasına neden olabilir.

Düşük Kodlu Yapay Zekâ Ajanlarında Güvenlik Riskleri ve Çözüm Yolları

Düşük kodlu araçların erişilebilir olması, geleneksel geliştirme ekiplerinin dışındaki çalışanların da ajan oluşturabilmesini sağlar. Kullanımı kolay bağlantıların yetkilendirilmiş iş amaçlarıyla uyumlu kalması için güvenlik denetimi bu geliştiricileri de kapsamalıdır.

Düşük Kodlu Ortamlarda Güvenliğin Yetersiz Kaldığı Noktalar

Teknik olmayan geliştiriciler, ajanın izinlerini tam olarak anlamadan onu paylaşılan dosyalara veya iş uygulamalarına bağlayabilir. Bu bağlantılar üzerinden verilen erişim, hassas bilgileri açığa çıkarabilir ya da amaçlanan iş akışının ötesinde eylemlere olanak tanıyabilir. Geniş kapsamlı paylaşım ve sahipliğin belirsiz olması, bu riski artırabilir.

Benimseme ölçeği, departmanlar genelinde tutarlı bir denetim uygulanmasını önemli kılıyor. Forrester, 2024 tarihli bir pazar analizinde kurumsal geliştiricilerin %87’sinin bazı geliştirme çalışmalarında düşük kodlu platformlar kullandığını bildiriyor. Bu bulgu genel olarak geliştirme faaliyetleriyle ilgilidir; dolayısıyla yapay zekâ ajanlarının benimsenme oranını özel olarak ölçmeden, bu platformların ne kadar yaygın olduğunu ortaya koyar.

Düşük Kodlu Ajan Güvenliğini Güçlendirmenin Uygulanabilir Yolları

Ekipler, bağlayıcı izinlerini her ajana atanmış göreve göre gözden geçirmeli ve en az ayrıcalık ilkesini uygulamalıdır. Merkezi bir envanterde her dağıtımın sahibi ve bağlı olduğu hizmetler kaydedilmeli, hassas eylemler içinse onay şartı getirilmelidir. Böylece güvenlik ekipleri kayıt dışı ajanları belirleyebilir ve uygunsuz erişimleri araştırabilir.

Microsoft’un veri yönetişimi yaklaşımı, iş bilgilerine erişimin denetim altında tutulmasını vurgular. Microsoft Digital’da baş mimar olan Naveen Jangir, kuruluşlara “uygun erişim kısıtlamalarıyla veriyi yönetin ve koruyun” tavsiyesinde bulunuyor. Bu denetimler, yetkili kullanıcıların ve yapay zekâ özelliklerinin bilgiyi gereksiz yere açığa çıkarmadan kullanmasına belirlenmiş izin sınırları içinde olanak tanır. Bağlayıcı politikalarını hesap verebilir sahiplik uygulamalarıyla birlikte hayata geçirmek, bu kısıtlamaları günlük geliştirme süreçlerinin bir parçası hâline getirebilir.

Yüksek Kodlu Yapay Zekâ Ajanlarında Güvenlik Riskleri ve Çözüm Yolları

Ekipler özel sistemler oluşturmak için yapay zekâ kodlama ajanlarından yararlandığında, üretilen değişiklikler insanlar bunları inceleyemeden sunulabilir. Bu nedenle yüksek kodlu geliştirmede güvenlik, hem geliştirme sürecini hem de ajanların görevleri yürüttüğü ortamları denetlemeyi gerektirir.

Yüksek Kodlu Geliştirmenin Kendine Özgü Güvenlik Zorlukları

Kodlama ajanları, saldırganlar tarafından eklenmiş talimatlar içeren harici depoları okurken dolaylı istem enjeksiyonuna maruz kalabilir. Ajan bu talimatları geliştirici araçlarına erişimi varken izlerse güvenli olmayan komutlar çalıştırabilir veya kimlik bilgilerini açığa çıkarabilir. Olası sonuçlar kısmen, yürütme ortamının ajanın hangi dosyalara, araçlara ve harici hedeflere erişmesine izin verdiğine bağlıdır.

NVIDIA’nın korumalı alan kullanımına ilişkin yönergeleri, bu yürütme sınırı içindeki kimlik bilgisi ifşasını ele alıyor. Yönergelerde, kimlik bilgilerine erişimi sınırlamak için “korumalı alan ortamlarının gizli bilgilerin açıkça enjekte edilmesine dayanması gerektiği” belirtiliyor. Buna göre, görevleri yalnızca sınırlı erişim gerektiren ajanlar ortamın tüm kimlik bilgilerini devralmamalıdır. Ekipler, kimlik bilgilerini belirli görev için sağlamalı ve ilgisiz gizli bilgileri ajanın erişemeyeceği yerde tutmalıdır.

Yüksek Kodlu Ajan İşlem Hatlarını Güvenli Hale Getirme Stratejileri

Kısıtlı yürütme ortamları, dosya erişimini ve dış bağlantıları görevin gerekliliklerine göre sınırlandırmalıdır. Ekipler, üretilen kod üzerinde statik uygulama güvenlik testleri de yapmalıdır. Otomatik kontrollerin gözden kaçırabileceği yetkilendirme kararlarını veya iş mantığını bağımsız inceleyiciler değerlendirmelidir. Bu katmanlar, yürütme sınırlarını ve ortaya çıkan yazılımdaki zayıflıkları ele alır.

Amazon Web Services, kodlama ajanlarına yönelik denetim çerçevesinde kod üretimiyle değerlendirmeyi birbirinden ayırmayı öneriyor. “Ayrı bir oturum, kişinin kendi yargısını doğrulama yanlılığından kaçınmasına yardımcı olur” diyor. Ancak aynı modeli kullanan iki oturum, inceleme sırasındaaynı temel kör noktaları taşıyabilir. Uygulanabilir olduğunda, inceleme için farklı bir model kullanılması ve güvenlik açısından hassas değişikliklerin insanlar tarafından değerlendirilmesi ek bir denetim katmanı sağlayabilir.

Her İki Yaklaşımı da Kapsayan Bir Güvenlik Stratejisi Oluşturma

Düşük kodlu ve yüksek kodlu ajan geliştirmede yapay zekâ güvenliğini sağlamak için, ajanların bilgi alışverişinde bulunduğu her yerdeki etkinlikleri ortak bir bakış açısıyla izlemek gerekir. Örneğin düşük kodlu bir iş akışı, içeriği özel olarak geliştirilmiş bir ajana gönderebilir; bu ajan da başka bir iş hizmetini çağırabilir. Her bileşeni ayrı ayrı incelemek, güvenlik ekiplerinin sürecin tamamını anlamak için gereken bağlamdan yoksun kalmasına yol açabilir.

Darktrace’teki yapay zekâ güvenliği uzmanları, kuruluşların kurumsal üretken yapay zekâ araçlarında ve her iki geliştirme yaklaşımında yanıtların yanı sıra istemleri ve oturumları da incelemesi gerektiğini savunuyor. Darktrace’in yaklaşımı, hizmet olarak yazılım ve güvenli erişim hizmeti ucu ortamlarını da kapsıyor. Bu görünürlük sayesinde kuruluşlar, “kurnazca kurgulanmış konuşma tabanlı istem saldırılarını ve kötü amaçlı zincirleme saldırıları tespit edebilecekleri” bağlamı elde ediyor.

Darktrace’in yaklaşımı, istem görünürlüğü, oturum izleme ve kimlik denetiminin ekiplerin ajanların bağlantılı araçlarla nasıl etkileşim kurduğunu anlamasına yardımcı olması nedeniyle, düşük kodlu ve yüksek kodlu ajan geliştirmeyi kapsayan daha geniş bir yapay zekâ güvenliği stratejisini destekliyor. Güvenlik ekipleri, talimatların bağlantılı oturumlar boyunca nasıl değiştiğini ve sonraki eylemlerin ilk yetkilendirmeyle tutarlı kalıp kalmadığını incelemelidir. Ayrıca soruşturma amacıyla saklanan bilgilerin hassasiyetini de göz önünde bulundurmalıdır.

Uzun Vadeli Ajan Güvenliği için Yönetişim ve İzleme

Geliştirme yönteminden bağımsız olarak her ajanın hesap verebilir bir sahibi ve izin verilen işlerin tanımlı bir kapsamı olmalıdır. Yönetişim ayrıca bu kapsamda yapılacak değişiklikleri kimin onaylayabileceğini ve bir ajan beklenmedik davrandığında etkinliğini kimin durdurabileceğini belirlemelidir.

Ajan yönetişimi üzerine yapılan araştırmalar, hesap verebilirliği desteklemek için ajanların kimliği doğrulanabilen ve denetlenebilen bir yetkiye ihtiyaç duyduğunu öne sürüyor. Bu yaklaşım, izin veren kişiyi ajanın üstlenebileceği görevlerle ilişkilendirir. Böylece kuruluşlar, bir eylemin söz konusu yetkilendirmeye uygun olup olmadığını kontrol edebilir.

Ekipler, devredilen izinleri araç kullanımı ve sonuçlarla ilişkilendiren etkinlik kayıtları tutmalıdır. Yetenekler değiştikçe düzenli aralıklarla yapılan incelemelerde bu izinler yeniden değerlendirilmeli, tamamlanmış işlerden kalan erişimler kaldırılmalı ve sahiplik bilgilerinin güncel olduğu doğrulanmalıdır. Geliştirme ve güvenlik ekipleri, operasyonel kontrolleri ajanın onaylanmış amacıyla uyumlu tutmak için bu incelemelerden yararlanabilir.

Ajan Güvenliği Risklerinin Önünde Kalmak

Düşük kodlu geliştirme, platform izinlerinin ve bağlayıcı yönetişiminin dikkatle ele alınmasını gerektirirken yüksek kodlu geliştirme, özel yürütme ortamlarına ve kod incelemesine yakından odaklanmayı gerektirir. Merkezi izleme ve tutarlı hesap verebilirlik, ajanların bağlantılı iş sistemlerinde bilgilere nasıl eriştiğini ve nasıl eylemde bulunduğunu denetlemek için ortak bir temel sağlar. Yetenekler genişledikçe geliştiriciler, ajan araçlarında ve sorumluluklarında yapılan değişikliklerle birlikte güvenlik önlemlerini yeniden değerlendirmeli ve her dağıtımın izin verilen faaliyetlerini yaşam döngüsü boyunca açıkça tanımlamalıdır.