Anaconda, AI Ajan Sürümlerini Otonom Güvenlik Testiyle Eşleştiriyor

Bir AI ajanına daha fazla araç vermek, onu daha faydalı kılabilir. Birkaç ajana aynı anda bu araçları vermek daha zor bir soruyu ortaya çıkarır: bir işletme her birinin ne yaptığını nasıl izler ve kötü bir eylemi gerçek bir sisteme ulaşmadan nasıl durdurur?

Anaconda’nın 6 Ekim platform genişlemesi bu sorunu, koordine AI geliştirmesini otonom güvenlik testiyle eşleştirerek çözer. Kilo Code, Enkrypt AI ve Outerbounds teknolojilerini geliştirme çalışma alanları, güvenlik kontrolleri ve üretim orkestrasyonu boyunca bir araya getirir.

Stratejik fikir, ajanların yazılım oluşturduğu yerleri, davranışlarının sınandığı yerleri ve ortaya çıkan iş akışlarının çalıştığı yerleri bağlamaktır. Anaconda buna AI Dev Factory diyor. İşletmeler için pratik soru, bu bağlantıların ajan özerkliğinin artmasını denetlemeyi ve yönetmeyi kolaylaştırıp kolaylaştırmadığıdır.

Kilo’nun ajanları işlerini nasıl koordine ediyor

Bir ajan sürüsü, ilgili görevleri birden çok AI ajanı arasında dağıtır. Bir ajan kimlik doğrulama tasarımını incelerken, bir diğeri test yazar veya ayrı bir bileşen uygular. Potansiyel avantaj, ajanlar keşifleri paylaşabildiği ve çelişkili çalışmaların önüne geçebildiği sürece paralel ilerlemedir.

Kilo’nun Swarm teknik açıklaması koordinasyon mekanizmasını açıklar: bir ana oturum ve ondan türeyen ajanlar bir mesaj panosunu paylaşır. Ajanlar, çalışma devam ederken bulguları panoya gönderip panoyu okuyabilir; her alt görevin bitmesini bekleyip sonuçları değiştirmek yerine.

Bu ayrım önemlidir. Bir test ajanı, farklı bir varsayımda bulunan bir test paketi yazmadan önce kimlik doğrulama kararını öğrenebilir. Kilo, erken iç değerlendirmelerin daha az yinelenen işin token harcamasını azaltabileceğini öne sürdüğünü, ancak bu iddia için sayısal sonuçları yayımlamadığını belirtiyor.

Aynı belgeler ayrıca anlaşılması gereken bir sınırı tanımlar: pano mesajları ajanları uyandırmaz, devam ettirmez veya onaylamaz; danışmanlık bekletme veya veto mesajları ise onları otomatik olarak durdurmaz. Katılan herkes tam pano geçmişini okuyabilir. Bu nedenle koordinasyon, uygulanabilir izinlerden ve yürütme kontrollerinden ayrılmalıdır.

başlatma sayfası bu iş akışlarını VS Code içinde konumlandırır ve çalışma ağaçları arasında paralel çalışmayı açıklar. Ayrıca beta aşamasında Kilo Desktop’u tanıtarak mühendislik, veri bilimi ve Python ortam yönetimini 500’den fazla modele ve yerel çıkarıma erişimle birleştirir.

Taktikleri Değiştiren Güvenlik Testi

Enkrypt AI, platformun saldırgan test tarafını sağlar. Anaconda, genişletilmiş güvenlik teklifinin modelleri, ajanları ve MCP entegrasyonlarını 300’den fazla saldırı kategorisi boyunca, çalışma zamanı korumasıyla birlikte test ettiğini belirtiyor.

otonom kırmızı takımın teknik açıklaması Anaconda, bilinen saldırı kalıplarıyla başlayıp ardından ajanları hedefin yanıtlarına göre yaklaşımlarını uyarlamak için kullandığını açıklar. Bir ajan bir zayıflık hakkında hipotez oluşturur, bunu test eder, sonucu inceler ve bir sonraki denemeyi belirler.

Örneğin bir reddetme, aynı isteğin bir başka yeniden ifadesi yerine strateji değişikliğini tetikleyebilir. Sistem, başarısız yaklaşımların tekrarlanmasını önlemek için oturum belleğini ve farklı riskleri aynı anda araştırmak için paralel keşfi kullanır. Anaconda, bu testin müşterinin ortamı içinde çalıştığını ve dağıtımın tehdit modeline göre ayarlandığını belirtiyor.

Bu yaklaşım, araçlardan ve dış kaynaklardan bilgi tüketen ajanlar için ilgilidir. Risk yalnızca güvensiz bir yanıtla sınırlı değildir: alınan materyalde gizli bir talimat, sonraki bir araç çağrısını yönlendirebilir. Test, ajanın hangi bilgileri güvenilir bulduğunu ve hangi eylemlerin takip ettiğini içeren davranış zincirlerini incelemelidir.

Çalışma Zamanı Korumaları Farklı Bir Sorunu Ele Alıyor

Enkrypt AI’nın Guardrails ürünü ajanlar, araçlar, geri getirme destekli üretim ve Model Context Protocol bağlantıları arasında riskli davranışları onaylamak, değiştirmek veya engellemek üzere tasarlanmıştır.

Şirket, hedeflediği riskler arasında istem enjeksiyonu, güvensiz araç eylemleri, yetki-sınır ihlalleri ve hassas veri sızdırma olduğunu belirtiyor. Denetlenebilir kararlara verdiği önem, kontrol katmanını yalnızca önleme değil, aynı zamanda olay araştırması için de ilgili kılıyor.

Anaconda’nın lansmanı ayrıca Kilo içinde model risk puanlarını ve kaynak destekli kamu olay raporlarını içeren bir Ajan Olay Kayıt Defteri’ni de kapsar. Bunlar model seçim ve test önceliklerini bilgilendirebilir. Belirli bir dağıtımın güvenli olduğunu kanıtlamaktan ziyade bir güvenlik sürecine girdi olarak ele alınmalıdır.

Ölçek rakamları da benzer özen gerektirir. Anaconda, AI yerel yapıcıların anketine yanıt verenlerin %63’ünün bir şekilde sürülere doğru ilerlediğini rapor ediyor. Açıklaması ayrıca, dört ay boyunca taranan 25.264 MCP sunucusunun %73’ünde güvenlik açıkları bulunduğunu belirten Enkrypt araştırmasına atıfta bulunuyor. Bunlar, yanıt verenler ve incelenen sistemler hakkında satıcı tarafından raporlanan bulgular olup, her işletme ajan dağıtımının bir ölçümü değildir.

Neden Üretim Ortamı Hikayede Yer Almalı

Anaconda’nın AI Orchestration platformu, formerly Outerbounds, geliştirme sonrası neler olduğunu ele alıyor. Web sitesinde tekrarlanabilir iş akışı çalıştırmaları, artefakt takibi ve soy ağacı, birden fazla bulut üzerinde kullanılabilir hesaplama ve paketler ile modellere uygulanan yönetişim tanımlanıyor.

Bu, bir çıktıyı onu üreten ortam ve bağımlılıklara bağlamanın bir yolunu sağlar. Bir iş akışı değiştiğinde, ekiplerin hangi modelin, paketin veya politikanın değiştiğini bilmesi gerekir. Tekrarlanabilirlik, araştırma ve karşılaştırmayı daha pratik hâle getirir.

Ekim ayında yapılan lansman, orkestrasyon iş akışları içinde yönetilen artefaktlara yerel erişim ekliyor. Daha geniş sürüm sayfası ayrıca Fast Bakery’yi tanımlıyor; bu, conda ve PyPI bağımlılıklarından, yerel kütüphaneler dahil, konteyner görüntüleri oluşturuyor ve 19.000’den fazla derlenmiş paket ve 77 doğrulanmış açık kaynak model içeren genişletilmiş bir katalog sunuyor.

Bu genişleme, Anaconda’ya yalnızca Python bileşenleri sağlamakla sınırlı olmayan daha geniş bir rol veriyor. Teklifi artık ajan destekli geliştirme, adversarial değerlendirme, çalışma zamanı kontrolleri ve tekrarlanabilir teslimatı kapsıyor. Anlamlı test, bu parçaların ekiplerin ajanların neler inşa ettiğine, neler test edildiğine ve yazılım çalışmaya başladığında ne yapmalarına izin verildiğine dair güvenilir bir kayıt sağlayıp sağlamadığı olacaktır.