Anaconda Menggabungkan Swarm Agen AI dengan Pengujian Keamanan Otonom

Memberikan lebih banyak alat kepada agen AI dapat membuatnya lebih berguna. Memberikan alat‑alat tersebut sekaligus kepada beberapa agen menimbulkan pertanyaan yang lebih sulit: bagaimana sebuah perusahaan melacak apa yang dilakukan masing‑masing agen, dan menghentikan tindakan berbahaya sebelum mencapai sistem nyata?

Ekspansi platform Anaconda pada 6 Oktober menangani masalah itu dengan memadukan pengembangan AI yang terkoordinasi dengan pengujian keamanan otonom. Ini menyatukan teknologi dari Kilo Code, Enkrypt AI, dan Outerbounds di seluruh ruang kerja pengembangan, kontrol keamanan, dan orkestrasi produksi.

Gagasan strategisnya adalah menghubungkan tempat di mana agen membangun perangkat lunak, tempat perilaku mereka diuji, dan tempat alur kerja yang dihasilkan dijalankan. Anaconda menyebut ini AI Dev Factory. Bagi perusahaan, pertanyaan praktisnya adalah apakah koneksi tersebut membuat peningkatan otonomi agen lebih mudah diawasi dan diatur.

Bagaimana Agen Kilo Mengkoordinasikan Pekerjaannya

Sebuah swarm agen mendistribusikan tugas‑tugas terkait ke beberapa agen AI. Seseorang dapat menyelidiki desain autentikasi sementara agen lain menulis tes atau mengimplementasikan komponen terpisah. Keuntungan potensialnya adalah kemajuan paralel, asalkan agen‑agen dapat berbagi temuan dan menghindari kerja yang saling bertentangan.

Deskripsi teknis Swarm oleh Kilo menjelaskan mekanisme koordinasi: sesi utama dan agen turunannya berbagi papan pesan. Agen dapat memposting temuan dan membaca papan tersebut sementara pekerjaan berlanjut, alih‑alih menunggu setiap subtugas selesai sebelum bertukar hasil.

Perbedaan itu penting. Agen pengujian dapat mempelajari keputusan autentikasi sebelum menulis rangkaian yang mengasumsikan sesuatu yang berbeda. Kilo mengatakan evaluasi internal awal menunjukkan pekerjaan duplikat yang lebih sedikit dapat mengurangi penggunaan token, namun belum mempublikasikan hasil numerik untuk klaim tersebut.

Dokumentasi yang sama juga mendefinisikan batasan yang penting untuk dipahami: pesan papan tidak membangunkan, melanjutkan, atau menyetujui agen, dan pesan penahanan atau veto bersifat nasihat tidak secara otomatis menghentikan mereka. Semua peserta dapat membaca riwayat papan secara lengkap. Oleh karena itu, koordinasi harus dibedakan dari izin yang dapat ditegakkan dan kontrol eksekusi.

Anaconda’s halaman peluncuran menempatkan alur kerja ini di VS Code dan menjelaskan pekerjaan paralel di seluruh worktree. Hal ini juga memperkenalkan Kilo Desktop dalam versi beta, yang menggabungkan rekayasa, ilmu data, dan manajemen lingkungan Python dengan akses ke lebih dari 500 model serta inferensi lokal.

Pengujian Keamanan yang Mengubah Taktik

Enkrypt AI menyediakan sisi pengujian adversarial dari platform. Anaconda mengatakan penawaran keamanan yang diperluas menguji model, agen, dan integrasi MCP di lebih dari 300 kategori serangan, bersamaan dengan perlindungan runtime.

In its penjelasan teknis tentang red teaming otonom, Anaconda menjelaskan memulai dengan pola serangan yang dikenal dan kemudian menggunakan agen untuk menyesuaikan pendekatan mereka terhadap respons target. Sebuah agen membentuk hipotesis tentang kelemahan, mengujinya, memeriksa hasilnya, dan memutuskan apa yang akan dicoba selanjutnya.

Penolakan, misalnya, dapat memicu perubahan strategi alih‑alih parafrase lain dari permintaan yang sama. Sistem menggunakan memori sesi untuk menghindari pengulangan pendekatan yang gagal dan eksplorasi paralel untuk menyelidiki risiko yang berbeda secara bersamaan. Anaconda mengatakan pengujian ini dijalankan di dalam lingkungan pelanggan dan disesuaikan dengan model ancaman deployment.

Pendekatan ini relevan bagi agen yang mengonsumsi informasi dari alat dan sumber eksternal. Risikonya tidak terbatas pada jawaban yang tidak aman: sebuah instruksi yang tersembunyi dalam materi yang diambil dapat mengarahkan panggilan alat berikutnya. Pengujian perlu memeriksa rangkaian perilaku, termasuk informasi apa yang dipercaya agen dan tindakan apa yang mengikutinya.

Guardrails Runtime Menangani Masalah yang Berbeda

Menemukan kelemahan selama pengujian dan mencegah tindakan tidak aman selama operasi adalah tugas yang terpisah. produk Guardrails Enkrypt AI dirancang untuk menyetujui, memodifikasi, atau memblokir perilaku berisiko di seluruh agen, alat, generasi berbasis pengambilan, dan koneksi Model Context Protocol.

Perusahaan mengidentifikasi injeksi prompt, tindakan alat yang tidak aman, pelanggaran batas hak istimewa, dan eksfiltrasi data sensitif di antara risiko yang ditargetkan. Penekanannya pada keputusan yang dapat diaudit membuat lapisan kontrol ini relevan untuk investigasi insiden maupun pencegahan.

Peluncuran Anaconda juga mencakup skor risiko model dalam Kilo dan Registri Insiden Agen yang berisi laporan insiden publik yang didukung sumber. Ini dapat memberi informasi untuk pemilihan model dan prioritas pengujian. Mereka harus diperlakukan sebagai masukan ke dalam proses keamanan, bukan sebagai bukti bahwa suatu deployment tertentu aman.

Angka skala juga memerlukan perhatian serupa. Anaconda melaporkan bahwa 63% responden dalam survei pembangun AI-native mereka sedang bergerak menuju swarm dalam bentuk tertentu. Pengumumannya juga mengutip penelitian Enkrypt yang menemukan kerentanan pada 73% dari 25.264 server MCP yang dipindai selama empat bulan. Ini adalah temuan yang dilaporkan vendor tentang responden dan sistem yang diperiksa, bukan ukuran dari setiap deployment agen perusahaan.

Mengapa Lingkungan Produksi Termasuk dalam Cerita Ini

Anaconda platform Orkestrasi AI, sebelumnya Outerbounds, menangani apa yang terjadi setelah pengembangan. Situs webnya menjelaskan menjalankan alur kerja yang dapat direproduksi, pelacakan artefak, dan garis keturunan, dengan komputasi yang tersedia di berbagai cloud serta tata kelola yang diterapkan pada paket dan model.

Itu menyediakan cara untuk menghubungkan output ke lingkungan dan dependensi yang menghasilkan output tersebut. Ketika alur kerja berubah, tim perlu mengetahui model, paket, atau kebijakan mana yang berubah bersamanya. Reproduksibilitas membuat penyelidikan dan perbandingan menjadi lebih praktis.

Peluncuran pada bulan Oktober menambahkan akses native ke artefak yang dikelola dalam alur kerja orkestrasi. Halaman rilis yang lebih luas juga menjelaskan Fast Bakery, yang membangun gambar kontainer dari dependensi conda dan PyPI, termasuk pustaka native, serta katalog yang diperluas dengan lebih dari 19.000 paket terkurasi dan 77 model sumber terbuka yang telah diverifikasi.

Ekspansi ini memberi Anaconda peran yang lebih luas daripada sekadar menyediakan komponen Python. Penawarannya kini mencakup pengembangan yang dibantu agen, evaluasi adversarial, kontrol runtime, dan pengiriman yang dapat diulang. Uji yang signifikan akan menjadi apakah bagian-bagian tersebut memberikan tim catatan yang dapat diandalkan tentang apa yang dibangun agen, apa yang diuji, dan apa yang diizinkan mereka lakukan ketika perangkat lunak mulai beroperasi.