Geliştirme Dünyasında Apex Predator Olarak AI

Evrim Baskısı: Kısa Bir Giriş

Önce birkaç kavramı belirlemek gerekiyor. İlk olarak evrim baskısı geliyor.

Evrim bir seçim değil. Hayvanlar bir yöne veya başka bir yöne evrimleşmeyi seçmezler – çevreleri onları buna zorlar veya çevreleri onları yok eder. Yani bir hayvanın nasıl evrimleştiğini veya neden bugün olduğu gibi var olduğunu konuştuğumuzda, bilinçli kararlar dizisi hakkında konuşmuyoruz. Rastgele mutasyonlar ve çevre baskıları hakkında konuşuyoruz.

Şu anda yazılım şirketleri benzer bir evrim anına giriyorlar. Otonom olarak güvenlik açıklarını tanımlayabilen, sömürüleri oluşturabilen ve siber saldırıları hızlandırabilen AI sistemleri, geliştiriciler ve güvenlik ekiplerinin çalıştığı baskıyı değiştiriyor.

AI, yazılım şirketleri için benzer bir çevresel baskı yaratıyor. Otonom güvenlik açığı keşfi, sömürü oluşturma ve büyük ölçekli saldırı otomasyonu capable modeller, güvenlik manzarasını çoğu organizasyonun hazır olmadığından daha hızlı değiştiriyor.

Konuşmak istediğim özel evrim baskısı, şu an Dünya’daki apex predator: insanlar. Ve üç çok farklı hayvanın bu baskıya nasıl tepki verdiğini konuşmak istiyorum.

Kim Daha Kötü Davranıyor: Dev Vombat mı yoksa Tavuk mu?

Dev Vombat

Dev vombat – tam adını hatırlamıyorum, ama Avustralya’da yaşıyordu – yaklaşık 6.000 pound ağırlığındaydı. İnsanlar gelmeden önce Avustralya, yeşillik bir yerdi, neredeyse cennet gibi bir yerdi. Keşke hiç dokunmasaydık. Bu dev vombatlar, büyük çoğunlukla rahatsız edilmeden yaşıyorlardı. Bazen bazı avcılar onları avlıyorlardı, ama their büyük boyutları, gıda bolluğu ve üreme yetenekleri sayesinde, kıtadaki her şeye karşı kendi başlarını çıkarmayı başardılar.

Sonra insanlar geldi.

İki şey hemen oldu. İlk olarak, insanlar bu devasa protein kaynağını gördüler, bir grup insanı haftalarca, hatta daha uzun süre besleyebilecek bir kaynak. İkincisi, vombatın bağımlı olduğu ormanları temizlemeye başladılar, ya odun için ağaçları keserek ya da tüm arazileri yakarak hayvanları açık alanlara sürerek onları avlayabildiler. İnsanlar bu tür koordineli, verimli yıkım konusunda oldukça iyiler.

Jeolojik olarak konuşursak,几乎 hemen, insanlar kıtadaki büyük bölümünü ormansızlaştırdı ve son dev vombatı da yok etti.

Değil her Avustralya hayvanı yok oldu. Kanguru, küçük vombatlar, koalalar ve diğerleri hayatta kaldı – çünkü küçük enoughlardı, hızlıydılar veya uyum sağlayabilirdiler. Avrupalılar geldiğinde, kıta already bir zor ve affetmez bir yere dönüşmüştü. Küçük bir insan nüfusu, zor koşullara adapte olmuştu. Hayvanlar ya çok küçüktü, çok ölümcüldü veya her ikisi birden. Dedikleri gibi: Avustralya’da her şey seni öldürmeye çalışıyor.

Bu, birinci versiyon.

Tavuk

Şimdi, kendi açısından, tavuk muhtemelen Dünya’daki en başarılı kara hayvanı. Yaklaşık olarak Dünya’daki toplam kuş biyokütlesinin %70’i evcilleştirilmiş tavuklardan oluşuyor. Bazı yerlerde, doğal düşmanlarının olmadığı adalarda, tavuklar vahşi olarak yaşıyorlar ve başarılı oluyorlar.

Tavuklar, insanların çok faydalı bulduğu bir şeye evrimleştiler: hızlı ürerler, hızlı büyürler, yumurta üretirler. İnsanlar onları besler, korurlar ve çoğalmalarını teşvik ederler. Biyolojik başarı açısından – nüfus büyüklüğü, coğrafi yayılma, kaynak erişimi – tavuk kazanıyor.

Ama tabii ki, bizi yemek için yetiştirildikleri kısmı hariç.

Bu nedenle tavuk, mükemmel gıda haline gelerek başarılı oldu. Bu, hiç değilse bir başarı. Ancak bu tür bir başarı için bir sınır var.

Kedi: Doğru Cevap

Bir hayvan var ki, neredeyse tam olarak doğru şeyi yaptı.

Kedi.

Kediler apex predator değiller. İnsanları veya diğer hayvanları avlamazlar. İnsanların genişlemesi veya insanların iştahına boyun eğmek yerine, kediler farklı bir şey yaptılar: insanlarla birlikte evrimleştiler. İnsanların yerleşim yerlerine çekilen fareleri ve küçük kuşları avlayarak kendilerini faydalı hale getirdiler ve bir şekilde istendiler. Arkadaş oldular.

Sonuç? Kediler hızlı ürerler. Yiyecek kaynakları boldur, ya evcil hayvan olarak ya da insan yerleşimlerinin etrafındaki oportunistik avcılar olarak. Ciddi avcılar azdır. Her yerde insanlarla birlikte yaşarlar.

Ve yine, bu bir seçim değildi. Bir strateji değildi. Sadece evrim baskısı böyle oynandı. Ancak sonuç şaşırtıcı: insanları yenmek veya insanları beslemek yerine, kediler insanlarla arkadaş oldular.

Bunun AI ile İlişkisi

Peki, neden bu önemli?

Anthropic’in Mythos ve Project Glass Wing gibi modellerinin gelişi, Avustralya’ya insanların gelişinin eşdeğeri. Ancak zaman çizelgesi dramatik olarak sıkıştırıldı. Kıta üzerinde oynanan olaylar, yıllar içinde – belki daha az – oynanacak.

Şu anda, güvenlik ekiplerinin AI destekli hacking tehdidine nasıl cevap vereceği hakkında çok yazı yazılıyor. Sanırım bu çerçeveleme bir hata. Bu öncelikle bir güvenlik sorunu değil. Bir mühendislik sorunu.

Değişen şey: AI’nin gelişinden önce, hem savunmacılar hem de saldırganlar, göreceli olarak sınırlı risklerin olduğu bir dünyada çalışıyorlardı. Saldırılar oldu. Güvenlik açıkları oldu. Ancak saldırıların hızı ve karmaşıklığı, insan kapasitesi tarafından sınırlıydı. Bu temel olarak değişti. Şimdi, otonom olarak güvenlik açıklarını bulabilen ve sömürebilen AI modelleri var.

Çoğu geliştirme ekibi, bu hikayede dev vombatlar gibi. Çevrelerinde tehditler vardı, ancak hiçbiri bu kadar olmadı. Makul ölçüde güvenli sistemler inşa ettiler, ancak karşılaştıkları baskıya karşı değil. Ne geldiğini karşılamadıklarını görecekler.

Bu yakında değişecek.

Üç Seçenek – ve Neden Sadece Bir Tanesi Çalışıyor

Bu yeni tehdit geldiğinde, organizasyonlar temelde üç seçeneğe sahip olacaklar:

1. Dev vombat ol. Uyum sağlayamazsın. Yok olursun. Bu, birçok şirkete olacak. Bazıları asla geri gelmeyecek.
2. Tavuk ol. Yeni ortaya çıkan her güvenlik açığını kapatmaya çalışarak tepki ver. Bu, “mızrağı çıkarmak ve yara iyileşmesini tedavi etmek” yaklaşımı. Hiçbir şey yapmamaktan daha iyi, ancak 45 mızrak aynı anda gelirse, bu beceri seni kurtarmaz. Hala yemeksin; sadece masaya ulaşmak daha uzun sürer.
3. Kedi ol. Tehdide olan ilişkinizi temel olarak değiştirin. AI’yi AI’ye karşı savunma için kullanın. Güvenlik sistemlerinizi, güvenlik açıklarını önlemek yerine, güvenlik açıklarını varsayarak tasarlayın.

Hedef, daha fazla güvenlik analisti işe almak değil. Bu, savanadaki fillerin korunmasına çalışmak gibi. Bu tür bir tehdide karşı ölçeklenmez. Hedef, savanayı yeniden tasarlamak.

“Kedi Olmak” Gerçekte Ne Anlama Geliyor

Bu, yüzeydeki bir çalışma değil. Kod tabanınıza AI güvenlik taraması çalıştırmak gibi değil. Bu, geliştirme yapma şeklinizi yeniden düşünmek gerekiyor.

Pratik olarak, bu, şunları içerir:

• Kolayca anlaşılabilen ve denetlenebilen daha basit kod tabanları
• Bilinen, doğrulanmış güvenlik duruşlarına sahip kütüphanelerden çekme
• İnfaz varsayılarak altyapıyı inşa etme – ve bir kötü aktör içeri girdiğinde, lateral hareketi mümkün olduğunca zorlaştırma
• Saldırganı dost olarak kabul ederek, aynı şekilde saldırgana karşı savunma geliştirmek için AI modellerini kullanmak

Yarın kurulacak şirketler temiz bir sayfa ile başlıyorlar. İlk günden itibaren böyle inşa edebilirler. Zaten var olan şirketler, müşterileri, hassas verileri, canlı sistemleri olan şirketler, bu lüksü sahip değiller. Şimdi geçiş yapmaya başlamalılar.

Çağrıya Cevap Ver

Anthropic bunu kendisi söyledi: bir hesaplaşma olacak. AI destekli saldırılar nedeniyle ekonomik ve toplumsal bir bozulma olacak. Bazı şirketler hayatta kalamayacak. Bu araçları kullanan insanlar tarafından tehlikeye atılacaklar ve asla tam olarak kurtulamayacaklar. Bu olacak.

Bu nedenle mesaj şu: şimdi başlayın.

Mühendislik ve güvenlik aynı odada oturmaları gerekiyor. Tehdit manzarasını birlikte geçin. Paylaşımlı bir yol haritası oluşturun. Birincil iş, güvenlik tarafından doğrulanan mühendislik ve tasarım ekipleri tarafından yapılacak. Güvenlik bu süreci yönetemez. Güvenlik çalışmayı kontrol edebilir. Ancak temel değişiklik, sistemleri inşa eden insanlardan gelmelidir.

Bu süreci bugün başlayan şirketler hepsi hayatta kalamayacak. Ancak hayatta kalma koşullarını oluşturmuş olacaklar. Ve gelecekteki ortamda, bu, bizim yapabileceğimiz en iyi şey.

Kedi olun.