AI sebagai Pemangsa Apex di Dunia Pengembangan

Tekanan Evolusioner: Pengantar Singkat

Sebelum kita memasuki inti topik ini, ada beberapa konsep yang perlu dipahami. Yang pertama adalah tekanan evolusioner.

Evolusi bukanlah pilihan. Hewan tidak memilih untuk berevolusi dengan cara tertentu — lingkungan mereka yang memaksa mereka untuk berubah, atau lingkungan yang mengeliminasi mereka. Jadi, ketika kita berbicara tentang bagaimana seekor hewan berevolusi, atau mengapa mereka ada seperti sekarang, kita tidak berbicara tentang serangkaian keputusan sadar. Kita berbicara tentang mutasi acak dan tekanan lingkungan yang mendorong spesies ke arah tertentu.

Saat ini, perusahaan perangkat lunak sedang memasuki momen evolusioner yang serupa. Sistem AI yang dapat mengidentifikasi kerentanan, menghasilkan eksploit, dan mempercepat serangan siber secara otonom sedang mengubah tekanan yang dihadapi oleh tim pengembang dan keamanan.

AI sekarang menciptakan tekanan lingkungan yang sama untuk perusahaan perangkat lunak. Model yang dapat menemukan kerentanan, menghasilkan eksploit, dan mengotomatisasi serangan skala besar sedang mengubah lanskap keamanan dengan lebih cepat daripada yang diantisipasi oleh sebagian besar organisasi.

Tekanan evolusioner khusus yang ingin saya bahas adalah pemangsa apex di Bumi saat ini: manusia. Dan bagaimana tiga hewan yang sangat berbeda merespons tekanan tersebut.

Siapa yang Melakukannya Lebih Buruk: Wombat Raksasa atau Ayam?

Wombat Raksasa

Wombat raksasa — saya lupa nama pastinya, tetapi mereka hidup di Australia — berat sekitar 6.000 pon. Sebelum manusia tiba, Australia adalah tempat yang hijau dan subur. Sayangnya, kita telah mengubahnya. Wombat raksasa ini hidup tanpa gangguan. Beberapa pemangsa sesekali membunuh mereka, tetapi dengan ukuran tubuh mereka yang besar, kelimpahan makanan, dan kemampuan mereka untuk berkembang biak, mereka dapat bertahan melawan semua yang ada di benua tersebut.

Kemudian, manusia tiba.

Beberapa hal terjadi seketika. Pertama, manusia melihat sumber protein besar yang dapat memberi makan sekelompok orang selama berminggu-minggu — lebih lama jika mereka dapat mengawetkan dagingnya. Kedua, mereka mulai menebangi hutan yang wombat gunakan, baik dengan memotong pohon untuk kayu bakar atau dengan membakar lahan untuk mengusir hewan ke tempat terbuka sehingga mereka dapat dibunuh. Manusia sangat mahir dalam penghancuran terkoordinasi dan efisien ini.

Dalam waktu yang relatif singkat — secara geologis, hampir semalam — manusia telah menebangi sebagian besar benua dan memburu wombat raksasa hingga punah.

Perlu diingat bahwa tidak semua hewan Australia punah. Kanguru, wombat kecil, koala, dan lain-lain selamat — karena mereka cukup kecil, cukup cepat, atau cukup adaptif untuk tetap tidak terjangkau. Ketika orang Eropa tiba, benua telah berubah menjadi sesuatu yang keras dan tidak memaafkan. Populasi manusia yang lebih kecil, tangguh, dan adaptif terhadap kondisi ekstrem. Hewan yang sangat kecil, sangat mematikan, atau keduanya. Seperti yang mereka katakan: segala sesuatu di Australia berusaha membunuh Anda.

Itulah versi pertama.

Ayam

Sekarang, dengan caranya sendiri, ayam dapat dikatakan sebagai hewan darat paling sukses di Bumi. Sekitar 70% biomassa burung domestik di planet ini adalah ayam. Bahkan ada beberapa tempat di mana ayam telah menjadi liar — di pulau-pulau di mana mereka tidak memiliki pemangsa alami, seperti Kepulauan Cayman — dan mereka telah berkembang dengan baik.

Ayam berevolusi menjadi sesuatu yang sangat berguna bagi manusia: mereka berkembang biak dengan cepat, tumbuh dengan cepat, dan menghasilkan telur. Manusia memberi mereka makan, melindungi mereka, dan secara aktif mendorong mereka untuk berkembang biak. Dengan hampir semua metrik kesuksesan biologis — ukuran populasi, penyebaran geografis, akses sumber daya — ayam sedang menang.

Kecuali, tentu saja, bagian di mana kita memakannya.

Jadi, ayam berhasil dengan menjadi makanan yang sempurna. Itu bukanlah hal yang tidak berarti. Tetapi ada batasan pada kesuksesan semacam itu.

Kucing: Jawaban yang Tepat

Ada satu hewan yang, menurut saya, hampir tepat.

Kucing.

Kucing bukanlah pemangsa apex. Mereka tidak mendominasi manusia atau memangsa mereka. Namun, bukan menghancurkan ekspansi manusia atau menundukkan diri pada selera manusia, mereka melakukan sesuatu yang berbeda: mereka berevolusi bersama kita. Mereka membuat diri mereka berguna dengan memburu tikus dan burung kecil yang tertarik ke permukiman manusia, dan di suatu titik, mereka membuat diri mereka diinginkan. Mereka menjadi teman.

Hasilnya? Kucing berkembang biak dengan cepat. Mereka memiliki sumber makanan yang melimpah, baik sebagai hewan peliharaan atau sebagai pemburu oportunis di sekitar permukiman manusia. Mereka menghadapi sedikit pemangsa serius. Mereka ada di mana-mana manusia ada.

Dan lagi, ini bukanlah pilihan yang mereka buat. Ini bukan strategi. Ini hanya bagaimana tekanan evolusioner bermain.

Apa yang Ini Miliki untuk Dilakukan dengan AI

Jadi, mengapa hal ini penting?

Kedatangan model seperti Anthropic’s Mythos dan Project Glass Wing adalah, menurut saya, setara dengan hari ketika manusia tiba di Australia. Kecuali timeline-nya dikompresi secara dramatis. Apa yang membutuhkan generasi untuk terjadi di benua itu akan terjadi dalam beberapa tahun — mungkin kurang.

Saat ini, banyak tulisan tentang bagaimana tim keamanan harus merespons ancaman peretasan yang ditenagai AI. Saya pikir itu adalah kesalahan pembingkaian. Ini bukanlah terutama masalah keamanan. Ini adalah masalah teknik.

Ini yang berubah: sebelum gelombang AI baru ini, baik pembela maupun penyerang beroperasi dalam dunia dengan taruhan yang relatif terbatas. Serangan terjadi. Pelanggaran terjadi. Namun, kecepatan dan kesophistikasian dibatasi oleh kapasitas manusia. Itu telah berubah secara fundamental. Sekarang ada model AI yang dirancang khusus untuk menemukan dan mengeksploitasi kerentanan secara otonom, skala besar, tanpa kelelahan.

Sebagian besar tim pengembang adalah wombat raksasa dalam cerita ini. Mereka telah hidup dalam lingkungan di mana ya, ada ancaman, tetapi tidak ada yang seperti ini. Mereka membangun sistem yang cukup aman melawan tekanan yang mereka hadapi. Mereka belum pernah menghadapi apa yang akan datang.

Itu akan segera berubah.

Tiga Opsi — dan Mengapa Hanya Satu yang Bekerja

Ketika ancaman baru ini tiba, organisasi secara efektif akan memiliki tiga pilihan:

1. Menjadi wombat. Jangan beradaptasi. Dihapus. Ini akan terjadi pada banyak perusahaan. Beberapa tidak akan pernah kembali.
2. Menjadi ayam. Menjadi reaktif, berusaha memperbaiki setiap kerentanan baru yang muncul. Ini adalah pendekatan “tarik keluar tombak dan obati luka” itu. Ini lebih baik daripada tidak ada, tetapi ketika ada 45 tombak yang datang dari semua arah, keterampilan itu tidak akan menyelamatkan Anda. Anda masih makanan; Anda hanya lebih lambat untuk mencapai meja.
3. Menjadi kucing. Mengubah secara fundamental hubungan Anda dengan ancaman. Menggunakan AI untuk melawan AI. Mengintegrasikan keamanan ke dalam teknik dari awal. Merancang sistem dengan asumsi pelanggaran — bukan berharap untuk mencegahnya.

Tujuan bukanlah untuk merekrut lebih banyak analis keamanan untuk memantau perbatasan. Itu mencoba melindungi gajah di savana. Ini tidak skala melawan ancaman semacam ini. Tujuan adalah merancang ulang savana.

Apa yang “Menjadi Kucing” Sebenarnya Terlihat

Ini bukanlah pekerjaan permukaan. Ini bukan menjalankan pemindai keamanan AI pada kodebase Anda sekali setahun. Ini memerlukan pemikiran ulang tentang bagaimana pengembangan dilakukan.

Praktis, itu berarti hal-hal seperti:

• Kodebase yang lebih sederhana yang lebih mudah dipahami dan diaudit
• Mengambil dari perpustakaan dengan postur keamanan yang diketahui dan diverifikasi
• Membangun infrastruktur dengan asumsi bahwa pelanggaran adalah kapan, bukan jika — dan membuat pergerakan lateral menjadi sulit setelah aktor jahat berada di dalam
• Menjadi teman pemangsa dengan menggunakan AI seperti yang dilakukan oleh penyerang. Model AI dapat memperkuat tim teknik dan keamanan untuk mengembangkan pertahanan mereka dan mendahului kurva.

Perusahaan yang didirikan besok memiliki kesempatan bersih. Mereka dapat membangun dengan cara ini dari hari pertama. Perusahaan yang sudah ada, dengan pelanggan, dengan data sensitif, dengan sistem langsung, tidak memiliki kemewahan itu. Mereka harus mulai beralih sekarang.

Panggilan untuk Bertindak

Anthropic telah mengatakan ini sendiri: akan ada pembalasan. Akan ada gangguan ekonomi dan sosial dari serangan yang ditenagai AI. Beberapa perusahaan tidak akan bertahan. Mereka akan dikompromikan oleh orang-orang yang menggunakan alat-alat ini, dan mereka tidak akan pernah sepenuhnya pulih. Itu akan terjadi.

Jadi, ini adalah pesan: mulai sekarang.

Teknik dan keamanan perlu duduk di ruangan yang sama. Melalui lanskap ancaman bersama. Membangun peta jalan bersama. Di mana pekerjaan utama dilakukan oleh tim desain dan teknik, divalidasi oleh keamanan, bukan sebaliknya. Keamanan tidak dapat memimpin ini. Keamanan dapat memeriksa pekerjaan. Namun, perubahan fundamental harus datang dari orang-orang yang membangun sistem.

Perusahaan yang memulai proses ini hari ini tidak semua akan berhasil. Namun, mereka akan menetapkan kondisi untuk bertahan hidup. Dan di lingkungan yang akan datang, itu adalah yang terbaik yang dapat kita lakukan.

Menjadi kucing.