Keamanan siber
Uji Coba GitHub Mengubah Temuan Keamanan AI Menjadi 55 Perbaikan Sumber Terbuka

Poin utamaTriase AI dan tinjauan manusia memangkas 9.791 temuan mentah menjadi 99 laporan privat.
Lihat selengkapnya
- Triase AI dan tinjauan manusia memangkas 9.791 temuan mentah menjadi 99 laporan privat.
- Para maintainer tetap memegang kendali atas temuan mana yang diperbaiki dan kapan patch dirilis.
- Memperluas uji coba bergantung pada kapasitas tinjauan ahli yang diakui GitHub belum dapat diskalakan.
Pada 17 November 2026, GitHub melaporkan bahwa uji coba keamanan bersama Microsoft menghasilkan 55 perbaikan di enam proyek sumber terbuka hingga 15 November 2026. Uji coba Codename MDASH menyaring 9.791 potensi masalah menjadi 99 laporan privat, yang masing-masing diperiksa oleh peneliti serta dilengkapi bukti konsep dan perbaikan yang disarankan.
Empat belas perbaikan telah disertakan dalam rilis. Proyek-proyek tersebut adalah AutoGPT, Caddy, Express, FastMCP, ImageMagick, dan Netty. Para pengelola proyek memutuskan temuan mana yang akan diperbaiki, bagaimana cara memperbaikinya, dan kapan perbaikan akan dirilis. Laporan dan patch tetap berada di GitHub.
Tinjauan Manusia Mempersempit Hasil Pemindaian
Rancangan ini menanggapi masalah pemeliharaan yang timbul karena pemindaian AI semakin murah: temuan duplikat dan laporan tentang hal yang sebenarnya bukan kerentanan sudah menyita waktu pengelola proyek, sementara penanganan kerentanan tetap memerlukan pertimbangan manusia. GitHub ingin para peneliti berkonsultasi dengan pengelola proyek sebelum mengarahkan model lain ke proyek mereka, serta menyertakan patch bersama setiap temuan.
Sistem Codename MDASH milik Microsoft memindai setiap proyek menggunakan model MAI Cyber dan menyarankan perbaikan. Agen triase AI dari GitHub Security Lab, yang dibuat dengan keterampilan Copilot yang disesuaikan, menghapus temuan duplikat, memeriksa validitas, dan berfokus pada bug berdampak tinggi. Tujuh peneliti Microsoft FORGE Lab kemudian memeriksa secara manual setiap temuan yang tersisa sebelum laporan dikirim kepada pengelola proyek melalui layanan pelaporan kerentanan privat GitHub.
Pengelola Proyek Menggunakan Patch yang Disarankan
Menurut GitHub, perbaikan pertama dirilis sekitar satu minggu setelah pemindaian awal. Pengelola Caddy memperbaiki seluruh 22 laporan yang mereka terima dalam waktu paling lama satu minggu. ImageMagick, yang dikelola oleh dua orang, juga menerima 22 laporan; dalam satu kasus, pengelolanya merilis perbaikan dalam 15 menit setelah sebuah ringkasan menunjukkan baris kode yang tepat dan menjelaskan bahwa masalah yang sekilas tampak sudah dikenal ternyata berbeda.
Di AutoGPT, sebuah laporan datang tiga hari setelah pengelola proyek merilis pemeriksaan yang rusak dan menunjukkan baris kode yang tepat. Mereka menyempurnakan perbaikan itu lebih jauh daripada patch yang disarankan, menulisnya dalam sehari, lalu menerapkannya di lingkungan produksi kurang dari satu minggu kemudian. Selama uji coba, pengelola proyek menerapkan sebagian perbaikan yang disarankan apa adanya dan menyesuaikan yang lainnya.
Seorang pengelola Netty menjelaskan kendala yang tersisa: “Menemukan kerentanan bukan lagi hambatan utama kami. Memperbaikinya adalah bagian tersulit, dan itu bergantung pada pengelola proyek.”
Perluasan Bergantung pada Kapasitas Peninjauan
GitHub menyebut sampel proyek ini kecil, kesimpulannya masih berupa pelajaran awal, dan peninjauan manualnya belum dapat diperluas. Para peneliti menghabiskan sekitar dua hari untuk memeriksa temuan setiap proyek secara manual. Laporan berkualitas rendah masih diterima pengelola proyek setiap hari.
GitHub juga mengidentifikasi pengujian CI/CD pada fork privat dan akses pengelola proyek ke model yang mampu menangani keamanan siber sebagai kebutuhan yang belum terpenuhi. Pengujian tersebut akan memverifikasi perbaikan pada fork privat, sementara akses ke model akan membantu pengelola proyek memverifikasi bukti konsep sebelum dan sesudah perbaikan. Standar yang disarankan GitHub untuk laporan yang dihasilkan AI adalah memeriksa setiap temuan berdasarkan pengetahuan yang sudah dimiliki proyek, model ancaman, dan kebijakan keamanannya; melaporkannya secara privat; menyertakan perbaikan yang disarankan; serta membiarkan pengelola proyek menentukan langkah dan waktunya.
GitHub berencana menerapkan pelajaran ini pada pelaporan kerentanan privat dan advisori keamanan. GitHub akan menawarkan pemindaian keamanan AI dengan temuan yang diperiksa sebelum dilaporkan secara privat, serta GitHub Copilot Max, kepada semua proyek alumni GitHub Secure Open Source Fund dan memperluas dukungan tersebut ke angkatan Fund mendatang. GitHub dan Microsoft juga berupaya memperluas peninjauan oleh peneliti sambil mempertahankan pemeriksaan tersebut.
Dalam pengungkapan kerentanan dengan bantuan AI, kompromi dalam uji coba ini terlihat jelas: otomasi dapat menyaring banjir temuan mentah menjadi antrean privat yang dapat dikelola, sementara peninjauan ahli dan kendali pengelola proyek menentukan apakah laporan tersebut berujung pada patch. Perluasan program bergantung pada terjaganya standar itu tanpa mengembalikan beban triase kepada pengelola proyek.












