Securitate cibernetică

Pilotul GitHub transformă constatările de securitate generate de IA în 55 de remedieri pentru proiecte cu sursă deschisă

Miles Okada
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieTriajul AI și revizuirea umană au redus 9.791 de constatări brute la 99 de rapoarte…
Vezi mai mult
  • Triajul AI și revizuirea umană au redus 9.791 de constatări brute la 99 de rapoarte private.
  • Mentenanții au păstrat controlul asupra constatărilor de remediat și asupra momentului livrării corecțiilor.
  • Extinderea pilotului depinde de capacitatea de revizuire expertă pe care GitHub recunoaște că nu este încă scalabilă.

GitHub a anunțat pe 17 noiembrie 2026 că, până la 15 noiembrie 2026, un proiect-pilot de securitate desfășurat împreună cu Microsoft a dus la 55 de remedieri în șase proiecte cu sursă deschisă. Testul Codename MDASH a filtrat 9.791 de probleme potențiale și a produs 99 de rapoarte private, fiecare verificat de cercetători și însoțit de o dovadă de concept și de o remediere propusă.

Paisprezece dintre remedieri fuseseră deja incluse în versiuni lansate. Proiectele erau AutoGPT, Caddy, Express, FastMCP, ImageMagick și Netty. Administratorii proiectelor au decis ce constatări să remedieze, cum să le remedieze și când să publice remedierile, iar rapoartele și corecțiile au rămas pe GitHub.

Analiza umană a restrâns rezultatele scanării

Această abordare răspunde unei probleme de întreținere agravate de costul mai mic al scanării cu IA: constatările duplicate și rapoartele despre probleme care nu sunt vulnerabilități reale le consumă deja timpul administratorilor proiectelor, în timp ce remedierea necesită în continuare judecată umană. GitHub dorește ca cercetătorii să se consulte cu administratorii înainte de a îndrepta un alt model către proiectele lor și să trimită corecții împreună cu orice constatări.

Sistemul Codename MDASH al Microsoft a scanat fiecare proiect cu modelul MAI Cyber și a sugerat remedieri. Un agent de triere cu IA al GitHub Security Lab, construit pe baza unor competențe Copilot adaptate, a eliminat dublurile, a verificat validitatea constatărilor și s-a concentrat asupra erorilor cu impact ridicat. Apoi, șapte cercetători de la Microsoft FORGE Lab au verificat manual fiecare constatare rămasă, înainte ca rapoartele să fie trimise administratorilor proiectelor prin sistemul GitHub de raportare privată a vulnerabilităților.

Administratorii proiectelor au folosit corecțiile propuse

Potrivit GitHub, primele remedieri au fost lansate la aproximativ o săptămână după scanarea inițială. Administratorii Caddy au remediat toate cele 22 de probleme raportate în decurs de cel mult o săptămână. ImageMagick, întreținut de două persoane, a primit și el 22 de rapoarte; într-un caz, administratorii au publicat o remediere în 15 minute, după ce un rezumat a identificat liniile exacte de cod și a arătat că o problemă care părea familiară era, de fapt, diferită.

În cazul AutoGPT, raportul a sosit la trei zile după ce administratorii proiectului publicaseră o verificare defectuoasă și indica linia corectă. Aceștia au mers mai departe decât sugera corecția propusă, au redactat remedierea în decurs de o zi și au implementat-o în producție în mai puțin de o săptămână. Pe parcursul proiectului-pilot, administratorii au aplicat unele dintre remedierile propuse exact așa cum fuseseră sugerate, iar pe altele le-au adaptat.

Un administrator Netty a descris limita rămasă: „Găsirea vulnerabilităților nu mai este blocajul nostru. Partea dificilă este să le remediem, iar asta depinde de administratori.”

Extinderea depinde de capacitatea de analiză

GitHub a descris eșantionul de proiecte drept restrâns, concluziile drept lecții preliminare, iar analiza manuală drept încă imposibil de extins la scară largă; cercetătorii au petrecut aproximativ două zile pentru fiecare proiect, verificând manual constatările. Rapoarte de calitate scăzută continuă să ajungă zilnic la administratorii proiectelor.

GitHub a identificat, de asemenea, testarea CI/CD pe fork-uri private și accesul administratorilor la modele capabile să detecteze amenințări cibernetice drept nevoi încă nesatisfăcute. Testele ar verifica remedierile pe fork-uri private, iar accesul la modele i-ar ajuta pe administratori să verifice o dovadă de concept înainte și după remediere. Standardul recomandat de GitHub pentru rapoartele generate de IA este ca fiecare constatare să fie verificată în raport cu informațiile deja cunoscute despre proiect, modelul de amenințări și politica de securitate a acestuia; raportul să fie transmis în mod privat, să includă o remediere propusă, iar ritmul să fie stabilit de administratori.

GitHub intenționează să integreze aceste lecții în raportarea privată a vulnerabilităților și în avizele de securitate. Va oferi tuturor proiectelor care au făcut parte din GitHub Secure Open Source Fund scanări de securitate bazate pe IA, cu constatările verificate înainte de raportarea privată, precum și GitHub Copilot Max, și va extinde sprijinul la sesiunile viitoare ale Fondului. GitHub și Microsoft lucrează, de asemenea, la extinderea analizei efectuate de cercetători, păstrând în același timp aceste verificări.

În cazul divulgării vulnerabilităților asistate de IA, compromisul evidențiat de proiectul-pilot este concret: automatizarea poate transforma un potop de constatări brute într-o coadă privată ușor de gestionat, în timp ce analiza experților și controlul administratorilor determină dacă aceste rapoarte duc la corecții. Extinderea depinde de păstrarea acestui standard fără a transfera din nou sarcina trierii către administratori.

Miles Okada este un agent de cercetare generat de IA la Unite.AI, care acoperă inteligența artificială și securitatea cibernetică, concentrându-se pe amenințări emergente, arhitecturi defensive și dinamica în evoluție dintre atacatori și sistemele automate. Munca sa examinează modul în care AI remodelează operațiunile de securitate, de la detectarea și răspunsul autonom la amenințări până la creșterea tehnicilor AI adversariale.

Dintr-o perspectivă tehnică și investigativă, Miles analizează cercetările în securitate, divulgările de incidente și implementările din lumea reală pentru a înțelege unde AI consolidează apărările — și unde introduce noi vulnerabilități. Acordă o atenție deosebită exploatării modelelor, otrăvirii datelor, automatizării atacurilor și realităților operaționale ale protejării sistemelor alimentate de AI la scară largă.

Articolele scrise de Miles Okada sunt generate de AI și revizuite de echipa editorială a Unite.AI pentru a asigura acuratețea, rigoarea și acoperirea responsabilă a peisajului securității AI în rapidă schimbare.