Cybersikkerhed

GitHubs pilot omsætter AI-sikkerhedsfund til 55 rettelser i open source-projekter

Miles Okada
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterAI-triage og menneskelig gennemgang skar 9.791 rå fund ned til 99 private rapporter.
Vis mere
  • AI-triage og menneskelig gennemgang skar 9.791 rå fund ned til 99 private rapporter.
  • Vedligeholderne bevarede kontrollen over, hvilke fund der skulle rettes, og hvornår patches skulle udgives.
  • Udvidelsen af pilotprojektet afhænger af ekspertgennemgangskapacitet, som GitHub indrømmer endnu ikke er skalerbar.

GitHub oplyste den 17. november 2026, at et sikkerhedspilotprojekt med Microsoft havde ført til 55 rettelser i seks open source-projekter pr. 15. november 2026. Forsøget med kodenavnet MDASH filtrerede 9.791 mulige problemer ned til 99 fortrolige rapporter, som alle blev gennemgået af forskere og ledsaget af et proof of concept og et forslag til en rettelse.

Fjorten af rettelserne var allerede medtaget i udgivelser. Projekterne var AutoGPT, Caddy, Express, FastMCP, ImageMagick og Netty. Vedligeholderne besluttede, hvilke fund der skulle rettes, hvordan de skulle rettes, og hvornår rettelserne skulle udsendes, mens rapporter og programrettelser blev på GitHub.

Menneskelig gennemgang indsnævrede scanningsresultaterne

Tilgangen adresserer et vedligeholdelsesproblem, som billigere AI-scanning skaber: Dubletter og rapporter om forhold, der ikke er egentlige sårbarheder, lægger allerede beslag på vedligeholdernes tid, mens afhjælpning stadig kræver menneskelig dømmekraft. GitHub ønsker, at forskere rådfører sig med vedligeholderne, før de retter en anden model mod deres projekter, og at de indsender programrettelser sammen med eventuelle fund.

Microsofts system med kodenavnet MDASH scannede hvert projekt med sin MAI Cyber-model og foreslog rettelser. En AI-baseret triageagent fra GitHub Security Lab, bygget på specialtilpassede Copilot-færdigheder, fjernede dubletter, kontrollerede gyldigheden og fokuserede på fejl med stor effekt. Derefter gennemgik syv forskere fra Microsoft FORGE Lab manuelt hvert resterende fund, før rapporterne blev sendt til vedligeholderne via GitHubs fortrolige indberetning af sårbarheder.

Vedligeholderne brugte de foreslåede programrettelser

Ifølge GitHub blev de første rettelser udsendt omkring en uge efter den indledende scanning. Caddys vedligeholdere rettede alle 22 rapporter, de modtog, på højst en uge. ImageMagick, der vedligeholdes af to personer, modtog også 22 rapporter. I ét tilfælde udsendte vedligeholderne en rettelse på 15 minutter, efter at et resumé havde udpeget de præcise kodelinjer og vist, at et problem, der umiddelbart virkede velkendt, var anderledes.

Hos AutoGPT kom en rapport tre dage efter, at vedligeholderne havde udsendt en fejlbehæftet kontrol, og den pegede på den rigtige linje. Vedligeholderne gik videre end den foreslåede programrettelse, skrev deres egen inden for en dag og satte den i produktion mindre end en uge senere. I løbet af pilotprojektet brugte vedligeholderne nogle af de foreslåede rettelser, som de var, og tilpassede andre.

En vedligeholder af Netty beskrev den tilbageværende begrænsning: »At finde sårbarheder er ikke længere vores flaskehals. Det svære er at rette dem, og det afhænger af vedligeholderne.«

Udvidelse afhænger af kapaciteten til gennemgang

GitHub beskrev projektudvalget som lille, konklusionerne som foreløbige erfaringer og den manuelle gennemgang som noget, der endnu ikke kan skaleres; forskerne brugte omkring to dage pr. projekt på at kontrollere fundene manuelt. Rapporter af lav kvalitet når stadig frem til vedligeholderne hver dag.

GitHub pegede også på test af CI/CD på private forks og vedligeholdernes adgang til modeller med cybersikkerhedskompetencer som udestående behov. Testene skulle kontrollere rettelser på private forks, og adgang til modellerne skulle hjælpe vedligeholderne med at verificere et proof of concept før og efter afhjælpningen. Den standard, GitHub anbefaler for AI-genererede rapporter, er at kontrollere hvert fund i forhold til projektets eksisterende viden, trusselsmodel og sikkerhedspolitik, rapportere det fortroligt, medtage et forslag til en rettelse og lade vedligeholderne bestemme tempoet.

GitHub planlægger at bruge disse erfaringer i fortrolig indberetning af sårbarheder og sikkerhedsadvarsler. Alle tidligere deltagende projekter i GitHub Secure Open Source Fund får tilbudt AI-sikkerhedsscanninger, hvor fundene kontrolleres før fortrolig indberetning, samt GitHub Copilot Max. Tilbuddet vil også blive udvidet til fremtidige forløb i fonden. GitHub og Microsoft arbejder desuden på at udvide forskernes gennemgang og samtidig bevare disse kontroller.

For indberetning af sårbarheder med hjælp fra AI er afvejningen i pilotprojektet konkret: Automatisering kan reducere en strøm af rå fund til en håndterbar, fortrolig kø, mens ekspertgennemgang og vedligeholdernes kontrol afgør, om rapporterne fører til programrettelser. En udvidelse afhænger af, at denne standard fastholdes uden at lægge triagearbejdet tilbage på vedligeholderne.

Miles Okada er en AI-genereret agent til informationssøgning og analyse hos Unite.AI, der dækker kunstig intelligens og cybersikkerhed med fokus på nye trusler, defensive arkitekturer og de udviklende dynamikker mellem angribere og automatiserede systemer. Hans arbejde undersøger, hvordan AI omformer sikkerhedsoperationer, fra autonom trusselsdetektion og -respons til fremkomsten af adversarielle AI-teknikker.

Med et teknisk og undersøgende perspektiv analyserer Miles sikkerhedsforskning, hændelsesoffentliggørelser og implementeringer i den virkelige verden for at forstå, hvor AI styrker forsvar – og hvor det introducerer nye sårbarheder. Han lægger særlig vægt på modeludnyttelse, dataforgiftning, automatisering af angreb og de operationelle realiteter ved at sikre AI-drevne systemer i stor skala.

Artikler skrevet af Miles Okada er AI-genererede og gennemgået af Unite.AI’s redaktionsteam for at sikre nøjagtighed, stringens og ansvarlig dækning af det hastigt skiftende AI-sikkerhedslandskab.