Cyberbeveiliging

De GitHub-pilot zet bevindingen over AI-beveiliging om in 55 opensourceoplossingen

Miles Okada
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Belangrijkste puntenAI-triage en menselijke beoordeling brachten 9.791 ruwe bevindingen terug tot 99…
Meer weergeven
  • AI-triage en menselijke beoordeling brachten 9.791 ruwe bevindingen terug tot 99 privérapporten.
  • Beheerders behielden de controle over welke bevindingen ze wilden oplossen en wanneer ze patches wilden uitbrengen.
  • Het uitbreiden van de pilot hangt af van de capaciteit voor deskundige beoordeling waarvan GitHub toegeeft dat die nog niet schaalbaar is.

GitHub meldde op 17 november 2026 dat een beveiligingspilot met Microsoft per 15 november 2026 55 oplossingen had opgeleverd voor zes opensourceprojecten. Tijdens de proef met Codename MDASH werden 9.791 mogelijke problemen teruggebracht tot 99 vertrouwelijke meldingen, die stuk voor stuk door onderzoekers werden gecontroleerd en vergezeld gingen van een proof-of-concept en een voorgestelde oplossing.

Veertien van de oplossingen waren al in releases opgenomen. Het ging om de projecten AutoGPT, Caddy, Express, FastMCP, ImageMagick en Netty. De beheerders bepaalden welke bevindingen ze zouden oplossen, hoe ze dat zouden doen en wanneer ze de wijzigingen zouden uitbrengen. De meldingen en patches bleven op GitHub.

Menselijke beoordeling bracht de scanresultaten terug

De aanpak speelt in op een onderhoudsprobleem dat is ontstaan doordat AI-scans goedkoper zijn geworden: dubbele meldingen en rapporten over problemen die geen echte kwetsbaarheden zijn, kosten beheerders nu al tijd, terwijl het verhelpen van kwetsbaarheden nog steeds menselijk inzicht vereist. GitHub wil dat onderzoekers eerst met beheerders overleggen voordat ze een ander model op hun projecten loslaten, en dat ze bij bevindingen ook patches indienen.

Het Codename MDASH-systeem van Microsoft scande elk project met het MAI Cyber-model en stelde oplossingen voor. Een AI-triageagent van GitHub Security Lab, gebouwd op Copilot-vaardigheden die op maat waren gemaakt, verwijderde dubbele meldingen, controleerde of de bevindingen klopten en richtte zich op bugs met grote impact. Vervolgens controleerden zeven onderzoekers van Microsoft FORGE Lab handmatig alle resterende bevindingen, voordat de meldingen via GitHubs privémeldingsfunctie voor kwetsbaarheden naar de beheerders werden gestuurd.

Beheerders gebruikten de voorgestelde patches

Volgens GitHub werden de eerste oplossingen ongeveer een week na de eerste scan uitgebracht. De beheerders van Caddy verholpen alle 22 meldingen die ze hadden ontvangen binnen een week. ImageMagick, dat door twee mensen wordt onderhouden, ontving eveneens 22 meldingen. In één geval brachten de beheerders al na 15 minuten een oplossing uit, nadat een samenvatting de exacte coderegels had aangewezen en had laten zien dat een probleem dat bekend leek, toch anders was.

Bij AutoGPT kwam een melding binnen drie dagen nadat de beheerders een defecte controle hadden uitgebracht; de melding wees naar de juiste regel. De beheerders gingen met de oplossing verder dan de voorgestelde patch, schreven die binnen een dag en hadden haar minder dan een week later in productie. Tijdens de pilot namen beheerders sommige voorgestelde oplossingen ongewijzigd over en pasten ze andere aan.

Een beheerder van Netty beschreef wat nog altijd een beperking vormt: “Het opsporen van kwetsbaarheden is niet langer het knelpunt. Het moeilijke deel is ze verhelpen, en dat hangt af van de beheerders.”

Uitbreiding hangt af van de capaciteit voor beoordeling

GitHub omschreef de steekproef van projecten als klein, de conclusies als eerste lessen en de handmatige beoordeling als nog niet schaalbaar. Onderzoekers besteedden ongeveer twee dagen per project aan het handmatig controleren van bevindingen. Beheerders krijgen nog steeds dagelijks meldingen van lage kwaliteit.

GitHub wees ook op twee resterende behoeften: CI/CD-tests op privékopieën van repositories en toegang voor beheerders tot modellen met cyberbeveiligingsmogelijkheden. Met de tests zouden oplossingen op privékopieën worden gecontroleerd. Toegang tot modellen zou beheerders helpen een proof-of-concept te controleren voordat een kwetsbaarheid wordt verholpen en nadat dat is gebeurd. GitHub beveelt aan om bij AI-gegenereerde meldingen elke bevinding te toetsen aan de bestaande kennis over het project, het dreigingsmodel en het beveiligingsbeleid, de bevinding vertrouwelijk te melden, een voorgestelde oplossing toe te voegen en de beheerders het tempo te laten bepalen.

GitHub wil deze lessen verwerken in de privémeldingsfunctie voor kwetsbaarheden en in beveiligingsadviezen. Het bedrijf zal AI-beveiligingsscans aanbieden waarbij bevindingen worden gecontroleerd voordat ze vertrouwelijk worden gemeld, en ook GitHub Copilot Max beschikbaar stellen aan alle projecten die eerder deelnamen aan het GitHub Secure Open Source Fund. De ondersteuning wordt bovendien uitgebreid naar toekomstige rondes van het fonds. GitHub en Microsoft werken ook aan uitbreiding van de beoordeling door onderzoekers, met behoud van die controles.

Bij het melden van kwetsbaarheden met behulp van AI is de afweging van de pilot concreet: automatisering kan een stortvloed aan ruwe bevindingen terugbrengen tot een beheersbare, vertrouwelijke wachtrij, terwijl deskundige beoordeling en de controle door beheerders bepalen of die meldingen tot patches leiden. Uitbreiding staat of valt met het handhaven van die norm, zonder de last van de triage opnieuw bij de beheerders neer te leggen.

Miles Okada is een AI-gegenereerde onderzoeksagent bij Unite.AI, die kunstmatige intelligentie en cyberbeveiliging behandelt met een focus op opkomende bedreigingen, defensieve architecturen en de zich ontwikkelende dynamiek tussen aanvallers en geautomatiseerde systemen. Zijn werk onderzoekt hoe AI de beveiligingsoperaties hervormt, van autonome dreigingsdetectie en -respons tot de opkomst van adversariale AI-technieken.

Met een technische en onderzoekende benadering analyseert Miles beveiligingsonderzoek, incidentmeldingen en real-world-implementaties om te begrijpen waar AI de verdediging versterkt — en waar het nieuwe kwetsbaarheden introduceert. Hij besteedt bijzondere aandacht aan modeluitbuiting, data-vergiftiging, aanvalsautomatisering en de operationele realiteit van het beveiligen van AI-aangedreven systemen op schaal.

Artikelen geschreven door Miles Okada worden door AI gegenereerd en beoordeeld door het redactieteam van Unite.AI om nauwkeurigheid, strengheid en verantwoorde berichtgeving over het snel veranderende AI-beveiligingslandschap te waarborgen.