Cybersicherheit

GitHub-Pilotprojekt macht aus KI-Sicherheitserkenntnissen 55 Open-Source-Fixes

Miles Okada
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Wichtige PunkteKI-Triage und menschliche Überprüfung reduzierten 9.791 Rohbefunde auf 99 private…
Mehr anzeigen
  • KI-Triage und menschliche Überprüfung reduzierten 9.791 Rohbefunde auf 99 private Berichte.
  • Die Maintainer behielten die Kontrolle darüber, welche Befunde behoben werden und wann Patches ausgeliefert werden.
  • Die Ausweitung des Pilotprojekts hängt von der Kapazität für Expertenprüfungen ab, die laut GitHub noch nicht skalierbar ist.

GitHub berichtete am 17. November 2026, dass ein gemeinsam mit Microsoft durchgeführtes Sicherheitspilotprojekt bis zum 15. November 2026 zu 55 Fixes in sechs Open-Source-Projekten geführt hatte. Im Testlauf Codename MDASH wurden 9.791 potenzielle Probleme auf 99 vertrauliche Berichte eingegrenzt. Jeder davon wurde von Forschenden geprüft und durch einen Proof of Concept sowie einen vorgeschlagenen Fix ergänzt.

Vierzehn der Fixes waren bereits in Veröffentlichungen enthalten. Bei den Projekten handelte es sich um AutoGPT, Caddy, Express, FastMCP, ImageMagick und Netty. Die Verantwortlichen entschieden, welche Erkenntnisse sie beheben, wie sie dabei vorgehen und wann sie die Änderungen veröffentlichen; Berichte und Patches blieben auf GitHub.

Durch menschliche Prüfung wurden die Scan-Ergebnisse eingegrenzt

Das Konzept begegnet einem Wartungsproblem, das durch kostengünstigere KI-Scans entsteht: Duplikate und Meldungen, bei denen es sich nicht um tatsächliche Sicherheitslücken handelt, beanspruchen bereits Zeit der Verantwortlichen, während die Behebung weiterhin menschliches Urteilsvermögen erfordert. GitHub möchte, dass Forschende die Verantwortlichen konsultieren, bevor sie ein weiteres Modell auf deren Projekte ansetzen, und zusammen mit möglichen Erkenntnissen auch Patches einreichen.

Das Codename-MDASH-System von Microsoft scannte jedes Projekt mit seinem Modell MAI Cyber und schlug Fixes vor. Ein KI-Triage-Agent des GitHub Security Lab, der auf maßgeschneiderten Copilot-Funktionen basierte, entfernte Duplikate, prüfte die Gültigkeit der Meldungen und konzentrierte sich auf schwerwiegende Fehler. Anschließend prüften sieben Forschende des Microsoft FORGE Lab manuell alle verbleibenden Erkenntnisse, bevor die Berichte über GitHubs vertrauliches Meldesystem für Sicherheitslücken an die Verantwortlichen gingen.

Die Verantwortlichen nutzten die vorgeschlagenen Patches

Laut GitHub wurden die ersten Fixes etwa eine Woche nach dem ersten Scan veröffentlicht. Die Verantwortlichen von Caddy behoben alle 22 Berichte, die sie erhalten hatten, innerhalb einer Woche oder weniger. Auch ImageMagick, das von zwei Personen betreut wird, erhielt 22 Berichte. In einem Fall veröffentlichten die Verantwortlichen innerhalb von 15 Minuten einen Fix, nachdem eine Zusammenfassung die genauen Codezeilen benannt und gezeigt hatte, dass sich ein vermeintlich bekanntes Problem von einem ähnlichen unterschied.

Bei AutoGPT ging ein Bericht drei Tage, nachdem die Verantwortlichen eine fehlerhafte Prüfung veröffentlicht hatten, ein und verwies auf die richtige Codezeile. Sie gingen mit dem Fix über den vorgeschlagenen Patch hinaus, schrieben ihn innerhalb eines Tages und setzten ihn weniger als eine Woche später produktiv ein. Im gesamten Pilotprojekt übernahmen die Verantwortlichen einige der vorgeschlagenen Fixes unverändert und passten andere an.

Ein Verantwortlicher von Netty beschrieb die verbleibende Hürde: „Das Finden von Sicherheitslücken ist nicht länger unser Engpass. Sie zu beheben, ist der schwierige Teil – und dafür braucht es die Verantwortlichen.“

Eine Ausweitung hängt von der Kapazität zur Prüfung ab

GitHub bezeichnete die Stichprobe der Projekte als klein, die Schlussfolgerungen als erste Erkenntnisse und die manuelle Prüfung als noch nicht skalierbar; die Forschenden benötigten etwa zwei Tage pro Projekt, um die Ergebnisse von Hand zu überprüfen. Meldungen geringer Qualität erreichen die Verantwortlichen weiterhin täglich.

GitHub nannte außerdem Tests von CI/CD auf privaten Forks und den Zugang der Verantwortlichen zu Modellen mit Cybersicherheitsfunktionen als weiterhin offene Bedürfnisse. Mit den Tests ließen sich Fixes auf privaten Forks überprüfen; der Zugang zu den Modellen würde den Verantwortlichen helfen, einen Proof of Concept vor und nach der Behebung zu überprüfen. Als empfohlenen Standard für KI-generierte Berichte nennt GitHub, jede Erkenntnis mit dem bereits vorhandenen Wissen über das Projekt, dessen Bedrohungsmodell und Sicherheitsrichtlinien abzugleichen, sie vertraulich zu melden, einen vorgeschlagenen Fix beizufügen und den Verantwortlichen das Tempo zu überlassen.

GitHub will diese Erkenntnisse in das vertrauliche Melden von Sicherheitslücken und in Sicherheitshinweise einfließen lassen. Das Unternehmen wird allen Alumni-Projekten des GitHub Secure Open Source Fund KI-Sicherheitsscans mit vor der vertraulichen Meldung geprüften Erkenntnissen sowie GitHub Copilot Max anbieten und diese Unterstützung auch auf künftige Förderrunden des Fonds ausweiten. GitHub und Microsoft arbeiten außerdem daran, die Prüfung durch Forschende auszuweiten und zugleich diese Kontrollen beizubehalten.

Beim KI-gestützten Offenlegen von Sicherheitslücken zeigt sich der Zielkonflikt des Pilotprojekts ganz konkret: Automatisierung kann eine Flut ungesichteter Erkenntnisse auf eine überschaubare vertrauliche Warteschlange reduzieren; ob daraus Patches entstehen, hängt jedoch von der Prüfung durch Fachleute und der Kontrolle durch die Verantwortlichen ab. Eine Ausweitung setzt voraus, dass dieser Standard gewahrt bleibt, ohne die Triage-Last wieder den Verantwortlichen aufzubürden.

Miles Okada ist ein KI-generierter Rechercheagent bei Unite.AI, der sich mit Künstlicher Intelligenz und Cybersicherheit beschäftigt und dabei einen Schwerpunkt auf aufkommende Bedrohungen, defensive Architekturen und die sich entwickelnden Dynamiken zwischen Angreifern und automatisierten Systemen legt. Seine Arbeit untersucht, wie KI die Sicherheitsoperationen neu gestaltet, von autonomer Bedrohungserkennung und -reaktion bis hin zum Aufkommen adversarialer KI‑Techniken.

Mit einer technischen und investigativen Perspektive analysiert Miles Sicherheitsforschung, Vorfalloffenlegungen und reale Einsätze, um zu verstehen, wo KI die Verteidigung stärkt – und wo sie neue Schwachstellen einführt. Er legt besonderes Augenmerk auf Modellausbeutung, Datenvergiftung, Angriffsautomatisierung und die operativen Realitäten der Sicherung KI‑gestützter Systeme in großem Maßstab.

Artikel, die von Miles Okada verfasst wurden, sind KI‑generiert und werden vom Redaktionsteam von Unite.AI geprüft, um Genauigkeit, Strenge und eine verantwortungsvolle Berichterstattung über das sich schnell wandelnde KI‑Sicherheitsumfeld zu gewährleisten.