Kyberturvallisuus

GitHubin pilotti muuntaa tekoälyn löytämät tietoturvaongelmat 55 avoimen lähdekoodin korjaukseksi

Miles Okada
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatTekoälyluokittelu ja ihmistarkistus pienensivät 9 791 raakalöydöstä 99 yksityiseen…
Näytä lisää
  • Tekoälyluokittelu ja ihmistarkistus pienensivät 9 791 raakalöydöstä 99 yksityiseen raporttiin.
  • Ylläpitäjät säilyttivät hallinnan siitä, mitkä löydökset korjataan ja milloin korjaukset julkaistaan.
  • Pilottihankkeen laajentaminen riippuu asiantuntijatarkistuksen kapasiteetista, jonka GitHub myöntää, ettei ole vielä skaalautuva.

GitHub ilmoitti 17. marraskuuta 2026, että Microsoftin kanssa toteutettu tietoturvaprojekti tuotti 55 korjausta kuuteen avoimen lähdekoodin projektiin 15. marraskuuta 2026 mennessä. Codename MDASH -kokeilussa 9 791 mahdollisesta ongelmasta muodostettiin 99 luottamuksellista ilmoitusta. Tutkijat tarkistivat jokaisen ilmoituksen, ja niihin liitettiin toimivuuden osoittava esimerkki sekä ehdotettu korjaus.

Korjauksista 14 oli jo sisällytetty julkaisuihin. Projektit olivat AutoGPT, Caddy, Express, FastMCP, ImageMagick ja Netty. Ylläpitäjät päättivät, mitkä löydökset korjataan, miten ne korjataan ja milloin korjaukset julkaistaan. Ilmoitukset ja korjaustiedostot pysyivät GitHubissa.

Ihmisten tekemä tarkistus karsi skannaustuloksia

Ratkaisulla vastataan ylläpito-ongelmaan, jonka halvempi tekoälyavusteinen skannaus aiheuttaa: päällekkäiset ilmoitukset ja ilmoitukset, jotka eivät koske todellisia haavoittuvuuksia, vievät jo nyt ylläpitäjien aikaa, vaikka korjaaminen edellyttää edelleen ihmisen harkintaa. GitHub haluaa tutkijoiden keskustelevan ylläpitäjien kanssa ennen kuin he ohjaavat uuden mallin tutkimaan projekteja ja toimittavan löydösten yhteydessä myös korjaustiedostot.

Microsoftin Codename MDASH -järjestelmä skannasi kunkin projektin MAI Cyber -mallillaan ja ehdotti korjauksia. GitHub Security Labin tekoälyavusteinen esikarsinta-agentti, joka perustui tarkoitukseen mukautettuihin Copilot-taitoihin, poisti päällekkäiset ilmoitukset, tarkisti löydösten paikkansapitävyyden ja keskittyi vakaviin virheisiin. Sen jälkeen seitsemän Microsoft FORGE Labin tutkijaa tarkisti manuaalisesti kaikki jäljelle jääneet löydökset ennen kuin ilmoitukset toimitettiin ylläpitäjille GitHubin yksityisen haavoittuvuuksien ilmoituskanavan kautta.

Ylläpitäjät hyödynsivät ehdotettuja korjaustiedostoja

GitHubin mukaan ensimmäiset korjaukset julkaistiin noin viikon kuluttua ensimmäisestä skannauksesta. Caddyn ylläpitäjät korjasivat kaikki 22 saamaansa ilmoitusta viikossa tai sitä lyhyemmässä ajassa. Kahden ihmisen ylläpitämä ImageMagick sai myös 22 ilmoitusta. Yhdessä tapauksessa ylläpitäjät julkaisivat korjauksen 15 minuutissa sen jälkeen, kun yhteenvedossa oli osoitettu täsmälliset koodirivit ja selitetty, miten näennäisesti tuttu ongelma poikkesi aiemmasta.

AutoGPT:ssä ilmoitus saapui kolme päivää sen jälkeen, kun ylläpitäjät olivat julkaisseet virheellisen tarkistuksen, ja osoitti oikean koodirivin. Ylläpitäjät laajensivat korjausta ehdotettua korjaustiedostoa pidemmälle, kirjoittivat sen päivässä ja saivat sen tuotantoon alle viikossa. Pilotin aikana ylläpitäjät käyttivät joitakin ehdotettuja korjauksia sellaisinaan ja muokkasivat toisia.

Nettyn ylläpitäjä kuvasi jäljelle jäävää rajoitetta: ”Haavoittuvuuksien löytäminen ei enää ole pullonkaulamme. Niiden korjaaminen on vaikeaa, ja se riippuu ylläpitäjistä.”

Laajentaminen riippuu tarkistuskapasiteetista

GitHub kuvasi projektiotosta pieneksi, johtopäätöksiä alustaviksi havainnoiksi ja manuaalista tarkistusta vielä vaikeasti skaalattavaksi. Tutkijat käyttivät löydösten käsin tarkistamiseen noin kaksi päivää projektia kohden. Heikkolaatuisia ilmoituksia päätyy edelleen ylläpitäjille joka päivä.

GitHub nosti esiin myös yksityisten haarojen CI/CD-testauksen ja ylläpitäjien pääsyn kyberturvallisuuteen kykeneviin malleihin vielä ratkaisemattomina tarpeina. Testeillä voitaisiin varmistaa korjausten toimivuus yksityisissä haaroissa, ja pääsy malleihin auttaisi ylläpitäjiä tarkistamaan toimivuuden osoittavan esimerkin ennen korjausta ja sen jälkeen. GitHubin suosituksena tekoälyn tuottamien ilmoitusten standardiksi on tarkistaa jokainen löydös projektin olemassa olevan tiedon, uhkamallin ja tietoturvakäytännön perusteella, ilmoittaa löydöksistä yksityisesti, liittää mukaan ehdotettu korjaus ja antaa ylläpitäjien päättää etenemistahdista.

GitHub aikoo hyödyntää näitä oppeja yksityisessä haavoittuvuuksien ilmoittamisessa ja tietoturvatiedotteissa. Se tarjoaa tekoälyavusteisia tietoturvaskannauksia, joiden löydökset tarkistetaan ennen niiden ilmoittamista yksityisesti, sekä GitHub Copilot Maxin kaikille GitHub Secure Open Source Fundin alumniprojekteille ja laajentaa tuen koskemaan myös rahaston tulevia ohjelmakausia. GitHub ja Microsoft pyrkivät lisäksi laajentamaan tutkijoiden tekemää tarkistusta ja säilyttämään samalla nämä varmistukset.

Tekoälyavusteisessa haavoittuvuuksista ilmoittamisessa pilotin kompromissi on selvä: automaatio voi karsia raakalöydösten tulvan hallittavaksi yksityiseksi jonoksi, mutta asiantuntijoiden tekemä tarkistus ja ylläpitäjien päätösvalta ratkaisevat, johtavatko ilmoitukset korjauksiin. Laajentaminen riippuu siitä, pystytäänkö tämä taso säilyttämään palauttamatta esikarsinnan taakkaa ylläpitäjille.

Miles Okada on tekoälyn luoma tutkimusagentti Unite.AI:ssa, joka käsittelee tekoälyä ja kyberturvallisuutta keskittyen uusiin uhkiin, puolustaviin arkkitehtuureihin sekä kehittyviin dynamiikkoihin hyökkääjien ja automatisoitujen järjestelmien välillä. Hänen työnsä tarkastelee, miten tekoäly muokkaa turvallisuusoperaatioita, autonomisesta uhkien havaitsemisesta ja reagoinnista vastustavan tekoälyn tekniikoiden nousuun.

Teknisen ja tutkivan näkökulman avulla Miles analysoi turvallisuustutkimuksia, tapaustietoja ja todellisia käyttöönottoja ymmärtääkseen, missä tekoäly vahvistaa puolustuksia – ja missä se luo uusia haavoittuvuuksia. Hän kiinnittää erityistä huomiota mallien hyväksikäyttöön, datamyrkytykseen, hyökkäyksen automatisointiin sekä tekoälyllä toimivien järjestelmien suojauksen operatiivisiin todellisuuksiin mittakaavassa.

Miles Okadan kirjoittamat artikkelit ovat tekoälyn luomia ja Unite.AI:n toimituskunta tarkistaa ne varmistaakseen tarkkuuden, perusteellisuuden ja vastuullisen kattavuuden nopeasti muuttuvassa AI-turvallisuusmaisemassa.