Κυβερνοασφάλεια

Το πιλοτικό πρόγραμμα της GitHub μετατρέπει τα ευρήματα ασφάλειας της τεχνητής νοημοσύνης σε 55 διορθώσεις λογισμικού ανοικτού κώδικα

Miles Okada
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ διαλογή με τεχνητή νοημοσύνη και η ανθρώπινη αναθεώρηση περιόρισαν 9.791 αρχικά…
Δείτε περισσότερα
  • Η διαλογή με τεχνητή νοημοσύνη και η ανθρώπινη αναθεώρηση περιόρισαν 9.791 αρχικά ευρήματα σε 99 ιδιωτικές αναφορές.
  • Οι συντηρητές διατήρησαν τον έλεγχο σχετικά με το ποια ευρήματα θα διορθωθούν και πότε θα κυκλοφορήσουν τα patches.
  • Η επέκταση του πιλοτικού προγράμματος εξαρτάται από την ικανότητα ειδικής αναθεώρησης που το GitHub παραδέχεται ότι δεν είναι ακόμη κλιμακώσιμη.

Η GitHub ανέφερε στις 17 Νοεμβρίου 2026 ότι ένα πιλοτικό πρόγραμμα ασφάλειας με τη Microsoft οδήγησε σε 55 διορθώσεις σε έξι έργα ανοικτού κώδικα έως τις 15 Νοεμβρίου 2026. Η δοκιμή με την κωδική ονομασία MDASH περιόρισε 9.791 πιθανά ζητήματα σε 99 εμπιστευτικές αναφορές, καθεμία από τις οποίες ελέγχθηκε από ερευνητές και συνοδευόταν από μια απόδειξη λειτουργικότητας και μια προτεινόμενη διόρθωση.

Δεκατέσσερις από τις διορθώσεις είχαν ήδη συμπεριληφθεί σε εκδόσεις. Τα έργα ήταν τα AutoGPT, Caddy, Express, FastMCP, ImageMagick και Netty. Οι συντηρητές αποφάσισαν ποια ευρήματα θα διορθώσουν, πώς θα τα διορθώσουν και πότε θα τα διαθέσουν, ενώ οι αναφορές και οι διορθώσεις παρέμειναν στο GitHub.

Ο ανθρώπινος έλεγχος περιόρισε τα αποτελέσματα της σάρωσης

Ο σχεδιασμός αντιμετωπίζει ένα πρόβλημα συντήρησης που έχει δημιουργήσει η φθηνότερη σάρωση με τεχνητή νοημοσύνη: τα διπλότυπα και οι αναφορές για ζητήματα που δεν αποτελούν πραγματικές ευπάθειες ήδη καταναλώνουν χρόνο των συντηρητών, ενώ η αποκατάσταση εξακολουθεί να απαιτεί ανθρώπινη κρίση. Η GitHub θέλει οι ερευνητές να συμβουλεύονται τους συντηρητές προτού κατευθύνουν ένα άλλο μοντέλο στα έργα τους και να υποβάλλουν διορθώσεις μαζί με κάθε εύρημα.

Το σύστημα Codename MDASH της Microsoft σάρωσε κάθε έργο με το μοντέλο MAI Cyber και πρότεινε διορθώσεις. Ένας πράκτορας διαλογής με τεχνητή νοημοσύνη του GitHub Security Lab, βασισμένος σε προσαρμοσμένες δεξιότητες του Copilot, αφαίρεσε τα διπλότυπα, έλεγξε την εγκυρότητα και επικεντρώθηκε σε σφάλματα με σημαντικό αντίκτυπο. Στη συνέχεια, επτά ερευνητές του Microsoft FORGE Lab έλεγξαν χειροκίνητα κάθε εύρημα που απέμενε, προτού οι αναφορές σταλούν στους συντηρητές μέσω της ιδιωτικής διαδικασίας αναφοράς ευπαθειών του GitHub.

Οι συντηρητές χρησιμοποίησαν τις προτεινόμενες διορθώσεις

Οι πρώτες διορθώσεις κυκλοφόρησαν περίπου μία εβδομάδα μετά την αρχική σάρωση, σύμφωνα με τη GitHub. Οι συντηρητές του Caddy διόρθωσαν και τις 22 αναφορές που έλαβαν μέσα σε μία εβδομάδα ή και λιγότερο. Το ImageMagick, το οποίο συντηρούν δύο άτομα, έλαβε επίσης 22 αναφορές· σε μία περίπτωση, οι συντηρητές του δημοσίευσαν μια διόρθωση μέσα σε 15 λεπτά, αφού μια σύνοψη προσδιόρισε τις ακριβείς γραμμές κώδικα και έδειξε ότι ένα ζήτημα που φαινόταν οικείο ήταν διαφορετικό.

Στο AutoGPT, μια αναφορά έφτασε τρεις ημέρες αφότου οι συντηρητές είχαν κυκλοφορήσει έναν ελαττωματικό έλεγχο και υπέδειξε τη σωστή γραμμή. Προχώρησαν πέρα από την προτεινόμενη διόρθωση, την υλοποίησαν μέσα σε μία ημέρα και τη διέθεσαν σε παραγωγικό περιβάλλον σε λιγότερο από μία εβδομάδα. Σε όλη τη διάρκεια του πιλοτικού προγράμματος, οι συντηρητές χρησιμοποίησαν ορισμένες από τις προτεινόμενες διορθώσεις όπως ήταν και προσάρμοσαν άλλες.

Ένας συντηρητής του Netty περιέγραψε τον περιορισμό που εξακολουθεί να υπάρχει: «Ο εντοπισμός ευπαθειών δεν είναι πλέον το σημείο συμφόρησης. Η διόρθωσή τους είναι το δύσκολο μέρος και αυτό εξαρτάται από τους συντηρητές.»

Η επέκταση εξαρτάται από τη δυνατότητα ελέγχου

Η GitHub χαρακτήρισε μικρό το δείγμα έργων, τα συμπεράσματα πρώιμα διδάγματα και τον χειροκίνητο έλεγχο μη ακόμη επεκτάσιμο· οι ερευνητές χρειάστηκαν περίπου δύο ημέρες ανά έργο για να ελέγξουν τα ευρήματα με το χέρι. Αναφορές χαμηλής ποιότητας εξακολουθούν να φτάνουν στους συντηρητές κάθε μέρα.

Η GitHub εντόπισε επίσης ως ανάγκες που παραμένουν τις δοκιμές CI/CD σε ιδιωτικά fork και την πρόσβαση των συντηρητών σε μοντέλα με δυνατότητες κυβερνοασφάλειας. Οι δοκιμές θα επαλήθευαν τις διορθώσεις σε ιδιωτικά fork, ενώ η πρόσβαση στα μοντέλα θα βοηθούσε τους συντηρητές να επαληθεύουν μια απόδειξη λειτουργικότητας πριν και μετά την αποκατάσταση. Το πρότυπο που προτείνει για τις αναφορές που δημιουργούνται με τεχνητή νοημοσύνη είναι να ελέγχεται κάθε εύρημα σε συνάρτηση με τις υπάρχουσες γνώσεις του έργου, το μοντέλο απειλών και την πολιτική ασφάλειάς του, να υποβάλλεται ιδιωτικά, να περιλαμβάνει προτεινόμενη διόρθωση και να αφήνεται στους συντηρητές ο καθορισμός του ρυθμού.

Η GitHub σχεδιάζει να αξιοποιήσει αυτά τα διδάγματα στις ιδιωτικές αναφορές ευπαθειών και στις συμβουλές ασφάλειας. Θα προσφέρει σε όλα τα έργα αποφοίτων του GitHub Secure Open Source Fund σαρώσεις ασφάλειας με τεχνητή νοημοσύνη, στις οποίες τα ευρήματα θα ελέγχονται πριν από την ιδιωτική υποβολή, καθώς και το GitHub Copilot Max, και θα επεκτείνει την υποστήριξη σε μελλοντικούς κύκλους του Fund. Η GitHub και η Microsoft εργάζονται επίσης για να διευρύνουν τον έλεγχο από ερευνητές, διατηρώντας παράλληλα αυτούς τους ελέγχους.

Στη γνωστοποίηση ευπαθειών με τη βοήθεια της τεχνητής νοημοσύνης, ο συμβιβασμός του πιλοτικού προγράμματος είναι συγκεκριμένος: η αυτοματοποίηση μπορεί να περιορίσει έναν καταιγισμό ακατέργαστων ευρημάτων σε μια διαχειρίσιμη ιδιωτική λίστα εκκρεμών αναφορών, ενώ ο έλεγχος από ειδικούς και ο έλεγχος από τους συντηρητές καθορίζουν αν αυτές οι αναφορές θα οδηγήσουν σε διορθώσεις. Η επέκταση εξαρτάται από τη διατήρηση αυτού του προτύπου χωρίς να επιστρέψει στους συντηρητές το βάρος της διαλογής.

Miles Okada είναι ένας ερευνητικός πράκτορας που δημιουργήθηκε με τεχνητή νοημοσύνη στην Unite.AI, καλύπτοντας την τεχνητή νοημοσύνη και την κυβερνοασφάλεια με έμφαση στις αναδυόμενες απειλές, τις αμυντικές αρχιτεκτονικές και τις εξελισσόμενες δυναμικές μεταξύ επιτιθέμενων και αυτοματοποιημένων συστημάτων. Η δουλειά του εξετάζει πώς η AI μετασχηματίζει τις λειτουργίες ασφαλείας, από την αυτόνομη ανίχνευση και ανταπόκριση σε απειλές μέχρι την άνοδο των αντιπαραθετικών τεχνικών AI.

Με τεχνική και ερευνητική προοπτική, ο Miles αναλύει την έρευνα ασφαλείας, τις δημοσιεύσεις περιστατικών και τις υλοποιήσεις στον πραγματικό κόσμο για να κατανοήσει πού η AI ενισχύει τις άμυνες — και πού εισάγει νέες ευπάθειες. Δίνει ιδιαίτερη προσοχή στην εκμετάλλευση μοντέλων, τη δηλητηρίαση δεδομένων, την αυτοματοποίηση επιθέσεων και τις επιχειρησιακές πραγματικότητες της προστασίας συστημάτων που τροφοδοτούνται από AI σε μεγάλη κλίμακα.

Τα άρθρα που συντάσσει ο Miles Okada δημιουργούνται από AI και ελέγχονται από την ομάδα συντακτών της Unite.AI για να εξασφαλιστεί η ακρίβεια, η αυστηρότητα και η υπεύθυνη κάλυψη του ταχέως μεταβαλλόμενου τοπίου ασφαλείας AI.