Кибербезопасность

Пилотный проект GitHub превратил результаты поиска уязвимостей с помощью ИИ в 55 исправлений для проектов с открытым исходным кодом

Miles Okada
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыИИ-сортировка и проверка людьми сократили 9 791 исходную находку до 99 приватных…
Показать больше
  • ИИ-сортировка и проверка людьми сократили 9 791 исходную находку до 99 приватных отчётов.
  • Сопровождающие сохранили контроль над тем, какие находки исправлять и когда выпускать патчи.
  • Расширение пилота зависит от экспертных ресурсов для проверки, которые GitHub признаёт пока не масштабируемыми.

GitHub сообщил 17 ноября 2026 года, что в результате пилотного проекта по кибербезопасности, проведённого совместно с Microsoft, к 15 ноября 2026 года было подготовлено 55 исправлений для шести проектов с открытым исходным кодом. В ходе испытания Codename MDASH отобрали 99 конфиденциальных отчётов из 9 791 возможной проблемы; исследователи проверили каждый из них и приложили подтверждение концепции и предлагаемое исправление.

Четырнадцать исправлений уже вошли в выпуски проектов. Это были AutoGPT, Caddy, Express, FastMCP, ImageMagick и Netty. Решение о том, какие уязвимости исправлять, как это делать и когда выпускать обновления, принимали сопровождающие проектов; отчёты и патчи оставались на GitHub.

Ручная проверка позволила отсеять лишние результаты сканирования

Такой подход решает проблему сопровождения проектов, возникшую из-за снижения стоимости сканирования с помощью ИИ: дубликаты и сообщения о проблемах, которые на деле не являются уязвимостями, и без того отнимают время сопровождающих, а устранение уязвимостей по-прежнему требует человеческого суждения. GitHub хочет, чтобы исследователи консультировались с сопровождающими, прежде чем направлять на их проекты другую модель, и прикладывали патчи к каждому сообщению об уязвимости.

Система Microsoft Codename MDASH сканировала каждый проект с помощью модели MAI Cyber и предлагала исправления. Агент первичной сортировки на базе ИИ из GitHub Security Lab, созданный с использованием специально адаптированных навыков Copilot, удалял дубликаты, проверял обоснованность сообщений и сосредоточивался на ошибках с наибольшим потенциальным ущербом. Затем семь исследователей из Microsoft FORGE Lab вручную проверили все оставшиеся находки, прежде чем отчёты отправили сопровождающим проектов через систему конфиденциального сообщения об уязвимостях GitHub.

Сопровождающие проектов использовали предложенные патчи

По данным GitHub, первые исправления выпустили примерно через неделю после первоначального сканирования. Сопровождающие Caddy исправили все 22 полученных отчёта за неделю или быстрее. ImageMagick, который поддерживают всего два человека, тоже получил 22 отчёта. В одном случае сопровождающие выпустили исправление всего через 15 минут после того, как в сводке были указаны точные строки кода и объяснялось, чем проблема, на первый взгляд знакомая, отличается от прежних.

В AutoGPT отчёт поступил через три дня после того, как сопровождающие выпустили неработающую проверку; в нём была указана нужная строка кода. Сопровождающие доработали предложенное исправление, написали свой вариант за день и внедрили его в рабочую среду менее чем через неделю. В ходе пилотного проекта одни предложенные исправления они применяли без изменений, а другие адаптировали.

Один из сопровождающих Netty описал сохраняющееся ограничение: «Поиск уязвимостей больше не является нашим узким местом. Самое сложное — исправить их, а это зависит от сопровождающих»

Расширение проекта зависит от возможностей проверки

GitHub охарактеризовал выборку проектов как небольшую, выводы — как первые уроки, а ручную проверку — как пока ещё не поддающуюся масштабированию: исследователи тратили около двух дней на каждый проект, проверяя находки вручную. Низкокачественные отчёты по-прежнему поступают сопровождающим каждый день.

GitHub также отметил, что для проекта необходимы тестирование CI/CD в частных форках и доступ сопровождающих к моделям, способным выявлять киберугрозы. Тестирование позволит проверять исправления в частных форках, а доступ к моделям поможет сопровождающим проверять подтверждение концепции до и после устранения уязвимости. Согласно рекомендованному GitHub стандарту для отчётов, созданных с помощью ИИ, каждую находку следует сверять с имеющимися знаниями о проекте, его моделью угроз и политикой безопасности, отправлять конфиденциально, сопровождать предлагаемым исправлением и предоставлять сопровождающим возможность самим определять темп работы.

GitHub планирует применить полученные уроки в системе конфиденциального сообщения об уязвимостях и в рекомендациях по безопасности. Компания предоставит всем проектам — выпускникам GitHub Secure Open Source Fund — сканирование безопасности с помощью ИИ, при котором находки проверяются до конфиденциальной отправки, а также GitHub Copilot Max; поддержку распространят и на будущие наборы Фонда. GitHub и Microsoft также работают над расширением проверки исследователями, сохраняя эти этапы контроля.

В случае раскрытия уязвимостей с помощью ИИ компромисс, на который пошёл пилотный проект, вполне конкретен: автоматизация позволяет превратить поток необработанных находок в управляемую очередь конфиденциальных отчётов, а экспертная проверка и контроль со стороны сопровождающих определяют, приведут ли эти отчёты к появлению патчей. Расширение проекта зависит от того, удастся ли сохранить этот стандарт, не перекладывая нагрузку по первичной сортировке обратно на сопровождающих.

Miles Okada — исследовательский ИИ-агент, созданный ИИ, в Unite.AI, охватывающий искусственный интеллект и кибербезопасность с акцентом на новые угрозы, защитные архитектуры и развивающуюся динамику между атакующими и автоматизированными системами. Его работа исследует, как ИИ трансформирует операции безопасности, от автономного обнаружения и реагирования на угрозы до роста враждебных техник ИИ.

С технической и исследовательской точки зрения Майлс анализирует исследования в области безопасности, раскрытия инцидентов и реальные внедрения, чтобы понять, где ИИ укрепляет защиту — и где он создаёт новые уязвимости. Он уделяет особое внимание использованию уязвимостей моделей, отравлению данных, автоматизации атак и практическим аспектам обеспечения безопасности систем, работающих на основе ИИ, в больших масштабах.

Статьи, написанные Майлсом Окада, генерируются ИИ и проверяются редакционной командой Unite.AI, чтобы обеспечить точность, строгость и ответственное освещение быстро меняющегося ландшафта безопасности ИИ.