An ninh mạng

Thí điểm của GitHub biến các phát hiện bảo mật bằng AI thành 55 bản sửa lỗi cho phần mềm mã nguồn mở

Miles Okada
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhPhân loại bằng AI và đánh giá của con người đã giảm 9.791 phát hiện thô xuống còn 99…
Xem thêm
  • Phân loại bằng AI và đánh giá của con người đã giảm 9.791 phát hiện thô xuống còn 99 báo cáo riêng tư.
  • Những người duy trì giữ quyền kiểm soát việc sửa những phát hiện nào và khi nào phát hành bản vá.
  • Việc mở rộng chương trình thí điểm phụ thuộc vào năng lực đánh giá của chuyên gia mà GitHub thừa nhận vẫn chưa thể mở rộng quy mô.

GitHub cho biết vào ngày 17 tháng 11 năm 2026 rằng chương trình thí điểm bảo mật phối hợp với Microsoft đã tạo ra 55 bản sửa lỗi cho sáu dự án mã nguồn mở tính đến ngày 15 tháng 11 năm 2026. Thử nghiệm Codename MDASH đã sàng lọc 9.791 vấn đề tiềm ẩn thành 99 báo cáo riêng tư, mỗi báo cáo đều được các nhà nghiên cứu kiểm tra và kèm theo bằng chứng khái niệm cùng bản sửa lỗi được đề xuất.

Mười bốn bản sửa lỗi đã được đưa vào các bản phát hành. Các dự án gồm AutoGPT, Caddy, Express, FastMCP, ImageMagick và Netty. Người bảo trì quyết định sẽ sửa những phát hiện nào, sửa ra sao và khi nào phát hành; các báo cáo và bản vá vẫn được lưu trên GitHub.

Rà soát thủ công thu hẹp kết quả quét

Cách thiết kế này giải quyết vấn đề bảo trì nảy sinh khi chi phí quét bằng AI giảm xuống: các phát hiện trùng lặp và báo cáo về những vấn đề không thực sự là lỗ hổng vốn đã làm mất thời gian của người bảo trì, trong khi việc khắc phục vẫn cần đến sự đánh giá của con người. GitHub muốn các nhà nghiên cứu trao đổi với người bảo trì trước khi hướng một mô hình khác vào dự án của họ, đồng thời gửi kèm bản vá cho mọi phát hiện.

Hệ thống Codename MDASH của Microsoft quét từng dự án bằng mô hình MAI Cyber và đề xuất cách khắc phục. Một tác nhân phân loại của GitHub Security Lab, sử dụng các kỹ năng Copilot được tùy chỉnh, đã loại bỏ các phát hiện trùng lặp, kiểm tra tính xác thực và tập trung vào những lỗi có tác động lớn. Sau đó, bảy nhà nghiên cứu của Microsoft FORGE Lab tự kiểm tra thủ công mọi phát hiện còn lại trước khi các báo cáo được gửi cho người bảo trì thông qua quy trình báo cáo lỗ hổng bảo mật riêng tư của GitHub.

Người bảo trì đã sử dụng các bản vá được đề xuất

Theo GitHub, các bản sửa lỗi đầu tiên được phát hành khoảng một tuần sau đợt quét ban đầu. Người bảo trì Caddy đã khắc phục cả 22 báo cáo họ nhận được trong vòng một tuần hoặc ít hơn. ImageMagick, do hai người bảo trì, cũng nhận được 22 báo cáo; trong một trường hợp, người bảo trì đã đưa ra bản sửa lỗi chỉ sau 15 phút, khi bản tóm tắt xác định chính xác các dòng mã liên quan và chỉ ra rằng vấn đề tưởng như quen thuộc thực ra lại khác.

Tại AutoGPT, một báo cáo được gửi đến ba ngày sau khi người bảo trì phát hành một bước kiểm tra bị lỗi; báo cáo chỉ đúng dòng cần xem. Họ đã mở rộng phạm vi khắc phục hơn cả bản vá được đề xuất, viết bản sửa lỗi trong vòng một ngày và đưa vào môi trường vận hành chưa đầy một tuần sau đó. Trong suốt chương trình thí điểm, người bảo trì áp dụng nguyên trạng một số bản sửa lỗi được đề xuất và điều chỉnh những bản khác.

Một người bảo trì Netty mô tả trở ngại còn lại: “Tìm ra lỗ hổng không còn là điểm nghẽn của chúng tôi. Khắc phục chúng mới là phần khó, và điều đó phụ thuộc vào người bảo trì.”

Mở rộng quy mô phụ thuộc vào năng lực rà soát

GitHub mô tả mẫu dự án là nhỏ, các kết luận mới chỉ là bài học ban đầu và quy trình rà soát thủ công hiện chưa thể mở rộng quy mô; các nhà nghiên cứu dành khoảng hai ngày cho mỗi dự án để kiểm tra thủ công các phát hiện. Những báo cáo chất lượng thấp vẫn được gửi đến người bảo trì hằng ngày.

GitHub cũng xác định việc kiểm thử CI/CD trên các nhánh rẽ riêng tư và quyền truy cập của người bảo trì vào các mô hình có năng lực về an ninh mạng là những nhu cầu chưa được đáp ứng. Các bài kiểm thử sẽ xác minh bản sửa lỗi trên những nhánh rẽ riêng tư, còn quyền truy cập mô hình sẽ giúp người bảo trì xác minh bằng chứng khái niệm trước và sau khi khắc phục. Tiêu chuẩn GitHub khuyến nghị đối với các báo cáo do AI tạo là đối chiếu từng phát hiện với kiến thức hiện có của dự án, mô hình đe dọa và chính sách bảo mật; gửi báo cáo riêng tư, kèm bản sửa lỗi được đề xuất và để người bảo trì quyết định tiến độ.

GitHub dự định áp dụng những bài học này vào quy trình báo cáo lỗ hổng bảo mật riêng tư và các khuyến cáo bảo mật. GitHub sẽ cung cấp dịch vụ quét bảo mật bằng AI, trong đó các phát hiện được kiểm tra trước khi báo cáo riêng tư, cùng với GitHub Copilot Max, cho tất cả dự án cựu thành viên của GitHub Secure Open Source Fund và mở rộng hỗ trợ này cho các đợt tiếp theo của Fund. GitHub và Microsoft cũng đang phối hợp mở rộng hoạt động rà soát của các nhà nghiên cứu, đồng thời duy trì những bước kiểm tra đó.

Đối với việc công bố lỗ hổng có hỗ trợ AI, sự đánh đổi trong chương trình thí điểm rất rõ ràng: tự động hóa có thể chuyển một lượng lớn phát hiện thô thành hàng đợi báo cáo riêng tư có thể xử lý được, trong khi khâu rà soát của chuyên gia và quyền kiểm soát của người bảo trì quyết định liệu các báo cáo đó có dẫn đến bản vá hay không. Việc mở rộng phụ thuộc vào khả năng duy trì tiêu chuẩn này mà không đẩy gánh nặng phân loại trở lại cho người bảo trì.

Miles Okada là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, chuyên đưa tin về trí tuệ nhân tạo và an ninh mạng với trọng tâm là các mối đe dọa mới nổi, kiến trúc phòng thủ và động lực ngày càng thay đổi giữa kẻ tấn công và các hệ thống tự động. Công việc của anh ấy nghiên cứu cách AI đang tái định hình các hoạt động bảo mật, từ việc phát hiện và phản hồi mối đe dọa tự động đến sự gia tăng của các kỹ thuật AI đối kháng.

Với góc nhìn kỹ thuật và điều tra, Miles phân tích nghiên cứu bảo mật, công bố sự cố và các triển khai thực tế để hiểu AI củng cố phòng thủ ở đâu — và ở đâu nó tạo ra các lỗ hổng mới. Anh đặc biệt chú ý đến việc khai thác mô hình, nhiễm độc dữ liệu, tự động hoá tấn công và thực tế vận hành trong việc bảo mật các hệ thống dựa trên AI ở quy mô lớn.

Các bài viết do Miles Okada viết là do AI tạo ra và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo độ chính xác, tính nghiêm ngặt và việc đưa tin có trách nhiệm về bối cảnh an ninh AI đang thay đổi nhanh chóng.