Nền tảng AI
Federated Learning là gì?
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Federated learning đào tạo một mô hình chung trên nhiều thiết bị hoặc tổ chức đồng thời giữ dữ liệu huấn luyện thô của mỗi người tham gia ở cục bộ. Một điều phối viên phân phối các tham số mô hình, các khách hàng tính toán cập nhật trên dữ liệu của mình, và một bước tổng hợp kết hợp các cập nhật đó.
Việc giữ dữ liệu cục bộ là hữu ích, nhưng không đồng nghĩa với tính riêng tư hay bảo mật. Các cập nhật mô hình có thể rò rỉ thông tin, các khách hàng bị xâm phạm có thể làm nhiễm độc quá trình huấn luyện, và điều phối viên vẫn cần xác thực, bảo mật truyền tải, kiểm soát truy cập và một mô hình tin cậy được định nghĩa.
Những điểm chính
- Federated learning chuyển tính toán tới dữ liệu phân tán; nó không chuyển tập dữ liệu thô tới một máy huấn luyện trung tâm.
- Hệ thống cross-device bao gồm nhiều thiết bị không thường xuyên, trong khi hệ thống cross-silo bao gồm ít tổ chức hơn, ổn định hơn.
- Tổng hợp bảo mật và riêng tư khác biệt giải quyết các rủi ro khác nhau và có thể được kết hợp.
- Dữ liệu không IID, băng thông hạn chế, tham gia không ổn định và các cập nhật độc hại là các ràng buộc thiết kế cốt lõi.
Chu kỳ trung bình liên kết (federated averaging)
Một vòng điển hình bắt đầu khi điều phối viên chọn các khách hàng đủ tiêu chuẩn và gửi mô hình hiện tại. Mỗi khách hàng huấn luyện cục bộ trong một số bước giới hạn, tạo ra một cập nhật tham số hoặc gradient. Điều phối viên tổng hợp các cập nhật đủ tiêu chuẩn — thường với trọng số dựa trên số lượng mẫu cục bộ — và công bố mô hình chung mới.
Chỉ một phần nhỏ các khách hàng có thể tham gia mỗi vòng. Giao thức phải chịu được các kết nối bị mất, sự không khớp phiên bản và các thiết bị không thể huấn luyện khi đang sạc, bận hoặc ngoại tuyến. Giao tiếp có thể chiếm ưu thế so với tính toán, vì vậy việc nén cập nhật và giảm số vòng giao tiếp thường quan trọng hơn tốc độ bộ tăng tốc thô.
Cross-device so với cross-silo
Federated learning dạng cross-device có thể bao gồm điện thoại, cảm biến hoặc trình duyệt thuộc sở hữu của nhiều cá nhân. Các khách hàng rất nhiều, được tin cậy yếu và chỉ có sẵn không thường xuyên. Federated learning dạng cross-silo thường kết nối một tập hợp nhỏ hơn các bệnh viện, ngân hàng hoặc đơn vị kinh doanh với hạ tầng ổn định và quản trị hợp đồng.
Hai môi trường này yêu cầu các giả định khác nhau về danh tính, kiểm toán và lỗi. Dự án cross-silo có thể thương thảo một lược đồ và quy trình xác thực chung; dịch vụ cross-device có thể phải xử lý hàng triệu phiên bản phần mềm và các tập dữ liệu cục bộ không đồng đều.
Tổng hợp bảo mật, riêng tư khác biệt và mã hoá
Tổng hợp bảo mật là một giao thức mật mã cho phép máy chủ khôi phục tổng hợp mà không đọc từng cập nhật của khách hàng. Riêng tư khác biệt giới hạn mức độ kết quả được công bố có thể phụ thuộc vào bất kỳ một bản ghi hoặc người tham gia nào bằng cách cắt bỏ đóng góp và thêm nhiễu được hiệu chỉnh.
Không cơ chế nào giải quyết mọi rủi ro. Tổng hợp bảo mật không làm cho tổng hợp trở nên vô hại, và riêng tư khác biệt tạo ra một sự đánh đổi giữa độ chính xác và tính riêng tư, cần được tính đến bằng một ngân sách riêng tư rõ ràng. Mã hoá bảo vệ dữ liệu trong quá trình truyền hoặc lưu trữ; nó không tự mình ngăn chặn việc suy luận từ một mô hình.
Dữ liệu không IID và chất lượng mô hình
Dữ liệu của khách hàng hiếm khi độc lập và phân phối đồng nhất. Mô hình bàn phím nhìn thấy từ vựng của từng người; các bệnh viện phục vụ các quần thể khác nhau; các nhà máy sử dụng thiết bị khác nhau. Những khác biệt này có thể làm chậm quá trình hội tụ và che giấu hiệu suất kém đối với các nhóm khách hàng nhỏ.
Việc đánh giá nên bao gồm các chỉ số toàn cục, phân phối theo khách hàng hoặc nhóm, hiệu chỉnh và phân tích lỗi. Bộ dữ liệu kiểm tra trung tâm có thể tiện lợi nhưng không đủ. Điều này liên kết federated learning với học máy và dữ liệu có cấu trúc và không có cấu trúc governance.
Các mối đe dọa và biện pháp kiểm soát vận hành
Các khách hàng độc hại có thể gửi các cập nhật có nhiễm độc, các khách hàng sybil có thể làm sai lệch tổng hợp, và một máy chủ bị xâm phạm có thể phân phối một mô hình có mục tiêu. Các biện pháp phòng thủ bao gồm đăng ký xác thực, phát hiện bất thường, tổng hợp mạnh mẽ, xác thực cập nhật, giới hạn tần suất và xác nhận phần mềm có thể tái tạo khi thực tế.
Federated learning nằm trong một chương trình an ninh mạng rộng hơn. Các nhóm nên tài liệu hoá ai kiểm soát điều phối viên, siêu dữ liệu nào được thu thập, cách người tham gia có thể rời bỏ, cách mô hình được hoàn lại và điều gì xảy ra khi các kiểm tra về riêng tư hoặc chất lượng thất bại.
Tối ưu hoá liên kết và tính không đồng nhất của dữ liệu
Federated learning gửi một mô hình hoặc nhiệm vụ cập nhật tới các khách hàng tham gia, huấn luyện cục bộ và tổng hợp các cập nhật mà không tập trung các mẫu thô. Trong federated averaging, các khách hàng được chọn thực hiện một số bước tối ưu hoá cục bộ và máy chủ tính trung bình có trọng số, thường dựa trên số lượng mẫu. Các vòng giao tiếp, epoch cục bộ, lựa chọn và tốc độ học đổi chác băng thông với tốc độ hội tụ. Môi trường cross-device bao gồm nhiều điện thoại hoặc cảm biến không đáng tin cậy; môi trường cross-silo bao gồm ít tổ chức hơn với khả năng tính toán, danh tính và quản trị mạnh mẽ hơn.
Dữ liệu khách hàng thường không độc lập và không đồng đều: người dùng khác nhau về hành vi, phân bố nhãn, khối lượng và khả năng sẵn sàng. Việc huấn luyện cục bộ có thể lệch hướng không tương thích, khiến trung bình đơn giản trở nên không ổn định hoặc thiên về các khách hàng có khối lượng cao và hoạt động tích cực. Các thuật toán có thể sử dụng các thuật ngữ gần biên, tối ưu hoá máy chủ thích ứng, phân cụm, cá nhân hoá, hoặc biến kiểm soát. Việc đánh giá nên báo cáo hiệu suất toàn cục và ở mức khách hàng, các khách hàng biên, tần suất tham gia, hội tụ, giao tiếp và năng lượng. Một trung bình tốt có thể che giấu việc các nhóm khách hàng nhỏ hoặc hiếm nhận được mô hình kém hơn.
Riêng tư, bảo mật và kỹ thuật hệ thống
Giữ dữ liệu cục bộ không tự động đảm bảo tính riêng tư. Gradient và các cập nhật có thể rò rỉ thông tin thành viên hoặc đặc trưng, trong khi mô hình cuối cùng có thể ghi nhớ các mẫu. Tổng hợp bảo mật ẩn các cập nhật cá nhân khỏi máy chủ, và riêng tư khác biệt giới hạn đóng góp thông tin bằng cách cắt và thêm nhiễu, nhưng cả hai đều làm giảm tính hữu dụng và tăng độ phức tạp vận hành. Nêu rõ mô hình đe dọa, đơn vị riêng tư, ngân sách và các thành phần đáng tin cậy. Mã hoá trong truyền dẫn là cần thiết nhưng không ngăn chặn một khách hàng độc hại, cập nhật nhiễm độc, điều phối viên bị xâm phạm, hoặc tấn công suy luận.
Các biện pháp phòng thủ bao gồm khách hàng xác thực, tổng hợp mạnh mẽ, kiểm tra bất thường, giới hạn cập nhật, môi trường bảo mật trong một số thiết kế, và xác thực đối chiếu dữ liệu sạch. Kẻ tấn công sybil có thể tạo ra nhiều khách hàng; các lỗ hổng có thể tồn tại sau khi trung bình; việc loại bỏ các cập nhật đáng ngờ cũng có thể loại trừ hành vi hiếm hợp pháp. Phiên bản mã khách hàng, hỗ trợ các vòng bị ngắt, ngăn chặn phát lại, và thiết kế cho các khách hàng chậm và hạn chế thiết bị. Sự đồng ý, lưu trữ, quy tắc khu vực và xóa vẫn áp dụng cho dữ liệu cục bộ và các cập nhật được sinh ra.
Ví dụ triển khai và quản trị
Bàn phím di động có thể huấn luyện các cải thiện từ tiếp theo cục bộ, nhưng việc triển khai nên sử dụng một nhóm người dùng đủ tiêu chuẩn về khả năng thiết bị và sự đồng ý, thu thập các cập nhật được bảo vệ và cắt bớt, và so sánh với một chuẩn cố định. Xác thực hiệu suất ngôn ngữ và phương ngữ, pin, việc sử dụng dữ liệu và rủi ro ghi nhớ trước khi phát hành. Các khách hàng cần các nhiệm vụ huấn luyện và cập nhật mô hình có chữ ký; máy chủ cần cấu hình vòng có thể kiểm toán và khả năng hoàn lại. Federated learning là một kiến trúc cho học phân tán dưới các hạn chế, không phải là sự thay thế cho dữ liệu đại diện, kỹ thuật riêng tư, hoặc trách nhiệm.
Ví dụ thực tế: federated learning trên các bệnh viện
Các bệnh viện huấn luyện một mô hình chất lượng hình ảnh chung mà không gộp các ảnh quét. Một giao thức chung xác định siêu dữ liệu thiết bị, nhãn, tiền xử lý, tiêu chuẩn đủ điều kiện khách hàng, epoch cục bộ, cắt bớt và tổng hợp bảo mật. Các cơ sở giữ dữ liệu bệnh nhân và gửi các cập nhật được bảo vệ, trong khi một điều phối viên đánh giá mỗi vòng trên các tập dữ liệu giữ lại cục bộ. Kết quả báo cáo hiệu suất ở mức cơ sở và các trường hợp biên, không chỉ trung bình có trọng số theo khối lượng, vì các bệnh viện và loại thiết bị nhỏ có thể bị bỏ qua.
Mô hình đe dọa bao gồm các cập nhật độc hại, rò rỉ thành viên, khách hàng bị xâm phạm và quyền truy cập của điều phối viên. Riêng tư khác biệt được cấu hình với một ngân sách được ghi chép và kiểm tra tính hữu dụng. Các gói mô hình và nhiệm vụ được ký; các cơ sở có thể rút lui và các cập nhật có thể kiểm toán. Một vòng bị nhiễm độc hoặc không ổn định không tự động thay thế mô hình đã triển khai. Dự án giữ các chuẩn cơ sở cục bộ và đánh giá lâm sàng, và coi kiến trúc federated như một biện pháp kiểm soát riêng tư trong khuôn khổ đồng ý, bảo mật và quản trị rộng hơn.
Bằng chứng triển khai và sẵn sàng vận hành
Một quyết định sản xuất cần hơn một buổi trình diễn thành công. Xác định người dùng mục tiêu, môi trường vận hành, đầu vào, đầu ra, các phụ thuộc, người sở hữu và hậu quả của mỗi lỗi quan trọng. Thiết lập một chuẩn cơ sở có thể tái tạo và một tập dữ liệu đánh giá có phiên bản trước khi tinh chỉnh. Kiểm tra các trường hợp thông thường, các điều kiện biên, đầu vào sai định dạng hoặc thiếu, sự dịch chuyển phân phối, sự cố phụ thuộc, lạm dụng, và các nhóm hoặc môi trường có khả năng bị thiếu hỗ trợ. Đo lường chất lượng nhiệm vụ cùng với hiệu chỉnh hoặc độ không chắc, độ trễ, thông lượng, chi phí tài nguyên, khả năng tiếp cận, riêng tư và bảo mật. Ghi lại mọi biến đổi và ngưỡng để một người đánh giá độc lập có thể tái tạo kết quả và phân biệt bằng chứng với một nguyên mẫu hấp dẫn.
Trước khi ra mắt, chỉ định quyền trách nhiệm cho việc phát hành, ngoại lệ, thay đổi, hoàn lại và ngừng sử dụng. Sử dụng một triển khai theo giai đoạn, duy trì một dự phòng an toàn, và xác minh giám sát bằng các lỗi được chèn có mục đích. Dữ liệu đo lường vận hành nên tiết lộ chất lượng đầu vào, hành vi đầu ra, phiên bản mô hình hoặc quy tắc, tình trạng phụ thuộc, can thiệp của con người và kết quả đã xác nhận mà không thu thập dữ liệu nhạy cảm không cần thiết. Định nghĩa ngưỡng cảnh báo và người chịu trách nhiệm phản hồi, sau đó xem xét bằng chứng thực tế sau khi triển khai thay vì giả định hiệu năng ngoại tuyến sẽ duy trì. Đánh giá lại mỗi khi nguồn dữ liệu, người dùng, mô hình, nhà cung cấp, chính sách, phần cứng, hoặc mục tiêu thay đổi. Một hệ thống được duy trì cũng cần tài liệu về khôi phục, học hỏi từ sự cố, các thủ tục xóa và lưu trữ, và một điểm rõ ràng khi nên vô hiệu hoá hoặc thay thế.
Câu hỏi thường gặp
Federated learning có đảm bảo dữ liệu riêng tư không bị rò rỉ không?
Không. Nó giảm việc di chuyển dữ liệu thô, nhưng các cập nhật và mô hình cuối cùng vẫn có thể tiết lộ thông tin. Bảo mật đòi hỏi một mô hình đe dọa và các biện pháp kiểm soát kỹ thuật và tổ chức bổ sung.
Khi nào việc đào tạo tập trung đơn giản hơn?
Khi dữ liệu có thể được tập trung một cách hợp pháp và an toàn, việc đào tạo tập trung thường dễ dàng hơn trong việc gỡ lỗi, tái tạo và giám sát. Federated learning chỉ được biện minh khi việc phân phối là một yêu cầu thực tế, không chỉ là mục tiêu thương hiệu.
Tài liệu tham khảo chính
