Federated Learning Nedir?

Federated learning birden fazla cihaz veya kuruluş arasında paylaşılan bir modeli, her katılımcının ham eğitim verisini yerel tutarak eğitir. Bir koordinatör model parametrelerini dağıtır, istemciler kendi kayıtları üzerinde güncellemeler hesaplar ve bir toplama adımı bu güncellemeleri birleştirir.

Kayıtları yerel tutmak faydalı olsa da, gizlilik ya da güvenlik anlamına gelmez. Model güncellemeleri bilgi sızdırabilir, ele geçirilmiş istemciler eğitimi zehirleyebilir ve koordinatör hâlâ kimlik doğrulama, taşıma güvenliği, erişim kontrolleri ve tanımlı bir güven modeli gerektirir.

Temel Çıkarımlar

• Federated learning, hesaplamayı dağıtılmış verilere taşır; ham veri kümesini tek bir merkezi eğiticinin yanına taşımaz.
• Cross-device sistemler birçok geçici cihaza, cross-silo sistemler ise daha az sayıda, daha istikrarlı kuruluşa sahiptir.
• Güvenli toplama ve diferansiyel gizlilik farklı riskleri ele alır ve birleştirilebilir.
• Non-IID veriler, sınırlı bant genişliği, güvenilir olmayan katılım ve kötü niyetli güncellemeler temel tasarım kısıtlamalarıdır.

Federated Ortalama Yaşam Döngüsü

Tipik bir tur, bir koordinatörün uygun istemcileri seçip mevcut modeli gönderdiği zaman başlar. Her istemci sınırlı sayıda adımda yerel olarak eğitilir ve bir parametre ya da gradient güncellemesi üretir. Koordinatör, genellikle yerel örnek sayılarına dayalı ağırlıklarla, uygun güncellemeleri birleştirir ve yeni paylaşılan modeli yayınlar.

Her turda yalnızca bir kesim istemci katılabilir. Protokol, kopan bağlantıları, sürüm uyumsuzluklarını ve şarj olurken, meşgulken ya da çevrim dışıyken eğitime devam edemeyen cihazları tolere etmelidir. İletişim, hesaplamayı gölgede bırakabilir; bu yüzden güncelleme sıkıştırması ve daha az tur sayısı, ham hızlandırıcı performansından daha önemli olabilir.

Cross-device versus cross-silo

Cross-device federated learning, birçok bireyin sahip olduğu telefonlar, sensörler veya tarayıcıları içerebilir. İstemciler çok sayıda, düşük güvenilirliğe sahip ve ara sıra kullanılabilir durumdadır. Cross-silo federated learning ise genellikle istikrarlı altyapı ve sözleşmeli yönetişime sahip daha az sayıda hastane, banka veya iş birimini bağlar.

Bu iki ortam, farklı kimlik, denetim ve hata varsayımları gerektirir. Cross-silo projesi ortak bir şema ve doğrulama süreci müzakere edebilir; cross-device hizmeti ise milyonlarca yazılım sürümü ve oldukça dengesiz yerel veri kümeleriyle başa çıkmak zorunda kalabilir.

Secure aggregation, differential privacy and encryption

Güvenli toplama, sunucunun her istemcinin güncellemesini okumadan bir toplama elde etmesini sağlayan kriptografik bir protokoldür. Diferansiyel gizlilik, katkıları kırparak ve kalibre edilmiş gürültü ekleyerek, yayınlanan sonucun tek bir kayıt ya da katılımcıya ne kadar bağımlı olabileceğini sınırlar.

Hiçbir mekanizma tüm riskleri ortadan kaldırmaz. Güvenli toplama, toplamanın zararsız olmasını sağlamaz; diferansiyel gizlilik ise doğruluk‑gizlilik dengesini getirir ve açık bir gizlilik bütçesiyle hesaba katılmalıdır. Şifreleme, veriyi aktarımda ya da depolamada korur; tek başına bir modelden çıkarım yapılmasını engellemez.

Non-IID data and model quality

İstemci verileri nadiren bağımsız ve aynı dağılıma sahiptir. Bir klavye modeli her kişinin kelime hazinesini görür; hastaneler farklı nüfuslara hizmet eder; fabrikalar farklı ekipman kullanır. Bu farklar yakınsama hızını yavaşlatabilir ve küçük istemci grupları için kötü performansı gizleyebilir.

Değerlendirme, küresel metrikler, istemci ya da kohort dağılımları, kalibrasyon ve hata analizini içermelidir. Merkezi bir test seti uygun olabilir ancak yeterli değildir. Bu, federated learning’i makine öğrenimi veri kalitesi ve yapılandırılmış ve yapılandırılmamış veri yönetişimiyle bağlar.

Threats and operational controls

Kötü niyetli istemciler zehirli güncellemeler gönderebilir, sybil istemciler toplama sürecini çarpıtabilir ve ele geçirilmiş bir sunucu hedefli bir model dağıtabilir. Savunmalar arasında kimlik doğrulamalı kayıt, anormallik tespiti, sağlam toplama, güncelleme doğrulama, oran sınırlamaları ve mümkün olduğunda tekrarlanabilir yazılım teyidi bulunur.

Federated learning, daha geniş bir siber güvenlik programının içinde yer alır. Ekipler, koordinatörü kim kontrol eder, hangi meta veriler toplanır, katılımcıların nasıl ayrılabileceği, modellerin nasıl geri alınacağı ve gizlilik ya da kalite testleri başarısız olduğunda ne olacağını belgelemelidir.

Federated optimization and data heterogeneity

Federated learning, katılan istemcilere bir model ya da güncelleme görevi gönderir, yerel olarak eğitir ve ham örnekleri merkezileştirmeden güncellemeleri birleştirir. Federated averaging’de, seçilen istemciler birkaç yerel optimizasyon adımı çalıştırır ve sunucu, genellikle örnek sayısına göre ağırlıklı ortalama hesaplar. İletişim turları, yerel epoch’lar, seçim ve öğrenme oranları, bant genişliği ile yakınsama arasında bir takas oluşturur. Cross-device ortamlar birçok güvenilmez telefon veya sensör içerirken; cross-silo ortamlar daha güçlü hesaplama, kimlik ve yönetişime sahip daha az kuruluş içerir.

İstemci verileri genellikle bağımsız olmayan ve dengesizdir: kullanıcılar davranış, etiket dağılımı, hacim ve kullanılabilirlik açısından farklılık gösterir. Yerel eğitim, uyumsuz yönlere kayabilir ve basit bir ortalama, aktif yüksek hacimli istemcilere karşı istikrarsız ya da yanlı olabilir. Algoritmalar, yakınsak terimler, uyarlanabilir sunucu optimizasyonu, kümeleme, kişiselleştirme veya kontrol varyantları kullanabilir. Değerlendirme, küresel ve istemci‑seviyesindeki performans, kuyruk istemcileri, katılım sıklığı, yakınsama, iletişim ve enerji tüketimini raporlamalıdır. İyi bir ortalama, küçük ya da nadir istemci popülasyonlarının daha kötü bir model aldığını gizleyebilir.

Privacy, security, and systems engineering

Veriyi yerel tutmak tek başına gizliliği garanti etmez. Gradientler ve güncellemeler üyelik ya da özellik sızıntısı yapabilir, final model ise örnekleri hafızada tutabilir. Güvenli toplama, bireysel güncellemeleri sunucudan gizler ve diferansiyel gizlilik, katkıyı kırparak ve gürültü ekleyerek bilgi katkısını sınırlar; ancak her ikisi de faydayı ve operasyonel karmaşıklığı değiştirir. Tehdit modelini, gizlilik birimini, bütçesini ve güvenilir bileşenleri belirtin. Taşıma sırasında şifreleme gereklidir ancak kötü niyetli bir istemci, zehirli güncelleme, ele geçirilmiş koordinatör ya da çıkarım saldırısını engellemez.

Savunmalar arasında kimliği doğrulanmış istemciler, sağlam toplama, anormallik kontrolleri, güncelleme limitleri, bazı tasarımlarda güvenli enclave’ler ve temiz veri karşı doğrulama bulunur. Sybil saldırganları çok sayıda istemci oluşturabilir; arka kapılar ortalamadan sonra hayatta kalabilir; şüpheli güncellemeleri düşürmek aynı zamanda nadir fakat meşru davranışları da dışlayabilir. İstemci kodunu sürümleyin, kesintili turları destekleyin, yeniden oynatmayı önleyin ve gecikme yapan ve cihaz kısıtlamaları için tasarlayın. Onay, saklama, bölgesel kurallar ve silme, yerel veriler ve türetilen güncellemeler için hâlâ geçerlidir.

Deployment and governance example

Mobil bir klavye, sonraki kelime iyileştirmelerini yerel olarak eğitebilir, ancak dağıtım, cihaz yeteneği ve onayına göre uygun bir nüfusu kullanmalı, kırpılmış korumalı güncellemeler toplamalı ve dondurulmuş bir temel ile karşılaştırmalıdır. Dil ve lehçe performansı, pil tüketimi, veri kullanımı ve hafıza riskini sürümden önce doğrulayın. İstemciler imzalı eğitim görevleri ve model güncellemeleri almalı; sunucu denetlenebilir tur yapılandırması ve geri alma mekanizması gerektirir. Federated learning, temsili veri, gizlilik mühendisliği veya sorumluluk için bir alternatif değil, kısıtlamalar altında dağıtılmış öğrenme için bir mimaridir.

Worked example: federated learning across hospitals

Hastaneler, taramaları birleştirmeden ortak bir görüntü kalitesi modeli eğitir. Ortak bir protokol, cihaz meta verilerini, etiketleri, ön işleme, istemci uygunluğunu, yerel epoch’ları, kırpma ve güvenli toplama adımlarını tanımlar. Siteler hasta verilerini tutar ve korumalı güncellemeler gönderir, koordinatör ise her turu yerel tutulan test setleriyle değerlendirir. Sonuçlar, sadece hacim‑ağırlıklı ortalama yerine site‑seviyesindeki ve kuyruk performansını raporlar; aksi takdirde küçük hastaneler ve cihaz tipleri göz ardı edilebilir.

Tehdit modeli, kötü niyetli güncellemeler, üyelik sızıntısı, ele geçirilmiş istemciler ve koordinatör erişimini kapsar. Diferansiyel gizlilik, belgelenmiş bir bütçe ile yapılandırılır ve fayda test edilir. Model ve görev paketleri imzalanır; siteler çekilme hakkına sahiptir ve güncellemeler denetlenebilir. Zehirli ya da istikrarsız bir tur, dağıtılan modeli otomatik olarak değiştirmez. Proje, yerel temel modelleri ve klinik incelemeyi korur ve federated mimarisini daha geniş onay, güvenlik ve yönetişim yükümlülükleri içinde bir gizlilik kontrolü olarak ele alır.

Implementation evidence and operational readiness

Üretim kararı, başarılı bir gösterimden daha fazlasını gerektirir. Hedef kullanıcılar, çalışma ortamı, girişler, çıkışlar, bağımlılıklar, sorumlu kişi ve her önemli hatanın sonucunu tanımlayın. Ayarlanabilir bir temel ve sürümlenmiş bir değerlendirme seti oluşturun, ardından ayarlama yapın. Normal durumları, sınır koşullarını, hatalı ya da eksik girişleri, dağılım kaymasını, bağımlılık kesintisini, kötüye kullanımı ve en çok hizmet dışı kalabilecek grup ya da ortamları test edin. Görev kalitesini kalibrasyon veya belirsizlik, gecikme, verim, kaynak maliyeti, erişilebilirlik, gizlilik ve güvenlik ile birlikte ölçün. Her dönüşüm ve eşik kaydedilsin ki bağımsız bir gözden geçiren sonuçları yeniden üretebilsin ve çekici bir prototipten kanıtı ayırt edebilsin.

Başlamadan önce, sürüm, istisna, değişiklik, geri alma ve emeklilik yetkisini atayın. Aşamalı bir dağıtım kullanın, güvenli bir geri dönüşü koruyun ve kasıtlı olarak eklenen hatalarla izleme sistemini doğrulayın. Operasyonel telemetri, giriş kalitesini, çıkış davranışını, model ya da kural sürümünü, bağımlılık sağlığını, insan müdahalelerini ve gereksiz hassas verileri toplamadan doğrulanmış sonuçları göstermelidir. Uyarı eşikleri ve bir yanıt sorumlusu tanımlayın, ardından dağıtım sonrası gerçek dünya kanıtlarını inceleyin; çevrim dışı performansın devam edeceğini varsaymayın. Veri kaynakları, kullanıcılar, modeller, satıcılar, politikalar, donanım veya hedefler değiştiğinde yeniden değerlendirin. Bakımda olan bir sistem, belgelenmiş bir kurtarma, olay öğrenimi, silme ve saklama prosedürleri ve devre dışı bırakılması ya da değiştirilmesi gereken net bir nokta da içermelidir.

Frequently asked questions

Federated learning, özel verilerin sızdırılamayacağını garanti eder mi?

Hayır. Ham veri hareketini azaltır, ancak güncellemeler ve nihai modeller hâlâ bilgi açığa çıkarabilir. Gizlilik, bir tehdit modeli ve ek teknik ve organizasyonel kontroller gerektirir.

Merkezi eğitim ne zaman daha basittir?

Veri yasal ve güvenli bir şekilde merkezileştirilebildiğinde, merkezi eğitim genellikle hata ayıklama, yeniden üretme ve izleme açısından daha kolaydır. Federated learning, dağıtım gerçek bir gereklilik olduğunda, sadece bir pazarlama hedefi olmadığında haklı çıkar.

Primary references

• McMahan et al.: Dağıtık veriden iletişim-verimli öğrenme
• Bonawitz et al.: Pratik güvenli toplama
• Abadi et al.: Diferansiyel gizlilik ile derin öğrenme