Federe Öğrenme Nedir?

Federe Öğrenme Nedir?

Yapay zeka modellerini eğitmenin geleneksel yöntemi, genellikle bulut tabanlı bir bilgi işlem platformu kullanılarak modellerin veriler üzerinde eğitildiği sunucuların kurulmasını içerir. Ancak son birkaç yılda birleşik öğrenme adı verilen alternatif bir model oluşturma biçimi ortaya çıktı. Federe öğrenme Verileri modele getirmek yerine makine öğrenimi modellerini veri kaynağına getirir. Birleşik öğrenme, birden fazla hesaplama cihazını, veri toplayan bireysel cihazların modelin eğitilmesine yardımcı olmasına olanak tanıyan merkezi olmayan bir sisteme bağlar.

Federe öğrenme sisteminde, öğrenme ağının parçası olan çeşitli cihazların her biri, cihazda modelin bir kopyasına sahiptir. Farklı cihazlar/istemciler modelin kendi kopyalarını eğitmek istemcinin yerel verileri kullanılarak ve ardından bağımsız modellerden gelen parametreler/ağırlıklar, parametreleri toplayan ve genel modeli güncelleyen bir ana cihaza veya sunucuya gönderilir. Bu eğitim süreci daha sonra istenen bir doğruluk düzeyine ulaşılana kadar tekrar edilebilir. Kısacası, birleşik öğrenmenin arkasındaki fikir, eğitim verilerinin hiçbirinin cihazlar veya taraflar arasında asla iletilmemesi, yalnızca modelle ilgili güncellemelerin iletilmesidir.

Federe öğrenme, üç farklı adıma veya aşamaya ayrılabilir. Federe öğrenme tipik olarak, temel olarak işlev gören ve merkezi bir sunucu üzerinde eğitilen genel bir modelle başlar. İlk adımda, bu jenerik model, uygulamanın istemcilerine gönderilir. Bu yerel kopyalar daha sonra istemci sistemler tarafından üretilen veriler üzerinde eğitilerek performanslarını öğrenir ve geliştirir.

İkinci adımda, istemcilerin tümü öğrenilen model parametrelerini merkezi sunucuya gönderir. Bu, belirli bir programa göre periyodik olarak gerçekleşir.

Üçüncü adımda, sunucu öğrenilen parametreleri aldığında toplar. Parametreler bir araya getirildikten sonra, merkezi model güncellenir ve müşterilerle bir kez daha paylaşılır. Tüm süreç daha sonra tekrar eder.

The kopya almanın faydası Modelin çeşitli cihazlardaki avantajı, ağ gecikmelerinin azaltılması veya ortadan kaldırılmasıdır. Verilerin sunucuyla paylaşılmasıyla ilgili maliyetler de ortadan kalkar. Birleştirilmiş öğrenme yöntemlerinin diğer faydaları arasında, birleştirilmiş öğrenme modellerinin gizliliğinin korunması ve model yanıtlarının cihazın kullanıcısı için kişiselleştirilmesi yer alır.

Birleştirilmiş öğrenme modellerine örnek olarak öneri motorları, dolandırıcılık tespit modelleri ve tıbbi modeller verilebilir. Netflix veya Amazon tarafından kullanılan türde medya öneri motorları, binlerce kullanıcıdan toplanan veriler üzerinde eğitilebilir. İstemci cihazlar kendi ayrı modellerini eğitecek ve merkezi model, bireysel veri noktaları farklı kullanıcılar için benzersiz olsa bile daha iyi tahminler yapmayı öğrenecektir. Benzer şekilde, bankalar tarafından kullanılan dolandırıcılık tespit modelleri, birçok farklı cihazdan gelen faaliyet modellerine göre eğitilebilir ve birkaç farklı banka, ortak bir modeli eğitmek için işbirliği yapabilir. Bir tıbbi birleşik öğrenme modeli açısından, birden fazla hastane, tıbbi taramalar yoluyla potansiyel tümörleri tanıyabilecek ortak bir modeli eğitmek için bir araya gelebilir.

Birleşik Öğrenim Türleri

Birleşik öğrenme şemaları tipik olarak iki farklı sınıftan birine girer: çok partili sistemler ve tek partili sistemler. Tek taraf birleşik öğrenme sistemlerine "tek taraf" denir çünkü öğrenme ağındaki tüm istemci cihazlarında verilerin yakalanmasını ve akışını denetlemekten yalnızca tek bir varlık sorumludur. İstemci cihazlarda var olan modeller, aynı yapıya sahip veriler üzerinde eğitilir, ancak veri noktaları genellikle çeşitli kullanıcılar ve cihazlar için benzersizdir.

Tek partili sistemlerin aksine, çok partili sistemler iki veya daha fazla varlık tarafından yönetilir. Bu varlıklar, erişimleri olan çeşitli cihazları ve veri kümelerini kullanarak paylaşılan bir modeli eğitmek için işbirliği yapar. Parametreler ve veri yapıları, genellikle birden çok varlığa ait cihazlar arasında benzerdir, ancak tamamen aynı olmaları gerekmez. Bunun yerine, modelin girdilerini standart hale getirmek için ön işleme yapılır. Farklı varlıklara özgü cihazlar tarafından oluşturulan ağırlıkları toplamak için tarafsız bir varlık kullanılabilir.

Federe Öğrenme için Çerçeveler

Birleştirilmiş öğrenme için kullanılan popüler çerçeveler şunları içerir: Tensorflow Birleşik, Birleşik Yapay Zeka Teknolojisi Etkinleştirici (FATE), ve PySyft. PySyft, derin öğrenme kitaplığı PyTorch'u temel alan açık kaynaklı bir birleşik öğrenme kitaplığıdır. PySyft, şifreli hesaplama kullanarak sunucular ve aracılar arasında özel, güvenli derin öğrenmeyi sağlamayı amaçlar. Bu arada, Tensorflow Federated, Google'ın Tensorflow platformu üzerine inşa edilmiş başka bir açık kaynaklı çerçevedir. Tensorflow Federated, kullanıcıların kendi algoritmalarını oluşturmalarına olanak sağlamanın yanı sıra, kullanıcıların kendi modelleri ve verileri üzerinde bir dizi dahil edilen birleşik öğrenme algoritmasını simüle etmelerine olanak tanır. Son olarak FATE, Webank AI tarafından tasarlanmış açık kaynaklı bir çerçevedir ve Federe AI ekosistemine güvenli bir bilgi işlem çerçevesi sağlamayı amaçlamaktadır.

Federe Öğrenme Zorlukları

Federe öğrenme hala oldukça gelişme aşamasında olduğundan, bir takım zorluklar tam potansiyeline ulaşması için hala müzakere edilmesi gerekiyor. Edge cihazlarının eğitim yetenekleri, veri etiketleme ve standardizasyon ve model yakınsama, birleşik öğrenme yaklaşımları için potansiyel engellerdir.

Yerel eğitim söz konusu olduğunda, uç cihazların hesaplama yeteneklerinin birleşik öğrenme yaklaşımları tasarlanırken dikkate alınması gerekir. Akıllı telefonların, tabletlerin ve diğer IoT uyumlu cihazların çoğu makine öğrenimi modellerini eğitebilirken, bu genellikle cihazın performansını engeller. Model doğruluğu ve cihaz performansı arasında tavizler verilmesi gerekecektir.

Verileri etiketleme ve standartlaştırma, birleşik öğrenme sistemlerinin üstesinden gelmesi gereken başka bir zorluktur. Denetimli öğrenme modelleri, sistemin parçası olan birçok istemci cihazında yapılması zor olabilen, açık ve tutarlı bir şekilde etiketlenmiş eğitim verileri gerektirir. Bu nedenle, olaylara ve kullanıcı eylemlerine dayalı olarak etiketleri standart bir şekilde otomatik olarak uygulayan model veri ardışık düzenleri geliştirmek önemlidir.

Model yakınsama süresi, birleşik öğrenme modellerinin yakınsaması genellikle yerel olarak eğitilmiş modellerden daha uzun sürdüğü için, birleşik öğrenme için başka bir zorluktur. Bağlantı sorunları, düzensiz güncellemeler ve hatta farklı uygulama kullanım süreleri yakınsama süresinin artmasına ve güvenilirliğin azalmasına katkıda bulunabileceğinden, eğitime dahil olan cihazların sayısı model eğitimine bir öngörülemezlik unsuru ekler. Bu nedenle, birleştirilmiş öğrenme çözümleri, tipik olarak, veri kümelerinin son derece büyük ve dağıtılmış olduğu örnekler gibi, bir modeli merkezi olarak eğitmeye göre anlamlı avantajlar sağladıkları zaman en kullanışlıdır.

Fotoğraf: Jeromemetronome, Wikimedia Commons aracılığıyla, CC By SA 4.0 (https://en.wikipedia.org/wiki/File:Federated_learning_process_central_case.png)