Yapay zeka modelleri ve platformları
LoRA, QLoRA ve QA-LoRA: Büyük Dil Modellerinde Düşük Ranklı Matris Ayrıştırması ile Verimli Uyarlama
Öne çıkan noktalarLoRA, temel ağırlıkları dondurarak ve küçük uyarlanabilir matrisler ekleyerek…
Daha fazla göster
- LoRA, temel ağırlıkları dondurarak ve küçük uyarlanabilir matrisler ekleyerek eğitilebilir parametre sayısını azaltır.
- QLoRA, 4-bit nicemleme ile LoRA'yı birleştirerek GPU bellek ihtiyacını büyük ölçüde düşürür.
- Bu yöntemler, milyarlarca parametreye sahip modellerin standart donanımlarda ince ayar yapılmasını mümkün kılar.
Büyük dil modelleri (LLM), insan benzeri metni anlama ve üretmede benzersiz yetenekler sunarak kendilerine özel bir yer edindi. Güçleri, çoğu zaman milyarlarca parametre içeren devasa boyutlarından kaynaklanır. Ancak bu ölçek, özellikle modelleri belirli görev veya alanlara uyarlarken zorluklar da doğurur. Tüm parametreleri ince ayarlamak gibi geleneksel yöntemler, yüksek hesaplama ve finansman maliyetleri nedeniyle gerçek dünya uygulamalarında yaygın kullanımı güçleştirir.
Önceki bir yazıda LLM’leri belirli gereksinimlere uyarlamak için ince ayarı ele almıştık. Talimat tabanlı ince ayar, tek görevli ince ayar ve parametre açısından verimli ince ayar (PEFT) gibi yöntemleri inceledik. Her biri farklı görevler için ayrı bir optimizasyon yaklaşımı sunar. Tartışmanın merkezinde, LLM’lerin temelini oluşturan Transformer mimarisi ve ince ayar sırasında çok sayıda parametreyi işlemenin hesaplama ve bellek gereksinimleri vardı.
Yukarıdaki görsel, PaLM ve BLOOM gibi büyük dil modellerini parametre sayılarına göre sıralayarak ölçeklerini gösteriyor.
Bu yıl daha da büyük modeller geliştirilmesini sağlayan ilerlemeler yaşandı. Ancak özel optimizasyon teknikleri olmadan bu devasa açık kaynaklı modelleri standart sistemlerde ayarlamak uygulanabilir değildir.
Microsoft (MSFT ) tarafından bu makalede tanıtılan Düşük Ranklı Uyarlama (LoRA), bu zorlukları azaltmayı ve LLM’leri daha erişilebilir ve uyarlanabilir kılmayı amaçlar.
LoRA’nın özü, tüm modeli yeniden eğitmeden uyarlama yapmasıdır. Her parametrenin değiştirildiği geleneksel ince ayarın aksine, önceden eğitilmiş modelin ağırlıklarını sabit tutar ve Transformer mimarisinin her katmanına eğitilebilir rank ayrıştırma matrisleri ekler. Böylece eğitilebilir parametrelerin sayısı önemli ölçüde azalır ve uyarlama daha verimli olur.
LLM ayarlama stratejilerinin gelişimi
Yıllar içinde farklı stratejiler kullanıldı. Başlangıçta, önceden eğitilmiş modellerin parametrelerini belirli göreve göre kapsamlı biçimde değiştiren ince ayar öne çıktı. Modeller büyüyüp karmaşıklaştıkça bu yöntemin hesaplama gereksinimleri de arttı.
Sonra yalnızca parametrelerin bir bölümünün değiştirildiği alt küme ince ayarı yaygınlaştı. Bu, hesaplama yükünü bir ölçüde azaltıyordu; ancak LLM boyutlarının artışına yine de yetişemedi.
Uygulayıcılar daha verimli yollar ararken, tam ince ayar zorlu fakat karşılığını veren bir yaklaşım olarak ortaya çıktı.
LoRA’ya giriş
Bir matrisin rankı, sütunlarının oluşturduğu uzayın boyutunu gösterir ve birbirinden bağımsız satır veya sütunların sayısıyla belirlenir.
- Tam ranklı matris: Rankı, satır ve sütun sayılarından küçük olanına eşittir.
- Düşük ranklı matris: Rankı hem satır hem sütun sayısından çok daha küçüktür ve daha az özelliği temsil eder.
Büyük modeller, dil modellerindeki dil bilgisi gibi kendi alanlarına ilişkin geniş bir anlayış kazanır. Ancak belirli görevler için ince ayar çoğu zaman bu bilginin yalnızca küçük bir bölümünün öne çıkarılmasını gerektirir. LoRA, ağırlık değişikliklerini gösteren matrisin düşük ranklı olabileceğini ve daha az özellik yakalayabileceğini öne sürer.
LoRA, güncelleme matrisini iki küçük düşük ranklı matrise ayırarak rankını sınırlar. Böylece bütün ağırlık matrisini değiştirmek yerine yalnızca bir bölümünü değiştirir ve ince ayarı daha verimli hale getirir.
LoRA’nın Transformer modellerine uygulanması
LoRA, belirli ağırlık matrislerine odaklanarak sinir ağlarındaki eğitim yükünü azaltır. Transformer mimarisinde öz-dikkat mekanizmasıyla ilişkili Wq, Wk, Wv ve Wo matrisleri ile çok katmanlı algılayıcı (MLP) modülünde iki matris daha bulunur.














