Yapay zeka modelleri ve platformları

GPT-3: Azımsanamayacak Bir Dil Modeli Öğrenimi

Kunal Kejriwal
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarGPT-3'ün az örneklemeli öğrenme yöntemi, bağlam penceresinde yalnızca birkaç örnek…
Daha fazla göster
  • GPT-3'ün az örneklemeli öğrenme yöntemi, bağlam penceresinde yalnızca birkaç örnek kullanarak büyük göreve özel veri setlerine olan ihtiyacı azaltır.
  • Modelin 175 milyar parametreli ölçeği, ağırlık güncellemesi yapmadan çeşitli Doğal Dil İşleme görevlerinde güçlü sıfır örneklemeli ve tek örneklemeli performans sağlar.
  • GPT-3'ün filtrelenmiş yüksek kaliteli veri karışımları üzerinde eğitilmesi, aşırı uyumu önler ve dar dağılımların ötesinde genellemeyi iyileştirir.

Son birkaç yılda, AI ve ML endüstrisi, NLP sistemlerinin geliştirilmesinde ve uygulamasında büyük bir atılım yaşamıştır. Araştırmacılar, NLP uygulamalarını sonraki aktarım görevleri için esnek ve görevden bağımsız bir şekilde uygulayabilmişlerdir.

İlk olarak sözcük vektörlerini kullanan tek katmanlı temsiller, göreve özgü mimarilere aktarılmıştır. Daha sonra, çok katmanlı temsil kullanılan RNN mimarisi, daha iyi temsil oluşturmak için bağlamsal durum kullanmıştır. Ve en son olarak, göreve özgü mimarilere olan ihtiyacı tamamen ortadan kaldıran, önceden eğitilmiş aktarım dil modelleri veya yinelemeli modeller geliştirilmiştir. Bu ağlarda ince ayar yapılması, göreve özgü mimarilere duyulan ihtiyacı ortadan kaldırmıştır.

Dil modelleri, NLP endüstrisinde önemli bir dönemeç noktası olmuştur. Zorlu görevlerde, soru yanıtlama, okuduğunu anlama, metinsel çıkarım ve daha fazlasında büyük ilerlemeler kaydetmiştir.

Ancak, avantajlarına rağmen, dil modellerinin önemli bir sınırlaması vardır. Görev-spesifik ayarlamaya veya göreve özgü verilere ihtiyaç duyarlar. Ayrıca, göreve özgü verilerin geliştirilmesinde yüz binlerce örnek gerekir.

Görev-spesifik verilere ve göreve özgü ayarlamaya olan ihtiyacı ortadan kaldırmak, NLP endüstrisi için birçok nedenle çok arzulanır.

Mevcut Ön-Eğitimli Dil Modelleri veya Tekrarlayan Modellerin Sorunları

  • Pratiklik ve Uygulamayı Sınırlama

Öncelikle, her görev için büyük bir etiketli veri kümesinin gerekliliği, dil modellerinin uygulanabilirliğini sınırlar. Dil modelleri, kısa bir hikaye oluşturmaktan, gramer hatalarını düzeltmeye, bir kavram hakkında örnekler oluşturmaya kadar çeşitli görevlerde kullanılır. Bazen, her görev için büyük bir etiketli veri kümesi toplamak zor olabilir.

  • Eğitim Verilerindeki Sahte Bağlantıları Kullanma

Eğitim dağılımının dar kapsamı ile modelin ifade gücünün birleşimi, eğitim verilerindeki yanıltıcı korelasyonlardan yararlanma olasılığını artırabilir. Aktarım dil modelleri ön eğitim sırasında çok miktarda bilgi öğrenmek üzere tasarlandığından bu durum, ön eğitim ve ince ayar yaklaşımında sorun yaratabilir.

Daha önceki modellere ilişkin çalışmalar, büyük modellerin her zaman daha iyi sonuçlar vermediğini göstermiştir. Ayrıca, bu paradigmadaki genellemenin, modelin eğitim verilerine özgü olmasından dolayı zayıf performanslara neden olabileceği belirtilmiştir.

  • İnsan Öğrenimi ile Karşılaştırma

Son olarak, dil modelleri ile karşılaştırıldığında, insanlar büyük bir eğitim verisi gerektirmez. Çoğu zaman, bir görevi öğrenmek için yeterli olan, bir kişinin doğal dilinde kısa bir talimat veya bir dil görevinin küçük bir gösterimudur.

İnsanların adapte olma yetenekleri birçok pratik avantajı vardır. İnsanlar, farklı beceri setleri arasında geçiş yapabilir veya onları birleştirebilir, bu da NLP sistemlerinin yapamayacağı bir şeydir.

Meta Öğrenme ve GPT-3 ile Sorunların Çözümü

Yukarıdaki sorunlara bir çözüm, meta öğrenme olabilir. Meta öğrenme, modern ML’de bir kavramdır ve bir modelin daha geniş beceriler ve örüntü tanıma yetenekleri geliştirmesini sağlar. Model, öğrendiği yeteneklerle çıkarım sırasında hızla uyum sağlayabilir veya gerekli görevi tanıyabilir.

Meta öğrenme, dil modeli mimarisinde “bağlam içi öğrenme” tekniği kullanılarak uygulanmaktadır. Bu teknik, ön-eğitimli bir dil modelinin metin girişini görev tanımı olarak kullanır. Model doğal dilde bir talimatla, bazen birkaç örnekle koşullandırılır; ardından sonraki adımları tahmin ederek görevin kalanını tamamlaması beklenir.

Meta öğrenme umut verici olsa da doğal dil mimarilerinde ince ayardan daha düşük performans gösterir; dil görevleri için uygulanabilir bir yöntem olması adına geliştirilmesi gerekir.

Meta öğrenmenin yanı sıra, bir başka popüler yöntem, transformer dil modellerinin kapasitesini artırmaktır. Son yıllarda aktarım modellerinin kapasitesi önemli ölçüde artmıştır: RNSS18 100 milyon, DCLT18 300 milyon, RWC19 1,5 milyar, SSP19 8 milyar, RSR19 11 milyar ve TUR20 17 milyar parametreye sahiptir. Kapasite ve parametre sayısındaki artış, tarihsel olarak metin üretimini iyileştirmiştir. Sonraki görevlerle ilişkili logaritmik kayıp da ölçek büyüdükçe düzenli bir iyileşme eğilimi gösterir.

Bu gelişmeler, GPT-3 modelinin ortaya çıkmasını sağladı. GPT-3 modeli, 175 milyardan fazla parametreye sahiptir ve yayınlandığı zaman, en yüksek kapasiteye sahip transfer dil modeliydi.

GPT-3 Modelinin Tanıtımı

GPT-3, OpenAI tarafından 2020 yılında yayınlanan, 175 milyardan fazla parametreye sahip bir otoregresif dil modelidir. GPT-3, büyük bir dil modeli olarak sınıflandırılır ve GPT-2 modeli gibi, bir yalnızca kod çözücü içeren derin öğrenme transformer modelidir.

GPT-3 modeli, kendi bağlamsal öğrenme yeteneklerini ölçer ve yirmi dörtten fazla NLP veri kümesinde ve çeşitli yeni görevlerde değerlendirilir. Her görev için aşağıdaki üç koşul kullanılır.

  • Az Örnekli Öğrenme veya Bağlam İçi Öğrenme: Az örnekli öğrenmede, GPT-3 modeli, modelin bağlam penceresine sığabilecek sayıda görev örneği kullanılır.
  • Tek Örnekli Öğrenme: Tek şanslı öğrenmede, model sadece bir gösterim kullanır.
  • Sıfır Örnekli Öğrenme: Sıfır şanslı öğrenmede, gösterim yoktur ve model sadece doğal dil talimatı alır.

Genel olarak GPT-3 modeli, sıfır ve tek örnekli koşullarda istenen performansı gösterir; az örnekli koşulda çoğu zaman dönemin en gelişmiş aktarım modellerini aşar. Tek ve sıfır örnekli koşullarda, anlık akıl yürütme veya hızlı dikkat gerektiren, yeni sözcük kullanımı, karışık sözcükleri düzeltme ve aritmetik işlemler gibi görevlerde de iyi sonuç verir. Az örnekli koşulda ise insan değerlendiricilere insan yazımını andıran yapay haber makaleleri sunabilir.

GPT-3 Modeli: Yaklaşım

GPT-3 modeli, geleneksel bir ön-eğitim yaklaşımı kullanır. Bu yaklaşım, model, veri ve eğitim içerir ve RWC-19 aktarım dil modelinin ön eğitim sürecine benzer. Model boyutu, veri kümesinin büyüklüğü ve çeşitliliği ile eğitim süresi artırılır.

GPT-3 modeli, bağlam içi öğrenme yaklaşımını kullanır. Bu yaklaşım, RWC-19 modelinin yaklaşımına benzer, ancak veri kümesindeki örüntüleri öğrenmek için bazı değişiklikler yapar.

Şimdi, bu ayarları keşfedelim ve GPT-3 modelinin farklı ayarlamalarda nasıl performans gösterdiğini değerlendirelim.

Ayarlama

İnce ayar, aktarım dil modellerinde geleneksel bir yaklaşım olmuştur. Bu yaklaşım, ön-eğitimli bir modelin ağırlıklarını, belirli bir görev için hazırlanmış denetimli veri kümesinde eğitim yoluyla günceller. Bu süreçte yüz binlerce etiketli örnek kullanılır.

Ayarlama yaklaşımı, güçlü performans sağlar. Ancak, her görev için yeni ve büyük bir veri kümesi gerektirir, eğitim veri kümesinin spesifik özelliklerini sömürebilir, insan performansıyla adaletsiz karşılaştırmalara ve dağılım dışı durumlarda zayıf genellemeye yol açabilir.

GPT-3 modelinin mevcut kapsamı, görevden bağımsız performansı nedeniyle ayarlamayı içermez, ancak gelecekte ayarlamaya tabi tutulabilir.

Az örnekli

Az örnekli, GPT-3 modelinin, görevi koşullandırmak için birkaç gösterim aldığını ifade eder, ancak modelin ağırlıkları güncellenmez.

Az örnekli ayarlamada, veri kümesi genellikle bir bağlam ve istenen tamamlama içerir. Model, K örnek bağlam ve tamamlama alır ve sonra bir bağlam verilir ve tamamlamayı üretmesi istenir.

Az örnekli koşulun avantajı, göreve özgü verilere olan ihtiyacı azaltması ve büyük bir veri kümesinden dar bir dağılım öğrenme olasılığını azaltmasıdır. Bununla birlikte, az örnekli sonuçlar, göreve özel ince ayar yapılan en gelişmiş modellere kıyasla belirgin biçimde daha zayıf kalabilir.

Tek Örnekli

Tek şanslı ayarlamada, model sadece bir gösterim alır ve geri kalanı az örnekli ayarlamaya benzer.

Tek şanslı koşulun nedeni, görevlerin insanlara aktarılma biçimine üç koşul arasında en çok benzemesidir. Çoğu görevde tek bir örnek vermek yaygındır; aksi halde görevin bağlamını anlamak güç olabilir.

Sıfır Örnekli

Sıfır şanslı ayarlamada, gösterim yoktur ve model sadece doğal dil talimatı alır.

Sıfır şanslı koşulun avantajı, en çok rahatlık, esneklik ve spesifik bağlantılardan kaçınmadır, ancak üç koşulun en zorudur. Bazı durumlarda insanlar için bile önce bir örnek görmeden görevin bağlamını anlamak zordur. Yine de bazı görevlerde insanların doğal dil görevlerini gerçekleştirme biçimine en yakın koşul sıfır örneklidir.

Yukarıdaki şekil, az örnekli, tek örnekli ve sıfır örnekli ayarlamaları, doğal dil görevi olarak bir İngilizce cümlesini Fransızca’ya çevirme görevinde karşılaştırır.

GPT-3: Model Mimarisi

GPT-3 modeli, GPT-2 modelinin kullandığı aynı mimariyi kullanır. Bu mimari, ön-normalizasyon, değiştirilmiş başlatma ve tersine çevrilebilir tokenizasyon tekniklerini içerir. Farklı olarak, Sparse Transformer’a benzer biçimde transformer katmanlarında yerel bantlı seyrek dikkat örüntüleri ile yoğun katmanları dönüşümlü kullanır.

GPT-3 modelinin performansını, model büyüklüğüne bağlı olarak incelemek için, geliştiriciler 8 farklı model boyutu eğitmiştir. Bu modellerin parametre sayısı 125 milyondan 175 milyara kadar, üç büyüklük mertebesi boyunca değişir. En büyük model GPT-3 olarak adlandırılır. Önceki çalışmalar, yeterli eğitim verisi olduğunda doğrulama kaybının model boyutuna göre yaklaşık düzgün bir kuvvet yasası izlemesi gerektiğini göstermiştir. Farklı boyutlar bu varsayımı hem sonraki dil görevleri hem doğrulama kaybı açısından sınamayı sağlar.

Yukarıdaki şekil sekiz modelin boyut ve mimarisini karşılaştırır. n(params) eğitilebilir parametre sayısını, n(layers) katman sayısını, d(model) darboğaz katmanındaki birim sayısını, d(head) ise her dikkat başlığının boyutunu gösterir. Tüm modellerin bağlam penceresi 2.048 tokendır.

Ayrıca, modeli, derinlik ve genişlik boyunca GPU’lar arasında bölerek, veri aktarımını en aza indirmek üzere bölümlenmiştir. Mimari parametreler, modellerin GPU’lara yerleştirilmesinde hesaplama verimliliği ve yük dengeleme dikkate alınarak seçilmiştir.

Eğitim Verileri

Büyük dil modelleri, genellikle büyük veri kümelerini kullanır. GPT-3 modelinde Common Crawl kullanılmıştır. Bir trilyondan fazla sözcük içeren bu veri kümesi, aynı diziyi tekrar tekrar kullanmadan eğitim yapmaya yeterlidir. Ancak az filtrelenmiş veya filtrelenmemiş sürümler, daha özenle hazırlanmış veri kümelerinden düşük kalitelidir.

Veri kümesinin kalitesini artırmak için, geliştiriciler 3 adım atmıştır.

  1. Geliştiriciler, yüksek kaliteli referans derlemlere benzeyecek biçimde Common Crawl veri kümesini indirip filtrelediler.
  2. Geliştiriciler, ayrılmış doğrulama kümesinin aşırı uyumu ölçmedeki güvenilirliğini korumak ve tekrarları önlemek için belge düzeyinde yaklaşık eşleşmeye dayalı yinelenen kayıtları ayıkladılar.
  3. Geliştiriciler, Common Crawl’u desteklemek ve çeşitliliği artırmak için eğitim verilerine yüksek kaliteli referans derlemleri eklediler.

Aşağıdaki şekil, GPT-3 modelinde kullanılan veri kümelerinin nihai karışımını gösterir. Common Crawl’daki 45 TB’tan fazla düz metin, filtreleme sonrası yaklaşık 400 milyar bayt çifti kodlamalı tokene karşılık gelen 570 GB veriye indirilmiştir. Kaliteli görülen veri kümeleri boyutlarıyla orantılı olarak değil, daha sık örneklenmiştir. Books2 ve Common Crawl eğitimde bir tam geçişten az kullanılırken diğer kümelerden birden çok kez örnek alınmıştır. Bu tercih, daha kaliteli veri karşılığında az miktarda aşırı uyumu kabul eder.

Ayrıca, büyük dil modellerinin, internet verilerini kullanarak eğitim görmesi ve büyük miktarda içeriği öğrenmesi, sonraki görevlerin geliştirme ve test kümelerinin ön eğitim sırasında görülmesi ve değerlendirmeye veri sızması riskini taşır. Geliştiriciler bunu azaltmak için GPT-3’ün değerlendirildiği test ve geliştirme kümeleriyle örtüşmeleri aramış ve kaldırmaya çalışmıştır.

Yukarıdaki şekil, GPT-3 modelinin eğitiminde kullanılan toplam hesaplamayı gösterir. Sinirsel dil modellerine ilişkin ölçekleme yasaları, daha büyük modellerin normalden daha az tokenla eğitilmesinde kullanılmıştır. Makaledeki karşılaştırma, GPT-3 ile on kat daha küçük RoBERTa-Large için ön eğitim hesaplama miktarını yaklaşık 50 petaflop/gün olarak vermektedir.

Değerlendirme

Az örnekli öğrenmede, model her bir değerlendirmeye, görevin eğitim veri kümesinden K örnek rastgele çekerek ve göreve göre bir veya iki yeni satırla ayırarak başlar. StoryCloze ve LAMBADA’da denetimli eğitim kümesi bulunmadığından örnekler geliştirme kümesinden alınır ve test kümesinde değerlendirme yapılır. Winograd’da tek küme bulunduğu için örnekler doğrudan bu kümeden seçilir.

K, 0’dan modelin bağlam penceresinin maksimumuna kadar herhangi bir değer olabilir. Daha büyük K değerleri genellikle daha iyi sonuçlar verir, ancak her zaman değil. Tüm modellerde 2.048 tokenlık bağlam penceresine genellikle 10–100 örnek sığar. Ayrı bir geliştirme kümesi varsa birkaç K değeri burada denenir ve en iyi değer test kümesine uygulanır.

Ayrıca, çoklu seçenek içeren görevlerde, model K örnek doğru tamamlama ve bağlam alır ve sonra bir bağlam verir ve her bir tamamlamanın dil modeli olasılığını karşılaştırır. İkili sınıflandırmada seçeneklere anlamlı adlar verilerek görev çoktan seçmeli biçimde ele alınabilir; kimi zaman RSR yaklaşımına benzer biçimde çerçevelenir. Serbest biçimli tamamlama görevlerinde RSR’deki ayarlarla, genişliği 4 ve ceza katsayısı 0,6 olan ışın araması kullanılır. Veri kümesinin standardına göre F1, tam eşleşme veya BLEU ile puanlama yapılır.

Sonuçlar

Yukarıdaki şekil sekiz modelin eğitim eğrilerini gösterir. KMH dil modelindeki sonuçlara benzer biçimde, GPT-3’ün performansı eğitim hesaplaması verimli kullanıldığında bir kuvvet yasasını izler. Eğilim iki büyüklük mertebesi daha genişletildiğinde küçük sapmalar görülür. Çapraz entropi kaybındaki iyileşmenin eğitim derleminin yanıltıcı ayrıntılarını modellemekten kaynaklandığı düşünülebilir; ancak bu iyileşme çok çeşitli NLP görevlerinde tutarlı performans kazanımları sağlar.

Değerlendirmeden önce veri kümeleri sekiz görev grubuna ayrılmıştır: geleneksel dil modelleme, Cloze ve cümle/paragraf tamamlama; kapalı kitap soru yanıtlama; özellikle tek ve az örnekli dil çevirisi; Winograd Schema benzeri görevler; sağduyu akıl yürütmesi veya soru yanıtlama; okuduğunu anlama; SuperGLUE testleri ve doğal dil çıkarımı (NLI).

Dil Modelleme, Tamamlama ve Cloze Görevleri

Bu bölümde, GPT-3 modelinin geleneksel dil modelleme görevlerinde ve cümle veya paragraf tamamlama görevlerinde performansı değerlendirilir.

Dil Modelleme

GPT-3, PTB (Penn Treebank) veri kümesinde sıfır örnekli perplexity değerini hesaplar. Wikipedia ile ilgili görevler zaten eğitim verilerinde bulunduğu için; bir milyar sözcük testi de eğitim verileriyle örtüşme sorunu nedeniyle dışarıda bırakılmıştır. Modern internetten önceye uzanan PTB bu sorunları azaltır.

En büyük GPT-3 modeli PTB’de 20,50 perplexity değerine ulaşarak önceki en iyi sonucu 15 puanlık farkla aşar.

LAMBADA

LAMBADA, paragraf ve metinlerde uzun mesafeli bağımlılıkları modelleme becerisini sınar. Modelden paragrafı bağlam olarak okuduktan sonra cümlenin son sözcüğünü tahmin etmesi istenir. Dil modellerinin sürekli büyütülmesi bu testte azalan getiriler gösterir.

GPT-3, LAMBADA’da %76 doğruluğa ulaşarak önceki en iyi modelleri %8’den fazla aşar. Az örnekli öğrenme, veri kümesinin tipik sorununa uyum sağlayabilir: hedef cümlenin son sözcüğüdür, ancak dil modeli bunu bilmediğinde doğru sonun yanında paragraftaki başka devam olasılıklarına da puan verir. Örnekler belirli biçimde değiştirilince doğruluk %86’nın üzerine çıkar; önceki modellere göre artış %18’i aşar. Az örnekli performans model boyutuyla birlikte artar. Strateji en küçük modelin doğruluğunu %20 azaltırken 175 milyar parametreli modelin doğruluğunu %10 artırır.

Kapalı Kitap Soru Cevapları

Kapalı kitap soru yanıtlama, GPT-3’ün geniş olgusal bilgiye dayanan yanıtlar verme becerisini ölçer. Bu tür soruların çok sayıda biçimi olabileceğinden geleneksel yaklaşım, ilgili metni bulan bilgi erişim sistemini, getirilen metin ve sorudan yanıt üreten modelle birleştirir.

Şekil farklı modelleri ve veri kümelerini karşılaştırır. GPT-3, TriviaQA’da sıfır örnekli koşulda %64,3, tek örneklide %68 ve az örneklide %71,2 doğruluk elde eder. Sıfır örnekli sonuç, ince ayarlı T5-11B modelini %14’ten fazla aşar.

Yukarıdaki şekil, model boyutu arttıkça GPT-3 performansının düzenli biçimde yükseldiğini gösterir. Bu, kapasite büyüdükçe dil modellerinin veri kümesinden öğrenmeyi sürdürdüğüne işaret eder.

Son Düşünceler

GPT-3, dil modeli endüstrisinde bir devrim niteliğindeydi. GPT-3, dil modellerinin neler yapabileceğinin sınırlarını genişletti. Sağladığı gelişmeler ve aştığı engeller, makalenin yazıldığı dönemde en gelişmiş ve doğru büyük dil modeli olarak tanımlanan GPT-4’ün yolunu açtı.

Kunal Kejriwal, Python, PostgreSQL, Redis ve GCP ile AWS üzerindeki bulut altyapısında uzmanlaşmış bir backend mühendisi. Üç yıllık canlı ortamda çalışan sistemler inşa etme ve ölçeklendirme deneyimine sahip olan Kunal, AI altyapısı, dağıtık sistemler ve makine öğrenimi iş yüklerini devreye alma mimarisi hakkında yazıyor.