AI Tabanlı Oluşturucu Yazı Modelleri Sık Sık Kaynak Verileri ‘Kopyala ve Yapıştır’

Amerikalı oyun yazarı ve girişimci Wilson Mizner, sık sık alıntılanan bir sözü vardır: “Bir yazarın eserinden çalarsanız bu intihaldir, birçok yazarın eserinden çalarsanız bu araştırmadır.”

Benzer şekilde, yeni nesil AI tabanlı yaratıcı yazı sistemleri etrafındaki varsayım, onlara eğitim aşamasında verilen büyük miktarda verinin, gerçekten yüksek düzeyde kavram ve fikirlerin soyutlanmasına yol açtığıdır; bu sistemlerin, binlerce katkıda bulunan yazarın özgün bilgeliğine sahip olduğu ve AI’ın bu bilgeliği kullanarak yenilikçi ve orijinal yazılar üretebileceği; ve bu sistemleri kullananların, istemeden olarak vekaleten intihal yapmakta olmadıklarından emin olabilirler.

Bu varsayım, Facebook ve Microsoft’un AI araştırma bölümlerini içeren bir araştırma konsorsiyumundan gelen yeni bir makale tarafından挑ange edildi. Bu makale, GPT serisi gibi makine öğrenimi üretken dil modellerinin, bazen çok uzun pasajları ‘attribution olmadan’ kopyaladığını ve bunları özgün çıktı olarak sunduğunu buldu.

Bazı durumlarda, yazarlar GPT-2’nin eğitim setinden 1.000 kelimeden fazla pasajı çıktı olarak kopyaladığını belirtiyorlar.

Makale, RAVEN (RAtingVErbalNovelty) adlı yeni bir yaklaşımı kullanıyor. Bu, Edgar Allan Poe’nun “The Raven” adlı şiirindeki kuzgun karakterine bir atıftır.

RAVEN

‘Bu kısaltma, “The Raven” şiirine atıfta bulunur, burada anlatıcı, bir insan tarafından söylenen bir şeyi tekrarlayan mı yoksa kendi cümlelerini oluşturan mı olduğu belli olmayan bir kuzgunla karşılaşır (belki never ve more kelimelerini birleştirerek)—bizim makalemizin ele aldığı aynı temel belirsizlik.’

Araştırmacılar, GPT-2’nin eğitim setinden ‘1.000 kelimeden fazla pasajları kopyaladığını’ ve üretken dil sistemlerinin kaynak verideki dilbilimsel hataları yaydığını belirtiyorlar.

RAVEN altında incelenen dil modelleri, GPT serisinin GPT-2’ye kadar olan sürümleri, Transformer, Transformer-XL ve bir LSTM idi.

Yenilik

Makale, GPT-2’nin ‘Swissified’ ve ‘IKEA-ness’ gibi kelimeleri, dilbilimsel ilkelerden türeterek oluşturabildiğini belirtiyor.

Sonuçlar, Transformer-XL’nin ürettiği cümlelerin %74’ünün, eğitim cümlelerinin hiçbirisinin sentaktik yapısına sahip olmadığını gösteriyor. Yazarlar, ‘sinirsel dil modellerinin sadece ezberlemiyor, aksine üretken süreçler kullanarak tanıdık parçaları yeni şekillerde birleştirebildiğini’ belirtiyorlar.

Veri Çoğaltması Probleminin Olası Sebebi

Makale, doğal dil üretimi (NLG) sistemlerinin, uzun ve kelimesi kelimesine alıntıları, verilerin yeterince işlenmemesi nedeniyle, AI modeline bütün olarak gömülebilir olduğunu teoriliyor.

Yazarlar, verilerin işlenmesinin ve kalitesinin garantilenmesinin önemini vurguluyorlar.

Daha Fazla Veri Düzenleme Gereklidir

Makale, üretken dil sistemlerinin formülasyonunda yeniliğe daha fazla dikkat edilmesi gerektiğini savunuyor. Özellikle, test edilen verilerin, modelin eğitildiği ana veriden ayrıldığından emin olunması gerekiyor.

Yazarlar, Eliza etkisi nedeniyle, dil modellerinin üretiminde daha fazla özen gösterilmesi gerektiğini belirtiyorlar. Bu, 1966 yılında tanımlanan bir sendrom, insanların bilgisayarlar tarafından üretilen semboller dizilerine ‘gereğinden fazla anlama yüklemeye’ eğilimini tanımlar.

* Bu, inline alıntıların hiperlinklere dönüştürülmesidir.