Yapay Zekanın Testlerde Hile Yapmasını Engellemek için Çaba

Çin’deki bir üniversitenin yeni araştırma bulguları, GPT-3 gibi doğal dil işleme modellerinin neden zor bir soru sorulduğunda ‘hile’ yaptıklarını, neden teknik olarak doğru olan ancak neden doğru olduğu konusunda hiçbir gerçek anlayışa sahip olmayan cevaplar ürettiğini açıklamaktadır. Araştırmacılar, sistemlerin eğitim aşamasında daha fazla çalışmasını sağlamak için yeni yöntemler de öneriyorlar.

Sorun iki katlıdır: önce, hızlı ve optimal kaynak kullanımı ile sonuçlar elde etmeye çalışan sistemler tasarlarız. GPT-3 gibi kaynaklar ortalama bir NLP araştırma projesinin sahip olabileceğinden çok daha fazla olsa da, bu sonuç odaklı optimizasyon kültürü metodolojide hakimdir.

Sonuç olarak, eğitim mimarilerimiz, hızlı bir şekilde cevaplar üreten ve cevaplarını haklı çıkarabilecek veya sonuçlarına nasıl ulaştıklarını gösteremeyen modelleri ödüllendirmektedir.

Erken Hile Yapma Eğilimi

Bu, modelin daha karmaşık bilgi edinme türlerini öğrenmeden önce ‘kısa yol’ cevaplarını öğrenmesinden kaynaklanmaktadır. Artan doğruluk genellikle eğitim boyunca oldukça seçici bir şekilde ödüllendirildiğinden, model herhangi bir yaklaşımı önceliklendirmektedir.

Yapay Zekaya ‘Kolay’ Cevaplar Verme

İkinci sorun, yakın zamanda yapılan araştırma girişimlerinin bu şekilde ‘hile’ yapma eğilimini incelemesine ve ‘kısa yol’ olgusunu tanımlamasına rağmen, katkıda bulunan bir veri setindeki ‘kısa yol’ sağlayan materyali sınıflandırmak için hiçbir çaba sarf edilmemiştir.

Yeni makale, Wangxuan Bilgisayar Teknolojisi Enstitüsü ve Pekin Üniversitesi’ndeki MOE Anahtar Dili Bilimi Laboratuvarı arasındaki bir işbirliği olup, çeşitli dil modellerini, ‘kolay’ ve ‘zor’ çözümler için sınıflandırmalar içeren yeni bir veri setine karşı test etmektedir.

Kaynak: https://arxiv.org/pdf/2106.01024.pdf

Veri seti, daha karmaşık ve derin cevaplar için kriter olarak cümlelerin yeniden yazılmasını kullanır, çünkü anlamlı bir anlayış gerekli olup elde edilen bilgiyi yeniden formüle etmek için gereklidir. Buna karşılık, ‘kısa yol’ cevapları, tarihler ve diğer kapsayıcı anahtar kelimeler gibi tokenleri kullanarak, bağlam veya akıl yürütme olmadan doğru olan ancak teknik olarak doğru cevaplar üretebilir.

Kısa yol bileşeni, soru kelime eşleştirmesi (QWM) ve basit eşleştirmeyi (SpM) içerir. QWM için model, sağlanan metin verisinden çıkarılan varlıkları kullanır ve bağlamı atlar; SpM için model, cevap cümleleri ve sorular arasındaki örtüşmeyi tanır, her ikisi de eğitim verisinde sağlanır.

Veri Setindeki Kısa Yol Verileri Hemen Etkili

Araştırmacılara göre, veri setleri genellikle ‘kısa yol’ sorularının yüksek bir oranını içerir, bu da eğitimli modellerin ‘kısa yol’ hilelerine güvenmelerine neden olur.

Deneylerde kullanılan iki model BiDAF ve Google’ın BERT-base idi. Araştırmacılar, her iki modelin de, daha zor soruların daha yüksek bir oranına sahip veri seti varyasyonlarına eğitim verilse bile, ‘kısa yol’ sorularında ‘zor’ sorulardan daha iyi performans gösterdiğini gözlemledi.

Bu, ‘kısa yol verilerini’ neredeyse bir virüs gibi sunar – bir veri setinde çok az miktarda ‘kısa yol’ verisi bulunması, bu verilerin eğitimde benimsenmesi ve önceliklendirilmesi için yeterli olabilir.

Hileyi Kanıtlanma

Araştırmada, ‘kolay’ bir varlık kelimesini anormal bir kelime ile değiştirerek ‘kısa yol’ cevabının kırılganlığını kanıtlamak için kullanılan bir yöntem vardır. ‘Kolay’ bir cevabın mantığını sağlayamayan bir ‘kısa yol’ yöntemi kullanılmışsa, ‘hile’ yapılan cevabın mantığı sağlanamaz; ancak cevabın daha derin bir bağlamdan ve daha geniş bir metin parçasının semantik değerlendirmesinden geldiği durumlarda, sistem hatayı çözerek doğru bir cevap oluşturabilir.

‘Amerika’ (bir yer) yerine ‘Beyoncé’ (bir kişi) koymak, modelin cevabının arkasındaki mantığı olup olmadığını gösterir.

Ekonomik Bir Zorunluluk Nedeniyle Kısa Yollar

NLP eğitim akışlarında ‘kısa yolların’ neden bu kadar öncelikli olduğuna ilişkin bazı mimari nedenler hakkında, yazarlar ‘MRC modelleri, QWM gibi ‘kısa yol’ hilelerini, anlamlı cevapları üretmek için gereken daha zor görevlere kıyasla daha az hesaplama kaynağı ile öğrenebilirler.’ diyorlar.

Bu, makine okuma anlama yaklaşımlarında standardize edilmiş optimizasyon ve kaynak koruyucu felsefelerin ve sınırlı zaman çerçevelerinde sınırlı kaynaklarla sonuçlar elde etme baskısının bir sonucu olabilir.

Araştırmacılar ayrıca şunları belirttiler:

‘[Çünkü] ‘kısa yol’ hilesi çoğu eğitim sorusunu doğru bir şekilde cevaplamak için kullanılabilir, kalan çözülmemiş sorular modelsin daha karmaşık çözümleri keşfetmesini teşvik etmeyebilir.’

Eğer makalenin sonuçları daha sonra doğrulanırsa, veri ön işlemenin geniş ve sürekli büyüyen alanı, veri setlerindeki ‘gizli ipuçları’nı uzun vadede çözülmesi gereken bir sorun olarak ele alması veya NLP mimarilerini daha zorlu veri alımı rutinlerine öncelik vererek değiştirmesi gerekebilir.