Alibaba, Gerçek Zamanlı Veri Kullanan Arama Motoru Simülasyonu AI Geliştirdi

Çin’deki akademik araştırmacılarla işbirliği içinde Alibaba, e-ticaret devinin canlı altyapısından gerçek dünya verilerini kullanarak, “tarihsel” veya güncel olmayan bilgilerle sınırlı olmayan yeni sıralama modelleri geliştirmek için bir arama motoru simülasyonu AI geliştirdi.

AESim olarak adlandırılan motor, AI sistemlerinin canlı ve güncel verilerini değerlendirerek ve entegre edebilmesi ihtiyacını kabul eden bir haftada yapılan ikinci büyük açıklamadır. Daha önceki açıklama, Facebook’tan geldi ve son hafta yayınladı BlenderBot 2.0 dil modelini, sorgulara yanıt olarak internet arama sonuçlarını canlı olarak sorgulayan bir NLP arayüzü.

AESim projesinin amacı, ticari bilgi alma sistemlerinde yeni Öğrenme-Sıralama (LTR) çözümleri, algoritmalar ve modeller için deneysel bir ortam sağlamaktır. Çerçevenin test edilmesi, araştırmacıların bulgularının, yararlı ve uygulanabilir parametreler içinde online performansı doğru bir şekilde yansıttığını gösterdi.

Makalenin yazarları, Nanjing Üniversitesi’nden ve Alibaba’nın araştırma bölümünden dört temsilci, LTR simülasyonlarına yeni bir yaklaşımın iki nedenle gerekli olduğunu iddia ediyorlar: derin öğrenme alanında benzer girişimlerin çoğunun, uygulanabilir teknikler oluşturmak için başarısız olması ve sistemlerin ilk olarak daha etkili olduğu durumlarda, eğitim verisi ile yeni verilerin performansı arasındaki aktarılabilirlik eksikliği.

Canlı Yayın

Makale, AESim’in canlı ve güncel kullanıcı ve aktivite verilerine dayalı ilk e-ticaret simülasyon platformu olduğunu ve canlı verilerin tek taraflı kullanımıyla online performansı doğru bir şekilde yansıtabileceğini iddia ediyor. Bu, sonraki araştırmacılar için LTR metodolojileri ve yenilikleri değerlendirmek için bir mavi gökyüzü eğitim alanı sağlıyor.

Model, endüstriyel arama motorları için tipik bir şema üzerinde yeni bir yaklaşım içermektedir: ilk aşama, kullanıcı sorgusuna ilgili öğelerin alınmasıdır; bu öğeler kullanıcıya ilk olarak sunulmaz, ancak önce ağırlıklı bir LTR modeli tarafından sıralanır. Daha sonra sıralanan sonuçlar, şirketin sonuçları sağlamadaki hedeflerini dikkate alan bir filtreden geçer; bu hedefler reklam ve çeşitlilik faktörlerini içerebilir.

AESim Mimarisi

AESim’de sorgular, kategori indeksleri ile değiştirilir; bu, sistem için kategori indeksinden öğeleri almasını ve sonra da özelleştirilebilir bir yeniden sıralayıcıya geçmesini sağlar. Çerçeve, araştırmacıların birden fazla model boyunca sıralama etkilerini incelemesine olanak tanır, ancak bu yön gelecekteki çalışmalara bırakılmaktadır ve hiện tại, sistem otomatik olarak tek bir model temelinde ideal değerlendirmeyi arar.

AESim Mimarisi. Kaynak: https://arxiv.org/pdf/2107.07693.pdf

AESim, makine öğrenimi mimarisinde “sanal kullanıcı” ve sorgusunu kapsayan gömme (sanal temsil) oluşturur ve Wasserstein Generative Adversarial Network ile Gradient Penalty (WGAN-GP) yaklaşımını kullanır.

Mimari, milyonlarca kullanılabilir öğenin kategorilere göre sıralandığı bir veritabanı, özelleştirilebilir bir sıralama sistemi, bir geri bildirim modülü ve GAN tabanlı bileşenlerin ürettiği sentetik veri kümelerinden oluşur. Geri bildirim modülü, iş akışının son aşamasıdır ve en son sıralama modelinin performansını değerlendirebilir.

Generatif Karşıt Taklit Öğrenimi

“Sanal Kullanıcı Modülü”nün karar mantığını modellemek için, geri bildirim modülü (sonuçları sağlayan), 2016 yılında Stanford araştırmacıları tarafından önerilen bir teori olan Generatif Karşıt Taklit Öğrenimi (GAIL) ile eğitilir. GAIL, bir sistem için doğrudan veri üzerinden bir politika geliştirmeyi sağlayan model serbest bir paradigmadır.

AESim tarafından geliştirilen eğitim setleri, benzer sistemler için kullanılan önceki denetimli öğrenme modellerindeki statik, tarihi veri kümeleriyle esasen aynıdır. AESim ile ilgili fark, geri bildirim için statik bir veri kümesine bağlı olmaması ve eğitim verisi derlendiğinde oluşturulan öğe sıralamaları tarafından sınırlı olmamasıdır.

AESim’in üretken yönü, WGAN-GP kullanarak sanal bir kullanıcı oluşturmak ve sonra bu sahte veriyi canlı ağlara erişim sağlayan gerçek kullanıcı verisinden ayırt etmeye çalışmaktadır.

Endüstriyel arama motoru simülasyonunda sahte ve gerçek kullanıcıların bir bulut temsili.

Test Edilmesi

Araştırmacılar, AESim’i, her biri yeniden sıralama algoritması bağlamında, arama sorgularının rastgele ve kesişmeyen bir dilimini sunmak zorunda olan çift yönlü, noktasal ve ListMLE örneklerini sisteme dağıtarak test etti.

Bu noktada AESim, hızla değişen ve çeşitli canlı verilerle benzer şekilde zorlanmaktadır; bu nedenle sonuçlar genel performans bağlamında değerlendirilmiştir.

On gün boyunca test edilen AESim, üç model boyunca şaşırtıcı bir tutarlılık gösterdi; ancak araştırmacılar, bir Belge Bağlam Dili Modeli (DLCM) modülünün offline ortamda kötü performans gösterdiğini, ancak canlı ortamda çok iyi performans gösterdiğini ve sistemin canlı karşılıkları ile uyumsuzluklar göstereceğini, test edilen yapılandırmaya ve modellere bağlı olarak kabul ettiler.