อาลีบาบาพัฒนา Search Engine Simulation AI ที่ใช้ข้อมูลสด

อาลีบาบาได้ร่วมมือกับนักวิจัยจากมหาวิทยาลัยในประเทศจีนพัฒนา Search Engine Simulation AI ที่ใช้ข้อมูลจากโครงสร้างพื้นฐานของอาลีบาบาที่ใช้งานจริงเพื่อพัฒนาโมเดลการจัดอันดับที่ไม่ได้ถูกจำกัดโดยข้อมูล “ประวัติศาสตร์” หรือข้อมูลที่ล้าสมัย

เครื่องมือที่เรียกว่า AESim เป็นการประกาศครั้งที่สองในหนึ่งสัปดาห์ที่ยอมรับความจำเป็นของระบบ AI ที่สามารถประเมินและรวมข้อมูลสดและปัจจุบันแทนการสรุปข้อมูลที่มีอยู่ในขณะนั้น การประกาศครั้งก่อนหน้านี้เป็นจาก Facebook ซึ่งได้เผยโฉม BlenderBot 2.0 โมเดลภาษาที่มีการสำรวจผลลัพธ์การค้นหาอินเทอร์เน็ตแบบเรียลไทม์

วัตถุประสงค์ของโครงการ AESim คือการให้สภาพแวดล้อมทดลองสำหรับการพัฒนา Learning-To-Rank (LTR) ใหม่ๆ ในระบบการค้นหาข้อมูลเชิงพาณิชย์ ในการทดสอบเฟรมเวิร์กนี้ นักวิจัยพบว่ามันสะท้อนถึงประสิทธิภาพออนไลน์ที่มีประโยชน์และสามารถดำเนินการได้

ผู้เขียนบทความ รวมถึงตัวแทนจากมหาวิทยาลัยหนานจิงและแผนกวิจัยของอาลีบาบา ยืนยันว่าการเข้าใกล้ LTR ใหม่ๆ เป็น必要เนื่องจากสองสาเหตุ: ความล้มเหลวของโครงการที่คล้ายกันในด้านการเรียนรู้ลึกที่จะสร้างเทคนิคที่สามารถทำซ้ำได้ และการขาดการถ่ายโอนในด้านประสิทธิภาพของข้อมูลการฝึกอบรมเทียบกับข้อมูลใหม่ในกรณีที่ระบบมีประสิทธิภาพมากกว่า

การเปิดตัว

บทความอ้างว่า AESim เป็นแพลตฟอร์มจำลองการค้นหาอีคอมเมิร์ซที่ใช้ข้อมูลของユーザ์และกิจกรรมที่ใช้งานจริงเป็นครั้งแรก และสามารถสะท้อนถึงประสิทธิภาพออนไลน์ได้อย่างแม่นยำโดยใช้ข้อมูลสดเพียงอย่างเดียว โดยให้พื้นที่ฝึกอบรมสำหรับนักวิจัยในอนาคตเพื่อประเมินวิธีการและนวัตกรรม LTR

โมเดลนี้รวมถึงการออกแบบใหม่สำหรับสเคมาที่ใช้กันอย่างแพร่หลายในเครื่องมือค้นหาอุตสาหกรรม: ขั้นแรกคือการดึงข้อมูลที่เกี่ยวข้องกับคำถามของユーザ์ ซึ่งไม่ได้แสดงให้ユーザ์เห็นทันที แต่จะถูกจัดเรียงโดยโมเดล LTR ที่มีน้ำหนัก จากนั้นผลลัพธ์ที่จัดเรียงแล้วจะถูกส่งผ่านฟิลเตอร์ที่พิจารณาวัตถุประสงค์ของบริษัทในการจัดหาผลลัพธ์ – วัตถุประสงค์ที่อาจรวมถึงปัจจัยการโฆษณาและความหลากหลาย

สถาปัตยกรรมของ AESim

ใน AESim คำถามจะถูกแทนที่ด้วยดัชนีหมวดหมู่ ซึ่งช่วยให้ระบบสามารถดึงข้อมูลจากดัชนีหมวดหมู่ก่อนที่จะส่งไปยังโมเดลการเรียงลำดับที่สามารถปรับแต่งได้ ซึ่งจะสร้างรายการสุดท้าย แม้ว่าเฟรมเวิร์กจะช่วยให้นักวิจัยสามารถศึกษาการจัดอันดับร่วมกันระหว่างโมเดลหลายๆ โมเดล แต่ส่วนนี้จะถูกทิ้งไว้สำหรับการทำงานในอนาคต และการนำไปใช้ในปัจจุบันจะหาวิธีการประเมินที่เหมาะสมที่สุดตามโมเดลเดียว

AESim สร้างการแสดงผลเสมือนที่ครอบคลุม “ユーザ์เสมือน” และคำถามของพวกเขา และใช้การเรียนรู้แบบ Generative Adversarial Network ที่มีการลงโทษการเรียงสับเปลี่ยน (WGAN-GP)

สถาปัตยกรรมประกอบด้วยฐานข้อมูลที่มีข้อมูลหลายล้านรายการซึ่งจัดเรียงตามหมวดหมู่ ระบบการจัดอันดับที่สามารถปรับแต่งได้ โมดูลการให้ข้อเสนอแนะ และชุดข้อมูลสังเคราะห์ที่สร้างโดยส่วนประกอบ GAN โมดูลการให้ข้อเสนอแนะเป็นขั้นตอนสุดท้ายในเวิร์กโฟลว์ ซึ่งสามารถประเมินประสิทธิภาพของโมเดลการจัดอันดับได้

การเรียนรู้แบบ Generative Adversarial Imitation

เพื่อสร้างลอจิกการตัดสินใจของ “โมดูลユーザ์เสมือน” โมดูลการให้ข้อเสนอแนะ (ซึ่งให้ผลลัพธ์สุดท้าย) จะถูกฝึกอบรมผ่านการเรียนรู้แบบ Generative Adversarial Imitation (GAIL) ซึ่งเป็นทฤษฎีที่เสนอโดยนักวิจัยจาก Stanford ในปี 2016 GAIL เป็นแนวคิดที่ไม่ต้องมีโมเดล ซึ่งช่วยให้ระบบสามารถพัฒนานโยบายได้โดยตรงจากข้อมูลผ่านการเรียนรู้แบบเลียนแบบ

ชุดข้อมูลการฝึกอบรมที่พัฒนาโดย AESim มีลักษณะคล้ายกับชุดข้อมูลทางประวัติศาสตร์ที่ใช้ในโมเดลการเรียนรู้แบบดูแลก่อนหน้านี้สำหรับระบบที่คล้ายกัน ความแตกต่างของ AESim คือไม่ขึ้นอยู่กับชุดข้อมูลทางประวัติศาสตร์สำหรับการให้ข้อเสนอแนะ และไม่ถูกจำกัดโดยลำดับของรายการเมื่อข้อมูลการฝึกอบรมเก่าถูกสร้างขึ้น

ส่วนการสร้างของ AESim มุ่งเน้นไปที่การสร้าง “ユーザ์เสมือน” ผ่าน WGAN-GP ซึ่งผลิตคุณลักษณะของユーザ์และคำถามที่ “ปลอม” แล้วพยายามแยกข้อมูลนี้ออกจากข้อมูลユーザ์จริงที่จัดหาโดยเครือข่ายสดที่ AESim สามารถเข้าถึงได้

การทดสอบ

นักวิจัยได้ทดสอบ AESim โดยการนำระบบไปใช้กับ แบบจับคู่ และ ListMLE แต่ละตัวจะต้องให้บริการส่วนแบ่งสุ่มที่ไม่ซ้ำกันของคำถามการค้นหาในบริบทของอัลกอริทึมการเรียงลำดับ

ในขณะนี้ AESim ได้รับการทดสอบเป็นเวลา 10 วัน และแสดงความสม่ำเสมอในระดับที่น่าประทับใจทั่วสามโมเดล แม้ว่านักวิจัยจะสังเกตเห็นว่าการทดสอบเพิ่มเติมของโมดูล Document Context Language Model (DLCM) จะทำงานไม่ดีในสภาพแวดล้อมออฟไลน์ แต่ทำงานได้ดีในสถานการณ์จริง และยอมรับว่าระบบจะแสดงช่องว่างกับตัวแทนจริงเมื่อใช้การกำหนดค่าและโมเดลที่แตกต่างกัน