Facebook ใช้ Bot และ Simulation เพื่อลดพฤติกรรมที่ไม่ดีของผู้ใช้

Facebook ได้ออกแบบ AI ใหม่ที่มีจุดมุ่งหมายเพื่อตรวจจับพฤติกรรมที่เป็นอันตราย ที่ทำลาย และผิดกฎหมายได้ดีขึ้น ตามรายงานของ The Verge นักวิจัยที่แผนก AI ของ Facebook ในลอนดอนได้สร้างซิมูเลเตอร์ Facebook ที่ขับเคลื่อนด้วย AI ที่เรียกว่า “WW” ซึ่งใช้เพื่อจำลองพฤติกรรมของนักต้มตุ๋น ผู้ขายสินค้าผิดกฎหมาย ผู้ส่งสแปม และผู้กระทำผิดอื่นๆ บนเวอร์ชันซิมูเลตของ Facebook

ซิมูเลเตอร์ Facebook ที่เรียกว่า “WW” ซึ่งมีชื่อมาจากการย่อ “WWW” ได้รับการเปิดเผยโดย Facebook ในเอกสาร ที่เผยแพร่ในเดือนเมษายนของปีนี้ WW เป็นเวอร์ชันที่โคลนและถูกปิดล้อมของ Facebook ซึ่ง旨在ช่วยในการทดสอบเครื่องมือและอัลกอริทึมของ Facebook

บริษัทได้เผยแพร่รายละเอียดเพิ่มเติมเกี่ยวกับการใช้งาน WW ซึ่งหนึ่งในนั้นคือการจำลองพฤติกรรมที่ไม่ดีโดยใช้ AI โดยใช้บอทหลายตัวเพื่อจำลองพฤติกรรม เช่น การต้มตุ๋น การส่งสแปม การคุกคาม และอื่นๆ นักวิจัยหวังว่าจะสามารถตรวจจับและป้องกันพฤติกรรมที่เป็นอันตรายของผู้ใช้ได้ดีขึ้น

ตามคำกล่าวของวิศวกร Facebook Mark Harman ที่อ้างถึงโดย The Verge คาดว่า WW จะเป็นเครื่องมือที่มีคุณค่าในการลดพฤติกรรมที่เป็นอันตรายต่างๆ บน Facebook ตัวอย่างเช่น Harman เชื่อว่าซิมูเลชันสามารถใช้เพื่อสร้างวิธีการตรวจจับนักต้มตุ๋นที่ดีขึ้น

วิศวกรของ Facebook ได้ลอกเลียนพฤติกรรมของนักต้มตุ๋นบน Facebook ในชีวิตจริงโดยการสร้างสองกลุ่มของบอท: กลุ่มเป้าหมายและกลุ่มนักต้มตุ๋น นักต้มตุ๋นมักจะค้นหาผ่านเครือข่ายของเพื่อน โดยสำรวจเพื่อนของผู้ใช้ เพื่อค้นหาเป้าหมายที่เป็นไปได้ พฤติกรรมนี้ถูกลอกเลียนโดยบอทนักต้มตุ๋นเมื่อวิศวกรทดลองกับวิธีการต่างๆ ในการป้องกันไม่ให้บอทที่บริสุทธิ์ถูกต้มตุ๋น วิธีการเหล่านี้รวมถึงข้อจำกัดหลายประการ เช่น การจำกัดจำนวนข้อความส่วนตัวที่บอทสามารถส่งในหนึ่งนาที

มีหลายวิธีที่ซิมูเลชันของ Facebook แตกต่างจากของจริง หนึ่งในนั้นคือซิมูเลชันของ Facebook ไม่มีองค์ประกอบภาพใดๆ ดังนั้นข้อมูลที่ได้รับจากซิมูเลชันจึงอยู่ในรูปแบบของข้อมูลเชิงตัวเลขและสถิติเกี่ยวกับการโต้ตอบระหว่างบอท อีกประการหนึ่งคือทุกตัวละครในซิมูเลชันเป็นบอท ซึ่งไม่สามารถโต้ตอบกับผู้ใช้จริงได้ ซิมูเลชัน WW ยังไม่สามารถคำนึงถึงสิ่งต่างๆ เช่น ความตั้งใจของผู้ใช้หรือเนื้อหาของการคุยใดๆ ได้ เนื่องจากเฉพาะการกระทำ เช่น การส่งข้อความ การแสดงความคิดเห็น เป็นต้น ที่ถูกซิมูเลต

ตามคำกล่าวของ Harman การทดลองนี้กับข้อจำกัดคล้ายกับการที่ผู้วางแผนเมืองพยายามลดความเร็วบนถนนบางส่วนโดยการวาง “speed bumps” คล้ายกับที่ผู้วางแผนเมืองจะทดลองการสร้าง speed bumps และรวบรวมข้อมูลเกี่ยวกับความเป็นประโยชน์ วิศวกรวิเคราะห์ว่าข้อความและโต้ตอบระหว่างบอทเปลี่ยนแปลงไปอย่างไรในซิมูเลเตอร์ของตนเมื่อพวกเขาทดลองกับพารามิเตอร์และข้อจำกัดต่างๆ Harman อธิบายว่าจุดมุ่งหมายคือการได้แนวคิดเกี่ยวกับการเปลี่ยนแปลงที่สามารถทำได้กับแพลตฟอร์มของ Facebook เพื่อป้องกันพฤติกรรมที่เป็นอันตรายโดยไม่จำกัดพฤติกรรมปกติหรือการไหลของการจราจร

Harman ยังอธิบายอีกว่าประโยชน์ของการใช้ WW สำหรับการซิมูเลชันคือการกระทำที่พวกเขาศึกษากำลังเกิดขึ้นบนโครงสร้างพื้นฐาน Facebook จริง ซึ่งให้ข้อมูลที่ดีขึ้นเกี่ยวกับว่าการเปลี่ยนแปลงที่เสนออาจส่งผลกระทบต่อผู้ใช้ Facebook จริงๆ การใช้ผลการวิจัยเหล่านี้จะต้องรอเป็นเวลาสักครู่ เนื่องจากตอนนี้ WW และซิมูเลชันอยู่ในขั้นวิจัย Harman และนักวิจัยของ Facebook อื่นๆ ยังไม่สามารถนำผลการวิจัยไปใช้กับเวอร์ชันสดของ Facebook ได้ เนื่องจากยังมีงานที่ต้องทำอีกมาก กลุ่มวิจัยต้องแน่ใจว่าซิมูเลชันที่พวกเขาสร้างขึ้นตรงกับพฤติกรรมมนุษย์จริง

ประโยชน์หลักของ WW ตาม Harman คือความสามารถในการทำงานในขนาดใหญ่ ทำให้นักวิจัยของ Facebook สามารถตรวจสอบผลที่ตามมาที่อาจเกิดขึ้นจากหลายๆ การปรับเปลี่ยนเล็กๆ น้อยๆ ทั้งหมดผ่านซิมูเลชันที่สร้างขึ้น

ในอนาคต นักวิจัยอาจปล่อยให้บอทเล่นและทดลองเป็นเวลาสักครู่ เพื่อดูว่าพวกมันโต้ตอบกันอย่างไร ซึ่งเป็นสิ่งที่นักวิจัยไม่ได้คาดการณ์ไว้

“ในขณะนี้ จุดสนใจหลักคือการฝึกบอทให้เลียนแบบสิ่งที่เรารู้ว่าเกิดขึ้นบนแพลตฟอร์ม แต่ในทางทฤษฎีและในทางปฏิบัติ บอทสามารถทำสิ่งที่เรา ไม่ เห็นมาก่อน” Harman กล่าว “นั่นเป็นสิ่งที่เราต้องการจริงๆ เนื่องจากเราต้องการที่จะก้าวหน้ากว่าพฤติกรรมที่ไม่ดีมากกว่าการเล่นตามจับ”

หากทุกอย่างดำเนินไปด้วยดี Facebook อาจเริ่มทำการเปลี่ยนแปลงตามซิมูเลชันของ WW โดยปลายปี 2020