Facebook ใช้ Bot และ Simulation เพื่อลดพฤติกรรมที่ไม่เหมาะสมของผู้ใช้

Facebook (META ) ได้ออกแบบ AI ใหม่ที่สามารถตรวจจับพฤติกรรมที่เป็นอันตรายได้ดีขึ้น ตามรายงานของ The Verge นักวิจัยที่แผนก AI ของ Facebook ในลอนดอนได้สร้างซิมูเลเตอร์ Facebook ที่ขับเคลื่อนด้วย AI ที่เรียกว่า “WW” ซึ่งใช้เพื่อจำลองพฤติกรรมของนักต้มตุ๋น ผู้ขายสินค้าผิดกฎหมาย ผู้ส่งสแปม และผู้กระทำผิดอื่นๆ บนซิมูเลเตอร์ Facebook

ซิมูเลเตอร์ Facebook ที่เรียกว่า “WW” ซึ่งเป็นตัวย่อของ “WWW” ได้รับการเปิดเผยโดย Facebook ในเอกสาร ที่เผยแพร่ในเดือนเมษายนของปีนี้ WW เป็นซิมูเลเตอร์ Facebook ที่ถูกโคลนและถูกปิดล้อมเพื่อช่วยในการทดสอบเครื่องมือและอัลกอริทึมของ Facebook

บริษัทได้เปิดเผยรายละเอียดเพิ่มเติมเกี่ยวกับการใช้งาน WW หนึ่งในนั้นคือการจำลองพฤติกรรมที่ไม่เหมาะสมโดยใช้ AI โดยใช้บอทหลายตัวเพื่อจำลองพฤติกรรม เช่น การต้มตุ๋น การส่งสแปม การกลั่นแกล้ง และอื่นๆ นักวิจัยหวังว่าจะสามารถตรวจจับและป้องกันพฤติกรรมที่เป็นอันตรายของผู้ใช้ได้ดีขึ้น

ตามคำกล่าวของวิศวกร Facebook Mark Harman ที่อ้างโดย The Verge คาดว่า WW จะเป็นเครื่องมือที่มีคุณค่าในการลดพฤติกรรมที่เป็นอันตรายบน Facebook ตัวอย่างเช่น Harman เชื่อว่าการจำลองสามารถใช้ในการสร้างวิธีการตรวจจับนักต้มตุ๋นที่ดีขึ้น

วิศวกรของ Facebook ได้สร้างบอทสองกลุ่มเพื่อจำลองพฤติกรรมของนักต้มตุ๋นในโลกแห่งความเป็นจริง กลุ่มหนึ่งเป็นเป้าหมายและอีกกลุ่มเป็นนักต้มตุ๋น นักต้มตุ๋นมักจะค้นหาผู้ใช้ที่เป็นเป้าหมายโดยการสำรวจเครือข่ายของเพื่อนๆ ในการทำเช่นนี้ บอทนักต้มตุ๋นได้ถูกสร้างขึ้นเพื่อจำลองพฤติกรรมนี้ ในขณะที่วิศวกรทดลองกับวิธีการต่างๆ ในการป้องกันไม่ให้บอทที่บริสุทธิ์ถูกต้มตุ๋น

มีหลายวิธีที่ซิมูเลเตอร์ Facebook ต่างจากของจริง หนึ่งในนั้นคือซิมูเลเตอร์ไม่มีองค์ประกอบที่มองเห็นได้ ดังนั้นข้อมูลที่ได้รับจากซิมูเลเตอร์จึงอยู่ในรูปแบบของข้อมูลตัวเลขและสถิติเกี่ยวกับการโต้ตอบระหว่างบอท อีกวิธีหนึ่งคือทุกตัวละครในซิมูเลเตอร์เป็นบอท ซึ่งไม่สามารถโต้ตอบกับผู้ใช้จริงได้ ซิมูเลเตอร์ WW ยังไม่สามารถคำนึงถึงสิ่งต่างๆ เช่น ความตั้งใจของผู้ใช้หรือเนื้อหาของการสนทนา เนื่องจากเฉพาะการกระทำของการส่งข้อความ การแสดงความคิดเห็น ฯลฯ เท่านั้นที่ถูกจำลอง

ตามคำกล่าวของ Harman การทดลองกับข้อจำกัดนี้คล้ายกับการที่ผู้วางแผนเมืองพยายามลดความเร็วบนถนนบางส่วนโดยการวาง “speed bumps” เช่นเดียวกับการที่ผู้วางแผนเมืองจะทดลองกับการสร้าง speed bumps และรวบรวมข้อมูลเกี่ยวกับความเป็นประโยชน์ วิศวกรได้วิเคราะห์ว่าข้อความและโต้ตอบระหว่างบอทมีการเปลี่ยนแปลงอย่างไรในซิมูเลเตอร์ของตนเมื่อพวกเขาเปลี่ยนพารามิเตอร์และข้อจำกัด Harman อธิบายว่าเป้าหมายคือการได้แนวคิดเกี่ยวกับการเปลี่ยนแปลงที่สามารถทำได้กับแพลตฟอร์ม Facebook เพื่อป้องกันพฤติกรรมที่เป็นอันตรายโดยไม่จำกัดการใช้งานปกติหรือการไหลของการจราจร

Harman ยังอธิบายอีกว่าประโยชน์ของการใช้ WW คือสามารถดำเนินการได้บนขนาดใหญ่ ทำให้นักวิจัยของ Facebook สามารถตรวจสอบผลที่ตามมาที่อาจเกิดขึ้นจากการตั้งค่าเล็กๆ น้อยๆ ได้หลายพันรายการผ่านการจำลอง

ในอนาคต นักวิจัยอาจปล่อยให้บอทเล่นและทดลองกันเองเพื่อดูว่าพวกมันโต้ตอบกันอย่างไร ซึ่งสามารถเป็นสิ่งที่นักวิจัยไม่ได้คาดคิดมาก่อน

“ในขณะนี้ จุดสนใจหลักคือการฝึกบอทให้เลียนแบบสิ่งที่เรารู้ว่าเกิดขึ้นบนแพลตฟอร์ม แต่ในทางทฤษฎีและในทางปฏิบัติ บอทสามารถทำสิ่งที่เรา ไม่ เคยเห็นมาก่อน” Harman กล่าว “สิ่งนี้เป็นสิ่งที่เราต้องการจริงๆ เพราะสุดท้ายเราต้องการที่จะก้าวหน้ามากกว่าการตามจับพฤติกรรมที่ไม่ดี”

หากทุกอย่างดำเนินไปได้ด้วยดี Facebook อาจเริ่มทำการเปลี่ยนแปลงตามการจำลองของ WW ภายในปี 2020