โมเดลและแพลตฟอร์ม AI
วิศวกร AI พัฒนาเครื่องมือที่สามารถตรวจจับเจตนาของผู้ที่เผยแพร่ข้อมูลที่ไม่ถูกต้อง
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
การรับมือกับข้อมูลที่ไม่ถูกต้องในยุคดิจิทัลเป็นปัญหาที่ซับซ้อน ไม่เพียงแต่ต้องระบุและแก้ไขข้อมูลที่ไม่ถูกต้อง แต่ยังต้องแยกแยะเจตนาของผู้ที่รับผิดชอบต่อการเผยแพร่ข้อมูลดังกล่าว อาจเป็นไปได้ว่าบุคคลหนึ่งเผยแพร่ข้อมูลที่ไม่ถูกต้องโดยไม่ได้ตั้งใจ หรืออาจเป็นเพียงความคิดเห็นเกี่ยวกับเรื่องใดเรื่องหนึ่ง ซึ่งอาจถูกรายงานว่าเป็นข้อเท็จจริงในภายหลัง ทีมนักวิจัยและวิศวกร AI จากมหาวิทยาลัย Darthmouth ได้สร้างเฟรมเวิร์กที่สามารถใช้ในการอนุมานความคิดเห็นจาก “ข่าวปลอม” ได้
ตามรายงานของ ScienceDaily การศึกษาของทีมนักวิจัยจาก Darthmouth ได้รับการตีพิมพ์ในวารสาร Journal of Experimental & Theoretical Artificial Intelligence ในขณะที่การศึกษาก่อนหน้านี้ได้พยายามระบุและต่อสู้กับข่าวปลอม แต่นี่อาจเป็นการศึกษาที่มุ่งหมายเพื่อระบุเจตนาของผู้พูดในข่าวที่ไม่ถูกต้อง การเล่าเรื่องที่แท้จริงอาจถูกบิดเบือนเป็นรูปแบบที่หลอกลวงได้ แต่การแยกแยะว่าเจตนาในการหลอกลวงมีหรือไม่นั้นเป็นสิ่งสำคัญ ทีมนักวิจัยอ้างว่าเจตนามีความสำคัญเมื่อพิจารณาถึงข้อมูลที่ไม่ถูกต้อง เนื่องจากการหลอกลวงสามารถเกิดขึ้นได้เฉพาะเมื่อมีเจตนาในการหลอกลวงเท่านั้น หากบุคคลไม่รู้ตัวว่าตนเองกำลังเผยแพร่ข้อมูลที่ไม่ถูกต้อง หรือหากพวกเขาแค่แสดงความคิดเห็นเกี่ยวกับเรื่องใดเรื่องหนึ่ง ก็ไม่สามารถมีการหลอกลวงได้
ยูจีน ซานโตส จูเนียร์ ศาสตราจารย์จาก Thayer School of Engineering ของ Darthmouth อธิบายกับ ScienceDaily ว่าเหตุใดโมเดลของพวกเขาจึงพยายามแยกแยะเจตนาในการหลอกลวง:
“เจตนาในการหลอกลวงที่มีจุดมุ่งหมายเพื่อหลอกลวงผู้ฟังโดยเจตนาเป็นภัยคุกคามที่ใหญ่กว่าความผิดพลาดที่ไม่ได้ตั้งใจ เพื่อความเข้าใจของเรา อัลกอริทึมของเราคือวิธีเดียวที่สามารถตรวจจับเจตนาในการหลอกลวงและแยกแยะการกระทำที่ชั่วร้ายออกจากการกระทำที่ดี”
เพื่อสร้างโมเดลของพวกเขา ทีมนักวิจัยได้วิเคราะห์ลักษณะของการให้เหตุผลที่หลอกลวง อัลกอริทึมที่ได้ผลสามารถแยกแยะเจตนาในการหลอกลวงออกจากการสื่อสารในรูปแบบอื่นได้โดยการมุ่งเน้นไปที่ความไม่สอดคล้องกันระหว่างข้อโต้แย้งในอดีตและคำกล่าวปัจจุบันของบุคคล โมเดลที่ทีมนักวิจัยสร้างขึ้นต้องการข้อมูลจำนวนมากที่สามารถใช้เพื่อวัดว่าบุคคลหนึ่งเบี่ยงเบนไปจากข้อโต้แย้งในอดีตได้อย่างไร ข้อมูลที่ทีมนักวิจัยใช้ในการฝึกอบรมโมเดลของพวกเขามาจากการสำรวจความคิดเห็นเกี่ยวกับหัวข้อที่มีการถกเถียงกัน มีผู้ให้ความคิดเห็นมากกว่า 100 คนเกี่ยวกับหัวข้อที่มีการถกเถียงกันเหล่านี้ นอกจากนี้ยังมีข้อมูลที่ดึงมาจากคำวิจารณ์ของโรงแรม 20 แห่ง ซึ่งประกอบด้วยคำวิจารณ์ปลอม 400 รายการและคำวิจารณ์จริง 800 รายการ
ตามที่ซานโตส ระบุ เฟรมเวิร์กที่นักวิจัยพัฒนาได้สามารถถูกปรับปรุงและนำไปใช้โดยองค์กรข่าวและผู้อ่าน เพื่อให้พวกเขาได้วิเคราะห์ข้อมูลใน “ข่าวปลอม” ผู้อ่านสามารถตรวจสอบบทความสำหรับการมีอยู่ของความคิดเห็นและกำหนดให้ตนเองว่าข้อโต้แย้งเชิงตรรกะถูกใช้หรือไม่ ซานโตสยังระบุด้วยว่าทีมนักวิจัยต้องการตรวจสอบผลกระทบของข้อมูลที่ไม่ถูกต้องและผลกระทบที่ตามมา
วัฒนธรรมยอดนิยมมักพรรณนาถึงพฤติกรรมที่ไม่ใช่คำพูด เช่น น้ำเสียงของใบหน้า เป็นตัวบ่งชี้ที่บุคคลนั้นกำลังโกหก แต่นักเขียนของการศึกษานี้ชี้ว่าคำใบ้พฤติกรรมเหล่านี้ไม่ใช่ตัวบ่งชี้ที่เชื่อถือได้เสมอไป เดคิง ลี ผู้ร่วมเขียนบทความอธิบายว่าการวิจัยของพวกเขาพบว่าโมเดลที่อาศัยเจตนาในการให้เหตุผลมีประสิทธิภาพมากกว่าในการแยกแยะการโกหกที่ตั้งใจออกจากการบิดเบือนข้อมูลในรูปแบบอื่น ลีระบุว่าโมเดลเจตนาในการให้เหตุผล “มีประสิทธิภาพมากกว่าในการแยกแยะการโกหกที่ตั้งใจออกจากการบิดเบือนข้อมูลในรูปแบบอื่น”
งานของนักวิจัยจาก Darthmouth ไม่ใช่ความก้าวหน้าล่าสุดเพียงอย่างเดียวในการต่อสู้กับข้อมูลที่ไม่ถูกต้องด้วย AI บทความข่าวที่มีหัวข้อที่น่าดึงดูดมักจะซ่อนข้อมูลที่ไม่ถูกต้อง ตัวอย่างเช่น อาจบอกเป็นนัยว่าสิ่งหนึ่งเกิดขึ้นเมื่อในความเป็นจริงแล้วสิ่งอื่นเกิดขึ้น
ตามที่ AINews รายงาน ทีมนักวิจัยจากมหาวิทยาลัย Arizona State และ Penn State ได้ร่วมมือกันเพื่อสร้าง AI ที่สามารถตรวจจับหัวข้อที่น่าดึงดูดได้ นักวิจัยขอให้ผู้คนเขียนหัวข้อที่น่าดึงดูดด้วยตนเอง และเขียนโปรแกรมเพื่อสร้างหัวข้อที่น่าดึงดูด ทั้งสองรูปแบบของหัวข้อนี้ถูกใช้ในการฝึกอบรมโมเดลที่สามารถตรวจจับหัวข้อที่น่าดึงดูดได้ ไม่ว่าจะถูกเขียนโดยเครื่องจักรหรือมนุษย์
ตามที่นักวิจัยระบุ อัลกอริทึมของพวกเขามีความแม่นยำมากกว่า AI อื่นๆ ที่เคยพัฒนาไว้ในการตรวจจับหัวข้อที่น่าดึงดูด Dongwon Lee ผู้นำโครงการและศาสตราจารย์จาก College of Information Sciences and Technology ของ Penn State อธิบายว่าการทดลองของพวกเขาชี้ให้เห็นถึงประโยชน์ของการสร้างข้อมูลด้วย AI และการนำข้อมูลกลับเข้าสู่กระบวนการฝึกอบรม
“ผลลัพธ์นี้น่าสนใจมาก เนื่องจากเราได้แสดงให้เห็นแล้วว่าข้อมูลการฝึกอบรมที่สร้างโดยเครื่องจักรสามารถนำกลับเข้าสู่กระบวนการฝึกอบรมเพื่อฝึกโมเดลการเรียนรู้ของเครื่องจักรที่หลากหลายให้มีประสิทธิภาพที่ดีขึ้น” ลีกล่าว
