การศึกษใหม่แสดงให้เห็นว่าผู้คนสามารถเรียนรู้เพื่อระบุเนื้อหาที่สร้างโดยเครื่องจักร

ความซับซ้อนและความสามารถในการเข้าถึงของปัญญาประดิษฐ์ (AI) ที่เพิ่มขึ้นได้ทำให้เกิดความกังวลเก่าแก่เกี่ยวกับผลกระทบต่อสังคม การสร้างชาตบอตที่ทันสมัยที่สุดได้เพิ่มความกังวลเหล่านี้ โดยมีความกลัวเกี่ยวกับความซื่อสัตย์ของตลาดแรงงานและการแพร่กระจายของข่าวปลอมและข้อมูลที่ไม่ถูกต้อง ในแสงแห่งความกังวลเหล่านี้ ทีมนักวิจัยจาก University of Pennsylvania School of Engineering and Applied Science ได้พยายามเพื่อเพิ่มขีดความสามารถให้กับผู้ใช้เทคโนโลยีในการลดความเสี่ยงเหล่านี้

การฝึกอบรมตัวเองเพื่อระบุเนื้อหาที่สร้างโดย AI

งานวิจัย ที่ได้รับการทบทวนโดยผู้ทรงคุณวุฒิ ซึ่งนำเสนอในการประชุม Association for the Advancement of Artificial Intelligence ในเดือนกุมภาพันธ์ 2023 ให้หลักฐานว่าผู้คนสามารถเรียนรู้เพื่อระบุความแตกต่างระหว่างเนื้อหาที่สร้างโดยเครื่องจักรและเนื้อหาที่เขียนโดยมนุษย์
การศึกษา ซึ่งนำโดย Chris Callison-Burch รองศาสตราจารย์ในภาควิชาวิทยาการคอมพิวเตอร์และวิทยาศาสตร์ข้อมูล (CIS) ร่วมกับนักศึกษาระดับ博士 Liam Dugan และ Daphne Ippolito แสดงให้เห็นว่าเนื้อหาที่สร้างโดย AI สามารถตรวจจับได้
“เราได้แสดงให้เห็นว่าผู้คนสามารถฝึกอบรมตัวเองเพื่อระบุเนื้อหาที่สร้างโดยเครื่องจักร” Callison-Burch กล่าว “ผู้คนเริ่มต้นด้วยชุดสมมติฐานเกี่ยวกับประเภทของข้อผิดพลาดที่เครื่องจักรจะทำ แต่สมมติฐานเหล่านี้ไม่จำเป็นต้องถูกต้อง เมื่อเวลาผ่านไป โดยมีตัวอย่างเพียงพอและคำแนะนำอย่างชัดเจน เราสามารถเรียนรู้เพื่อระบุประเภทของข้อผิดพลาดที่เครื่องจักรกำลังทำอยู่”
การศึกษานี้ใช้ข้อมูลที่รวบรวมโดยใช้ “Real or Fake Text?” เกมฝึกอบรมบนเว็บต้นฉบับ เกมฝึกอบรมนี้เปลี่ยนวิธีการทดลองมาตรฐานสำหรับการศึกษาการตรวจจับเป็นการทดลองที่แม่นยำยิ่งขึ้นเกี่ยวกับวิธีการที่ผู้คนใช้ AI เพื่อสร้างเนื้อหา
ใน phương phápมาตรฐาน ผู้เข้าร่วมจะถูกขอให้ระบุในลักษณะใช่หรือไม่ใช่ ว่าเครื่องจักรได้สร้างเนื้อหานั้นหรือไม่ โมเดลของ Penn ปรับปรุงการตรวจจับมาตรฐานให้เป็นงานฝึกอบรมที่มีประสิทธิภาพโดยแสดงตัวอย่างที่ทั้งหมดเริ่มต้นด้วยการเขียนโดยมนุษย์ ตัวอย่างทั้งหมดเปลี่ยนเป็นเนื้อหาที่สร้างโดยเครื่องจักร โดยขอให้ผู้เข้าร่วมระบุว่าพวกเขาเชื่อว่าการเปลี่ยนแปลงนี้เริ่มต้นเมื่อใด ผู้ฝึกอบรมระบุและอธิบายคุณลักษณะของเนื้อหาที่บ่งบอกถึงข้อผิดพลาดและได้รับคะแนน

ผลการศึกษา

ผลการศึกษาชี้ให้เห็นว่าผู้เข้าร่วมได้คะแนนมากกว่าโอกาสโดยสุ่ม ซึ่งเป็นหลักฐานว่าเนื้อหาที่สร้างโดย AI สามารถตรวจจับได้จนถึงระดับหนึ่ง การศึกษานี้ไม่เพียงแต่แสดงถึงอนาคตที่น่าประทับใจและน่าตื่นเต้นสำหรับความสัมพันธ์ของเรากับ AI แต่ยังให้หลักฐานว่าผู้คนสามารถฝึกอบรมตัวเองเพื่อตรวจจับเนื้อหาที่สร้างโดยเครื่องจักร
“ผู้คนกังวลเกี่ยวกับ AI โดยมีเหตุผลที่ดี” Callison-Burch กล่าว “การศึกษาของเรามีจุดหลักฐานเพื่อลดความกังวลเหล่านี้ เมื่อเราสามารถใช้ความมั่นใจเกี่ยวกับเครื่องมือสร้างเนื้อหาของ AI ได้ เราจะสามารถให้ความสนใจกับความสามารถของเครื่องมือเหล่านี้ในการช่วยให้เราเขียนเนื้อหาที่สร้างสรรค์มากขึ้น น่าสนใจมากขึ้น”
Dugan เพิ่มเติม “มีทิศทางที่น่าตื่นเต้นที่คุณสามารถผลักดันเทคโนโลยีนี้ได้ ผู้คนมุ่งเน้นไปที่ตัวอย่างที่น่ากังวล เช่น การลอกเลียนแบบและการแพร่กระจายข่าวปลอม แต่เรารู้ว่าตอนนี้เราสามารถฝึกอบรมตัวเองให้เป็นผู้อ่านและผู้เขียนที่ดีขึ้น”
การศึกษานี้ให้ขั้นตอนแรกที่สำคัญในการลดความเสี่ยงที่เกี่ยวข้องกับเนื้อหาที่สร้างโดยเครื่องจักร เมื่อ AI tiếp tụcพัฒนา ความสามารถของเรในการตรวจจับและนำทางผลกระทบของ AI ก็จะต้องพัฒนาด้วย โดยการฝึกอบรมตัวเองเพื่อระบุความแตกต่างระหว่างเนื้อหาที่เขียนโดยมนุษย์และเนื้อหาที่สร้างโดยเครื่องจักร เราสามารถใช้พลังของ AI เพื่อสนับสนุนกระบวนการสร้างสรรค์ของเราในขณะเดียวกันก็ลดความเสี่ยงของ AI ได้