มุมมองของ Anderson
การใช้ ‘ความน่าจะเป็น’ เป็นมาตรการตรวจจับ Deepfake
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
หากวิดีโอและเสียงที่สร้างโดย AI มีคุณภาพดีเพียงพอ ระบบตรวจจับ deepfake ที่อาศัยอาร์ติแฟคต์ทางภาพหรือสัญญาณแบบดั้งเดิมจะไม่ทำงานอีกต่อไป แต่เนื่องจากผู้คนมักจะไม่หันเหจากพฤติกรรมที่คาดเดาได้ อาจเป็นไปได้ที่ ‘ความน่าจะเป็น’ จะถูกนำมาใช้มากขึ้นเป็นสัญญาณของว่าวิดีโอหรือข่าวลือมีความน่าจะเป็นจะจริงหรือไม่ ในช่วงต้นปี 1990 นักฟุตบอลและผู้บรรยายกีฬาทีวีคนดังของอังกฤษ David Icke ความคิดเห็น เปิดเผย ในรายการชั้นนำว่าเขาเป็น ‘ลูกของพระเจ้า’
– การเปิดเผยที่ไม่คาดคิดและแปลกใหม่ที่จะพัฒนาไปสู่ทฤษฎีสมคบคิดที่ซับซ้อนและยั่งยืนในหลายทศวรรษต่อมา เมื่อไม่มีการใช้โซเชียลมีเดียและ AI ในช่วงต้นปี 1990 ระบบทำนายไม่สามารถทำนายการประกาศของ Icke ได้ ซึ่งเท่าที่จำได้ ก็ไม่มีการทำนายล่วงหน้ามาก่อนหลายปีแล้ว แต่ถ้าหาก AI มีอยู่แล้วในตอนนั้นอาจต้องใช้เวลาสักระยะกว่าจะโน้มน้าวให้คนหมู่มากเชื่อว่าการประกาศของ Icke เป็นเรื่องจริง ไม่ได้มาจาก Google Veo 3 หรือเฟรมเวิร์ก deepfake อื่นๆ ที่คล้ายกัน—ใช้เวลาเพียง 6-12 เดือนที่ผ่านมาเท่านั้นที่วิธีการ deepfake ด้วย AI พัฒนาขึ้นจนสามารถตอบสนองต่อการคาดการณ์ของสื่อเกี่ยวกับ deepfake ในการแทรกแซงการเลือกตั้ง และมีความสามารถในการสร้างเนื้อหาปลอมที่ยากต่อการลบออกได้อย่างรวดเร็วในวัฒนธรรมที่น่าเชื่อถือมากขึ้น จนถึงปัจจุบัน ผลลัพธ์วิดีโอจาก AI มักไม่ถึงระดับความสมจริงเนื่องจากข้อจำกัดทางเทคนิคและความแตกต่างที่เพิ่มขึ้นระหว่างโมเดลที่มีข้อจำกัดในตะวันตกและโมเดลที่ไร้ขีดจำกัดที่เปิดเผยโดยจีน อย่างไรก็ตาม ผมสังเกตเห็นในงานวิจัยล่าสุดว่ามีการยอมรับความพ่ายแพ้ในสงครามเย็นนี้ ตัวอย่างเช่น ในงานวิจัยใหม่****การเสื่อมถอยของการตรวจจับ deepfake**†: ‘(เรา) สันนิษฐานว่าวิดีโอที่สร้างโดย AI จะยังคงมีคุณสมบัติที่เรียนรู้ได้ซึ่งสามารถแยกแยะระหว่างวิดีโอจริงและวิดีโอปลอมได้’ แต่เมื่อความสามารถของ AI ที่สร้างข้อมูลที่มีลักษณะคล้ายกันเพิ่มขึ้นอย่างรวดเร็ว สมมติฐานนี้อาจจะพังทลายลงได้ อย่างไรก็ตาม เอกสารเดียวกันยอมรับว่าวิธีการแก้ปัญหาโดยอาศัยแหล่งที่มา เช่น ‘ในสถานการณ์ดังกล่าว วิธีการติดป้ายกำกับและติดตามแหล่งที่มาจะเป็นทางเลือกเดียวสำหรับการรักษาความไว้วางใจในสื่อดิจิทัล’ Content Authenticity Initiative (และข้อเสนอการวิจัยขนาดเล็ก อื่นๆ ในช่วง 7-8 ปีที่ผ่านมา) ต้องการการนำไปใช้อย่างกว้างขวางจนไม่สมจริง และเอกสารจบด้วยการถอยกลับโดยทั่วไปหากไม่พ่ายแพ้ หากวิธีการตรวจจับ deepfake โดยอาศัยอาร์ติแฟคต์ทางภาพหรือสัญญาณอื่นๆ ถูกพัฒนาให้ล้ำหน้าโดย AI จะเป็นผลที่ตามมาที่สร้างข้อมูล และการนำไปใช้ของระบบป้ายกำกับหรือระบบติดตามแหล่งที่มาในระดับโลกต้องเผชิญกับอุปสรรคเชิงลอจิสติกส์ที่หลากหลาย คุณลักษณะกลางที่สามที่สามารถแทนที่สิ่งเหล่านี้เป็นตัวบ่งชี้ของการปลอมแปลงที่อาจเกิดขึ้นได้คืออะไร หรือเราต้องยอมรับกับโลกที่ทุกสื่ออยู่ภายใต้ความสงสัย และ Liar’s Dividend
กราฟความรู้
ดูเหมือนว่าถึงเวลาที่จะใช้ และ ความน่าจะเป็น ของ ‘เหตุการณ์ที่รายงาน’ เป็นคุณลักษณะสำคัญในการตรวจจับ deepfake มากขึ้น นอกจากนี้ เนื่องจากระบบ AI ที่สร้างวิดีโอและเสียงมีความคล้ายคลึงกันมากขึ้น อาจถึงเวลาที่จะรวมเส้นทางวิจัยที่แยกจากกันของ ‘ข่าวปลอม’ (ในฐานะเหตุการณ์เรื่องราวข้อความ)และภาพวิดีโอที่ปลอมแปลง ความน่าเชื่อถือ การวัด สำหรับการตรวจจับ deepfake ไม่เหมือนกับการ ความน่าจะเป็น RAG -aided การตรวจสอบข้อเท็จจริง หมายความว่าโมเดล AI อาจนำผลลัพธ์จากเว็บปัจจุบันมาใช้เพื่อเพิ่มพูนความรู้เกี่ยวกับเหตุการณ์ที่เกิดขึ้นหลังจากวันที่ตัดข้อมูลของโมเดลและ/หรือเพื่อยืนยันข้อกล่าวหาของตนเอง ในทางกลับกัน มันจะทำการคาดการณ์โดยอาศัยแนวโน้มทางสถิติที่บ่งชี้โดยทั่วไป ซึ่งมาจากรูปแบบทางประวัติศาสตร์ที่สอดคล้องกับการสืบค้นปัจจุบัน ในความหมาย nàyวิธีการโดยอาศัยความน่าจะเป็นใกล้เคียงกับการวิเคราะห์ทางสถิติ มากกว่าแนวทางสมัยใหม่ในสถานการณ์ปัจจุบันของการเรียนรู้ของเครื่อง แม้ว่าในอดีตจะถูกเข้ามาแทนที่โดยแนวทางสมัยใหม่ในยุค Transformers กราฟความรู้กำลังฟื้นตัวในพื้นที่
Enterprise และดูเหมือนจะเหมาะสมสำหรับการใช้ ‘ความน่าจะเป็น’ ในการตรวจจับ deepfake กราฟความรู้ที่เรียบง่ายแสดงให้เห็นว่าบุคคล สถานที่
แหล่งที่มา กราฟความรู้เป็นวิธีการจัดระเบียบข้อมูลโดยการแมปสิ่งของในโลกแห่งความเป็นจริง เช่น บุคคล
ศิลปะ และเหตุการณ์สามารถเชื่อมโยงกันผ่านความสัมพันธ์ที่มีป้ายกำกับ ทำให้เครื่องสามารถให้เหตุผลเกี่ยวกับหน่วยงานและความเชื่อมโยงในโลกแห่งความเป็นจริง บริษัท เหตุการณ์ หรือความคิดเป็นเครือข่ายของข้อเท็จจริงที่เชื่อมโยงกัน แต่ละหน่วยย่อยเป็นโหนด และลิงก์ระหว่างโหนด (ขอบ) อธิบายว่าโหนดเหล่านั้นเกี่ยวข้องกันอย่างไร ตัวอย่างเช่น ‘Microsoft’ (โหนด) อาจเชื่อมโยงกับ ‘OpenAI’ (โหนดอื่น) โดยขอบที่ระบุว่า ‘เป็นลูกค้าของ’ ความสัมพันธ์เหล่านี้มักจะเก็บไว้ในฐานข้อมูลกราฟและปฏิบัติตามโครงสร้างเรื่อง-กริยา-วัตถุ เช่น ‘Microsoft เป็นลูกค้าของ OpenAI’
ความทรงจำที่คงอยู่
การศึกษาของจีนหนึ่งรายการจากเดือนกันยายนของปีนี้เสนอวิธีการฝึกอบรมฟรีที่ใช้เหตุผลเชิงกราฟเพื่อตรวจจับความไม่สอดคล้องที่ละเอียดอ่อนใน deepfake แบบหลายรูปแบบ แทนการสร้างเหตุผลหรือ การปรับโมเดลขนาดใหญ่ ระบบจะดึงคู่ภาพ-ข้อความ มาสร้างกราฟความคล้ายคลึง และให้คะแนนการเชื่อมต่อเพื่อดึงตัวอย่างที่เกี่ยวข้องมากที่สุด และชี้นำการตัดสินของโมเดลโดยไม่ต้องฝึกอบรมใหม่: ภาพรวมของเฟรมเวิร์ก GASP-ICL ซึ่งปรับปรุงการตรวจจับ deepfake โดยการรวมการคัดเลือกตัวอย่างแบบกราฟด้วยการเรียนรู้ในบริบท ทำให้โมเดลภาษา-วิชั่นที่ถูกแช่แข็งสามารถจัดประเภทคู่ภาพ-ข้อความเป็นของแท้หรือปลอมโดยไม่ต้องฝึกอบรมหรือปรับโมเดล แหล่งที่มา นี่อาจเป็นงานที่ใกล้เคียงที่สุด ที่ฉันพบ
การเพิ่มคุณลักษณะ
ความท้าทายของระบบทำนายประเภทนี้คือการตรวจสอบที่อาจจำเป็นในการทำให้แนวทางนี้ทำงานได้อย่างเต็มที่ – อย่างน้อยก็เกินกว่าการวิเคราะห์คนดังและบุคคลสาธารณะ ซึ่งมีข้อมูลที่เข้าถึงได้ฟรีแล้ว อาจเป็นแนวทางวิจัยที่ใกล้เคียงที่สุดในปัจจุบัน คือ สาขา การก่ออาชญากรรมก่อนที่จะเกิดขึ้น ซึ่งให้ฉลากสัญญาณข่าวกรองหลายรูปแบบที่หลากหลายว่าเป็น ‘น่าสงสัย’ และนำเสนอตนเองเป็นเครื่องมือ AI ที่น่ากลัวในงาน เช่น (2011-2016) และ Person of
การเพิ่มคุณลักษณะ
ความท้าทายของระบบทำนายประเภทนี้คือการตรวจสอบที่อาจจำเป็นในการทำให้แนวทางนี้ทำงานได้อย่างเต็มที่ – อย่างน้อยก็เกินกว่าการวิเคราะห์คนดังและบุคคลสาธารณะ ซึ่งมีข้อมูลที่เข้าถึงได้ฟรีแล้ว อาจเป็นแนวทางวิจัยที่ใกล้เคียงที่สุดในปัจจุบัน คือ สาขา การก่ออาชญากรรมก่อนที่จะเกิดขึ้น ซึ่งให้ฉลากสัญญาณข่าวกรองหลายรูปแบบที่หลากหลายว่าเป็น ‘น่าสงสัย’ และนำเสนอตนเองเป็นเครื่องมือ AI ที่น่ากลัวในงาน เช่น (2011-2016) และ Person of (2002) Interest Minority Report แม้ว่าระบบการ giám sát ดังนั้น สำหรับข่าวปลอมที่ไม่ใช่คนดัง จึงมีเพียงหน่วยงานรัฐบาล เช่น ตำรวจ (เช่นเดียวกับสำนักงานทะเบียนการเกิดและการตายและสำนักงานภาษี) ที่จะมีข้อมูลประวัติที่เกี่ยวข้องเพียงพอที่จะแจ้งความน่าจะเป็นในกระบวนการทำงานแบบกราฟ; และแม้กระทั่งพวกเขาจะต้องมีเจตจำนง CCCP-สไตล์ ความสามารถ กฎหมาย และทรัพยากรในการครอบคลุมและวิเคราะห์พลเมืองโดยเฉลี่ย (นอกเหนือจากจุดข้อมูลที่จำเป็นแต่จำเป็น เช่น หมายเลขพาสปอร์ตและทะเบียนรถ) -style ที่กินสื่อทุกอย่างจะให้ผลลัพธ์ที่ดีที่สุด แต่ก็ไม่น่าจะเป็นไปได้ในขณะนี้ที่วัฒนธรรมตะวันตกจะอนุญาตให้มีการรุกรานส่วนตัวในระดับที่เครือข่ายภายในของจีนบังคับให้พลเมืองของตน Person of Interest
การให้คะแนนความน่าจะเป็น
ดูเหมือนว่าประสิทธิผลของระบบประเภทนี้จะถูกจำกัดให้แคบลงในกรณีการใช้งานที่ชัดเจนที่สุด (ปัจจุบัน) สำหรับเนื้อหาที่ปลอมแปลง: (deepfake ที่ได้รับการสนับสนุนจากรัฐ); การทำให้ไม่มั่นคง (ทั้งสองกรณีสามารถพิจารณาได้ว่าเป็นการกระทำที่ผิดพลาด) แม้ว่ากรณีหลังจะดึงดูดความกังวลของสื่อมากขึ้น); โป๊ (รวมถึง deepfake ของคนดังและ ‘ไม่ทราบ’ การฉ้อโกง วิดีโอ/เสียง deepfakeที่ออกแบบมาเพื่อ ‘การปล้นโดยการปลอมตัว’ ); และ การลอบสังหารชื่อเสียงทางการเมือง ระบบที่ใช้ความรู้จะต้องมีมาตราส่วนของความน่าจะเป็นสำหรับเหตุการณ์ที่หลากหลาย ที่ปลายด้านหนึ่งของสเปกตรัม คือ ความล้มเหลวของมนุษย์ที่น่าสงสัย เช่น การจัดการทางการเงินที่น่าสงสัย การนอกใจ การติดยาเสพติด การไม่รอบคอบ ฯลฯ ในทางกลับกัน… การเปิดเผยว่าคุณเป็นลูกของพระเจ้าในรายการโทรทัศน์แบบสด (หรือเหตุการณ์ที่มีขนาดและผลกระทบในระดับเดียวกัน) แม้กระทั่งในกรณีหลัง ปัจจัยส่วนบุคคลในประวัติศาสตร์สำหรับแต่ละบุคคลจะชั่งน้ำหนักผลลัพธ์ของความน่าจะเป็น: บุคคลสำคัญทางการเมืองที่มีการสั่นคลอนในเรื่องขัดแย้งต่อสาธารณะ (เช่น ความจริงของการลงจอดบนดวงจันทร์ในทศวรรษ 1960/70) เพื่อเพิ่มทุนให้กับ cử triที่ ‘มีข้อมูลที่แตกต่าง’ มากขึ้น อาจได้รับ เพิ่มเติมในกระบวนการยืนยันเมื่อเทียบกับเพื่อนร่วมงานที่มีความซื่อสัตย์มากกว่า การ์ดไวลด์ ในกรณีของ deepfakeโป๊ของคนดัง มีบริบทในโลกแห่งความเป็นจริง (เช่น ในแง่ของการรบกวนของชาติ มีปริมาณที่สำคัญของข้อมูลทางสถิติที่สามารถช่วยในการประเมินความน่าจะเป็นของ ‘รายงานที่น่าสลดใจ’ แม้กระทั่งในประวัติศาสตร์โบราณ เหตุการณ์ที่ดูเหมือนจะเกิดขึ้น ‘โดยไม่มีการเตือน’ เช่น การปะทุของภูเขาไฟที่ไม่ได้ระบุชื่อ Vesuvius ในปี 79 ซึ่งถูก การรั่วไหลของภาพคนดังในปี 2012 และเหตุการณ์อื่นๆ ที่ไม่ค่อยพบเห็น) เพื่อสร้าง ผลประโยชน์ของคนโกหก ในบางบริบท แต่เนื่องจากเหตุการณ์เหล่านี้มักจะทำงานเป็นข้อยกเว้นที่พิสูจน์กฎ จึงมีวิดีโอที่สร้างโดยการกระจายของคนดังในปัจจุบันส่วนใหญ่จะถูกมองว่าเป็น ‘ไม่น่าจะเป็นไปได้’ (แม้ว่าจะไม่ได้แก้ไขปัญหาการยักยอกอัตลักษณ์ของบุคคลสำหรับวัตถุประสงค์ดังกล่าว) ดูตัวอย่างหากคุณให้ความสนใจมากพอ และนอกจากการมีแหล่งข้อมูลรัฐบาลและองค์กร NGO ที่หลากหลาย AI ที่พัฒนาความสามารถในการ ดึงข้อมูลที่มีโครงสร้างออกจากข้อมูลดิบ สามารถให้บริบททางประวัติศาสตร์เพิ่มเติมสำหรับการให้คะแนนความน่าจะเป็น
สรุป
แม้แต่ระบบทำนายที่ใช้ ‘ความน่าจะเป็น’ ที่ใช้ได้ดี ก็ไม่สามารถคำนึงถึงโอกาสหรือเหตุการณ์ที่ไม่คาดคิด การกระทำของพระเจ้า หรือเหตุการณ์ที่เกิดจากความเจตนารมณ์ที่สร้างขึ้นโดยไม่มีการดูแล นอกจากนี้ ปริมาณและความลึกของข้อมูลที่ต้องการเพื่อให้ครอบคลุมบุคคลที่ไม่ดัง จะเป็นจุดยืนทางการเมือง – อย่างน้อยก็ในขณะนี้ อย่างไรก็ตาม ตัวเลือกดูเหมือนจะแคบลง การวิเคราะห์โดยอาศัยการมองเห็นถูกกำหนดให้ล้มเหลวต่อหน้า AI ที่สร้างข้อมูลที่ดีขึ้น ในขณะที่ระบบการยืนยันและติดตามแหล่งที่มาถูกขัดขวางโดยหนี้สินทางเทคนิค และการนำไปใช้ที่ไม่สะดวก ทำให้โซลูชันเช่น Content Authenticity Initiative และระบบ face-copyrighting ของ Metaphysic.ai ที่ไม่สมบูรณ์ Metaphysic Pro มีความท้าทายในการทำให้ได้รับความนิยม ในบริบทที่กว้างที่สุด ระบบที่ใช้ RAG สามารถระบุได้ว่าแหล่งข้อมูลหลักสนับสนุนข้อเรียกร้องที่ไม่ได้ยืนยันหรือไม่ และเนื่องจากเรื่องข่าวที่สำคัญหลายเรื่องปรากฏขึ้นโดยไม่มีบริบทก่อนหน้า การขาดการยืนยันจากแหล่งข้อมูลหลักจึงไม่จำเป็นต้องมีความหมาย คุณค่าของระบบเหล่านี้อาจพิสูจน์ได้ว่ามีประโยชน์มากขึ้นหากพวกมันสามารถเป็นส่วนหนึ่งของระบบนิเวศข้อมูลที่กว้างขึ้น ซึ่งเกี่ยวข้องกับสิ่งที่ AI ส่วนใหญ่พบว่ายากที่สุด – บริบททางประวัติศาสตร์ * ไม่สับสนกับการเปิดตัว อัตลักษณ์ ในปี 2017 ซึ่งจะถูกแทนที่ด้วยแนวทางที่เหนือกว่า † https://arxiv.org/abs/2511.07009 ** ซึ่งสามารถทำงานได้โดยอิสระบนคอมพิวเตอร์ส่วนบุคคลที่มีพลังมากขึ้น แทนที่จะสามารถเข้าถึงได้เฉพาะผ่าน
เช่น ChatGPT และซีรีส์ Veo ††† การละเว้นการใช้งานที่ชอบด้วยกฎหมาย เช่น
ผลกระทบทางภาพในภาพยนตร์และการผลิตทีวี เผยแพร่ครั้งแรกวันพฤหัสบดี 13
พฤศจิกายน 2025
