การใช้ ‘ความน่าจะเป็น’ เป็นมาตรการตรวจจับ Deepfake

หากวิดีโอและเสียงที่สร้างโดย AI มีคุณภาพดีเพียงพอ ระบบตรวจจับ deepfake ที่อาศัยอาร์ติแฟคต์ทางภาพหรือสัญญาณแบบดั้งเดิมจะไม่ทำงานอีกต่อไป แต่เนื่องจากผู้คนมักจะไม่หันเหจากพฤติกรรมที่คาดเดาได้ อาจเป็นไปได้ที่ ‘ความน่าจะเป็น’ จะถูกนำมาใช้มากขึ้นเป็นสัญญาณของว่าวิดีโอหรือข่าวลือมีความน่าจะเป็นจะจริงหรือไม่

ความคิดเห็น ในช่วงต้นปี 1990 นักฟุตบอลและผู้บรรยายกีฬาทีวีคนดังของอังกฤษ David Icke เปิดเผย ในรายการชั้นนำว่าเขาเป็น ‘ลูกของพระเจ้า’ – การเปิดเผยที่ไม่คาดคิดและแปลกใหม่ที่จะพัฒนาไปสู่ทฤษฎีสมคบคิดที่ซับซ้อนและยั่งยืนในหลายทศวรรษต่อมา

เมื่อไม่มีการใช้โซเชียลมีเดียและ AI ในช่วงต้นปี 1990 ระบบทำนายไม่สามารถคาดการณ์คำประกาศของ Icke ได้ ซึ่งตามที่ฉันจำได้ไม่ได้รับการ预告ในหลายปีก่อนหน้านั้น

แต่ถ้า AI มีอยู่ในขณะนั้น อาจใช้เวลาสักพักในการ說服ผู้ฟังในวงกว้างว่าคำประกาศของ Icke ไม่ได้มาจาก Google Veo 3 หรือเฟรมเวิร์ก deepfake อื่นๆ ที่มีลักษณะคล้ายกัน

มันใช้เวลาเพียง 6-12 เดือนที่ผ่านมาเท่านั้นที่วิธีการ deepfake ของ AI ได้พัฒนาเพียงพอที่จะตอบสนอง การคาดการณ์ของสื่อ เกี่ยวกับการแทรกแซงการเลือกตั้งโดย deepfake และมีความสามารถในการสร้าง การทำลายชื่อเสียงอย่างรวดเร็ว ที่ไม่จริงแต่ยากจะลบออกใน文化ที่มีความเชื่อถือมากขึ้น

จนถึงปัจจุบัน ออกพุตวิดีโอของ AI มักจะไม่ถึงความเป็นจริงที่แท้จริง เนื่องจากข้อจำกัดทางเทคนิคและความแตกต่างที่เพิ่มขึ้นระหว่างโมเดลที่มีข้อจำกัดในตะวันตกและโมเดลที่ไม่มีข้อจำกัดที่จีนเปิดเผย^**

อย่างไรก็ตาม ฉันสังเกตเห็นในเอกสารวิจัยล่าสุดว่ามีการยอมรับถึงความพ่ายแพ้ของการสงครามเย็นนี้ ตัวอย่างเช่น ในเอกสารวิจัยใหม่ การเสื่อมสภาพของการตรวจจับ deepfake^†:

‘[เรา] สมมติว่าวิดีโอที่สร้างโดย AI จะยังคงมีคุณลักษณะที่สามารถเรียนรู้ได้ซึ่งสามารถแยกแยะระหว่างวิดีโอที่แท้จริงและวิดีโอที่ไม่แท้จริงได้ แต่เมื่อความสามารถของ AI ที่สร้างข้อมูลที่มีลักษณะคล้ายกันเพิ่มขึ้นอย่างรวดเร็ว สมมติฐานนี้อาจจะพังทลายลงได้

‘ในสถานการณ์ดังกล่าว วิธีการติดป้ายกำกับและติดตามแหล่งที่มาจะเป็นทางเลือกเดียวสำหรับการรักษาความไว้วางใจในสื่อดิจิทัล’

อย่างไรก็ตาม เอกสารเดียวกันยอมรับว่าวิธีการแก้ปัญหาโดยอาศัยแหล่งที่มา เช่น Content Authenticity Initiative (และข้อเสนอการวิจัยขนาดเล็ก อื่นๆ ในช่วง 7-8 ปีที่ผ่านมา) ต้องการการนำไปใช้อย่างกว้างขวางจนไม่สมจริง และเอกสารจบด้วยการถอยกลับโดยทั่วไปหากไม่พ่ายแพ้

หากวิธีการตรวจจับ deepfake โดยอาศัยอาร์ติแฟคต์ทางภาพหรือสัญญาณอื่นๆ ถูกพัฒนาให้ล้ำหน้าโดย AI ที่สร้างข้อมูล และการนำไปใช้ของระบบป้ายกำกับหรือระบบติดตามแหล่งที่มาในระดับโลกต้องเผชิญกับอุปสรรคเชิงลอจิสติกส์ที่หลากหลาย คุณลักษณะกลางที่สามที่สามารถแทนที่สิ่งเหล่านี้เป็นตัวบ่งชี้ของการปลอมแปลงที่อาจเกิดขึ้นได้คืออะไร หรือเราต้องยอมรับกับโลกที่ทุกสื่ออยู่ภายใต้ความสงสัย และ Liar’s Dividend จะเป็นผลที่ตามมา

กราฟความรู้

ดูเหมือนว่าถึงเวลาที่จะใช้ ความน่าจะเป็น และ ความน่าเชื่อถือ ของ ‘เหตุการณ์ที่รายงาน’ เป็นคุณลักษณะสำคัญในการตรวจจับ deepfake มากขึ้น นอกจากนี้ เนื่องจากระบบ AI ที่สร้างวิดีโอและเสียงมีความคล้ายคลึงกันมากขึ้น อาจถึงเวลาที่จะรวมเส้นทางวิจัยที่แยกจากกันของ ‘ข่าวปลอม’ (ในฐานะเหตุการณ์เรื่องราวข้อความ) และภาพวิดีโอที่ปลอมแปลง

การวัด ความน่าจะเป็น สำหรับการตรวจจับ deepfake ไม่เหมือนกับการ RAG-aided การตรวจสอบข้อเท็จจริง ซึ่งโมเดล AI อาจนำผลลัพธ์จากเว็บปัจจุบันมาเพื่อเพิ่มความรู้เกี่ยวกับเหตุการณ์ที่เกิดขึ้นหลังจากวันที่ตัดข้อมูลของโมเดล และ/หรือเพื่อยืนยันข้อกล่าวหาของตน

相反 มันจะทำการคาดการณ์โดยอาศัยแนวโน้มทางสถิติที่บ่งชี้โดยทั่วไป ซึ่งมาจากรูปแบบทางประวัติศาสตร์ที่สอดคล้องกับการสืบค้นปัจจุบัน

ในความหมาย này วิธีการโดยอาศัยความน่าจะเป็นใกล้เคียงกับ การวิเคราะห์ทางสถิติ มากกว่าแนวทางสมัยใหม่ในสถานการณ์ปัจจุบันของการเรียนรู้ของเครื่อง

แม้ว่าในอดีตจะถูกเข้ามาแทนที่โดยแนวทางสมัยใหม่ในยุค Transformers กราฟความรู้กำลังฟื้นตัวในพื้นที่ Enterprise และดูเหมือนจะเหมาะสมสำหรับการใช้ ‘ความน่าจะเป็น’ ในการตรวจจับ deepfake

กราฟความรู้ที่เรียบง่ายแสดงให้เห็นว่าบุคคล สถานที่ ศิลปะ และเหตุการณ์สามารถเชื่อมโยงกันผ่านความสัมพันธ์ที่มีป้ายกำกับ ทำให้เครื่องสามารถให้เหตุผลเกี่ยวกับหน่วยงานและความเชื่อมโยงในโลกแห่งความเป็นจริง แหล่งที่มา

กราฟความรู้เป็นวิธีการจัดระเบียบข้อมูลโดยการแมปสิ่งของในโลกแห่งความเป็นจริง เช่น บุคคล บริษัท เหตุการณ์ หรือความคิดเป็นเครือข่ายของข้อเท็จจริงที่เชื่อมโยงกัน

แต่ละหน่วยย่อยเป็นโหนด และลิงก์ระหว่างโหนด (ขอบ) อธิบายว่าโหนดเหล่านั้นเกี่ยวข้องกันอย่างไร ตัวอย่างเช่น ‘Microsoft’ (โหนด) อาจเชื่อมโยงกับ ‘OpenAI’ (โหนดอื่น) โดยขอบที่ระบุว่า ‘เป็นลูกค้าของ’ ความสัมพันธ์เหล่านี้มักจะเก็บไว้ในฐานข้อมูลกราฟและปฏิบัติตามโครงสร้างเรื่อง-กริยา-วัตถุ เช่น ‘Microsoft เป็นลูกค้าของ OpenAI’

ความทรงจำที่คงอยู่

การศึกษาของจีนหนึ่งรายการจากเดือนกันยายนของปีนี้เสนอวิธีการฝึกอบรมฟรีที่ใช้เหตุผลเชิงกราฟเพื่อตรวจจับความไม่สอดคล้องที่ละเอียดอ่อนใน deepfake แบบหลายรูปแบบ

แทนการสร้างเหตุผลหรือ การปรับโมเดลขนาดใหญ่ ระบบจะดึงคู่ภาพ-ข้อความ มาสร้างกราฟความคล้ายคลึง และให้คะแนนการเชื่อมต่อ เพื่อดึงตัวอย่างที่เกี่ยวข้องมากที่สุด และชี้นำการตัดสินของโมเดลโดยไม่ต้องฝึกอบรมใหม่:

ภาพรวมของเฟรมเวิร์ก GASP-ICL ซึ่งปรับปรุงการตรวจจับ deepfake โดยการรวมการคัดเลือกตัวอย่างแบบกราฟด้วยการเรียนรู้ในบริบท ทำให้โมเดลภาษา-วิชั่นที่ถูกแช่แข็งสามารถจัดประเภทคู่ภาพ-ข้อความเป็นของแท้หรือปลอมโดยไม่ต้องฝึกอบรมหรือปรับโมเดล แหล่งที่มา

นี่อาจเป็นงานที่ใกล้เคียงที่สุด ที่ฉันพบ ซึ่งใกล้เคียงกับแนวทาง ‘มีข้อมูล’ และรู้จักประวัติศาสตร์ในการประเมินและการยืนยันสื่อใหม่ สำหรับส่วนใหญ่ วิธีการด้านการมองเห็นจะวิเคราะห์ ภาพ (รวมถึงเฟรมของวิดีโอและ ความผิดปกติทางเวลา ที่ครอบคลุมหลายเฟรม) ในขณะที่เฟรมเวิร์กการตรวจจับ ‘ข่าวปลอม’ ยังคงเน้นข้อมูลข้อความ แม้กระทั่งในโครงการหลายรูปแบบ

การเพิ่มคุณลักษณะ

ความท้าทายของระบบทำนายประเภทนี้คือการตรวจสอบที่อาจจำเป็นในการทำให้แนวทางนี้ทำงานได้อย่างเต็มที่ – อย่างน้อยก็เกินกว่าการวิเคราะห์คนดังและบุคคลสาธารณะ ซึ่งมีข้อมูลที่เข้าถึงได้ฟรีแล้ว

อาจเป็นแนวทางวิจัยที่ใกล้เคียงที่สุดในปัจจุบัน คือ สาขา การก่ออาชญากรรมก่อนที่จะเกิดขึ้น ซึ่งให้ฉลากสัญญาณข่าวกรองหลายรูปแบบที่หลากหลายว่าเป็น ‘น่าสงสัย’ และนำเสนอตนเองเป็นเครื่องมือ AI ที่น่ากลัวในงาน เช่น Person of Interest (2011-2016) และ Minority Report (2002)

แม้ว่าระบบการ giám sát Person of Interest-style ที่กินสื่อทุกอย่างจะให้ผลลัพธ์ที่ดีที่สุด แต่ก็ไม่น่าจะเป็นไปได้ในขณะนี้ที่วัฒนธรรมตะวันตกจะอนุญาตให้มีการรุกรานส่วนตัวในระดับที่เครือข่ายภายในของจีนบังคับให้พลเมืองของตน

ดังนั้น สำหรับข่าวปลอมที่ไม่ใช่คนดัง จึงมีเพียงหน่วยงานรัฐบาล เช่น ตำรวจ (เช่นเดียวกับสำนักงานทะเบียนการเกิดและการตายและสำนักงานภาษี) ที่จะมีข้อมูลประวัติที่เกี่ยวข้องเพียงพอที่จะแจ้งความน่าจะเป็นในกระบวนการทำงานแบบกราฟ; และแม้กระทั่งพวกเขาจะต้องมีเจตจำนง CCCP-สไตล์ ความสามารถ กฎหมาย และทรัพยากรในการครอบคลุมและวิเคราะห์พลเมืองโดยเฉลี่ย (นอกเหนือจากจุดข้อมูลที่จำเป็นแต่จำเป็น เช่น หมายเลขพาสปอร์ตและทะเบียนรถ)

การให้คะแนนความน่าจะเป็น

ดูเหมือนว่าประสิทธิผลของระบบประเภทนี้จะถูกจำกัดให้แคบลงในกรณีการใช้งานที่ชัดเจนที่สุด (ปัจจุบัน) สำหรับเนื้อหาที่ปลอมแปลง: การทำให้ไม่มั่นคง (deepfake ที่ได้รับการสนับสนุนจากรัฐ); deepfake ของคนดังและ ‘ไม่ทราบ’ โป๊ (ซึ่งทั้งสองกรณีสามารถพิจารณาว่าเป็นมัลวेयर แม้ว่ากรณีหลังจะดึงดูดความกังวลของสื่อมากขึ้น); การฉ้อโกง (รวมถึง วิดีโอ/เสียง deepfake ที่ออกแบบมาเพื่อ ‘การปล้นโดยการปลอมตัว’); และ การลอบสังหารชื่อเสียงทางการเมือง

ระบบที่ใช้ความรู้จะต้องมีมาตราส่วนของความน่าจะเป็นสำหรับเหตุการณ์ที่หลากหลาย ที่ปลายด้านหนึ่งของสเปกตรัม คือ ความล้มเหลวของมนุษย์ที่น่าสงสัย เช่น การจัดการทางการเงินที่น่าสงสัย การนอกใจ การติดยาเสพติด การไม่รอบคอบ ฯลฯ ในทางกลับกัน… การเปิดเผยว่าคุณเป็นลูกของพระเจ้าในรายการโทรทัศน์แบบสด (หรือเหตุการณ์ที่มีขนาดและผลกระทบในระดับเดียวกัน)

แม้กระทั่งในกรณีหลัง ปัจจัยส่วนบุคคลในประวัติศาสตร์สำหรับแต่ละบุคคลจะชั่งน้ำหนักผลลัพธ์ของความน่าจะเป็น: บุคคลสำคัญทางการเมืองที่มีการสั่นคลอนในเรื่องขัดแย้งต่อสาธารณะ (เช่น ความจริงของการลงจอดบนดวงจันทร์ในทศวรรษ 1960/70) เพื่อเพิ่มทุนให้กับ cử triที่ ‘มีข้อมูลที่แตกต่าง’ มากขึ้น อาจได้รับ การ์ดไวลด์ เพิ่มเติมในกระบวนการยืนยันเมื่อเทียบกับเพื่อนร่วมงานที่มีความซื่อสัตย์มากกว่า

ในกรณีของ deepfake โป๊ของคนดัง มีบริบทในโลกแห่งความเป็นจริง (เช่น การรั่วไหลของภาพคนดังในปี 2012 และเหตุการณ์อื่นๆ ที่ไม่ค่อยพบเห็น) เพื่อสร้าง ผลประโยชน์ของคนโกหก ในบางบริบท แต่เนื่องจากเหตุการณ์เหล่านี้มักจะทำงานเป็นข้อยกเว้นที่พิสูจน์กฎ จึงมีวิดีโอที่สร้างโดยการกระจายของคนดังในปัจจุบันส่วนใหญ่จะถูกมองว่าเป็น ‘ไม่น่าจะเป็นไปได้’ (แม้ว่าจะไม่ได้แก้ไขปัญหาการยักยอกอัตลักษณ์ของบุคคลสำหรับวัตถุประสงค์ดังกล่าว)

ในแง่ของการรบกวนของชาติ มีปริมาณที่สำคัญของข้อมูลทางสถิติที่สามารถช่วยในการประเมินความน่าจะเป็นของ ‘รายงานที่น่าสลดใจ’ แม้กระทั่งในประวัติศาสตร์โบราณ เหตุการณ์ที่ดูเหมือนจะเกิดขึ้น ‘โดยไม่มีการเตือน’ เช่น การปะทุของภูเขาไฟที่ไม่ได้ระบุชื่อ Vesuvius ในปี 79 ซึ่งถูก 预告 หากคุณให้ความสนใจมากพอ และนอกจากการมีแหล่งข้อมูลรัฐบาลและองค์กร NGO ที่หลากหลาย AI ที่พัฒนาความสามารถในการ ดึงข้อมูลที่มีโครงสร้างออกจากข้อมูลดิบ สามารถให้บริบททางประวัติศาสตร์เพิ่มเติมสำหรับการให้คะแนนความน่าจะเป็น

สรุป

แม้แต่ระบบทำนายที่ใช้ ‘ความน่าจะเป็น’ ที่ใช้ได้ดี ก็ไม่สามารถคำนึงถึงโอกาสหรือเหตุการณ์ที่ไม่คาดคิด การกระทำของพระเจ้า หรือเหตุการณ์ที่เกิดจากความเจตนารมณ์ที่สร้างขึ้นโดยไม่มีการดูแล

นอกจากนี้ ปริมาณและความลึกของข้อมูลที่ต้องการเพื่อให้ครอบคลุมบุคคลที่ไม่ดัง จะเป็นจุดยืนทางการเมือง – อย่างน้อยก็ในขณะนี้

อย่างไรก็ตาม ตัวเลือกดูเหมือนจะแคบลง การวิเคราะห์โดยอาศัยการมองเห็นถูกกำหนดให้ล้มเหลวต่อหน้า AI ที่สร้างข้อมูลที่ดีขึ้น ในขณะที่ระบบการยืนยันและติดตามแหล่งที่มาถูกขัดขวางโดยหนี้สินทางเทคนิค และการนำไปใช้ที่ไม่สะดวก ทำให้โซลูชันเช่น Content Authenticity Initiative และระบบ face-copyrighting ของ Metaphysic.ai ที่ไม่สมบูรณ์ Metaphysic Pro มีความท้าทายในการทำให้ได้รับความนิยม

ในบริบทที่กว้างที่สุด ระบบที่ใช้ RAG สามารถระบุได้ว่าแหล่งข้อมูลหลักสนับสนุนข้อเรียกร้องที่ไม่ได้ยืนยันหรือไม่ และเนื่องจากเรื่องข่าวที่สำคัญหลายเรื่องปรากฏขึ้นโดยไม่มีบริบทก่อนหน้า การขาดการยืนยันจากแหล่งข้อมูลหลักจึงไม่จำเป็นต้องมีความหมาย

คุณค่าของระบบเหล่านี้อาจพิสูจน์ได้ว่ามีประโยชน์มากขึ้นหากพวกมันสามารถเป็นส่วนหนึ่งของระบบนิเวศข้อมูลที่กว้างขึ้น ซึ่งเกี่ยวข้องกับสิ่งที่ AI ส่วนใหญ่พบว่ายากที่สุด – บริบททางประวัติศาสตร์

* ไม่สับสนกับการเปิดตัว อัตลักษณ์ ในปี 2017 ซึ่งจะถูกแทนที่ด้วยแนวทางที่เหนือกว่า

^† https://arxiv.org/abs/2511.07009

^** ซึ่งสามารถทำงานได้โดยอิสระบนคอมพิวเตอร์ส่วนบุคคลที่มีพลังมากขึ้น แทนที่จะสามารถเข้าถึงได้เฉพาะผ่าน API ที่ถูกปิดกั้น เช่น ChatGPT และซีรีส์ Veo

^††† การละเว้นการใช้งานที่ชอบด้วยกฎหมาย เช่น ผลกระทบทางภาพในภาพยนตร์และการผลิตทีวี

เผยแพร่ครั้งแรกวันพฤหัสบดี 13 พฤศจิกายน 2025