โมเดลและแพลตฟอร์ม AI

วิธีการที่เครื่องมือ AI สุขภาพจิตค้นพบการตรวจจับ Deepfake ที่แม่นยำโดยไม่ตั้งใจ

Salomé Beyer Velez
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญการฉ้อโกงด้วยดีพเฟกกำลังแซงหน้าการตรวจจับ…
ดูเพิ่มเติม
  • การฉ้อโกงด้วยดีพเฟกกำลังแซงหน้าการตรวจจับ เพราะเสียงสังเคราะห์ในปัจจุบันก้าวข้ามขีดจำกัดของความแยกไม่ออกแล้ว
  • การตรวจจับดีพเฟกด้านเสียงมีความสำคัญมากขึ้นในขณะนี้ เนื่องจากคาดว่าความเสียหายจากการฉ้อโกงด้วย AI จะสูงถึง 40 พันล้านดอลลาร์
  • การป้องกันดีพเฟกที่มีประสิทธิผลที่สุดอาจเป็นการยืนยันความเป็นมนุษย์ที่แท้จริง มากกว่าการไล่ตามร่องรอยสังเคราะห์

เมื่อยักษ์ใหญ่ด้านเทคโนโลยี Open AI เปิดตัวโมเดลสร้างวิดีโอและเสียงเรือธง Sora 2 ในเดือนกันยายน 2025 วิดีโอดีพเฟกก็หลั่งไหลสู่แพลตฟอร์มโซเชียลมีเดีย ทำให้ผู้ชมคุ้นเคยมากขึ้นกับเนื้อหาที่สมจริงอย่างยิ่งและอาจเป็นอันตราย

แม้ Open AI จะให้ความสำคัญสูงสุดกับการเปิดตัว Sora 2 อย่างรับผิดชอบ โดยระบุว่าจะมอบ ‘เครื่องมือและทางเลือกในการควบคุมสิ่งที่เห็นในฟีด’ และควบคุมการใช้ภาพลักษณ์ของตนเองได้ตลอดกระบวนการ แต่การศึกษาในเดือนตุลาคม 2025 พบว่าโมเดลสร้างวิดีโอที่มีคำกล่าวอ้างเท็จถึง 80% ของกรณี

ตั้งแต่วิดีโอที่เลียนแบบรายงานข่าวว่าเจ้าหน้าที่เลือกตั้งมอลโดวาทำลายบัตรลงคะแนน ไปจนถึงฉากปลอมของเด็กวัยหัดเดินถูกเจ้าหน้าที่ตรวจคนเข้าเมืองควบคุมตัว หรือโฆษก Coca-Cola (KO ) ประกาศว่าบริษัทจะไม่สนับสนุน Super Bowl ความเสี่ยงจากการผลิตข้อมูลเท็จในโลกที่เชื่อมโยงกันจึงสูงอย่างยิ่ง

นอกเหนือจาก Sora: การหลอกลวงทางเสียง (Vishing)

ก่อนที่เครื่องมือของ Open AI จะเปิดตัว การสร้างและเผยแพร่ไฟล์ดีพเฟกออนไลน์ก็เพิ่มขึ้นแล้ว ตามรายงานเดือนกันยายน 2025 ของบริษัทความปลอดภัยไซเบอร์ DeepStrike เนื้อหาดีพเฟกพุ่งจาก 500,000 รายการในปี 2023 เป็น 8 ล้านรายการในปี 2025 โดยส่วนใหญ่ถูกใช้เพื่อฉ้อโกง

แนวโน้มนี้ไม่มีทีท่าจะหยุดลง เฉพาะการฉ้อโกงด้วย AI ในสหรัฐฯ ก็คาดว่าจะมีมูลค่าถึง 40,000 ล้านดอลลาร์สหรัฐภายในปี 2027

การเพิ่มขึ้นไม่ได้มีเพียงจำนวน ด้วยเครื่องมืออย่าง Sora 2 และ Veo 3 ของ Google (GOOGL ) ใบหน้า เสียง และการแสดงท่าทางทั้งร่างกายที่สร้างด้วย AI จึงสมจริงกว่าที่เคย นักวิทยาการคอมพิวเตอร์และนักวิจัยดีพเฟก Siwei Lyu ชี้ว่าโมเดลสมัยใหม่สร้างใบหน้าที่คงที่โดยไม่บิดเบี้ยวได้ ขณะที่การโคลนเสียงผ่าน ‘จุดที่แยกไม่ออก’ ไปแล้ว

ความจริงคือดีพเฟกก้าวเร็วกว่าการตรวจจับ สิ่งที่บริษัทเทคโนโลยีขายเป็นเครื่องมือสนุก ๆ สำหรับสร้างทุกอย่างตั้งแต่ท่ากายกรรมโอลิมปิกไปจนถึงเสียงบรรยากาศซับซ้อน ก็ถูกอาชญากรใช้โจมตีทั้งธุรกิจและบุคคล เพียงครึ่งแรกของปี 2025 เหตุการณ์ดีพเฟกก่อให้เกิดความเสียหายแก่บริษัท 356 ล้านดอลลาร์สหรัฐ และแก่บุคคล 541 ล้านดอลลาร์สหรัฐ

การตรวจจับดีพเฟกแบบเดิม — รวมถึงการหาลายน้ำ ใบหน้าที่ปรับแต่งให้เรียบเนียน และการตรวจสอบเมทาดาทา — กำลังใช้ไม่ได้ผล เมื่อดีพเฟกเสียงยังคงเป็นการฉ้อโกงด้วย AI ที่พบมากเป็นอันดับสอง และการฟิชชิงด้วยเสียงหรือ vishing พุ่งขึ้น442% ในปี 2025 ผลกระทบจึงปรากฏแล้ว

‘ตอนนี้เสียงเพียงไม่กี่วินาทีก็เพียงพอจะสร้างเสียงโคลนที่น่าเชื่อ พร้อมทั้งท่วงทำนอง จังหวะ การเน้น อารมณ์ การหยุด และเสียงหายใจตามธรรมชาติ’ Lyu เขียนไว้

ศาสตร์แห่งการฟังมนุษย์

Kintsugi เป็นสตาร์ทอัพด้านเทคโนโลยีสุขภาพที่พัฒนาเทคโนโลยีตัวบ่งชี้ทางชีวภาพจากเสียงด้วย AI เพื่อตรวจหาสัญญาณของภาวะซึมเศร้าทางคลินิกและความวิตกกังวล งานของบริษัทเริ่มจากแนวคิดที่ดูเรียบง่ายว่า เราต้องฟังมนุษย์

‘ฉันเริ่ม Kintsugi เพราะปัญหาที่ประสบด้วยตัวเอง ฉันใช้เวลาเกือบห้าเดือนโทรหาผู้ให้บริการเพื่อขอนัดบำบัดครั้งแรก แต่ไม่มีใครโทรกลับ ฉันพยายามต่อไป แต่จำได้ว่าคิดชัดเจนมากว่า ถ้าเป็นพ่อหรือพี่น้องชายของฉัน พวกเขาคงหยุดพยายามไปก่อนฉันนานแล้ว’ Grace Chang ซีอีโอกล่าวในการสนทนากับ Unite.AI

บริษัทในแคลิฟอร์เนียก่อตั้งในปี 2019 เพื่อแก้สิ่งที่ Chang เรียกว่า ‘คอขวดของการคัดกรอง’ ผู้ก่อตั้งเชื่อว่าการตรวจพบระดับความรุนแรงได้เร็วขึ้นโดยไม่ต้องให้ผู้ใช้ลงมือทำเพิ่มเติม จะช่วยให้คนเข้าถึงระดับการดูแลที่เหมาะสมได้เร็วขึ้น Kintsugi Voice ใช้ตัวบ่งชี้ทางชีวภาพจากเสียงเพื่อระบุภาวะซึมเศร้าทางคลินิกและความวิตกกังวล

มีงานวิจัยมากมายแสดงความสำเร็จของการวิเคราะห์คำพูดและเสียงด้วย AI ในฐานะตัวบ่งชี้ภาวะสุขภาพจิต ตัวอย่างเช่น บทความเดือนพฤษภาคม 2025 พบว่าตัวบ่งชี้ทางเสียงตรวจพบสัญญาณเริ่มต้นของภาวะสุขภาพจิตและความหลากหลายทางระบบประสาทได้ และเสนอให้บูรณาการการวิเคราะห์การร้องเพลงในการดูแลทางคลินิกเพื่อประเมินความเสื่อมถอยทางการรู้คิดที่อาจเกิดขึ้น

การวัดเสียงแยกผู้มีภาวะซึมเศร้าออกจากผู้ไม่มีภาวะนี้ได้แม่นยำ 78%–96% ตามข้อมูลของสมาคมจิตแพทย์อเมริกัน อีกการศึกษาใช้แบบทดสอบความคล่องแคล่วทางวาจาหนึ่งนาที ให้ผู้เข้าร่วมบอกคำในหมวดที่กำหนดให้ได้มากที่สุด และตรวจพบผู้ที่มีทั้งภาวะซึมเศร้าและความวิตกกังวลได้แม่นยำ 70%–83%

เพื่อประเมินสุขภาพจิตของผู้ใช้ Kintsugi ขอคลิปคำพูดสั้น ๆ แล้วเทคโนโลยีตัวบ่งชี้จากเสียงจะวิเคราะห์ระดับเสียง ท่วงทำนอง น้ำเสียง และช่วงหยุด ซึ่งพบว่าเกี่ยวข้องกับภาวะซึมเศร้า ความวิตกกังวล โรคไบโพลาร์ และภาวะสมองเสื่อม

แต่สิ่งที่ Chang ไม่รู้ในตอนแรกคือ เทคโนโลยีนี้ไขหนึ่งในโจทย์เร่งด่วนที่สุดของอุตสาหกรรมความปลอดภัยยุคปัจจุบัน นั่นคือการระบุสิ่งที่ทำให้เสียงมนุษย์เป็นเสียงมนุษย์

จากการดูแลสุขภาพจิตสู่ความปลอดภัยไซเบอร์

ระหว่างร่วมการประชุมที่นิวยอร์กปลายปี 2025 Chang เล่าให้เพื่อนที่ทำงานด้านความปลอดภัยไซเบอร์ฟังว่า การทดลองเสียงสังเคราะห์ของทีมให้ผลน่าผิดหวัง

‘เราสำรวจข้อมูลสังเคราะห์เพื่อเสริมการฝึกโมเดลสุขภาพจิต แต่เสียงที่สร้างต่างจากคำพูดมนุษย์แท้มาก จนเราแยกออกได้เกือบ 100% ของกรณี’ เธอกล่าว

‘เขาหยุดฉันแล้วบอกว่า เกรซ เรื่องนี้ยังไม่ใช่ปัญหาที่วงการความปลอดภัยแก้ได้ นั่นคือจังหวะที่ทุกอย่างเชื่อมโยงกัน ตั้งแต่นั้น การพูดคุยกับบริษัทความปลอดภัย บริการการเงิน และโทรคมนาคมยืนยันว่า การโจมตีด้วยเสียงดีพเฟกเพิ่มเร็วเพียงใด และมีความจำเป็นจริงเพียงใดที่จะต้องแยกเสียงมนุษย์จากเสียงสังเคราะห์ระหว่างการโทรสด’ ซีอีโอกล่าวเสริม

เดือนเมษายนปีก่อน FBI เตือนถึงแคมเปญข้อความและเสียงอันตรายที่ปลอมเป็นการติดต่อจากเจ้าหน้าที่ระดับสูงสหรัฐฯ โดยมุ่งเป้าที่อดีตเจ้าหน้าที่รัฐและผู้ติดต่อของพวกเขา ธนาคารแห่งชาติขนาดใหญ่ในสหรัฐฯ ก็ตกเป็นเป้าของความพยายามฉ้อโกงด้วยการดัดแปลงเสียงเฉลี่ยวันละ 5.5 ครั้ง ขณะที่บุคลากรของ Vanderbilt University Medical Center รายงานการโจมตีแบบ vishing จากผู้ปลอมตัวเป็นเพื่อน หัวหน้างาน และเพื่อนร่วมงาน

อย่างไรก็ตาม ดีพเฟกไม่ได้เป็นประเด็นในงานเริ่มต้นของ Kintsugi ทีมใช้โมเดลสำเร็จรูปอย่าง Cartesia, Sesame และ ElevenLabs ทดลองเสียงสังเคราะห์สำหรับเจ้าหน้าที่ศูนย์บริการที่ทำงานธุรการและกระบวนการโทรออก แต่การฉ้อโกงดีพเฟกไม่ใช่จุดสนใจ ท่ามกลางตลาดที่หนาแน่นและเข้าถึงง่ายซึ่งมีโมเดลอย่าง Sora

สัญญาณระดับมนุษย์ที่บ่งบอกความแท้ของเสียงคือตัวบ่งชี้ทางชีวภาพเดียวกับที่ทำให้คนเป็นมนุษย์ Kintsugi Voice ใช้การประมวลผลสัญญาณและความหน่วงทางกายภาพของคำพูดโดยไม่ขึ้นกับภาษาหรือความหมาย จับจังหวะละเอียด ความแปรผันของท่วงทำนอง ภาระทางการรู้คิด และตัวบ่งชี้ทางสรีรวิทยา ซึ่งสะท้อนว่าเสียงพูดถูกสร้างอย่างไร ไม่ใช่พูดว่าอะไร

‘เสียงสังเคราะห์อาจฟังคล่อง แต่ไม่มีร่องรอยทางชีวภาพและการรู้คิดแบบเดียวกัน’ Chang กล่าว โมเดลของบริษัทอยู่ในกลุ่ม 10% แรกด้านความแม่นยำในการตรวจจับอย่างสม่ำเสมอ โดยใช้เสียงเพียง 3–5 วินาที

Kintsugi อาจสร้างความเปลี่ยนแปลงครั้งใหญ่ให้ผู้มีปัญหาสุขภาพจิต โดยเฉพาะพื้นที่ที่การเข้าถึงผู้เชี่ยวชาญต้องใช้เวลาและทรัพยากร ในทำนองเดียวกัน เทคโนโลยีนี้อาจพลิกโฉมการตรวจจับดีพเฟกและความปลอดภัยไซเบอร์โดยรวม ด้วยการตรวจหาความแท้แทนการจำแนกดีพเฟก

อนาคตอยู่ที่เทคโนโลยีที่มีมนุษย์เป็นศูนย์กลาง

ความปลอดภัยไซเบอร์มุ่งเน้นการใช้เทคโนโลยีในทางร้ายหรือผู้กระทำมาอย่างยาวนาน แต่การค้นพบโดยบังเอิญของ Kintsugi เดิมพันกับความเป็นมนุษย์เอง

‘เราทำงานบนพื้นที่ที่ต่างออกไปโดยสิ้นเชิง นั่นคือความแท้ของมนุษย์เอง LLM ไม่สามารถตรวจจับเนื้อหาที่ LLM สร้างได้อย่างน่าเชื่อถือ และวิธีที่อาศัยร่องรอยความผิดปกติก็เปราะบาง การรวบรวมชุดข้อมูลขนาดใหญ่ที่มีป้ายกำกับทางคลินิกและบันทึกความแปรผันของมนุษย์จริงมีราคาแพง ใช้เวลานาน และอยู่นอกความเชี่ยวชาญหลักของบริษัทความปลอดภัยส่วนใหญ่ จึงทำให้แนวทางนี้ทำซ้ำได้ยาก’ Chang ระบุ

แนวทางของสตาร์ทอัพยังชี้ถึงการเปลี่ยนแปลงที่กว้างขึ้น คือการสร้างนวัตกรรมข้ามสาขา ผู้นำด้านสุขภาพอาจนำการตรวจจับ vishing ด้วย AI เช่นเดียวกับที่นักนวัตกรรมเทคโนโลยีอวกาศอาจสนับสนุนกลไกตอบสนองเหตุฉุกเฉินใหม่ ๆ หรือผู้เล่นเกมอาจช่วยด้านสถาปัตยกรรมและผังเมือง

Chang วางแผนให้เกิดมาตรฐานสำหรับยืนยันมนุษย์จริง และในที่สุดยืนยันเจตนาที่แท้จริงผ่านปฏิสัมพันธ์ทางเสียง

‘เช่นเดียวกับที่ HTTPS กลายเป็นชั้นความไว้วางใจมาตรฐานของเว็บ เราเชื่อว่าหลักฐานความเป็นมนุษย์จะกลายเป็นชั้นพื้นฐานของระบบเสียง Signal คือจุดเริ่มต้นของโครงสร้างพื้นฐานนั้น’ เธอกล่าว

เมื่อ AI สร้างเนื้อหายังคงเร่งตัว มาตรการป้องกันที่มีประสิทธิภาพที่สุดอาจมาจากการเข้าใจสิ่งที่ทำให้มนุษย์เป็นมนุษย์

ซาโลเมเป็นนักข่าวที่เกิดในเมเดยิน และเป็น ผู้สื่อข่าวอาวุโส ที่ Espacio Media Incubator โดยมีภูมิหลังด้านประวัติศาสตร์และการเมือง ผลงานของซาโลเมเน้นย้ำถึงความเกี่ยวข้องทางสังคมของเทคโนโลยีที่เกิดขึ้นใหม่ เธอได้รับการกล่าวถึงใน Al Jazeera, Latin America Reports, และ The Sociable เป็นต้น