ปัญญาประดิษฐ์
วิธีการที่เครื่องมือ AI สุขภาพจิตค้นพบการตรวจจับ Deepfake ที่แม่นยำโดยไม่ได้ตั้งใจ
เมื่อ Open AI ซึ่งเป็นบริษัทเทคโนโลยีขนาดใหญ่ เปิดตัว โมเดลการสร้างวิดีโอและเสียง Sora 2 ในเดือนกันยายน 2025 วิดีโอ Deepfake ได้หลั่งไหลเข้าสู่แพลตฟอร์มโซเชียลมีเดีย ทำให้ผู้ชมคุ้นเคยกับเนื้อหาที่มีลักษณะเหมือนจริงที่อาจเป็นอันตราย
แม้ว่า Open AI จะถือว่าการเปิดตัว Sora 2 อย่างมีความรับผิดชอบเป็นสิ่งสำคัญ โดยอ้างว่า จะให้ผู้ใช้ “เครื่องมือและตัวเลือกในการควบคุมสิ่งที่พวกเขาเห็นในฟีดของตน” และควบคุมความคล้ายคลึงกันจากปลายท่อ แต่การศึกษาในเดือนตุลาคม 2025 พบว่า โมเดลนี้สร้างวิดีโอที่มีคำกล่าวอ้างเท็จ 80% ของเวลา
ตั้งแต่วิดีโอที่ เลียนแบบ รายงานข่าวเกี่ยวกับเจ้าหน้าที่การเลือกตั้งของมอลโดวาในการทำลายบัตรเลือกตั้งไปจนถึงฉากที่สร้างขึ้นของเด็กที่ถูกควบคุมตัวโดยเจ้าหน้าที่ตรวจคนเข้าเมืองหรือตัวแทนของ Coca-Cola ที่ประกาศว่าบริษัทจะไม่เป็นสปอนเซอร์ Super Bowl อันตรายที่อาจเกิดขึ้นจากการสร้างข้อมูลที่ไม่ถูกต้องในโลกที่เชื่อมต่อกันไม่สามารถสูงกว่านี้ได้
ไกลกว่า Sora: Vishing
แม้ว่า Open AI จะเปิดตัวเครื่องมือของตน แต่การสร้างและเผยแพร่ไฟล์ Deepfake บนอินเทอร์เน็ตก็เพิ่มขึ้น ตาม รายงานในเดือนกันยายน 2025 ของบริษัทด้านความปลอดภัยไซเบอร์ DeepStrike เนื้อห Deepfake เพิ่มขึ้นจาก 500,000 ในปี 2023 เป็น 8 ล้านในปี 2025 ซึ่งส่วนใหญ่ถูกใช้เพื่อวัตถุประสงค์ฉ้อโกง
แนวโน้มไม่มีสัญญาณของการหยุดยั้ง; การฉ้อโกง AI ในสหรัฐฯ เพียงอย่างเดียว คาดว่า จะสูงถึง 40 พันล้านดอลลาร์สหรัฐฯ ภายในปี 2027
การเพิ่มขึ้นนี้ไม่ได้จำกัดอยู่เพียงปริมาณเท่านั้น ด้วยเครื่องมือเช่น Sora 2 และ Veo 3 ของ Google เนื้อหาที่สร้างโดย AI ของใบหน้า เสียง และการแสดงแบบเต็มรูปแบบมีความสมจริงมากกว่าที่เคย ส่งสัญญาณ โดยนักวิทยาศาสตร์คอมพิวเตอร์และนักวิจัย Deepfake Siwei Lyu โมเดลร่วมสมัยสามารถสร้างใบหน้าที่เสถียรโดยไม่มีการบิดเบือนหรือการบิดเบือน ในขณะที่การโคลนนิ่งเสียงได้ข้าม “ความแตกต่างที่ไม่สามารถแยกแยะได้”
วิทยาศาสตร์ของการฟังมนุษย์
Kintsugi เป็นสตาร์ทอัพด้านสุขภาพที่พัฒนาเทคโนโลยีเครื่องหมายชีวภาพเสียง AI เพื่อตรวจจับอาการของภาวะซึมเศร้าและความวิตกกังวล งานของพวกเขาที่เริ่มต้นจากสมมติฐานที่ดูเหมือนจะเรียบง่าย: เราต้องฟังมนุษย์
“ฉันเริ่มต้น Kintsugi เนื่องจากปัญหาที่ฉันประสบด้วยตัวเอง ฉันใช้เวลาเกือบห้าเดือนในการโทรหาส่วนกลางเพื่อนัดหมายการบำบัดในตอนแรก และไม่มีใครตอบกลับฉัน ฉันพยายามต่อไป – แต่ฉันจำได้อย่างชัดเจนว่าถ้านี่คือพ่อหรือน้องชายของฉัน พวกเขาจะหยุดก่อนที่ฉันจะทำ” ซีอีโอ Grace Chang กล่าวระหว่างการสนทนากับ Unite.AI
บริษัทที่ตั้งอยู่ในแคลิฟอร์เนียได้ก่อตั้งขึ้นในปี 2019 เป็นวิธีแก้ปัญหาสำหรับสิ่งที่ Chang อธิบายว่าเป็น “การขาดแคลนการคัดกรอง” ผู้ก่อตั้งเชื่อว่าการตรวจจับความรุนแรงเร็วขึ้นและโดยไม่ตั้งใจสามารถช่วยให้ผู้คนได้รับการดูแลที่เหมาะสมเร็วขึ้น และผ่าน Kintsugi Voice เครื่องหมายชีวภาพเสียงจะระบุภาวะซึมเศร้าและความวิตกกังวล
จากดูแลสุขภาพจิตสู่ความปลอดภัยทางไซเบอร์
ในขณะที่เข้าร่วมการประชุมสัมมนาที่นิวยอร์กในปลายปี 2025 Chang กล่าวกับเพื่อนในด้านความปลอดภัยทางไซเบอร์ว่าทีมของเธอได้ทดลองกับเสียงสังเคราะห์ แต่ไม่ประสบความสำเร็จ
“เรากำลังทดลองกับข้อมูลสังเคราะห์เพื่อเพิ่มการฝึกอบรมสำหรับโมเดลสุขภาพจิตของเรา แต่เสียงที่สร้างขึ้นมีความแตกต่างจากเสียงมนุษย์จริงมาก เราสามารถบอกได้เกือบ 100% ของเวลา” เธอกล่าว
“เขาหยุดฉันและบอกว่า ‘เกรซ – นี่ไม่ใช่ปัญหาที่แก้ไขได้ในด้านความปลอดภัย’ นั่นคือช่วงเวลาที่ทุกอย่างเข้าใจกัน ตั้งแต่นั้นมา การสนทนากับบริษัทด้านความปลอดภัย บริการทางการเงิน และโทรคมนาคมได้ยืนยันว่าการโจมตีเสียง Deepfake กำลังเพิ่มขึ้นอย่างรวดเร็ว – และความต้องการที่จะแยกแยะระหว่างเสียงมนุษย์และเสียงสังเคราะห์ในการโทรแบบเรียลไทม์เป็นเรื่องจริง” ซีอีโอบอก thêm
อนาคตอยู่ที่เทคโนโลยีที่มีมนุษย์เป็นศูนย์กลาง
ความปลอดภัยทางไซเบอร์มักมุ่งเน้นไปที่การใช้เทคโนโลยีหรือผู้กระทำที่เป็นอันตราย แต่การค้นพบโดยไม่ได้ตั้งใจของ Kintsugi พนันบนความเป็นมนุษย์เอง
“เรากำลังดำเนินงานบนพื้นผิวที่แตกต่าง: ความเป็นจริงของมนุษย์เอง LLMs ไม่สามารถตรวจจับเนื้อหาที่สร้างโดย LLM ได้อย่างน่าเชื่อถือ และวิธีการอิงอาร์ติแฟคต์เปราะบาง การจับข้อมูลชุดใหญ่ที่มีฉลากทางคลินิกที่เข้ารหัสความแปรผันของมนุษย์จริงมีค่าใช้จ่ายสูง ช้า และอยู่นอกความเชี่ยวชาญหลักของบริษัทด้านความปลอดภัยส่วนใหญ่ – ซึ่งทำให้วิธีการนี้ยากต่อการทำซ้ำ” Chang กล่าว
แนวทางของสตาร์ทอัพยังชี้ให้เห็นถึงการเปลี่ยนแปลงที่กว้างขึ้น: การนวัตกรรมข้ามโดเมน ผู้นำในด้านสุขภาพอาจเป็นผู้นำในการตรวจจับเสียง vishing ที่ได้รับการสนับสนุนจาก AI ในขณะที่ผู้สร้างนวัตกรรมในด้านเทคโนโลยีอวกาศอาจสนับสนุนกลไกการตอบสนองฉุกเฉินใหม่ๆ หรือผู้เล่นอาจช่วยออกแบบและวางผังเมือง
