Deepfakes และ AI: ข้อมูลเชิงลึกจากรายงาน Voice Intelligence และ Security ของ Pindrop ปี 2024

ความก้าวหน้าอย่างรวดเร็วของปัญญาประดิษฐ์ (AI) นำมาซึ่งประโยชน์และการเปลี่ยนแปลงที่สำคัญในอุตสาหกรรมต่างๆ อย่างไรก็ตาม cũngได้นำมาซึ่งความเสี่ยงและความท้าทายใหม่ๆ โดยเฉพาะอย่างยิ่งเมื่อพูดถึง การฉ้อโกง และ ความปลอดภัย Deepfakes ซึ่งเป็นผลิตภัณฑ์ของ AI ที่สร้างขึ้น เป็นเทคนิคที่มีความซับซ้อนและเป็นภัยคุกคามที่สำคัญต่อความสมบูรณ์ของ ระบบความปลอดภัยที่ใช้เสียง

ผลการวิจัยจาก รายงาน Voice Intelligence และ Security ของ Pindrop ปี 2024 เน้นย้ำถึงผลกระทบของ Deepfakes ต่อภาคส่วนต่างๆ เทคโนโลยีที่ขับเคลื่อนภัยคุกคามเหล่านี้ และวิธีแก้ปัญหาที่สร้างสรรค์ที่กำลังพัฒนาเพื่อต่อต้านพวกมัน

การเกิดขึ้นของ Deepfakes: ดาบสองคม

Deepfakes ใช้ อัลกอริทึมการเรียนรู้ของเครื่อง ที่ซับซ้อนเพื่อสร้างเนื้อหาออดิโอและวิดีโอที่มีลักษณะเหมือนจริงสูง เทคโนโลยีเหล่านี้มีการใช้งานที่น่าตื่นเต้นในด้านบันเทิงและสื่อ แต่ก cũngนำมาซึ่งความท้าทายด้านความปลอดภัยที่ร้ายแรง ตามรายงานของ Pindrop ผู้บริโภคในสหรัฐอเมริกาส่วนใหญ่ (67.5%) กังวลเกี่ยวกับความเสี่ยงของ Deepfakes และการปลอมแปลงเสียงในภาคการธนาคารและภาคการเงิน

ผลกระทบต่อสถาบันการเงิน

สถาบันการเงินมีความเสี่ยงต่อการโจมตีของ Deepfakes นักฉ้อโกงใช้เสียงที่สร้างโดย AI เพื่อปลอมตัวเป็นบุคคลอื่น เข้าถึงบัญชีโดยไม่ได้รับอนุญาต และจัดการธุรกรรมทางการเงิน รายงานเผยว่ามีการละเมิดข้อมูลส่วนบุคคลเป็นจำนวนมากในปี 2023 รวมทั้งสิ้น 3,205 เหตุการณ์ ซึ่งเพิ่มขึ้น 78% จากปีก่อน ค่าใช้จ่ายเฉลี่ยในการละเมิดข้อมูลส่วนบุคคลในสหรัฐอเมริกาคือ 9.5 ล้านดอลลาร์ โดยศูนย์บริการลูกค้าเป็นผู้ที่ต้องเผชิญกับผลกระทบด้านความปลอดภัย

กรณีหนึ่งที่น่าสังเกตคือการใช้ เสียง Deepfake เพื่อหลอกให้บริษัทในฮ่องกงส่งเงิน 25 ล้านดอลลาร์ ซึ่งแสดงให้เห็นถึงศักยภาพที่น่ากลัวของเทคโนโลยีเหล่านี้เมื่อใช้ในทางที่ผิด

ภัยคุกคามที่กว้างขึ้นต่อสื่อและ政治

นอกเหนือจากภาคการเงินแล้ว Deepfakes ยังเป็นภัยคุกคามที่สำคัญต่อสื่อและสถาบันการเมืองด้วย ความสามารถในการสร้างเนื้อหาออดิโอและวิดีโอที่มีลักษณะเหมือนจริงสูงสามารถใช้ในการเผยแพร่ข้อมูลที่ไม่ถูกต้อง การจัดการความคิดเห็นของประชาชน และการทำลายความไว้วางใจในกระบวนการประชาธิปไตย รายงานระบุว่า 54.9% ของผู้บริโภคกังวลเกี่ยวกับภัยคุกคามของ Deepfakes ต่อสถาบันการเมือง ในขณะที่ 54.5% กังวลเกี่ยวกับผลกระทบต่อสื่อ

ในปี 2023 เทคโนโลยี Deepfake ถูกใช้ในหลายกรณีที่มีชื่อเสียง รวมถึง การโจมตีทางโทรศัพท์โดยใช้เสียงสังเคราะห์ของประธานาธิบดีไบเดน เหตุการณ์เหล่านี้เน้นย้ำถึงความจำเป็นในการพัฒนาเครื่องมือตรวจจับและป้องกันที่มีประสิทธิภาพ

ความก้าวหน้าทางเทคโนโลยีที่ขับเคลื่อน Deepfakes

การแพร่กระจายของเครื่องมือ AI ที่สร้างขึ้น เช่น OpenAI’s ChatGPT, Google’s (GOOGL ) Bard และ Microsoft’s (MSFT ) Bing AI ได้ลดข้อจำกัดในการสร้าง Deepfakes อย่างมาก ปัจจุบันมีระบบ AI ที่สร้างขึ้นมากกว่า 350 ระบบที่ใช้ในการใช้งานต่างๆ รวมถึง Eleven Labs, Descript, Podcastle, PlayHT และ Speechify โมเดล VALL-E ของ Microsoft สามารถโคลนนิ่งเสียงจากคลิปเสียงเพียง 3 วินาที

ความก้าวหน้าทางเทคโนโลยีเหล่านี้ทำให้ Deepfakes มีราคาถูกและง่ายต่อการผลิตมากขึ้น ทำให้สามารถเข้าถึงได้โดยทั้งผู้ใช้ที่ดีและผู้ใช้ที่มีเจตนาไม่ดี ตามการคาดการณ์ของ Gartner ในปี 2025 80% ของการให้บริการ AI ที่มีการสนทนา จะรวม AI ที่สร้างขึ้น ซึ่งเพิ่มขึ้นจาก 20% ในปี 2023

การต่อต้าน Deepfakes: การนวัตกรรมของ Pindrop

เพื่อจัดการกับภัยคุกคามที่เพิ่มขึ้นของ Deepfakes Pindrop ได้นำเสนอวิธีแก้ปัญหาที่มีประสิทธิภาพหลายอย่าง หนึ่งในสิ่งที่น่าสังเกตที่สุดคือ การรับประกัน Pulse Deepfake ของ Pindrop ซึ่งเป็นการรับประกันประเภทแรกที่ชดเชยลูกค้าที่มีสิทธิ์หากผลิตภัณฑ์ของ Pindrop ไม่สามารถตรวจจับ Deepfakes หรือการฉ้อโกงเสียงสังเคราะห์อื่นๆ ได้ การริเริ่มนี้มีจุดมุ่งหมายเพื่อให้ความมั่นใจแก่ลูกค้าในขณะเดียวกันก็ผลักดันความสามารถในการตรวจจับการฉ้อโกง

วิธีแก้ปัญหาทางเทคโนโลยีเพื่อเพิ่มความปลอดภัย

รายงานของ Pindrop เน้นย้ำถึงประสิทธิภาพของเทคโนโลยีการตรวจจับเสียงที่มีชีวิต ซึ่งวิเคราะห์เสียงโทรศัพท์สดเพื่อหาคุณลักษณะที่บ่งบอกว่าเสียงนั้นเป็น “เสียงที่มีชีวิต” หรือสังเคราะห์ ในการทดสอบภายใน เทคโนโลยีการตรวจจับเสียงที่มีชีวิตของ Pindrop พบว่ามีความแม่นยำ 12% มากกว่าระบบการรู้จับเสียง และ 64% มากกว่ามนุษย์ในการระบุเสียงสังเคราะห์

นอกจากนี้ Pindrop ยังใช้การป้องกันการฉ้อโกงและการยืนยันตัวตนแบบหลายขั้นตอน ซึ่งใช้เสียง อุปกรณ์ พฤติกรรม ข้อมูลจากผู้ให้บริการ และสัญญาณเสียงที่มีชีวิตเพื่อเพิ่มความปลอดภัย วิธีการหลายชั้นนี้ทำให้การฉ้อโกงยากขึ้นสำหรับผู้ที่มีเจตนาไม่ดี

แนวโน้มในอนาคตและการเตรียมพร้อม

เมื่อมองไปข้างหน้า รายงาน คาดการณ์ ว่าการฉ้อโกง Deepfakes จะยังคงเพิ่มขึ้น โดยมีความเสี่ยง 5 พันล้านดอลลาร์ต่อศูนย์บริการลูกค้าในสหรัฐอเมริกาเท่านั้น การเพิ่มขึ้นของระบบข้อความเป็นเสียงที่มีราคาถูกและเทคโนโลยีเสียงสังเคราะห์ที่มีต้นทุนต่ำ ทำให้เกิดความท้าทายที่ต่อเนื่อง

เพื่อเตรียมพร้อมสำหรับภัยคุกคามเหล่านี้ Pindrop แนะนำเทคนิคการตรวจจับความเสี่ยงในระยะแรก เช่น การตรวจจับการปลอมแปลง ID ผู้เรียก และการตรวจจับการฉ้อโกงแบบต่อเนื่อง เพื่อติดตามและบรรเทาการฉ้อโกงแบบเรียลไทม์ โดยการนำวิธีการรักษาความปลอดภัยที่มีประสิทธิภาพเหล่านี้มาใช้ องค์กรสามารถปกป้องตนเองจากภัยคุกคามที่เปลี่ยนแปลงอย่างต่อเนื่องของการฉ้อโกงที่ขับเคลื่อนด้วย AI

สรุป

การเกิดขึ้นของ Deepfakes และ AI ที่สร้างขึ้นเป็นความท้าทายที่สำคัญในด้านการฉ้อโกงและความปลอดภัย รายงาน Voice Intelligence และ Security ของ Pindrop ปี 2024 เน้นย้ำถึงความจำเป็นในการพัฒนาวิธีแก้ปัญหาที่มีนวัตกรรมเพื่อต่อต้านภัยคุกคามเหล่านี้ ด้วยความก้าวหน้าในการตรวจจับเสียงที่มีชีวิต การยืนยันตัวตนแบบหลายขั้นตอน และกลยุทธ์การป้องกันการฉ้อโกงที่ครอบคลุม Pindrop อยู่ในแนวหน้าในการพยายามรักษาความปลอดภัยของการโต้ตอบที่ใช้เสียงในอนาคต เมื่อภูมิทัศน์ทางเทคโนโลยีเปลี่ยนแปลงไป แนวทางของเราต่อความปลอดภัยและความไว้วางใจในยุคดิจิทัลก็ต้องเปลี่ยนแปลงไปด้วย