Deepfakes และ AI: ข้อมูลเชิงลึกจากรายงาน Voice Intelligence และความปลอดภัยปี 2024 ของ Pindrop

ความก้าวหน้าอย่างรวดเร็วของปัญญาประดิษฐ์ (AI) นำมาซึ่งประโยชน์ที่สำคัญและการเปลี่ยนแปลงการเปลี่ยนแปลงในอุตสาหกรรมต่างๆ อย่างไรก็ตาม ยังได้ก่อให้เกิดความเสี่ยงและความท้าทายใหม่ๆ โดยเฉพาะอย่างยิ่งเมื่อต้องเผชิญ การหลอกลวง และ ความปลอดภัย. Deepfakesผลิตภัณฑ์ของ AI กำเนิดมีความซับซ้อนมากขึ้นเรื่อยๆ และเป็นภัยคุกคามอย่างมากต่อความสมบูรณ์ของ ระบบรักษาความปลอดภัยด้วยเสียง.

ผลการวิจัยจาก รายงานข่าวกรองเสียงและความปลอดภัยปี 2024 ของ Pindropเน้นย้ำถึงผลกระทบของ Deepfakes ในภาคส่วนต่างๆ ความก้าวหน้าทางเทคโนโลยีที่ขับเคลื่อนภัยคุกคามเหล่านี้ และโซลูชั่นที่เป็นนวัตกรรมที่ได้รับการพัฒนาเพื่อต่อสู้กับภัยคุกคามเหล่านี้

การเพิ่มขึ้นของ Deepfakes: ดาบสองคม

Deepfakes ใช้ขั้นสูง อัลกอริทึมการเรียนรู้ของเครื่อง เพื่อสร้างความสมจริงอย่างมาก เนื้อหาเสียงและวิดีโอสังเคราะห์- แม้ว่าเทคโนโลยีเหล่านี้จะมีการใช้งานที่น่าตื่นเต้นในด้านความบันเทิงและสื่อ แต่ก็ยังนำเสนอความท้าทายด้านความปลอดภัยที่ร้ายแรงอีกด้วย ตามรายงานของ Pindrop ผู้บริโภคในสหรัฐฯ มีความกังวลมากที่สุดเกี่ยวกับความเสี่ยงของ Deepfakes และ Voice Clone ในภาคการธนาคารและการเงิน โดย 67.5% แสดงความกังวลอย่างมาก

ผลกระทบต่อสถาบันการเงิน

สถาบันการเงินมีความเสี่ยงอย่างยิ่งต่อการโจมตีแบบ Deepfake- ผู้ฉ้อโกงใช้เสียงที่สร้างโดย AI เพื่อแอบอ้างเป็นบุคคล เข้าถึงบัญชีโดยไม่ได้รับอนุญาต และจัดการธุรกรรมทางการเงิน รายงานเผยให้เห็นว่ามีการละเมิดข้อมูลเป็นจำนวนมากเป็นประวัติการณ์ในปี 2023 รวมเป็น 3,205 เหตุการณ์ เพิ่มขึ้น 78% จากปีก่อนหน้า ค่าใช้จ่ายเฉลี่ยของการละเมิดข้อมูลในสหรัฐอเมริกาขณะนี้อยู่ที่ 9.5 ล้านดอลลาร์ โดยศูนย์ติดต่อต้องรับผลกระทบร้ายแรงจากผลกระทบด้านความปลอดภัย

กรณีที่น่าสังเกตประการหนึ่งเกี่ยวข้องกับการใช้ก เสียงปลอมเพื่อหลอกลวงบริษัทในฮ่องกงให้โอนเงิน 25 ล้านดอลลาร์โดยเน้นย้ำถึงศักยภาพในการทำลายล้างของเทคโนโลยีเหล่านี้เมื่อนำไปใช้ในทางที่ผิด

ภัยคุกคามต่อสื่อและการเมืองในวงกว้าง

นอกเหนือจากบริการทางการเงินแล้ว Deepfakes ยังก่อให้เกิดความเสี่ยงที่สำคัญต่อสื่อและสถาบันทางการเมือง- ความสามารถในการสร้างเนื้อหาเสียงและวิดีโอปลอมที่น่าเชื่อสามารถใช้เพื่อเผยแพร่ข้อมูลที่ไม่ถูกต้อง บิดเบือนความคิดเห็นของประชาชน และบ่อนทำลายความไว้วางใจในกระบวนการประชาธิปไตย รายงานระบุว่าผู้บริโภค 54.9% กังวลเกี่ยวกับภัยคุกคามจากการปลอมแปลงข้อมูลอย่างลึกซึ้งต่อสถาบันทางการเมือง ในขณะที่ 54.5% กังวลเกี่ยวกับผลกระทบต่อสื่อ

ในปี 2023 เทคโนโลยี Deepfake มีส่วนเกี่ยวข้องกับเหตุการณ์สำคัญๆ หลายครั้ง รวมถึงก การโจมตี robocall ที่ใช้เสียงสังเคราะห์ของประธานาธิบดีไบเดน- เหตุการณ์ดังกล่าวเน้นย้ำถึงความเร่งด่วนในการพัฒนากลไกการตรวจจับและป้องกันที่มีประสิทธิภาพ

ความก้าวหน้าทางเทคโนโลยีที่ขับเคลื่อน Deepfakes

การแพร่กระจายของเครื่องมือ AI เจนเนอเรชั่น เช่น ChatGPT ของ OpenAI, Bard ของ Google และ Bing AI ของ Microsoft ได้ลดอุปสรรคในการสร้าง Deepfakes ลงอย่างมาก ปัจจุบันมีการใช้ระบบ Generative AI มากกว่า 350 ระบบสำหรับแอปพลิเคชันต่างๆ รวมถึง Eleven Labs, Descript, Podcastle, PlayHT และ Speechify ตัวอย่างเช่น โมเดล VALL-E ของ Microsoft สามารถโคลนเสียงจากคลิปเสียงความยาวเพียงสามวินาทีได้

ความก้าวหน้าทางเทคโนโลยีเหล่านี้ทำให้ Deepfakes ถูกลงและผลิตได้ง่ายขึ้น เพิ่มการเข้าถึงทั้งผู้ใช้ที่ไม่เป็นอันตรายและผู้ที่เป็นอันตราย ภายในปี 2025 Gartner คาดการณ์ว่า 80% ของข้อเสนอ AI เชิงสนทนาจะรวม AI เชิงสร้างสรรค์ เพิ่มขึ้นจาก 20% ในปี 2023.

การต่อสู้กับ Deepfakes: นวัตกรรมของ Pindrop

เพื่อรับมือกับภัยคุกคามจาก DeepFake ที่เพิ่มมากขึ้น Pindrop ได้นำเสนอโซลูชั่นที่ล้ำสมัยหลายประการ สิ่งหนึ่งที่น่าสังเกตมากที่สุดก็คือ การรับประกัน Pulse Deepfakeซึ่งเป็นการรับประกันรูปแบบแรกที่คืนเงินให้กับลูกค้าที่มีสิทธิ์ หากชุดผลิตภัณฑ์ของ Pindrop ไม่สามารถตรวจจับการฉ้อโกงด้วยเสียงแบบ Deepfake หรือสังเคราะห์อื่นๆ ได้ โครงการริเริ่มนี้มีจุดมุ่งหมายเพื่อให้ความอุ่นใจแก่ลูกค้าในขณะเดียวกันก็ผลักดันขอบเขตความสามารถในการตรวจจับการฉ้อโกง

โซลูชั่นเทคโนโลยีเพื่อเพิ่มความปลอดภัย

รายงานของ Pindrop เน้นย้ำถึงประสิทธิภาพของเทคโนโลยีการตรวจจับความสด ซึ่งจะวิเคราะห์การโทรสดสำหรับคุณสมบัติสเปกตรัมชั่วคราวที่ระบุว่าเสียงในสายนั้นเป็นเสียง "สด" หรือสังเคราะห์ ในการทดสอบภายใน พบว่าโซลูชันการตรวจจับความมีชีวิตชีวาของ Pindrop มีความแม่นยำมากกว่าระบบจดจำเสียงถึง 12% และแม่นยำกว่ามนุษย์ในการระบุเสียงสังเคราะห์ถึง 64%

นอกจากนี้ Pindrop ยังใช้การป้องกันและการตรวจสอบการฉ้อโกงแบบหลายปัจจัยแบบบูรณาการ โดยใช้ประโยชน์จากเสียง อุปกรณ์ พฤติกรรม เมตาดาต้าของผู้ให้บริการ และความสดของสัญญาณเพื่อเพิ่มความปลอดภัย วิธีการแบบหลายชั้นนี้ยกระดับมาตรฐานสำหรับผู้ฉ้อโกงอย่างมาก ทำให้พวกเขาประสบความสำเร็จได้ยากขึ้น

แนวโน้มและการเตรียมพร้อมในอนาคต

มองไปข้างหน้า รายงานการคาดการณ์ การฉ้อโกงแบบ Deepfake จะยังคงเพิ่มขึ้นอย่างต่อเนื่อง โดยก่อให้เกิดความเสี่ยงที่ 5 พันล้านดอลลาร์กับศูนย์ติดต่อในสหรัฐอเมริกาเพียงแห่งเดียว ความซับซ้อนที่เพิ่มขึ้นของระบบการแปลงข้อความเป็นคำพูด ผสมผสานกับเทคโนโลยีเสียงพูดสังเคราะห์ที่มีต้นทุนต่ำ ทำให้เกิดความท้าทายอย่างต่อเนื่อง

เพื่อก้าวนำหน้าภัยคุกคามเหล่านี้ Pindrop ขอแนะนำเทคนิคการตรวจจับความเสี่ยงตั้งแต่เนิ่นๆ เช่น การตรวจจับการปลอมแปลงหมายเลขผู้โทร และการตรวจจับการฉ้อโกงอย่างต่อเนื่อง เพื่อติดตามและบรรเทากิจกรรมการฉ้อโกงแบบเรียลไทม์ การนำมาตรการรักษาความปลอดภัยขั้นสูงเหล่านี้ไปใช้ องค์กรต่างๆ สามารถป้องกันตนเองจากภูมิทัศน์ที่เปลี่ยนแปลงไปของการฉ้อโกงที่ขับเคลื่อนด้วย AI ได้ดีขึ้น

สรุป

การเกิดขึ้นของ deepfakes และ generative AI แสดงให้เห็นถึงความท้าทายที่สำคัญในด้านการฉ้อโกงและความปลอดภัย รายงาน Voice Intelligence and Security ประจำปี 2024 ของ Pindrop เน้นย้ำถึงความจำเป็นเร่งด่วนสำหรับโซลูชันที่เป็นนวัตกรรมเพื่อต่อสู้กับภัยคุกคามเหล่านี้ ด้วยความก้าวหน้าในการตรวจจับความสด การรับรองความถูกต้องแบบหลายปัจจัย และกลยุทธ์ป้องกันการฉ้อโกงที่ครอบคลุม Pindrop อยู่ในแนวหน้าของความพยายามในการรักษาอนาคตของการโต้ตอบด้วยเสียง เนื่องจากภูมิทัศน์ด้านเทคโนโลยียังคงมีการพัฒนาอย่างต่อเนื่อง แนวทางของเราในการรับรองความปลอดภัยและความไว้วางใจในยุคดิจิทัลก็เช่นกัน