ธนาคารพร้อมรับมือกับปัญหาฉ้อโกงเสียงที่สร้างด้วย AI หรือไม่?

เสียงที่สร้างด้วย AI ได้เปลี่ยนแปลงเศรษฐกิจของการฉ้อโกงไปแล้ว สิ่งที่เคยต้องใช้คนปลอมตัวที่มีทักษะหรือสคริปต์ที่น่าเชื่อถือหรือหมายเลขโทรศัพท์ที่ถูกบุกรุกสามารถทำได้โดยใช้เครื่องมือที่เสียงเหมือนมนุษย์มากขึ้น

และที่น่าห่วงคือ พวกเขามีภาคการเงินอยู่ในเป้าหมายของพวกเขาแล้ว ในช่วงต้นปี 2024 ผู้ทำงานในด้านการเงินของบริษัท Arup ได้เข้าร่วมการประชุมวิดีโอซึ่งดูเหมือนจะเป็นการประชุมปกติพร้อมกับ CFO และเพื่อนร่วมงานหลายคน เสียงและใบหน้าที่คุ้นเคยและคำขอที่ดูเหมือนสมเหตุสมผลเพียงพอที่จะผ่านการตรวจสอบเบื้องต้นได้ แต่สุดท้ายเธอได้อนุมัติ 25 ล้านเหรียญสหรัฐในการโอนเงิน ผู้ที่เธอเชื่อว่าเป็นคนจริงที่เธอพูดด้วย รวมถึง CFO ของบริษัท ถูกพบว่าเป็นเสียงปลอมที่สร้างด้วย AI

สำหรับสถาบันการเงิน ความเสี่ยงไม่ได้จำกัดอยู่แค่การอนุมัติการชำระเงินภายในเท่านั้น การล่มสลายของความเชื่อถือสามารถเกิดขึ้นได้ทั่วกระบวนการตรวจสอบลูกค้า การเพิ่มระดับการโทร การตรวจสอบการฉ้อโกง และการกู้คืนบัญชี

นักต้มตุ๋นได้ใช้ความเป็นส่วนตัวของการโทรศัพท์มาหลายทศวรรษเพื่อฉ้อโกง แต่ด้วย AI ความพยายามที่ต้องใช้ในการฉ้อโกงจึงกลายเป็นเรื่องง่าย และผลลัพธ์ก็ยิ่งเชื่อถือได้มากขึ้น สำหรับธนาคารและบริษัทการเงิน เทคโนโลยีนี้ทำให้เกิดแผนที่ความเสี่ยงที่ไม่เคยเห็นมาก่อน

มีความจริงที่ไม่สบายใจอยู่ภายใต้สิ่งนี้ ด้วยความที่ผู้โจมตี đangพยายามหาจุดอ่อนในระบบของธนาคาร การใช้โครงสร้างพื้นฐาน AI ที่สถาบันการเงินกำลังใช้เพื่อปรับปรุงการสนับสนุนลูกค้าทำให้การฉ้อโกงง่ายขึ้นและสามารถทำได้โดยไม่ต้องมีการตรวจสอบ

การโทรที่ดูเหมือนเป็นของจริง

ก่อนที่จะมี AI การฉ้อโกงเสียงสามารถระบุได้ง่ายๆ โทรศัพท์แบบอัตโนมัติเสียงดูแบนและตามสคริปต์ และการโทรศัพท์ปลอมตัวต้องใช้คนดำเนินการตามสคริปต์ ในกรณีส่วนใหญ่ ขนาดของการฉ้อโกงถูกจำกัดโดยคุณภาพของการฉ้อโกงที่ผู้โจมตีทำได้ ด้วยการฝึกอบรมและความเข้าใจที่ดี พนักงานสามารถระบุการฉ้อโกงได้

AI ได้เปลี่ยนแปลงสิ่งนี้โดยการลดความยากของการปลอมตัวเสียงให้เหลือน้อยที่สุด ด้วยการให้คำแนะนำที่เพียงพอ AI สามารถเสียงเหมือนมนุษย์ได้ รวมถึงการเปล่งเสียง การแสดงอารมณ์ และข้อผิดพลาดที่คุณคาดหวังจากคนจริง ทำให้เรื่องเลวร้ายยิ่งขึ้น เครื่องมือที่สามารถคัดลอกเสียงได้สามารถพบได้ง่ายๆ ในแพลตฟอร์มเชิงพาณิชย์และแหล่งเก็บข้อมูลที่เปิดให้ใช้

McAfee Labs พบว่า 3 วินาทีของเสียงเพียงพอสำหรับเครื่องมือ AI ในการสร้างเสียงปลอมที่มีความแม่นยำ 85% 10 วินาทีของการบันทึกสามารถเพิ่มค่านั้นให้มากกว่า 95% วัสดุแหล่งที่มาอยู่ทุกที่: โพสต์บนโซเชียลมีเดีย การต้อนรับบนโทรศัพท์ การบันทึกการประชุม การโทรหุ้น หรือวิดีโอ LinkedIn

เครื่องมือการแปลงเสียงแบบเรียลไทม์กลายเป็นที่นิยมในปี 2024 ซึ่งหมายความว่าผู้โจมตีไม่ต้องใช้คลิปที่บันทึกไว้ล่วงหน้าแล้ว พวกเขาสามารถพูดเข้าไมโครโฟนได้ และเสียงที่ออกมาจะเหมือนกับเสียงของคนอื่น

กรณีของ Arup เป็นตัวอย่างที่ดี: ผู้ทำงานด้านการเงินมีข้อสงสัย แต่เสียงและใบหน้าที่คุ้นเคยบนการโทรทำให้เธอเชื่อใจ แต่สุดท้ายเธออนุมัติ 25 ล้านเหรียญสหรัฐในการโอนเงิน ผู้ที่เธอเชื่อว่าเป็นคนจริงที่เธอพูดด้วย รวมถึง CFO ของบริษัท ถูกพบว่าเป็นเสียงปลอมที่สร้างด้วย AI

เสียงที่คุ้นเคยดูเหมือนจะเป็นเสียงที่เชื่อถือได้ และ AI ได้ทำให้สมมติฐานนั้นเป็นอันตราย

การล้มเหลวในการยืนยันตัวตนกำลังกลายเป็นโอกาสในการฉ้อโกง

สถาบันการเงินกำลังตอบสนองต่อภัยคุกคามภายนอก การใช้จ่ายขององค์กรในการกำกับดูแลและการปฏิบัติตามกฎระเบียบสำหรับ AI คาดว่าจะ เติบโตจาก 2.2 พันล้านเหรียญสหรัฐในปี 2025 เป็น 9.5 พันล้านเหรียญสหรัฐภายในปี 2035 ซึ่งเป็นสัญญาณว่าตลาดให้ความสำคัญกับเรื่องนี้มากเพียงใด

แต่ความเสี่ยงที่สำคัญกว่านั้นไม่ได้มาจากภายนอก สถาบันการเงินกำลังใช้ AI ในการสนับสนุนลูกค้า โดยสร้างระบบ IVR ที่ช่วยเหลือโดย AI ระบบยืนยันตัวตนด้วยเสียง และกระบวนการโทรที่จัดการธุรกรรมโดยไม่ต้องมีคน ด้วยความพยายามที่จะปรับปรุงประสบการณ์ของลูกค้าและลดแรงงานของมนุษย์ แต่เมื่อระบบเหล่านี้ล้มเหลว พวกมันจะทิ้งจุดอ่อนที่ผู้โจมตีสามารถใช้ประโยชน์ได้ง่ายๆ

ข้อผิดพลาดในการกำหนดเส้นทาง การสูญเสียบริบทระหว่างการเพิ่มระดับการโทร และระบบยืนยันตัวตนที่มีพฤติกรรมไม่แน่นอนดูเหมือนเป็นปัญหาด้านประสบการณ์ของลูกค้า และถูกบันทึกไว้เช่นนั้น

แต่ปัญหาด้านประสบการณ์ของลูกค้าเหล่านี้สามารถเปลี่ยนเป็นปัญหาที่เลวร้ายกว่าในระยะยาว ลูกค้าที่ถูกล็อกโดยระบบยืนยันตัวตนด้วยเสียงจะไม่รายงานปัญหา แต่พวกเขาจะโทรกลับและพยายามพูดกับตัวแทนคนจริง และกดดันให้พวกเขาเพิกเฉยต่อโปรโตคอลที่ระบบเหล่านี้ถูกสร้างขึ้นมา

ปัญหาที่ใหญ่กว่าคือ ผู้โจมตีที่ปลอมตัวเป็นลูกค้าสามารถทำเช่นนั้นได้ สถาบันการเงินตระหนักถึงสิ่งนี้แล้ว ในความเป็นจริง 91% ของธนาคารในสหรัฐอเมริกากำลังพิจารณาเปลี่ยนกลยุทธ์การยืนยันตัวตนด้วยเสียงอีกครั้งเนื่องจากความเสี่ยงของการปลอมตัวเสียงด้วย AI

การปรับเปลี่ยนจะไม่แก้ปัญหาเหล่านี้ได้ สถาบันที่มีการยืนยันตัวตนด้วยเสียงที่ล้มเหลวอย่างสม่ำเสมอสำหรับลูกค้าที่ถูกต้องได้สร้างเงื่อนไขที่ผู้โจมตีสามารถใช้ประโยชน์ได้แล้ว

บริษัทต่างๆ ต้องเปลี่ยนมุมมอง ไม่ใช่เปลี่ยนซอฟต์แวร์ความปลอดภัย

เครื่องมือที่สามารถตรวจจับเสียงสังเคราะห์ที่สร้างด้วย AI ได้ดีขึ้น แต่ผู้โจมตีที่กำลังทดสอบระบบของธนาคารเพื่อหาจุดอ่อนไม่ได้กำลังมองหาจุดอ่อนเพียงจุดเดียว พวกเขากำลังมองหาพื้นที่ที่ระบบสะดุดและพลาดกัน ที่ระบบยืนยันตัวตनल้มเหลวในการส่งสัญญาณอย่างชัดเจน การตรวจจับที่ดีขึ้นที่ขอบเขตไม่สามารถปิดช่องว่างนั้นได้

สิ่งที่สามารถช่วยได้คือการเปลี่ยนมุมมองของการรักษาโครงสร้างพื้นฐานเสียง เช่นเดียวกับส่วนอื่นๆ ของซอฟต์แวร์ โครงสร้างพื้นฐานเสียงต้องการการตรวจสอบในระดับเดียวกับการป้องกันขอบเขต

ในทางปฏิบัติ การรักษาความปลอดภัยดังกล่าวจะต้องมีการทดสอบทั้งเชิงหน้าที่และความแข็งแกร่งทั่วทั้งเงื่อนไขที่ระบบ IVR ระบบยืนยันตัวตนด้วยเสียง และระบบเสียงอื่นๆ จะเผชิญในระหว่างการผลิต: เสียงที่มีคุณภาพต่ำ สะท้อนเสียงที่แตกต่างกันและเสียงพื้นหลัง การเพิ่มระดับการโทรในกรณีเชิงขอบ และสถานการณ์การยืนยันตัวตนที่ผู้โทรที่ถูกต้องอยู่นอกขอบเขตการยอมรับของระบบ

คำตอบไม่ใช่การรับรองครั้งเดียว ธนาคารต้องการการตรวจสอบอย่างต่อเนื่องของเส้นทางเสียงทั้งหมด ตั้งแต่การกำหนดเส้นทาง IVR การยืนยันตัวตนด้วยเสียง ไปจนถึงการเพิ่มระดับการโทร การถ่ายโอน และเส้นทางการถอยหลัง ไม่ว่าระบบเสียงจะถูกอัปเดตบ่อยเพียงใด กลยุทธ์การฉ้อโกงจะพัฒนาอย่างธรรมชาติเพื่อหาจุดอ่อนในระบบป้องกันใดๆ ระบบที่ผ่านการตรวจสอบเมื่อใช้งานจริงจะต้องถูกทดสอบบ่อยๆ และซ้ำๆ ในสภาพแวดล้อมจริงเพื่อให้แน่ใจว่ามันปลอดภัยแม้ว่าประสิทธิภาพจะพัฒนาไป

มันคุ้มที่จะทราบว่าการตรวจสอบอย่างต่อเนื่องในระดับขนาดใหญ่จะมาพร้อมกับการพิจารณาเรื่องงบประมาณ มีความตึงเครียดที่ชัดเจนระหว่างการเคลื่อนไหวอย่างรวดเร็ว (การนำความสามารถใหม่ๆ มาใช้เพื่อรักษาความสามารถในการแข่งขัน) และการตรวจสอบระบบอย่างละเอียดก่อนที่จะโต้ตอบกับลูกค้าจริงและเผชิญกับการฉ้อโกงจริงๆ

แม้ว่าจะยากที่จะแก้ไขความตึงเครียดนั้นอย่างชัดเจน แต่ก็ชี้ให้เห็นว่าค่าใช้จ่ายในการข้ามการตรวจสอบ: จุดอ่อนในระบบที่ลูกค้าที่หงุดหงิดได้พบวิธีแก้แล้วคือจุดอ่อน ไม่ว่าบริษัทจะจัดประเภทมันอย่างไร

การเดินทางของลูกค้าที่ดีขึ้นกำลังกลายเป็นการป้องกันการฉ้อโกง

ความเสี่ยงที่กล่าวถึงข้างต้นไม่ใช่ปัญหาที่แยกจากกันและมีวิธีแก้ปัญหาแยกจากกัน ความเสี่ยงที่เกิดจากเส้นทางลูกค้าที่ไม่น่าเชื่อถือกำลังสร้างช่องว่างทางพฤติกรรมที่การฉ้อโกงทางสังคมได้รับการออกแบบมาเพื่อใช้ประโยชน์

นี่คือปัญหาที่สามารถแก้ไขได้ แต่เฉพาะถ้าองค์กรตระหนักว่าผลกระทบของประสบการณ์ลูกค้าที่ไม่ดีสามารถไปไกลกว่าความภักดีหรือรายได้ของลูกค้า ธนาคารจะไม่แก้ปัญหาเรื่องการฉ้อโกงเสียง AI โดยการรักษามันเป็นเพียงปัญหาในการตรวจจับ พวกเขายังต้องลบความไม่แน่นอน ความเสี่ยง และจุดอ่อนภายในเส้นทางเสียงของตนเอง ในยุคที่เสียงที่คุ้นเคยไม่สามารถเชื่อถือได้โดยอัตโนมัติ ความน่าเชื่อถือของเส้นทางการเดินทางกลายเป็นส่วนหนึ่งของแบบจำลองความปลอดภัย