ลองนึกภาพสถานการณ์นี้: คุณกำลังทำงานอย่างมุ่งมั่นเพื่อเสร็จสิ้นภารกิจที่มีระยะเวลาที่จำกัด เมื่อคุณได้รับโทรศัพท์จากหมายเลขโทรศัพท์ที่ดูเหมือนจะเป็นของแม่ของคุณ เสียงที่ปลายสายเป็นเสียงของแม่ของคุณที่คุณรู้จัก นุ่มนวลและเต็มไปด้วยความรัก แต่มีเสียงที่เร่งด่วนมากกว่าปกติ เธอบอกคุณว่าเธอประสบปัญหาใหญ่ๆ ในระหว่างการเดินทางที่ปารีส และต้องการความช่วยเหลือทางการเงินจากคุณทันทีเพื่อแก้ไขปัญหา คุณรู้ว่าแม่ของคุณอยู่ที่ปารีส และรายละเอียดที่เธอให้มา รวมถึงชื่อโรงแรมที่เธอพัก ทำให้การโทรศัพท์นี้ดูเหมือนจริงมาก คุณไม่ลังเลที่จะโอนเงินให้เธอ แต่หลังจากนั้น คุณพบว่าแม่ของคุณไม่ได้ทำการโทรศัพท์นั้นเลย มันเป็นระบบ AI ที่มีความซับซ้อนซึ่งเลียนแบบเสียงของแม่ของคุณและสร้างเรื่องราวที่มีรายละเอียดให้เชื่อได้ คุณรู้สึกหวาดกลัวเมื่อคุณตระหนักว่าเกิดอะไรขึ้น

สถานการณ์นี้ ซึ่งเคยเป็นเพียงเรื่องราววิทยาศาสตร์幻想 ตอนนี้กลายเป็นความเป็นจริงที่เกิดขึ้นแล้ว การเกิดขึ้นของเทคโนโลยี AI เช่น โมเดลภาษาขนาดใหญ่ (LLMs) นำมาซึ่งความก้าวหน้าที่น่าเหลือเชื่อ อย่างไรก็ตาม มีความเสี่ยงสำคัญที่คุกคามอยู่: การฉ้อโกงด้วยพลังงาน AI ความสามารถในการฉ้อโกงที่ซับซ้อนโดยใช้ AI เป็นภัยคุกคามใหม่บนขอบฟ้าแห่งความก้าวหน้าทางเทคโนโลยี การฉ้อโกงทางโทรศัพท์เป็นปัญหาตั้งแต่การประดิษฐ์โทรศัพท์ แต่การรวมโมเดลภาษาขนาดใหญ่ (LLMs) เข้ากับการสื่อสารดิจิทัลทุกด้านได้เพิ่มความเสี่ยงอย่างมาก เมื่อเรารับใช้ประโยชน์ของ AI เราต้องเสริมสร้างการป้องกันของเราเพื่อต่อกรกับภัยคุกคามที่ซับซ้อนเหล่านี้ด้วย

ภูมิทัศน์ปัจจุบันของการฉ้อโกงทางโทรศัพท์

อาชญากรได้พยายามหลอกลวงบุคคลที่ไม่สงสัยให้โอนเงินหรือเปิดเผยข้อมูลที่ละเอียดอ่อนมาเป็นปีแล้ว แต尽管การฉ้อโกงทางโทรศัพท์เป็นเรื่องธรรมดา แต่การฉ้อโกงเหล่านี้ส่วนใหญ่ยังคงไม่ซับซ้อน และพึ่งพาการอ่านสคริปต์ของมนุษย์ อย่างไรก็ตาม แม้ว่าจะมีข้อจำกัดนี้ การฉ้อโกงทางโทรศัพท์ก็ยังคงเป็นธุรกิจที่มีผลกำไรสูง

ตามรายงานของ คณะกรรมาธิการการค้าแห่งสหพันธรัฐ ในปี 2022 เพียงอย่างเดียว ชาวอเมริกันสูญเสียเงินมากกว่า 8.8 พันล้านดอลลาร์จากการฉ้อโกง โดยมีส่วนสำคัญที่เกิดจากการฉ้อโกงทางโทรศัพท์ ซึ่งหมายความว่าแม้ในรูปแบบที่ไม่ซับซ้อนในปัจจุบัน การฉ้อโกงเหล่านี้ยังคงทำงานได้บนบุคคลที่อ่อนแอ สิ่งที่จะเกิดขึ้นเมื่อพวกมันพัฒนาไป?

อนาคตของการฉ้อโกงที่มีพลังงาน AI

ภูมิทัศน์ของการฉ้อโกงทางโทรศัพท์กำลังจะเปลี่ยนแปลงอย่างมากด้วยการมาถึงของเทคโนโลยีหลักๆ ดังต่อไปนี้:

โมเดลภาษาขนาดใหญ่ (LLMs)

ระบบ AI เหล่านี้สามารถสร้างข้อความที่เหมือนมนุษย์และมีส่วนร่วมในการสนทนาที่เป็นธรรมชาติ เมื่อนำไปใช้กับการฉ้อโกง LLMs สามารถสร้างสคริปต์ที่น่าเชื่อและปรับเปลี่ยนได้ ทำให้ยากสำหรับผู้ที่อาจเป็นเหยื่อที่จะระบุการฉ้อโกง

การสร้างแบบจำลองที่เพิ่มการค้นหา (RAG)

เทคโนโลยีนี้ช่วยให้ระบบ LLM สามารถเข้าถึงและใช้ข้อมูลจำนวนมากในเวลาจริงได้ ผู้ฉ้อโกงสามารถสร้างโปรไฟล์ของบุคคลโดยใช้ข้อมูลที่มีอยู่สาธารณะ เช่น บัญชีสังคมออนไลน์ พวกเขายังสามารถใช้เทคนิคการวิศวกรรมสังคมกับเพื่อนและครอบครัวเพื่อรวบรวมข้อมูลลึกๆ ได้ สิ่งนี้จะให้พวกเขาเข้าถึงข้อมูล เช่น อัตลักษณ์ของเป้าหมาย ข้อมูลการทำงาน หรือแม้กระทั่งกิจกรรมล่าสุด พวกเขาสามารถใช้ RAG เพื่อให้ LLMs มีบริบทที่จำเป็นในการทำให้การเข้าถึงดูเหมือนจริงและถูกต้อง

การสร้างเสียงสังเคราะห์

แพลตฟอร์มอย่าง Resemble AI และ Lyrebird กำลังนำหน้าในการสร้างเสียงสังเคราะห์ที่มีความสมจริงสูง เทคโนโลยีนี้สามารถผลิตเสียงสังเคราะห์ที่เหมือนมนุษย์ได้ ซึ่งสามารถนำไปใช้ในแอปพลิเคชันต่างๆ ตั้งแต่ผู้ช่วยเสมือนไปจนถึงบริการลูกค้าและสร้างเนื้อหา บริษัทอย่าง ElevenLabs กำลังผลักดันขอบเขตไปอีกขั้นโดยทำให้ผู้ใช้สามารถสร้างเสียงสังเคราะห์ที่สามารถเลียนแบบเสียงของตนเองได้ ทำให้เกิดระดับใหม่ของการปรับแต่งและความสามารถในการมีส่วนร่วมในอินเทอร์แอคต์ดิจิทัล

การสร้างวิดีโอสังเคราะห์

บริษัทอย่าง Synthesia กำลังแสดงศักยภาพในการสร้างเนื้อหาวิดีโอที่มีอวตารสังเคราะห์ ในช่วงหลายปีที่จะมาถึง เทคโนโลยีนี้อาจทำให้ผู้ฉ้อโกงสามารถปลอมตัวเป็นเพื่อนหรือครอบครัวหรือสร้างบุคคลที่ไม่มีอยู่จริงสำหรับการโทรวิดีโอ โดยนำเสนอระดับของความสมจริงทางกายภาพที่ไม่เคยเห็นมาก่อนในการฉ้อโกง

การซิงค์แล็บ AI

สตาร์ทอัพอย่าง Sync Labs กำลังพัฒนาเทคโนโลยีการซิงค์แล็บที่สามารถจับคู่เสียงสังเคราะห์กับวิดีโอบทที่ถ่ายไว้แล้วได้ เทคโนโลยีนี้สามารถนำไปใช้ในการสร้างวิดีโอที่มีคนดังหรือบุคคลสำคัญที่มีลิปซิงค์ที่สมบูรณ์แบบกับเสียงสังเคราะห์ ซึ่งจะทำให้เส้นแบ่งระหว่างความเป็นจริงและความหลอกลวงพร่ามัวขึ้น

การผสมผสานเทคโนโลยีเหล่านี้วาดภาพที่น่ากังวลจริงๆ ลองนึกภาพการโทรฉ้อโกงที่ AI สามารถปรับเปลี่ยนการสนทนาในเวลาจริง โดยมีข้อมูลส่วนบุคคลเกี่ยวกับเป้าหมาย และแม้กระทั่งเปลี่ยนไปสู่การโทรวิดีโอกับบุคคลที่ดูเหมือนจริงที่มีลิปซิงค์ที่สมบูรณ์แบบกับเสียงสังเคราะห์ ความสามารถในการหลอกลวงนั้นแท้จริงแล้วมีศักยภาพอย่างมาก

ความจำเป็นในการเสริมสร้างมาตรการรักษาความปลอดภัย

เมื่อการฉ้อโกงด้วยพลังงาน AI เหล่านี้กลายเป็นไปได้มากขึ้น วิธีการยืนยันตัวตนและความถูกต้องจะต้องแข่งขันกับความก้าวหน้าของ AI จะต้องมีการปรับปรุงด้านกฎระเบียบและเทคโนโลยีเพื่อรักษาความปลอดภัยของโลกออนไลน์

การปรับปรุงด้านกฎระเบียบ

การบังคับใช้กฎหมายการคุ้มครองข้อมูลที่เข้มงวดมากขึ้น: การบังคับใช้กฎหมายการคุ้มครองข้อมูลที่เข้มงวดมากขึ้นจะจำกัดข้อมูลส่วนบุคคลที่สามารถใช้ในการฉ้อโกงได้ กฎหมายเหล่านี้อาจรวมถึงข้อกำหนดที่เข้มงวดมากขึ้นสำหรับการรวบรวมข้อมูล การอนุมัติผู้ใช้ที่ดีขึ้น และการลงโทษที่รุนแรงมากขึ้นสำหรับการละเมิดข้อมูล

คลาวด์ส่วนตัวสำหรับโมเดล AI ที่ทรงพลังที่สุด: กฎระเบียบอาจกำหนดให้โมเดล AI ที่ทรงพลังที่สุดต้องอยู่บนโครงสร้างพื้นฐานคลาวด์ส่วนตัวที่มีความปลอดภัยสูง แทนที่จะเปิดให้ใช้งานได้ทั่วไป สิ่งนี้จะจำกัดการเข้าถึงเทคโนโลยีที่ทันสมัยที่สุด ทำให้ผู้กระทำความผิดยากที่จะใช้พวกมันในการฉ้อโกง (เช่น https://security.apple.com/blog/private-cloud-compute/)

การทำงานร่วมกันระหว่างประเทศเกี่ยวกับกฎระเบียบ AI: เนื่องจากเทคโนโลยี AI มีลักษณะที่เป็นโลกกว้าง การทำงานร่วมกันระหว่างประเทศเกี่ยวกับมาตรฐานการกำกับดูแล AI อาจเป็นประโยชน์ การจัดตั้งหน่วยงานระดับโลกที่รับผิดชอบในการสร้างและบังคับใช้กฎระเบียบ AI ระหว่างประเทศสามารถช่วยในการต่อสู้กับอาชญากรรมที่เกี่ยวข้องกับ AI ที่ข้ามพรมแดน

การรณรงค์สร้างความตระหนักแก่สาธารณะ: รัฐบาลและหน่วยงานกำกับดูแลควรลงทุนในการรณรงค์สร้างความตระหนักแก่สาธารณะเพื่อแจ้งให้ประชาชนทราบเกี่ยวกับความเสี่ยงของการฉ้อโกง AI และวิธีการป้องกันตัวเอง ความตระหนักเป็นขั้นตอนแรกที่สำคัญในการเพิ่มพลังให้กับบุคคลและองค์กรในการนำมาตรการรักษาความปลอดภัยที่จำเป็น

กฎระเบียบ AI ปัจจุบันยังไม่เพียงพอในการป้องกันการฉ้อโกง และความท้าทายในการกำกับดูแลในอนาคตยิ่งซับซ้อนเนื่องจากธรรมชาติของเทคโนโลยีที่เปิดกว้างหลายอย่าง ซึ่งช่วยให้ใครๆ ก็สามารถเข้าถึงและปรับเปลี่ยนเทคโนโลยีเหล่านี้เพื่อจุดประสงค์ของตนเองได้ ดังนั้น ร่วมกับการกำกับดูแลที่เข้มงวดมากขึ้น การพัฒนาด้านความปลอดภัยก็จำเป็นต่อการรับมือกับภัยคุกคามที่เพิ่มขึ้น

การตรวจจับข้อมูลสังเคราะห์

การตรวจจับเสียงสังเคราะห์: เมื่อผู้ฉ้อโกงใช้ AI เราก็ต้องปรับปรุงการป้องกันของเราให้เท่าเทียมกัน บริษัทอย่าง Pindrop กำลังพัฒนาระบบที่ใช้ AI เพื่อตรวจจับเสียงสังเคราะห์ในเวลาจริงระหว่างการโทรศัพท์ เทคโนโลยีนี้วิเคราะห์มากกว่า 1,300 ลักษณะของเสียงเพื่อกำหนดว่าเสียงนั้นมาจากมนุษย์จริงๆ หรือระบบ AI ที่ซับซ้อน

การตรวจจับวิดีโอสังเคราะห์: การตรวจจับวิดีโอสังเคราะห์เป็นอีกหนึ่งความท้าทายที่สำคัญ เนื่องจากวิดีโอก็สามารถถูกจัดการโดย AI เช่นกัน ทำให้เกิดภัยคุกคามในรูปแบบของวิดีโอที่สร้างขึ้นและเนื้อหาสังเคราะห์อื่นๆ บริษัทอย่าง Deepware กำลังพัฒนาเทคโนโลยีเพื่อตรวจจับวิดีโอสังเคราะห์ แพลตฟอร์มของ Deepware ใช้แอลกอริทึมการเรียนรู้ของเครื่องแบบขั้นสูงเพื่อวิเคราะห์ความไม่สม่ำเสมอเล็กๆ น้อยๆ ในข้อมูลวิดีโอ เช่น การเคลื่อนไหวที่ไม่ธรรมชาติ การจัดแสงผิดปกติ และความผิดปกติของพิกเซลที่มักพบในวิดีโอที่สร้างโดย AI โดยการระบุความไม่สม่ำเสมอนี้ เทคโนโลยีของ Deepware สามารถกำหนดได้ว่าวิดีโอนั้นแท้จริงหรือถูกจัดการ

การยืนยันตัวตนด้วยการระบุ

มีการพัฒนาวิธีการต่างๆ เพื่อยืนยันตัวตนของผู้ใช้ และหนึ่งในวิธีเหล่านี้จะกลายเป็นมาตรฐานในอนาคต

การยืนยันตัวตนแบบสองขั้นตอนสำหรับการสนทนาระยะไกล: การยืนยันตัวตนแบบสองขั้นตอน (2FA) ยังคงเป็นส่วนสำคัญของการสื่อสารที่ปลอดภัย ในวิธีนี้ การโทรศัพท์หรืออีเมลแต่ละครั้งจะกระตุ้นให้ส่งรหัสยืนยันแบบหนึ่งครั้งผ่านข้อความ ซึ่งคล้ายกับการลงทะเบียนอีเมลปัจจุบัน แม้ว่า 2FA จะมีประสิทธิภาพสำหรับการยืนยันตัวตนขั้นพื้นฐาน แต่ข้อจำกัดของมันหมายความว่าไม่สามารถพึ่งพาได้ในทุกบริบท ซึ่งจำเป็นต้องมีการพัฒนาวิธีการที่ทันสมัยมากขึ้นเพื่อให้แน่ใจถึงความปลอดภัยของอินเทอร์เน็ตที่ครอบคลุม

การยืนยันตัวตนด้วยพฤติกรรมแบบหลายปัจจัย: นอกเหนือจากการยืนยันตัวตนเมื่อเริ่มการสนทนา ระบบความปลอดภัยในอนาคตอาจวิเคราะห์พฤติกรรมตลอดการโต้ตอบได้ บริษัทอย่าง BioCatch ใช้ไบโอเมตริกส์พฤติกรรมเพื่อสร้างโปรไฟล์ผู้ใช้ตามวิธีการที่บุคคลโต้ตอบกับอุปกรณ์ของตน เทคโนโลยีนี้สามารถตรวจจับความผิดปกติในการพฤติกรรมที่อาจบ่งบอกถึงการฉ้อโกง แม้ว่าผู้กระทำจะผ่านการตรวจสอบความถูกต้องเบื้องต้นแล้วก็ตาม

การยืนยันตัวตนด้วยไบโอเมตริกส์: บริษัทอย่าง Onfido เป็นผู้นำในการพัฒนาเครื่องมือการยืนยันตัวตนด้วย AI ที่สามารถระบุการปลอมแปลงที่ซับซ้อนและรูปแบบการฉ้อโกงอื่นๆ ได้ ระบบของพวกเขาใช้การตรวจสอบเอกสารและวิเคราะห์ไบโอเมตริกส์รวมกันเพื่อให้แน่ใจว่าบุคคลที่อยู่ในอีกฝั่งของการโทรหรือการแชทวิดีโอคือบุคคลนั้นจริงๆ

การยืนยันตัวตนด้วยความรู้ขั้นสูง: ระบบการยืนยันตัวตนในอนาคตอาจรวมคำถามที่สร้างโดย AI ตามรอยเท้าดิจิทัลและกิจกรรมล่าสุดของผู้ใช้ ตัวอย่างเช่น Prove ซึ่งเป็นบริษัทที่เชี่ยวชาญด้านการยืนยันตัวตนทางโทรศัพท์ กำลังพัฒนาวิธีแก้ปัญหาที่ใช้ข่าวกรองโทรศัพท์และการวิเคราะห์พฤติกรรมเพื่อยืนยันตัวตน เทคโนโลยีนี้สามารถวิเคราะห์รูปแบบการใช้อุปกรณ์ของบุคคลเพื่อสร้าง “ลายเซ็นต์ตัวตน” ที่ยากสำหรับผู้ฉ้อโกงที่จะจำลองขึ้นมา

การยืนยันตัวตนด้วยบล็อกเชน: เทคโนโลยีบล็อกเชนเสนอวิธีการที่กระจายและไม่สามารถเปลี่ยนแปลงได้สำหรับการยืนยันตัวตน บริษัทอย่าง Civic กำลังเป็นผู้บุกเบิกระบบการยืนยันตัวตนที่ใช้บล็อกเชน ซึ่งช่วยให้ผู้ใช้สามารถควบคุมข้อมูลส่วนบุคคลของตนเองในขณะเดียวกันก็ให้การรับรองความปลอดภัย ระบบเหล่านี้สร้างบันทึกที่สามารถตรวจสอบและไม่สามารถเปลี่ยนแปลงได้ของตัวตนบุคคล ซึ่งเป็นสิ่งจำเป็นสำหรับการจัดการธุรกรรมที่มีความเสี่ยงสูง

สรุป

การรวมกันของ LLMs, RAG, การสร้างเสียงสังเคราะห์, การสร้างวิดีโอสังเคราะห์ และเทคโนโลยีการซิงค์แล็บเป็นดาบสองคม ในขณะที่ความก้าวหน้าเหล่านี้มีศักยภาพที่น่าเหลือเชื่อสำหรับการใช้งานเชิงบวก แต่ก็ยังเป็นภัยคุกคามที่สำคัญเมื่อถูกใช้ในทางที่ผิด

การแข่งขันที่กำลังดำเนินอยู่ระหว่างผู้เชี่ยวชาญด้านความปลอดภัยและผู้กระทำผิดทางไซเบอร์ เน้นย้ำถึงความจำเป็นในการสร้างสรรค์และตื่นตัวอยู่เสมอในด้านความปลอดภัยดิจิทัล เราสามารถใช้ประโยชน์จากเครื่องมือที่ทรงพลังนี้ได้โดยการยอมรับและเตรียมพร้อมสำหรับความเสี่ยงเหล่านี้

การกำกับดูแลอย่างครอบคลุม การศึกษาเกี่ยวกับรูปแบบการฉ้อโกงใหม่ๆ การลงทุนในมาตรการรักษาความปลอดภัยที่ทันสมัย และที่สำคัญที่สุด การมีความระมัดระวังที่ดีจากทุกคนเมื่อมีปฏิสัมพันธ์กับหน่วยงานที่ไม่รู้จักทางออนไลน์หรือทางโทรศัพท์ จะเป็นสิ่งจำเป็นในการนำทางภูมิทัศน์ใหม่นี้