อารตี ซามานี, ผู้ก่อตั้งและซีอีโอของ Shreem Growth Partners – ซีรีส์สัมภาษณ์

อารตี ซามานี ผู้ก่อตั้งและซีอีโอของ Shreem Growth Partners เป็นผู้นำด้านเทคโนโลยีและนักยุทธศาสตร์ AI ที่มีประสบการณ์มากกว่าสองทศวรรษในการขับเคลื่อนการเติบโตในด้าน AI, อัตลักษณ์ดิจิทัล และความปลอดภัยทางชีวภาพ เธอ曾ดำรงตำแหน่งผู้บริหารระดับสูง tại iProov และ Digital Surgery (ซึ่งถูกซื้อกิจการโดย Medtronic) โดยนำเสนอกลยุทธ์ผลิตภัณฑ์และการตลาดระดับโลกและรับเงินสนับสนุนจำนวนมาก เธอยังเป็นผู้วิจารณ์ประจำของ BBC และเป็นวิทยากรหลักในงานระดับโลก เช่น Money 20/20 และ CogX Festival โดยให้คำปรึกษากับคณะกรรมการและผู้บริหารเกี่ยวกับจริยธรรม AI, การกำกับดูแล และความเสี่ยง ช่วยให้องค์กรต่างๆ สร้างความไว้วางใจและความยืดหยุ่นในยุค AI

Shreem Growth Partners ช่วยให้องค์กรต่างๆ ป้องกันตัวเองจากการฉ้อโกงด้วยการปลอมแปลงและความเสี่ยงด้าน AI โดยเน้นไปที่ชั้นการป้องกันของมนุษย์ ผ่านการฝึกอบรมที่ปรับแต่งตามความต้องการ การให้ข้อมูลผู้บริหาร การประเมินความเสี่ยง และการให้คำปรึกษาทางยุทธศาสตร์ บริษัทนี้ช่วยให้ทีมและผู้นำสามารถรับรู้ ตอบสนอง และป้องกันการปลอมแปลงได้ โดยการสร้างความตระหนัก การเตรียมพร้อม และความยืดหยุ่นทางวัฒนธรรม Shreem จึงช่วยให้องค์กรต่างๆ ป้องกันความเสี่ยงด้านอัตลักษณ์ ชื่อเสียง และพนักงานจากการคุกคาม AI ที่เกิดขึ้นใหม่

คุณก่อตั้ง Shreem Growth Partners หลังจากดำรงตำแหน่งผู้บริหารระดับสูง tại iProov, Medtronic Digital Surgery และบริษัทอื่นๆ ที่ขับเคลื่อนด้วย AI สิ่งใดที่ทำให้คุณตัดสินใจก่อตั้งบริษัทที่มุ่งเน้นการป้องกันการฉ้อโกงด้วยการปลอมแปลงและความเสี่ยงด้าน AI โดยเฉพาะ?

หลังจากการเปิดตัว ChatGPT ในปลายปี 2022 เราได้เห็นการระเบิดของเครื่องมือ AI ที่สามารถปลอมแปลงเสียงและใบหน้าได้ภายในไม่กี่นาที ส่วนใหญ่ขององค์กรเห็นว่าเครื่องมือเหล่านี้เป็นตัวเร่งการสร้างสรรค์สำหรับการออกแบบและการตลาด แต่ผู้กระทำความผิดเห็นว่าเป็นโอกาสใหม่สำหรับการฉ้อโกงที่มีผลกระทบมากขึ้น

การปลอมแปลงด้วยการปลอมแปลงกลายเป็นเครื่องมือที่ผู้กระทำความผิดเลือกใช้ในการฉ้อโกง Security teams ตอบสนองโดยการลงทุนในเทคโนโลยีการตรวจจับ แต่การตรวจจับเพียงอย่างเดียวไม่สามารถแก้ปัญหาที่มีรากฐานมาจากความไว้วางใจของมนุษย์ได้ จิตวิทยาเป็นจุดบอดของอุตสาหกรรม

การรับรู้นั้นทำให้ฉันตัดสินใจก่อตั้ง Shreem Growth Partners บริษัทที่อุทิศตนเพื่อสร้างความแข็งแกร่งในการป้องกันการฉ้อโกงด้วยการปลอมแปลงผ่านการสร้างความตระหนัก การจำลอง และการเสริมสร้างความยืดหยุ่นทางจิต การเสริมสร้างความสามารถในการคิดอย่างมีวิจารณญาณและการต่อต้านการปลอมแปลงเป็นกุญแจสำคัญในการลดการฉ้อโกงประเภทนี้

ที่ iProov คุณทำงานในด้านหน้าจักรของไบโอเมตริกส์และการยืนยันตัวตน คุณได้เห็นความเสี่ยงด้านการปลอมแปลงที่เพิ่มขึ้นอย่างไร?

ในฐานะ Chief Product and Marketing Officer ที่ iProov ฉันช่วยนำการยืนยันตัวตนด้วยไบโอเมตริกส์ใบหน้ามาให้กับองค์กรที่มีความปลอดภัยสูงในภาครัฐและเอกชน องค์กรเหล่านี้เป็นเป้าหมายที่ถูกโจมตีโดยกลุ่มอาชญากรไซเบอร์ที่มีการจัดระเบียบและได้รับการสนับสนุนทางการเงิน

เริ่มเห็นการพยายามหลบหลีกระบบไบโอเมตริกส์โดยใช้การปลอมแปลงที่สร้างจากอัตลักษณ์ที่ถูกขโมย เนื่องจาก iProov เป็นบริการจัดการบนคลาวด์ เราจึงสามารถสังเกตการโจมตีเหล่านี้ได้แบบเรียลไทม์และวิเคราะห์ว่าการโจมตีแต่ละครั้งพัฒนาไปอย่างไร มันชัดเจนว่าผู้กระทำความผิดเรียนรู้ได้เร็วกว่าที่ตลาดปรับตัว

ประสบการณ์นั้นให้ฉันเห็นภาพที่ชัดเจนเกี่ยวกับการพัฒนาของการฉ้อโกงด้วยการปลอมแปลงและความเข้าใจที่ลึกซึ้งเกี่ยวกับวิธีการที่ความคิดสร้างสรรค์และจิตวิทยาขับเคลื่อนการกระทำผิด นั่นคือความเข้าใจที่ฉันนำมาใช้ในงานของฉันเกี่ยวกับการป้องกันการฉ้อโกงด้วยการปลอมแปลง

การปลอมแปลงด้วยการปลอมแปลงถูกใช้เพิ่มขึ้นสำหรับการปลอมแปลงผู้บริหาร การปลอมแปลงเสียง และการโจมตีด้านสังคม工程 คุณเห็นสถานการณ์เหล่านี้บ่อยที่สุดในสนามวันนี้?

มันง่ายกว่าที่จะเข้าถึงระบบโดยใช้เทคนิคสังคมมากกว่าการทำลายระบบความปลอดภัย เมื่อผู้คนตระหนักมากขึ้นเกี่ยวกับการหลอกลวงแบบดั้งเดิม ผู้กระทำความผิดก็หันไปใช้วิธีการใหม่ๆ ในการหลอกลวง

เทคโนโลยีการปลอมแปลงด้วยการปลอมแปลงกลายเป็นเครื่องมือสังคม工程ที่ทรงพลังที่สุดเท่าที่เราเคยเหมา มันช่วยให้ผู้กระทำความผิดสามารถสร้างสัญญาณความไว้วางใจที่มีคุณภาพสูง: ใบหน้า เสียง และเรื่องราวที่สมจริงที่สามารถหลบหลีกการตัดสินของมนุษย์ได้

ความได้เปรียบของผู้กระทำความผิดไม่จำกัดเพียงการปลอมแปลงผู้บริหารหรือการชำระเงินเท่านั้น แต่ยังรวมถึงการโจมตีทรัพย์สินทางปัญญา ข้อมูลที่ละเอียดอ่อน และข้อมูลประจำตัวการเข้าถึง โดยการฝึกอบรมเอเย่นต์ AI และให้เสียงปลอมแก่พวกมัน การฉ้อโกงสามารถดำเนินการได้ที่ระดับความเร็วและความแม่นยำที่ผู้กระทำความผิดมนุษย์ไม่สามารถทำได้ นั่นคือภัยคุกคามที่เรากำลังเผชิญอยู่

อะไรที่ทำให้โปรแกรมการป้องกันการฉ้อโกงด้วยการปลอมแปลงแตกต่างจากการฝึกอบรมด้านความปลอดภัยไซเบอร์หรือการฝึกอบรมต่อต้านการหลอกลวงแบบดั้งเดิม?

การฝึกอบรมด้านความปลอดภัยไซเบอร์แบบดั้งเดิมถูกสร้างขึ้นตั้งแต่ช่วงต้นของทศวรรษ 2000 เมื่อインタ์เน็ตและคอมพิวเตอร์เชิงพาณิชย์ยังคงอยู่ในช่วงเริ่มต้น ตั้งแต่นั้นมา เนื้อหาจึงพัฒนาเพื่อตอบสนองความต้องการด้านการปฏิบัติตามกฎระเบียบ โดยมุ่งเน้นไปที่แพลตฟอร์ม LMS และการสร้างความบันเทิงผ่านเกม แต่ภัยคุกคามได้พัฒนาไปแล้ว

การฉ้อโกงในปัจจุบันเป็นไปอย่างชาญฉลาด สร้างสรรค์ และได้รับการออกแบบทางจิตวิทยา ผู้กระทำความผิดใช้ AI ด้วยความซับซ้อนที่คล้ายคลึงกับวิชาการหรือองค์กร การฝึกอบรมจึงต้องไปไกลกว่าการปฏิบัติตามกฎระเบียบและเข้าสู่ด้านการรับรู้

การฝึกอบรมการป้องกันการฉ้อโกงด้วยการปลอมแปลงไม่สามารถลดให้เหลือเพียงการคลิกลิงก์ได้ มันจะต้องสอนให้ผู้คนคิดอย่างมีวิจารณญาณ ถามตัวตนของใบหน้าและเสียงที่พวกเขาโต้ตอบ และตระหนักถึงวิธีการที่การรับรู้สามารถถูกบิดเบือนได้อย่างง่ายดาย

ความสำคัญเท่าเทียมกันต้องถูกวางไว้บนความยืดหยุ่นทางจิต การเพิ่มขึ้นของอารมณ์ การเบี่ยงเบนความสนใจ และการทำงานหลายอย่างพร้อมๆ กัน ลดความสามารถในการคิดอย่างมีวิจารณญาณ การสร้างความยืดหยุ่นทางจิตช่วยให้พนักงานสามารถรักษาสมดุลทางอารมณ์ และยังคงวิเคราะห์และตื่นตัว นั่นคือทัศนคติที่ต้องการในการต่อต้านการปลอมแปลง

บริษัทของคุณเสนอการประเมินความเสี่ยงด้านการปลอมแปลงและแบบฝึกหัดการโต๊ะทำงาน คุณสามารถอธิบายการจำลองสถานการณ์หนึ่งๆ และข้อมูลเชิงลึกที่ลูกค้าได้รับได้หรือไม่?

ในกระบวนการประเมินความเสี่ยงและแบบฝึกหัดการโต๊ะทำงานของเรา เราเริ่มจากการจำลองเวกเตอร์การโจมตีด้วยการปลอมแปลงที่ดึงมาจากเหตุการณ์จริง สถานการณ์ทั่วไปรวมถึงผู้สมัครงานปลอมที่ใช้การปลอมแปลงอัตลักษณ์ ห้องช่วยเหลือ IT ที่ถูกบุกรุกเพื่อเปลี่ยนข้อมูลประจำตัวการเข้าถึงหลายชั้น หรือการโทรทางวิดีโอด้วยบุคลิกที่สร้างโดย AI ที่说服พนักงานให้ดาวน์โหลดซอฟต์แวร์ที่เป็นอันตราย

การจำลองเหล่านี้เปิดเผยว่าผู้คนตอบสนองอย่างไรภายใต้แรงกดดันและเปิดเผยจุดบอดในด้านการสื่อสาร ขั้นตอน และการตอบสนองต่อเหตุการณ์ ผู้บริหารมักค้นพบความเชี่ยวชาญที่หายไปและความไม่ชัดเจนในการเป็นเจ้าของการตัดสินใจ ผลลัพธ์โดยทั่วไปนำไปสู่โปรแกรมความยืดหยุ่นที่ยั่งยืน ซึ่งเสริมสร้างความรู้ด้านการฉ้อโกง การเปลี่ยนแปลงกระบวนการ และการเปลี่ยนแปลงวัฒนธรรม และความพร้อมในการรับมือวิกฤติในองค์กร

คุณมักพูดถึงการบริหารความเสี่ยงโดยมีศูนย์กลางอยู่ที่มนุษย์ องค์กรสามารถเสริมสร้างความสามารถของพนักงานในการตรวจจับและต่อต้านการปลอมแปลงได้อย่างไร โดยไม่พึ่งพาเครื่องมือทางเทคนิคเพียงอย่างเดียว?

การปลอมแปลงด้วยการปลอมแปลงใช้ประโยชน์จากวงจรประสาทเดียวกับที่ช่วยให้เรามประเมินความไว้วางใจและอารมณ์ สมองของเราถูกกำหนดให้จัดลำดับความสำคัญของสัญญาณภาพและเสียง เนื่องจากสิ่งเหล่านี้เป็นความรู้สึกแรกที่เราได้รับ แต่เรายังไม่ได้พัฒนาความสามารถในการตั้งคำถามต่อสิ่งเหล่านี้โดยธรรมชาติ ดังนั้นเราจึงต้องเรียนรู้และเสริมสร้างทักษะนี้อย่างต่อเนื่อง

องค์กรสามารถเสริมสร้างความสามารถของพนักงานโดยการฝึกอบรมให้พวกเขามองเห็นการโต้ตอบดิจิทัลด้วยความระมัดระวังและความสงสัย เมื่อเรากำลังอยู่ในโทรศัพท์หรือวิดีโอคอล เรากำลังโต้ตอบกับอัตลักษณ์ และอัตลักษณ์นั้นอาจเป็นคนจริงหรือปลอมได้ เราไม่สามารถระบุได้ด้วยการมองเห็นเพียงอย่างเดียว

การป้องกันทางเดียวคือการยืนยันอย่างแข็งขัน: การถามคำถามที่ถูกต้อง การตรวจสอบรายละเอียด และการตรวจจับความไม่สอดคล้องกันในเรื่องราว มันตราสโลแกนใหม่ควรเป็นเรื่องง่าย – ไม่มีความไว้วางใจ อีกทั้งยังต้องตรวจสอบเสมอ

การปลอมแปลงด้วยการปลอมแปลงทำให้เส้นแบ่งระหว่างข้อมูลที่ไม่ถูกต้องและการฉ้อโกงพร่ามัวไป คุณแนะนำให้ผู้บริหารเตรียมพร้อมสำหรับวิกฤตด้านชื่อเสียงและปฏิบัติการที่เกิดจากเหตุการณ์สื่อสังเคราะห์ได้อย่างไร?

ทีมผู้นำต้องปฏิบัติต่อเหตุการณ์การปลอมแปลงด้วยการปลอมแปลงเป็นความเสี่ยงหลักทางธุรกิจ ไม่ใช่ความเสี่ยงที่เป็นไปได้ แต่ละผู้บริหารที่อยู่รอบๆ โต๊ะควรทราบบทบาทของตนเมื่อวิกฤติเกิดขึ้น

เช่นเดียวกับที่คณะกรรมการตรวจสอบทะเบียนความเสี่ยง พวกเขาควรตรวจสอบแผนการตอบสนองต่อเหตุการณ์และแผนเหล่านี้ไม่สามารถเป็นแบบนิ่งๆ ได้ ภัยคุกคามเปลี่ยนแปลงอย่างรวดเร็ว แผนเหล่านี้ต้องการการทดสอบและอัปเดตอย่างน้อยสองครั้งต่อปี โดยเฉพาะอย่างยิ่งหลังจากการฝึกอบรมแบบโต๊ะทำงานที่จำลองเหตุการณ์จริง

วิกฤตด้านการปลอมแปลงด้วยการปลอมแปลงไม่ได้อยู่ในฟังก์ชันเดียว มัน đòiการประสานงานระหว่างการสื่อสาร กฎหมาย ความปลอดภัย และทรัพยากรบุคคล องค์กรที่ตอบสนองได้ดีที่สุดคือองค์กรที่ผู้นำฝึกซ้อมการทำงานร่วมกันก่อนที่จะเกิดเหตุการณ์จริง

มีผลกระทบทางจิตใจต่อพนักงานหรือผู้บริหารที่กลายเป็นเป้าหมายของการปลอมแปลงที่น่าเชื่อถือ คุณแนะนำให้องค์กรมีระบบสนับสนุนหรือโพรโทคอลใดๆ เพื่อจัดการกับผลกระทบด้านมนุษย์?

“ความอับอายจากการถูกหลอก” ต้องหลีกเลี่ยงทุกวิธี องค์กรควรสร้างวัฒนธรรมความปลอดภัยทางจิตใจก่อนที่จะเกิดเหตุการณ์ เมื่อพนักงานหรือผู้บริหารกลายเป็นเป้าหมายของการปลอมแปลงด้วยการปลอมแปลง ประสบการณ์อาจรู้สึกเหมือนการถูกโจมตี การสูญเสียการควบคุมเหนืออัตลักษณ์ดิจิทัล เสียง และใบหน้าของตนเอง

การตอบสนองต้องเป็นทั้งด้านขั้นตอนและด้านมนุษย์ โพรโทคอลการรายงานที่ชัดเจนควรอยู่ข้างๆ การสนับสนุนสุขภาพจิต การให้คำปรึกษาที่มีความลับ และการเข้าถึงการนิติวิทยาศาสตร์ดิจิทัล เพื่อให้บุคคลเข้าใจว่าเกิดอะไรขึ้น

ผู้นำตั้งโทน เมื่อผู้บริหารพูดอย่างเปิดเผยเกี่ยวกับการพยายามหลอกลวงและการฟื้นตัว มันจะกำจัดความอับอายและกระตุ้นให้เกิดความโปร่งใส ความเปิดเผยใจนี้คือสิ่งที่เปลี่ยนความอ่อนแอของแต่ละบุคคลให้กลายเป็นความยืดหยุ่นของทั้งองค์กร

ในฐานะผู้ก่อตั้งบริษัทที่ปรึกษาในพื้นที่นี้ คุณมีความกังวลมากที่สุดเกี่ยวกับวิธีการที่ AI ที่สร้างสรรค์กำลังพัฒนาอย่างรวดเร็ว และคุณเห็นคลื่นลูกต่อไปของความสามารถในการปลอมแปลงด้วยการปลอมแปลงที่จะเกิดขึ้นที่ไหน?

AI ที่สร้างสรรค์กำลังพัฒนาอย่างรวดเร็ว ซึ่งไม่ใช่เรื่องที่น่ากังวล จุดเสี่ยงแท้จริงอยู่ที่การนำไปใช้อย่างรวดเร็วและความยึดเกาะทั่วทั้งการดำเนินธุรกิจที่มีการจัดการ ความเร็วของการบริหารจัดการความเสี่ยงและการตระหนักไม่ได้ตามทัน ช่องว่างระหว่างความเสี่ยงและความยืดหยุ่นคือจุดที่ผู้กระทำความผิดที่มีการปลอมแปลงด้วยการปลอมแปลงเฟื่องฟู

นวัตกรรมใหม่ๆ ทุกอย่างกลายเป็นพื้นผิวใหม่สำหรับการแสวงหาประโยชน์ ปัจจุบันเอเย่นต์ AI เป็นตัวแทนของความเสี่ยงที่เพิ่มขึ้น เมื่อรวมกับเทคโนโลยีการปลอมแปลงด้วยการปลอมแปลงแล้ว พวกมันสามารถดำเนินการฉ้อโกงได้ที่ระดับความเร็วและความแม่นยำที่ผู้โจมตีมนุษย์ไม่สามารถทำได้

ในทางกลับกัน เทคโนโลยีหรือความพยายามร่วมกันใดที่ทำให้คุณมีความหวังว่าเราสามารถอยู่เหนือการฉ้อโกงด้วยการปลอมแปลงและข้อมูลที่ไม่ถูกต้องได้?

การที่การสนทนานี้เกิดขึ้นในนิตยสารที่มีชื่อเสียงเป็นตัวบ่งชี้ถึงความก้าวหน้า มันแสดงให้เห็นว่านักนวัตกรรม ผู้กำกับดูแล สื่อ และองค์กรต่างๆ ทุกคนได้รับผลกระทบจากข้อมูลที่ไม่ถูกต้อง

สิ่งที่ทำให้ฉันมีความหวังคือความเต็มใจที่เพิ่มขึ้นในการร่วมมือ ความยืดหยุ่นต่อการปลอมแปลงด้วยการปลอมแปลงจะไม่มาจากเครื่องมือเดียวหรือองค์กรเดียว แต่มาจากข้อมูลที่ใช้ร่วมกัน การเรียนรู้ที่จะแลกเปลี่ยนข้อมูลและให้ความรู้แก่ชุมชนได้อย่างมีประสิทธิภาพเท่ากับที่ผู้กระทำความผิดทำ

เรายังคงต้องปรับปรุงวิธีการร่วมมือ แต่ความตั้งใจมีอยู่ และความตั้งใจร่วมกันนั้นคือสิ่งที่จะฟื้นฟูความไว้วางใจในที่สุด

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม อารตี ซามานี เพื่อเรียนรู้เพิ่มเติม