คีธ สจวร์ต ผู้ก่อตั้งและซีอีโอของ Humanix – ซีรีส์สัมภาษณ์

คีธ สจวร์ต ผู้ก่อตั้งและซีอีโอของ Humanix เป็นนักความปลอดภัยทางไซเบอร์ที่มีประสบการณ์มากกว่า 25 ปี โดยครอบคลุมการบริหารผลิตภัณฑ์ การวิศวกรรม การพัฒนาองค์กร และการเป็นผู้นำระดับสูงในบริษัทชั้นนำของอุตสาหกรรม รวมถึง Cisco, Brocade, Riverbed และ vArmour ก่อนที่จะก่อตั้ง Humanix ในปี 2023 เขา曾ดำรงตำแหน่งซีอีโอชั่วคราวและรองประธานฝ่ายผลิตภัณฑ์และวิศวกรรมของ vArmour โดยช่วยให้บริษัทผ่านการเข้าซื้อกิจการและการเปลี่ยนแปลงเป็นแบบธุรกิจตามบริการ (SaaS) ในระหว่างอาชีพการงานของเขา สจวร์ตได้นำทีมระดับโลก ขับเคลื่อนโครงการผลิตภัณฑ์ด้านความปลอดภัยทางไซเบอร์ขนาดใหญ่ เข้าร่วมในกิจกรรมระดมทุนและการควบรวมและซื้อกิจการ และมีบทบาทสำคัญในการพัฒนาเทคโนโลยีความปลอดภัยรุ่นต่อไป ความรู้ที่กว้างขวางของเขาในด้านความปลอดภัยขององค์กรและความเข้าใจที่ลึกซึ้งเกี่ยวกับวิธีการที่ผู้โจมตีใช้พฤติกรรมของมนุษย์ทำให้เขาได้ก่อตั้ง Humanix โดยมีภารกิจในการปกป้องผู้คนจากการโจมตีทางสังคมที่ซับซ้อนมากขึ้น

Humanix เป็นบริษัทด้านความปลอดภัยทางไซเบอร์ที่เป็นผู้บุกเบิกในสิ่งที่เรียกว่า Human Threat Detection and Response (HTDR) ซึ่งเป็นหมวดหมู่ใหม่ที่มุ่งเน้นในการปกป้อง “ชั้นของมนุษย์” ของความปลอดภัยขององค์กร แทนที่จะเน้นไปที่จุดสิ้นสุด เครือข่าย และโครงสร้างพื้นฐานเพียงอย่างเดียว Humanix ใช้ AI การสนทนา ที่ได้รับการฝึกฝนจากจิตวิทยาและรูปแบบการโจมตีทางภาษาธรรมชาติเพื่อตรวจจับการหลอกลวง การปลอมตัว และกลอุบายทางสังคมอื่นๆ ทั่วการโต้ตอบเสียง ชैट อีเมล วิดีโอ และการโต้ตอบฝ่ายบริการ การออกแบบแพลตฟอร์มเพื่อระบุการโจมตีในเวลาจริง ช่วยให้องค์กรหยุดการละเมิดก่อนที่ผู้โจมตีจะใช้พนักงาน ผู้รับเหมิน หรือลูกค้าเป็นเป้าหมาย วิธีการของ Humanix สะท้อนให้เห็นถึงการยอมรับที่เพิ่มขึ้นว่าการโจมตีทางไซเบอร์ที่ประสบความสำเร็จส่วนใหญ่เล็งเห็นเป้าหมายไปที่ผู้คนมากกว่าระบบ และบริษัทมีเป้าหมายที่จะให้ทีมความปลอดภัยมีความสามารถในการมองเห็นและตอบสนองต่อภัยคุกคามที่มุ่งเป้าไปที่มนุษย์เหมือนกับที่พวกเขามีต่อภัยคุกคามทางไซเบอร์แบบดั้งเดิม

คุณได้นำการเปลี่ยนแปลงครั้งสำคัญในบริษัทต่างๆ เช่น vArmour รวมถึงการเปลี่ยนแปลงเป็น SaaS การขยายทีมวิศวกรรม และการนำทางการเข้าซื้อกิจการ อะไรคือช่องว่างหรือจุดเปลี่ยนเฉพาะที่นำคุณไปสู่การก่อตั้ง Humanix และทำไมจึงมุ่งเน้นไปที่การรักษาความปลอดภัยของมนุษย์มากกว่าระบบ?

ความท้าทายที่ยิ่งใหญ่ที่สุดในด้านการรักษาความปลอดภัยขององค์กรใดๆ คือความเสี่ยงของมนุษย์ มนุษย์เป็นทั้งทรัพย์สินป้องกันที่ทรงพลังที่สุดและจุดอ่อนที่ยังคงอยู่เสมอ แต่นี่เป็นปัญหาที่ยังไม่ได้รับการแก้ไข อุตสาหกรรมได้ตอบสนองด้วยการฝึกอบรม — โดยพื้นฐานแล้วพยายามเปลี่ยนพนักงานทั่วไปให้เป็นนักความปลอดภัยทางไซเบอร์ในเซสชั่นหนึ่งชั่วโมง เรารู้ว่ามันไม่ได้ผล แต่เรายังไม่มีวิธีแก้ปัญหาใดๆ ที่ดีกว่า

สิ่งสองสามอย่างได้เปลี่ยนแปลงไปในไม่ช้า หนึ่งไปในทางที่เลวร้ายและอีกอย่างไปในทางที่ดี ก่อนอื่นเลวร้าย: AI ทำให้การโจมตีที่มุ่งเป้าไปที่มนุษย์โดยตรงสามารถเข้าถึงได้ง่ายขึ้น คุณสามารถเป็นวัยรุ่นในอีกด้านหนึ่งของโลก ไม่พูดภาษาอังกฤษ ไม่รู้อะไรเกี่ยวกับธุรกิจใดๆ และ突然 LLM ให้คุณรู้เกือบทุกอย่างและทำให้คุณฟังดูเหมือนใครก็ได้ ซึ่งสร้างความเสี่ยงจริงและปัจจุบัน

สิ่งที่สองไปในทางที่ดี: เรามีเทคโนโลยีในการตรวจจับการโจมตีเหล่านี้แล้ว LLMs มีความสามารถในการเข้าใจความซับซ้อนและความแตกต่างของการโต้ตอบของมนุษย์ ด้วย AI การสนทนา เราสามารถระบุรูปแบบใน那些การโต้ตอบและตอบสนองในเวลาที่ใกล้เคียงกับเรียลไทม์

เรายังไม่ต้องอาศัยกลยุทธ์ที่เก่าแก่และขึ้นอยู่กับการฝึกอบรมอีกต่อไป สำหรับครั้งแรก เรามีวิธีแก้ปัญหาเรื่องความเสี่ยงของมนุษย์โดยตรง นั่นคือเหตุผลที่เราได้สร้าง Humanix ขึ้น

การทำงานของคุณมักมุ่งเน้นไปที่ข้อมูลขนาดใหญ่ การวิเคราะห์พฤติกรรม และแบบจำลองความปลอดภัยที่ใช้กราฟ How ได้ประสบการณ์เหล่านี้ช่วย塑造แนวทางของ Humanix ในการตรวจจับการโจมตีที่ไม่เหมือนกับการละเมิดแบบดั้งเดิม?

การตรวจจับการโจมตีการหลอกลวงทางสังคมแบบโต้ตอบดูเหมือนยากมาก ทุกคนแตกต่างกัน ภาษาธรรมชาติมีความสูงมาก มodels การเรียนรู้ของเครื่องแบบดั้งเดิมไม่เข้าใจบริบทและบ่อยครั้งจึงมีข้อผิดพลาด

อย่างไรก็ตาม เมื่อเราเข้าไปดูรายละเอียดมากขึ้น เราจะเห็นว่าการโจมตีนี้มีรูปแบบเหมือนกับการโจมตีอื่นๆ แทนที่จะเป็นการล้นบัฟเฟอร์หรือ zero days ผู้โจมตีใช้การโจมตีช่องว่างในกระบวนการทางธุรกิจและความไว้วางใจของมนุษย์ ผู้โจมตีมีหนังสือเล่นที่พวกเขาวิ่งไปตามองค์กร ซึ่งหมายความว่าเราควรจะสามารถตรวจจับและตอบสนองต่อการโจมตีเหล่านี้ได้เหมือนกับที่เราทำสำหรับจุดสิ้นสุด เครือข่าย หรือคลาวด์

ข้อมูลเชิงลึกนี้ทำให้เราสามารถผสมผสานรูปแบบการตรวจจับและตอบสนองที่เรารู้ว่ามีประสิทธิภาพ — รวมถึงการวิเคราะห์พฤติกรรมและการทฤษฎีกราฟ — กับความสามารถในการให้เหตุผลทางภาษาของโมเดลภาษา Humanix ใช้การผสมผสานนี้เพื่อเข้าใจหน่วยงาน ความสัมพันธ์ พฤติกรรม ความเสี่ยง และการโต้ตอบตัวเอง นี่คือวิธีที่เราสร้างผลิตภัณฑ์ตรวจจับและตอบสนองใหม่: การตรวจจับและตอบสนองต่อภัยคุกคามของมนุษย์

กลุ่มใหม่ๆ เช่น BlackFile ใช้การโทรศัพท์หลอกลวงและวิศวกรรมทางสังคมแบบเรียลไทม์แทนกลยุทธ์ที่หนักไปทางมัลแวร์ การเปลี่ยนแปลงนี้บอกเราอะไรเกี่ยวกับการเปลี่ยนแปลงของภูมิทัศน์การคุกคาม?

BlackFile เป็นส่วนหนึ่งของการเปลี่ยนแปลงที่กว้างขึ้นในการโจมตีที่ไม่ได้เน้นไปที่การนำมัลแวร์เข้ามาในระบบ แต่เน้นไปที่การใช้ภาษาธรรมชาติเพื่อให้บุคคลเปิดประตู

กลุ่มเหล่านี้ได้ค้นพบว่าการโทรศัพท์ที่น่าเชื่อถือ การสร้างเรื่องราวที่น่าเชื่อถือ และความเร่งด่วนสามารถมีประสิทธิภาพเท่ากับการโจมตีทางเทคนิค และมักจะยากสำหรับทีมความปลอดภัยที่จะเห็นได้ พื้นผิวการโจมตีไม่ได้เปลี่ยนแปลงมากนัก แต่จุดสนใจของผู้โจมตีได้เปลี่ยนไปแล้ว มนุษย์เป็นส่วนหนึ่งของพื้นผิวการโจมตีมาตลอดแล้ว สิ่งที่เปลี่ยนไปคือขนาด ความเต็มที่ และความสามารถในการทำซ้ำของหนังสือเล่น

การหลอกลวงทางสังคมถูกคัดลอก ปรับปรุง และทำให้เป็นอุตสาหกรรมเพราะมันทำงาน มันใช้ประโยชน์จากวิธีการดำเนินธุรกิจจริงๆ โดยเฉพาะในกระบวนการทำงานที่ผู้คนคาดหวังให้ช่วยเหลืออย่างรวดเร็ว แก้ไขข้อผิดพลาด และทำให้สิ่งต่างๆ ดำเนินต่อไป

เรากำลังเห็นผู้โจมตีปลอมตัวเป็นฝ่ายช่วยเหลือ IT และใช้พนักงานโดยตรงเพื่อเข้าถึงระบบ ทำไมเทคนิคเหล่านี้ เช่น vishing และการหลอกลวงฝ่ายช่วยเหลือ จึงกลายเป็นจุดเข้าถึงหลัก?

เทคนิคเหล่านี้มีประสิทธิภาพเพราะพวกเขาใช้ประโยชน์จากความไว้วางใจ ความเร่งด่วน และการเข้าถึงที่พบในกระบวนการสนับสนุนและการบริหารหลายอย่าง

หากต้องการเข้าถึงระบบของคุณ ฉันสามารถใช้เวลาหลายสัปดาห์ในการค้นหาช่องโหว่ทางเทคนิคได้ หรือฉันสามารถโทรหาบางคนที่ได้รับการฝึกอบรมให้ช่วยเหลือ สร้างเรื่องราวที่น่าเชื่อถือ และทำให้พวกเขาทำสิ่งที่ฉันต้องการให้ทำ ไม่ว่าจะเป็นการรีเซ็ตรหัสผ่าน ลงทะเบียนปัจจัย MFA ใหม่ เปลี่ยนสิทธิ์หรืออนุมัติคำขอ

บุคคลที่อยู่ในอีกด้านหนึ่งของสายโทรศัพท์มักพยายามแก้ปัญหาอย่างรวดเร็วภายใต้แรงกดดันเวลา โดยมีข้อมูลไม่สมบูรณ์ นั่นคือสิ่งที่ทำให้ฝ่ายช่วยเหลือเป็นเป้าหมายที่น่าสนใจ มันเป็นหนึ่งในไม่กี่ที่ที่การสนทนาสามารถเปลี่ยนเป็นการเข้าถึงได้โดยตรง เมื่อการเข้าถึงได้รับอนุญาต ส่วนที่เหลือสามารถเกิดขึ้นได้อย่างรวดเร็ว

อุตสาหกรรมได้ลงทุนอย่างหนักในการฝึกอบรมพนักงาน แต่การละเมิดที่มุ่งเป้าไปที่ผู้คนยังคงเพิ่มขึ้น ตรงจุดไหนที่การรู้ความปลอดภัยแบบดั้งเดิมล้มเหลว และอะไรที่ต้องเปลี่ยนแปลง?

การฝึกอบรมการรู้ความปลอดภัยถูกมองว่าเป็นกลยุทธ์หลักในการต่อต้านการหลอกลวงทางสังคม แม้ว่าผลลัพธ์จะแสดงให้เห็นถึงข้อจำกัดของมัน องค์กรยังคงลงทุนอย่างหนักในการฝึกอบรม แต่ผู้โจมตียังคงประสบความสำเร็จเพราะพวกเขามุ่งเป้าไปที่ผู้คนในการโต้ตอบแบบเรียลไทม์ ไม่ใช่การทดสอบว่าพนักงานจำเนื้อหาจากรายการได้หรือไม่

การโจมตีทางสังคมไม่ใช่แบบทดสอบ มันเป็นบุคคลที่อยู่ในอีกด้านหนึ่งของสายโทรศัพท์หรือเธรดชैटที่สร้างความเร่งด่วน ความไว้วางใจ และพยายามทำให้บางคนดำเนินการบางอย่างที่พวกเขาควรไม่ทำ การแบบจำลองปัจจุบันล้มเหลวเพราะคาดหวังให้พนักงานตระหนักและหยุดการโจมตีในขณะที่ผู้โจมตีกำลังควบคุมการโต้ตอบอยู่

เมื่อมีบางอย่างผิดพลาด การตอบสนองมักจะกล่าวโทษพนักงานและกำหนดการฝึกอบรมเพิ่มเติม แต่พนักงานพยายามช่วยเหลือ ซึ่งเป็นสิ่งที่ธุรกิจขอให้พวกเขาทำทุกวัน เราต้องหยุดพิจารณาการหลอกลวงทางสังคมเป็นเพียงปัญหาแห่งการรู้เท่านั้น มันเป็นหมวดหมู่การโจมตี และเราควรตรวจจับและตอบสนองต่อมันในขณะที่การโต้ตอบกำลังเกิดขึ้น

Humanix จัดตำแหน่งตัวเองโดยการตรวจจับการโจมตีต่อผู้คนในเวลาจริง อะไรคือสิ่งที่การมองเห็นความเสี่ยงของมนุษย์เหมือนในทางปฏิบัติ?

การมองเห็นความเสี่ยงของมนุษย์หมายถึงการให้ความสามารถในการมองเห็นแก่ทีมความปลอดภัยในการโต้ตอบแบบเรียลไทม์ที่ผู้โจมตีพยายามหลอกลวงผู้คนให้เปลี่ยนการเข้าถึง ละเว้นขั้นตอนที่ต้องการ หรือดำเนินการอื่นๆ ที่ไม่ปลอดภัยในนามของผู้โจมตี

ปัจจุบัน การโต้ตอบเหล่านี้เป็นเรื่องที่มองไม่เห็นสำหรับทีมความปลอดภัย บางคนโทรหาฝ่ายช่วยเหลือ เปิดตั๋ว หรือเริ่มชैट รหัสผ่านถูกรีเซ็ต ปัจจัย MFA ถูกลงทะเบียน สิทธิ์ถูกเปลี่ยน หรือข้อยกเว้นถูกอนุมัติ การทำงานเหล่านี้มีความละเอียดอ่อนสูง แต่ทีมความปลอดภัยไม่มีการมองเห็นและความสามารถในการควบคุม

Humanix เปลี่ยนแปลงสิ่งนี้ เราเชื่อมต่อกับระบบสื่อสารขององค์กรที่ใช้อยู่ — Microsoft 365, ServiceNow, Zoom, Slack และอื่นๆ Humanix ติดตามการกระทำและการโต้ตอบผ่านช่องทางเหล่านั้น และเปรียบเทียบกับยุทธวิธีการโจมตีและขั้นตอนขององค์กร

ผู้โทรได้รับการยืนยันตัวตนอย่างถูกต้องหรือไม่? พวกเขาหลอกลวงผ่านการยืนยันตัวตนหรือไม่? มีความเร่งด่วน การปลอมตัว หรือการกดดันให้ข้ามขั้นตอนที่ต้องการหรือไม่? มีการกระทำที่มีความเสี่ยงสูงหรือไม่? การมองเห็นความเสี่ยงเปลี่ยนแปลงไปอย่างไรเมื่อการโทรดำเนินต่อไป? Humanix ให้การตรวจจับและตอบสนองความปลอดภัยในขณะที่การโต้ตอบเกิดขึ้น และแจ้งให้ทีมความปลอดภัยทราบถ้าบางอย่างดูเหมือนน่าสงสัย

เป้าหมายสูงสุดของการวิเคราะห์นี้ไม่ใช่การลงโทษเหยื่อหลังจากที่เกิดเหตุแล้ว แต่เป็นการปกป้องพวกเขาในขณะนั้น หากการสนทนาเปลี่ยนเป็นการโจมตี ทีมความปลอดภัยต้องทราบ

เมื่อเทคโนโลยีเสียงและวิดีโอที่สร้างด้วย AI ดีขึ้น เราจะใกล้ถึงจุดที่ความไว้วางใจของมนุษย์กลายเป็นพื้นผิวการโจมตีที่อ่อนแอที่สุดหรือไม่?

ความไว้วางใจของมนุษย์เป็นพื้นผิวการโจมตีที่อ่อนแอที่สุดมานานแล้ว AI ทำให้การโจมตีที่มุ่งเป้าไปที่ความไว้วางใจของมนุษย์โดยตรงสามารถสร้างได้ง่ายขึ้น ปรับแต่งได้ และขยายขนาดได้

อย่างไรก็ตาม เราต้องระมัดระวังในการไม่หมุนรอบกรณี ‘deepfake’ มากเกินไป Deepfakes เป็นเพียงหนึ่งในหลายๆ สื่อที่ผู้โจมตีสามารถใช้เพื่อหลอกลวงบุคคลได้ ในความเป็นจริง หากเรามองไปที่การโจมตีทางสังคมที่ประสบความสำเร็จส่วนใหญ่ในช่วงไม่กี่ปีที่ผ่านมา ส่วนใหญ่ไม่ใช่ deepfakes — พวกเขาเป็นเพียงผู้โจมตีและนักต้มตุ๋นธรรมดาๆ ที่ยกโทรศัพท์ กลุ่มเช่น Scattered Spider, ShinyHunters และ BlackFile ได้แสดงให้เห็นว่าโทรศัพท์ปกติ เรื่องราวที่น่าเชื่อถือ และความเร่งด่วนที่เหมาะสมก็เพียงพอแล้วที่จะทำให้บางคนดำเนินการตามที่ผู้โจมตีต้องการ

ทีมความปลอดภัยต้องมุ่งเน้นไปที่ข้อความ ไม่ใช่สื่อ บางคนถูกกดดันให้ละเมิดนโยบายหรืออนุมัติข้อยกเว้นในสถานการณ์ที่น่าสงสัย — พฤติกรรมเหล่านี้เป็นความเสี่ยงที่แท้จริง ความเสี่ยงอยู่ในการโต้ตอบตัวเองและการกระทำที่ได้รับการออกแบบมาเพื่อกระตุ้นให้เกิดการกระทำ

ความไว้วางใจไม่ใช่สิ่งที่เราสามารถถอดออกจากธุรกิจได้ ผู้คนต้องตอบโทรศัพท์ แก้ปัญหา อนุมัติคำขอ และช่วยเหลือซึ่งกันและกัน คำตอบไม่สามารถทำให้ทุกคนน้อยลงได้ มันต้องเป็นการปกป้องช่วงเวลาที่ความไว้วางใจถูกใช้ประโยชน์

บทบาทใดที่ AI ควรเล่นในการป้องกันการโจมตีทางสังคมที่ขับเคลื่อนด้วย AI และอะไรคือความท้าทายทางเทคนิคที่ยิ่งใหญ่ที่สุดในการตรวจจับการหลอกลวงในเวลาจริง?

AI การสนทนาเปิดโอกาสให้เปลี่ยนการโจมตีทางสังคมที่ขับเคลื่อนด้วย AI จากปัญหาในการฝึกอบรมเป็นปัญหาในการตรวจจับและตอบสนอง เราสามารถนำความรู้ทั้งหมดจากโดเมนต่างๆ เช่น จุดสิ้นสุดหรือเครือข่าย และนำไปใช้กับชั้นของมนุษย์

มีความท้าทายทางเทคนิคหลายอย่างในการทำให้ความฝันนี้เป็นจริง ภาษาธรรมชาติมีความสูงมาก หมายความว่ามีหลายวิธีในการสื่อสารความหมายเดียวกัน การพูดว่า “ฉันล็อกเอาท์จากระบบของฉัน” เป็นคำสั่งเทียบเท่ากับการพูดว่า “ฉันต้องการรีเซ็ตรหัสผ่านของฉัน” แม้ว่าคำว่า “รหัสผ่าน” และ “รีเซ็ต” จะไม่ได้ถูกใช้ก็ตาม

อีกอย่างหนึ่งคือความสำคัญของบริบท การโต้ตอบของมนุษย์มีความเฉพาะตัวและสะสม ดังนั้นการหลอกลวงจึงเป็นเช่นนั้น ผู้โทรสามารถดูสงบ รู้สึกดี และน่าเชื่อถือในขณะเดียวกันก็พยายามหลอกลวงผู้อื่นให้หลีกเลี่ยงการยืนยันตัวตนหรือดำเนินการอื่นๆ ที่ไม่ปลอดภัย เราต้องรวมสัญญาณและข้อมูลบริบทหลายอย่างเข้าด้วยกันเพื่อแยกแยะระหว่างการโต้ตอบที่เป็นประโยชน์และการโจมตี

สุดท้าย แต่ละองค์กรมีลักษณะเฉพาะตัว มีนโยบายและบรรทัดฐานที่ไม่สามารถอ่านได้ด้วยเครื่อง นี่เป็นอีกพื้นที่หนึ่งที่ AI สามารถช่วยได้ — การทำความเข้าใจนโยบายเหล่านั้นและเปรียบเทียบกับการดำเนินการที่สังเกตได้

เครื่องมือความปลอดภัยหลายตัวยังคงมุ่งเน้นไปที่จุดสิ้นสุด เครือข่าย และระบบอัตลักษณ์ คุณคิดว่า CISO ควรปรับโครงสร้างใหม่เพื่อเตรียมพร้อมสำหรับการเปลี่ยนแปลงของภัยคุกคามที่มุ่งเป้าไปที่พฤติกรรมของมนุษย์หรือไม่?

ก่อนอื่น CISO ควรยอมรับสิ่งที่เราทุกคนรู้ด้วย直觉ว่า ทุนมนุษย์ขององค์กรเป็นชั้นของทรัพย์สินที่ต้องจัดการ ความเสี่ยงและภัยคุกคามต้องถูกสร้างแบบจำลองและควบคุมอย่างถูกต้อง

โครงสร้างความปลอดภัยทางไซเบอร์ของ NIST ให้คำแนะนำเกี่ยวกับวิธีการทำสิ่งนี้ “การระบุ” และ “การบริหารจัดการ” ของผู้คนเป็นส่วนหนึ่งของการบริหารจัดการทรัพย์สิน (ID.AM) ของการระบุความเสี่ยง ยังไงซีไอเอสโอหลายองค์กรนิยามปัญหาเรื่องความเสี่ยงของมนุษย์เป็นปัญหาในการฝึกอบรม และจัดการมันผ่านการปฏิบัติตามข้อกำหนดการฝึกอบรมการรู้ความปลอดภัยเท่านั้น สิ่งนี้ต้องเปลี่ยนแปลง

เมื่อเรารักษาทุนมนุษย์เป็นชั้นของทรัพย์สินของตัวเอง นี่เปิดโอกาสให้เราใช้เล่นบุ๊คมาตรฐานที่เราวิ่งสำหรับทรัพย์สินอื่นๆ ทุกชั้น อะไรคือความเสี่ยงที่สำคัญ (ID.RA)? ฉันจะป้องกันความเสี่ยงเหล่านั้นอย่างเป็นระบบได้อย่างไร (Protect)? ระบบและกระบวนการของเราคืออะไรในการตรวจจับว่าผู้โจมตีจะผ่านการป้องกันหรือไม่ (Detect)? และองค์กรจะตอบสนองเพื่อจำกัดภัยคุกคามและฟื้นฟูการให้บริการ (Respond และ Recover)? โดยการนำแนวทางที่เป็นระบบเดียวกันกับทุนมนุษย์เหมือนกับที่เราทำสำหรับทรัพย์สินอื่นๆ ทุกชั้น เราสามารถระบุความเสี่ยงได้ชัดเจนขึ้น และจัดลำดับความสำคัญของทรัพยากรในการจัดการความเสี่ยงเหล่านั้นได้อย่างมีประสิทธิภาพมากขึ้น

เมื่อมองไปข้างหน้า คุณคาดหวังว่าการโจมตีในชั้นของมนุษย์จะครอบงำการกระทำผิดทางไซเบอร์หรือไม่ หรือเราจะเห็นแบบจำลองไฮบริดที่ AI และการหลอกลวงทางสังคมรวมกันเป็นภัยคุกคามที่ยากต่อการป้องกัน?

มันจะถูกผสมผสานอย่างแน่นอน เรามีสองสิ่งที่เกิดขึ้นพร้อมๆ กัน ขั้นแรก ผู้โจมตีเรียนรู้ที่จะขยายการโจมตีของตนโดยใช้ AI เพิ่มการเข้าถึงและลดต้นทุนของชั้นการโจมตีนี้ ในขณะเดียวกัน องค์กรต่างๆ ก็ผ่านการเปลี่ยนแปลง AI ที่นำโดยบริการทางธุรกิจที่ถูกโจมตีโดย BlackFile และเพื่อนๆ

การบริการลูกค้า ฝ่ายช่วยเหลือ การช่วยเหลือฝ่ายบริการ การดำเนินงานทางการเงิน และการสนับสนุนภายในกำลังถูกเปลี่ยนแปลงจากที่ให้บริการโดยมนุษย์เป็น AI ที่ให้บริการ ซึ่งหมายความว่าเราจะประสบกับการระเบิดของพื้นผิวการโจมตีทางภาษาธรรมชาติในขณะเดียวกันก็ลบความระมัดระวังของมนุษย์ออกไป โมเดลภาษาขนาดใหญ่ถูกฝึกให้ตอบสนองต่อคำสั่งและเป็นมิตร ความระมัดระวังหรือ “สัญชาตญาณ” ของมนุษย์ที่เป็นหนึ่งในกลยุทธ์ป้องกันที่ดีที่สุดของเราต่อการโจมตีทางสังคมถูกถอดออกจากการตอบสนองของโมเดล

การเปลี่ยนแปลงไปสู่การบริการที่ให้บริการโดย AI ในที่สุดจะเพิ่มความเสี่ยงของการโจมตีทางสังคม ไม่ใช่ลดลง เมื่อความเสี่ยงของการโจมตีทางสังคมเพิ่มขึ้น ทีมความปลอดภัยต้องเริ่มวางแผนในวันนี้สำหรับแผนการป้องกันและตอบสนองที่เป็นระบบสำหรับ现実ใหม่นี้

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี ผู้อ่านสามารถเรียนรู้เพิ่มเติมเกี่ยวกับ Humanix ได้ที่นี่