ความฮือฮาเรื่อง AI บดบังการตัดสินใจของมนุษย์ที่นำไปสู่การละเมิด

AI ได้เปลี่ยนแปลงวิธีคิดขององค์กรเกี่ยวกับภัยคุกคาม โดยมีการมุ่งเน้นไปที่การดำเนินการที่มีขนาดใหญ่ การสอดแนมแบบอัตโนมัติ และการปลอมตัวที่มีความน่าเชื่อถือมากขึ้น การพัฒนาที่น่าสนใจเหล่านี้ควรได้รับการพิจารณา แต่ก็ทำให้ความเข้าใจของอุตสาหกรรมเกี่ยวกับจุดเริ่มต้นของการละเมิดที่พบบ่อยที่สุดผิดเพี้ยนไป

แม้ว่าองค์กรจะให้ความสนใจกับภัยคุกคามที่ซับซ้อนและขับเคลื่อนด้วย AI แต่ผู้โจมตีก็ยังคงสามารถเข้าถึงได้โดยการหลอกลวงการตัดสินใจของมนุษย์ การโจมตี ClickFix ซึ่งเป็นรูปแบบที่ซับซ้อนของการโจมตีทางสังคม ได้ประกอบขึ้นเป็น 47% ของเหตุการณ์เข้าถึงเริ่มต้น ที่สังเกตเห็นเมื่อปีที่แล้ว ซึ่งแสดงให้เห็นว่าบ่อยครั้งการละเมิดเริ่มต้นด้วยการตัดสินใจอย่างรวดเร็วของบุคคลภายใต้แรงกดดัน ไม่ใช่ช่องโหว่ทางเทคโนโลยี

ช่องว่างการตอบสนองของมนุษย์

การโจมตี ClickFix มีประสิทธิภาพเนื่องจากพวกเขาเลียนแบบสัญญาณที่ทีมเทคนิคได้รับการฝึกฝนให้แก้ไข พวกเขาไม่พึ่งพาช่องโหว่ของซอฟต์แวร์หรือการละเว้นการกำหนดค่า แต่พวกเขาขึ้นอยู่กับการคาดหวังที่เรียบง่าย เมื่อใดก็ตามที่สิ่งใดดูผิดปกติ บางคนจะพยายามแก้ไขทันที

สิ่งนี้ถูกขยายใหญ่ขึ้นภายในสภาพแวดล้อมทางเทคนิคที่มีการคาดหวังเรื่องการทำงาน การตอบสนอง และการดำเนินการอย่างรวดเร็ว ผู้ดูแลระบบและพนักงานสนับสนุนได้รับการฝึกฝนให้ตอบสนองอย่างรวดเร็วต่อการเตือน ระบบส่งสัญญาณหรือคำขอการเข้าถึง ผู้โจมตีเข้าใจแรงกดดันนี้และออกแบบแคมเปญที่เหมือนกับสัญญาณที่มืออาชีพได้รับการฝึกฝนให้แก้ไข

AI ได้ทำให้การคำนวณนี้อันตรายมากขึ้น เครื่องมือสร้างข้อความช่วยให้ผู้โจมตีสามารถสร้างเหยื่อพร้อมด้วยไวยากรณ์ที่สมบูรณ์แบบ ระบบคำศัพท์ที่ถูกต้องตามบริบท และอินเทอร์เฟซปลอมที่เหมือนกับซอฟต์แวร์องค์กรที่แท้จริง ที่ไหนที่คำเชิญที่ไม่สุภาพมักจะให้การโจมตีทางสังคมที่เห็นได้ชัดว่าเป็นการปลอมตัว วันนี้การโจมตีสามารถไม่区別ได้จากคำเตือน IT ที่ถูกต้อง ทำให้ความแตกต่างระหว่างสิ่งที่ผู้ใช้ได้รับการฝึกฝนให้ระบุและที่พวกเขาเผชิญในสนามจริงกว้างขึ้น

ช่วงเวลาที่สิ่งต่าง ๆ ผิดพลาด

ความท้าทายหลักในการโจมตี ClickFix คือช่วงเวลาที่สำคัญดูเหมือนปกติ ผู้ใช้อนุมัติคำขอ รีเซ็ตการเข้าถึงหรืออนุญาตการเปลี่ยนแปลง การดำเนินการนั้นเองผสมผสานกับการดำเนินงานประจำวัน ซึ่งสร้างความท้าทายให้กับเครื่องมือรักษาความปลอดภัยแบบดั้งเดิม ระบบเหล่านี้สามารถตรวจจับภัยคุกคามทางเทคนิค แต่ไม่สามารถตีความบริบทเบื้องหลังการตัดสินใจอย่างรวดเร็วได้

ลำดับการดำเนินการทั่วไปอาจดูเหมือนนี้ ผู้ใช้พบกับการเตือนของเบราว์เซอร์ที่ระบุว่าเซสชันของพวกเขาได้หมดอายุหรือปลั๊กอินที่จำเป็นต้องอัปเดต พวกเขากดผ่านคำขอที่รันคำสั่ง PowerShell ในพื้นหลัง ซึ่งพวกเขาไม่เคยเห็น ในขณะที่อินเทอร์เฟซที่มองเห็นได้เพียงบอกว่าปัญหาได้รับการแก้ไขแล้ว การโต้ตอบทั้งหมดใช้เวลาไม่ถึง 30 วินาที ไม่มีสิ่งใดในบันทึกระบบที่ระบุว่ามันผิดปกติ เนื่องจากทางเทคนิคไม่มีอะไรผิดปกติ ผู้ใช้ที่ถูกต้องรันคำสั่งบนเครื่องจักรที่ถูกต้อง

สิ่งนี้นำไปสู่ผลลัพธ์หลายอย่าง วันนี้ 74% ของการละเมิดเกี่ยวข้องกับองค์ประกอบของมนุษย์ รวมถึงการโจมตีทางสังคม ข้อผิดพลาด และการใช้ในทางที่ผิด ความเสี่ยงทางพฤติกรรมของมนุษย์ไม่ปรากฏในแดชบอร์ดบ่อยนัก การควบคุมไม่ใช่ปัญหา ชั้นที่หายไปคือความสามารถในการมองเห็นการตัดสินใจที่มีแนวโน้มว่าจะถูกเร่งรีบและวิธีการที่การตัดสินใจเหล่านั้นสร้างช่องโหว่ให้กับผู้โจมตี

การคิดใหม่เกี่ยวกับข้อผิดพลาดของมนุษย์

พฤติกรรมของมนุษย์ไม่ควรได้รับการปฏิบัติเหมือนเป็นปัญหาในการฝึกอบรมที่แยกออกมา แต่ควรได้รับการพิจารณาว่าเป็นส่วนประกอบหลักของสถาปัตยกรรมความปลอดภัย

แทนการปฏิบัติต่อพวกเขาเหมือนผลลัพธ์ที่ไม่คาดเดาได้ องค์กรควรปฏิบัติต่อพวกเขาเหมือนปัจจัยความเสี่ยงที่วัดผลได้ ผู้นำด้านความปลอดภัยสามารถบรรลุเป้าหมายนี้ได้โดยการรวมข้อมูลเชิงลึกที่มุ่งเน้นมนุษย์เข้ากับแนวทางรักษาความปลอดภัยของพวกเขา ระบบควรได้รับการออกแบบด้วยความคาดหวังที่สมจริงเกี่ยวกับว่าผู้คนจะประพฤติตนอย่างไร ไม่ใช่สมมติว่าพวกเขาจะประพฤติตนอย่างสมบูรณ์เสมอ

การวัดที่นี่เป็นเรื่องของสิ่งที่เป็นรูปธรรม ไม่ใช่สิ่งที่เป็นนามธรรม องค์กรสามารถติดตามความเร็วในการตัดสินใจ ซึ่งผู้ใช้อนุมัติคำขอผลกระทบสูงในช่วงเวลาทำการ และใช้การตรวจสอบรูปแบบการอนุมัติเพื่อแสดงสัญญาณที่ไม่ปกติ เช่น การอนุมัตินอกเวลาทำการหรือการข้ามคำเตือนมาตรฐานซ้ำๆ การสร้างมาตรฐานพฤติกรรมที่ใช้กับบุคคลหรือระดับบทบาทจะให้ข้อมูลอ้างอิงแก่ทีมรักษาความปลอดภัยว่า “ปกติ” คืออะไร เพื่อที่การเบี่ยงเบนจะถูกบันทึกเป็นสัญญาณแทนที่จะเป็นเสียงรบกวน

การแก้ไขสาเหตุของปัญหา

การปรับปรุงการป้องกันการโจมตี ClickFix เริ่มต้นด้วยการทำความเข้าใจสภาพที่นำไปสู่การตัดสินใจอย่างรวดเร็ว ผู้นำสามารถศึกษารูปแบบ เช่น การอนุมัติอย่างรวดเร็ว การพลาดพลั้งซ้ำๆ หรือการตอบสนองไม่สอดคล้องกันต่อคำขอของระบบ สิ่งเหล่านี้แสดงให้เห็นว่าตรงจุดไหนที่สัญชาตญาณอาจเอาชนะความระมัดระวัง

กระบวนการทำงานควรได้รับการประเมินสำหรับจุดกดดันที่ชวนให้เกิดความผิดพลาด การดำเนินการระดับผลกระทบสูงได้รับประโยชน์จากขั้นตอนการยืนยันขนาดเล็กที่ช่วยให้ผู้ใช้สามารถหยุดและประเมินสิ่งที่พวกเขาอนุมัติ ในเวลาเดียวกัน งานประจำวันควรได้รับการปรับให้ง่ายขึ้นเพื่อลดความเหนื่อยล้าที่ส่งเสริมให้ผู้คนกดผ่านคำขอโดยไม่พิจารณาอย่างรอบคอบ

องค์กรสามารถได้รับข้อมูลเชิงลึกเพิ่มเติมโดยใช้การจำลองที่สะท้อนถึงแรงกดดันในโลกแห่งความเป็นจริง การทดสอบการปลอมตัวแบบดั้งเดิมมีประโยชน์สำหรับการตระหนัก แต่ไม่ประเมินว่าใครจะตอบสนองอย่างไรเมื่อจัดการกับงานหลายอย่างหรือจัดการกับข้อกังวลในการดำเนินงานอย่างเร่งด่วน สzenario ที่สร้างขึ้นรอบๆ แรงกดดันหรือการหยุดชะงักของระบบเปิดเผยรูปแบบพฤติกรรมที่ยากต่อการตรวจจับ

การจำลองที่มีประสิทธิผลแนะนำตัวแปรที่การทดสอบแบบดั้งเดิมเพิกเฉย เช่น ภาระงานที่เกิดขึ้นพร้อมกัน หน้าต่างความเหนื่อยลายในตอนปลาย และการหยุดชะงักของกระบวนการทำงานที่บังคับให้เปลี่ยนบริบททันทีก่อนที่คำขอสำคัญจะปรากฏขึ้น ผู้ใช้ที่สังเกตเห็นอีเมลปลอมตัวในแยกไม่สามารถอนุมัติคำขอชั่วร้ายได้โดยไม่มีการลังเลเมื่อพวกเขากำลังจัดการกับเหตุการณ์อย่างแข็งขันในเวลา 16:45 น. การสร้างการทดสอบที่จำลองสถานการณ์เหล่านี้จะสร้างข้อมูลพฤติกรรมที่องค์กรสามารถใช้ได้จริง แทนที่จะเป็นเมตริกการรับรู้แบบผ่าน/ไม่ผ่านที่ไม่ส่งผลให้การปรับปรุงการตอบสนองภายใต้แรงกดดัน

ยังช่วยให้สามารถวางแผนสำหรับเหตุการณ์ที่เริ่มต้นด้วยการดำเนินการตามกฎหมายได้ มuit ทีมมุ่งเน้นไปที่การตรวจจับการดำเนินการโดยไม่ได้รับอนุญาต ในทางปฏิบัติ สัญญาณแรกที่มีความหมายของการโจมตีอาจเป็นคำขอที่ได้รับการอนุมัติซึ่งไม่ควรได้รับการอนุมัติ การสร้างความคาดหวังในการวางแผนการตอบสนองต่อเหตุการณ์นี้ทำให้ง่ายต่อการระบุอาการบ่งชี้แรกที่จะถูกละเลย

การเสริมสร้างจุดอ่อน

ภัยคุกคามที่ได้รับการสนับสนุนจาก AI จะยังคงพัฒนา แต่การละเมิดหลายครั้งยังคงย้อนกลับไปสู่การตัดสินใจของมนุษย์ที่ทำในขณะนั้น การแก้ไขความเป็นจริงนี้ไม่ต้องการการชะลอการดำเนินงานหรือละทิ้งการทำงานอัตโนมัติ แต่ต้องการการออกแบบระบบและกระบวนการทำงานที่สะท้อนถึงวิธีการทำงานตามธรรมชาติของมนุษย์ และสร้างการป้องกันรอบจุดที่สัญชาตญาณมักจะเอาชนะความระมัดระวัง

องค์กรที่รวมการตัดสินใจของมนุษย์เข้ากับการทำความเข้าใจพื้นผิวการโจมตีจะได้รับการรักษาความปลอดภัยที่แม่นยำยิ่งขึ้นเกี่ยวกับความเสี่ยงในการดำเนินงาน นำไปสู่การป้องกันที่แข็งแกร่งซึ่งได้รับการสนับสนุนโดยการควบคุมทางเทคนิคและความเข้าใจที่สมจริงยิ่งขึ้นเกี่ยวกับวิธีการที่ผู้ใช้โต้ตอบกับระบบในช่วงการทำงานประจำวัน