หุ้นส่วน Human-AI ใน EDR: การเพิ่มความมั่นคงปลอดภัยของทีมด้วยปัญญาประดิษฐ์

เมื่อการโจมตีทางไซเบอร์เกิดขึ้นบ่อยขึ้นและซับซ้อนมากขึ้น บริษัทต่างๆ ต้องพยายามตามทัน นักวิเคราะห์ความมั่นคงปลอดภัยที่มีทักษะสูงทำงานตลอดวันและคืนเพื่อจับและหยุดผู้บุกรุกทางดิจิทัล แต่ดูเหมือนว่าเป็นการต่อสู้ที่แพ้แล้ว ผู้โจมตีทางไซเบอร์似乎มีความได้เปรียบเสมอ

อย่างไรก็ตาม มีแสงสว่างที่ปลายอุโมงค์ เทคโนโลยีปัญญาประดิษฐ์ใหม่ๆ อาจเปลี่ยนโอกาสให้กลับมาเป็นฝ่ายป้องกัน โดยใช้โปรแกรมที่เรียนรู้ด้วยตนเองเป็นพันธมิตรดิจิทัล นักวิเคราะห์ความมั่นคงปลอดภัยสามารถเสริมสร้างความพยายามในการปกป้องเครือข่ายและอุปกรณ์ของบริษัทได้โดยไม่ต้องใช้ทรัพยากรเพิ่มเติม

สาขาหนึ่งของความมั่นคงปลอดภัยทางไซเบอร์ที่ปัญญาประดิษฐ์มีผลกระทบอย่างมากคือการตรวจจับและตอบสนองต่อจุดสิ้นสุด (EDR) ซึ่งทำหน้าที่เป็นระบบเตือนภัยล่วงหน้าในการโจมตี โดยตรวจสอบคอมพิวเตอร์ โทรศัพท์มือถือ และจุดสิ้นสุดอื่นๆ เพื่อหาสัญญาณของการโจมตีทางไซเบอร์ที่กำลังจะเกิดขึ้น เมื่อมีอะไรผิดปกติ EDR จะ发出เสียงเตือนให้ผู้เชี่ยวชาญด้านมนุษย์ตรวจสอบ และสามารถดำเนินการพื้นฐาน เช่น การแยกอุปกรณ์ที่ถูกบุกรุกเพื่อซื้อเวลา

แต่ EDR ที่ได้รับการเสริมด้วยปัญญาประดิษฐ์จะแทนที่และยกเลิกความจำเป็นในการแทรกแซงจากมนุษย์หรือไม่ คำตอบที่ง่ายคือไม่ เช่นเดียวกับการใช้งานปัญญาประดิษฐ์อื่นๆ ผลลัพธ์ที่ดีที่สุดดูเหมือนจะเกิดขึ้นเมื่อปัญญาประดิษฐ์และมนุษย์ทำงานร่วมกัน ไม่ใช่หนึ่งแทนอีกหนึ่ง มาทำความเข้าใจว่าทำไมถึงเป็นเช่นนี้

ความหวังของ EDR ที่ได้รับการเสริมด้วยปัญญาประดิษฐ์

EDR เป็นเครื่องมือที่จำเป็นสำหรับการระบุ วิเคราะห์ และแก้ไขการโจมตีที่เปลี่ยนแปลงอย่างต่อเนื่องบนอุปกรณ์หลายเครื่อง ปัจจุบันหลายแพลตฟอร์ม EDR ที่นำหน้าได้ใช้ปัญญาประดิษฐ์เพื่อเพิ่มความสามารถของมนุษย์ โดยปรับปรุงความแม่นยำและประสิทธิภาพ

ด้วยอัลกอริทึมการเรียนรู้ของเครื่องแบบมีผู้ดูแลที่ได้รับการฝึกอบรมจากข้อมูลภัยคุกคามจำนวนมาก EDR ที่ได้รับการเสริมด้วยปัญญาประดิษฐ์สามารถ:

• ระบุรูปแบบการโจมตีที่ไม่เคยเห็นมาก่อนและพฤติกรรม โดยการวิเคราะห์เหตุการณ์ของระบบและเปรียบเทียบชุดข้อมูลขนาดใหญ่ ปัญญาประดิษฐ์สามารถตรวจจับความผิดปกติที่นักวิเคราะห์มนุษย์อาจพลาดได้ ทำให้ทีมสามารถระบุและหยุดการโจมตีที่ซ่อนเร้นซึ่งเครื่องมืออื่นๆ ไม่สามารถมองเห็นได้
• ให้ข้อมูลโดยอัตโนมัติผ่านการสอบสวน ปัญญาประดิษฐ์สามารถสืบย้อนกลับไปยังขอบเขตเต็มของเหตุการณ์ โดยสแกนหาสัญญาณของการบุกรุกในระบบของคุณ ซึ่งช่วยลดงานที่นักวิเคราะห์ต้องทำเพื่อเข้าใจสาเหตุของการบุกรุก
• จัดลำดับความสำคัญของเหตุการณ์ที่สำคัญที่สุด ไม่ทุกการเตือนต้องมีความเร่งด่วนในระดับเดียวกัน แต่การแยกแยะระหว่างการเตือนที่ไม่สำคัญและรุนแรงอาจเป็นเรื่องที่ท้าทาย การประเมินของปัญญาประดิษฐ์จะเน้นย้ำภัยคุกคามที่อันตรายที่สุดเพื่อให้ความสนใจของมนุษย์มุ่งเน้นไปที่นั้น
• แนะนำการตอบสนองที่เหมาะสมสำหรับการโจมตีแต่ละครั้ง ตามรายละเอียดของเชื้อไวรัส ช่องโหว่ และอื่นๆ ปัญญาประดิษฐ์จะแนะนำการกักเก็บและแก้ไขที่ดีที่สุดเพื่อกำจัดภัยคุกคามด้วยความแม่นยำ

การเสริมด้วยปัญญาประดิษฐ์ทำให้นักวิเคราะห์สามารถทำงานได้ฉลาดและเร็วขึ้น โดยรับมอบหมายงานหนักๆ ในการตรวจจับภัยคุกคาม การสอบสวน และการแนะนำให้ปัญญาประดิษฐ์ทำ แต่ความเชี่ยวชาญและความคิดวิเคราะห์ของมนุษย์ยังคงจำเป็นต่อการเชื่อมโยงจุดต่างๆ

องค์ประกอบของมนุษย์: การตัดสินใจ การคิดสร้างสรรค์ และสัญชาตญาณ

ในขณะที่ปัญญาประดิษฐ์ยอดเยี่ยมในการประมวลผลข้อมูล มนุษย์วิเคราะห์นำความสามารถที่สำคัญสามประการมาใช้ในการป้องกันจุดสิ้นสุด ซึ่งเครื่องจักรไม่มี

การประเมินที่สมดุล

ปัญญาประดิษฐ์อาจบ่งชี้เหตุการณ์ที่ไม่มีอันตรายว่าเป็นภัยคุกคาม หรืออาจพลาดภัยคุกคามที่แท้จริง แต่ผู้เชี่ยวชาญด้านมนุษย์สามารถใช้ประสบการณ์และการตัดสินใจที่ดีในการประเมินสิ่งที่ปัญญาประดิษฐ์พบได้ หากระบบติดฉลากการอัปเดตซอฟต์แวร์ปกติเป็นมัลแวร์ นักวิเคราะห์สามารถตรวจสอบและแก้ไขข้อผิดพลาดนั้นได้ เพื่อหลีกเลี่ยงการหยุดชะงักโดยไม่จำเป็น การประเมินของมนุษย์ที่สมดุลช่วยให้การตรวจจับภัยคุกคามแม่นยำยิ่งขึ้น

การคิดสร้างสรรค์ในการแก้ปัญหา

ผู้โจมตีเปลี่ยนแปลงมัลแวร์ของตนเพื่อหลบหลีกระบบปัญญาประดิษฐ์ ซึ่งมักถูกตั้งค่าให้ตรวจจับภัยคุกคามที่ทราบแล้ว แต่นักวิเคราะห์มนุษย์สามารถคิดนอกกรอบและระบุภัยคุกคามใหม่หรือเล็กๆ น้อยๆ ตามความผิดปกติเล็กๆ ในโค้ด เมื่อผู้โจมตีเปลี่ยนทักษะของตน นักวิเคราะห์สามารถคิดค้นกฎการตรวจจับที่สร้างสรรค์ใหม่ตามความผิดปกติเล็กๆ น้อยๆ ซึ่งเป็นข้อมูลที่เครื่องจักรต้องดิ้นรนในการจับได้

การมองเห็นภาพรวม

การปกป้องเครือข่ายที่ซับซ้อนหมายถึงการพิจารณาปัจจัยหลายอย่างที่เปลี่ยนแปลงอยู่ ซึ่งอัลกอริทึมไม่สามารถคำนึงถึงได้อย่างเต็มที่ ในระหว่างการโจมตีที่ซับซ้อน การตัดสินใจของมนุษย์เป็นสิ่งสำคัญสำหรับการตัดสินใจที่มีความเสี่ยงสูง เช่น การแยกระบบหรือการเจรจาเรื่องค่าไถ่ ในขณะที่ปัญญาประดิษฐ์สามารถแนะนำตัวเลือกได้ มุมมองของมนุษย์ยังคงจำเป็นต้องชี้นำการตอบสนองและลดผลกระทบต่อธุรกิจ

เมื่อรวมกันแล้ว ความเข้าใจของมนุษย์และปัญญาประดิษฐ์สร้างการป้องกันที่มีพลัง ซึ่งสามารถจับภัยคุกคามที่ซับซ้อนซึ่งระบบอื่นอาจพลาดได้ ปัญญาประดิษฐ์ประมวลผลข้อมูลอย่างรวดเร็ว ในขณะที่การให้เหตุผลของมนุษย์เติมช่องว่าง การทำงานร่วมกันของมนุษย์และปัญญาประดิษฐ์เสริมสร้างการป้องกันจุดสิ้นสุด

การเพิ่มประสิทธิภาพทีมความมั่นคงปลอดภัย Human-AI

นี่คือคำแนะนำบางประการเพื่อช่วยให้คุณได้ประโยชน์สูงสุดจาก EDR ที่ได้รับการเสริมด้วยปัญญาประดิษฐ์พร้อมทีมที่นำโดยมนุษย์:

• เชื่อใจแต่ต้องตรวจสอบการประเมินของปัญญาประดิษฐ์ ใช้การตรวจจับของปัญญาประดิษฐ์เพื่อระบุเหตุการณ์อย่างรวดเร็ว แต่ยืนยันผลการตรวจสอบผ่านการล่าหาสิ่งผิดปกติด้วยตนเองก่อนที่จะดำเนินการอย่างใดอย่างหนึ่ง อย่าเชื่อใจการเตือนต่างๆ ทุกครั้ง
• ใช้ปัญญาประดิษฐ์เพื่อมุ่งเน้นไปที่ความเชี่ยวชาญของมนุษย์ ให้ปัญญาประดิษฐ์จัดการงานซ้ำๆ เช่น การตรวจสอบจุดสิ้นสุดและการรวบรวมรายละเอียดภัยคุกคาม เพื่อให้นักวิเคราะห์สามารถอุทิศพลังงานให้กับการวางแผนการตอบสนองเชิงกลยุทธ์และการล่าหาสิ่งผิดปกติอย่าง积极
• ให้ข้อเสนอแนะเพื่อปรับปรุงแบบจำลองปัญญาประดิษฐ์ การเพิ่มการยืนยันของมนุษย์กลับเข้าไปในระบบ – การยืนยันผลการตรวจจับว่าเป็นจริงหรือเท็จ – ช่วยให้อัลกอริทึมปรับปรุงตัวเองและแม่นยำยิ่งขึ้น ปัญญาประดิษฐ์เรียนรู้จากความฉลาดของมนุษย์เมื่อเวลาผ่านไป
• ร่วมมือกับปัญญาประดิษฐ์ทุกวัน เมื่อนักวิเคราะห์และปัญญาประดิษฐ์ทำงานร่วมกันมากขึ้น ทั้งสองฝ่ายจะเรียนรู้และเพิ่มทักษะและประสิทธิภาพมากขึ้น การใช้งานทุกวันจะเพิ่มความรู้

เช่นเดียวกับผู้โจมตีทางไซเบอร์ที่ใช้ระบบอัตโนมัติและปัญญาประดิษฐ์ในการโจมตี ผู้ป้องกันต้องต่อสู้ด้วยอาวุธปัญญาประดิษฐ์เช่นกัน การรักษาความมั่นคงปลอดภัยของจุดสิ้นสุดโดยอาศัยทั้งปัญญาประดิษฐ์และความฉลาดของมนุษย์เป็นความหวังที่ดีที่สุดในการรักษาความปลอดภัยของโลกดิจิทัลของเรา

เมื่อมนุษย์และเครื่องจักรร่วมมือกัน โดยใช้ความสามารถที่เสริมกันเพื่อเอาชนะและหลบหลีกผู้โจมตี ไม่มีขอบเขตที่เราจะสามารถบรรลุได้ร่วมกัน อนาคตของความมั่นคงปลอดภัยทางไซเบอร์มาถึงแล้ว – และเป็นหุ้นส่วนระหว่างมนุษย์และปัญญาประดิษฐ์

ความท้าทายในการนำ EDR ที่ได้รับการเสริมด้วยปัญญาประดิษฐ์มาใช้

การนำปัญญาประดิษฐ์มาใช้ในการตรวจสอบความมั่นคงปลอดภัยดูเหมือนเป็นความคิดที่ดีในทางทฤษฎี แต่สำหรับทีมที่กำลังทำงานหนักอยู่แล้ว การทำให้มันทำงานได้จริงอาจกลายเป็นเรื่องที่ยุ่งยาก มนุษย์ต้องเผชิญกับอุปสรรคต่างๆ ตั้งแต่การทำความเข้าใจว่าเครื่องมือเหล่านั้นคิดอย่างไรไปจนถึงการหยุดการเบื่อหน่ายจากการเตือน

การเบื่อหน่ายจากการเตือน

ความซับซ้อน

นักวิเคราะห์ความมั่นคงปลอดภัยที่ใช้เครื่องมือ EDR ในแต่ละวันไม่ใช่วิศวกรเสมอไป ดังนั้นการคาดหวังให้พวกเขาเข้าใจอินเทอร์เฟซความน่าเชื่อถือ อัตราความแม่นยำ การปรับโมเดล และแนวคิดเรื่องการเรียนรู้ของเครื่องจักรอื่นๆ นั้นเป็นคำสั่งซื้อที่สูงมาก โดยไม่มีการฝึกอบรมที่เข้าใจง่ายเพื่อคลี่คลายแนวคิดเหล่านี้ ฟังก์ชันและคุณสมบัติของปัญญาประดิษฐ์อาจไม่ถูกนำมาใช้ในการจับขโมย

การจมน้ำในผลบวกที่เป็นเท็จ

ในช่วงแรกๆ โดยเฉพาะอย่างยิ่ง เครื่องมือปัญญาประดิษฐ์บางตัว标记ภัยคุกคามมากเกินไป ทำให้นักวิเคราะห์ต้องจัดการกับการเตือนหลายร้อยครั้งทุกสัปดาห์ ซึ่งหลายครั้งเป็นเท็จ สิ่งนี้ทำให้สัญญาณที่สำคัญถูกฝังอยู่ภายใต้เสียงรบกวน เมื่อรู้สึกอัดอั้น ทีมหลายทีมอาจมองข้ามการเตือนเหล่านั้นโดยสิ้นเชิง เครื่องมือเหล่านี้ต้องได้รับการปรับให้เหมาะสมและปรับแต่งให้เหมาะสมเพื่อให้ความไวต่อการตรวจจับสมดุล

เครื่องมือกล่องดำ

เครือข่ายประสาทเทียมทำงานเหมือนกล่องดำที่ไม่สามารถเข้าถึงได้ เนื่องจากรationale ภายใต้รายการความเสี่ยงและคำแนะนำยังคงไม่โปร่งใส บุคลากรจึงมีปัญหาในการเชื่อถือระบบอัตโนมัติในการตัดสินใจ สำหรับปัญญาประดิษฐ์ในการได้รับการยอมรับจากเพื่อนร่วมงานมนุษย์ มันจะต้องให้พวกเขาได้เห็นภายในเพียงพอที่จะเข้าใจเหตุผลของมัน – แต่นั่นไม่ใช่เรื่องที่เป็นไปได้เสมอไปกับเทคโนโลยีปัจจุบัน

มากกว่ากระสุนเวทมนตร์

การปล่อยเครื่องมือปัญญาประดิษฐ์ใหม่ๆ เพียงอย่างเดียวไม่เพียงพอ เพื่อใช้เทคโนโลยีนี้อย่างเต็มที่ ทีมความมั่นคงปลอดภัยต้องปรับปรุงกระบวนการ ทักษะ นโยบาย เมตริก และแม้แต่บรรทัดฐานทางวัฒนธรรมให้สอดคล้องกัน การติดตั้งปัญญาประดิษฐ์เป็นแพ็คเกจที่พร้อมใช้งานโดยไม่ทำให้องค์กรพัฒนาไปจริงๆ จะทำให้ศักยภาพที่เปลี่ยนแปลงเกมนี้ถูกปิดกั้น

คำสุดท้าย

ปัญญาประดิษฐ์นำเครื่องมือและกลไกป้องกันภัยคุกคามทางไซเบอร์ที่น่าตื่นเต้นมากมายมาให้ ในขณะที่สิ่งนี้เป็นข่าวที่ดี ส่วนใหญ่จะยังคงเป็นศักยภาพจนกว่าทีมปัญญาประดิษฐ์และมนุษย์จะทำงานร่วมกันอย่างกลมกลืน โดยเล่นตามจุดแข็งของกันและกัน EDR เป็นหนึ่งในพื้นที่ความมั่นคงปลอดภัยทางไซเบอร์ที่พึ่งพาความร่วมมือระหว่างปัญญาประดิษฐ์และความเชี่ยวชาญของมนุษย์อย่างราบรื่น

当然 มีการเรียนรู้ที่ต้องทำทั้งสองทาง ระบบปัญญาประดิษฐ์ต้องสามารถสื่อสารตรรกะภายในของตนให้กับเพื่อนร่วมงานมนุษย์เป็นภาษาที่เข้าใจได้และสามารถดำเนินการได้ การแก้ไขปัญหาสัญญาณต่อเสียงรบกวนในระบบเตือนภัยล่วงหน้าจะช่วยป้องกันความเหนื่อยหน่ายของนักวิเคราะห์และการเพิกเฉย