การใช้ AI SOC ที่น่าเชื่อถือสำหรับกิจกรรม SOC ที่สำคัญต่อภารกิจ

โมเดลภาษาขนาดใหญ่ (LLMs) และเอเย่นต์ AI มีผลกระทบอย่างมีนัยสำคัญในหลายสาขา รวมถึง ความปลอดภัยทางไซเบอร์ ท้องฟ้าเป็นขีดจำกัดเมื่อพูดถึงศักยภาพของพวกมัน อย่างไรก็ตาม ลงบนพื้นโลกที่ LLMs ถูกผสมผสานเข้ากับกระบวนการทำงานหลักๆ ที่การตัดสินใจทางธุรกิจเกิดขึ้น ปัญหาหลายอย่าง โดยเฉพาะอย่างยิ่งเกี่ยวกับความเป็นส่วนตัวและความถูกต้องของข้อมูล ได้ปรากฏขึ้น เราได้รับการถามว่า: เอเย่นต์ AI น่าเชื่อถือพอที่จะใช้ในธุรกิจของฉันหรือไม่?

เมื่อพูดถึงความปลอดภัยทางไซเบอร์และ ศูนย์ปฏิบัติการความปลอดภัย (SOCs) คำตอบที่รวดเร็ว เช่นเดียวกับที่เราได้ยินตลอดอาชีพการทำงานของเรา คือ: ใช่ ด้วยการควบคุมและบรรเทาที่เหมาะสมใน SOCs เอเย่นต์ AI สามารถถูกนำไปใช้ได้สำเร็จและปลอดภัยใน môi trườngการผลิตที่พวกมันเพิ่มคุณค่าอย่างมีนัยสำคัญโดยทำงานร่วมกับนักวิเคราะห์ SOC ของมนุษย์

ความท้าทายด้านความปลอดภัยทางไซเบอร์ของ AI

LLMs ที่ใช้แบบ off-the-shelf เป็นโซลูชันแบบสแตนด์อโลน มีปัญหาหลักๆ หลายประการ เช่น การเห็นภาพหลอกลวง การปนเปื้อนข้อมูล และ การฉีดข้อมูลเข้าไปในระบบ ปัญหาเหล่านี้สามารถทำให้เกิดปัญหาใหญ่ๆ ใน SOC อัตโนมัติ รวมถึง

ข้อมูลที่จำกัดทำให้คำตัดสินไม่ถูกต้อง – เอเย่นต์ AI ต้องการข้อมูลที่เกี่ยวข้องทั้งหมดจากสภาพแวดล้อมเพื่อทำงานได้ดี – อย่างน้อยก็เท่ากับข้อมูลที่นักวิเคราะห์ความปลอดภัยของมนุษย์มี และในอุดมคติแล้วมากกว่านั้น ข้อมูลที่ไม่เพียงพอทำให้เอเย่นต์ AI ตัดสินใจผิดพลาดที่อาจแตกต่างกันไปในระหว่างการสอบสวน หากคุณจำกัดการเข้าถึงข้อมูลเนื่องจากความกังวลเรื่องความปลอดภัยหรือจำกัดว่า AI สามารถทำอะไรได้บ้างเนื่องจากปัญหาเรื่องงบประมาณ คุณควรคาดหวังว่าความถูกต้องจะลดลง

คำตัดสินที่ไม่สอดคล้องกัน – เอเย่นต์ AI ต้องตัดสินใจและดำเนินการตามข้อมูลที่พวกมันรวบรวมได้ เนื่องจากปริมาณข้อมูลความปลอดภัยที่มากใน môi trườngทั่วไป จึงมักจะใช้วิธีการตัวอย่างเพื่อสร้างสมดุลระหว่างความถูกต้องและงบประมาณ เมื่อการสอบสวนถูกดำเนินการหลายครั้ง อาจมีความแตกต่างในคำตัดสิน ความรุนแรงที่กำหนด และการดำเนินการตามคำแนะนำ ซึ่งเป็นเรื่องปกติ ตราบใดที่ความแตกต่างอยู่ในขอบเขตที่ยอมรับได้ และมันเกิดขึ้นแม้เมื่อนักวิเคราะห์ความปลอดภัยของมนุษย์สองคนมองเห็นแจ้งเตือนเดียวกัน

การให้เหตุผลที่ไม่โปร่งใส หรือปัญหา “กล่องดำ” – เอเย่นต์ AI บางตัวทำงานเป็นระบบที่ไม่โปร่งใส ผลลัพธ์ของ AI SOC เหล่านี้อาจดูประทับใจมากในตอนแรก แต่สำหรับการตัดสินใจทางธุรกิจที่สำคัญ คุณต้องการทราบว่าอะไรทำให้ AI SOC ตัดสินใจและดำเนินการตามที่แนะนำ ซึ่งไม่ใช่ข้อจำกัดที่ชัดเจนของ AI เนื่องจากเอเย่นต์ AI บางตัวพยายามที่จะโปร่งใสให้มากที่สุด ควรทดสอบเอเย่นต์ AI อย่างละเอียดใน Proof of Value ก่อนที่จะยอมรับ

วิธีการที่ AI ในด้านความปลอดภัยทางไซเบอร์ได้ปรับปรุง

แนวทางด้านความปลอดภัยทางไซเบอร์ที่ขับเคลื่อนด้วย AI ได้ทำการปรับปรุงที่สำคัญตั้งแต่ครั้งแรกที่ถูกนำมาใช้ พิจารณาเรื่องต่อไปนี้

การสร้างความเห็นพ้องโดยใช้การ取ตัวอย่าง ลดความไม่สอดคล้องกัน – ความไม่สอดคล้องกันในการตัดสินใจหรือผลลัพธ์สามารถถูกบรรเทาได้อย่างมีประสิทธิภาพโดยใช้เอเย่นต์ AI หลายตัวที่มีการกำหนดค่าต่างๆ (เช่น โมเดลที่แตกต่างกันที่อุณหภูมิที่แตกต่างกัน) เพื่อแปลข้อมูลที่รวบรวมโดยการดำเนินการของเอเย่นต์ก่อนหน้า

การใช้การ取ตัวอย่างช่วยให้องค์กรเข้าใจว่าโมเดล AI ต่างๆ สอดคล้องกันและแตกต่างกันในจุดใด เมื่อขึ้นอยู่กับข้อมูลที่ทุกโมเดลตกลงกันและไม่สนใจข้อมูลที่พวกมันไม่เห็นพ้องกัน สามารถลดความไม่สอดคล้องกันได้อย่างมาก

สิ่งสำคัญที่ควรทราบคือ ข้อมูลที่เอเย่นต์ตัวอย่างไม่เห็นพ้องกัน cũngมีคุณค่า เนื่องจากพวกมันระบุความไม่แน่นอนและความจำเป็นในการเข้าถึงข้อมูลที่สำคัญเพื่อการตัดสินใจที่ดีขึ้น ข้อมูลที่ไม่สอดคล้องกันนี้สามารถช่วยให้องค์กรจัดลำดับความสำคัญในการเข้าถึงข้อมูลที่จำเป็นสำหรับการตัดสินใจที่ดีขึ้น

ขั้นตอนที่สอดคล้องกันโดยใช้สมุดงานการสอบสวน – หนึ่งในสาเหตุหลักที่ทำให้การสอบสวนของ AI SOC มีผลลัพธ์ที่ไม่สอดคล้องกันคือการเปลี่ยนแปลงไม่เพียงแต่ข้อมูลที่รวบรวม แต่ยังรวมถึงสมมติฐานที่สร้างหรือแก้ไขระหว่างการสอบสวนของเอเย่นต์ AI การกำหนดมาตรฐานการปฏิบัติงาน (SOP) ระดับสูงสำหรับประเภทการสอบสวนที่เฉพาะเจาะจงจะช่วยให้เอเย่นต์สามารถสร้างสมมติฐานที่สอดคล้องกันมากขึ้นและปรับปรุงความสอดคล้องกันของผลลัพธ์โดยรวม นี่ไม่ใช่วิธีการใหม่ – นักวิเคราะห์ SOC ของมนุษย์ส่วนใหญ่แล้วพึ่งพา SOP เพื่อให้การสอบสวนที่มีประสิทธิภาพและสอดคล้องกัน เอเย่นต์ AI ก็สามารถใช้ SOP ในแบบเดียวกัน

หลักฐานที่สามารถติดตามได้ ทำให้ “กล่องดำ” โปร่งใส – AI SOC ควรได้รับการออกแบบมาจากขั้นตอนแรกด้วยหลักฐานที่รองรับในใจ ทุกการตัดสินใจและสมมติฐานที่เอเย่นต์ทำจะต้องได้รับการสนับสนุนจากข้อมูลที่รองรับ รวมถึงการวิเคราะห์หลักฐานและข้อมูลลอกรอว์ที่ยืนยันการให้เหตุผลนั้น

AI สำหรับความปลอดภัยทางไซเบอร์ที่น่าเชื่อถือ

เอเย่นต์ AI สามารถเร่งการตรวจจับ การจัดลำดับความสำคัญของการรับมือภัยคุกคาม และการตอบสนองต่อภัยคุกคามในด้านความปลอดภัยทางไซเบอร์ แต่พวกมันก็แนะนำความเสี่ยงจริงๆ เช่น ผลลัพธ์ที่ไม่สอดคล้องกัน การตัดสินใจที่ไม่โปร่งใส และความไวต่อคุณภาพของข้อมูล ความน่าเชื่อถือสำหรับการใช้งานใน môi trườngที่สำคัญต่อภารกิจต้องการการให้เหตุผลที่มีหลักฐานรองรับ รวมถึงการวิเคราะห์หลักฐานและข้อมูลลอกรอว์ที่ยืนยันการให้เหตุผลนั้น; มาตรฐานการปฏิบัติงานที่มีโครงสร้างเพื่อลดความแปรผัน; การ取ตัวอย่างหลายตัวเพื่อแยกความเห็นพ้องจากความไม่แน่นอน; และการควบคุมสำหรับความสมบูรณ์ของข้อมูล การฉีดข้อมูลเข้าไปในระบบ และข้อจำกัดด้านขั้นตอนและงบประมาณ

การแก้ไขที่สำคัญทั้งหมดนี้สามารถแก้ไขได้ด้วยแนวทาง AI ที่ทันสมัยที่ออกแบบมาเพื่อรับมือกับความซับซ้อนของการปฏิบัติการความปลอดภัยทางไซเบอร์สมัยใหม่ ตัวอย่างเช่น แนวทาง AI ที่ทันสมัยบางอย่างใช้การ取ตัวอย่างหลายตัวที่สามารถให้องค์กรใช้ความฉลาดร่วมกันของโมเดล AI ที่หลากหลายที่ทำงานร่วมกันเพื่อให้ได้ข้อตกลง ลดความไม่สอดคล้องกัน และระบุจุดของความไม่แน่นอน การสอบสวนที่มีโครงสร้างและชัดเจนรับประกันว่าขั้นตอนการวิเคราะห์จะปฏิบัติตามมาตรฐานและขั้นตอนการทำงานที่เป็นมาตรฐาน ซึ่งผลักดันความสอดคล้องกันและความน่าเชื่อถือในทุกการดำเนินการ

การตรวจสอบการตัดสินใจแบบติดตามทุกขั้นตอนส่งผลให้ทุกคำตัดสิน คำแนะนำ และการดำเนินการอัตโนมัติได้รับการตรวจสอบและเข้าใจเพื่อให้ความโปร่งใสเต็มที่แก่ทีมความปลอดภัย ในขณะเดียวกันก็สร้างความน่าเชื่อถือให้กับผู้มีส่วนได้ส่วนเสีย โดยการรวมองค์ประกอบเหล่านี้เข้าด้วยกัน – และการนำการควบคุมที่มีประสิทธิภาพสำหรับคุณภาพข้อมูล ความปลอดภัย และการควบคุมการปฏิบัติงาน – แนวทาง AI ที่ทันสมัยช่วยให้ SOCs สามารถบรรลุผลลัพธ์ที่ไม่เพียงแต่น่าเชื่อถือและโปร่งใส แต่ยังพร้อมสำหรับการใช้งานใน môi trườngจริงและกิจกรรมที่สำคัญต่อภารกิจของคุณอีกด้วย