เอเจนต์ AI น่าเชื่อถือเพียงพอสำหรับธุรกิจของฉันหรือไม่?

โมเดลภาษาขนาดใหญ่ (LLM) และเอเจนต์ AI กำลังส่งผลอย่างมากในหลายด้าน รวมถึง ความปลอดภัยทางไซเบอร์ ศักยภาพของเทคโนโลยีเหล่านี้ดูเหมือนไร้ขีดจำกัด แต่ในทางปฏิบัติ เมื่อผสาน LLM เข้ากับกระบวนการทำงานหลักที่ใช้ตัดสินใจทางธุรกิจ ก็เกิดปัญหาหลายประการ โดยเฉพาะเรื่องความเป็นส่วนตัวและความถูกต้องของข้อมูล จึงเกิดคำถามว่าเอเจนต์ AI น่าเชื่อถือเพียงพอสำหรับธุรกิจของฉันหรือไม่

สำหรับความปลอดภัยทางไซเบอร์และ ศูนย์ปฏิบัติการความปลอดภัย (SOC) คำตอบสั้น ๆ เหมือนที่เราได้ยินมาตลอดอาชีพคือ ใช่ หาก SOC มีการควบคุมและมาตรการลดความเสี่ยงที่เหมาะสม เอเจนต์ AI ก็สามารถนำไปใช้งานจริงได้อย่างประสบความสำเร็จและปลอดภัย พร้อมสร้างคุณค่าอย่างมากด้วยการทำงานเคียงข้างนักวิเคราะห์ SOC ที่เป็นมนุษย์

ความท้าทายของ AI ในความปลอดภัยทางไซเบอร์

LLM สำเร็จรูปที่ใช้เป็นโซลูชันเพียงอย่างเดียวมีปัญหาพื้นฐานหลายประการ เช่น การสร้างข้อมูลหลอน การวางยาพิษข้อมูล และ การแทรกคำสั่งในพรอมป์ต์ ปัญหาเหล่านี้อาจก่อให้เกิดปัญหาร้ายแรงใน SOC ที่ทำงานอย่างอิสระ ได้แก่

ข้อมูลจำกัดทำให้ข้อสรุปไม่ถูกต้อง – เอเจนต์ AI ต้องการข้อมูลที่เกี่ยวข้องทั้งหมดจากสภาพแวดล้อมเพื่อทำงานได้ดี อย่างน้อยต้องมีข้อมูลเท่ากับนักวิเคราะห์ความปลอดภัยที่เป็นมนุษย์ และในอุดมคติควรมีมากกว่า ข้อมูลไม่เพียงพอทำให้เอเจนต์ตั้งสมมติฐานผิด ซึ่งอาจเปลี่ยนไปในแต่ละรอบของการตรวจสอบ หากจำกัดการเข้าถึงข้อมูลเพราะข้อกังวลด้านความปลอดภัย หรือจำกัดสิ่งที่ AI ทำได้เพราะงบประมาณ ก็ควรคาดว่าความถูกต้องจะลดลง

ข้อสรุปไม่สอดคล้องกัน – เอเจนต์ AI ต้องตัดสินใจและทำงานโดยอาศัยข้อมูลที่เก็บรวบรวมมา เนื่องจากสภาพแวดล้อมทั่วไปมีข้อมูลความปลอดภัยจำนวนมาก จึงมักใช้การสุ่มตัวอย่างเพื่อรักษาสมดุลระหว่างความถูกต้องกับงบประมาณ เมื่อทำการตรวจสอบหลายครั้ง ข้อสรุป ระดับความรุนแรงที่ประเมินได้ และการดำเนินการที่แนะนำอาจแตกต่างกันได้ นี่เป็นเรื่องปกติหากความแตกต่างยังอยู่ภายในขอบเขตที่ยอมรับได้ แม้นักวิเคราะห์มนุษย์สองคนตรวจสอบการแจ้งเตือนเดียวกันก็เกิดเหตุการณ์เช่นนี้ได้

การให้เหตุผลที่ไม่โปร่งใส หรือปัญหา “กล่องดำ (BBOX.BO ) ”  – เอเจนต์ AI บางตัวทำงานเป็นระบบที่ไม่โปร่งใส ผลลัพธ์ของ SOC ที่ใช้ AI อาจดูน่าประทับใจในตอนแรก แต่การตัดสินใจทางธุรกิจที่สำคัญต้องเข้าใจว่าเหตุใดระบบจึงแนะนำการดำเนินการนั้น อย่างไรก็ตาม นี่ไม่ใช่ข้อจำกัดที่ติดตัว AI มาโดยธรรมชาติ เพราะเอเจนต์บางตัวให้ความสำคัญกับความโปร่งใสอย่างมาก จึงควรตรวจสอบเอเจนต์อย่างละเอียดผ่านการพิสูจน์คุณค่า (Proof of Value) ก่อนตัดสินใจนำมาใช้

AI ในความปลอดภัยทางไซเบอร์พัฒนาขึ้นอย่างไร

แนวทางความปลอดภัยทางไซเบอร์ที่ใช้ AI มีความก้าวหน้ามากนับตั้งแต่เริ่มต้น พิจารณาตัวอย่างต่อไปนี้

การหาฉันทามติด้วยการสุ่มตัวอย่าง ช่วยลดความไม่สอดคล้องกัน – ความไม่สอดคล้องของการตัดสินใจหรือผลลัพธ์ลดลงได้อย่างมีประสิทธิภาพด้วยเอเจนต์หลายตัวที่มีการกำหนดค่าต่างกัน เช่น โมเดลและการตั้งค่าอุณหภูมิที่ต่างกัน เพื่อให้ตีความข้อมูลที่รวบรวมจากการทำงานของเอเจนต์ก่อนหน้า

การสุ่มตัวอย่างช่วยให้องค์กรเข้าใจว่าโมเดลต่าง ๆ เห็นพ้องหรือแตกต่างกันตรงไหน การอาศัยข้อมูลที่ทุกโมเดลเห็นตรงกัน และให้น้ำหนักน้อยลงแก่ข้อมูลที่เห็นต่างกัน สามารถลดความไม่สอดคล้องกันได้อย่างมาก

อย่างไรก็ตาม ข้อมูลที่เอเจนต์ในกลุ่มตัวอย่างเห็นต่างกันก็มีคุณค่า เพราะชี้ให้เห็นความไม่แน่นอนและความต้องการข้อมูลหรืออินพุตที่ดีขึ้น ข้อมูลเหล่านี้ช่วยให้องค์กรจัดลำดับความสำคัญของการเข้าถึงข้อมูลที่จำเป็นเพื่อการตัดสินใจที่ดีขึ้นได้

ขั้นตอนที่สอดคล้องกันด้วยคู่มือการตรวจสอบ  – สาเหตุสำคัญประการหนึ่งที่การตรวจสอบของ SOC ที่ใช้ AI หลายรอบให้ผลไม่ตรงกัน คือความแตกต่างไม่เพียงในข้อมูลที่รวบรวม แต่ยังรวมถึงสมมติฐานที่สร้างหรือแก้ไขระหว่างการตรวจสอบ การจัดทำคู่มือการตรวจสอบระดับภาพรวมที่อิงขั้นตอนปฏิบัติงานมาตรฐาน (SOP) สำหรับหมวดหมู่ต่าง ๆ ช่วยให้เอเจนต์สร้างสมมติฐานที่สอดคล้องกันขึ้นและเพิ่มความสอดคล้องของผลลัพธ์โดยรวม วิธีนี้ไม่ใช่เรื่องใหม่ นักวิเคราะห์ SOC ที่เป็นมนุษย์ส่วนใหญ่ใช้ SOP อยู่แล้วเพื่อให้ตรวจสอบได้อย่างมีประสิทธิภาพและสม่ำเสมอ เอเจนต์ AI ก็ใช้วิธีเดียวกันได้

หลักฐานที่ตรวจสอบย้อนกลับได้ ช่วยอธิบายกล่องดำ – แนวปฏิบัติที่ดีคือออกแบบ SOC ที่ใช้ AI โดยคำนึงถึงหลักฐานสนับสนุนตั้งแต่ต้น ทุกการตัดสินใจและสมมติฐานของเอเจนต์ต้องมีข้อมูลรองรับ รวมถึงบันทึกการให้เหตุผลและข้อมูลบันทึกดิบที่ยืนยันเหตุผลนั้น

AI ที่น่าเชื่อถือสำหรับความปลอดภัยทางไซเบอร์

เอเจนต์ AI ช่วยเร่งการตรวจจับ การคัดแยกเบื้องต้น และการตอบสนองต่อภัยคุกคามได้ แต่ก็นำมาซึ่งความเสี่ยงจริง เช่น ผลลัพธ์ไม่สอดคล้อง การตัดสินใจไม่โปร่งใส และความไวต่อคุณภาพข้อมูล การใช้งานในสภาพแวดล้อมที่สำคัญต่อภารกิจอย่างน่าเชื่อถือต้องอาศัยการให้เหตุผลที่มีหลักฐานรองรับ รวมถึงบันทึกและสิ่งที่เป็นหลักฐานดิบ SOP ที่มีโครงสร้างเพื่อลดความแปรผัน การสุ่มตัวอย่างหลายเอเจนต์เพื่อแยกฉันทามติออกจากความไม่แน่นอน และมาตรการป้องกันด้านความสมบูรณ์ของข้อมูล การแทรกคำสั่งในพรอมป์ต์ ตลอดจนขีดจำกัดจำนวนขั้นตอนและงบประมาณ

การปรับปรุงสำคัญเหล่านี้ทำได้ด้วยแนวทางเอเจนต์ AI ที่ใช้ LLM ขั้นสูง ซึ่งออกแบบมาเพื่อรับมือความซับซ้อนของปฏิบัติการความปลอดภัยยุคใหม่ที่ใช้ AI ตัวอย่างเช่น บางแนวทางใช้การสุ่มตัวอย่างหลายเอเจนต์ขั้นสูงเพื่อให้องค์กรใช้ประโยชน์จากปัญญาร่วมของโมเดลที่หลากหลาย โมเดลเหล่านี้ร่วมมือกันหาฉันทามติ ลดความไม่สอดคล้อง และระบุพื้นที่ที่ยังไม่แน่นอน คู่มือการตรวจสอบที่มีโครงสร้างและชัดเจนช่วยให้ขั้นตอนวิเคราะห์เป็นไปตามแนวปฏิบัติที่ดีและกระบวนการมาตรฐาน ส่งเสริมความสม่ำเสมอและความน่าเชื่อถือในทุกปฏิบัติการ

การติดตามการตัดสินใจตั้งแต่ต้นจนจบช่วยให้ตรวจสอบและเข้าใจทุกข้อสรุป คำแนะนำ และการดำเนินการอัตโนมัติ จึงให้ความโปร่งใสอย่างเต็มที่แก่ทีมความปลอดภัย พร้อมสร้างความไว้วางใจแก่ผู้มีส่วนได้ส่วนเสีย การผสานองค์ประกอบเหล่านี้กับการควบคุมที่เข้มแข็งด้านคุณภาพข้อมูลในพรอมป์ต์ ความปลอดภัย และมาตรการป้องกันในการปฏิบัติงาน ทำให้แนวทางเอเจนต์ AI ที่ใช้ LLM ขั้นสูงช่วย SOC สร้างผลลัพธ์ที่ไม่เพียงน่าเชื่อถือและโปร่งใส แต่ยังพร้อมใช้งานจริงในสภาพแวดล้อมและภารกิจที่สำคัญที่สุดของคุณ