ผู้นำทางความคิด
AI ช่วยขยายขีดความสามารถด้านความปลอดภัยได้ แต่จะขยายอะไร?

ประเด็นสำคัญการประมวลผลข้อมูลมากขึ้นไม่ได้ช่วยปรับปรุงการตรวจจับภัยคุกคามโดยอัตโนมัติหากไม่มีบริบทขอ…
ดูเพิ่มเติม
- การประมวลผลข้อมูลมากขึ้นไม่ได้ช่วยปรับปรุงการตรวจจับภัยคุกคามโดยอัตโนมัติหากไม่มีบริบทขององค์กร
- โมเดลที่ปรับแต่งอย่างละเอียดสามารถสนับสนุนการสอบสวนขนาดใหญ่ด้วยต้นทุนที่คาดการณ์ได้มากกว่าโมเดลระดับแนวหน้า
- ความเป็นอิสระควรได้สัดส่วนกับความเสี่ยง โดยมีการออกแบบธรรมาภิบาลก่อนที่จะขยายขนาดตัวแทน
ทุกวันนี้ ทีมรักษาความปลอดภัยในองค์กรต้องรับมือกับกิจกรรม ข้อมูลเทเลเมทรี และการแจ้งเตือนจำนวนมากเกินกว่าจะตรวจสอบด้วยตนเองได้อย่างเป็นจริงเป็นจัง ตัวเลขที่ประเมินกันนั้นแตกต่างกันไป โดยมีงานวิจัยบางชิ้นระบุว่า ทีมปฏิบัติการด้านความปลอดภัยโดยเฉลี่ยได้รับการแจ้งเตือนมากกว่า 4,400 รายการต่อวัน เมื่อองค์กรขยายตัวและเพิ่มเครื่องมือมากขึ้น อีกทั้ง AI ยังช่วยให้เกิดการโจมตีได้มากขึ้น จำนวนการแจ้งเตือนก็ย่อมเพิ่มขึ้นตามไปด้วย เราเริ่มเห็นองค์กรที่มีเอ็นด์พอยต์ 2 ล้านรายการในสภาพแวดล้อมของตนแล้ว และทีมรักษาความปลอดภัยที่ตรวจสอบการแจ้งเตือนเหล่านี้ด้วยตนเองก็เสียเปรียบในการต่อกรกับผู้โจมตีที่ใช้เอเจนต์มากขึ้นเรื่อย ๆ
สำหรับฝ่ายป้องกัน เอเจนต์ AI สามารถเปลี่ยนสถานการณ์นี้ได้ โดยรับหน้าที่สืบสวนและทำงานซ้ำ ๆ อื่น ๆ ทั่วทั้งสภาพแวดล้อม อย่างไรก็ตาม ความสามารถในการประมวลผลข้อมูลได้มากขึ้นไม่ได้หมายความว่าจะตรวจจับภัยคุกคามหรือตอบสนองได้ดีขึ้นโดยอัตโนมัติ สิ่งที่จำเป็นไม่ใช่แค่การขยายขนาด แต่ต้องมีบริบทด้วย
ความสำคัญของบริบทในการประเมินการขยายขนาด
เอเจนต์ที่สืบสวนเอ็นด์พอยต์นับล้านรายการต้องเข้าใจว่ากำลังมองหาอะไร พฤติกรรมแบบใดที่ถือว่าผิดปกติในสภาพแวดล้อมนั้นโดยเฉพาะ และผลการตรวจสอบใดที่ควรนำไปสืบสวนต่อ หากขาดบริบทนี้ ระบบอัตโนมัติก็เสี่ยงที่จะขยายปริมาณสัญญาณรบกวน และสร้างข้อสรุปที่ไม่เกี่ยวข้องหรือทำให้เข้าใจผิด
สิ่งสำคัญที่ควรคำนึงถึงคือ ไม่ใช่ทุกองค์กรจะสามารถใช้โมเดลแนวหน้าสืบสวนการแจ้งเตือนทุกรายการได้ เพราะวิธีนี้จะมีค่าใช้จ่ายสูงเกินไป
สภาพแวดล้อมด้านความปลอดภัยของแต่ละองค์กรแตกต่างกันทั้งในด้านโครงสร้างพื้นฐาน แอปพลิเคชัน ข้อกำหนดในการดำเนินงาน ภาระผูกพันด้านกฎระเบียบ และระดับความเสี่ยงที่ยอมรับได้ ฝ่ายป้องกันต้องดูแลให้แอปพลิเคชันทำงานต่อเนื่องไปพร้อมกับการจัดการข้อกำหนดด้านการปฏิบัติตามกฎระเบียบ และหลีกเลี่ยงการรบกวนการดำเนินงาน
เพื่อให้ทำงานได้อย่างมีประสิทธิภาพ เอเจนต์ต้องนำความรู้ขององค์กรมาใช้ ซึ่งรวมถึงประวัติการสืบสวน ขั้นตอนปฏิบัติที่กำหนดไว้ และวิจารณญาณของนักวิเคราะห์ผู้มีประสบการณ์ ความรู้ส่วนใหญ่เหล่านี้ไม่ใช่สิ่งที่ป้อนให้เอเจนต์ได้ง่าย ๆ ด้วยสเปรดชีตหรือรูปแบบอื่น แต่ต้องเรียนรู้จากการสังเกตการทำงานจริงของฝ่ายป้องกันที่มีประสบการณ์
สำหรับองค์กร คำถามสำคัญคือจะนำความรู้ที่สั่งสมภายในองค์กรมาถ่ายทอดเป็นระบบที่ตัดสินใจได้อย่างสม่ำเสมอและเหมาะสมกับบริบทด้วยความเร็วระดับเครื่องจักรได้อย่างไร
วิธีนำความรู้ขององค์กรไปใช้ในการปฏิบัติงาน
องค์กรจำเป็นต้องมีกลไกสำหรับบันทึกและนำความรู้ที่ใช้ประกอบการสืบสวนมาใช้ ซึ่งรวมถึงการตัดสินใจในกรณีก่อนหน้า ขั้นตอนปฏิบัติที่กำหนดไว้ และวิธีที่นักวิเคราะห์ใช้ตีความหลักฐาน นอกจากนี้ องค์กรอาจมีกระบวนการ เครื่องมือ และความรู้เฉพาะกลุ่มที่ไม่เคยบันทึกไว้อย่างเป็นทางการ ซึ่งจำเป็นต้องเก็บรวบรวมไว้ด้วย
การปรับแต่งโมเดลให้มีความเชี่ยวชาญเฉพาะด้านเป็นแนวทางหนึ่งที่อาจนำมาใช้ได้ การปรับแต่งโมเดลด้วยข้อมูลเฉพาะของลูกค้าองค์กรแต่ละรายช่วยรองรับการสืบสวนขนาดใหญ่ด้วยต้นทุนที่คาดการณ์ได้มากขึ้น โดยยังคงประสิทธิภาพในระดับสูง โมเดลโอเพนซอร์สที่ผ่านการปรับแต่งอาจมีประโยชน์เป็นพิเศษกับงานที่เกี่ยวข้องกับเอ็นด์พอยต์จำนวนมาก
องค์กรต้องประเมินประสิทธิภาพของเอเจนต์อย่างต่อเนื่องด้วย เมื่อโมเดล เวิร์กโฟลว์ และสภาพแวดล้อมขององค์กรเปลี่ยนแปลงไป สภาพแวดล้อมจำลองหรือแฝดดิจิทัลสามารถใช้เป็นสภาพแวดล้อมตัวแทนสำหรับทดสอบเอเจนต์เวอร์ชันต่าง ๆ ได้ ในกรณีที่ข้อมูลจากระบบใช้งานจริงไม่มีให้ใช้แล้วหรือล้าสมัย
การปรับแต่งโมเดลไม่ใช่วิธีเดียวที่จะให้บริบทได้ ยังมีแนวทางอื่น เช่น การดึงข้อมูลมาใช้ หน่วยความจำ การประสานเวิร์กโฟลว์ และการควบคุมนโยบายอย่างชัดเจน ข้อกำหนดสำคัญคือ วิธีที่เลือกใช้ต้องช่วยเพิ่มประสิทธิภาพของเอเจนต์ในสภาพแวดล้อมที่จะนำไปใช้งาน
การขยายการทำงานแบบอัตโนมัติต้องมีขอบเขต การกำกับดูแล และการประสานงานที่ชัดเจน
การระบุภัยคุกคามได้อย่างถูกต้องเป็นเพียงส่วนหนึ่งของความท้าทาย เอเจนต์ต้องเข้าใจว่าตนได้รับอนุญาตให้ดำเนินการใดได้บ้าง เมื่อใดจำเป็นต้องได้รับอนุมัติจากมนุษย์ และจะหลีกเลี่ยงการรบกวนการดำเนินธุรกิจที่ชอบด้วยกฎหมายได้อย่างไร การกำหนดให้ชัดเจนว่าเอเจนต์สามารถดำเนินการได้โดยอัตโนมัติในกรณีใด และกรณีใดต้องอาศัยการตัดสินใจของมนุษย์ เป็นสิ่งจำเป็นต่อการนำระบบไปใช้อย่างน่าเชื่อถือ
การทำงานอัตโนมัติในวงกว้างต้องอาศัยการประหยัดต่อขนาดด้วย บริษัทที่ใช้โมเดลแนวหน้าสืบสวนหลายล้านกรณีจะทำให้ตัวเองล้มละลาย ดังนั้น การค้นหาวิธีสืบสวนด้วยโมเดล AI ที่มีประสิทธิภาพสูงสุด ไม่ว่าจะเป็นโมเดลภาษาขนาดเล็ก (SLM) หรือโมเดลกรรมสิทธิ์ จึงเป็นเรื่องสำคัญอย่างยิ่ง
ระดับการทำงานอัตโนมัติควรได้สัดส่วนกับความเสี่ยง งานประจำที่เข้าใจเป็นอย่างดีอาจเหมาะกับการดำเนินการโดยอัตโนมัติ ขณะที่การดำเนินการที่ส่งผลสำคัญหรือก่อให้เกิดการหยุดชะงักอาจต้องได้รับอนุมัติจากมนุษย์หรือการอนุญาตเพิ่มเติม นอกจากนี้ การรักษาความปลอดภัยขององค์กรยังขึ้นอยู่กับการประสานงานระหว่างทีมต่าง ๆ ด้วย หากการสืบสวนพบภัยคุกคามที่จำเป็นต้องเปลี่ยนการกำหนดค่าไฟร์วอลล์ ก็ต้องส่งต่องานไปยังทีมที่รับผิดชอบระบบนั้นได้อย่างราบรื่น พร้อมมีการอนุมัติและความรับผิดชอบต่อการแก้ไขที่เหมาะสม
ดังนั้น การกำกับดูแลและการออกแบบเวิร์กโฟลว์จึงเป็นองค์ประกอบสำคัญของการนำเอเจนต์ไปใช้งาน ไม่ใช่มาตรการควบคุมที่ค่อยเพิ่มเข้ามาภายหลังจากขยายเทคโนโลยีแล้ว
ตัวชี้วัดความสำเร็จขั้นต่อไปของ AI ด้านความปลอดภัยคือคุณภาพของผลลัพธ์
องค์กรควรประเมินเอเจนต์ด้วยตัวชี้วัดที่อิงผลลัพธ์ ซึ่งรวมถึงความแม่นยำในการสืบสวน อัตราการแจ้งเตือนผลบวกลวงและผลลบลวง ระยะเวลาที่ใช้ในการสืบสวนและแก้ไขปัญหา ค่าใช้จ่ายต่อการสืบสวน คุณภาพของการส่งต่อเรื่องให้ผู้รับผิดชอบ และการปฏิบัติตามนโยบายการอนุญาตให้ดำเนินการ.
การประเมินอย่างต่อเนื่องเป็นสิ่งจำเป็นเมื่อโมเดลและเวิร์กโฟลว์เปลี่ยนแปลง การทดสอบเอเจนต์เวอร์ชันต่าง ๆ กับกรณีที่เป็นตัวแทน และการใช้สภาพแวดล้อมจำลอง สามารถช่วยให้องค์กรตรวจพบการถดถอยก่อนนำการอัปเดตไปใช้งานจริง.
ผู้นำด้านความปลอดภัยต้องสร้างสมดุลระหว่างประโยชน์ของระบบอัตโนมัติกับความเสี่ยงในการดำเนินงานที่เกิดจากการนำไปใช้งาน ความพร้อมใช้งานของแอปพลิเคชัน ภาระหน้าที่ด้านการปฏิบัติตามข้อกำหนด ระดับความเสี่ยงที่องค์กรยอมรับได้ และกรอบเวลาการนำไปใช้ ล้วนมีผลต่อความรวดเร็วในการนำขีดความสามารถใหม่มาใช้.
AI เปิดโอกาสให้ทีมรักษาความปลอดภัยรับมือกับปัญหาขีดความสามารถที่มีจำกัดมายาวนาน แต่การขยายขนาดเพียงอย่างเดียวไม่ใช่เป้าหมายสูงสุด โอกาสที่แท้จริงอยู่ที่การผสานความเร็วของเครื่องจักรเข้ากับบริบทขององค์กร อำนาจหน้าที่ที่เหมาะสม และวิจารณญาณของมนุษย์ เพื่อให้เอเจนต์แยกแยะได้ว่าเรื่องใดสำคัญ ดำเนินการได้อย่างเหมาะสม และดึงบุคคลที่เกี่ยวข้องเข้ามาเมื่อจำเป็น.












