ทบทวนความยืดหยุ่นของ AI: ทำไมถึงเวลาทิ้งโมเดล ‘ตั้งค่าแล้วลืมมัน’

A การสำรวจล่าสุดของ Gallup ชี้ให้เห็นถึงแนวโน้มการนำ AI ไปใช้เพิ่มขึ้น เนื่องจากผู้ใหญ่ที่ทำงานมากกว่าครึ่งหนึ่งบอกว่าพวกเขาใช้เทคโนโลยีนี้อย่างน้อยหลายครั้งต่อปี ข้อมูลนี้เป็นเพียงสัญญาณของการนำ AI อย่างรวดเร็วที่กำลังเกิดขึ้นทั่วสภาพแวดล้อมขององค์กร แม้ว่าผู้นำหลายองค์กรจะเริ่มตั้งคำถามเกี่ยวกับผลตอบแทนการลงทุนของ AI แต่ก็ไม่ได้หยุดไม่ให้องค์กรพึ่งพาเทคโนโลยีเพื่อทำให้กระบวนการทำงานแบบแมนนวลเป็นอัตโนมัติและเพิ่มประสิทธิภาพสูงสุด.

ขณะที่การนำ AI ไปใช้ยังคงดำเนินต่อไป องค์กรอาจถูกล่อให้มองข้ามข้อผิดพลาดที่เป็นอันตรายในการทำงานอัตโนมัติ พวกเขามอง AI เป็นโซลูชันสำเร็จรูปที่ต้องการให้ทีมไอทีตั้งค่าเทคโนโลยีแล้วปล่อยให้ทำงานต่อไปและ “ลืม” ว่ามันมีอยู่ ทีมความปลอดภัยบางส่วนพยายามต่อสู้กับแนวคิดนี้โดยสร้าง playbook การอัตโนมัติเพื่อส่งเสริมการใช้ AI อย่างปลอดภัยและมั่นคง อย่างไรก็ตาม แม้ทีมไอทีและความปลอดภัยที่ดีที่สุดก็ยังทิ้งพื้นที่ให้ปรับเปลี่ยนใน playbook เหล่านี้น้อยมาก ดังนั้นองค์กรจึงไม่สามารถพัฒนาอย่างปลอดภัยพร้อมกับ AI ได้ในขณะที่เทคโนโลยีกำลังพัฒนาเช่นกัน.

เมื่อองค์กรมอบอำนาจให้ AI มากขึ้นในกระบวนการทำงานที่สำคัญต่อธุรกิจ ความคล่องตัวในการดำเนินงานจึงต้องกลายเป็นภารกิจใหม่สำหรับองค์กรในยุคปัจจุบัน เพื่อให้สิ่งนี้กลายเป็นแนวปฏิบัติสากล ผู้นำด้านความปลอดภัยขององค์กรต้องละทิ้งแนวคิด “ตั้งค่าแล้วลืมมัน” และออกแบบระบบให้มีความยืดหยุ่น.

ทำความเข้าใจพาราด็อกซ์ของการอัตโนมัติ

AI‑powered automation กำลังให้ผลผลิตเพิ่มอย่างมหาศาลในหลายฟังก์ชันขององค์กร ให้ใช้ด้านความปลอดภัยไซเบอร์เป็นตัวอย่าง เครื่องมือ AI ช่วยให้นักวิเคราะห์ทำขั้นตอนเพิ่มเติมที่เคยไม่มีเวลาในศูนย์ปฏิบัติการความปลอดภัยที่ทำงานหนักและอัดอั้น ซึ่งรวมถึงการจัดลำดับความสำคัญของการแจ้งเตือน การตรวจสอบเหตุการณ์ การตรวจจับภัยคุกคาม การตรวจสอบความสอดคล้อง และการขอความคิดเห็นที่สอง ต่างจากผู้นำระดับ C‑suite บางคน CISO ยังคงมองโลกในแง่ดีเกี่ยวกับคุณค่าที่ AI จะมอบให้ในอนาคต ตามข้อมูลจาก “The CISO Report: From Risk to Resilience in the AI Era” 83% ของ CISO เชื่อว่าการอัตโนมัติเป็นการลงทุนที่มีโอกาสเกินความคาดหมายมากที่สุด.

แม้จะมีประโยชน์เหล่านี้ พาราด็อกซ์ก็ยังคงอยู่ รายงานเดียวกันเน้นถึงความสงสัยของ CISO ต่อ AI เนื่องจากกลัวผลลัพธ์จากข้อผิดพลาดอัตโนมัติ 83% ของ CISO ให้ความสำคัญกับผลกระทบจาก “hallucinations” เช่น การพลาดการแจ้งเตือนหรือการแจ้งเตือนเท็จเป็นความกังวลสูงสุดเกี่ยวกับ AI ที่ทำงานโดยอิสระ มีหลักฐานเพียงพอสนับสนุนความกังวลเหล่านี้เกี่ยวกับ hallucinations สายการบินพาณิชย์รายใหญ่หนึ่งราย ถูกฟ้องร้องและสั่งให้ชำระค่าเสียหาย หลังแชทบอทบริการลูกค้าของตนให้ข้อมูลที่ผิดเกี่ยวกับนโยบายการคืนเงินค่าโดยสารในกรณีการเสียชีวิต บริษัท บริษัทข่าวกรองภัยคุกคาม กำลังเผชิญปัญหาทางกฎหมายเพราะถูกกล่าวหาว่าออกรายงานที่เชื่อมโยงสตาร์ทอัพกับแฮกเกอร์จากต่างประเทศ เมื่อ AI ทำผิดพลาด ผลกระทบอาจขยายออกไปไกลกว่าระบบภายใน ทั้งด้านทุนและชื่อเสียง.

ปัญหาของ Playbook ที่ล้าสมัย

Playbook ความปลอดภัยที่มุ่งเน้น AI เป็นพื้นฐานสำคัญสำหรับการนำ AI ไปใช้ได้อย่างปลอดภัยและประสบความสำเร็จ แต่ปัญหาเกิดขึ้นเมื่อ Playbook เหล่านั้นไม่เคยมีการปรับเปลี่ยน เพราะภัยคุกคาม โครงสร้างไอที และสภาพแวดล้อมทางธุรกิจมีการพัฒนาอย่างต่อเนื่อง AI ทำให้ผู้กระทำอาชญากรรมสามารถขยายการโจมตีได้ ในขณะเดียวกันสภาพแวดล้อมไอทีที่ซับซ้อนและขยายตัวทำให้การตรวจจับยากขึ้น อีกทั้งเมื่อธุรกิจมอบความรับผิดชอบที่มากขึ้นให้ AI ผลของข้อผิดพลาดก็ยิ่งสำคัญขึ้น.

หากปัจจัยเหล่านี้ยังคงพัฒนาอย่างต่อเนื่องแล้วตรรกะการอัตโนมัติก็ต้องพัฒนาไปพร้อมกัน Playbook ที่แช่แข็งทำให้สิ่งนี้เป็นไปไม่ได้ ทำให้ทีมความปลอดภัยต้องเผชิญปัญหาในปัจจุบันด้วยตรรกะที่ล้าสมัย บางครั้งสถานการณ์นี้อาจแย่กว่าการไม่มี Playbook เลย.

เพื่อให้ Playbook กลายเป็น “สิ่งมีชีวิต” ที่เหมาะสมกับการใช้งาน AI ปัจจุบันและส่งเสริมความยืดหยุ่นภายในองค์กร จำเป็นต้อง:

• ทดสอบอย่างต่อเนื่องด้วยข้อมูลข่าวกรองภัยคุกคามล่าสุด
• อัปเดตหลังจากเกิดเหตุการณ์จริง
• ยกเลิกเมื่อไม่สามารถให้ประสิทธิภาพหรือคุณค่าได้อีกต่อไป

แนวคิดนี้สอดคล้อง กับแนวทางของ Cybersecurity and Infrastructure Security Agency (CISA) และหน่วยงานความปลอดภัยไซเบอร์ระดับโลกอื่น ๆ ที่ส่งเสริมการเฝ้าติดตามระบบ AI อย่างต่อเนื่องและการแทรกแซงของมนุษย์อย่างต่อเนื่อง.

การนำสูตรความยืดหยุ่นไปใช้

ยุค AI ต้องการให้ธุรกิจก้าวออกจากแนวคิดที่มอง AI เป็นโซลูชันจุดเดียว หรือการใส่อัตโนมัติเข้ากับกรณีการใช้งานที่มีอยู่เดิม องค์กรต้องสร้างวัฒนธรรมความยืดหยุ่นที่ทำให้ทั้งบุคลากรไอทีและระบบสามารถเสริมจุดแข็งของ AI เมื่อทำงานได้ถูกต้อง — และตอบสนองอย่างมีประสิทธิภาพเมื่อเทคโนโลยีทำผิดพลาด.

สูตรปฏิบัติสามส่วนต่อไปนี้สามารถช่วยฝังความยืดหยุ่นลงในการดำเนินการอัตโนมัติได้:

• ความมั่นใจ: สำหรับแต่ละกระบวนการอัตโนมัติ ทีมควรถามตัวเอง: เรามั่นใจแค่ไหนกับตัวกระตุ้นที่ทำให้เกิดการตอบสนองอัตโนมัติ?
• การย้อนกลับได้: การกระทำนี้สามารถย้อนกลับได้หรือไม่? หากได้ เราจะทำได้เร็วและปลอดภัยแค่ไหน?
• ระยะผลกระทบ: ผลกระทบจะกระจายกว้างแค่ไหนหากเกิดข้อผิดพลาด และสินทรัพย์ที่ได้รับผลกระทบมีความสำคัญต่อธุรกิจระดับใด?

เครื่องมือการสังเกตและการเฝ้าติดตามที่เหมาะสมเป็นกุญแจสำคัญในการตอบคำถามเหล่านี้ ทีมควรใช้แพลตฟอร์มการสังเกตและการจัดการข้อมูลแบบรวมศูนย์ เพื่อให้เข้าใจอย่างครบถ้วนว่าการตอบสนองอัตโนมัติอาจเกิดขึ้นที่ส่วนใดของสภาพแวดล้อมไอที มีสินทรัพย์ใดบ้างที่ได้รับผลกระทบ และผลกระทบต่อธุรกิจเป็นอย่างไร การทำแบบฝึกหัดนี้อย่างสม่ำเสมอจะทำให้ Playbook AI ของทีมความปลอดภัยเป็นปัจจุบัน นอกจากนี้ยังช่วยให้การดำเนินงานแบบ “human‑in‑the‑loop” มีประสิทธิภาพ เพราะทีมไอทีจะรู้ว่าและอย่างไรที่จะเข้าแทรกแซงเพื่อป้องกันการกระทำอัตโนมัติที่ไม่เหมาะสมจากการก่อให้เกิดผลเสียกว้างและมีค่าใช้จ่ายสูง.

หยุดตั้งค่าแล้วลืมมันได้แล้ว

CISO และผู้นำไอทีสมัยใหม่ต้องตระหนักว่าความรับผิดชอบสุดท้ายอยู่ที่พวกเขาเมื่อพูดถึงพฤติกรรมของ AI ยิ่ง AI มีส่วนเกี่ยวข้องกับงานสำคัญขององค์กร ความรับภาระของหัวหน้าความปลอดภัยไซเบอร์ก็ยิ่งเพิ่มขึ้น กฎง่าย ๆ ที่ควรจดจำคือ “การอัตโนมัติเปลี่ยนคนที่กดปุ่ม ไม่ได้เปลี่ยนคนที่ต้องรับผิดชอบเมื่อปุ่มถูกกด.”

ภาระและความรับผิดชอบของ CISO ในปัจจุบันสูงเกินกว่าจะคงไว้ซึ่ง Playbook “ตั้งค่าแล้วลืมมัน” อีกต่อไป แทนที่จะเป็นเช่นนั้น ความยืดหยุ่นต้องเป็นทั้งแนวปฏิบัติและวัฒนธรรมที่แทรกซึมทั่วทั้งองค์กรและทำให้สามารถฟื้นตัวได้หลังจาก AI ทำผิดพลาด เมื่อทีมนำการเฝ้าติดตามอย่างต่อเนื่อง การย้อนกลับ การกักกัน และความเป็นเจ้าของของมนุษย์เข้าสู่ Playbook การอัตโนมัติ องค์กรจะสามารถป้องกันไม่ให้การตัดสินใจอัตโนมัติกลายเป็นปัญหาระดับองค์กรได้.