AI ต่อสู้กับ AI: ความเป็นจริงใหม่ของการรักษาความปลอดภัยทางไซเบอร์

การโจมตีทางไซเบอร์ที่ใช้ AI มาถึงแล้ว โดยยืนยันถึงความเสี่ยงที่เคยเป็นเพียงทฤษฎี แต่คาดการณ์ไว้แล้ว และพวกมันกำลังนำไปสู่ยุคใหม่ในภูมิทัศน์ของภัยคุกคาม ด้วยตัวแทน AI ที่สามารถเปิดตัวแคมเปญที่ซับซ้อนและครอบคลุมทุกด้านภายในเวลาเพียงไม่กี่นาที ผู้กระทำความผิดทางไซเบอร์สามารถระบุและใช้ประโยชน์จากจุดอ่อนขององค์กรได้ด้วยความเร็วของเครื่องจักร กฎของการมีส่วนร่วมได้เปลี่ยนไปแล้ว: การป้องกันทางไซเบอร์ของเมื่อวานนี้ไม่สามารถตามทันการโจมตีของวันนี้ที่ขับเคลื่อนด้วย AI ได้อีกต่อไป

เมื่อ AI เพิ่มพลังให้กับภัยคุกคามทางไซเบอร์ องค์กรต่างๆ จำเป็นต้องใช้ความสามารถในการป้องกันทางไซเบอร์ที่ขับเคลื่อนด้วย AI ของตนเองเพื่อรักษาความเร็ว ขนาด และความแม่นยำให้เทียบเท่า ในขณะนี้ ผู้กระทำความผิดทางไซเบอร์ยังคงใช้กลยุทธ์ เทคนิค และขั้นตอน (TTPs) ที่คุ้นเคย แต่ AI กำลังเร่งและปรับปรุงหนังสือเล่มนี้ให้พวกเขา นอกจากนี้ โมเดล AI ขององค์กรมเองยังเป็นเป้าหมายใหม่ผ่านการปนเปื้อนโมเดลและการจัดการทางสังคมที่ขับเคลื่อนด้วยภาษา ซึ่งต้องการให้ทีมรักษาความปลอดภัยให้ความสนใจในการรักษาความปลอดภัยของความสามารถ AI ของตนอย่างเหมาะสม ดังนั้น การรักษาความปลอดภัยควรเป็นส่วนสำคัญของกลยุทธ์ AI ขององค์กรโดยรวม

อะไรที่ทำให้การโจมตีทางไซเบอร์ที่ใช้ AI แตกต่าง?

ในโลกดิจิทัลที่ถูกบุกรุกอย่างไม่หยุดยั้งโดยการพยายามบุกรุกทางไซเบอร์ อุปสรรคในการเข้าถึงสำหรับผู้กระทำความผิดได้ลดลง ทำให้ไม่เพียงแต่เพิ่มจำนวนการโจมตี แต่ยังเพิ่มความซับซ้อนของการโจมตีอีกด้วย การโจมตีทางไซเบอร์ที่ใช้ AI สามารถใช้ AI หรือการเรียนรู้ของเครื่อง (ML) เพื่อทำให้การโจมตีแต่ละขั้นตอนอัตโนมัติ เร่งหรือปรับปรุงได้ ตั้งแต่การสำรวจและรวบรวมข้อมูลไปจนถึงการโจมตีและการขโมยข้อมูลที่ละเอียดอ่อน

การอาศัยกระบวนการและเทคโนโลยีการรักษาความปลอดภัยที่มีอยู่โดยไม่ต้องใช้เทคโนโลยีขั้นสูงแบบเดียวกับที่ผู้กระทำความผิดใช้ ทำให้ผู้กระทำความผิดมีข้อได้เปรียบที่ยากจะตามทันโดยไม่ต้องมีการป้องกันทางไซเบอร์ที่ขับเคลื่อนด้วย AI องค์กรต่างๆ กำลังถูกบุกรุกอย่างหนักในการติดตามระบบของตนเองจากผู้กระทำความผิดทางไซเบอร์แบบดั้งเดิม การโจมตีทางไซเบอร์ที่ใช้ AI จะทำให้การเหนื่อยหน่ายในการแจ้งเตือนเพิ่มมากขึ้น ซึ่งจำเป็นต้องเปลี่ยนแปลงจากกระบวนการที่ควบคุมโดยมนุษย์เป็นกระบวนการที่ควบคุมโดยทั้งมนุษย์และดิจิทัล

ทำแผนที่ทรัพย์สินดิจิทัลทั้งหมด

ในโลกปัจจุบัน การเข้าใจจุดเข้าถึงที่เป็นไปได้ทั่วทั้งระบบขององค์กรเป็นเรื่องพื้นฐาน แต่ยังคงเป็นเรื่องที่ยากสำหรับองค์กรขนาดใหญ่หลายแห่ง นอกเหนือจากระบบและทรัพย์สินดิจิทัลแล้ว ยังมีความจำเป็นต้องมีการทำแผนที่อัตลักษณ์และการเข้าถึงทั้งหมดภายในองค์กร อัตลักษณ์ดิจิทัล ซึ่งเชื่อมโยงลักษณะทางกายภาพและพฤติกรรมกลับไปยังบุคคลนั้น ๆ ได้รับการเข้าใจอย่างดีพร้อมด้วยการควบคุมที่มีอยู่แล้วในการจัดการการเข้าถึงดิจิทัล

อย่างไรก็ตาม การเข้าใจภูมิทัศน์ของอัตลักษณ์ที่ไม่ใช่มนุษย์ (NHIs) ทั่วทั้งองค์กรเป็นสิ่งจำเป็นในการรักษาความปลอดภัยของทรัพย์สินดิจิทัล การรับรู้ถึงคุณค่าที่เป็นไปได้ของ AI ภายในองค์กรหมายถึงการให้ความสามารถในการเข้าถึงและอนุญาตให้ตัวแทน AI ทำงานอัตโนมัติได้ เช่นเดียวกับสภาพแวดล้อมคลาวด์ในยุคการรักษาความปลอดภัยก่อนหน้านี้ วอร์กโฟลว์ที่ขับเคลื่อนด้วยตัวแทนในปัจจุบันสามารถสร้างและลบ NHIs ได้ตามขนาด ทำให้ต้องมีความสามารถที่ทันสมัยในการจัดการและติดตามว่าตัวแทนเหล่านี้ทำงานที่ไหนและทำงานให้สำเร็จได้อย่างไร

องค์กรควรขยายการกำกับดูแลอัตลักษณ์ไปทั่ววงจรชีวิตของอัตลักษณ์ตัวแทนและติดตามการกระทำของตัวแทน เช่นเดียวกับการติดตามการเข้าถึงของผู้ใช้มนุษย์ในปัจจุบันสำหรับการเสี่ยงต่อการรั่วไหลข้อมูลหรือการบุกรุกบัญชีจากผู้กระทำความผิด เมื่อตัวแทนมีความเป็นอิสระและทำงานที่สำคัญต่อธุรกิจมากขึ้น การเข้าใจรูปแบบอัตลักษณ์และการเข้าถึงของพวกมันจึงมีความสำคัญต่อการนำการควบคุมการเข้าถึงและการติดตามที่จำเป็นในการปกป้องพวกมันและองค์กรจากความผิดพลาด

ล็อกดาวน์โมเดล AI

ความสามารถของ AI มีคำมั่นสัญญาที่จะปลดปล่อยประสิทธิภาพและผลผลิต แต่ยังมีศักยภาพที่จะถูกใช้โจมตีองค์กร การนำ AI เข้ามาใช้ในทุกด้านของการดำเนินธุรกิจไม่ใช่สิ่งที่ “ดี” อีกต่อไป แต่เป็นสิ่งจำเป็นสำหรับความสำเร็จในภูมิทัศน์ที่มีการแข่งขันในปัจจุบัน ดังนั้น การใช้ AI อย่างปลอดภัยจึงเป็นส่วนประกอบที่จำเป็นในการรับรู้ถึงศักยภาพทางธุรกิจและผลลัพธ์ที่ปลอดภัย

การเปลี่ยนแปลงไปสู่การป้องกันทางไซเบอร์ที่ขับเคลื่อนด้วย AI ยังคงดำเนินอยู่ ในขณะที่ โมเดล AI เองก็กลายเป็นเป้าหมาย ผู้กระทำความผิดอาจพยายามปนเปื้อนข้อมูลที่ใช้ในการฝึกอบรมโมเดลและจัดการพวกมันให้ดำเนินการตามที่ไม่ได้ตั้งใจหรือแม้กระทั่งเผยแพร่ข้อมูลที่ละเอียดอ่อน

การโจมตีของศัตรูต่อ AI สามารถเกิดขึ้นในรูปแบบต่างๆ เช่น การโจมตีด้วยการปนเปื้อน การโจมตีด้วยการฉีดคำสั่ง และอื่นๆ เพื่อปกป้อง AI จากการบุกรุกที่อาจเกิดขึ้น องค์กรควรใช้ปรัชญาของ Cyber Infrastructure and Security Agency (CISA) ซึ่งเป็น Secure by Design ซึ่งเริ่มต้นด้วยข้อมูลที่ใช้ในการฝึกอบรมโมเดล การล็อกดาวน์ข้อมูลในขั้นตอนแรกของกระบวนการสร้างสรรค์เป็นรากฐานของการผลิตที่เชื่อถือได้

การเข้าใจข้อมูลที่นำเข้ามาในการพัฒนาโมเดลและความสามารถเป็นไปได้โดยการกำกับดูแลข้อมูลอย่างมีเจตนา การควบคุมการเข้าถึงโมเดลเอง การควบคุมที่สำคัญที่ช่วยให้สามารถตรวจสอบการผลิตที่ต้องการได้มาในรูปแบบของการป้องกันการสูญเสียข้อมูล (DLP); การบังคับใช้นโยบายและความปลอดภัย; การยึดหลักการจากแหล่งที่เชื่อถือได้; และการควบคุมการอนุมัติที่เข้มงวดสำหรับการดำเนินการระดับสูง การตรวจสอบและทดสอบอย่างต่อเนื่อง รวมถึงการทดสอบการเจาะระบบของโมเดลเพื่อทำให้พวกมันแข็งแกร่ง

ฝัง AI ลงในการดำเนินงานด้านความปลอดภัย

จนถึงตอนนี้ การใช้ AI ในการป้องกันทางไซเบอร์เป็นเรื่องยุทธวิธี โดยหลายองค์กรติด AI เข้ากับกระบวนการแบบดั้งเดิมที่ขับเคลื่อนด้วยมนุษย์ มากกว่าที่จะคิดใหม่ว่าจะสร้างกระบวนการที่ขับเคลื่อนด้วย AI อย่างมีกลยุทธ์ นี่เหมือนกับการพยายามติดเครื่องยนต์ V8 ลงในจักรยาน การพัฒนา AI ในอนาคตจะเกี่ยวข้องกับการออกแบบกระบวนการใหม่ตั้งแต่ต้น โดยมี AI และการทำงานอัตโนมัติเป็นส่วนหนึ่งของการออกแบบ การดำเนินงานด้านความปลอดภัยที่มีประสิทธิภาพ เช่น การตรวจจับการคุกคาม การล่าหาความคุกคาม และวิศวกรรมการตรวจจับ ยังคงเป็นสิ่งสำคัญสำหรับการรักษาความปลอดภัยขององค์กรในยุค AI

นอกจากนี้ การทำงานอัตโนมัติไม่ใช่แนวคิดใหม่ที่เฉพาะเจาะจงกับการเกิดขึ้นของ AI การทำงานอัตโนมัติและการจัดระเบียบกระบวนการด้านความปลอดภัยได้ถูกใช้มาเป็นเวลานาน โดยองค์กรที่มีความสามารถที่เติบโตแล้วมีการจัดระเบียบและอัตโนมัติที่ซับซ้อน อย่างไรก็ตาม AI เพิ่มการทำงานอัตโนมัติแบบตามกฎและพัฒนาให้กลายเป็นกระบวนการอัตโนมัติที่มีความยืดหยุ่นและปรับเปลี่ยนได้ ซึ่งสามารถช่วยแก้ปัญหาความเร็วและความคล่องตัวที่จำเป็นสำหรับการรับมือกับภัยคุกคาม AI ที่เกิดขึ้นใหม่

อะไรต่อไป?

การรักษาความปลอดภัยต้องยังคงเป็นเรื่องสำคัญสำหรับธุรกิจและ IT เพื่อรักษาสินทรัพย์และผู้ใช้ที่สำคัญให้ปลอดภัยจากการบุกรุกที่เป็นอันตราย การออกแบบ AI ที่ปลอดภัยเป็นเรื่องจำเป็นเมื่อพิจารณาจากความเร็วที่โมเดล AI สามารถถูกใช้งานและขอให้ทำหน้าที่ที่สำคัญมากขึ้น ทีมรักษาความปลอดภัยควรคิดเชิงกลยุทธ์เกี่ยวกับการ การเปลี่ยนแปลงกระบวนการจากพื้นฐาน เพื่อนำความสามารถ AI ใหม่ๆ มาใช้และตามทันในเกมการรับมือทางไซเบอร์

ผู้นำด้านความปลอดภัยสามารถดำเนินการตามขั้นตอนที่เป็นรูปธรรมได้หลายอย่างในระยะเวลาอันใกล้: ทำการตรวจสอบกระบวนการรักษาความปลอดภัยในปัจจุบันอย่างครอบคลุมเพื่อระบุช่องโหว่ โอกาสในการทันสมัย และพื้นที่ที่เหมาะสมสำหรับการเปลี่ยนแปลง ติดตามภัยคุกคาม AI ที่เกิดขึ้นใหม่ รูปแบบ และเทคโนโลยี มากกว่านั้น ยังคงยึดมั่นในหลักการรักษาความปลอดภัยพื้นฐานของการป้องกันในความลึกที่ได้พิสูจน์ตัวเองมาตลอด – การป้องกันแบบชั้นและตรวจสอบตั้งแต่อัตลักษณ์ จุดสิ้นสุด เครือข่าย ข้อมูล และความสามารถในการติดตามและตอบสนองที่มีประสิทธิภาพซึ่งถูกทดสอบอย่างต่อเนื่อง

ศักยภาพการเปลี่ยนแปลงของ AI มีผลประโยชน์ที่มากเกินกว่าที่จะปฏิเสธการนำมาใช้ และจินนี่ได้ออกมาจากขวดแล้วสำหรับผู้กระทำความผิด ดังนั้น บทบาทของผู้นำด้านความปลอดภัยในยุคหน้านี้จึงเหมือนเดิม: การสนับสนุนองค์กรในการบรรลุวัตถุประสงค์ทางธุรกิจด้วยการลดความเสี่ยงอย่างรอบคอบ – เพียงแต่ตอนนี้มีความเร็วของเครื่องจักรด้วยการใช้ AI