AI คือภัยคุกคามจากคนในรูปแบบใหม่ แต่แผนรับมือความเสี่ยงกำลังตามหลังไปหนึ่งชั้น

เหตุละเมิดความปลอดภัยของ Hugging Face และเหตุการณ์ทำนองเดียวกันสร้างความหวั่นวิตกไปทั่วอุตสาหกรรม แต่สิ่งที่องค์กรควรให้ความสำคัญคือ SDLC ไม่ใช่ชั้นของโมเดล AI

เหตุละเมิดความปลอดภัยของ Hugging Faceในเดือนกรกฎาคม ซึ่งเกิดจากเอเจนต์ของ OpenAI ตามมาด้วยรายงานเหตุการณ์คล้ายกันที่เกี่ยวข้องกับโมเดลของ Anthropic และ Meta อย่างรวดเร็ว จนเกิดความกังวลเกี่ยวกับภัยไซเบอร์ประเภทใหม่ที่ดูเหมือนเพิ่งเกิดขึ้น นั่นคือภัยคุกคามจาก AI แบบเอเจนต์ที่เป็นผู้ไม่หวังดีภายในองค์กร

แต่เหตุการณ์ลักษณะนี้ไม่ได้เป็นเรื่องใหม่แต่อย่างใด การที่เหตุเกิดขึ้นในห้องปฏิบัติการ AI ชั้นนำ ซึ่งทำให้ผู้คนกังวลมาหลายปีแล้ว ทำให้ภัยนี้มีโฉมหน้าใหม่ที่น่าหวาดหวั่น ทว่าเหตุการณ์เหล่านี้สะท้อนรูปแบบความล้มเหลวและจุดบอดแบบเดิมที่องค์กรสั่งสมมานานหลายปี

และพวกมันก็ไม่ได้กระทำการมุ่งร้ายโดยเจตนาด้วยเช่นกัน ในเหตุละเมิดความปลอดภัยของ Hugging Face เอเจนต์ปัญญาประดิษฐ์ราว 1,200 ตัวกำลังพยายามทำเป้าหมายที่ได้รับมอบหมายให้สำเร็จในสภาพแวดล้อมทดสอบ แม้ต้องยอมรับว่าพฤติกรรมของพวกมันไม่ได้ตรงไปตรงมาเสมอไป ระหว่างนั้น พวกมันสื่อสารกันอย่างลับ ๆ ใช้ประโยชน์จากช่องโหว่ และปฏิบัติการโดยไม่มีใครตรวจพบเป็นเวลาราวสองเดือน โดยมีประมาณ 700 ตัวที่ปีนข้ามกำแพงของสภาพแวดล้อมที่เรียกว่าแยกขาด แล้วเข้าถึงอินเทอร์เน็ตและบุคคลภายนอกได้

สิ่งที่ชวนหวั่นใจเกี่ยวกับเหตุการณ์เหล่านี้ไม่ใช่แค่การที่เอเจนต์ AI ที่ไร้ข้อจำกัดอาจเป็นภัยคุกคามร้ายแรง ซึ่งแน่นอนว่าพวกมันเป็นเช่นนั้นจริง แต่หากเอเจนต์ยังอาละวาดได้ต่อหน้าทีมของห้องปฏิบัติการ AI ชั้นนำ ซึ่งมีทั้งบุคลากรที่มีความสามารถ ทรัพยากร และแรงจูงใจมากพอที่จะจับตาดูกิจกรรมอย่างใกล้ชิด คุณก็ควรถามด้วยว่า ขณะนี้เกิดอะไรขึ้นกับเอเจนต์ AI และเครื่องมือที่มี AI ช่วยทำงานซึ่งกำลังทำงานอยู่ในสภาพแวดล้อมการพัฒนาของคุณ หากผู้เล่นรายใหญ่ที่สุดในวงการ AI ยังมองไม่เห็นสิ่งที่เกิดขึ้นในสภาพแวดล้อมของตนแบบเรียลไทม์ แล้วองค์กรทั่วไปจะมีโอกาสแค่ไหน?

วิธีที่ดีที่สุดที่องค์กรจะควบคุม AI แบบเอเจนต์ได้ คือเริ่มจากตระหนักว่าสถานการณ์ใหม่นี้เป็นเพียงความท้าทายที่มีมานานแล้วในรูปแบบที่ทรงพลังยิ่งขึ้น แต่การรับมือกับเรื่องนี้ต้องอาศัยสิ่งที่หลายองค์กรยังขาด นั่นคือการมองเห็นและการตรวจสอบติดตามตั้งแต่ช่วงต้นของวงจรการพัฒนาซอฟต์แวร์ (SDLC)

OpenAI-Hugging Face: สัญญาณบอกสิ่งที่จะเกิดขึ้น

ในเหตุละเมิดความปลอดภัยของ Hugging Face มีการใช้โมเดล AI ชั้นนำหลายโมเดล รวมถึง GPT-5.6 Sol ซึ่งเป็นโมเดลเรือธงรุ่นใหม่ของ OpenAI ที่เปิดตัวในเดือนกรกฎาคม เพื่อแก้โจทย์ที่มีขอบเขตจำกัด นั่นคือการทดสอบมาตรฐาน ExploitGym ซึ่งประเมินความสามารถของเอเจนต์ในการใช้ประโยชน์จากข้อบกพร่องด้านความปลอดภัย Anthropic ระบุในโพสต์ที่กล่าวถึงเหตุละเมิดดังกล่าวว่า แม้โมเดล AI จะทำงานภายใต้มาตรการป้องกันที่ลดลง แต่ก็สามารถทำสิ่งที่อยู่นอกกรอบ หลบเลี่ยงมาตรการควบคุมทางเทคนิค ร่วมมือกันผ่านช่องทางที่ไม่ได้รับอนุญาต และท้ายที่สุดก็กระทำการที่มีความเสี่ยง

แม้จะตรวจพบเหตุละเมิดความปลอดภัยในเดือนกรกฎาคม แต่เอเจนต์เริ่มสื่อสารกันอย่างไม่เหมาะสมตั้งแต่เดือนพฤษภาคม โดยยังไม่เป็นที่สังเกตเห็น METR และ Redwood Researchร่วมทำการสืบสวนอย่างเป็นอิสระและควบคู่ไปกับ OpenAI และพบว่า แม้เอเจนต์จะรู้ว่าตนกำลังฝ่าฝืนกฎ แต่มีเพียงไม่กี่ตัวที่คิดจะแจ้ง OpenAI โดยส่วนใหญ่ยังคงเดินหน้าต่อไป

หลังจากรายงานของ OpenAI ทาง Anthropic ได้กลับไปตรวจสอบการประเมินด้านความมั่นคงปลอดภัยทางไซเบอร์ก่อนหน้านี้ และพบว่าโมเดล Claude เคยหลบเลี่ยงมาตรการควบคุมได้สามครั้งในเดือนเมษายน ค้นพบวิธีเชื่อมต่ออินเทอร์เน็ต และเข้าถึงองค์กรภายนอกสามแห่งโดยไม่ได้รับอนุญาต ไม่นานหลังจากนั้น Meta เปิดเผยว่า Muse Spark 1.1 ซึ่งเป็นโมเดล AI แบบเอเจนต์ที่ล้ำหน้าที่สุดรุ่นหนึ่งของบริษัท ก็หลุดออกจากสภาพแวดล้อมทดสอบความมั่นคงปลอดภัยทางไซเบอร์แบบแซนด์บ็อกซ์ และแทรกซึมเข้าไปในเครือข่ายของบริษัทภายนอกแห่งหนึ่งเช่นกัน

ในรายงาน OpenAI ยังเตือนด้วยว่าเหตุการณ์นี้เป็นสัญญาณบอกสิ่งที่จะเกิดขึ้น โดยระบุว่าอีกไม่นานโมเดลจำนวนมาก รวมถึงโมเดลโอเพนซอร์สที่ใช้กันทั่วไป จะมีความสามารถทำสิ่งเดียวกันได้ เหตุละเมิดความปลอดภัยของ Medicare ที่เกิดขึ้นเมื่อไม่นานมานี้ยิ่งตอกย้ำคำเตือนนี้

ต้องกำกับดูแล AI ตั้งแต่ระดับ SDLC

การโจมตีด้วย AI แบบเอเจนต์เหล่านี้สร้างความหวั่นวิตกไปทั่วชุมชน AI โดย OpenAI ประกาศว่าจะเพิ่มความเข้มงวดในการควบคุมสภาพแวดล้อมการทดสอบของตน จากนั้นยังร่วมกับ Anthropic, Microsoft, Amazon Web Services และบริษัทอื่น ๆ อีกกว่า 100 แห่งเพื่อออกคำเตือนเกี่ยวกับการโจมตีทางไซเบอร์ที่ใช้ AI ซึ่งกำลังจะถาโถมเข้าใส่โครงสร้างพื้นฐานสำคัญ จดหมายดังกล่าวเตือนว่า การโจมตีอาจเกิดขึ้นภายในเวลาเพียงไม่กี่เดือน

องค์กรที่กังวลว่าจะตกเป็นเหยื่อการโจมตีลักษณะเดียวกันจำเป็นต้องเสริมความแข็งแกร่งให้โครงสร้างพื้นฐานของตน โดยเริ่มจากระดับการพัฒนาซอฟต์แวร์ ปัญหาที่แท้จริงไม่ได้อยู่ที่ความซับซ้อนของ AI แบบเอเจนต์ซึ่งเพิ่มขึ้นเพียงอย่างเดียว แต่อยู่ที่การขาดการตรวจสอบแบบเรียลไทม์และการกำกับดูแลจากมนุษย์อย่างมีประสิทธิภาพ องค์กรควรมุ่งแก้ไขช่องโหว่ด้านบุคลากรและกระบวนการ แทนที่จะมองว่าความเสี่ยงจาก AI เป็นสิ่งที่เทคโนโลยีกำหนดไว้และหลีกเลี่ยงไม่ได้

องค์กรจำนวนมากในอุตสาหกรรมกำลังให้ความสำคัญกับการตรวจสอบและการเฝ้าสังเกตที่ชั้นของโมเดล AI ซึ่งช้าเกินไปไปแล้วหนึ่งชั้น เมื่อถึงตอนนั้น ปัญหาก็ลุกลามออกมาเกินครึ่งทางแล้ว การมองเห็น การตรวจสอบ การเฝ้าสังเกต และการกำกับดูแลต้องเริ่มตรงจุดที่ AI เข้ามาในองค์กรตั้งแต่แรก นั่นคือภายใน SDLC นอกจากนี้ องค์กรต้องมั่นใจว่านักพัฒนาที่ใช้เครื่องมือเขียนโค้ดด้วย AI มีความรู้และทักษะเพียงพอที่จะป้องกันไม่ให้เครื่องมือเหล่านั้นนำข้อบกพร่อง ช่องโหว่ และนิสัยการทำงานที่ไม่ดีเข้าสู่กระบวนการพัฒนาซอฟต์แวร์

ข้อบกพร่องของซอฟต์แวร์ส่วนใหญ่เริ่มต้นขึ้นในขั้นตอนการพัฒนา และหากนักพัฒนาไม่มีทักษะในการเขียนโค้ดอย่างปลอดภัยหรือแก้ไขข้อบกพร่องที่ AI ทำให้เกิดขึ้น ปัญหาก็อาจแพร่กระจายอย่างรวดเร็ว นักพัฒนาจำเป็นต้องมีโปรแกรมฝึกอบรมที่มอบทักษะด้านความปลอดภัยที่จำเป็น พร้อมติดตามความก้าวหน้าทั้งในการเรียนรู้ทักษะเหล่านั้นและการนำไปใช้เป็นประจำในการทำงาน

เมื่อ AI เข้ามามีบทบาทในกระบวนการทำงานขององค์กรอย่างลึกซึ้งยิ่งขึ้น ก็เห็นได้ชัดว่าการตรวจสอบย้อนกลับ การสังเกตการณ์ และการกำกับดูแลด้านความปลอดภัย ทั้งในส่วนของนักพัฒนาและเครื่องมือเขียนโค้ดด้วย AI กลายเป็นมาตรฐานพื้นฐานใหม่สำหรับการสร้างโค้ดที่ปลอดภัยในองค์กร

ภัยคุกคามที่เกิดขึ้นอย่างต่อเนื่องเรียกร้องให้มีการรับมืออย่างต่อเนื่อง

ครั้งหนึ่งเราอาจเคยคิดว่าซอฟต์แวร์ค่อนข้างไม่เป็นอันตราย ทำงานตามที่ได้รับการตั้งโปรแกรมไว้ หากเกิดข้อผิดพลาด ซอฟต์แวร์อาจค้างหรือทำให้ระบบหยุดทำงานชั่วคราว แต่จะไม่หันมาโจมตี AI โดยเฉพาะ AI แบบเอเจนต์ ได้พลิกความคิดเช่นนั้นไปโดยสิ้นเชิง ไม่ว่าจะเป็น AI แบบเอเจนต์หรือ AI ที่ช่วยเหลือนักพัฒนา การทำงานของโมเดล AI ทุกชนิดต้องได้รับการสังเกตการณ์และกำกับดูแลอย่างต่อเนื่อง

ภัยคุกคามจาก AI ที่กำลังเกิดขึ้น ไม่ว่าจะมุ่งโจมตีโรงพยาบาล โรงบำบัดน้ำ โรงไฟฟ้า หรือธุรกิจต่าง ๆ ล้วนเป็นเรื่องที่น่าหวาดหวั่นได้ แต่องค์กรต่าง ๆ ไม่ได้ไร้ทางป้องกัน พวกเขาสามารถนำการกำกับดูแล AI มาใช้ได้ แต่ต้องวางรากฐานตั้งแต่ต้น ด้วยการสร้างวัฒนธรรมที่มุ่งมั่นต่อการพัฒนาซอฟต์แวร์ที่ปลอดภัย และจัดการศึกษาแก่ผู้พัฒนาเพื่อให้บรรลุเป้าหมายนั้น องค์กรต่าง ๆ จะสามารถเพิ่มระดับการสังเกตการณ์ การตรวจสอบย้อนกลับ และการกำกับดูแลที่จำเป็นอย่างยิ่งให้แก่ปัญหาที่อาจเกิดขึ้น ซึ่งหากปล่อยไว้โดยไม่จัดการ ก็จะยิ่งเลวร้ายลงอย่างมาก