เหตุใดวันสิ้นโลกจึงเป็นเพียงเรื่องเบี่ยงเบนความสนใจ และความเสี่ยงจาก AI ที่แท้จริงซึ่งเราควรกังวล

หากติดตามข่าวสารจากสื่อใด ๆ ก็คงยากที่จะมองข้ามกระแสตื่นตระหนกที่เพิ่มขึ้นเกี่ยวกับอุตสาหกรรม AI และคำเตือนเรื่องวันสิ้นโลก เรื่องเล่าที่เตือนถึง ‘ความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ’ จากระบบ AI ทำให้บริษัทด้านความมั่นคงปลอดภัยไซเบอร์จำนวนมากพากันตามกระแสและใช้ความกลัวเป็นเครื่องมือขายได้ง่ายเหลือเกิน อย่างไรก็ตาม การมุ่งประเด็นไปที่ ‘วันสิ้นโลก’ เป็นเรื่องที่ผิดทิศทาง เพราะมองข้ามความเสี่ยงที่เกิดขึ้นทันทีจาก AI แบบเอเจนต์ซึ่งองค์กรต่าง ๆ กำลังเผชิญอยู่ในปัจจุบัน

แน่นอนว่า AI เอเจนต์ที่ทำงานโดยเป็นอิสระจากการควบคุมขององค์กรย่อมก่อให้เกิดความเสี่ยงอย่างชัดเจน เมื่อไม่นานมานี้ มีรายงานจากออสเตรเลียและสหรัฐฯที่พบว่า AI เอเจนต์ของ OpenAI ทำงานเกินขอบเขตภารกิจบนระบบรัฐบาลในทั้งสองประเทศ

อย่างไรก็ตาม ภัยจากสถานการณ์วันสิ้นโลกที่เกิดจาก AI นั้นถูกกล่าวเกินจริง แทนที่จะหมกมุ่นอยู่กับเรื่องสมมติ องค์กรต่าง ๆ ต้องเผชิญกับความเป็นจริงใหม่นี้ และทำให้มั่นใจว่ามีมาตรการป้องกันแบบกำหนดผลลัพธ์แน่นอนเพื่อรักษาความยืดหยุ่นในการดำเนินงาน

อินเทอร์เน็ตไม่มีสวิตช์ปิดเพียงจุดเดียว

ผู้ที่เชื่อเรื่องเล่าวันสิ้นโลกมองว่า เมื่อ AI มีความซับซ้อนและขยายขอบเขตการทำงานมากขึ้น ก็อาจกลายเป็น ‘สวิตช์สังหาร’ ที่รวมศูนย์อยู่จุดเดียว ซึ่งเป็นจุดเดียวที่ใครบางคนอาจเข้าควบคุมได้ทั้งหมดและก่อให้เกิดหายนะ

อย่างไรก็ตาม อินเทอร์เน็ตมีการกระจายตัวและความหลากหลายมากกว่าที่ทฤษฎีสวิตช์สังหารตั้งสมมติฐานไว้มาก อินเทอร์เน็ตทำงานในลักษณะของ ‘เครือข่ายของเครือข่าย’ ซึ่งประกอบด้วยองค์ประกอบนับพันล้านชิ้นที่ซ้อนกันอยู่ในสถาปัตยกรรมรูปแบบต่าง ๆ และได้รับการปกป้องโดยทีมปฏิบัติการนับไม่ถ้วนที่ใช้มาตรฐานและเครื่องมือแตกต่างกัน จึงไม่มีสวิตช์เพียงตัวเดียวที่ใครก็ตาม ไม่ว่าจะเป็นมนุษย์หรือเครื่องจักร จะพลิกได้ และไม่มีช่องโหว่เพียงจุดเดียวหรือห่วงโซ่ช่องโหว่ที่สามารถใช้ประโยชน์เพื่อก่อให้เกิดผลร้ายแรงถึงขั้นนี้ได้

แนวคิดที่ว่า AI อาจสร้างและปล่อยเชื้อก่อโรคที่ผ่านการดัดแปลงพันธุกรรม หรือเจาะเข้าสู่ระบบนิวเคลียร์ที่แยกขาดจากเครือข่าย อาจเป็นเรื่องชวนติดตามบนจอภาพยนตร์ แต่ก็ยังห่างไกลจากสถานการณ์ที่น่าเชื่อถือสำหรับการประเมินภัยคุกคามในการปฏิบัติงาน

เมื่อมองไม่เห็น ก็ยากจะควบคุม

ขณะที่ AI แบบเอเจนต์พัฒนาอย่างต่อเนื่อง มีปัจจัยสองประการที่เปลี่ยนแปลงธรรมชาติของความเสี่ยงในองค์กรไปอย่างสิ้นเชิง

ในด้านหนึ่ง ปัจจุบัน AI ช่วยให้ผู้ไม่หวังดีค้นหาและใช้ประโยชน์จากช่องโหว่ทางไซเบอร์ได้ในเวลาไม่กี่นาทีแทนที่จะเป็นหลายเดือน เมื่อระบบป้องกัน AI ที่อาศัยความน่าจะเป็นตรวจพบกิจกรรมที่น่าสงสัย ก็มักสายเกินไปที่จะรับมือกับภัยคุกคามแล้ว เนื่องจากระบบเหล่านี้ทำงานโดยอาศัยความน่าจะเป็นทางสถิติ ไม่ใช่กฎตายตัว แม้แต่ระบบที่ดีที่สุดก็ยังตรวจไม่พบกิจกรรมที่เป็นอันตรายบางอย่าง และผู้โจมตีต้องเล็ดลอดผ่านไปให้ได้เพียงครั้งเดียว

ในอีกด้านหนึ่ง การที่พนักงานใช้ “AI เงา” ทำให้ยากขึ้นมากที่จะรู้ว่าต้องปกป้องอะไร ผลสำรวจของ Cloud Security Alliance พบว่า องค์กรถึง 82% ตรวจพบเอเจนต์ AI ที่ทีมรักษาความปลอดภัยหรือไอทีไม่รู้ว่ากำลังทำงานอยู่ในช่วงปีที่ผ่านมา ทั้งที่ 68% รายงานว่ามั่นใจอย่างมากว่ามองเห็นการทำงานของเอเจนต์ได้ อีกด้านหนึ่ง EY พบว่า หนึ่งในสี่ของบริษัทขนาดใหญ่ในสหรัฐฯ ที่ใช้ AI แบบเอเจนต์ ยอมรับว่าไม่สามารถตรวจจับเอเจนต์ที่ไม่ได้รับอนุญาตซึ่งทำงานอยู่ภายในองค์กรได้

แน่นอนว่า การเปลี่ยนแปลงทั้งสองประการสร้างแรงกดดันอย่างมากต่อการดำเนินงานของระบบองค์กร เมื่อเกิดขึ้นพร้อมกัน องค์กรจะเสียเปรียบอย่างยิ่ง เพราะระบุและแก้ไขช่องโหว่ที่เปิดให้โจมตีได้ช้าเกินไป อีกทั้งยังไม่รู้ด้วยซ้ำว่าระบบใดกำลังเปิดให้โจมตี

ควบคุมสิ่งที่ควบคุมได้

องค์กรจำเป็นต้องมีบัญชีรายการแบบเรียลไทม์ของเอเจนต์ทุกตัวที่ทำงานอยู่ภายในองค์กร ไม่ว่าจะได้รับอนุญาตหรือไม่ โดยระบุผู้รับผิดชอบของแต่ละตัวอย่างชัดเจน พร้อมกำหนดขอบเขตให้แน่นอนว่าเอเจนต์แต่ละตัวเข้าถึงและทำอะไรได้บ้าง นี่คือก้าวแรกในการควบคุม ‘สิ่งที่ควบคุมได้’ เพราะแม้แบบจำลอง AI อาจทำงานโดยอาศัยความน่าจะเป็น แต่มาตรการควบคุมที่กำหนดไว้รอบแบบจำลองเหล่านั้นสามารถให้ผลแน่นอน เป็นกฎตายตัว และระบุได้อย่างชัดเจน

ในทางปฏิบัติ หมายความว่าเมื่อใดก็ตามที่เอเจนต์เสนอให้ดำเนินการ ชั้นบังคับใช้มาตรการควบคุมที่แยกต่างหากและเป็นอิสระจากตัวโมเดลจะต้องตรวจสอบว่าการดำเนินการนั้นได้รับอนุญาตหรือไม่ และจัดเก็บบันทึกการตรวจสอบไว้ อย่างไรก็ตาม มีองค์กรเพียง 11% ที่บล็อกการดำเนินการของเอเจนต์โดยอัตโนมัติเมื่อเกินขอบเขตที่กำหนด ส่วนใหญ่อาศัยการอนุมัติจากมนุษย์หรือเพียงบันทึกการดำเนินการไว้ เหตุการณ์ในออสเตรเลียแสดงให้เห็นถึงต้นทุนของการพึ่งพาระบบเป้าหมายให้เป็นฝ่ายปฏิเสธ กล่าวคือ เมื่อถูกปฏิเสธการเข้าถึง เอเจนต์ก็หาทางเข้าไปได้อีกทางหนึ่ง สถาปัตยกรรมการกำกับดูแลโดยรวมยังต้องสามารถระบุ อนุญาต และตรวจสอบเอเจนต์ทั้งหมดได้อย่างต่อเนื่อง เพื่อป้องกันไม่ให้ความเสี่ยงด้านปฏิบัติการที่ไม่คาดคิดเกิดขึ้น ทั้งหมดนี้ต้องดำเนินการอย่างรวดเร็ว เพราะการโจมตีที่เคลื่อนที่ด้วยความเร็วระดับเครื่องจักรจำเป็นต้องมีกฎที่ทำงานได้รวดเร็วระดับเดียวกัน

เปลี่ยนจากความกลัวเรื่องสมมติไปสู่การแก้ปัญหาในทางปฏิบัติ

แม้รายงานเกี่ยวกับวันสิ้นโลกที่เกิดจากระบบ AI อัตโนมัติจะชวนให้คล้อยตามเพียงใด แต่ก็ห่างไกลจากความเป็นจริงมาก ความเสี่ยงที่ควรกังวลนั้นธรรมดากว่า AI ที่ตัดสินใจทำลายล้างมนุษยชาติมาก นั่นคือเอเจนต์ที่ทำงานอยู่ภายในธุรกิจของคุณได้เร็วจนไม่มีใครมองเห็น และมีสิทธิ์เข้าถึงที่ไม่มีใครอนุญาตให้

ปัญหาด้านความเร็วและการมองเห็นการทำงานสามารถแก้ไขได้ทั้งคู่ ตราบใดที่ระบบรักษาความปลอดภัยที่กำกับดูแล AI ทำงานตามกฎที่แน่นอน และสามารถตรวจสอบและติดตามเอเจนต์ทุกตัวได้อย่างแม่นยำด้วยความเร็วเท่ากับที่เอเจนต์ทำงาน

สำหรับคณะกรรมการและผู้นำด้านความปลอดภัย คำถามเชิงปฏิบัติมีอยู่สามข้อ ได้แก่ เรารู้จักเอเจนต์ทุกตัวที่ทำงานอยู่ในสภาพแวดล้อมของเราหรือไม่ เอเจนต์แต่ละตัวมีผู้รับผิดชอบและขอบเขตที่กำหนดไว้อย่างชัดเจนหรือไม่ และเราหยุดการกระทำที่ไม่ได้รับอนุญาตได้ก่อนที่จะเกิดขึ้นหรือไม่ การช่วยลูกค้าปิดช่องว่างเชิงปฏิบัติเหล่านี้คือสิ่งที่ผู้ให้บริการด้านความมั่นคงปลอดภัยไซเบอร์สามารถทำเพื่อเสริมสร้างความยืดหยุ่นได้มากกว่าการขายความกลัวเกี่ยวกับอนาคตที่เป็นเพียงสมมติฐาน