ป่าไม้ AI ที่ซ่อนอยู่: ทำไมการอนุมัติแพลตฟอร์มไม่เหมือนกับการรักษาความปลอดภัยสิ่งที่สร้างขึ้นบนมัน

การนำ AI มาใช้ในองค์กรไม่ใช่เรื่องที่ไม่มีอุปสรรค ความกังวลเกี่ยวกับการควบคุมข้อมูล การปฏิบัติตามกฎระเบียบ และความปลอดภัยได้ตามมาในแต่ละขั้นตอนของการเดินทาง แต่เมื่อองค์กรขยายการดำเนินงานบนแพลตฟอร์มหลักๆ เช่น Microsoft, Salesforce และ ServiceNow มีความรู้สึกที่เพิ่มขึ้นว่าคำถามด้านการกำกับดูแลที่ยากที่สุดได้รับการแก้ไขแล้วบ้าง ข้อตกลงองค์กรได้รับการจัดทำขึ้น การทบทวนความปลอดภัยได้รับการดำเนินการแล้ว แพลตฟอร์มได้รับการอนุมัติ

สิ่งที่ความมั่นใจนี้มองข้ามคือคำถามที่แตกต่างออกไปโดยสิ้นเชิง: ไม่ใช่ว่าแพลตฟอร์มมีความปลอดภัยหรือไม่ แต่ว่าอะไรและใครที่สร้างขึ้น

ทั่วทั้งอุตสาหกรรม การปฏิวัติอย่างเงียบๆ กำลังเกิดขึ้นเมื่อพนักงานที่ไม่ใช่เทคนิคใช้แพลตฟอร์ม AI ขององค์กรเพื่อสร้างตัวแทนอัตโนมัติ การทำงานอัตโนมัติ และแอปพลิเคชันที่เชื่อมต่อกับข้อมูล ซึ่งมักจะใช้เวลาเพียงไม่กี่นาที โดยไม่ต้องเขียนโค้ดเส้นใดๆ เหล่านี้เป็นผลประโยชน์ต่อประสิทธิภาพขององค์กร แต่เครื่องมือเหล่านี้ไม่เคยได้รับการทบทวนจากทีมความปลอดภัย ในหลายกรณี ทีมความปลอดภัยไม่ทราบว่ามัน tồn tạiเลย

เครื่องมือเหล่านี้ ไม่ว่าจะถูกจัดประเภทเป็นแอป ตัวแทน หรือการทำงานอัตโนมัติ เป็นส่วนหนึ่งของปัญหาที่เพิ่มขึ้นเรื่อง Shadow AI ซึ่งเป็นตัวแทนของการเปลี่ยนแปลงที่สำคัญที่สุดในความเสี่ยงขององค์กรในรอบทศวรรษ เนื่องจากภัยคุกคามได้เคลื่อนย้ายเข้ามาข้างในแล้ว

ปัญหา Shadow IT เดิมค่อนข้างตรงไปตรงมา: พนักงานใช้เครื่องมือที่ไม่ได้รับอนุญาตจากภายนอกองค์กร และงานของความปลอดภัยคือการค้นหาและปิดกั้นพวกมัน Shadow AI คือความท้าทายที่แตกต่างออกไปโดยสิ้นเชิง เครื่องมือเหล่านี้อยู่ภายในแพลตฟอร์มที่คุณได้รับอนุมัติแล้ว ผู้สร้างมันคือพนักงานของคุณเอง การเข้าถึงที่พวกเขาใช้คือการเข้าถึงที่ถูกต้อง และไม่มีสิ่งใดผ่านกระบวนการความปลอดภัยที่ออกแบบมาเพื่อจับปัญหาก่อนที่จะเข้าสู่การผลิต

สิ่งที่ทำให้สิ่งนี้ยากที่จะแก้ไขคือขนาด ส่วนใหญ่ของผู้นำด้านความปลอดภัยมีการประมาณการอย่างมากว่ามีอะไรถูกสร้างขึ้นภายในสภาพแวดล้อมของตนเอง การวิจัยล่าสุดจาก CISO และผู้นำด้านความปลอดภัยขององค์กรมากกว่า 200 รายพบว่าทีมความปลอดภัยขององค์กรโดยเฉลี่ยสามารถบัญชีสำหรับเพียง 44% ของตัวแทน AI การทำงานอัตโนมัติ และแอปพลิเคชันที่ผู้ใช้ทางธุรกิจสร้างขึ้น นั่นไม่ใช่ช่องว่าง แต่เป็นจุดบอดที่ครอบคลุมส่วนใหญ่ของสิ่งที่กำลังทำงาน

สาเหตุเป็นเรื่องตรงไปตรงมา: ผู้ใช้ทางธุรกิจมีจำนวนมากกว่านักพัฒนามืออาชีพถึง 10 เท่าในบางองค์กร พวกเขากำลังสร้างอย่างต่อเนื่องทั่วทุกภาคส่วนบนแพลตฟอร์มที่ออกแบบมาเพื่อทำให้การสร้างง่าย และได้รับการสนับสนุนจาก C-suite เพื่อสร้าง ทีมความปลอดภัยมุ่งเน้นไปที่การทำงานของนักพัฒนาและคลังโค้ด พวกเขาไม่ได้รับการออกแบบมาเพื่อตรวจสอบสิ่งนี้

ความเข้าใจผิดที่พบบ่อยที่สุดคือความเชื่อที่ว่าการอนุมัติแพลตฟอร์มจะแก้ปัญหาด้านความปลอดภัยได้ ไม่ใช่เช่นนั้น มันแค่เลื่อนปัญหาไป เมื่อองค์กรเซ็นสัญญากับ Microsoft, Salesforce หรือ UiPath ผู้ให้บริการแพลตฟอร์มจะรักษาความปลอดภัยของโครงสร้างพื้นฐาน แต่สิ่งที่พนักงานสร้างขึ้นบนมันและวิธีการตั้งค่าของพวกเขาเป็นความรับผิดชอบขององค์กรโดยสิ้นเชิง

ปัญหาอยู่ที่เครื่องมือที่ผู้ใช้ทางธุรกิจสร้างขึ้นไม่ดูเหมือนซอฟต์แวร์สำหรับระบบความปลอดภัยแบบดั้งเดิม ไม่มีโค้ดที่จะสแกน ไม่มีคลังที่จะตรวจสอบ ไม่มีการทำงานที่จะตรวจสอบ ตัวแทน AI ที่สร้างโดยผู้จัดการฝ่ายทรัพยากรบุคคลผ่านชุดเมนูและข้อความส่งเสริมการขายเป็นเรื่องที่มองไม่เห็นสำหรับเครื่องมือความปลอดภัยส่วนใหญ่

และเครื่องมือเหล่านี้ไม่ใช่เรื่องเล็กน้อย การวิจัยพบว่ามากกว่าครึ่งหนึ่งของ CISO ยืนยันว่าแอปพลิเคชันที่สร้างโดยธุรกิจสนับสนุนกระบวนการทางธุรกิจที่สำคัญและเข้าถึงข้อมูลที่ละเอียดอ่อนของบริษัท ความเสี่ยงเป็นเรื่องจริง และการกำกับดูแลยังไม่ตามทัน

จากศูนย์ถึงภัยพิบัติ

กรณีการใช้งานมีความหลากหลายและมาจากภาคส่วนต่างๆ รวมทั้งภาคส่วนที่ไม่เคยเกิดขึ้นกับทีมความปลอดภัยมาก่อน

ตัวอย่างเช่น ผู้ประสานงานการตลาดสร้างตัวแทน AI ที่เผยแพร่สู่สาธารณะบนแพลตฟอร์มที่ได้รับการอนุมัติเพื่อตอบคำถามเกี่ยวกับผลิตภัณฑ์ ในเวลาไม่กี่นาที แอปพลิเคชันกำลังทำงาน แต่เนื่องจากไม่มีการฝึกอบรมด้านความปลอดภัย สองข้อผิดพลาดในการตั้งค่าเล็กๆ นั้นไม่ได้รับการสังเกตและปล่อยให้ตัวแทน AI มีการเข้าถึงฐานข้อมูลทั้งหมดของบริษัทและไม่มีขอบเขตในการดึงข้อมูล ในการผลิต ผู้ใช้ขอให้ตัวแทน AI ดึงบันทึกของพนักงาน มันทำได้ และเนื่องจากตัวแทน AI มีความสามารถในการส่งอีเมล ผู้ใช้สั่งให้มันส่งข้อมูลนั้นไปยังที่อยู่ส่วนตัว ทั้งหมดนี้เกิดขึ้นในเวลาไม่ถึง 60 วินาที ไม่มีการเข้าถึงที่ไม่ได้รับอนุญาต ไม่มีการละเมิดแพลตฟอร์ม ไม่มีการเตือนความปลอดภัย

สิ่งนี้ไม่ใช่การโจมตีที่ซับซ้อน มันเป็นผลลัพธ์ที่คาดการณ์ได้ของพนักงานที่มีเจตนา tốtสร้างสิ่งที่เข้าใจไม่สมบูรณ์บนแพลตฟอร์มที่ทำให้การสร้างง่ายและความปลอดภัยเป็นทางเลือก

ช่องว่างการกำกับดูแลที่ไม่มีการกำหนดราคา

สำหรับองค์กรส่วนใหญ่ ปัญหา Shadow AI ยังคงเป็นเรื่อง抽象จนกว่าสิ่งใดจะผิดพลาด แต่ความเสี่ยงทางธุรกิจลึกกว่าการตอบสนองต่อการละเมิด

เมื่อตัวแทน AI ที่สร้างโดยธุรกิจรั่วไหลข้อมูลที่ละเอียดอ่อน คำถามที่คณะกรรมการจะถามไม่ใช่ “การกำหนดค่าผิดพลาดเกิดขึ้นได้อย่างไร?” แต่จะเป็น “ทำไมไม่มีใครรู้ว่าตัวแทน AI นั้นกำลังทำงาน?” พวกเขาไม่ได้แยกแยะระหว่างการละเมิดที่เกิดจากผู้โจมตีภายนอกและที่เกิดจากตัวแทน AI ภายในที่ถูกกำหนดค่าผิด หากข้อมูลส่วนบุคคลถูกเปิดเผยและองค์กรไม่มีการมองเห็นในสิ่งที่กำลังทำงาน การไม่มีการกำกับดูแลนั้นเองเป็นความรับผิด “พนักงานสร้างมันบนแพลตฟอร์มที่ได้รับอนุมัติ” ไม่ใช่การป้องกัน แต่เป็นการอธิบายช่องว่าง

ความเร่งด่วนเป็นเรื่องจริง แต่ความตั้งใจและการดำเนินการไม่ใช่สิ่งเดียวกัน และสำหรับองค์กรส่วนใหญ่ ช่องว่างระหว่างทั้งสองยังคงเปิดกว้าง

คำตอบไม่ใช่การจำกัดใครที่สามารถสร้างได้ การจำกัดการพัฒนาของพลเมืองจะเสียสละผลผลิตที่แท้จริง และในทางปฏิบัติจะไม่เกิดขึ้น พนักงานจะหาวิธีแก้ปัญหาแทน คำตอบคือการนำสิ่งที่ถูกสร้างขึ้นมาให้เห็น และการกำกับดูแลมัน ณ จุดที่ความเสี่ยงเกิดขึ้นจริง: การทำงาน

หมายความว่าเข้าใจไม่เพียงแต่ว่าตัวแทน AI มีอยู่เท่านั้น แต่ยังรวมถึงว่ามันทำงานอย่างไร มันเข้าถึงข้อมูลอะไร มันสัมผัสกับระบบอะไร และว่ามันทำงานภายในขอบเขตที่ผู้สร้างตั้งใจหรือไม่ หมายความว่าการตั้งค่าเครื่องมือที่ทำงานในระดับองค์กร ไม่ใช่แค่ในจุดกำหนดค่า และหมายความว่าได้รับจุดหนึ่งที่ทีมความปลอดภัยสามารถตอบคำถามพื้นฐานเกี่ยวกับตัวแทน AI ใดๆ ในสภาพแวดล้อมของตน: ใครสร้างมัน, มันเข้าถึงอะไร, และมันทำงานตามที่ออกแบบหรือไม่

ส่วนใหญ่ขององค์กรไม่สามารถตอบคำถามเหล่านี้ได้ในปัจจุบัน องค์กรที่ไปถึงจุดนั้นก่อนจะเป็นองค์กรที่สามารถขยายการนำ AI ไปใช้ได้อย่างมั่นใจ เพราะพวกเขาจะรู้ว่าพวกเขากำลังทำงานอะไรอยู่