ป่าไม้แห่ง AI ที่ซ่อนอยู่: ทำไมการอนุมัติแพลตฟอร์มไม่เหมือนกับการรักษาความปลอดภัยสิ่งที่สร้างขึ้นบนมัน

การนำ AI มาใช้ในองค์กรไม่ใช่เรื่องที่ไม่มีอุปสรรค ความกังวลเกี่ยวกับการควบคุมข้อมูล การปฏิบัติตามกฎระเบียบ และความปลอดภัยได้ตามมาในแต่ละขั้นตอนของการเดินทาง แต่เมื่อองค์กรเพิ่มการดำเนินงานบนแพลตฟอร์มหลักๆ เช่น Microsoft, Salesforce และ ServiceNow มีความรู้สึกที่เพิ่มขึ้นว่าคำถามด้านการกำกับดูแลที่ยากที่สุดได้รับการแก้ไขแล้วบ้าง ข้อตกลงองค์กรได้รับการอนุมัติ การตรวจสอบความปลอดภัยได้รับการดำเนินการแล้ว แพลตฟอร์มได้รับการอนุมัติ

สิ่งที่ความมั่นใจนี้มักจะละเลยคือคำถามที่แตกต่างออกไปโดยสิ้นเชิง: ไม่ใช่ว่าแพลตฟอร์มมีความปลอดภัยหรือไม่ แต่ว่าใครและอะไรที่สร้างขึ้น

ในอุตสาหกรรมต่างๆ การปฏิวัติอย่างเงียบๆ กำลังเกิดขึ้นเมื่อพนักงานที่ไม่ใช่เทคนิคใช้แพลตฟอร์ม AI ขององค์กรเพื่อสร้างตัวแทนอัตโนมัติ การทำงานอัตโนมัติ และแอปพลิเคชันที่เชื่อมต่อข้อมูล ซึ่งมักจะใช้เวลาเพียงไม่กี่นาทีโดยไม่ต้องเขียนโค้ดแม้แต่บรรทัดเดียว เครื่องมือเหล่านี้ไม่เคยได้รับการตรวจสอบจากทีมความปลอดภัย ในหลายกรณี ทีมความปลอดภัยไม่ทราบถึงการมีอยู่ของมันเลย

เครื่องมือเหล่านี้ ไม่ว่าจะถูกจัดประเภทเป็นแอป ตัวแทน หรือการทำงานอัตโนมัติ เป็นส่วนหนึ่งของปัญหาที่กำลังเติบโตที่เรียกว่า Shadow AI และเป็นตัวแทนของการเปลี่ยนแปลงที่สำคัญที่สุดในความเสี่ยงขององค์กรในรอบทศวรรษ เนื่องจากภัยคุกคามได้เคลื่อนเข้ามาข้างในแล้ว

ปัญหา Shadow IT เดิมค่อนข้างตรงไปตรงมา: พนักงานใช้เครื่องมือที่ไม่ได้รับอนุญาตจากภายนอกองค์กร และงานของทีมความปลอดภัยคือการค้นหาและบล็อกมัน Shadow AI คือความท้าทายที่แตกต่างออกไปโดยสิ้นเชิง เครื่องมืออยู่ภายในแพลตฟอร์มที่คุณได้รับอนุมัติแล้ว ผู้สร้างมันคือพนักงานของคุณเอง การเข้าถึงที่พวกเขาใช้คือการเข้าถึงที่ถูกต้อง และไม่มีสิ่งใดผ่านกระบวนการความปลอดภัยที่ออกแบบมาเพื่อจับปัญหาก่อนที่จะเข้าสู่การผลิต

สิ่งที่ทำให้ปัญหานี้ยากที่จะแก้ไขคือขนาด ใหญ่ส่วนใหญ่ผู้นำด้านความปลอดภัยมีการประมาณการอย่างมากว่ามีอะไรถูกสร้างขึ้นภายในสภาพแวดล้อมของตนเอง การวิจัยล่าสุดจาก CISO และผู้นำด้านความปลอดภัยขององค์กรมากกว่า 200 รายพบว่าทีมความปลอดภัยขององค์กรโดยเฉลี่ยสามารถให้รายละเอียดเกี่ยวกับตัวแทน AI, การทำงานอัตโนมัติ และแอปพลิเคชันที่ผู้ใช้ทางธุรกิจสร้างขึ้นได้เพียง 44% ซึ่งไม่ใช่ช่องว่าง แต่เป็นจุดบอดที่ครอบคลุมส่วนใหญ่ของสิ่งที่กำลังทำงาน

สาเหตุเป็นเพราะว่าผู้ใช้ทางธุรกิจมีจำนวนมากกว่านักพัฒนามืออาชีพถึง 10 เท่าในบางองค์กร พวกเขากำลังสร้างอย่างต่อเนื่องในทุกๆ หน่วยงาน บนแพลตฟอร์มที่ออกแบบมาเพื่อให้การสร้างเป็นเรื่องง่าย และได้รับการสนับสนุนจาก C-suite ให้สร้าง ทีมความปลอดภัยมุ่งเน้นไปที่การประมวลผลของนักพัฒน์และคลังโค้ด พวกเขาไม่เคยได้รับการออกแบบมาเพื่อตรวจสอบสิ่งนี้

ความเข้าใจผิดที่พบบ่อยที่สุดคือความเชื่อที่ว่าการอนุมัติแพลตฟอร์มจะแก้ปัญหาด้านความปลอดภัยได้ ไม่ใช่แค่นั้น มันแค่เปลี่ยนไป เมื่อองค์กรลงนามในข้อตกลงกับ Microsoft (MSFT ), Salesforce (CRM ) หรือ UiPath (PATH ) แพลตฟอร์มผู้ให้บริการจะรักษาความปลอดภัยของโครงสร้างพื้นฐาน แต่สิ่งที่พนักงานสร้างขึ้นบนมันและวิธีการตั้งค่าของมันคือความรับผิดชอบขององค์กรโดยสิ้นเชิง

ปัญหาก็คือเครื่องมือที่ผู้ใช้ทางธุรกิจสร้างขึ้นไม่ดูเหมือนซอฟต์แวร์สำหรับระบบความปลอดภัยแบบดั้งเดิม ไม่มีโค้ดให้ตรวจสอบ ไม่มีคลังให้ตรวจสอบ ไม่มีการประมวลผลให้ตรวจสอบ ตัวแทน AI ที่สร้างโดยผู้จัดการฝ่ายทรัพยากรบุคคลผ่านเมนูและคำสั่งป้อนข้อความเป็นเพียงสิ่งที่มองไม่เห็นสำหรับเครื่องมือความปลอดภัยส่วนใหญ่

และเครื่องมือเหล่านี้ไม่ใช่สิ่งที่ไม่สำคัญ การวิจัยพบว่ามากกว่าครึ่งหนึ่งของ CISO ระบุว่าแอปพลิเคชันที่สร้างโดยธุรกิจสนับสนุนกระบวนการทางธุรกิจที่สำคัญและสามารถเข้าถึงข้อมูลที่ละเอียดอ่อนของบริษัทได้ ผลลัพธ์ที่แท้จริงและความไม่สมดุลยังไม่ได้รับการแก้ไข

จากศูนย์ถึงภัยพิบัติ

กรณีการใช้งานมีความหลากหลายและมาจากเกือบทุกๆ หน่วยงาน แม้แต่หน่วยงานที่ไม่เคยเกิดขึ้นในใจของทีมความปลอดภัย

ตัวอย่างเช่น ผู้ประสานงานการตลาดสร้างตัวแทน AI ที่เผยแพร่ต่อสาธารณะบนแพลตฟอร์มที่ได้รับการอนุมัติเพื่อตอบคำถามเกี่ยวกับผลิตภัณฑ์ ในเวลาไม่กี่นาที แอปพลิเคชันกำลังทำงาน แต่เนื่องจากไม่มีการฝึกอบรมด้านความปลอดภัย สองข้อผิดพลาดเล็กๆ ในการกำหนดค่าไม่ได้รับการสังเกตและทำให้ตัวแทน AI มีการเข้าถึงฐานข้อมูลทั้งหมดของบริษัทและไม่มีขอบเขตในการดึงข้อมูล ในการผลิต ผู้ใช้ขอให้ตัวแทน AI ดึงบันทึกพนักงาน มันทำได้ เนื่องจากตัวแทน AI มีความสามารถในการส่งอีเมล ผู้ใช้บอกมันให้ส่งข้อมูลนั้นไปยังที่อยู่ส่วนตัวที่ไม่ใช่ของบริษัท ทั้งกระบวนการนี้ใช้เวลาไม่ถึง 60 วินาที ไม่มีการเข้าถึงที่ไม่ได้รับอนุญาต ไม่มีการละเมิดแพลตฟอร์ม ไม่มีการแจ้งเตือนด้านความปลอดภัย

สิ่งนี้ไม่ใช่การโจมตีที่ซับซ้อน มันเป็นผลลัพธ์ที่คาดการณ์ได้ของพนักงานที่มีเจตนา tốtสร้างสิ่งที่เข้าใจไม่เต็มที่บนแพลตฟอร์มที่ทำให้การสร้างเป็นเรื่องง่ายและการกำกับดูแลเป็นตัวเลือก

ช่องว่างด้านการกำกับดูแลที่ไม่มีการกำหนดราคา

สำหรับองค์กรส่วนใหญ่ ปัญหา Shadow AI ยังคงเป็นเรื่องที่เป็นนามธรรมจนกว่าสิ่งใดสิ่งหนึ่งจะผิดพลาด แต่ความเสี่ยงทางธุรกิจลึกกว่าการตอบสนองต่อการละเมิด

เมื่อตัวแทน AI ที่สร้างโดยธุรกิจรั่วไหลข้อมูลที่ละเอียดอ่อน คำถามที่คณะกรรมการจะถามไม่ใช่ “การกำหนดค่าผิดพลาดเกิดขึ้นได้อย่างไร?” แต่จะถามว่า “ไม่มีใครรู้ว่าตัวแทน AI นี้กำลังทำงานหรือไม่?” พวกเขาจะไม่แยกแยะระหว่างการละเมิดที่เกิดจากผู้โจมตีภายนอกและที่เกิดจากตัวแทน AI ภายในที่มีการกำหนดค่าผิดพลาด หากข้อมูลส่วนบุคคลถูกเปิดเผยและองค์กรไม่มีการมองเห็นในสิ่งที่กำลังทำงาน การไม่มีการกำกับดูแลเป็นตัวแทนของความรับผิดชอบเอง “พนักงานสร้างมันบนแพลตฟอร์มที่ได้รับอนุมัติ” ไม่ใช่การป้องกัน แต่เป็นการอธิบายช่องว่าง

ความเร่งด่วนเป็นเรื่องจริง แต่ความตั้งใจและการดำเนินการไม่ใช่สิ่งเดียวกัน และสำหรับองค์กรส่วนใหญ่ ช่องว่างระหว่างทั้งสองนี้ยังคงเปิดกว้าง

คำตอบไม่ใช่การจำกัดใครที่สามารถสร้างได้ การล็อกการสร้างของพลเมืองจะเสียสละผลผลิตที่แท้จริงและในทางปฏิบัติจะไม่เกิดขึ้น พนักงานจะหาวิธีแก้ปัญหา คำตอบคือการนำสิ่งที่สร้างขึ้นมาให้เห็นและกำกับดูแลมัน ณ จุดที่ความเสี่ยงเกิดขึ้นจริง: ระยะการทำงาน

หมายความว่าเข้าใจไม่เพียงแต่agents ที่มีอยู่เท่านั้น แต่ยังรวมถึงวิธีการทำงานของพวกมัน ข้อมูลที่พวกมันเข้าถึง ระบบที่พวกมันสัมผัส และว่าการกระทำของพวกมันอยู่ภายในขอบเขตที่ผู้สร้างตั้งใจไว้หรือไม่ หมายความว่าการตั้งค่ากำแพงรั้วที่ทำงานที่ระดับองค์กร ไม่ใช่แค่ที่จุดกำหนดค่า และหมายความว่าได้รับการตอบสนองจากระบบความปลอดภัยที่สามารถตอบคำถามพื้นฐานเกี่ยวกับตัวแทนใดๆ ในสภาพแวดล้อมของตน: ใครสร้างมัน, มันเข้าถึงอะไร, และมันทำงานตามที่ออกแบบหรือไม่

องค์กรส่วนใหญ่ไม่สามารถตอบคำถามเหล่านี้ได้ในปัจจุบัน องค์กรที่เข้าถึงจุดนั้นก่อนจะเป็นองค์กรที่สามารถขยายการนำ AI ไปใช้ได้ด้วยความมั่นใจ เพราะพวกเขาจะรู้ว่าพวกเขากำลังทำงานอะไรอยู่