ความเสี่ยงซ่อนเร้นที่ไม่เคยเห็นของ Shadow AI

ทีมงานองค์กรส่วนใหญ่ไม่ได้วางแผนให้ AI เข้ามาควบคุมการทำงานของพวกเขา มันเริ่มต้นด้วยเครื่องมือที่ง่ายๆ ที่สัญญาว่าจะทำให้การเขียนเร็วขึ้น การประชุมเร็วขึ้น และการวิเคราะห์ลูกค้าได้ดีขึ้น พนักงานติดตั้ง AI ที่ช่วยเหลือ ในเบราว์เซอร์ของตน เชื่อมต่อกับอีเมล เพิ่มลงใน Zoom และทดลองใช้กับ Slack และ Google Workspace

แต่การทดลองในตอนแรกนั้นเคลื่อนที่เร็วกว่าการควบคุมขององค์กรและแพร่กระจายไปทั่วระบบ SaaS ที่ควบคุมองค์กรทั้งหมด จนกระทั่ง AI ถูกผสมผสานเข้ากับการทำงานประจำวัน และนั่นคือวิธีที่ Shadow AI ซึ่งเป็นหนึ่งในความเสี่ยงที่ถูกมองข้ามมากที่สุดในองค์กรสมัยใหม่เกิดขึ้น มันเติบโตขึ้นภายในองค์กรส่วนใหญ่ ก่อนที่ผู้นำจะรับรู้ว่ามันเชื่อมโยงกับข้อมูลที่มีความสำคัญ

Shadow AI หมายถึงเครื่องมือ AI ที่ทำงานภายในองค์กรโดยไม่ได้รับการอนุมัติ โดยไม่มีการตรวจสอบ และมักจะไม่มีการป้องกัน เมื่อเครื่องมือเหล่านี้เชื่อมต่อกับแพลตฟอร์ม เช่น Salesforce, Zoom หรือ Microsoft 365 พวกมันจะได้รับข้อมูลที่ผู้นำคิดว่าปลอดภัย อันตรายนี้已经แสดงตัวในความล้มเหลวของการปฏิบัติตามกฎระเบียบ การไหลของข้อมูลที่ไม่ได้รับการตรวจสอบ และเหตุการณ์ที่ตัวแทน AI ทำการกระทำที่ไม่คาดคิด

เราทำงานร่วมกับบริษัทที่เชื่อว่ามีโปรแกรมความปลอดภัยที่แข็งแกร่ง แต่เมื่อเราช่วยพวกเขาตรวจสอบสภาพแวดล้อม SaaS พวกเขาพบการเชื่อมต่อ AI ที่ไม่ได้รับอนุมัติมากกว่า 100 รายการ บางส่วนของการเชื่อมต่อนั้นใช้งานมาหลายเดือน ในขณะที่บางส่วนเป็นของพนักงานที่ออกจากบริษัทไปแล้ว Shadow AI เติบโตอย่างเงียบๆ เพราะมันเคลื่อนที่เร็วกว่าการกำกับดูแลและเร็วกว่าองค์กรส่วนใหญ่ที่ตั้งค่าไว้เพื่อตรวจจับ

การขนส่งข้อมูลที่ไม่เห็น

เรื่องราวมักจะเริ่มต้นด้วยความตั้งใจที่ดี: ตัวแทนขายที่ต้องการเขียนอีเมลที่ดีขึ้น หรือผู้จัดการความสำเร็จของลูกค้าที่ต้องการการถอดความของการประชุมที่สำคัญ หรือวิศวกรที่ต้องการวิธีการทบทวนโค้ดที่เร็วขึ้น เครื่องมือ AI ทำให้การทำงานเหล่านี้ง่ายขึ้น ดังนั้นพนักงานจึงนำมาใช้อย่างรวดเร็ว แต่การนำมาใช้นั้นเป็นเพียงขั้นตอนแรกเท่านั้น

เครื่องมือเหล่านี้ต้องการการอนุญาตที่กว้างขวางผ่าน OAuth เบราว์เซอร์ 익ステนชั่น หรือคีย์ API เมื่อมีการอนุญาตแล้ว พวกมันจะได้รับข้อมูลจาก CRM, หมายเหตุของลูกค้า, ข้อความภายใน หรือโค้ดซอร์สที่มีความลับ

เราทำงานร่วมกับบริษัทที่เชื่อว่ามีโปรแกรมความปลอดภัยที่แข็งแกร่ง แต่เมื่อเราช่วยพวกเขาตรวจสอบสภาพแวดล้อม SaaS พวกเขาพบการเชื่อมต่อ AI ที่ไม่ได้รับอนุมัติมากกว่า 100 รายการ บางส่วนของการเชื่อมต่อนั้นใช้งานมาหลายเดือน ในขณะที่บางส่วนเป็นของพนักงานที่ออกจากบริษัทไปแล้ว Shadow AI เติบโตอย่างเงียบๆ เพราะมันเคลื่อนที่เร็วกว่าการกำกับดูแลและเร็วกว่าองค์กรส่วนใหญ่ที่ตั้งค่าไว้เพื่อตรวจจับ

ในกรณีหนึ่ง ทีมงานพบว่า AI ที่เชื่อมต่อกับ Salesforce สร้างรายงานมากกว่า 400 รายการในช่วงสุดสัปดาห์ ในตอนแรก ทุกคนคิดว่ามันเป็นข้อผิดพลาดของระบบ แต่ AI ได้รับการเข้าถึงข้อมูลอย่างกว้างขวาง มันเริ่มทำงานอัตโนมัติในระดับที่วิเคราะห์ไม่เคยพยายามทำมาก่อน ข้อมูลการขายและการคาดการณ์ของลูกค้าปรากฏในสถานที่ที่ไม่ควรปรากฏเลย เพียงเพราะ AI ตัดสินใจที่จะกระทำการ

อีกองค์กรหนึ่งใช้บริการถอดความ AI เพื่อช่วยทีมที่ติดต่อลูกค้า มันบันทึกการประชุมทุกครั้งและรวบรวมข้อมูลเกี่ยวกับราคา ปัญหา củaลูกค้า แผนการในอนาคต และข้อมูลเกี่ยวกับคู่แข่ง ทั้งหมดนี้ถูกส่งตรงไปยังระบบของบุคคลที่สามโดยไม่มีข้อตกลงหรือการตรวจสอบว่าข้อมูลถูกเก็บหรือใช้อย่างไร สถานการณ์เช่นนี้เกิดขึ้นบ่อยขึ้นเพราะเครื่องมือ AI มีพฤติกรรมแตกต่างจากซอฟต์แวร์แบบดั้งเดิม มันสามารถอ่านข้อมูลได้มากขึ้นและเคลื่อนที่เร็วกว่า และมักจะกระทำการโดยไม่มีขอบเขตที่ชัดเจน

เมื่อการนำ AI มาใช้เร็วขึ้น พื้นที่โจมตีจะยังคงกว้างขึ้น การเพิ่มขึ้นของ Model Context Protocol ทำให้ AI มีพลังมากขึ้นโดยการอนุญาตให้ตัวแทน AI ติดต่อกับข้อมูลขององค์กรโดยตรง แต่นั่นก็เปิดโอกาสให้เกิดการโจมตีแบบ Supply Chain และการเพิ่มข้อมูลสิทธิ์

ผู้บริหารจะต้องเข้าใจว่า AI สมัยใหม่ไม่เข้ากับโมเดลความปลอดภัยแบบเก่าที่บริษัทยังคงใช้อยู่ เนื่องจากเครื่องมือ AI เหล่านี้อาศัยอยู่ภายในระบบของคุณ ไม่ใช่อยู่ที่ขอบเขต ทำให้พวกมันยากที่จะตรวจจับและยากที่จะจัดการ

ข้อจำกัดของเครื่องมือความปลอดภัยแบบดั้งเดิม

โปรแกรมความปลอดภัยส่วนใหญ่ถูกสร้างขึ้นสำหรับโลกที่แอปพลิเคชันทำงานภายในเครือข่ายขององค์กรและผู้ใช้เชื่อมต่อผ่านรูปแบบที่คาดการณ์ได้ แต่ AI ได้ทำลายโมเดลนี้ เครื่องมือสมัยใหม่อาศัยอยู่ภายในแพลตฟอร์ม SaaS ไม่ใช่บนเซิร์ฟเวอร์ขององค์กร พวกมันสื่อสารผ่าน API ไม่ใช่เครือข่าย พวกมันอ่านและเขียนข้อมูลอย่างต่อเนื่อง และมีพฤติกรรมที่ระบบตรวจสอบแบบเก่าไม่สามารถตีความได้

ประสบการณ์ของเราบอกเราว่าองค์กรหลายแห่งมักจะประเมินจำนวนเครื่องมือ AI ที่อยู่ในสภาพแวดล้อมของตนเองต่ำเกินไป มีหลายแห่งที่ไม่รู้ว่าการเชื่อมต่อใดที่กำลังทำงานหรือมีการอนุญาตมานานแค่ไหน บางแห่งคิดว่าการเข้าสู่ระบบแบบเดียวหรือกฎไฟร์วอลล์เป็นเพียงพอ แต่มันไม่เพียงพอ Shadow AI เจริญเติบโตในระบบอัตลักษณ์ ชั้นการอนุญาต และการรวมระบบของบุคคลที่สามที่ทีมความปลอดภัยไม่ค่อยตรวจสอบ มันซ่อนอยู่ในสถานที่ที่บริษัทไม่ค่อยมองหา และในเครื่องมือที่พนักงานติดตั้งเพราะต้องการเคลื่อนที่เร็วขึ้น

การเปลี่ยนแปลงไปสู่ AI ที่ฝังตัวทำให้งานนี้ยากขึ้น แพลตฟอร์ม เช่น Microsoft 365, Google Workspace, Slack และ Salesforce มี AI ที่ฝังตัวอยู่แล้ว บางส่วนถูกเปิดใช้งานโดยค่าเริ่มต้น ในขณะที่บางส่วนสามารถเปิดใช้งานได้ด้วยการคลิกเพียงครั้งเดียว องค์กรอาจกำลังใช้ฟีเจอร์ AI เหล่านี้โดยไม่ตระหนักว่าข้อมูลใดที่ฟีเจอร์เหล่านี้ใช้หรือระบบเหล่านี้จัดเก็บข้อมูลอย่างไร ความเสี่ยงไม่เพียงแต่มาจากสิ่งที่พนักงานเพิ่มเข้ามา แต่ยังมาจากสิ่งที่ผู้ขายนำเข้ามาด้วย

การควบคุมกลับ

Shadow AI ไม่ควรถูกมองว่าเป็นความล้มเหลวของพนักงาน แต่เป็นผลลัพธ์ตามธรรมชาติของความก้าวหน้าทางเทคนิคที่รวดเร็ว ผู้นำต้องการการมองเห็น ไม่ใช่การตำหนิ ขั้นตอนแรกคือการถือว่า Shadow AI มีอยู่แล้วและเริ่มทำแผนที่ว่า AI ติดต่อกับระบบสำคัญใดบ้าง ขั้นตอนที่สองคือการสร้างชุดเครื่องมือ AI ที่ได้รับอนุมัติเพื่อให้ทีมสามารถสร้างนวัตกรรมได้อย่างปลอดภัย การปิดกั้น AI ไม่ใช่เรื่องสมจริง และการให้ตัวเลือกที่ปลอดภัยเป็นทางเดียวที่ยั่งยืน

การตรวจสอบแบบเรียลไทม์เป็นสิ่งจำเป็น การทบทวนรายไตรมาสไม่สามารถตามทันเครื่องมือที่สามารถส่งออกข้อมูลภายในไม่กี่ชั่วโมง องค์กรต้องการการมองเห็นอย่างต่อเนื่องเกี่ยวกับเครื่องมือ AI ใดที่กำลังทำงานอยู่ สิทธิ์การเข้าถึงใดที่พวกมันถืออยู่ และสิทธิ์เหล่านั้นสอดคล้องกับการเข้าถึงแบบมีสิทธิ์น้อยที่สุดหรือไม่ เมื่อเราทำงานร่วมกับทีมผู้บริหาร เราแนะนำให้พวกเขาตั้งคำถามโดยตรง: เครื่องมือใดที่เข้าถึงระบบของลูกค้า, เครื่องมือใดที่เชื่อมต่อกับสภาพแวดล้อมการผลิต และเครื่องมือใดที่ยังคงทำงานหลังจากผู้ใช้ออกเดินทาง

เราทำงานร่วมกับองค์กรที่เปลี่ยนความสับสนให้เป็นความชัดเจน เมื่อผู้นำเห็นว่า AI กำลังทำงานภายในระบบของตน พวกเขาสามารถวางขอบเขตที่เหมาะสมและให้ทีมใช้ AI ได้อย่างปลอดภัย นั่นคือเมื่อ AI หยุดเป็นความเสี่ยงและเริ่มเป็นข้อได้เปรียบจริงๆ

Shadow AI ไม่ใช่สิ่งที่จะเกิดขึ้นในอนาคต มันอยู่ที่นี่แล้ว แต่องค์กรที่จัดการกับมันก่อนที่จะเติบโตเป็นวิกฤตจะนำหน้าในยุค AI