ส่องแสงสว่างไปที่ Shadow AI

ทั่วทั้งอุตสาหกรรม ผู้ปฏิบัติงานกำลังใช้เครื่องมือปัญญาประดิษฐ์ (AI) เพื่อเปลี่ยนแปลงการดำเนินงานประจำวัน ไม่ว่าจะเป็นผู้เชี่ยวชาญด้านการตลาดที่ใช้ ChatGPT ในการสร้างแคมเปญหรือนักพัฒนาซอฟต์แวร์ที่เขียนโค้ดด้วยเครื่องมือสร้างสรรค์ AI กำลังรวมเข้ากับทุกด้านของธุรกิจอย่างเงียบๆ ในความเป็นจริง MIT’s Project NANDA พบว่าในองค์กรมากกว่า 90% พนักงานกำลังใช้บัญชีแชทบอทส่วนตัวเพื่อสนับสนุนการทำงานประจำวันของตน โดยมักจะไม่มีการกำกับดูแลจากฝ่ายไอที อย่างไรก็ตาม มีเพียง 40% ของบริษัทที่มีการสมัครใช้บริการเครื่องมือแบบจำลองภาษาขนาดใหญ่ (LLM) อย่างเป็นทางการ ซึ่งสร้างช่องว่างระหว่างการใช้ AI ที่ได้รับอนุญาตและใช้ AI อย่างลับๆ ทำให้เกิดจุดบอดด้านความปลอดภัยใหม่ๆ : shadow AI. 

หากไม่มีการกำกับดูแล ข้อมูลที่ละเอียดอ่อนอาจถูกแชร์กับโมเดลภายนอก ผลลัพธ์อาจไม่ถูกต้องหรือมีอคติ และทีมด้านการปฏิบัติตามกฎระเบียบจะสูญเสียความสามารถในการมองเห็นถึงวิธีการและที่ที่ข้อมูลถูกประมวลผล เมื่อพนักงานยังคงทดลองใช้เครื่องมือภายนอกช่องทางที่ได้รับอนุญาต องค์กรต้องคิดใหม่ว่าจะจัดการ AI อย่างไร หรือความเสี่ยงเหล่านี้จะยังคงเพิ่มขึ้น สำหรับ CIO การห้ามใช้เครื่องมือ AI ทั้งหมดไม่ใช่วิธีแก้ปัญหา เนื่องจากอาจส่งผลกระทบต่อความสามารถในการแข่งขัน แทนที่จะเน้นไปที่การสร้างรั้วที่ยืดหยุ่นเพื่อสร้างสมดุลระหว่างนวัตกรรมและจัดการความเสี่ยงอย่างมีความรับผิดชอบ

เพื่ออยู่หน้าความเสี่ยงที่เกี่ยวข้องกับ AI องค์กรควรสร้างนโยบาย AI ที่ส่งเสริมการนำไปใช้อย่างมีความรับผิดชอบ นโยบายเหล่านี้ควรกระตุ้นให้พนักงานใช้ AI ในขอบเขตที่เหมาะสม และนโยบายใดๆ ที่กำหนดจะต้องสอดคล้องกับค่านิยมและความต้องการด้านความเสี่ยงของบริษัท เพื่อให้ได้ผลลัพธ์ที่สำเร็จ องค์กรต้องข้ามผ่านรูปแบบการกำกับดูแลที่ล้าสมัยและเครื่องมือที่เก่าแก่ซึ่งไม่สามารถตรวจจับหรือติดตามการใช้ AI ทั่วทั้งธุรกิจ

แม้ว่าการสร้างนโยบาย AI จะเป็นขั้นตอนที่สำคัญ จุดสำคัญคือการทำให้แน่ใจว่านโยบายเหล่านั้นถูกออกแบบมาเพื่อเป็นไปได้ ใช้ได้จริง และสอดคล้องกับวิสัยทัศน์เชิงนวัตกรรมและความต้องการด้านการปฏิบัติตามกฎระเบียบของธุรกิจแต่ละแห่ง โดยไม่ขัดขวางความก้าวหน้า

มี 4 ขั้นตอนที่องค์กรสามารถทำได้:

1. กำหนดเฟรมเวิร์กที่ดีที่สุด

ธุรกิจไม่จำเป็นต้องเริ่มต้นจากศูนย์ สถาบันที่มีชื่อเสียงหลายแห่งได้พัฒนาเฟรมเวิร์กแล้ว ซึ่งให้ข้อมูลอ้างอิงที่มีค่า ทรัพยากรจากองค์การเพื่อความร่วมมือและพัฒนาเศรษฐกิจ (OECD), สถาบันมาตรฐานแห่งชาติ (NIST), และ ISO/IEC สามารถให้คำแนะนำเกี่ยวกับการจัดการ AI อย่างปลอดภัยและมีประสิทธิภาพ นอกจากนี้ รัฐบาลเริ่มเข้ามามีบทบาทด้วย กฎระเบียบใหม่จากสหภาพยุโรป (EU) กำหนดความคาดหวังเกี่ยวกับการโปร่งใส ความรับผิดชอบ และการกำกับดูแล ร่วมกัน ทรัพยากรเหล่านี้จะช่วยให้บริษัทมีพื้นฐานที่แข็งแกร่งในการสร้างและปรับปรุงเฟรมเวิร์กของตนเองเพื่อชี้นำการใช้ AI อย่างมีความรับผิดชอบ

2. เพิ่มการมองเห็น AI

เมื่อองค์กรวางแผนเพื่อจัดการความเสี่ยงของ AI อย่างมีประสิทธิภาพ ผู้นำด้านความปลอดภัยจำเป็นต้องมีความเข้าใจที่ชัดเจนเกี่ยวกับวิธีการใช้ AI ในธุรกิจของตน พวกเขาควรลงทุนในเครื่องมือที่ช่วยให้มองเห็นกิจกรรมทั่วทั้งฟังก์ชัน เครื่องมือเหล่านี้สามารถติดตามและเข้าถึงพฤติกรรมของผู้ใช้ และจะไม่ปล่อยให้ Generative AI ถูกใช้โดยไม่มีการตรวจสอบ ซึ่งเป็นสิ่งสำคัญในการค้นหาการใช้ AI ที่ไม่ได้รับอนุญาต และช่วยให้ผู้นำสามารถประเมินความเสี่ยงและจัดการกับมัน

3. ก่อตั้งสภา AI

เมื่อมีการมองเห็นแล้ว ผู้นำด้านความปลอดภัยสามารถใช้ข้อมูลนั้นในการแจ้งนโยบายใหม่ๆ เนื่องจากการใช้ AI ส่งผลกระทบต่อทั้งธุรกิจ พวกเขาจึงไม่ควรแยกตัวในการตัดสินใจ CISO ควรพิจารณาก่อตั้งสภา AI ที่รวบรวมผู้มีส่วนได้ส่วนเสียหลักจากด้านความปลอดภัย กฎหมาย ไอที และ C-Suite ในความเป็นจริง Gartner รายงานว่า 55% ขององค์กรได้ก่อตั้งกระดาน AI แล้ว ในขณะที่ 54% มีการแต่งตั้งหัวหน้า AI หรือผู้นำ AI ที่มีหน้าที่ดูแลกลยุทธ์และการนำไปใช้

กลุ่มเหล่านี้สามารถประเมินความเสี่ยงและโอกาสที่นำเสนอโดยเครื่องมือ AI ทั้งที่ได้รับอนุญาตและไม่ได้รับอนุญาตที่เริ่มเข้ามาในธุรกิจของตน จากนั้นพวกเขาสามารถสร้างนโยบายใหม่ๆ ร่วมกันที่ตอบสนองความต้องการของธุรกิจและสร้างสมดุลระหว่างความเสี่ยง

ตัวอย่างเช่น หากสภาได้ระบุเครื่องมือ AI ที่ได้รับความนิยมซึ่งถูกใช้โดยไม่ได้รับอนุมัติและทำให้เกิดความกังวลด้านความปลอดภัย พวกเขาสามารถแนะนำการห้ามใช้แอปพลิเคชันนั้น ในขณะที่อนุมัติทางเลือกที่ปลอดภัยยิ่งขึ้น นโยบายเหล่านี้ควรได้รับการสนับสนุนจากการลงทุนในระบบควบคุมด้านความปลอดภัยและแพลตฟอร์ม AI ที่ได้รับอนุมัติซึ่งตรงตามมาตรฐานการปฏิบัติตามกฎระเบียบ เมื่อมีการพัฒนาใหม่ๆ เข้าสู่ตลาด สภายังสามารถแนะนำกระบวนการอย่างเป็นทางการสำหรับพนักงานในการเสนอเครื่องมือสำหรับการตรวจสอบ ซึ่งช่วยให้องค์กรมีความยืดหยุ่นและปฏิบัติตามกลยุทธ์ AI

4. เสริมสร้างการศึกษาด้าน AI

การให้การศึกษาและสร้างความตระหนักแก่พนักงานเกี่ยวกับ AI จะเป็นส่วนสำคัญในการรับประกันการยอมรับและการลดการใช้ AI ที่ไม่ได้รับอนุญาตทั่วทั้งองค์กร แม้ว่าจะมีรูปแบบการกำกับดูแลที่เหมาะสมแล้ว ความสำเร็จขึ้นอยู่กับว่าพนักงานเข้าใจและยอมรับนโยบายเหล่านี้ได้ดีเพียงใด

ในผลสำรวจของ Pew Research พบว่าในหมู่ผู้ปฏิบัติงานที่ได้รับการฝึกอบรมบนงาน (51%) มีเพียงหนึ่งในสี่ (24%) ที่กล่าวว่าการฝึกอบรมนั้นเกี่ยวข้องกับการใช้ AI องค์กรควรแน่ใจว่ามีโปรแกรมฝึกอบรม AI ที่มีอยู่ ซึ่งสามารถช่วยให้พนักงานเข้าใจโอกาสและฟังก์ชันการทำงานที่มีให้ การเพิ่มทักษะสามารถช่วยให้พวกเขาเติบโตในอาชีพและรู้สึกพึงพอใจมากขึ้นในตำแหน่งของตน

โปรแกรมฝึกอบรม AI ควรมุ่งเน้นไปไกลกว่าการใช้งานพื้นฐานและการปฏิบัติตามกฎระเบียบ เพื่อช่วยให้ทีมเข้าใจบริบทที่กว้างขึ้นของ AI และวิธีการทำงานในระบบนิเวศของธุรกิจของตน หัวข้อที่ควรครอบคลุม ได้แก่ ทำไมการใช้ AI อย่างมีความรับผิดชอบจึงสำคัญ นโยบายใดที่มีอยู่เพื่อปกป้องทั้งธุรกิจและลูกค้า และวิธีการระบุความเสี่ยงในการจัดการข้อมูลหรือความเป็นส่วนตัว เมื่อพนักงานมีความรู้ที่เหมาะสม พวกเขาจะได้รับการสนับสนุนให้เป็นพันธมิตรที่มีประสิทธิภาพในการสร้างสรรค์นวัตกรรมอย่างปลอดภัย

การ塑造อนาคตของ AI ที่มีความรับผิดชอบ 

Shadow AI ไม่ได้หายไปไหนในเร็วๆ นี้ เมื่อเทคโนโลยีสร้างสรรค์เข้ามาเป็นส่วนหนึ่งของการทำงานประจำวันมากขึ้น ความท้าทายสำหรับองค์กรจะเพิ่มขึ้น ผู้นำต้องเลือกว่าจะรับมือกับ Shadow AI เป็นภัยคุกคามที่ไม่สามารถควบคุมได้หรือรับรู้ว่ามันเป็นโอกาสในการเพิ่มประสิทธิภาพและผลผลิตเมื่อจัดการอย่างเหมาะสม

การสร้างนโยบาย AI หรือกระดาน AI ไม่ใช่การกระทำครั้งเดียว เช่นเดียวกับ AI ที่กำลังพัฒนาอย่างรวดเร็ว กลยุทธ์ขององค์กรต้องเปลี่ยนแปลงไปด้วย AI สามารถช่วยให้ตัดสินใจได้ดีขึ้นเร่งนวัตกรรม และเพิ่มผลผลิตทั่วทุกฟังก์ชัน แต่เพื่อรักษาความสำเร็จเหล่านั้น พนักงานต้องเข้าใจเครื่องมือที่มีให้และวิธีการใช้เครื่องมือเหล่านั้นอย่างมีความรับผิดชอบ ผู้ที่ประสบความสำเร็จจะยังคงยืดหยุ่น โดยปรับปรุงนโยบายของตนเพื่ออยู่หน้าการเปลี่ยนแปลง ไม่ใช่ตามหลัง