วิธีการที่องค์กรควรจัดการกับภาวะที่เกิดจากความล้นหลามของแอปพลิเคชัน AI

การคำนวณที่ไม่ส่วนตัว

ในช่วงหลายปีที่ผ่านมา การพัฒนาทางเทคโนโลยีได้รับแรงผลักดันจากความต้องการที่จะทำให้การคำนวณเป็นเรื่องที่เข้าถึงได้ง่ายขึ้น ตั้งแต่สมาร์ทโฟนไปจนถึงแท็บเล็ต แล็ปท็อป และอุปกรณ์สวมใส่ มีแนวโน้มทั่วไปที่จะทำให้คอมพิวเตอร์และความสามารถของมันกลายเป็นสิ่งที่ส่วนตัวมากขึ้น พิจารณาชื่อของอุตสาหกรรมที่สำคัญๆ เช่น “คอมพิวเตอร์ส่วนบุคคล” หรือ PC; “i” Pod, Pad, Phone และอื่นๆ อุปกรณ์เหล่านี้มีจุดมุ่งหมายเพื่อใช้เป็นเพื่อนร่วมทางส่วนบุคคลที่ช่วยให้ผู้ใช้สามารถจัดการประสบการณ์ดิจิทัลและชีวิตของตนเองได้อย่างมีประสิทธิภาพ

การพัฒนาแอปพลิเคชัน AI โดยเฉพาะโมเดลภาษาขนาดใหญ่ (LLM) และโซลูชันแบบตัวแทนกำลังเดินหน้าไปในทิศทางเดียวกัน เช่นเดียวกับ PC และ iPhone เครื่องมือ AI เช่น ChatGPT ได้ทำให้กิจกรรมการคำนวณ เช่น การค้นหา การแก้ไข และการสร้างความคิดเห็น เป็นเรื่องที่เข้าถึงได้ง่ายขึ้นสำหรับประชาชนทั่วไป แต่เมื่อความสามารถในการเข้าถึงนี้เพิ่มขึ้น ก็เพิ่มความเสี่ยงด้วย

ไม่ว่าจะผ่าน ตัวเชื่อมต่อที่ถูกปนเปื้อน หรือ การสร้างดัชนีของเครื่องมือค้นหาที่ไม่ได้ตั้งใจ อันตรายต่อการใช้ AI ส่วนบุคคลกำลังเพิ่มขึ้นและยากต่อการป้องกัน เมื่อบวกความไม่แน่นอนเกี่ยวกับผู้ใช้เครื่องมือเหล่านี้ องค์กรต่างๆ ก็เผชิญกับพายุสมบูรณ์ของความเสี่ยงที่เพิ่มขึ้นและความไม่เพียงพอของการป้องกัน เมื่อพิจารณาถึงความหวังของเครื่องมือ AI และความไม่แน่นอนในการรักษาความปลอดภัย องค์กรที่มุ่งเน้นเทคโนโลยีควรทำอย่างไร

การเติบโตของแอปพลิเคชัน AI ที่ไม่ได้รับอนุญาต

ด้วย ผู้ใช้มากกว่า 700 ล้านคน ในปี 2025 การใช้งาน ChatGPT เพิ่มขึ้นมากกว่า 4 เท่าเมื่อเทียบกับปีก่อนหน้า แต่ผู้ใช้เพียง 5 ล้านคนเท่านั้นที่เป็นลูกค้าธุรกิจที่จ่ายเงิน สิ่งนี้ทำให้ผู้ใช้ประมาณ 695 ล้านคนเป็นผู้ใช้ส่วนบุคคลหรือธุรกิจที่ไม่ได้รับอนุญาต ตัวเลขนี้ดูเหมือนจะมากจนกระทั่งคุณจำได้ว่า ChatGPT ไม่ใช่โซลูชัน AI เพียงอย่างเดียวในตลาด ในความเป็นจริง มันอยู่ห่างจากมันมาก – การระเบิดของ AI และความก้าวหน้าของการเรียนรู้ของเครื่องในยุคปัจจุบันได้สร้างโมเดลและโซลูชันใหม่ๆ หลายแสนแบบทั้งสาธารณะและเอกชน

สำหรับธุรกิจ การเติบโตอย่างรวดเร็วของโซลูชัน AI ได้สร้างมิติใหม่ของภูมิทัศน์ภัยคุกคามทางไซเบอร์ที่เรียกว่า “Shadow AI” เช่นเดียวกับ “Shadow IT” ความคิดนี้มีพื้นฐานมาจากการที่พนักงานใช้โซลูชัน AI โดยไม่ได้รับการตรวจสอบและอนุมัติจากองค์กรก่อน ซึ่งทำให้ข้ามการดูแลและความปลอดภัยของ IT และความปลอดภัยทั้งหมด ทำให้เกิดสถานการณ์ที่พนักงานอาจใช้โซลูชันที่อาจเป็นอันตรายหรือไม่ปลอดภัยสำหรับการทำงานที่สำคัญ

การใช้ Shadow AI เป็นที่แพร่หลายและขยายตัว รายงานหนึ่งพบว่า มีแอปพลิเคชัน AI ที่ไม่ได้รับอนุญาตมากกว่า 320 รายการ ที่ถูกใช้ในองค์กรโดยเฉลี่ย แต่ละแอปพลิเคชันที่ไม่ได้รับอนุญาตและผู้ใช้ของมันขยายภูมิทัศน์ภัยคุกคามนี้ออกไป

ความเสี่ยงที่สอดคล้องกับการล้นหลามของ AI

ความเสี่ยงที่เกี่ยวข้องกับการล้นหลามของ AI มีหลายด้านและไม่หยุดขยายตัว บางอย่าง เช่น การปนเปื้อนข้อมูล การฉีดข้อมูล การจัดการแบบจำลอง และการเก็บข้อมูล เป็นที่รู้จักกันดี การโจมตีโดยตรงเหล่านี้สามารถทำให้ผู้กระทำผิดมีโอกาสเข้าถึงข้อมูลที่สำคัญขององค์กรและระบบภายใน องค์กรจึงเริ่มป้องกันตัวเองจากการโจมตีเหล่านี้

แต่ธุรกิจสามารถป้องกันตัวเองได้เฉพาะความเสี่ยงที่พวกเขาเข้าใจเท่านั้น ลองนึกถึงการป้องกันปราสาทยุคกลาง กำแพง หอคอย ประตู คู และอื่นๆ ช่วยป้องกันปราสาทจากศัตรูและผู้บุกรุกภายนอก แต่ถ้าพนักงานครัวมีทางลับซึ่งหลบเลี่ยงกำแพงภายนอก หรือถ้าผู้พิทักษ์ที่มีปากมากพูดถึงการเปลี่ยนกะที่โรงเตี๊ยมท้องถิ่น อันตรายใดๆ เหล่านี้สามารถช่วยให้โจรเข้าถึงและบุกรุกเข้าไปภายในได้

Shadow AI มีผลกระทบต่อความปลอดภัยของข้อมูลองค์กรในลักษณะเดียวกัน การใช้ LLM และตัวช่วยที่ไม่ได้รับอนุญาต แม้ว่าจะมีเจตนา tốtก็ตาม อาจนำไปสู่หายนะสำหรับการป้องกันข้อมูลที่สำคัญ เนื่องจากโซลูชันที่ไม่ปลอดภัยอาจเป็นประตูสำหรับผู้กระทำผิด การใช้ LLM โดยธรรมชาติเพิ่มความเสี่ยงของปัญหา เช่น การเก็บข้อมูล การฉีดข้อมูล การจัดการแบบจำลอง และความลำเอียงของแบบจำลอง ซึ่งจำเป็นต้องมีการรักษาความปลอดภัยที่เกี่ยวข้องแต่ละอย่าง สิ่งนี้เพิ่มความเสี่ยงของการละเมิดข้อมูล การฝ่าฝืนข้อกำหนด และความล้มเหลวในการดำเนินงาน ซึ่งมักจะถูกตรวจพบ หลัง จากที่ความเสียหายเกิดขึ้นแล้ว

การสร้างการควบคุมเหนือโซลูชัน AI

เมื่อการใช้ AI ยังคงเติบโตทั้งในระดับส่วนบุคคลและองค์กร องค์กรต่างๆ จะต้องสร้างการควบคุมเหนือโซลูชันเหล่านี้ก่อนที่การนำไปใช้จะเกินความควบคุม การรักษาความปลอดภัยของ AI องค์กรและป้องกันความเสี่ยงของ AI ที่ไม่ได้รับอนุญาตเกี่ยวข้องกับ:

1. การมองเห็นที่ครอบคลุม ดังที่กล่าวไว้ คุณไม่สามารถรักษาความปลอดภัยข้อมูลของคุณจากความเสี่ยงที่คุณไม่ทราบได้ ความปลอดภัยเริ่มต้นด้วยการดูแลทั่วถึงทุกโซลูชัน AI ที่พนักงานของคุณใช้ ทั้งที่ได้รับอนุญาตและไม่ได้รับอนุญาต สิ่งนี้ง่ายกว่าที่จะพูด แต่โซลูชัน CASB (Cloud Access Security Broker) สามารถช่วยสร้างการมองเห็นที่ต่อเนื่องในการใช้แอปพลิเคชันของพนักงาน
2. การประเมินความเสี่ยงที่ครอบคลุม ทีมควรดำเนินการ TPRM (Third-Party Risk Management) เพื่อให้แน่ใจว่าโซลูชัน AI ทั้งหมดได้รับการประเมินความเสี่ยงและความปลอดภัย ความพยายามเหล่านี้ควรขยายไปถึงระดับที่ 4 โดยที่แอปพลิเคชันที่ได้รับอนุมัติ เช่น CRM หรือแพลตฟอร์มความผลิตภาพ มีการฝังตัว LLM ภายนอกเข้าไปในแพลตฟอร์มเหล่านั้น โซลูชันเหล่านี้จะต้องปฏิบัติตามมาตรฐานความปลอดภัยเดียวกันกับแอปพลิเคชันที่ได้รับอนุมัติภายใน
3. การสร้างกรอบการกำกับดูแล ด้วยการดูแลและความเข้าใจโซลูชันเหล่านี้ องค์กรสามารถพัฒนาและใช้นโยบายกำกับดูแล AI ที่สอดคล้องกันตลอดระบบแอปพลิเคชัน นโยบายกำกับดูแลเหล่านี้สามารถช่วยควบคุมโซลูชัน AI ที่พนักงานสามารถเข้าถึงได้ ข้อมูลที่สามารถแบ่งปันกับโซลูชันเหล่านั้น และความโปร่งใสในการใช้งานประจำวัน
4. การตรวจจับความเสี่ยงที่อัตโนมัติ การเติบโตอย่างรวดเร็วของการนำ AI ไปใช้ทำให้การตรวจจับและตอบสนองความเสี่ยงด้วยมือเป็นเรื่องที่เป็นไปไม่ได้ การอัตโนมัติเหล่านี้ตามนโยบายกำกับดูแลและพฤติกรรมผู้ใช้ที่คาดหวังสามารถช่วยระบุความผิดปกติและจำกัดผลกระทบด้านความปลอดภัยในวงกว้าง
5. การอธิบายความคาดหวังของพนักงาน ส่วนสำคัญที่สุดของการนำ AI ไปใช้อย่างปลอดภัยและรักษาความปลอดภัยคือพนักงานของคุณ การให้การฝึกอบรมที่เพียงพอและตั้งค่าคาดหวังที่ชัดเจนจะช่วยป้องกันการใช้ AI ที่มีความเสี่ยงและบังคับใช้การใช้โซลูชันที่ได้รับอนุญาตและได้รับการคุ้มครอง

การรักษาความปลอดภัยของ AI อย่างยั่งยืน

ด้วยการสร้างมาตรการรักษาความปลอดภัยเหล่านี้ องค์กรจะได้รับมุมมองที่ครอบคลุมมากขึ้นเกี่ยวกับวิธีการใช้โซลูชัน AI ทั้งที่ได้รับอนุญาตและไม่ได้รับอนุญาต สิ่งนี้มีผลกระทบต่อความปลอดภัยโดยตรง ช่วยให้ทีมระบุความเสี่ยงและเวกเตอร์ภัยคุกคามที่มีอยู่และดำเนินการแก้ไข

อย่างสำคัญยิ่ง องค์กรเหล่านี้จะเตรียมพร้อมสำหรับความสำเร็จของ AI ในระยะยาว โดยการสร้างรากฐานทางเทคนิคสำหรับการนำ AI ไปใช้อย่างปลอดภัยและวัฒนธรรมความปลอดภัยในหมู่ผู้ใช้ AI แนวทางที่มีหลายด้านนี้ช่วยสร้างแบบจำลองที่ยั่งยืนสำหรับเครื่องมือ AI ในอนาคต โดยมีการสนับสนุนทางเทคนิคและการฝึกอบรมที่เพียงพอ พนักงานสามารถใช้ประโยชน์จาก AI โดยไม่ต้องแบกรับความเสี่ยงที่มาพร้อมกับมัน

องค์กรที่ทำการเปลี่ยนแปลงเหล่านี้เร็วๆ นี้จะเตรียมพร้อมที่จะเผชิญกับอนาคตของโซลูชัน AI ไม่ว่าจะเป็นอะไร การทำงานหนักในขั้นตอนแรกเพื่อสร้างรากฐานที่แข็งแกร่ง แทนที่จะเพียงแค่ตรวจสอบกล่องการนำ AI ไปใช้ จะทำให้ทีมอยู่ในตำแหน่งที่ดีที่สุดสำหรับความสำเร็จที่ยั่งยืนโดยได้รับแรงผลักดันจาก AI