ผู้นำทางความคิด
ความเสี่ยงด้านความปลอดภัยใหม่จากการนำ GenAI มาใช้อย่างรวดเร็วที่องค์กรต้องจัดการ

ประเด็นสำคัญGenAI…
ดูเพิ่มเติม
- GenAI บ่อนทำลายการเข้าถึงตามหลักสิทธิ์ต่ำสุดด้วยการดูดซับข้อมูลโดยไม่สืบทอดการควบคุมการเข้าถึงเดิมของข้อมูล
- Shadow AI สร้างความเสี่ยงที่มองไม่เห็นในการระบายข้อมูลออก ขณะที่พนักงานนำเครื่องมือที่ไม่ได้รับการรับรองมาใช้ในทันที
- องค์กรไม่สามารถเรียกคืนข้อมูลจากโมเดล GenAI ได้หลังจากที่ข้อมูลถูกดูดซับไปแล้ว ส่งผลให้เกิดช่องว่างในการกำกับดูแลอย่างถาวร
ปัญญาประดิษฐ์เชิงสร้างสรรค์ (GenAI) ได้พัฒนาจากความสนใจเป็นศูนย์กลางของเทคโนโลยีองค์กร โดยความสามารถในการสร้างข้อความ รหัส ภาพ และข้อมูลเชิงลึกตามความต้องการได้ ทำให้ไม่สามารถทดแทนได้สำหรับพนักงานที่ต้องการลดความซับซ้อนและเพิ่มผลผลิต แต่ด้วยนวัตกรรมและประสิทธิภาพนี้ก็เกิดการเปิดเผยความเสี่ยงอย่างมาก
ในการสนทนากับผู้บริหารและผู้นำการกำกับดูแล AI ทั่วอุตสาหกรรม มีประเด็นหนึ่งที่ปรากฏขึ้นซ้ำๆ คือ ความปลอดภัยของข้อมูลได้เปลี่ยนจากความกังวลหลักเป็นจุดสนใจหลักของกลยุทธ์ และเป็นความท้าทายที่สำคัญที่สุดของการนำ AI มาใช้ ไม่เหมือนกับซอฟต์แวร์แบบดั้งเดิมหรือแม้กระทั่งคลื่นการเรียนรู้ของเครื่องในอดีต GenAI เปลี่ยนแปลงกระบวนการรักษาความปลอดภัยของข้อมูลภายในองค์กรอย่างหลักๆ
การศึกษาของ MIT ที่เพิ่งทำ พบว่า 95% ของโครงการนำร่อง GenAI ในองค์กรล้มเหลว ไม่ใช่เพราะเทคโนโลยีไม่ดี แต่เพราะองค์กรไม่มีกรอบการกำกับดูแลและความปลอดภัยที่จำเป็นในการนำ GenAI มาใช้อย่างเหมาะสมและรับผิดชอบ ในการศึกษาอีกชิ้นหนึ่งของ MIT ผู้นำองค์กรอ้างว่าความปลอดภัยของข้อมูลเป็นความเสี่ยงด้านธุรกิจและความปลอดภัยที่สำคัญที่สุดซึ่งขัดขวางการนำ AI มาใช้อย่างรวดเร็ว นอกจากนี้ “shadow AI” ซึ่งเป็นการใช้เครื่องมือสาธารณะโดยไม่ได้รับอนุญาตจากพนักงาน ยังถือเป็นตัวขับเคลื่อนความเสี่ยงด้านข้อมูลที่เพิ่มขึ้นอย่างมากนอกเหนือจากการควบคุมขององค์กร
การเข้าถึงโดยมีสิทธิ์น้อยที่สุด (least-privilege access) เป็นแบบจำลองความปลอดภัยที่ให้สิทธิ์การเข้าถึงและอนุญาตให้ใช้เฉพาะสิ่งที่จำเป็นสำหรับการทำงานที่ถูกต้องเท่านั้น แต่ GenAI กลับเปลี่ยนกรอบแนวคิดนี้ทั้งหมด โดยหลักสิทธิ์น้อยที่สุดเองกลายเป็นข้อจำกัดที่ขัดกับการออกแบบการทำงานของระบบเหล่านี้ เพราะเครื่องมือ GenAI ในองค์กรมักจะให้ผลผลิตที่สูงขึ้นเมื่อมีการเข้าถึงข้อมูลธุรกิจและบริบทธุรกิจมากขึ้น
เมื่อการนำ GenAI มาใช้เร็วขึ้น ผู้ใช้จะค้นพบการประยุกต์ใช้ GenAI ใหม่ๆ ซึ่งส่วนใหญ่เกิดขึ้นจากการทดลองและความอยากรู้อยากเห็นของพนักงาน มากกว่าการวางแผนธุรกิจจากบนลงล่าง หากองค์กรไม่สามารถกำหนดงานที่ GenAI จะถูกใช้หรือข้อมูลที่ต้องการเข้าถึงได้ ก็จะไม่สามารถตั้งค่าการเข้าถึงโดยมีสิทธิ์น้อยที่สุดได้ นอกจากนี้ หากพนักงานมีสิทธิ์เข้าถึงข้อมูลที่เหมาะสมและให้ข้อมูลนั้นเป็นข้อมูลเข้าสำหรับเครื่องมือ GenAI แต่เมื่อข้อมูลถูกดูดซับเข้าไปในโมเดลแล้ว ก็ไม่ได้รับการควบคุมโดยสิทธิ์การเข้าถึงเดิมของพนักงานอีกต่อไป แต่สามารถถูกดูดซับเข้าไปในโมเดลหรือแสดงผลในอนาคตหรือให้เข้าถึงโดยผู้ใช้รายอื่นที่ใช้เครื่องมือเดียวกัน เนื่องจาก GenAI ไม่ได้สืบทอดการควบคุมสิทธิ์เข้าถึงของข้อมูลเสมอไป จึงทำให้การเข้าถึงโดยมีสิทธิ์น้อยที่สุดไม่สามารถบังคับใช้ได้
การเปิดเผยความไม่ปลอดภัยของ GenAI ที่ควรพิจารณา
GenAI สร้างพื้นผิวข้อมูลที่กว้างขวางและขยายตัวอย่างต่อเนื่อง ทำให้การกำกับดูแลและความปลอดภัยของข้อมูลในองค์กรมีความซับซ้อนในหลายๆ ด้าน เช่น
การรั่วไหลของข้อมูลเข้า – GenAI สามารถดูดซับข้อมูลในรูปแบบดั้งเดิม รวมถึงข้อความ ภาพ เสียง วิดีโอ และข้อมูลที่มีโครงสร้าง พนักงานสามารถให้เครื่องมือ GenAI เข้าถึงชุดข้อมูลใหม่ๆ ได้อย่างง่ายดาย โดยไม่ต้องจำกัดอยู่แค่ข้อมูลที่ถูกสร้างขึ้นและจัดระเบียบอย่างดีเท่านั้น แต่สามารถรวมถึงบันทึกการโทรขาย หมายเหตุอีเมล CRM การถอดเสียงการบริการลูกค้า และอื่นๆ ในทางปฏิบัติ พนักงานกำลังให้ข้อมูลที่มีความละเอียดอ่อนของธุรกิจ รวมถึงข้อมูลส่วนบุคคลของลูกค้า ทรัพย์สินทางปัญญา การคาดการณ์ทางการเงิน และแม้กระทั่งรหัสต้นฉบับ
การเปิดเผยข้อมูลออก – โมเดลการสร้างสรรค์ไม่เพียงแต่ดูดซับข้อมูลเท่านั้น แต่ยังสร้างข้อมูลใหม่ขึ้นมาได้ การให้ข้อมูลเข้าสามารถดึงข้อมูลจากชุดข้อมูลต่างๆ และเปิดเผยข้อมูลนั้นให้กับผู้ใช้ที่ไม่มีสิทธิ์การเข้าถึงที่เหมาะสมได้ ในบางกรณี ผลลัพธ์อาจ “หลอน” ข้อมูลที่ดูน่าเชื่อถือแต่มีบางส่วนของข้อมูลฝึกที่เป็นข้อมูลจริงและมีความละเอียดอ่อนสูง
เครื่องมือ GenAI ทำงานได้ดีขึ้นเมื่อมีบริบทสำหรับงานที่ทำ ดังนั้น GenAI ไม่เพียงรับข้อมูลที่มีอยู่แล้วเท่านั้น ผู้ใช้ยังสร้างข้อมูลใหม่เพื่อชี้นำระบบผ่านพรอมป์ต์ที่ยาวและละเอียด ซึ่งบันทึกบริบททางธุรกิจ กระบวนการภายใน และข้อมูลอื่นที่อาจมีความละเอียดอ่อนหรือสำคัญต่อธุรกิจ
การเข้าถึงโดยไม่มีการกำกับดูแล – ระบบองค์กรแบบดั้งเดิมต้องการกระบวนการรับผู้ขายเข้าสู่ระบบองค์กรและการจัดเตรียมโดย IT ในปัจจุบัน GenAI ถูกฝังอยู่ใน Microsoft Office สูท เบราว์เซอร์ เครื่องมือแชท และแพลตฟอร์ม SaaS พนักงานสามารถนำ GenAI มาใช้ได้ทันทีโดยไม่ต้องผ่านการกำกับดูแล ทำให้เกิด “shadow AI” และการใช้ GenAI ที่ไม่ได้รับอนุญาตทุกครั้งเป็นเหตุการณ์การส่งออกข้อมูลที่อาจเกิดขึ้นอย่างลับๆ ในระดับใหญ่และนอกเหนือการควบคุมขององค์กร
ความเสี่ยงของห่วงโซ่อุปทานระดับที่สอง – ผู้ขายอาจดูเหมือนปลอดภัย แต่พวกเขามักจะพึ่งพาผู้รับเหมาช่วง เช่น ผู้ให้บริการคลาวด์ บริการติดป้ายกำกับข้อมูล หรือห้องปฏิบัติการ AI ของบุคคลที่สาม แต่ละรายจะนำสัญญาอนุญาตใช้งาน (EULA) และนโยบายของตนเองมาใช้ ข้อมูลที่มีความละเอียดอ่อนขององค์กรสามารถส่งผ่านมือที่ไม่เห็นได้หลายมือ แต่ความรับผิดชอบยังคงอยู่กับองค์กรเท่านั้น ตัวอย่างเช่น องค์กรอาจมีผู้ขายที่ผ่านกระบวนการอนุมัติแล้ว แต่ผู้ขายนั้นใช้เครื่องมือ GenAI ที่อาจทำให้ข้อมูลขององค์กรมีการใช้เป็นข้อมูลฝึกอบรม ซึ่งมีผลกระทบอย่างมากต่อกระบวนการหลัง
ช่องว่างในการกำกับดูแลข้อมูลฝึกอบรม – เมื่อข้อมูลเข้าไปในโมเดล AI แล้ว การควบคุมจะสิ้นสุดลง องค์กรไม่สามารถดึงข้อมูลหรือกำกับดูแลการใช้ข้อมูลได้อย่างง่ายดาย ความรู้ที่เป็นเจ้าของอาจยังคงอยู่และปรากฏในผลลัพธ์หลังจากที่แหล่งที่มาถูกลืมไปแล้ว เรายังไม่พบเครื่องมือ GenAI ที่ใดที่ให้ความสามารถในการขอถอดข้อมูลที่ดูดซับเข้าไปในโมเดลออกไป เช่นเดียวกับที่เห็นในกฎระเบียบความเป็นส่วนตัว เช่น GDPR หรือ CCPA การนำกระบวนการดังกล่าวมาใช้น่าจะไม่เกิดขึ้นจนกว่าการกำกับดูแลจะผลักดันการเปลี่ยนแปลง
ความเสี่ยงของโค้ดแอปพลิเคชัน – AI กำลังเขียนโค้ดที่เป็นพื้นฐานของระบบธุรกิจ นักพัฒนาที่ใช้เครื่องมือ GenAI เช่น Microsoft Copilot เพื่อสร้างโค้ดอาจนำส่วนประกอบที่พึ่งพาซึ่งไม่ปลอดภัยเข้ามา แพร่ช่องโหว่ หรือฝังโค้ดภายใต้ใบอนุญาตโอเพนซอร์สที่ขัดแย้งกันโดยไม่รู้ตัว เมื่อโค้ดถูกใช้งานแล้ว ความไม่ปลอดภัยเหล่านี้จะกลายเป็นส่วนหนึ่งของห่วงโซ่อุปทานซอฟต์แวร์
การจัดการความเสี่ยงของ GenAI
GenAI ได้ถูกฝังอยู่ในกระบวนการทำงานขององค์กรแล้ว ดังนั้นคำถามสำหรับองค์กรไม่ใช่ว่าจะนำ GenAI มาใช้หรือไม่ แต่ว่าจะนำมาใช้อย่างรับผิดชอบ การนำ GenAI มาใช้โดยไม่มีการกำกับดูแลมีความเสี่ยงต่อการละเมิดความปลอดภัยที่มีค่าใช้จ่ายสูง การถูกปรับตามกฎระเบียบ และความเสียหายต่อชื่อเสียง แต่การห้ามใช้ GenAI จะทำให้พนักงานหันไปใช้เครื่องมือที่ไม่ได้รับอนุญาต วิธีเดียวที่จะไปข้างหน้าคือการให้ความสามารถในการใช้ GenAI ที่มีการควบคุมและตรวจสอบ
การกำกับดูแล GenAI ต้องการการมองเห็นด้วยบริบทไม่เพียงแต่ข้อมูลที่องค์กรมี ที่อยู่ และใครที่สามารถเข้าถึงได้ แต่ยังรวมถึงวิธีการใช้ GenAI ด้วย องค์กรต้องการเห็นว่าเครื่องมือใดที่ถูกใช้ ข้อมูลเข้าใดที่ถูกป้อน และข้อมูลที่มีความละเอียดอ่อนออกไปนอกสภาพแวดล้อมหรือไม่ จากนั้นจึงสามารถใช้การควบคุมที่เหมาะสมเพื่อตรวจสอบข้อมูลเข้าและออกในเวลาจริง ระบุเซสชันที่มีความเสี่ยงหรือการไหลของข้อมูลที่ผิดปกติ ปิดการเข้าถึงเครื่องมือที่ไม่ได้รับอนุญาต ตัดข้อมูลเข้าที่มีความละเอียดอ่อนออกก่อนที่จะออกไป ลบข้อมูลระบุตัวบุคคลออกจากข้อมูลละเอียดอ่อนขณะป้อนลงในพรอมป์ต์ และบังคับใช้การจำกัดสิทธิ์ตามบทบาทสำหรับข้อมูลเชิงลึกที่ได้มาจาก AI
GenAI คือชั้นใหม่ของความเสี่ยงและโอกาสสำหรับองค์กร การจัดการมันต้องการทัศนคติที่ว่าความปลอดภัยไม่ใช่การห้ามนวัตกรรม แต่เป็นพื้นฐานที่ทำให้การนวัตกรรมปลอดภัย













