การใช้ Generative AI: การเปิดเผยผลกระทบด้านความปลอดภัยของเครื่องมือ Generative AI

สมเหตุสมผลที่จะกล่าวว่า Generative AI ได้เข้ามาอยู่ในห้องประชุมและผู้นำธุรกิจทุกคนในประเทศแล้ว เทคโนโลยีที่เคยเป็นเพียงเทคโนโลยีชายขอบที่ยากต่อการควบคุมและใช้งานได้ แต่ประตูสู่ Generative AI ได้ถูกเปิดกว้างแล้ว nhờแอปพลิเคชัน เช่น ChatGPT หรือ DALL-E เรากำลังเห็นการยอมรับ Generative AI อย่างกว้างขวางในทุกอุตสาหกรรมและทุกช่วงวัย เนื่องจากพนักงานกำลังค้นหาวิธีการใช้เทคโนโลยีนี้ให้ได้ประโยชน์สูงสุด

การสำรวจล่าสุด สำรวจ พบว่า 29% ของผู้ตอบแบบสอบถามรุ่น Gen Z, 28% ของผู้ตอบแบบสอบถามรุ่น Gen X และ 27% ของผู้ตอบแบบสอบถามรุ่น Millennial ใช้เครื่องมือ Generative AI เป็นส่วนหนึ่งของงานประจำ ในปี 2022 การใช้ Generative AI ในระดับใหญ่คือ 23% และคาดว่าจะเพิ่มขึ้นเป็น 46% ในปี 2025

Generative AI เป็นเทคโนโลยีที่กำลังพัฒนาและเปลี่ยนแปลงอย่างรวดเร็ว โดยใช้โมเดลที่ได้รับการฝึกฝนเพื่อสร้างเนื้อหาที่เป็นเอกลักษณ์ในรูปแบบต่างๆ ตั้งแต่ข้อความที่เขียนด้วยมือ ภาพยนตร์ และซอฟต์แวร์ โดยใช้โมเดลภาษาขนาดใหญ่ (LLM) และชุดข้อมูลขนาดใหญ่ เทคโนโลยีนี้สามารถสร้างเนื้อหาที่เป็นเอกลักษณ์ได้ทันที ซึ่งแทบจะไม่สามารถแยกแยะจากงานของมนุษย์ได้ และในหลายกรณีแม่นยำและน่าดึงดูดมากกว่า

อย่างไรก็ตาม ในขณะที่ธุรกิจต่างๆ กำลังใช้ Generative AI เพื่อสนับสนุนการดำเนินงานประจำวัน และพนักงานได้รับการยอมรับอย่างรวดเร็ว ความเร็วในการนำรับและขาดการควบคุมได้ทำให้เกิดความกังวลเกี่ยวกับความปลอดภัยและความสอดคล้องกับกฎระเบียบ

ตามการสำรวจ หนึ่ง ของประชากรทั่วไป มากกว่า 80% ของผู้คนกังวลเกี่ยวกับความเสี่ยงด้านความปลอดภัยที่เกิดจาก ChatGPT และ Generative AI และ 52% ของผู้ที่สำรวจต้องการให้การพัฒนา Generative AI ถูกหยุดชั่วคราวเพื่อให้กฎระเบียบตามทัน ความคิดเห็นนี้ได้รับการสะท้อนจากธุรกิจด้วย โดย 65% ของผู้นำด้าน IT ไม่ยอมรับการเข้าถึงเครื่องมือ Generative AI โดยไม่มีการควบคุมเนื่องจากความกังวลด้านความปลอดภัย

Generative AI ยังคงเป็นความไม่แน่นอน

เครื่องมือ Generative AI ต้องการข้อมูล โมเดล เช่น โมเดลที่ใช้โดย ChatGPT และ DALL-E ได้รับการฝึกฝนจากข้อมูลภายนอกหรือข้อมูลที่มีอยู่บนอินเทอร์เน็ต แต่เพื่อให้ได้ประโยชน์สูงสุดจากเครื่องมือเหล่านี้ ผู้ใช้ต้องแบ่งปันข้อมูลที่เฉพาะเจาะจง มักจะเมื่อใช้เครื่องมือ เช่น ChatGPT ผู้ใช้จะแบ่งปันข้อมูลธุรกิจที่ละเอียดอ่อนเพื่อให้ได้ผลลัพธ์ที่แม่นยำและครอบคลุม ซึ่งสร้างความไม่แน่นอนมากมายสำหรับธุรกิจ ความเสี่ยงของการเข้าถึงที่ไม่ได้รับอนุญาตหรือการเปิดเผยข้อมูลที่ไม่ได้ตั้งใจคือ “สิ่งที่ถูกสร้างขึ้น” เมื่อใช้เครื่องมือ Generative AI ที่มีอยู่ทั่วไป

ความเสี่ยงนี้ไม่ใช่เรื่องเลวร้ายโดยธรรมชาติ ปัญหาก็คือความเสี่ยงเหล่านี้ยังไม่ได้รับการสำรวจอย่างจริงจัง จนถึงปัจจุบัน ยังไม่มีการวิเคราะห์ผลกระทบทางธุรกิจของการใช้เครื่องมือ Generative AI ที่มีอยู่ทั่วไป และกรอบการทำงานด้านกฎหมายและกฎระเบียบเกี่ยวกับการใช้ Generative AI ยังคงอยู่ในขั้นตอนเริ่มต้น

การควบคุมยังคงเป็นงานที่กำลังดำเนินอยู่

หน่วยงานกำกับดูแลกำลังประเมินเครื่องมือ Generative AI ในด้านความเป็นส่วนตัว ความปลอดภัยของข้อมูล และความสมบูรณ์ของข้อมูลที่ผลิตขึ้น อย่างไรก็ตาม เช่นเดียวกับเทคโนโลยีที่เกิดขึ้นใหม่ ระบบการควบคุมที่จะสนับสนุนและกำกับดูแลการใช้งานยังคงล้าหลังหลายขั้นตอน ในขณะที่เทคโนโลยีนี้กำลังถูกใช้โดยบริษัทและพนักงานทั่วโลก กรอบการทำงานด้านกฎระเบียบยังคงอยู่ในกระดาษวาด

สิ่งนี้สร้างความเสี่ยงที่ชัดเจนและเป็นปัจจุบันสำหรับธุรกิจ ซึ่งในปัจจุบันไม่ได้รับการพิจารณาอย่างจริงจัง ผู้บริหารมีความสนใจในโอกาสที่จะนำเทคโนโลยีเหล่านี้มาใช้เพื่อสร้างผลประโยชน์ทางธุรกิจ เช่น การเพิ่มประสิทธิภาพและโอกาสในการเติบโต แต่ผู้จัดการความเสี่ยงกำลังถามถึงวิธีการควบคุมเทคโนโลยีนี้ จะมีผลกระทบทางกฎหมายอย่างไร และข้อมูลของบริษัทจะถูกเปิดเผยหรือสูญเสียไปได้อย่างไร เครื่องมือเหล่านี้มีอยู่ทั่วไปสำหรับผู้ใช้ที่มีเบราว์เซอร์และการเชื่อมต่ออินเทอร์เน็ต ดังนั้น ในขณะที่พวกเขารอการควบคุมที่จะตามทัน ธุรกิจต่างๆ ต้องเริ่มคิดอย่างรอบคอบเกี่ยวกับ “กฎภายใน” ของตนเองเกี่ยวกับการใช้ Generative AI

บทบาทของ CISO ในการกำกับดูแล Generative AI

ด้วยกรอบการทำงานด้านกฎระเบียบที่ยังคงไม่สมบูรณ์ ผู้บริหารด้านความปลอดภัยของข้อมูล (CISO) ต้องเข้ามาเล่นบทบาทสำคัญในการจัดการการใช้ Generative AI ภายในองค์กร พวกเขาต้องเข้าใจว่าใครกำลังใช้เทคโนโลยีนี้และเพื่ออะไร วิธีการปกป้องข้อมูลองค์กรเมื่อพนักงานโต้ตอบกับเครื่องมือ Generative AI วิธีการจัดการความเสี่ยงด้านความปลอดภัยของเทคโนโลยี และวิธีการสร้างสมดุลระหว่างความเสี่ยงและคุณค่าที่เทคโนโลยีนี้นำมาสู่

สิ่งนี้ไม่ใช่เรื่องง่าย การประเมินความเสี่ยงที่มีรายละเอียดควรได้รับการดำเนินการเพื่อกำหนดผลลัพธ์เชิงลบและเชิงบวกที่เกิดจากการใช้เทคโนโลยีนี้ในลักษณะที่เป็นทางการ และการอนุญาตให้พนักงานใช้เครื่องมือที่มีอยู่ทั่วไปโดยไม่มีการกำกับดูแล ด้วยธรรมชาติของการเข้าถึงที่ง่ายดายของเครื่องมือ Generative AI CISO ต้องคิดอย่างรอบคอบเกี่ยวกับนโยบายของบริษัทเกี่ยวกับการใช้งาน ควรให้พนักงานสามารถใช้เครื่องมือ เช่น ChatGPT หรือ DALL-E เพื่อทำให้งานของตนง่ายขึ้นหรือไม่ หรือควรจำกัดการเข้าถึงหรือควบคุมเครื่องมือเหล่านี้ในบางวิธี โดยมีแนวทางและกรอบการทำงานภายในเกี่ยวกับวิธีการใช้เครื่องมือเหล่านี้

วิธีแก้ปัญหานี้อาจเป็นการเปลี่ยนโฟกัสออกจากเครื่องมือ Generative AI เอง และมุ่งเน้นไปที่การจำแนกประเภทและปกป้องข้อมูล การจำแนกประเภทข้อมูลเป็นส่วนสำคัญของการปกป้องข้อมูลจากการถูกบุกรุกหรือรั่วไหล และสิ่งนี้ยังคงใช้ได้กับกรณีการใช้งานนี้ โดยการกำหนดระดับความละเอียดอ่อนของข้อมูล ซึ่งกำหนดวิธีการจัดการข้อมูล ควรเข้ารหัสหรือไม่ ควรปิดกั้นหรือไม่ ควรแจ้งให้ทราบหรือไม่ ใครควรเข้าถึงข้อมูลได้ และที่ไหนที่สามารถแบ่งปันได้ โดยการมุ่งเน้นไปที่การไหลของข้อมูล CISO และเจ้าหน้าที่ด้านความปลอดภัยจะมีโอกาสที่จะลดความเสี่ยงบางอย่างที่กล่าวถึง

เช่นเดียวกับเทคโนโลยีที่เกิดขึ้นใหม่ทั้งหมด Generative AI เป็นทั้งโอกาสและความเสี่ยงสำหรับธุรกิจ ในขณะที่มันนำเสนอความสามารถใหม่ๆ เช่น การเพิ่มประสิทธิภาพและแนวคิดเชิงสร้างสรรค์ มันก็มีความท้าทายที่ซับซ้อนเกี่ยวกับความปลอดภัยของข้อมูลและความปลอดภัยของทรัพย์สินทางปัญญา ในขณะที่กรอบการทำงานด้านกฎระเบียบและกฎหมายยังคงถูกสร้างขึ้น ธุรกิจต่างๆ ต้องเดินบนเส้นแบ่งระหว่างโอกาสและความเสี่ยง โดยการนำนโยบายการควบคุมของตนเองที่สะท้อนถึงทัศนคติด้านความปลอดภัยโดยรวมของตนเอง Generative AI จะขับเคลื่อนธุรกิจไปข้างหน้า แต่เราควรระมัดระวังในการควบคุมให้เหมาะสม