ทำไมการห้าม AI จึงเพิ่มความเสี่ยงด้านความปลอดภัย และสถาบันควรตอบสนองอย่างไร

ทั่วสหรัฐอเมริกา เขตการศึกษาและองค์กรภาครัฐกำลังย้ายไปจำกัดหรือปิดการเข้าถึงเทคโนโลยี AI ที่สร้างขึ้น (GenAI) หรือเครื่องมือเฉพาะ ในโคโลราโด เขตการศึกษา Boulder Valley ได้ ห้ามใช้ ChatGPT ในเครือข่ายของเขต โดยอ้างถึงความกังวลเกี่ยวกับการใช้ในทางที่ผิด ความปลอดภัย และความซื่อสัตย์ทางวิชาการ

ความตั้งใจที่จะลดการได้รับอันตรายจากเหตุการณ์ด้านความปลอดภัยหรือการละเมิดข้อมูลส่วนบุคคลเป็นเรื่องที่เข้าใจได้ แพลตฟอร์มที่มีการป้องกันที่อ่อนแอหรือไม่มีการมอบหมายความเป็นส่วนตัวที่ชัดเจน เช่น DeepSeek ควรได้รับการจำกัดและตรวจสอบอย่างเข้มงวด แต่การห้ามการเข้าถึงเครื่องมือ GenAI ไม่ได้ลดความเสี่ยงในทางที่มีประสิทธิภาพ มันเพียงแค่เปลี่ยนความเสี่ยงไปสู่สภาพแวดล้อมที่ไม่มีการกำกับดูแล

การสำรวจของ College Board พบว่า 84% ของนักเรียนมัธยมต้นรายงานว่าใช้ GenAI สำหรับการทำงานในโรงเรียน แม้ว่า 45% ของผู้อำนวยการโรงเรียนรายงานว่ามีการจำกัดการเข้าถึง AI ในโรงเรียน ในทำนองเดียวกัน รายงานของ IBM พบว่า 80% ของพนักงานใช้ AI แต่มีเพียง 22% เท่านั้นที่พึ่งพาเครื่องมือที่จัดเตรียมโดยนายจ้างเท่านั้น

นโยบายการเข้าถึงเพียงอย่างเดียวไม่ได้กำหนดพฤติกรรม นักเรียนสามารถใช้โทรศัพท์มือถือและใช้เครื่องมือ AI ใดๆ ผ่านเครือข่ายข้อมูลเซลลูลาร์ หรือใช้แพลตฟอร์มขณะอยู่ที่บ้านหรือบน Wi-Fi สาธารณะ พวกเขายังสามารถใช้ VPN, รีโมทเดสก์ท็อป และปลั๊กอินเพื่อหลบหลีกการจำกัด พนักงานสามารถทำเช่นเดียวกันเพื่อหลบหลีกการควบคุมในที่ทำงาน

องค์กรควรสมมติว่าเมื่อมีความตั้งใจที่จะใช้ AI มีวิธีการ เมื่อเทคโนโลยีถูกจำกัดในลักษณะที่ผลักดันการใช้งานออกนอกเหนือจากความสามารถในการมองเห็นของสถาบัน ความเสี่ยงของ AI ที่ซ่อนอยู่จะเพิ่มขึ้น ไม่มีการกำกับดูแลเกี่ยวกับข้อมูลที่ป้อนเข้าหรือข้อมูลที่เก็บโดยโมเดล การควบคุมความปลอดภัยจะหายไปทันที

นอกเหนือจากความเสี่ยงของ AI ที่ซ่อนอยู่ การห้ามสร้างช่องว่างด้านการรู้หนังสือ ทำให้นักเรียนไม่พร้อมที่จะใช้เทคโนโลยีที่จะเป็นส่วนใหญ่ของอนาคตของพวกเขา เครื่องมือเหล่านี้ถูกฝังอยู่ในเครื่องมือค้นหา แพลตฟอร์มธุรกิจ ชุดผลิตภาพ และอุปกรณ์ส่วนบุคคล การสำรวจของ Pew Research พบว่า 62% ของผู้ใหญ่ในสหรัฐอเมริการายงานว่าโต้ตอบกับ AI อย่างน้อยหลายครั้งต่อสัปดาห์ มีความเป็นไปได้สูงว่านักเรียนและพนักงานจะพบกับระบบ GenAI โดยไม่คำนึงถึงนโยบายของสถาบัน

ในสถานการณ์นี้ การศึกษาคือการป้องกันที่เชื่อถือได้มากที่สุดต่อความกังวลเกี่ยวกับการใช้ในทางที่ผิดหรือความปลอดภัย และเพื่อให้แน่ใจว่านักเรียนและพนักงานพร้อมที่จะใช้เครื่องมือที่จะเป็นสิ่งสำคัญสำหรับการงานของพวกเขา การสอนการใช้ AI อย่างรับผิดชอบและจริยธรรมช่วยให้ผู้ใช้สามารถรับรู้ความเสี่ยงของข้อมูลและตัดสินใจอย่างมีข้อมูลทุกที่ที่พวกเขาเจอระบบเหล่านี้

โปรแกรมการศึกษาควรเน้นไปที่วิธีการที่โมเดลภาษาขนาดใหญ่ (LLM) ประมวลผลและเก็บข้อมูล วิธีการระบุ “hallucinations” วิธีการตรวจสอบผลลัพธ์ที่สร้างโดย AI และวิธีการระบุแคมเปญการหลอกลวงและรูปภาพที่สร้างโดย AI เพื่อชื่อไม่กี่อย่าง สอนให้ผู้ใช้มีความกังขา ผลลัพธ์ของ AI มักถูกนำเสนออย่างมั่นใจและด้วยภาษาที่เรียบร้อย ซึ่งสามารถสร้างภาพลวงตาของความชอบธรรมได้ โดยไม่มีการฝึกอบรม ผู้ใช้อาจถือว่าคำตอบที่มีรูปแบบดีเป็นคำตอบที่ถูกต้องโดยธรรมชาติ

ความสามารถในการตั้งคำถามกับเนื้อหาดิจิทัลคือการป้องกันแนวหน้าเมื่อ deepfakes และแคมเปญการหลอกลวงที่ได้รับการปรับปรุงโดย AI กลายเป็นไปได้มากขึ้น การสำรวจของ Gartner พบว่า 62% ขององค์กรประสบกับการโจมตี deepfake เมื่อปีที่แล้ว และ 32% เผชิญกับการโจมตีบนแอปพลิเคชัน AI ความถี่และขอบเขตของเหตุการณ์เหล่านี้คาดว่าจะเพิ่มขึ้นอย่างต่อเนื่อง

สถาบันภาครัฐ เช่น โรงเรียนและรัฐบาลท้องถิ่น มีความเสี่ยงต่อการโจมตีทางสังคมที่ใช้ deepfake โดยเฉพาะ เนื่องจากกิจกรรมของพวกเขาถูกบันทึกและเผยแพร่สาธารณะ ส่วนของเสียงจากการประชุมสาธารณะสามารถถูกจัดการและใช้สร้างการโทรศัพท์เสียงที่น่าเชื่อถือได้ เราได้เห็นนักแสดงที่ใช้เทคนิคนี้เพื่อการฉ้อโกง เช่น การส่งเงินระหว่างธุรกรรมที่ละเอียดอ่อน ผู้ใช้ที่ไม่เคยได้รับการฝึกอบรมในการรับรู้เทคนิคนี้หรือแม้แต่ทราบว่ามันเป็นไปได้จะเสียเปรียบตั้งแต่เริ่มต้น

หลังจากการศึกษา องค์กรควรจะมีนโยบายที่ชัดเจนเกี่ยวกับการใช้ AI และการกำกับดูแล นโยบายเหล่านี้ควรกำหนดเครื่องมือที่ได้รับการอนุมัติ การใช้งานที่ยอมรับได้ และข้อมูลใดที่สามารถป้อนเข้าหรือไม่ป้อนเข้าโมเดลได้ นโยบายเหล่านี้ต้องถูกนำไปใช้อย่างสม่ำเสมอระหว่างแผนก ไม่ใช่แตกต่างกันไปในแต่ละห้องเรียนหรือที่ทำงาน ความคาดหวังที่ชัดเจนจะลดความคลุมเครือและเสริมสร้างความรับผิดชอบ

แทนที่จะจำกัดอย่างกว้างขวาง องค์กรควรพยายามกำหนดรูปแบบการใช้เทคโนโลยี เมื่อองค์กรสนับสนุนเครื่องมือที่สามารถเข้าถึงได้ มีความปลอดภัย และทำงานได้ดี มันจะกลายเป็นตัวเลือกโดยรวมสำหรับผู้ใช้ส่วนใหญ่ การใช้ AI ที่ซ่อนอยู่ในลักษณะไม่เป็นทางการจะลดลงเพราะมีทางเลือกที่ตรงไปตรงมาที่ไม่ต้องดาวน์โหลด VPN เพื่อใช้งาน

องค์กรและสถาบันกำลังมองหาวิธีการให้เข้าถึง LLM ได้อย่างปลอดภัย โดยที่ข้อมูลของพวกเขาได้รับการรักษาความปลอดภัยและไม่ถูกแบ่งปันหรือใช้สำหรับการฝึกอบรม หมวดหมู่เครื่องมือที่เพิ่มขึ้นสำหรับการเปิดใช้งาน AI และความปลอดภัยกำลังเกิดขึ้นเพื่อทำสิ่งนี้ พวกเขาสามารถให้เข้าถึง LLM หลายตัวได้ ในขณะเดียวกันก็เก็บข้อมูลของสถาบันไว้ในภาชนะที่ปลอดภัย สัญญาการรักษาข้อมูลที่ไม่มีการเก็บข้อมูลให้คำมั่นสัญญาในทางกฎหมายเพื่อให้แน่ใจว่าข้อมูลขององค์กรยังคงเป็นทรัพย์สินของบริษัทหรือสถาบัน และ LLM ไม่สามารถฝึกอบรมได้ นอกจากนี้ หากพนักงานออกจากสถาบัน การใช้ AI, วิธีการทำงาน หรือข้อมูลจะยังคงเป็นทรัพย์สินขององค์กร

การป้องกันทางเทคนิคสามารถใช้ได้ที่ระดับคุณลักษณะ สถาบันอาจอนุญาตให้นักเรียนหรือพนักงานถามคำถามทั่วไปภายใน LLM ที่ได้รับการอนุมัติ ในขณะเดียวกันก็ปิดการอัปโหลดไฟล์ การแชร์เอกสาร หรือความสามารถที่มีความเสี่ยงสูงอื่นๆ การกำหนดค่าเหล่านี้จะรักษาความสามารถในการผลิตโดยไม่เปิดโอกาสให้เกิดการเปิดเผยข้อมูลที่ไม่ควบคุม

เครื่องมือที่มีความก้าวหน้าสามารถทำให้ข้อมูลที่ละเอียดอ่อนเป็น匿อัตลักษณ์ก่อนที่จะถึงโมเดล ตัวอย่างเช่น การแทนที่ชื่อผู้ป่วยหรือตัวระบุโดยใช้พื้นที่ที่เป็นกลางเพื่อให้แพทย์และพยาบาลสามารถใช้ GenAI โดยไม่ทำให้ข้อมูลที่ได้รับการคุ้มครองถูกเปิดเผยได้ เครื่องมืออื่นๆ รวมการควบคุมการป้องกันการสูญเสียข้อมูลที่สามารถตรวจจับและปิดกั้นหมายเลขประกันสังคม ข้อมูลบัญชีทางการเงิน หรือข้อมูลที่ได้รับการควบคุมอื่นๆ ที่จะถูกส่งในคำถาม

นโยบายที่ชัดเจนพร้อมกับการป้องกันทางเทคนิคที่สร้างขึ้นบนพื้นฐานของการศึกษา จะสร้างการป้องกันที่ดีที่สุด โดยเฉพาะอย่างยิ่งเมื่อเทคโนโลยีเปลี่ยนแปลงอย่างรวดเร็ว GenAI กำลังพัฒนาอย่างรวดเร็วกว่าที่องค์กรภาครัฐส่วนใหญ่และงบประมาณของพวกเขาสามารถปรับตัวได้ การพยายามบล็อกแพลตฟอร์มใหม่ทุกครั้งที่เกิดขึ้นเป็นสิ่งที่ไม่ยั่งยืน เนื่องจากเมื่อแพลตฟอร์มหนึ่งถูกจำกัด อีกแพลตฟอร์มหนึ่งได้รับความนิยมแล้ว ผู้ใช้ที่ได้รับการฝึกอบรมให้เข้าใจความเสี่ยงที่ซ่อนอยู่สามารถปรับตัวข้ามเครื่องมือและรุ่นต่างๆ ได้

ความปลอดภัยในสภาพแวดล้อมที่มี AI ขึ้นอยู่กับการยอมรับว่า GenAI ได้ฝังอยู่ในชีวิตประจำวันแล้ว ไม่มีการนำเจนีกลับเข้าไปในขวดได้ การห้ามที่ครอบคลุมอาจแสดงถึงความระมัดระวัง แต่มันบ่อยครั้งที่แลกเปลี่ยนความเสี่ยงที่มองเห็นได้และสามารถจัดการได้ กับความเสี่ยงที่ไม่มองเห็นและไม่ได้รับการจัดการ สอนให้บุคคลหนึ่งใช้ AI อย่างรับผิดชอบ และพวกเขาจะพร้อมสำหรับสิ่งที่จะเกิดขึ้นต่อไป