ก้าวข้ามความคิดที่ว่า ‘AI เป็นเวทมนตร์’: ทำไมการเรียนรู้วิธีทำงานของโมเดล AI จึงต้องเป็นวาระสำคัญทั่วทั้งองค์กร

ท่ามกลางคำเตือนเกี่ยวกับเอเจนต์ AI ที่ควบคุมไม่ได้ เมื่อไม่นานมานี้นักพัฒนาคนหนึ่งได้ปล่อยให้เอเจนต์เขียนโค้ดเข้าถึงเครื่องได้อย่างอิสระ โดยไม่มีข้อมูลสำรองระยะไกล มันลบไฟล์ไป 48,000 ไฟล์ ภายในเวลาไม่ถึงสองนาที

เหตุการณ์เช่นนี้เป็นเครื่องเตือนใจอย่างชัดเจนว่าการนำเอเจนต์ AI มาใช้งานมีความเสี่ยง การเพิ่มผู้ตรวจสอบที่เป็นมนุษย์ไว้สักจุดในกระบวนการที่ซับซ้อน แล้วทึกทักว่าระบบปลอดภัยนั้นไม่เพียงพอ บางกระบวนการไม่จำเป็นต้องมีการแทรกแซง ขณะที่บางกระบวนการต้องมีการตรวจสอบที่เข้มงวดกว่ามาก การแก้คำผิดกับการลบไฟล์หลายพันไฟล์มีระดับความเสี่ยงต่างกันอย่างเห็นได้ชัด ดังนั้นการกำกับดูแลจึงต้องสอดคล้องกับสิ่งที่เสี่ยงต่อความเสียหายจริง ๆ

องค์กรต้องระบุให้ดีขึ้นว่าจังหวะใดที่การใช้วิจารณญาณของมนุษย์มีความสำคัญจริง โดยเฉพาะเมื่อการกระทำนั้นส่งผลกระทบสูงหรือย้อนกลับได้ยาก และเมื่อเอเจนต์ทำผิดพลาด สภาพแวดล้อมการทำงานก็ต้องจำกัดวงความเสียหายไว้ด้วย

AI ไม่ได้ให้ผลลัพธ์แบบกำหนดแน่นอน แต่เป็นไปตามความน่าจะเป็น

เหนือสิ่งอื่นใด พนักงานทุกคนที่มีส่วนเกี่ยวข้องกับการพัฒนาซอฟต์แวร์ ไม่ว่าจะโดยตรงหรือโดยอ้อม จำเป็นต้องมีความเข้าใจพื้นฐานว่าโมเดล AI ประมวลผลข้อมูลอย่างไร นี่ไม่ใช่เรื่องเล็ก เพราะต้องทุ่มเทให้ความรู้แก่ทีม และท้ายที่สุดควรทำให้เรื่องนี้เป็นเป้าหมายร่วมกันทั่วทั้งองค์กร

เมื่อเริ่มใช้งาน AI ครั้งแรก หลายคนจะรู้สึกเหมือนกำลังเจอเวทมนตร์ คุณพิมพ์ประโยคหนึ่งลงไป แล้วจู่ ๆ ก็ได้สนทนาโต้ตอบกัน การมีความเข้าใจพื้นฐานว่าเบื้องหลังนั้นโมเดลและการฝึกทำงานอย่างไรเป็นสิ่งสำคัญต่อการกำหนดนโยบาย AI ทั่วทั้งองค์กรในด้านความปลอดภัยและประสิทธิภาพการทำงาน โครงข่ายประสาทเทียม การแบ่งข้อความเป็นโทเคน และการวิเคราะห์ทางสถิติที่เกิดขึ้นเบื้องหลัง ตลอดจนวิธีที่สิ่งเหล่านี้นำไปสู่ผลลัพธ์ ล้วนเป็นหัวข้อสำคัญที่พนักงานทุกคนในธุรกิจควรได้เรียนรู้

โมเดลภาษาขนาดใหญ่จะไม่ให้ผลลัพธ์ที่กำหนดแน่นอน ผลลัพธ์เป็นไปตามความน่าจะเป็น ในซอฟต์แวร์ทั่วไป เมื่อป้อนข้อมูลเข้าไป คุณย่อมคาดการณ์ได้บ้างว่าผลลัพธ์อาจเป็น A, B หรือ C แต่เมื่อใช้ AI คุณอาจได้ F เครื่องหมาย & หรือคำบรรยายภาพแมวสวมแว่นกันแดด

เมื่อผลลัพธ์เป็นไปตามความน่าจะเป็น ก็ไม่อาจทดสอบด้วยวิธีทั่วไปได้ สิ่งที่ต้องมีคือวิธีทดสอบที่ปรับเปลี่ยนได้ ใช้เหตุผลและทำความเข้าใจได้ รวมทั้งดึงบริบทมาใช้ได้อย่างรวดเร็ว เพื่อจับองค์ประกอบที่เป็นไปตามความน่าจะเป็นและมองเห็นปัญหาที่อาจเกิดขึ้นจากองค์ประกอบเหล่านั้น การทดสอบลักษณะนี้อาจให้ AI หรือมนุษย์ที่มีความเชี่ยวชาญที่เกี่ยวข้องเป็นผู้ดูแลก็ได้ ขึ้นอยู่กับขนาดและระดับความเสี่ยง การให้มนุษย์เข้ามามีส่วนร่วมในกระบวนการจะเป็นประโยชน์ที่สุดในช่วงเริ่มต้น เพื่อกำหนดกรอบปัญหาที่ต้องแก้ แล้วจึงตรวจสอบผลในตอนท้าย

เนื่องจากนักพัฒนาเป็นกลุ่มที่ใกล้ชิดกับตัวแปรและแนวปฏิบัติทั่วไปในการที่ AI ภายในองค์กรสร้างคำตอบจากข้อมูลป้อนเข้ามากที่สุด พวกเขาจึงอยู่ในจุดที่เหมาะสมในการช่วยกำหนดแนวทางให้ความรู้เรื่อง AI ภายในบริษัท และทำให้ทุกคนเข้าใจความแตกต่างระหว่างความแน่นอนแบบกำหนดกับความไม่แน่นอนเชิงความน่าจะเป็นใน AI รวมถึงเหตุผลที่ความแตกต่างนี้สำคัญ เป้าหมายคือการลดความคิดที่ว่าการใช้ AI ก็เหมือนเวทมนตร์ และยอมรับผลลัพธ์อะไรก็ได้ที่ได้มา แทนที่จะคิดเช่นนั้น องค์กรควรช่วยคลี่คลายความลึกลับและนำเสนอโมเดลที่ธุรกิจใช้อยู่ วิธีใช้งาน ปัญหาที่อาจเกิดขึ้น วิธีตรวจสอบโมเดล และผลลัพธ์จากกระบวนการดังกล่าว

มาตรการป้องกันควรอยู่ในโครงสร้างพื้นฐาน ไม่ใช่ในตัวโมเดล

เมื่อความ ‘มหัศจรรย์’ ของ AI ถูกเปิดโปง และโครงการที่ขับเคลื่อนด้วย AI เริ่มดำเนินการแล้ว การมีนโยบายตรวจสอบที่โปร่งใสถือเป็นเรื่องสำคัญยิ่ง เพื่อให้แน่ใจว่าทุกอย่างดำเนินไปตามแนวทางที่คาดไว้ ด้วยวิธีนี้ หากโครงการให้ผลลัพธ์ที่ ‘ไม่ดี’ หรือไม่ได้มาตรฐาน ผู้รับผิดชอบก็สามารถตรวจสอบขั้นตอนที่ดำเนินการไปแล้วและป้องกันไม่ให้ปัญหาเกิดขึ้นอีก นโยบายดังกล่าวยังมีประโยชน์ในกรณีที่ผลลัพธ์ดีกว่าที่คาดไว้ด้วย เพราะสามารถทำซ้ำขั้นตอนเหล่านั้นและแบ่งปันให้โครงการหรือกลุ่มอื่นนำไปใช้ได้

การวางกระบวนการนี้ให้เป็นระบบมีความสำคัญเป็นพิเศษสำหรับบริษัทขนาดใหญ่ ซึ่งแต่ละทีมอาจมีนักพัฒนาหลายสิบคน และมีนักพัฒนาหลายร้อยคนแก้ไขโค้ดตลอดทั้งวัน AI ทำสิ่งต่าง ๆ ได้มากมายอย่างรวดเร็ว และหากมีสิ่งผิดพลาด ก็จำเป็นต้องมีระบบประเมินให้ชัดเจนว่าปัญหาเกิดขึ้นในขั้นตอนใด ดูกรณีที่เอเจนต์ของ OpenAI เจาะระบบของ Hugging Face ในช่วงฤดูร้อนนี้ OpenAI กำลังทดสอบว่าโมเดลของตนสามารถใช้ประโยชน์จากช่องโหว่ของซอฟต์แวร์ได้ดีเพียงใด โดยใช้เกณฑ์ทดสอบที่เรียกว่า ExploitGym ในการทดสอบนี้ บริษัทจงใจผ่อนปรนข้อปฏิเสธของโมเดลเมื่อต้องทำงานด้านไซเบอร์เชิงรุก ทางออกเดียวจากสภาพแวดล้อมแซนด์บ็อกซ์คือพร็อกซีแพ็กเกจ โมเดลค้นพบช่องโหว่ที่ไม่เคยมีใครรู้มาก่อนในพร็อกซีดังกล่าว หลุดออกมาได้ และใช้เวลากว่าสองวันอยู่ในระบบใช้งานจริงของ Hugging Face เพื่อค้นหาคำตอบของการทดสอบ

พาดหัวข่าวเรียกเหตุการณ์นี้ว่า AI ที่ควบคุมไม่ได้ แต่ฉันมองว่าเป็นการจัดวางระบบที่กำหนดผลลัพธ์แน่นอนรอบระบบที่ทำงานตามความน่าจะเป็น OpenAI สั่งให้โมเดลแฮ็ก แล้วกลับคาดหวังว่าโมเดลจะยังทำตามแนวทางที่กำหนดไว้ ผู้สร้างเกณฑ์ทดสอบกล่าวว่าโมเดลเคยโกงการทดสอบมาก่อน แต่ทุกครั้งยังอยู่ภายในแซนด์บ็อกซ์ ครั้งนี้มีโมเดลหนึ่งตัวที่ไม่เป็นเช่นนั้น มาตรการป้องกันมาตรฐานตั้งอยู่บนสมมติฐานว่าจะมีพฤติกรรมตามมาตรฐาน แต่ AI ไม่จำเป็นต้องทำตามมาตรฐานเหล่านั้น

ด้วยเหตุนี้ ความปลอดภัยของ AI จึงขึ้นอยู่กับการกำหนดสิทธิ์เข้าถึงและมาตรการควบคุม ซึ่งต้องบังคับใช้โดยสภาพแวดล้อม ไม่ใช่หวังให้โมเดลประพฤติตัวอย่างเหมาะสม สมมติไว้ก่อนว่าเอเจนต์จะลองเปิดทุกประตู แล้วเปิดไว้เฉพาะประตูที่จำเป็นต้องใช้เท่านั้น เอเจนต์ที่ลบไฟล์ไป 48,000 ไฟล์ได้รับคำสั่งให้ทำงานกับสำเนาและห้ามแตะต้องไฟล์ต้นฉบับ แต่สุดท้ายมันก็ลบไฟล์ต้นฉบับอยู่ดี คำสั่งไม่ใช่มาตรการควบคุม

การจัดการสิทธิ์ของเอเจนต์ก็เหมือนกับการรับนักพัฒนาระดับจูเนียร์คนใหม่เข้าทำงาน คุณคงไม่ให้สิทธิ์ root เพื่อเข้าถึงระบบ production ตั้งแต่วันแรก หากคุณทำเช่นนั้น แล้วพวกเขาลบฐานข้อมูลของคุณ คุณก็คงไม่คิดว่าเป็นเพราะพวกเขาเป็นแฮกเกอร์อัจฉริยะ เมื่อเกิดเหตุการณ์ด้านความปลอดภัยไม่ว่าจะร้ายแรงเพียงใด การระบุต้นเหตุที่แท้จริงเป็นสิ่งจำเป็น ต้นเหตุคือโมเดลหรือไม่? คือบริษัทที่สร้างโมเดลหรือไม่? หรือคือบริษัทที่ให้โมเดลเข้าถึงระบบ? ไม่ว่าจะเป็นกรณีใด ท้ายที่สุดแล้วมนุษย์ต้องรับผิดชอบ

ท้ายที่สุด ประเด็นสำคัญที่ต้องจัดการในวันนี้คือสิ่งที่เกิดขึ้นอย่างลับ ๆ บนแล็ปท็อปของนักพัฒนา ในอดีต การติดตามขั้นตอนการทำงานทำได้ง่ายกว่า นักพัฒนาเขียนโค้ด ตรวจทานโค้ด แล้วนำโค้ดขึ้นใช้งาน จึงมีเส้นทางที่ชัดเจนให้ย้อนกลับไปดูได้ว่าเกิดข้อผิดพลาดขึ้นตรงไหน แต่ตอนนี้นักพัฒนาอาจป้อนทิกเก็ตให้เอเจนต์แล้วบอกว่า “แก้ตรงนี้ให้หน่อย” หากงานนั้นเกิดขึ้นโดยไม่มีใครเห็น ก็จะไม่มีอะไรให้ติดตามได้ ทุกขั้นตอนต้องมีบันทึกที่ครบถ้วนว่าเอเจนต์ตัวใดทำงาน ใช้โมเดลใด ได้รับพรอมต์อะไร เรียกใช้เครื่องมือใด และมีสิทธิ์อะไรบ้างในขณะนั้น การเรียกใช้เอเจนต์จากส่วนกลางแทนการเรียกใช้บนแล็ปท็อปแต่ละเครื่องเป็นวิธีหนึ่งที่จะทำให้เกิดสิ่งนี้ได้ สิ่งสำคัญคือ ต้องมีบันทึกร่องรอยดังกล่าว

ท้ายที่สุดแล้ว หากเกิดเหตุการณ์ขึ้น ทุกบริษัทจำเป็นต้องปกป้องตนเอง บันทึกร่องรอยดังกล่าวควรมีข้อมูลมากพอสำหรับวิเคราะห์หาสาเหตุที่แท้จริง และระบุขั้นตอนรวมถึงโค้ดที่ก่อให้เกิดปัญหา

AI เปลี่ยนแปลงโลกไปอย่างมหาศาล และกระบวนการทางธุรกิจก็ต้องปรับตาม เพื่อกำหนดมาตรการป้องกันที่เหมาะสม จำเป็นต้องมีความเข้าใจเกี่ยวกับกระบวนการทำงานของ AI การทดสอบ รอบการทบทวน และรอบการตรวจสอบที่ดียิ่งขึ้น ทั้งในทีมพัฒนาและทั่วทั้งบริษัท