การสร้างความไว้วางใจให้กับ AI คือมาตรฐานใหม่

AI กำลังเติบโตอย่างรวดเร็ว และเช่นเดียวกับเทคโนโลยีที่กำลังเติบโตอย่างรวดเร็ว มันจำเป็นต้องมีขอบเขตที่ชัดเจน เป็นเจตนา และสร้างขึ้นไม่เพียงเพื่อจำกัด แต่ยังเพื่อป้องกันและเสริมศักยภาพอีกด้วย สิ่งนี้เป็นจริงอย่างยิ่งเมื่อ AI ถูกฝังอยู่ในเกือบทุกด้านของชีวิตส่วนตัวและอาชีพของเรา

ในฐานะผู้นำด้าน AI เราอยู่ในจุดเปลี่ยนสำคัญ ในด้านหนึ่ง เรามีแบบจำลองที่เรียนรู้และปรับตัวได้เร็วกว่าเทคโนโลยีใดๆ ก่อนหน้านี้ ในด้านอื่น เรามีความรับผิดชอบที่เพิ่มขึ้นในการ đảm bảoว่าพวกมันทำงานด้วยความปลอดภัย ความซื่อสัตย์ และสอดคล้องกับมนุษย์อย่างลึกซึ้ง สิ่งนี้ไม่ใช่สิ่งฟุ่มเฟือย – มันเป็นพื้นฐานของ AI ที่เชื่อถือได้จริงๆ

ความไว้วางใจเป็นสิ่งสำคัญที่สุดในวันนี้

ในช่วงไม่กี่ปีที่ผ่านมา เราได้เห็นการพัฒนาที่น่าประทับใจในด้านโมเดลภาษา การให้เหตุผลแบบหลายโหมด และ AI ที่มีเจตนา แต่ด้วยการก้าวหน้าทุกขั้น ความเสี่ยงก็สูงขึ้น AI กำลังกำหนดการตัดสินใจทางธุรกิจ และเราได้เห็นว่าแม้เพียงข้อผิดพลาดเล็กๆ น้อยๆ ก็อาจมีผลกระทบอย่างมาก

ลองพิจารณา AI ในศาลเป็นตัวอย่าง เราได้ยินเรื่องราวของทนายความที่พึ่งพาแถลงการณ์ที่สร้างโดย AI เพียงเพื่อค้นพบว่าแบบจำลองสร้างกรณีเท็จ บางครั้งอาจส่งผลให้เกิดการดำเนินการทางวินัยหรือแม้กระทั่งการสูญเสียใบอนุญาต ในความเป็นจริง โมเดลทางกฎหมายแสดงให้เห็นว่าสามารถ “หลอกลวง” ในอย่างน้อย หนึ่งในหก ของคำถามที่ใช้ในการทดสอบ ยิ่งไปกว่านั้น มีกรณีที่น่าห่วงใย เช่น กรณีที่น่าเศร้าเกี่ยวกับ Character.AI ซึ่งได้อัปเดต คุณลักษณะด้านความปลอดภัย ของตนแล้ว โดยที่แชทบอทถูกเชื่อมโยงกับการฆ่าตัวตายของวัยรุ่น ตัวอย่างเหล่านี้เน้นย้ำถึงความเสี่ยงในโลกแห่งความเป็นจริงของ AI ที่ไม่ได้รับการตรวจสอบและความรับผิดชอบที่สำคัญที่เรามีในฐานะผู้นำด้านเทคโนโลยี ไม่ใช่แค่การสร้างเครื่องมือที่ฉลาดขึ้น แต่ยังสร้างอย่างมีความรับผิดชอบ โดยมีมนุษยชาติเป็นศูนย์กลาง

กรณีของ Character.AI เป็นการเตือนให้เรารู้ว่าทำไมความไว้วางใจจึงต้องถูกสร้างเข้าไปในพื้นฐานของ AI แบบสนทนา โดยที่แบบจำลองไม่เพียงแต่ตอบกลับ แต่ยังเข้าใจและปรับตัวในแบบเรียลไทม์ ในการโต้ตอบที่ขับเคลื่อนด้วยเสียงหรือในสถานการณ์ที่มีความเสี่ยงสูง แม้เพียงคำตอบที่หลอกลวงหรือการตอบกลับที่ไม่เหมาะสมเพียงครั้งเดียวก็สามารถกัดกร่อนความไว้วางใจหรือทำให้เกิดอันตรายได้ ราวกั้น – ระบบป้องกันทางเทคนิค ระบบขั้นตอน และมาตรการทางจริยธรรม – ไม่ใช่สิ่งจำเป็น แต่เป็นสิ่งจำเป็นสำหรับการเคลื่อนไหวอย่างรวดเร็วขณะปกป้องสิ่งที่สำคัญที่สุด: ความปลอดภัยของมนุษย์ ความซื่อสัตย์ทางจริยธรรม และความไว้วางใจที่ยั่งยืน

การพัฒนาของ AI ที่ปลอดภัยและเป็นไปตามข้อกำหนด

ราวกั้นไม่ใช่สิ่งใหม่ ในซอฟต์แวร์แบบดั้งเดิม เรามีกฎการตรวจสอบ ข้อจำกัดการเข้าถึงตามบทบาท และการตรวจสอบการปฏิบัติตามกฎระเบียบ แต่ AI นำความไม่แน่นอนมาสู่ระดับใหม่: พฤติกรรมที่เกิดขึ้นเอง ออกพุตที่ไม่ได้ตั้งใจ และการให้เหตุผลที่ไม่โปร่งใส

ความปลอดภัยของ AI ในยุคสมัยใหม่นี้มีหลายมิติ บางแนวคิดหลัก ได้แก่:

• การปรับพฤติกรรม ผ่านเทคนิค เช่น Reinforcement Learning from Human Feedback (RLHF) และ Constitutional AI เมื่อคุณให้แบบจำลองชุด “หลักการ” – เช่น รหัสจริยธรรมขนาดเล็ก
• โครงสร้างการกำกับดูแล ที่รวมนโยบาย จริยธรรม และรอบการตรวจสอบ
• เครื่องมือแบบเรียลไทม์ เพื่อตรวจจับ ฟิลเตอร์ หรือแก้ไขการตอบกลับแบบไดนามิก

กายวิภาคศาสตร์ของราวกั้น AI

McKinsey นิยามราวกั้น AI ว่าเป็นระบบที่ออกแบบมาเพื่อตรวจสอบ ประเมิน และแก้ไขเนื้อหาที่สร้างโดย AI เพื่อให้แน่ใจถึงความปลอดภัย ความถูกต้อง และความสอดคล้องทางจริยธรรม ราวกั้นเหล่านี้พึ่งพาส่วนผสมของส่วนประกอบที่ขับเคลื่อนด้วยกฎและ AI เช่น ตัวตรวจสอบ ตัวแก้ไข และตัวประสานงาน เพื่อตรวจจับปัญหา เช่น ความเอนเอียง ข้อมูลส่วนบุคคลที่สามารถระบุได้ (PII) หรือเนื้อหาที่เป็นอันตราย และปรับผลลัพธ์ให้เหมาะสมก่อนส่งมอบ

มาทำความเข้าใจกัน:

ก่อนที่คำสั่งจะถึงแบบจำลอง ราวกั้นการป้อนจะประเมินความตั้งใจ ความปลอดภัย และสิทธิ์การเข้าถึง ซึ่งรวมถึงการกรองและทำความสะอาดคำสั่งเพื่อปฏิเสธสิ่งที่ไม่ปลอดภัยหรือไม่สมเหตุสมผล การบังคับใช้การควบคุมการเข้าถึงสำหรับ API หรือข้อมูลขององค์กรที่ละเอียดอ่อน และตรวจสอบว่าเจตนาของผู้ใช้ตรงกับกรณีการใช้งานที่ได้รับการอนุมัติหรือไม่

เมื่อแบบจำลองสร้างการตอบกลับ ราวกั้นการผลิตจะเข้ามาประเมินและปรับแต่งการตอบกลับนั้น พวกมันกรองภาษาที่เป็นพิษ คำพูดที่เกลียดชัง หรือการให้ข้อมูลที่ผิด และใช้เครื่องมือบรรเทาผลกระทบจากความเอนเอียงหรือการตรวจสอบข้อเท็จจริงเพื่อลดการหลอกลวงและยึดผลตอบกลับไว้ในบริบทข้อเท็จจริง

ราวกั้นพฤติกรรมควบคุมว่าแบบจำลองจะพฤติกรรมอย่างไรในระยะยาว โดยเฉพาะอย่างยิ่งในปฏิสัมพันธ์ที่มีหลายขั้นตอนหรือที่มีความอ่อนไหวต่อบริบท พวกนี้รวมถึงการจำกัดความจำเพื่อป้องกันการบิดเบือนคำสั่ง การจำกัดการไหลของโทเค็นเพื่อหลีกเลี่ยงการโจมตีแบบอินเจคชัน และการกำหนดขอบเขตสำหรับสิ่งที่แบบจำลองไม่ได้รับอนุญาตให้ทำ

ระบบทางเทคนิคเหล่านี้สำหรับราวกั้นให้ผลลัพธ์ที่ดีที่สุดเมื่อฝังตัวไปทั่วหลายชั้นของสแต็ค AI

การเข้าใกล้แบบโมดูลาร์ทำให้แน่ใจว่ามาตรการรักษาความปลอดภัยมีความซ้ำซ้อนและทนทาน จับข้อผิดพลาดที่จุดต่างๆ และลดความเสี่ยงของจุดอ่อนที่อาจเกิดขึ้นได้ ในระดับแบบจำลอง เทคนิค เช่น RLHF และ Constitutional AI ช่วยกำหนดพฤติกรรมหลักโดยฝังความปลอดภัยโดยตรงเข้าไปในกระบวนการคิดและตอบสนองของแบบจำลอง ชั้นกลางแรปไปรอบๆ แบบจำลองเพื่อจับข้อมูลเข้าและออกในแบบเรียลไทม์ กรองภาษาที่เป็นพิษ ตรวจสอบข้อมูลที่ละเอียดอ่อน และเปลี่ยนเส้นทางเมื่อจำเป็น ในระดับกระบวนการ ราวกั้นประสานตรรกะและความเข้าถึงทั่วกระบวนการที่มีหลายขั้นตอนหรือระบบที่ผสมผสานกัน เพื่อให้แน่ใจว่า AI จะเคารพสิทธิ์ การปฏิบัติตามกฎระเบียบ และพฤติกรรมที่คาดการณ์ได้ในสภาพแวดล้อมที่ซับซ้อน

ในระดับที่กว้างขึ้น ราวกั้นระบบและโครงสร้างการกำกับดูแลให้การดูแลอย่างต่อเนื่องตลอดวงจรชีวิตของ AI บันทึกการตรวจสอบให้ความโปร่งใสและความสามารถในการติดตาม การดำเนินการ แบบมีมนุษย์ในวงจร นำการตรวจสอบโดยผู้เชี่ยวชาญมา และการควบคุมการเข้าถึงกำหนดว่าใครสามารถแก้ไขหรือเรียกใช้แบบจำลองได้ บางองค์กรยังใช้คณะกรรมการจริยธรรมเพื่อชี้แนะการพัฒนา AI ที่มีความรับผิดชอบด้วยการให้ข้อมูลจากฟังก์ชันข้าม

AI แบบสนทนา: ที่ที่ราวกั้นถูกทดสอบอย่างแท้จริง

AI แบบสนทนานำเสนอชุดความท้าทายที่แตกต่าง: การโต้ตอบแบบเรียลไทม์ การป้อนข้อมูลของผู้ใช้ที่ไม่คาดคิด และมาตรฐานที่สูงสำหรับการรักษาความปลอดภัยและความมีประโยชน์ ในสถานการณ์เหล่านี้ ราวกั้นไม่ใช่แค่ฟิลเตอร์เนื้อหา – มันช่วยกำหนดโทน บังคับขอบเขต และกำหนดว่าเมื่อไหร่ควรยกเลิกหรือเบี่ยงเบนหัวข้อที่ละเอียดอ่อน ซึ่งอาจหมายถึงการเปลี่ยนเส้นทางคำถามทางการแพทย์ไปยังผู้เชี่ยวชาญที่ได้รับใบอนุญาต การตรวจจับและลดความขัดแย้งของภาษาที่เป็นอันตราย หรือการรักษาความสอดคล้องโดยการรับรองว่าスคริปต์ยังคงอยู่ภายในขอบเขตที่กำหนดนั้น

ในสถานการณ์แนวหน้า เช่น การบริการลูกค้าหรือการดำเนินงานภาคสนาม มี空间สำหรับการผิดพลาดน้อยลง การตอบกลับหลอกลวงเพียงครั้งเดียวหรือการตอบกลับที่ไม่เหมาะสมอาจกัดกร่อนความไว้วางใจหรือนำไปสู่ผลที่ตามมาได้ ตัวอย่างเช่น สายการบินที่สำคัญต้องเผชิญกับ คดี หลังจากที่แชทบอท AI ให้ข้อมูลที่ไม่ถูกต้องแก่ลูกค้าเกี่ยวกับส่วนลดการเสียชีวิตของครอบครัว ศาลตัดสินว่าบริษัทต้องรับผิดชอบต่อการตอบกลับของแชทบอท ไม่มีใครชนะในสถานการณ์เหล่านี้ นั่นเป็นเหตุผลที่เราต้องรับผิดชอบต่อ AI ที่เราวางไว้ในมือของลูกค้า

การสร้างราวกั้นคืองานของทุกคน

ราวกั้นควรได้รับการปฏิบัติไม่เพียงแต่ในฐานะความสำเร็จทางเทคนิคเท่านั้น แต่ยังเป็นแนวคิดที่ต้องฝังอยู่ในทุกขั้นตอนของวงจรการพัฒนา ในขณะที่การ自動化สามารถระบุปัญหาได้อย่างชัดเจน การตัดสินใจ การเอาใจใส่ และบริบทยังคงต้องการการดูแลของมนุษย์ ในสถานการณ์ที่มีความเสี่ยงสูงหรือไม่ชัดเจน มนุษย์เป็นสิ่งจำเป็นในการทำให้ AI ปลอดภัย ไม่ใช่แค่ในฐานะการสำรองเท่านั้น แต่เป็นส่วนสำคัญของระบบ

เพื่อทำให้ราวกั้นเป็นจริง พวกมันต้องถูกฝังอยู่ในวงจรการพัฒนาซอฟต์แวร์ ไม่ใช่เพิ่มเข้ามาในตอนท้าย ซึ่งหมายความว่าการฝังความรับผิดชอบทั่วทุกขั้นตอนและทุกบทบาท ผู้จัดการผลิตภัณฑ์กำหนดสิ่งที่ AI ควรและไม่ควรทำ นักออกแบบตั้งความคาดหวังของผู้ใช้และสร้างเส้นทางการกู้คืนอย่างสวยงาม นักวิศวกรสร้างการสำรอง การตรวจสอบ และการดูแลระบบ QA ทดสอบกรณีเชิงขอบและจำลองการละเมิด นโยบายและความสอดคล้องแปลนโยบายเป็นตรรกะ ทีมสนับสนุนให้บริการเป็นเครือข่ายความปลอดภัยของมนุษย์ และผู้จัดการต้องจัดลำดับความสำคัญของความไว้วางใจและความปลอดภัยจากบนลงล่าง โดยสร้างพื้นที่ในแผนงานและให้รางวัลแก่การพัฒนาที่มีความรับผิดชอบและรอบคอบ แม้กระทั่งแบบจำลองที่ดีที่สุดก็จะพลาดสัญญาณที่ไม่ชัดเจน และนั่นคือที่ที่ทีมที่ได้รับการฝึกอบรมและเส้นทางการยกเลิกที่ชัดเจนกลายเป็นชั้นป้องกันสุดท้าย ทำให้ AI ยึดมั่นในคุณค่าของมนุษย์

การวัดความไว้วางใจ: วิธีการรู้ว่าราวกั้นกำลังทำงาน

คุณไม่สามารถจัดการสิ่งที่คุณไม่ได้วัด หากความไว้วางใจเป็นเป้าหมาย เราต้องการคำจำกัดความที่ชัดเจนเกี่ยวกับสิ่งที่ความสำเร็จดูเหมือนไปไกลกว่าความพร้อมใช้งานหรือความล่าช้า เมตริกสำคัญสำหรับการประเมินราวกั้นรวมถึงความแม่นยำด้านความปลอดภัย (ความถี่ที่การออกพุตที่เป็นอันตรายถูกปิดกั้นสำเร็จเทียบกับผลลัพธ์เท็จ) อัตราการแทรกแซง (ความถี่ที่มนุษย์เข้ามาแทรกแซง) และประสิทธิภาพการกู้คืน (วิธีที่ระบบขอโทษ แนะนำหรือลดความขัดแย้งหลังความล้มเหลว) สัญญาณ เช่น ความคิดเห็นของผู้ใช้ อัตราการหยุดใช้ และความสับสนซ้ำๆ สามารถให้ข้อมูลเชิงลึกเกี่ยวกับว่าผู้ใช้รู้สึกปลอดภัยและเข้าใจหรือไม่ และสิ่งสำคัญคือความสามารถในการปรับตัวว่าระบบตอบสนองอย่างไรต่อข้อเสนอแนะ

ราวกั้นไม่ควรเป็นแบบนิ่งๆ มันควรพัฒนาไปตามการใช้งานจริง กรณีเชิงขอบ และจุดบอดของระบบ การประเมินอย่างต่อเนื่องช่วยให้เราเห็นได้ว่ามาตรการรักษาความปลอดภัยทำงานอย่างไร ที่ไหนมีความเข้มงวดหรือหย่อนยานเกินไป และแบบจำลองตอบสนองอย่างไรเมื่อถูกทดสอบ โดยไม่มีการมองเห็นถึงประสิทธิภาพของราวกั้นตามเวลา เราอาจมองว่ามันเป็นเพียงช่องทำเครื่องหมายแทนระบบที่มีชีวิตชีวา

นั่นกล่าวได้ว่า แม้กระทั่งราวกั้นที่ออกแบบมาอย่างดีที่สุดก็ยังเผชิญกับการแลกเปลี่ยนโดยธรรมชาติ การปิดกั้นมากเกินไปสามารถทำให้ผู้ใช้หงุดหงิด การปิดกั้นน้อยเกินไปสามารถก่อให้เกิดอันตรายได้ การปรับสมดุลระหว่างความปลอดภัยและความมีประโยชน์เป็นความท้าทายที่ต่อเนื่อง ราวกั้นเองอาจแนะนำความอ่อนไหวใหม่ๆ – ตั้งแต่การฉีดคำสั่งไปจนถึงความเอนเอียงที่เข้ารหัสไว้ พวกมันต้องสามารถอธิบายได้ ยุติธรรม และปรับได้ หรือมันจะกลายเป็นเพียงชั้นความไม่โปร่งใสเพิ่มเติม

มองไปข้างหน้า

เมื่อ AI กลายเป็นสนทนา มีการผสมผสานเข้ากับกระบวนการทำงาน และสามารถจัดการงานอิสระได้ การตอบกลับของมันต้องมีความน่าเชื่อถือและรับผิดชอบ ในสาขาต่างๆ เช่น กฎหมาย การบิน ความบันเทิง การบริการลูกค้า และการดำเนินงานแนวหน้า การตอบกลับ AI เพียงครั้งเดียวสามารถส่งผลต่อการตัดสินใจหรือกระตุ้นการดำเนินการได้ ราวกั้นช่วยให้แน่ใจว่าปฏิสัมพันธ์เหล่านี้ปลอดภัยและเป็นไปตามความคาดหวังของโลกแห่งความเป็นจริง เป้าหมายไม่ใช่แค่การสร้างเครื่องมือที่ฉลาดขึ้น แต่เป็นการสร้างเครื่องมือที่ผู้คนสามารถไว้วางใจได้ และใน AI แบบสนทนา ความไว้วางใจไม่ใช่สิ่งพิเศษ – มันเป็นมาตรฐาน