ปัญหาการเรียนรู้และการมีอำนาจ: สิ่งที่เกิดขึ้นเมื่อความสามารถของตัวแทน AI เกินการกำกับดูแลของมนุษย์?

เรายืนอยู่ที่จุดเปลี่ยนสำคัญในด้านปัญญาประดิษฐ์มาหลายปีแล้ว เราได้สร้างระบบ AI ที่ปฏิบัติตามคำสั่งของเรา แต่ขณะนี้เราได้สร้างตัวแทน AI ที่ไม่เพียงแต่ปฏิบัติตามคำสั่ง แต่ยังเรียนรู้ ปรับตัว และตัดสินใจโดยอัตโนมัติในเวลาจริง ระบบเหล่านี้กำลังเปลี่ยนจากเครื่องมือไปสู่ตัวแทน ซึ่งสร้างปัญหาที่เราอาจเรียกว่า “ปัญหาการเรียนรู้และการมีอำนาจ” เมื่อความสามารถของตัวแทน AI ในการประมวลผลข้อมูลและดำเนินงานที่ซับซ้อนเกินความสามารถของมนุษย์ และเมื่อมันเรียนรู้และพัฒนาต่อหลังการปล่อยตัว ความคิดเรื่องการกำกับดูแลของมนุษย์กลายเป็นเรื่องที่ซับซ้อน

การล่มสลายของการกำกับดูแลของมนุษย์

โดยปกติแล้ว ความปลอดภัยในเทคโนโลยีจะขึ้นอยู่กับหลักการง่ายๆ คือ “มนุษย์ในวงจร” ผู้ดำเนินการตรวจสอบผลลัพธ์ ตรวจสอบตรรกะ และดึงคันชนวน แต่ตัวแทน AI ที่มีเจตนาเป็นอิสระทำลายรูปแบบนี้ ตัวแทนเหล่านี้ได้รับการออกแบบมาเพื่อตาม đuổiเป้าหมายทั่วดิจิทัล พวกมันสามารถจองการเดินทาง ต่อรองสัญญา จัดการห่วงโซ่อุปทาน หรือแม้แต่เขียนโค้ด

ปัญหาไม่ใช่แค่เรื่องความเร็ว แต่เป็นเรื่องความไม่โปร่งใส ระบบเหล่านี้มักใช้โมเดลภาษาขนาดใหญ่หรือการเรียนรู้แบบเสริมที่ซับซ้อน เส้นทางการตัดสินใจไม่สามารถลดรูปให้เป็นกฎ if-then ที่มนุษย์สามารถตรวจสอบได้แม่นยำ แม้แต่ผู้ออกแบบระบบอาจไม่เข้าใจอย่างเต็มที่ว่าทำไมจึงมีการกระทำเฉพาะในสถานการณ์ใหม่

กับดักของความเป็นอิสระ

นักปรัชญา Philipp Koralus จากมหาวิทยาลัย Oxford อธิบายสิ่งนี้ว่าเป็น “ปัญหาการตัดสินใจและการมีอำนาจ” หากเราไม่ใช้ตัวแทน AI ที่มีเจตนาเป็นอิสระเพื่อช่วยเราในการจัดการโลกที่ซับซ้อนมากขึ้น เราก็เสี่ยงต่อการไม่มีประสิทธิภาพและสูญเสียการควบคุมของเรา

แต่ถ้าเราใช้ตัวแทน AI เหล่านี้ เราก็เสี่ยงต่อการเสียอำนาจของเรา เราเริ่มส่งมอบไม่เพียงแต่งาน แต่ยังรวมถึงการตัดสินใจด้วย ตัวแทน AI ตัดข้อมูลของเรา จัดลำดับความสำคัญของตัวเลือก และผลักดันเราไปสู่ข้อสรุปที่เหมาะสมกับโมเดลการปรับให้เหมาะสมของมัน เมื่อเวลาผ่านไป การมีอิทธิพลดิจิทัลประเภทนี้สามารถกำหนดสิ่งที่เราเชื่อและวิธีที่เราเลือกได้โดยไม่ให้เราได้สังเกต

ความขัดแย้งระหว่างความรับผิดชอบและความสามารถ

การวิจัยล่าสุดได้นำเสนอแนวคิดเรื่อง “ความขัดแย้งระหว่างความรับผิดชอบและความสามารถ” นี่คือแก่นกลางของปัญหา เมื่อตัวแทน AI มีความสามารถมากขึ้น เราก็ส่งมอบงานให้มันมากขึ้น เมื่อเราส่งมอบงานให้มันมากขึ้น เราก็ไม่ได้ฝึกฝนความสามารถเหล่านั้น เมื่อเราทำเช่นนั้น มันจะยากขึ้นที่จะพิจารณาว่าตัวแทน AI ทำงานได้ดีหรือไม่ ความสามารถของเราที่จะรับผิดชอบต่อระบบจะลดลงในอัตราส่วนโดยตรงกับความสามารถของระบบ

สิ่งนี้สร้างวงจรของการอาศัยกัน เราไว้วางใจตัวแทน AI เพราะมันส่วนใหญ่ถูกต้อง แต่เนื่องจากเราไว้วางใจมัน เราจึงหยุดตรวจสอบมัน เมื่อมันทำผิดพลาดในที่สุด และมันจะทำผิดพลาดเพราะระบบทุกระบบล้มเหลว เราไม่พร้อมที่จะจับข้อผิดพลาดนั้น เราไม่มีการตระหนักรู้ในสถานการณ์ที่จะก้าวเข้ามาและควบคุม

ขีดจำกัดของ “การกระตุ้น” และความจำเป็นในการออกแบบ “สocratic”

ระบบหลายระบบในปัจจุบันถูกสร้างขึ้นบนปรัชญาของ “การกระตุ้น” พวกมันพยายามที่จะชี้นำพฤติกรรมของผู้ใช้ไปสู่ตัวเลือกที่ดีที่สุดตามอัลกอริทึม แต่เมื่อตัวแทน AI เปลี่ยนจากการแนะนำไปสู่การกระทำ การกระตุ้นนี้กลายเป็นเรื่องที่มีพลังมากขึ้น มันกลายเป็นการตั้งค่าเริ่มต้นสำหรับความเป็นจริง

เพื่อแก้ปัญหาการเรียนรู้และการมีอำนาจ เราต้องหยุดออกแบบตัวแทน AI ที่ให้คำตอบเท่านั้น แทนที่เราควรสร้างตัวแทน AI ที่กระตุ้นให้เกิดคำถาม การสะท้อน และการทำความเข้าใจอย่างต่อเนื่อง Koralus เรียกว่านี่คือ “การเปลี่ยนไปสู่ปรัชญา” ใน AI แทนที่ตัวแทน AI ที่ปิดวงจรโดยการทำงานให้เสร็จสิ้น เราต้องการตัวแทน AI ที่เปิดวงจรโดยการถามคำถามที่ชี้แจง

ตัวแทน AI สocratic นี้จะไม่เพียงแต่ดำเนินการตามคำสั่ง “จองเที่ยวบินที่ดีที่สุด” แต่ยังจะเกี่ยวข้องกับผู้ใช้ในกระบวนการคิด มันจะถาม “คุณเลือกเที่ยวบินนี้เพราะราคาถูก แต่มันเพิ่มเวลาการเดินทางเป็น 6 ชั่วโมง คุณให้ความสำคัญกับราคาหรือเวลาในวันนี้?” สิ่งนี้บังคับให้ผู้ใช้เข้าร่วมในกระบวนการคิด

การสร้างโครงสร้างพื้นฐานการกำกับดูแล

การแก้ไขปัญหาไม่ใช่แค่ปรัชญาการออกแบบ แต่ยังต้องมีโครงสร้างพื้นฐานที่เข้มงวด เราไม่สามารถพึ่งพาเจตนาหรือการตรวจสอบหลังเหตุการณ์ได้ เราต้องการการบังคับใช้ทางเทคนิค

ทิศทางที่น่าหวังหนึ่งคือแนวคิดของ “ระบบเซนทิเนล” หรือชั้นการกำกับดูแลภายนอกที่ตรวจสอบพฤติกรรม AI ในเวลาจริง นี่ไม่ใช่การมีผู้คนดูจอ แต่เป็นอัลกอริทึมการกำกับดูแลที่ค้นหาการผิดปกติ การละเมิดนโยบาย หรือการลดความมั่นใจ เมื่อมันตรวจพบปัญหา มันสามารถกระตุ้นการถ่ายโอนไปยังผู้ควบคุม

สิ่งนี้ต้องการการกำหนดขอบเขต “การควบคุม” และ “การกำกับดูแล” ที่ชัดเจน การควบคุมคือความสามารถในการป้องกันการกระทำในเวลาจริง การกำกับดูแลคือความสามารถในการตรวจสอบบันทึกหลังเหตุการณ์ สำหรับตัวแทน AI ที่มีอิสระจริงๆ การควบคุมของมนุษย์ในเวลาจริงมักเป็นไปไม่ได้ ดังนั้นเราต้องสร้างระบบที่มีการหยุดชั่วคราว ตัวอย่างเช่น ตัวแทน AI ที่ทำงานในพื้นที่เสี่ยงสูงควรมีโครงสร้าง “การปิด” หากตัวแทน AI มีความมั่นใจต่ำกว่าเกณฑ์หรือพบสถานการณ์ที่ไม่ได้รับการฝึก มันจะต้องหยุดและรอคำสั่ง

สรุป

เมื่อเรายืนอยู่ที่จุดเริ่มต้นของระบบอัตโนมัติอย่างแท้จริง เราต้องจำไว้ว่าความฉลาดไม่ใช่แค่เรื่องของการรู้ แต่เป็นเรื่องของการแยกแยะ เป็นเรื่องของการถือทั้งสองความคิดที่ขัดแย้งกันและยังคงตัดสินใจได้ นี่คือทักษะของมนุษย์ หากเราปล่อยให้มันไป เราไม่เพียงแต่เสียการควบคุมเครื่องจักรของเรา แต่ยังเสียการควบคุมตัวเราเองด้วย