ระเบียบปฏิบัติของตัวแทน: AI สามารถควบคุม AI ได้หรือไม่?

การพัฒนาอย่างรวดเร็วของปัญญาประดิษฐ์ (AI) ได้นำเราจากช่องทางสนทนาที่ง่ายๆ ไปสู่ตัวแทนอิสระ ซึ่งไม่เพียงแต่ตอบคำถามเท่านั้น แต่ยังวางแผน ใช้เครื่องมือ และดำเนินการตามภารกิจด้วยการแทรกแซงจากมนุษย์อย่างน้อยที่สุด เมื่อระบบเหล่านี้ถูกผสมผสานเข้ากับเศรษฐกิจดิจิทัลของเราอย่างลึกซึ้ง คำถามที่สำคัญก็เกิดขึ้น คือ เราจะควบคุมสิ่งที่เคลื่อนไหวเร็วกว่าความคิดของมนุษย์ได้อย่างไร วิธีการควบคุมแบบดั้งเดิมซึ่งพึ่งพาการดำเนินการทางกฎหมายที่ช้าและการตรวจสอบของมนุษย์เป็นระยะๆ ได้พิสูจน์แล้วว่าไม่เพียงพอ ซึ่งนำไปสู่การเกิดขึ้นของแนวคิดใหม่ๆ เช่น ระเบียบปฏิบัติของตัวแทน (Agentic Regulation) การเปลี่ยนแปลงนี้นำเราไปสู่คำถามที่สำคัญ คือ AI สามารถควบคุม AI ได้อย่างมีความหมายหรือไม่ บทความนี้สำรวจว่า AI สามารถควบคุม AI ได้อย่างมีความหมายหรือไม่ ทำไมการเปลี่ยนแปลงนี้จึงจำเป็น และความท้าทายที่เกิดขึ้นพร้อมกับการควบคุม AI ที่ได้รับการสนับสนุนจากตัวแทนในโลกที่ขับเคลื่อนโดยตัวแทน

ช่องว่างในการกำกับดูแลที่กว้างขึ้น

เมื่อระบบตัวแทนเปลี่ยนจากการทดลองไปสู่การนำไปใช้ในระดับใหญ่ ช่องว่างในการกำกับดูแลก็变得เห็นได้ชัดขึ้น ตัวแทน AI ที่เคยถูกจำกัดไว้ในการทดลองที่ควบคุมได้ตอนนี้กลายเป็นส่วนสำคัญของกระบวนการทำงานขององค์กร พวกมันเรียก API, ปรับเปลี่ยนการกำหนดค่า, และกระตุ้นกระบวนการทางด้านล่างโดยมีการมองเห็นอย่างจำกัดเกี่ยวกับเหตุผลที่การตัดสินใจของเครื่องจักรถูกทำขึ้น ซึ่งเป็นเรื่องที่น่ากังวลมากขึ้นเมื่อตัวแทนเหล่านี้เข้าถึงโครงสร้างพื้นฐานที่สำคัญและระบบหลัก การดำเนินการโดยอิสระทำให้ตัวแทนเหล่านี้มีศักยภาพที่จะดำเนินการในลักษณะที่ไม่ได้ตั้งใจหลักๆ เนื่องจากการปรับให้เหมาะสมที่ไม่สอดคล้องกันหรือสมมติฐานที่มีข้อบกพร่องที่ฝังอยู่ในเป้าหมายของพวกมัน ตัวอย่างเช่น ในภาคการเงินและด้านสุขภาพ ตัวแทนเหล่านี้ทำการตรวจจับการฉ้อโกง, จัดลำดับความสำคัญของกรณี, และจัดลำดับความสำคัญของธุรกรรมก่อนที่จะมีการทบทวนของมนุษย์ ซึ่งเป็นการพิจารณาทางการดำเนินการที่ดำเนินการด้วยความเร็วของเครื่องจักร เมื่อข้อผิดพลาดเกิดขึ้น มันจะไม่ถูกจำกัดไว้; ตรรกะที่มีข้อบกพร่องสามารถขยายไปทั่วการดำเนินการอัตโนมัติหลายพันครั้งในช่วงเวลาสั้นๆ รากฐานการกำกับดูแลที่พัฒนาโดยหน่วยงานเช่น National Institute of Standards and Technology และความพยายามทางกฎหมายเช่น EU AI Act เป็นสิ่งจำเป็น แต่สิ่งเหล่านี้ส่วนใหญ่ถูกออกแบบมาเพื่อระบบที่คงที่หรืออยู่ภายใต้การดูแลของมนุษย์ มันไม่ได้เตรียมพร้อมสำหรับตัวแทนผสมที่ประสานงานเครื่องมือและปรับปรุงเส้นทางการดำเนินการของตนเองอย่างไดนามิก

เหตุใดการกำกับดูแลของมนุษย์จึงตกหล่น

ในขณะที่การกำกับดูแลของมนุษย์ยังคงจำเป็นต่อการป้องกันความเสียหายจากระบบ AI ที่เป็นตัวแทน มันอาจไม่ใช่เรื่องที่เป็นไปได้สำหรับมนุษย์ที่จะกำกับดูแลการทำงานประจำวันของระบบเหล่านี้โดยตรง ข้อจำกัดหลักอยู่ในเรื่องที่สามารถอธิบายได้ว่าเป็นช่องว่างความเร็ว ในอดีต เทคโนโลยีเปลี่ยนแปลงด้วยความเร็วที่ทำให้ผู้กำกับดูแลสามารถสังเกต วิเคราะห์ และเขียนกฎได้ ในปัจจุบัน โมเดล AI ได้รับการอัปเดตอย่างต่อเนื่อง และตัวแทนอิสระดำเนินการในเวลาจริง ตัวแทนหนึ่งตัวสามารถดำเนินการธุรกรรมหรือการโต้ตอบหลายพันครั้งในเวลาที่มนุษย์หนึ่งคนอ่านรายงานเพียงครั้งเดียว หากตัวแทนเริ่มมีพฤติกรรมที่ไม่เหมาะสมหรือละเมิดกฎหมาย อันตรายสามารถแพร่กระจายได้ก่อนที่ผู้ดูแลระบบจะสังเกตเห็น

การหลอกลวงการเรียกซ้ำ

ข้อโต้แย้งหลักสำหรับการกำกับดูแลตัวแทนคือว่า เมื่อระบบ AI มีความซับซ้อนมากขึ้น มนุษย์ไม่สามารถเข้าใจการตัดสินใจทั้งหมดของพวกมัน โดยเฉพาะในพื้นที่ที่มีความเร็วสูง เช่น การเงินหรือความมั่นคงเครือข่าย ตัวแทนผู้ดูแลระบบ AI สามารถจับพฤติกรรมที่ไม่ดีได้เร็วกว่าทีมมนุษย์ใดๆ ได้อย่างไร ขณะที่ความคิดดูเหมือนเป็นวิธีแก้ปัญหาที่เหมาะสม มันสร้างสิ่งที่นักวิจัยเรียกว่า “การหลอกลวงการเรียกซ้ำ” หากระบบ AI A ดูแลระบบ B ใครจะดูแลระบบ A เราอาจสร้างระบบ C เพื่อดูแลระบบ A สิ่งนี้สามารถดำเนินต่อไปได้ไม่มีกำหนด ด้วยการเพิ่มชั้นใหม่ๆ เราเพิ่มความซับซ้อน แต่ไม่ได้เพิ่มความเข้าใจที่แท้จริง มนุษย์ยังคงอยู่ที่ปลายท้าย ไม่สามารถเข้าใจได้ว่าการตัดสินใจสุดท้ายเกิดขึ้นได้อย่างไร เราสามารถตรวจสอบผลลัพธ์ได้ แต่ไม่สามารถเข้าใจเหตุผลที่นำไปสู่ผลลัพธ์นั้นได้

ตัวแทนผู้พิทักษ์และระบบภูมิคุ้มกัน AI

尽管มีความเสี่ยง การทำงานเพื่อสร้างเครื่องมือทางเทคนิคสำหรับการกำกับดูแล AI ก็ได้เริ่มต้นขึ้นแล้ว ความคิดที่ได้รับการเสนอแนะหนึ่งคือการสร้างตัวแทนพิเศษเพื่อกำกับดูแลตัวแทนอื่นๆ ตัวแทนเหล่านี้เรียกว่าตัวแทนผู้พิทักษ์ (Guardian Agents) ไม่เหมือนกับตัวแทนฟังก์ชันซึ่งตาม đuổiเป้าหมายทางธุรกิจ ตัวแทนผู้พิทักษ์เหล่านี้มีอยู่เพื่อดูแล ตรวจสอบ และจำกัดระบบ AI อื่นๆ พวกมันสร้างระบบภูมิคุ้มกัน AI ที่ฝังอยู่ในโครงสร้างพื้นฐานขององค์กร

ตัวแทนผู้พิทักษ์เหล่านี้ติดตามการวิเคราะห์ต้นกำเนิด เพื่อกำหนดว่าการกระทำถูกเริ่มต้นโดยมนุษย์หรือเครื่องจักร พวกมันบังคับใช้การตรวจสอบบทบาท เพื่อให้แน่ใจว่าตัวแทนดำเนินการภายในขอบเขตที่ได้รับอนุญาต หากตัวแทนบริการลูกค้าพยายามเข้าถึงระบบเงินเดือนโดยไม่มีเหตุผลที่สมเหตุสมผล ตัวแทนผู้พิทักษ์สามารถบล็อกการกระทำได้ในเวลาจริง

การเปลี่ยนแปลงด้านกฎระเบียบ รวมถึงกลไกบังคับใช้ภายใต้ EU AI Act และ UK Data Protection and Digital Information Act ต้องการความโปร่งใสและความสามารถในการตรวจสอบได้ การปฏิบัติตามกฎระเบียบด้วยตนเองในระดับใหญ่นั้นไม่เหมาะสม ตัวแทนผู้พิทักษ์ทำให้การสร้างบันทึกการตรวจสอบเป็นอัตโนมัติ โดยสร้างบันทึกที่ไม่เพียงแต่แสดงการกระทำที่เกิดขึ้นเท่านั้น แต่ยังแสดงขั้นตอนการให้เหตุผลที่อยู่เบื้องหลังการกระทำเหล่านั้นด้วย วิธีการนี้เริ่มเปลี่ยน AI จากกล่องดำที่ไม่สามารถอธิบายได้ไปสู่ส่วนประกอบโครงสร้างพื้นฐานที่สามารถติดตามได้

รัฐธรรมนูญ AI และการกำกับดูแลแบบเรียกซ้ำ

เพื่อให้ AI สามารถกำกับดูแล AI ได้อย่างมีประสิทธิภาพ มันจะต้องดำเนินการภายใต้กฎที่สามารถตีความได้ รัฐธรรมนูญ AI เสนอหนึ่งเส้นทางนี้ รัฐธรรมนูญ AI ได้รับการพัฒนาโดย Anthropic ซึ่งฝึกโมเดลให้วิพากษ์วิจารณ์และแก้ไขผลลัพธ์ของตนเองตามหลักการทางจริยธรรมที่กำหนดไว้ล่วงหน้า แทนที่จะพึ่งพาการให้ข้อมูลโดยมนุษย์อย่างเดียว รัฐธรรมนูญ AI ใช้การเรียนรู้แบบเสริมกำลังจากข้อมูลลับ (RLAIF) โมเดลสร้างคำตอบ ประเมินมันตามกฎรัฐธรรมนูญ และปรับปรุงอย่างต่อเนื่อง สิ่งนี้สามารถสร้างระบบที่สอดคล้องกันมากขึ้นโดยไม่สูญเสียความมีประโยชน์

อุปสรรคทางกฎหมายและจริยธรรม

ความท้าทายทางเทคนิคมีขนาดใหญ่ แต่อุปสรรคทางกฎหมายและจริยธรรมมีขนาดใหญ่กว่า กฎหมายปัจจุบันของเราสำหรับมนุษย์และองค์กรที่พวกเขาดำเนินการ เมื่อตัวแทน AI ก่อให้เกิดอันตราย ใครที่รับผิดชอบ คือผู้พัฒนา ผู้ใช้ หรือ AI เอง นักวิชาการบางคนแนะนำให้รองรับ AI เป็นนิติบุคคล เช่นเดียวกับบริษัท แต่ความคิดนี้มีการถกเถียงกัน การให้ความเป็นนิติบุคคลแก่เครื่องจักรอาจทำให้ผู้สร้างหลบเลี่ยงความรับผิด

EU AI Act ใช้แนวทางตามความเสี่ยง แต่กฎหมายเคลื่อนไหวช้า และโค้ดเคลื่อนไหวเร็ว เมื่อกฎหมายถูกผ่านแล้ว เทคโนโลยีที่พยายามควบคุมมันจะพัฒนาไปแล้ว นี่คือเหตุผลที่ผู้เชี่ยวชาญบางคนเรียกร้อง “การกำกับดูแลโดยการออกแบบ” ซึ่งรวมถึงการบังคับให้ตัวแทน AI เก็บบันทึกการกระทำที่โปร่งใสซึ่งสามารถตรวจสอบได้แม้ว่ามนุษย์จะไม่สามารถเข้าใจเหตุผลที่แท้จริงได้ก็ตาม

สรุป

การกำกับดูแลตัวแทนไม่ใช่การอภิปรายที่เป็นทฤษฎีอีกต่อไป เมื่อตัวแทน AI เข้าไปสู่โครงสร้างพื้นฐานหลักและเริ่มทำการตัดสินใจเชิงปฏิบัติการในระดับใหญ่ การกำกับดูแลจะต้องพัฒนาไปพร้อมๆ กัน คำถามไม่ใช่ว่า AI สามารถช่วยในการกำกับดูแล AI ได้หรือไม่ ในหลายสภาพแวดล้อม มันจำเป็นต้องทำเช่นนั้น ระบบผู้พิทักษ์, รัฐธรรมนูญ, และกลไกการตรวจสอบอัตโนมัติจะกลายเป็นส่วนประกอบที่จำเป็นของการกำกับดูแลดิจิทัล อย่างไรก็ตาม การมอบหมายมีขอบเขต การตรวจสอบแบบเรียกซ้ำไม่ลบความรับผิดชอบออกไป การเพิ่มประสิทธิภาพไม่แทนการตัดสินใจ เมื่อ AI มีความสามารถมากขึ้น เราต้องตั้งใจมากขึ้นในการกำหนดขอบเขตที่มันไม่สามารถข้ามได้ การตัดสินใจบางอย่างยังคงเป็นเรื่องของมนุษย์ ไม่ใช่เพราะเครื่องจักรขาดความฉลาด แต่เพราะการกำกับดูแลสุดท้ายเป็นเรื่องของคุณค่า ความรับผิดชอบ และความชอบธรรม AI อาจช่วยบังคับใช้กฎ แต่ไม่สามารถตัดสินใจว่าคุณค่าใดที่กฎเหล่านั้นควรให้บริการ