ความหมายที่แท้จริงของ Human-in-the-loop คืออะไร?

ในช่วงต้นศตวรรษที่ 20 นักปรัชญาชาวอังกฤษ Gilbert Ryle ได้ใช้คำว่า “ghost in the machine” ในการเขียนเรื่อง The Concept of Mind Ryle ใช้คำนี้เพื่อต่อต้านความเชื่อที่ว่าจิตและร่างกายเป็นสองสิ่งที่แยกจากกัน สำหรับ Ryle การแบ่งแยกนี้เป็นข้อผิดพลาด เนื่องจากการคิดและกระทำเป็นส่วนหนึ่งของระบบเดียวกัน ไม่ใช่สองส่วนที่แยกจากกัน

ด้วยการมาถึงของ AI คำว่า “human-in-the-loop” ก็ถูกใช้ในการพูดถึงผู้ใช้เครื่องมือ AI เพื่อเพิ่มประสิทธิภาพ หากมนุษย์และระบบอัจฉริยะรวมกันมากขึ้นกว่าเดิม เรากำลังสร้างการผสมผสานที่ไร้ขอบเขตหรือไม่ หรือเรากำลังสร้างภาพลวงที่ทำให้เรารู้สึกว่ามีการควบคุม?

บริษัทสตาร์ทอัพพึ่งพาความคิดนี้ในการพูดถึงเครื่องมือของตน ในขณะที่มันสัญญาว่าจะนำมาซึ่งนวัตกรรมและความมั่นใจ แต่ความเป็นจริงมักจะซับซ้อนกว่านั้น ความรับผิดชอบสามารถกระจายออกไปได้ง่าย และการรับผิดชอบสามารถตามรอยได้ยาก

เมื่อระบบ AI เข้าไปสู่โดเมนที่ละเอียดอ่อน เช่น การศึกษาหรือสงคราม การเดิมพันไม่ใช่เรื่องสมมุติอีกต่อไป สิ่งที่ human-in-the-loop แท้จริงหมายถึง และสิ่งนี้เป็นเพียงคำพูดที่ใช้เมื่อพวกเขาหายไปทั้งหมดหรือไม่?

1. Human-in-the-loop เป็นโล่สำหรับการรับผิดชอบ

หากใช้คำว่า human-in-the-loop อย่างไม่ระมัดระวัง มันสามารถเป็นวิธีที่ง่ายในการเลื่อนความรับผิดชอบโดยไม่ต้องมีส่วนร่วมอย่างแท้จริง Maysa Hawwash ผู้ก่อตั้งและ CEO ของ Scale X ได้เขียนเกี่ยวกับการเลื่อนความรับผิดชอบและพูดอย่างตรงไปตรงมาเกี่ยวกับวิธีการใช้คำนี้ Hawwash บอกกับ Startup Beat ว่า “มันไม่แตกต่างจากวิธีการเลื่อนภาระอื่นๆ” โดยใช้ตัวอย่างของวิธีที่ผู้จัดการทรัพยากรบุคคลใช้นโยบายการลงนามเพื่อเลื่อนความรับผิดชอบของบริษัท “หากคุณมีนโยบายและคนอ่านและลงนามในนโยบายแล้ว บริษัทของคุณจะไม่ต้องรับผิดชอบ” เธอกล่าว

สิ่งที่เกิดขึ้นคือรูปแบบที่คุ้นเคยทั่วทั้งระบบองค์กรที่ความรับผิดชอบถูกเลื่อนออกไปมากกว่าการกำจัด Hawwash มองว่านี่เป็นวิธีการที่ขี้เกียจซึ่งหลีกเลี่ยงการคิดอย่างมีวิจารณญาณหรือการทำความเข้าใจในพื้นที่ที่อาจส่งผลกระทบต่อผู้คนหรือชุมชน “ดังนั้นคุณจึงเลื่อนภาระ และไม่สำคัญว่าคนจะเข้าใจนโยบายหรือไม่ ไม่สำคัญว่านโยบายจะมีเหตุผลหรือไม่” เธอกล่าว

ในกรอบนี้ “human-in-the-loop” มีความเสี่ยงที่จะกลายเป็นเรื่องของการปิดบังมากกว่าการแทรกแซงที่มีความหมาย เมื่อการกำกับดูแลถูกลดลงเหลือการลงนาม ส่วนของมนุษย์กลายเป็นสัญลักษณ์มากกว่าที่จะเป็นส่วนสำคัญ

Hawwash อ้างถึง การกระทำที่น่าสังเวชของกองทัพเร็วๆ นี้ — โรงเรียนใน Minab, Iran — ที่ซึ่งมนุษย์อนุมัติการโจมตี แต่การมีอยู่ของการตัดสินใจโดยมนุษย์ไม่ได้หมายความว่ามีการชี้แจงทางจริยธรรมหรือการไตร่ตรองอย่างเพียงพอ “เมื่อคุณอยู่ในสงครามหรือทำการผ่าตัดที่ซับซ้อน คุณไม่มีเวลาที่จะใช้ human-in-the-loop เป็นโล่”

2. การออกแบบสำหรับการรับผิดชอบ ไม่ใช่แค่การกำกับดูแล

ทางเลือกไม่ใช่การละทิ้งระบบ human-in-the-loop แต่การรับทราบถึงความมุ่งมั่นในการออกแบบ ซึ่งหมายถึงการเคลื่อนไหวไปสู่โครงสร้างความรับผิดชอบอย่างจริงจัง

“มีการแข่งขันที่จะนำ AI มาใช้มากขึ้นในตลาด มีการคิดมากเกินไปจากมุมมองด้านการออกแบบ เช่น ผลกระทบทางด้านล่างสู่ชุมชน ผู้คน หรือผู้ใช้สิ้นเปลือง” Hawwash กล่าว

ความเร็วกลายเป็นตัวแปรที่แข่งขันกันหลัก ในการแข่งขันนั้น ความรับผิดชอบมักถูกเลื่อนออกไปมากกว่าที่จะถูกฝังไว้ ผลลัพธ์คือโมเดลการปฏิบัติตามจริยธรรมที่เกิดขึ้นหลังการวางจำหน่ายแทนการคาดการณ์ไว้ระหว่างการพัฒนา

การเข้าถึงอาจเร่งการนำไปใช้ แต่ก็ทำให้ผลกระทบเพิ่มขึ้น ระบบไม่ได้จำกัดอยู่แค่ผู้ใช้ทางเทคนิคเท่านั้น แต่สามารถกำหนดการตัดสินใจสำหรับผู้ที่มีความเข้าใจและบริบทที่แตกต่างกัน ในสภาพแวดล้อมดังกล่าว ความรับผิดชอบไม่สามารถส่งต่อไปยังผู้ใช้สิ้นเปลืองได้

3. Human-in-the-loop เป็นความแม่นยำและความรับผิดชอบ

Abhay Gupta ผู้ร่วมก่อตั้ง Frizzle มีมุมมองที่เป็นปฏิบัติการ — มีพื้นฐานมาจากการที่สร้างระบบที่การกำกับดูแลของมนุษย์เป็นเรื่องจริงและจำเป็น

บริษัทของเขาเกิดขึ้นจากปัญหาเฉพาะ — ครูทำงานหนัก “ในเมืองคุณได้ยินเกี่ยวกับนักธนาคารและที่ปรึกษาที่ทำงาน 70 ชั่วโมงต่อสัปดาห์ แต่คุณไม่ได้ยินเกี่ยวกับครูที่ทำงานมากขนาดนั้น ดังนั้นจากความอยากรู้ เราได้สัมภาษณ์ครูหลายร้อยคน และทั่วทั้งกระดาน การให้คะแนนเป็นปัญหาที่ใหญ่ที่สุดของพวกเขา”

การทำให้การให้คะแนนอัตโนมัติอาจดูตรงไปตรงมา แต่ความซับซ้อนของการเขียนด้วยมือในคณิตศาสตร์ทำให้เกิดข้อจำกัดจริงสำหรับ AI “มีประเด็นเรื่องความแม่นยำ AI ไม่สมบูรณ์แบบ ดังนั้นเราจึงสร้างระบบ human-in-the-loop หาก AI ไม่มั่นใจ — เช่น การเขียนด้วยมือที่ไม่ชัดเจน — มันจะแจ้งให้ครูตรวจสอบและอนุมัติหรือปฏิเสธ”

ที่นี่ บทบาทของมนุษย์ไม่ใช่แค่สัญลักษณ์ ระบบระบุความไม่แน่นอนของมันเองและส่งกรณีเหล่านั้นไปยังมนุษย์ “สำหรับเรา มันคือเรื่องของความแม่นยำ จะมีกรณีเชิงขอบ (edge cases) ที่ AI ต้องดิ้นรน — อาจเป็น 1-3% — ดังนั้นมนุษย์จึงต้องเข้ามา”

แนวทางนี้ทำให้ human-in-the-loop กลายเป็นกลไกในการควบคุมคุณภาพ แต่ Gupta ก้าวไปไกลกว่านั้น “ในแก่นแท้ AI ไม่ถูกต้อง 100% — มันสามารถหลอกลวงหรือผลิตผลลัพธ์ที่ผิด Human-in-the-loop ทำหน้าที่เป็นการตรวจสอบคุณภาพสุดท้ายก่อนที่จะส่งผลลัพธ์ไปยังผู้ใช้สิ้นเปลือง มันคือเรื่องความรับผิดชอบ ด้วย — มีใครต้องรับผิดชอบต่อผลลัพธ์ และ ณ ตอนนี้ยังคงเป็นมนุษย์”

สิ่งสำคัญคือ บทบาทของมนุษย์ยังช่วยรักษาสิ่งที่ไม่สามารถวัดผลได้ — ด้านสัมพันธ์ของการเรียนการสอน “มันคือเรื่องการรักษาด้านมนุษย์ของการเรียนการสอน ครูมีสไตล์ที่แตกต่างกัน ดังนั้นเราจึงให้พวกเขาสามารถปรับเปลี่ยนการให้ข้อเสนอแนะได้”

การกำหนด Human-in-the-loop ใหม่

คำว่า “human in the loop” มีความเรียบง่ายที่ให้ความมั่นใจ มันบอกเราว่าไม่ว่าระบบของเราจะทันสมัยแค่ไหน มนุษย์ยังคงอยู่ในการควบคุมและเราไม่ได้เป็นเพียง “ghosts in the machine” แต่เมื่อบริษัทสตาร์ทอัพใช้ AI ในสภาพแวดล้อมที่มีความเสี่ยงสูง ความมั่นใจนี้ต้องการการตรวจสอบอย่างใกล้ชิด

ประเด็นที่ลึกกว่าคือการออกแบบ หากความเสี่ยงของระบบไม่ได้รับการทำความเข้าใจอย่างดีหรือลดลง การใส่คนเข้าไปที่จุดสิ้นสุดไม่ช่วยแก้ไขข้อบกพร่องพื้นฐานได้ สิ่งสำคัญคือการกำหนดบทบาทของมนุษย์ไม่ใช่แค่การหลบหนี แต่เป็นส่วนหนึ่งของการดำเนินงานของระบบ มนุษย์ในวงจรไม่ควรเพียงแค่อนุมัติผลลัพธ์ บริษัทสตาร์ทอัพควรพยายามเพิ่มอำนาจให้กับพนักงานในการกำหนดรูปแบบ การท้าทาย และเมื่อจำเป็น การใช้อำนาจในการข้ามพวกเขา