ผู้นำทางความคิด
Human-in-the-loop หมายถึงอะไรกันแน่?

ประเด็นสำคัญการมีมนุษย์ร่วมในวงจรมักจะโยนความรับผิดชอบไปที่ผู้ใช้…
ดูเพิ่มเติม
- การมีมนุษย์ร่วมในวงจรมักจะโยนความรับผิดชอบไปที่ผู้ใช้ โดยไม่รับประกันการออกแบบระบบที่มีจริยธรรม
- Frizzle ใช้การตรวจสอบโดยมนุษย์เพื่อความแม่นยำในการให้คะแนน เมื่อ AI ไม่สามารถจัดการกับลายมือที่ยุ่งเหยิงได้
- บทบาทของมนุษย์ที่มีความหมายจำเป็นต้องเสริมพลังให้พนักงานสามารถท้าทายและแทนที่การตัดสินใจของ AI ไม่ใช่แค่เพียงเห็นชอบ
ในช่วงต้นศตวรรษที่ 20 นักปรัชญาชาวอังกฤษ Gilbert Ryle บัญญัติคำว่า “ghost in the machine” ในการเขียนเรื่อง The Concept of Mind Ryle ใช้คำนี้เพื่อต่อต้านทวินิยมที่ถือว่าจิตและร่างกายเป็นสสารคนละส่วน สำหรับ Ryle การแบ่งแยกนี้เป็นข้อผิดพลาด เพราะการรับรู้และการกระทำทางกายแยกจากกันไม่ได้ ทั้งสองเป็นส่วนหนึ่งของระบบเดียว ไม่ใช่สองส่วนที่มีปฏิสัมพันธ์กัน
ด้วยการมาถึงของ AI คำว่า “human-in-the-loop” ก็ถูกใช้ในการพูดถึงผู้ใช้เครื่องมือ AI เพื่อเพิ่มประสิทธิภาพ หากมนุษย์และระบบอัจฉริยะรวมกันมากขึ้นกว่าเดิม เรากำลังสร้างการผสานกันอย่างไร้รอยต่อหรือไม่ หรือเรากำลังสร้างภาพลวงที่ทำให้เรารู้สึกว่ามีการควบคุม?
บริษัทสตาร์ทอัพพึ่งพาความคิดนี้ในการพูดถึงเครื่องมือของตน ในขณะที่มันสัญญาว่าจะนำมาซึ่งนวัตกรรมและความมั่นใจ แต่ความเป็นจริงมักจะซับซ้อนกว่านั้น ความรับผิดชอบสามารถกระจายออกไปได้ง่าย และการระบุว่าใครต้องรับผิดชอบก็ยากขึ้น
เมื่อระบบ AI เข้าไปสู่โดเมนที่ละเอียดอ่อน เช่น การศึกษาหรือสงคราม การเดิมพันไม่ใช่เรื่องสมมุติอีกต่อไป human-in-the-loop หมายถึงอะไรกันแน่ และเป็นเพียงคำเลี่ยงสำหรับการที่มนุษย์หายไปจากกระบวนการทั้งหมดหรือไม่?
1. Human-in-the-loop เป็นโล่สำหรับการรับผิดชอบ
หากใช้คำว่า human-in-the-loop อย่างไม่ระมัดระวัง มันสามารถเป็นวิธีที่ง่ายในการเลื่อนความรับผิดชอบโดยไม่เผชิญกับความรับผิดชอบนั้นอย่างจริงจัง หลายคนชี้ว่าลายเซ็นมนุษย์ท้ายกระบวนการไม่ได้รับประกันความถูกต้องทางจริยธรรม โดยเฉพาะเมื่อระบบเบื้องหลังออกแบบไม่ดีหรือยังเข้าใจไม่เพียงพอ
Maysa Hawwash ผู้ก่อตั้งและ CEO ของ Scale X ได้เขียนถึงการถอยห่างจากความรับผิดชอบ และกล่าวอย่างตรงไปตรงมาถึงวิธีที่มักใช้แนวคิดนี้ Hawwash บอกกับ Startup Beat ว่า “มันไม่แตกต่างจากวิธีการเลื่อนภาระอื่นๆ” โดยใช้ตัวอย่างของวิธีที่ผู้จัดการทรัพยากรบุคคลใช้นโยบายการลงนามเพื่อเลื่อนความรับผิดชอบของบริษัท “หากคุณมีนโยบายและคนอ่านและลงนามในนโยบายแล้ว ในทางเทคนิคแล้วบริษัทของคุณก็ไม่ต้องรับผิดชอบ ใช่ไหม” เธอกล่าว
สิ่งที่เกิดขึ้นคือรูปแบบที่คุ้นเคยทั่วทั้งระบบองค์กรที่ความรับผิดชอบถูกเลื่อนออกไปแทนที่จะถูกขจัดออกไป Hawwash มองว่านี่เป็นวิธีการที่ขี้เกียจซึ่งหลีกเลี่ยงการคิดอย่างมีวิจารณญาณหรือการทำความเข้าใจในพื้นที่ที่อาจส่งผลกระทบต่อผู้คนหรือชุมชน “ดังนั้นคุณจึงเลื่อนภาระ และไม่สำคัญว่าคนจะเข้าใจนโยบายหรือไม่ ไม่สำคัญว่านโยบายจะมีเหตุผลหรือไม่” เธอกล่าว
ในกรอบนี้ “human-in-the-loop” มีความเสี่ยงที่จะกลายเป็นเรื่องของการปิดบังมากกว่าการแทรกแซงที่มีความหมาย อันตรายนี้ไม่ได้เป็นเพียงเรื่องความหมายของคำ เมื่อการกำกับดูแลถูกลดลงเหลือการลงนาม ส่วนของมนุษย์กลายเป็นสัญลักษณ์มากกว่าที่จะเป็นส่วนสำคัญ
Hawwash อ้างถึง ความโหดร้ายทางทหารที่เกิดขึ้นไม่นานมานี้ — โรงเรียนใน Minab, Iran — ที่ซึ่งมนุษย์อนุมัติการโจมตี แต่การมีผู้ตัดสินใจที่เป็นมนุษย์ไม่ได้จำเป็นต้องหมายความว่ามีการชี้แจงทางจริยธรรมหรือการไตร่ตรองอย่างเพียงพอ “เมื่อคุณอยู่ในสงครามหรือทำการผ่าตัดที่ซับซ้อน คุณไม่มีเวลาที่จะใช้ human-in-the-loop เป็นโล่”
2. การออกแบบสำหรับการรับผิดชอบ ไม่ใช่แค่การกำกับดูแล
ทางเลือกไม่ใช่การละทิ้งระบบ human-in-the-loop แต่ต้องให้ความสำคัญกับระบบเหล่านี้ในฐานะข้อผูกพันด้านการออกแบบ นั่นหมายถึงการก้าวพ้นการกำกับดูแลเชิงสัญลักษณ์ไปสู่โครงสร้างความรับผิดชอบที่ออกแบบอย่างตั้งใจ
“มีการแข่งขันที่จะนำ AI มาใช้มากขึ้นในตลาด แทบไม่มีการไตร่ตรองอย่างเพียงพอจากมุมมองด้านการออกแบบ เช่น ผลกระทบที่จะตามมาสู่ชุมชน ผู้คน หรือผู้ใช้ปลายทาง” Hawwash กล่าว
ความเร็วกลายเป็นตัวแปรที่แข่งขันกันหลัก ในการแข่งขันนั้น ความรับผิดชอบมักถูกเลื่อนออกไปมากกว่าที่จะถูกฝังไว้ ผลที่ได้คือแนวทางจริยธรรมแบบตั้งรับ ซึ่งแก้ปัญหาหลังนำระบบไปใช้ แทนที่จะคาดการณ์ปัญหาระหว่างการพัฒนา
การเข้าถึงอาจเร่งการนำไปใช้ แต่ก็ทำให้ผลกระทบเพิ่มขึ้น ระบบไม่ได้จำกัดอยู่แค่ผู้ใช้ทางเทคนิคเท่านั้น แต่สามารถกำหนดการตัดสินใจสำหรับผู้ที่มีความเข้าใจและบริบทที่แตกต่างกัน ในสภาพแวดล้อมดังกล่าว ความรับผิดชอบไม่สามารถส่งต่อไปยังผู้ใช้ปลายทางได้
3. Human-in-the-loop เป็นความแม่นยำและความรับผิดชอบ
Abhay Gupta ผู้ร่วมก่อตั้ง Frizzle มีมุมมองที่เป็นปฏิบัติการ — ตั้งอยู่บนการสร้างระบบที่การกำกับดูแลโดยมนุษย์ทำได้จริงและจำเป็น
บริษัทของเขาเกิดขึ้นจากปัญหาเฉพาะ — ครูทำงานหนัก “ในเมืองคุณได้ยินเกี่ยวกับนักธนาคารและที่ปรึกษาที่ทำงาน 70 ชั่วโมงต่อสัปดาห์ แต่คุณไม่ได้ยินเกี่ยวกับครูที่ทำงานมากขนาดนั้น ดังนั้นจากความอยากรู้ เราได้สัมภาษณ์ครูหลายร้อยคน และในทุกกลุ่ม การตรวจให้คะแนนเป็นงานที่กินเวลามากที่สุด”
การทำให้การให้คะแนนอัตโนมัติอาจดูตรงไปตรงมา แต่ความซับซ้อนของการเขียนด้วยมือในคณิตศาสตร์ทำให้เกิดข้อจำกัดจริงสำหรับ AI “มีประเด็นเรื่องความแม่นยำ AI ไม่สมบูรณ์แบบ ดังนั้นเราจึงสร้างระบบ human-in-the-loop หาก AI ไม่มั่นใจ — เช่น การเขียนด้วยมือที่ไม่ชัดเจน — มันจะแจ้งให้ครูตรวจสอบและอนุมัติหรือปฏิเสธ”
ที่นี่ บทบาทของมนุษย์ไม่ใช่แค่สัญลักษณ์ ระบบระบุความไม่แน่นอนของมันเองและส่งกรณีเหล่านั้นไปยังมนุษย์ “สำหรับเรา มันคือเรื่องของความแม่นยำ จะมีกรณีเชิงขอบ (edge cases) ที่ AI ต้องดิ้นรน — อาจเป็น 1-3% — ดังนั้นมนุษย์จึงต้องเข้ามา”
แนวทางนี้ทำให้ human-in-the-loop กลายเป็นกลไกในการควบคุมคุณภาพ แต่ Gupta ก้าวไปไกลกว่านั้น “ในแก่นแท้ AI ไม่ถูกต้อง 100% — มันอาจสร้างข้อมูลหลอนหรือผลิตผลลัพธ์ที่ผิด Human-in-the-loop ทำหน้าที่เป็นการตรวจสอบคุณภาพสุดท้ายก่อนที่จะส่งผลลัพธ์ไปยังผู้ใช้ปลายทาง มันคือเรื่องความรับผิดชอบ ด้วย — ต้องมีใครสักคนรับผิดชอบต่อผลลัพธ์ และ ณ ตอนนี้ยังคงเป็นมนุษย์”
สิ่งสำคัญคือ บทบาทของมนุษย์ยังช่วยรักษาสิ่งที่วัดเป็นตัวเลขได้ยาก — ด้านสัมพันธ์ของการเรียนการสอน “มันคือเรื่องการรักษาด้านมนุษย์ของการเรียนการสอน ครูมีสไตล์ที่แตกต่างกัน ดังนั้นเราจึงให้พวกเขาสามารถปรับเปลี่ยนการให้ข้อเสนอแนะได้”
การกำหนด Human-in-the-loop ใหม่
คำว่า “human in the loop” มีความเรียบง่ายที่ให้ความมั่นใจ มันบอกเราว่าไม่ว่าระบบของเราจะทันสมัยแค่ไหน มนุษย์ยังคงอยู่ในการควบคุมและเราไม่ได้เป็นเพียง “ghosts in the machine” แต่เมื่อบริษัทสตาร์ทอัพใช้ AI ในสภาพแวดล้อมที่มีความเสี่ยงสูง ความมั่นใจนี้ต้องการการตรวจสอบอย่างใกล้ชิด
ประเด็นที่ลึกกว่าคือการออกแบบ หากความเสี่ยงของระบบไม่ได้รับการทำความเข้าใจอย่างดีหรือถูกจงใจมองให้เล็กน้อยกว่าความจริง การใส่คนเข้าไปที่จุดสิ้นสุดแทบไม่ช่วยแก้ข้อบกพร่องพื้นฐาน สิ่งสำคัญคือการกำหนดบทบาทของมนุษย์ไม่ใช่ทางสำรอง แต่เป็นส่วนหนึ่งของการดำเนินงานของระบบ มนุษย์ในวงจรไม่ควรเพียงแค่อนุมัติผลลัพธ์ บริษัทสตาร์ทอัพควรพยายามเพิ่มอำนาจให้กับพนักงานในการกำหนดผลลัพธ์ ตั้งคำถามต่อผลลัพธ์เหล่านั้น และเมื่อจำเป็น ยกเลิกผลลัพธ์ด้วยอำนาจตัดสินใจที่แท้จริง












