ผู้นำทางความคิด

Human-in-the-loop หมายถึงอะไรกันแน่?

Arjun Harindranath
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญการมีมนุษย์ร่วมในวงจรมักจะโยนความรับผิดชอบไปที่ผู้ใช้…
ดูเพิ่มเติม
  • การมีมนุษย์ร่วมในวงจรมักจะโยนความรับผิดชอบไปที่ผู้ใช้ โดยไม่รับประกันการออกแบบระบบที่มีจริยธรรม
  • Frizzle ใช้การตรวจสอบโดยมนุษย์เพื่อความแม่นยำในการให้คะแนน เมื่อ AI ไม่สามารถจัดการกับลายมือที่ยุ่งเหยิงได้
  • บทบาทของมนุษย์ที่มีความหมายจำเป็นต้องเสริมพลังให้พนักงานสามารถท้าทายและแทนที่การตัดสินใจของ AI ไม่ใช่แค่เพียงเห็นชอบ

ในช่วงต้นศตวรรษที่ 20 นักปรัชญาชาวอังกฤษ Gilbert Ryle บัญญัติคำว่า “ghost in the machine” ในการเขียนเรื่อง The Concept of Mind Ryle ใช้คำนี้เพื่อต่อต้านทวินิยมที่ถือว่าจิตและร่างกายเป็นสสารคนละส่วน สำหรับ Ryle การแบ่งแยกนี้เป็นข้อผิดพลาด เพราะการรับรู้และการกระทำทางกายแยกจากกันไม่ได้ ทั้งสองเป็นส่วนหนึ่งของระบบเดียว ไม่ใช่สองส่วนที่มีปฏิสัมพันธ์กัน

ด้วยการมาถึงของ AI คำว่า “human-in-the-loop” ก็ถูกใช้ในการพูดถึงผู้ใช้เครื่องมือ AI เพื่อเพิ่มประสิทธิภาพ หากมนุษย์และระบบอัจฉริยะรวมกันมากขึ้นกว่าเดิม เรากำลังสร้างการผสานกันอย่างไร้รอยต่อหรือไม่ หรือเรากำลังสร้างภาพลวงที่ทำให้เรารู้สึกว่ามีการควบคุม?

บริษัทสตาร์ทอัพพึ่งพาความคิดนี้ในการพูดถึงเครื่องมือของตน ในขณะที่มันสัญญาว่าจะนำมาซึ่งนวัตกรรมและความมั่นใจ แต่ความเป็นจริงมักจะซับซ้อนกว่านั้น ความรับผิดชอบสามารถกระจายออกไปได้ง่าย และการระบุว่าใครต้องรับผิดชอบก็ยากขึ้น

เมื่อระบบ AI เข้าไปสู่โดเมนที่ละเอียดอ่อน เช่น การศึกษาหรือสงคราม การเดิมพันไม่ใช่เรื่องสมมุติอีกต่อไป human-in-the-loop หมายถึงอะไรกันแน่ และเป็นเพียงคำเลี่ยงสำหรับการที่มนุษย์หายไปจากกระบวนการทั้งหมดหรือไม่?

1. Human-in-the-loop เป็นโล่สำหรับการรับผิดชอบ

หากใช้คำว่า human-in-the-loop อย่างไม่ระมัดระวัง มันสามารถเป็นวิธีที่ง่ายในการเลื่อนความรับผิดชอบโดยไม่เผชิญกับความรับผิดชอบนั้นอย่างจริงจัง หลายคนชี้ว่าลายเซ็นมนุษย์ท้ายกระบวนการไม่ได้รับประกันความถูกต้องทางจริยธรรม โดยเฉพาะเมื่อระบบเบื้องหลังออกแบบไม่ดีหรือยังเข้าใจไม่เพียงพอ

Maysa Hawwash ผู้ก่อตั้งและ CEO ของ Scale X ได้เขียนถึงการถอยห่างจากความรับผิดชอบ และกล่าวอย่างตรงไปตรงมาถึงวิธีที่มักใช้แนวคิดนี้ Hawwash บอกกับ Startup Beat ว่า “มันไม่แตกต่างจากวิธีการเลื่อนภาระอื่นๆ” โดยใช้ตัวอย่างของวิธีที่ผู้จัดการทรัพยากรบุคคลใช้นโยบายการลงนามเพื่อเลื่อนความรับผิดชอบของบริษัท “หากคุณมีนโยบายและคนอ่านและลงนามในนโยบายแล้ว ในทางเทคนิคแล้วบริษัทของคุณก็ไม่ต้องรับผิดชอบ ใช่ไหม” เธอกล่าว

สิ่งที่เกิดขึ้นคือรูปแบบที่คุ้นเคยทั่วทั้งระบบองค์กรที่ความรับผิดชอบถูกเลื่อนออกไปแทนที่จะถูกขจัดออกไป Hawwash มองว่านี่เป็นวิธีการที่ขี้เกียจซึ่งหลีกเลี่ยงการคิดอย่างมีวิจารณญาณหรือการทำความเข้าใจในพื้นที่ที่อาจส่งผลกระทบต่อผู้คนหรือชุมชน “ดังนั้นคุณจึงเลื่อนภาระ และไม่สำคัญว่าคนจะเข้าใจนโยบายหรือไม่ ไม่สำคัญว่านโยบายจะมีเหตุผลหรือไม่” เธอกล่าว

ในกรอบนี้ “human-in-the-loop” มีความเสี่ยงที่จะกลายเป็นเรื่องของการปิดบังมากกว่าการแทรกแซงที่มีความหมาย อันตรายนี้ไม่ได้เป็นเพียงเรื่องความหมายของคำ เมื่อการกำกับดูแลถูกลดลงเหลือการลงนาม ส่วนของมนุษย์กลายเป็นสัญลักษณ์มากกว่าที่จะเป็นส่วนสำคัญ

Hawwash อ้างถึง ความโหดร้ายทางทหารที่เกิดขึ้นไม่นานมานี้ — โรงเรียนใน Minab, Iran — ที่ซึ่งมนุษย์อนุมัติการโจมตี แต่การมีผู้ตัดสินใจที่เป็นมนุษย์ไม่ได้จำเป็นต้องหมายความว่ามีการชี้แจงทางจริยธรรมหรือการไตร่ตรองอย่างเพียงพอ “เมื่อคุณอยู่ในสงครามหรือทำการผ่าตัดที่ซับซ้อน คุณไม่มีเวลาที่จะใช้ human-in-the-loop เป็นโล่”

2. การออกแบบสำหรับการรับผิดชอบ ไม่ใช่แค่การกำกับดูแล

ทางเลือกไม่ใช่การละทิ้งระบบ human-in-the-loop แต่ต้องให้ความสำคัญกับระบบเหล่านี้ในฐานะข้อผูกพันด้านการออกแบบ นั่นหมายถึงการก้าวพ้นการกำกับดูแลเชิงสัญลักษณ์ไปสู่โครงสร้างความรับผิดชอบที่ออกแบบอย่างตั้งใจ

“มีการแข่งขันที่จะนำ AI มาใช้มากขึ้นในตลาด แทบไม่มีการไตร่ตรองอย่างเพียงพอจากมุมมองด้านการออกแบบ เช่น ผลกระทบที่จะตามมาสู่ชุมชน ผู้คน หรือผู้ใช้ปลายทาง” Hawwash กล่าว

ความเร็วกลายเป็นตัวแปรที่แข่งขันกันหลัก ในการแข่งขันนั้น ความรับผิดชอบมักถูกเลื่อนออกไปมากกว่าที่จะถูกฝังไว้ ผลที่ได้คือแนวทางจริยธรรมแบบตั้งรับ ซึ่งแก้ปัญหาหลังนำระบบไปใช้ แทนที่จะคาดการณ์ปัญหาระหว่างการพัฒนา

การเข้าถึงอาจเร่งการนำไปใช้ แต่ก็ทำให้ผลกระทบเพิ่มขึ้น ระบบไม่ได้จำกัดอยู่แค่ผู้ใช้ทางเทคนิคเท่านั้น แต่สามารถกำหนดการตัดสินใจสำหรับผู้ที่มีความเข้าใจและบริบทที่แตกต่างกัน ในสภาพแวดล้อมดังกล่าว ความรับผิดชอบไม่สามารถส่งต่อไปยังผู้ใช้ปลายทางได้

3. Human-in-the-loop เป็นความแม่นยำและความรับผิดชอบ

Abhay Gupta ผู้ร่วมก่อตั้ง Frizzle มีมุมมองที่เป็นปฏิบัติการ — ตั้งอยู่บนการสร้างระบบที่การกำกับดูแลโดยมนุษย์ทำได้จริงและจำเป็น

บริษัทของเขาเกิดขึ้นจากปัญหาเฉพาะ — ครูทำงานหนัก “ในเมืองคุณได้ยินเกี่ยวกับนักธนาคารและที่ปรึกษาที่ทำงาน 70 ชั่วโมงต่อสัปดาห์ แต่คุณไม่ได้ยินเกี่ยวกับครูที่ทำงานมากขนาดนั้น ดังนั้นจากความอยากรู้ เราได้สัมภาษณ์ครูหลายร้อยคน และในทุกกลุ่ม การตรวจให้คะแนนเป็นงานที่กินเวลามากที่สุด”

การทำให้การให้คะแนนอัตโนมัติอาจดูตรงไปตรงมา แต่ความซับซ้อนของการเขียนด้วยมือในคณิตศาสตร์ทำให้เกิดข้อจำกัดจริงสำหรับ AI “มีประเด็นเรื่องความแม่นยำ AI ไม่สมบูรณ์แบบ ดังนั้นเราจึงสร้างระบบ human-in-the-loop หาก AI ไม่มั่นใจ — เช่น การเขียนด้วยมือที่ไม่ชัดเจน — มันจะแจ้งให้ครูตรวจสอบและอนุมัติหรือปฏิเสธ”

ที่นี่ บทบาทของมนุษย์ไม่ใช่แค่สัญลักษณ์ ระบบระบุความไม่แน่นอนของมันเองและส่งกรณีเหล่านั้นไปยังมนุษย์ “สำหรับเรา มันคือเรื่องของความแม่นยำ จะมีกรณีเชิงขอบ (edge cases) ที่ AI ต้องดิ้นรน — อาจเป็น 1-3% — ดังนั้นมนุษย์จึงต้องเข้ามา”

แนวทางนี้ทำให้ human-in-the-loop กลายเป็นกลไกในการควบคุมคุณภาพ แต่ Gupta ก้าวไปไกลกว่านั้น “ในแก่นแท้ AI ไม่ถูกต้อง 100% — มันอาจสร้างข้อมูลหลอนหรือผลิตผลลัพธ์ที่ผิด Human-in-the-loop ทำหน้าที่เป็นการตรวจสอบคุณภาพสุดท้ายก่อนที่จะส่งผลลัพธ์ไปยังผู้ใช้ปลายทาง มันคือเรื่องความรับผิดชอบ ด้วย — ต้องมีใครสักคนรับผิดชอบต่อผลลัพธ์ และ ณ ตอนนี้ยังคงเป็นมนุษย์”

สิ่งสำคัญคือ บทบาทของมนุษย์ยังช่วยรักษาสิ่งที่วัดเป็นตัวเลขได้ยาก — ด้านสัมพันธ์ของการเรียนการสอน “มันคือเรื่องการรักษาด้านมนุษย์ของการเรียนการสอน ครูมีสไตล์ที่แตกต่างกัน ดังนั้นเราจึงให้พวกเขาสามารถปรับเปลี่ยนการให้ข้อเสนอแนะได้”

การกำหนด Human-in-the-loop ใหม่

คำว่า “human in the loop” มีความเรียบง่ายที่ให้ความมั่นใจ มันบอกเราว่าไม่ว่าระบบของเราจะทันสมัยแค่ไหน มนุษย์ยังคงอยู่ในการควบคุมและเราไม่ได้เป็นเพียง “ghosts in the machine” แต่เมื่อบริษัทสตาร์ทอัพใช้ AI ในสภาพแวดล้อมที่มีความเสี่ยงสูง ความมั่นใจนี้ต้องการการตรวจสอบอย่างใกล้ชิด

ประเด็นที่ลึกกว่าคือการออกแบบ หากความเสี่ยงของระบบไม่ได้รับการทำความเข้าใจอย่างดีหรือถูกจงใจมองให้เล็กน้อยกว่าความจริง การใส่คนเข้าไปที่จุดสิ้นสุดแทบไม่ช่วยแก้ข้อบกพร่องพื้นฐาน สิ่งสำคัญคือการกำหนดบทบาทของมนุษย์ไม่ใช่ทางสำรอง แต่เป็นส่วนหนึ่งของการดำเนินงานของระบบ มนุษย์ในวงจรไม่ควรเพียงแค่อนุมัติผลลัพธ์ บริษัทสตาร์ทอัพควรพยายามเพิ่มอำนาจให้กับพนักงานในการกำหนดผลลัพธ์ ตั้งคำถามต่อผลลัพธ์เหล่านั้น และเมื่อจำเป็น ยกเลิกผลลัพธ์ด้วยอำนาจตัดสินใจที่แท้จริง

อาร์จุน ฮารินดรานาถ เป็นนักข่าวอิสระที่อยู่ในเมเดยิน โคลอมเบีย ซึ่งครอบคลุมเรื่องราวเกี่ยวกับความขัดแย้ง การย้ายถิ่น และเทคโนโลยีสำหรับผู้ชมทั่วโลก บทความในชื่อของเขาเคยเผยแพร่ใน Al Jazeera, TechCrunch, The Next Web และ New York Times