AI ยังต้องการโค้ชและการตรวจสอบโดยมนุษย์ต้องการคู่มือการดำเนินงาน

AI ปรากฏอยู่ทุกที่ที่คุณมองเห็น และฟุตบอลอาชีพก็ไม่ใช่ข้อยกเว้น

NFL ได้เปิดตัว Digital Athlete, ซึ่งใช้ข้อมูลและ AI เพื่อช่วยทีมระบุสถานการณ์ที่ผู้เล่นอาจเสี่ยงต่อการบาดเจ็บสูงขึ้น มันผสานวิดีโอและข้อมูลจากการฝึกซ้อม การฝึกฝน และเกมเข้ากับการจำลองหลายล้านครั้ง ทำให้ทีมทั้งหมด 32 ทีมเข้าถึงข้อมูลแนวโน้มทั่วลีก โค้ชและเจ้าหน้าที่ฝึกซ้อมจึงใช้ข้อมูลนั้นพัฒนาโปรแกรมการป้องกันการบาดเจ็บ การฝึกซ้อม และการฟื้นฟูที่เป็นรายบุคคล

แม้เทคโนโลยีจะอ่านสนามได้ โค้ชยังคงรับผิดชอบในการตัดสินใจ อย่างที่องค์กรขยายการใช้ AI ไปทั่วกระบวนการธุรกิจ รวมถึงการปฏิบัติตามกฎระเบียบและการสอบสวนในที่ทำงาน ศักยภาพในการทำอัตโนมัติก็ดูเหมือนไม่มีขีดจำกัด แต่ภาระกิจใดที่ AI ควรทำ ภายใต้เงื่อนไขอะไร และต้องมีการตรวจสอบโดยมนุษย์อย่างไร?

นี่คือจุดที่คู่มือการดำเนินงานขององค์กรสามารถกำหนดโทนได้: มอบวิธีให้โค้ชใช้เครื่องมือ AI พร้อมรักษาการตรวจสอบของมนุษย์ในจุดที่สำคัญ

ให้ AI มีตำแหน่งเฉพาะ ไม่ใช่ครอบคลุมสนามทั้งหมด

การสอบสวนประกอบด้วยระดับความเสี่ยงที่แตกต่างกัน AI สามารถช่วยจัดระเบียบข้อมูลจากรายงานเริ่มต้นและ:

• ระบุรายละเอียดที่ขาดหายไป
• สรุปข้อมูลเป็นรายงานสุดท้าย
• สร้างไทม์ไลน์
• เปิดเผยรูปแบบที่ผู้สอบสวนอาจต้องการตรวจสอบต่อไป

กรณีการใช้เหล่านี้สามารถลดการคัดแยกด้วยมือและให้เวลาว่างเพื่อมุ่งเน้นงานที่ต้องการการตัดสินใจของมนุษย์

พิจารณาว่า AI สามารถสรุปข้อกล่าวหาได้ แต่ไม่สามารถตัดสินได้ว่าข้อกล่าวหานั้นเชื่อถือได้หรือไม่ AI สามารถระบุความไม่สอดคล้องได้ แต่ไม่สามารถกำหนดสาเหตุได้ นี่คือจุดที่องค์กรอาจเจอปัญหาเมื่อใช้ AI อย่างไม่มีข้อจำกัด

เพื่อรักษาการตรวจสอบ AI จำเป็นต้องมีบทบาทที่กำหนดไว้ องค์กรควรตัดสินใจ:

• งานที่ระบบตั้งใจทำ
• ข้อมูลที่ระบบสามารถเข้าถึงได้
• ขอบเขตของสิ่งที่ระบบได้รับอนุญาตให้ทำ
• สถานการณ์ที่ต้องให้บุคคลเข้าควบคุม

กรอบการจัดการความเสี่ยง AI ของ National Institute of Standards and Technology’s AI Risk Management Framework ให้เกณฑ์อ้างอิงที่เป็นประโยชน์ แผนงานของ NIST อธิบาย AI RMF Profiles ว่าเป็นวิธีแสดงว่ากรอบการทำงานสามารถนำไปใช้กับภาคส่วน เทคโนโลยี บริบท หรือการตั้งค่าอื่น ๆ ได้อย่างไร กล่าวคือ การกำกับดูแล AI อย่างรับผิดชอบจะเป็นรูปธรรมมากขึ้นเมื่อองค์กรแปลหลักการกว้างให้เป็นความเป็นจริงของกรณีการใช้งานเฉพาะ

คู่มือ AI สามารถทำสิ่งคล้ายกันในระดับการปฏิบัติการ มันกำหนดบทบาท สถานการณ์ และการกระทำอย่างชัดเจน

การตรวจสอบโดยมนุษย์เป็นปัญหาการออกแบบระบบ

วลี “human in the loop” ได้กลายเป็นเรื่องปกติในการสนทนาเกี่ยวกับ AI ที่รับผิดชอบ แต่การมีบุคคลอยู่ในกระบวนการทำงานใด ๆ ไม่ได้ทำให้ระบบ AI มีการกำกับดูแลที่ดีโดยอัตโนมัติ

NIST ได้ระบุ human-AI teaming เป็นพื้นที่สำคัญสำหรับการวิจัยและแนวทางการจัดการความเสี่ยง AI ประเด็นที่เน้นคือวิธีที่ผู้คนตีความผลลัพธ์ที่ AI สร้างขึ้นและวิธีที่มนุษย์ตรวจสอบระบบ AI ที่ทำงานในสภาพแวดล้อมจริง

การตรวจสอบโดยมนุษย์ไม่ควรถือเป็นวิธีแก้ชั่วคราวจนกว่า AI จะพัฒนามากพอที่จะทำงานโดยอิสระ ในหลายสภาพแวดล้อมที่มีความเสี่ยงสูง มันเป็นส่วนหนึ่งของสถาปัตยกรรมที่จำเป็นเพื่อใช้ AI อย่างรับผิดชอบในระยะยาว

การ peer-reviewed examination of human oversight in AI governance ระบุว่าผู้ตรวจสอบโดยมนุษย์คาดว่าจะเพิ่มความแม่นยำและความปลอดภัยเพื่อรักษาคุณค่ามนุษย์และสร้างความเชื่อถือ อย่างไรก็ตาม มนุษย์ไม่ใช่ผู้ตรวจสอบที่เชื่อถือได้เสมอ การตรวจสอบที่มีประสิทธิภาพขึ้นอยู่กับความสามารถ สิ่งจูงใจ และการออกแบบบทบาทการตรวจสอบ

สำหรับผู้สอบสวน การขอให้ยอมรับคำแนะนำที่สร้างโดย AI อย่างเดียวไม่เพียงพอหากพวกเขาขาดข้อมูลหรืออำนาจที่จำเป็นในการท้าทายมัน คู่มือการดำเนินงานต้องกำหนดไม่เพียงแต่ ว่า มีมนุษย์เข้ามาเกี่ยวข้อง แต่ต้องระบุว่าอย่างไรและเมื่อใดที่บุคคลนั้นสามารถแทรกแซงได้

การส่งต่อมีความสำคัญเท่ากับโมเดล

มีความท้าทายอีกประการหนึ่ง: แม้มนุษย์จะมีอำนาจสุดท้าย วิธีที่ AI นำเสนอข้อมูลก็อาจส่งผลต่อการตัดสินใจต่อไป

การศึกษาล่วงหน้าในปี 2025 preprint study from researchers at the University of California, Santa Barbara แสดงให้เห็นว่าการออกแบบอินเทอร์เฟซสำคัญอย่างไร ในการทดลองที่ควบคุมโดยมีผู้เข้าร่วม 108 คนในสถานการณ์การตัดสินใจด้านสุขภาพ นักวิจัยทดสอบรูปแบบการสนับสนุนการตัดสินใจของ AI หกแบบ พวกเขาพบว่ากลไกต่าง ๆ รวมถึงข้อมูลความมั่นใจของ AI คำอธิบายเป็นข้อความ และการแสดงผลการทำงาน ช่วยเพิ่มความแม่นยำของการตัดสินใจร่วมระหว่างมนุษย์และ AI ในการทดลองของพวกเขา

การศึกษานี้ยังชี้ให้เห็นความเสี่ยงของอคติการทำอัตโนมัติ: ผู้คนอาจพึ่งพาข้อเสนอของ AI มากเกินไป แม้จะเป็นข้อเสนอที่ไม่ถูกต้อง

การทดลองนี้แสดงให้เห็นว่าการส่งต่อระหว่างเครื่องและมนุษย์ต้องการการออกแบบและการทดสอบอย่างตั้งใจ

เมื่อเราขยายแนวคิดนี้ต่อไปและนำแนวคิดการสอบสวนเข้ามา มีคำถามหลายข้อเกิดขึ้น:

• ผู้สอบสวนเห็นเพียงสรุปที่ AI สร้างขึ้นหรือสามารถตรวจสอบข้อมูลเบื้องหลังได้หรือไม่?

• ระบบสามารถสื่อสารความไม่แน่นอนได้หรือไม่?

• ข้อมูลที่ขาดหายไปชัดเจนหรือไม่?

• ผู้สอบสวนสามารถปฏิเสธผลลัพธ์และบันทึกเหตุผลได้หรือไม่?

เหล่านี้เป็นคำถามด้านการกำกับดูแลเช่นเดียวกับด้านเทคนิค

ห้าคำถามที่คู่มือ AI ทุกฉบับควรตอบ

คู่มือ AI ที่มีประโยชน์ควรเปลี่ยนหลักการเชิงนามธรรมเช่น “AI ที่รับผิดชอบ” และ “การตรวจสอบโดยมนุษย์” ให้เป็นกฎการดำเนินงานที่เป็นรูปธรรม

1. AI ถูกอนุญาตให้ทำอะไรได้บ้าง? องค์กรควรมอบหมายงานเฉพาะเจาะจงแทนการให้สิทธิ์กว้างขวางในการใช้ AI ตลอดกระบวนการทำงาน
2. ข้อมูลใดที่ AI สามารถใช้ได้? สำหรับการสอบสวนและการแจ้งเบาะแส องค์กรต้องกำหนดขอบเขตที่ชัดเจนเกี่ยวกับข้อมูลที่ AI สามารถเข้าถึงและวิธีการจัดการข้อมูลนั้น
3. ผู้คนจะประเมินผลลัพธ์ของ AI อย่างไร? ผู้ตรวจสอบมนุษย์ต้องมีบริบทเพียงพอเพื่อเข้าใจสิ่งที่ระบบสร้างขึ้น ข้อจำกัดที่เกี่ยวข้อง และข้อมูลที่จำเป็นในการตั้งคำถามต่อผลลัพธ์
4. เมื่อใดที่มนุษย์ต้องแทรกแซง? คู่มือควรกำหนดจุดเริ่มต้นการยกระดับแทนการพึ่งพาพนักงานแต่ละคนในการตัดสินใจว่า AI ไปไกลเกินไปหรือไม่
5. อำนาจของ AI สิ้นสุดที่ไหน? บางการตัดสินใจควรต้องอาศัยการพิจารณาของมนุษย์ และผู้ที่รับผิดชอบต้องมีอำนาจจริงในการละเลย, ยกเลิก, หรือหยุดการทำงานของเทคโนโลยี

แนวคิดเหล่านี้สะท้อนในหนึ่งในกฎระเบียบ AI ที่สำคัญที่สุดของโลก Article 14 of the EU AI Act กำหนดข้อกำหนดการตรวจสอบโดยมนุษย์สำหรับระบบ AI ที่อยู่ในประเภทความเสี่ยงสูงของกฎหมายนี้ มันระบุว่ามาตรการการตรวจสอบควรสอดคล้องกับความเสี่ยงของระบบ, ความเป็นอิสระ, และบริบทการใช้งาน นอกจากนี้ยังเรียกร้องให้ผู้ตรวจสอบสามารถเข้าใจความสามารถและข้อจำกัดที่เกี่ยวข้อง, แปลผลลัพธ์ได้อย่างถูกต้อง, ระวังอคติการทำอัตโนมัติ, ปฏิเสธหรือยกเลิกผลลัพธ์, และแทรกแซงหรือหยุดระบบได้

ซึ่งไม่ได้หมายความว่าเครื่องมือ AI ทุกอย่างที่ใช้ในการสอบสวนจะเป็นระบบความเสี่ยงสูงโดยอัตโนมัติ กรอบการทำงานแสดงหลักการสำคัญสำหรับการกำกับดูแล AI การตรวจสอบโดยมนุษย์ต้องมอบความสามารถที่มีความหมายให้กับมนุษย์ ไม่ใช่เพียงตำแหน่งในกระบวนการทำงาน.

AI ไม่ได้แทนที่โค้ช แต่เปลี่ยนสิ่งที่โค้ชสามารถมองเห็น

Digital Athlete ของ NFL น่าสนใจไม่ใช่เพราะแสดงว่า AI สามารถแทนที่โค้ชได้ แต่เพราะมันแสดงให้เห็นว่าเทคโนโลยีที่ซับซ้อนสามารถขยายข้อมูลที่ผู้เชี่ยวชาญที่มีประสบการณ์สามารถเข้าถึงได้

AI สามารถช่วยผู้คนทำงานกับข้อมูล, เปิดเผยสิ่งที่ควรให้ความสนใจ, และสร้างความสม่ำเสมอที่มากขึ้นในงานที่ทำซ้ำได้ อย่างไรก็ตาม ช่วงเวลาที่สำคัญที่สุดในการสอบสวนมักต้องการสิ่งที่แตกต่าง: บริบท, ความสงสัย, การตีความ, และความรับผิดชอบ

ดังนั้นองค์กรที่อยู่ในตำแหน่งที่ดีที่สุดที่จะได้รับประโยชน์จาก AI จะถามมากกว่าที่เทคโนโลยีจะทำอัตโนมัติ พวกเขาจะกำหนดว่า AI ควรทำอะไร ไม่ควรทำอะไร และมนุษย์กับ AI ควรทำงานร่วมกันอย่างไร