การโต้ตอบระหว่างเครื่องจักรกับมนุษย์ : ปัญหา “ไมล์สุดท้าย” ที่ทำให้ AI ในองค์กรล่าช้า

จนกระทั่งไม่นานมานี้ การอภิปรายในห้องประชุมเกี่ยวกับ AI มุ่งเน้นไปที่โมเดลต่างๆ โดยตรง คือผลลัพธ์ของมันถูกต้องหรือไม่? ข้อมูลการฝึกอบรมสะอาดหรือไม่? เราจะลดความเอนเอียงได้อย่างไร? การหลอกลวงถูกควบคุมหรือไม่? คำถามเหล่านั้นยังคงสำคัญ แต่ผลลัพธ์ไม่ใช่สิ่งเดียวที่คณะกรรมการและผู้ถือหุ้นให้ความสนใจอีกต่อไป แต่พวกเขากำลังให้ความสนใจกับสิ่งที่ยากต่อการวัดมากกว่า – ว่าระบบ AI ที่ทำงานร่วมกับคนได้อย่างมีประสิทธิภาพในชีวิตประจำวันหรือไม่

ส่วนหนึ่งเป็นเหตุผลที่ทำให้ IBM ต้องเผชิญกับการเสนอหุ้นจากผู้ถือหุ้นที่ต้องการความโปร่งใสมากขึ้นเกี่ยวกับวิธีการจัดการความเอนเอียงของ AI และการกำกับดูแล การเสนอหุ้นนี้มุ่งเน้นไปที่การลดความเอนเอียง แต่สิ่งที่น่าสนใจคือว่าเมื่อ AI ถูกฝังอยู่ในกระบวนการตัดสินใจ มันถูกวัดจากความรับผิดชอบในการดำเนินงานและผลลัพธ์ทางธุรกิจที่วัดได้มากกว่าความสามารถพื้นฐาน

สิ่งที่ฉันเห็นในการสนทนากับองค์กรคือว่าไม่มีใครถกเถียงกันแล้วว่าโมเดลเหล่านี้มีความสามารถหรือไม่ ส่วนใหญ่ขององค์กรรู้แล้วว่าระบบเหล่านี้สามารถสร้างผลลัพธ์ อัตโนมัติกระบวนการทำงาน และแสดงข้อมูลเชิงลึกได้อย่างรวดเร็ว แต่คำถามที่ยากกว่าคือว่าระบบเหล่านี้ช่วยปรับปรุงผลลัพธ์ภายในองค์กรหรือไม่พนักงานใช้ระบบเหล่านี้อย่างมีประสิทธิภาพหรือไม่? พวกเขามั่นใจในคำแนะนำที่ได้รับหรือไม่? การตัดสินใจมีความชัดเจนเร็วขึ้นหรือไม่? หรือองค์กรเหล่านี้เพียงสร้างเนื้อหามากขึ้น การวิเคราะห์มากขึ้น และเสียงรบกวนมากขึ้นโดยไม่เปลี่ยนแปลงวิธีการดำเนินงานของมนุษย์? ช่องว่างระหว่างความสามารถของ AI และการยอมรับของมนุษย์คือสิ่งที่ฉันเรียกว่า “ไมล์สุดท้าย” ของ AI ในองค์กร ซึ่งเป็นจุดที่ ROI ความไว้วางใจ ความรับผิดชอบ และความสม่ำเสมอในการดำเนินงานมาบรรจบกัน และเป็นจุดที่การนำไปใช้งานหลายครั้งเริ่มชะงัก

ความสามารถไม่ใช่ปัญหาอีกต่อไป – สิ่งที่สำคัญคือบริบทของมนุษย์

การเสนอหุ้นของ IBM เองมุ่งเน้นไปที่ความเอนเอียง ซึ่งเป็นปัญหาที่เติบโตขึ้นในอุตสาหกรรม การแก้ปัญหาเรียกร้องให้ IBM สร้างรายงานเพิ่มเติมเกี่ยวกับวิธีการระบุและลดความเอนเอียงในโมเดล AI รวมถึงความเสี่ยงที่อาจเกิดขึ้นจากการลดความเอนเอียง IBM ตอบโต้ว่าข้อมูลส่วนใหญ่เหล่านี้มีอยู่แล้วผ่านการ์ดโมเดล เอกสารการกำกับดูแล การรายงานความโปร่งใส และการยื่นฟ้องต่อ Foundation Model Transparency Index ของ Stanford ส่วนใหญ่ของผู้สังเกตการณ์ยอมรับว่า IBM ได้ทำมากกว่าผู้ขายหลายรายในการนำแนวปฏิบัติ AI ที่มีความรับผิดชอบมาใช้ ในขณะเดียวกันก็รับรู้ว่าการกำกับดูแลและความเอนเอียงยังคงเป็นความท้าทายที่ไม่ได้รับการแก้ไขในวงการ

สิ่งที่น่าสนใจสำหรับฉันไม่ใช่ว่าการตอบสนองของ IBM ถูกต้องหรือไม่ แต่เป็นสิ่งที่สถานการณ์ทั้งหมดบอกเราถึงทิศทางของการอภิปราย AI ในองค์กร คณะกรรมการได้เข้าสู่ระยะใหม่ของการประเมิน AI โดยมุ่งเน้นไปที่คุณภาพการตัดสินใจ ผลกระทบในการดำเนินงาน ความไว้วางใจของพนักงาน และการยอมรับในระยะยาวภายในองค์กร

มุมมองของวิทยาศาสตร์ประสาทช่วยให้ฉันมองเห็นปัญหาในมุมที่แตกต่างจากการสนทนา AI ในองค์กรทั่วไป มนุษย์ไม่ใช่เครื่องจักรที่มี вход-ออกอย่างมีเหตุผล เราเข้าใกล้การตัดสินใจด้วยความสนใจที่จำกัด ความมั่นใจที่เปลี่ยนแปลง ความอัดอั้นของการรับข้อมูล และความตั้งใจที่เปลี่ยนแปลงอยู่ตลอดเวลา เมื่อการโต้ตอบดูเหมือนช้า เมื่อคำตอบที่เตรียมไว้ไม่ตรงกับสิ่งที่เราต้องการจริงๆ หรือเมื่อคนต้องต่อสู้กับระบบเพื่อให้ได้สิ่งที่มีประโยชน์ การมีส่วนร่วมจะล้มเหลวเสมอ ก่อนที่เมตริกการยอมรับจะตามทัน ความเสี่ยงของการหลอกลวง ความไม่สอดคล้อง และความเอนเอียงเพียงเพิ่มปัญหา สร้างความเสื่อมเสียภายในกระบวนการทำงานที่มีจุดมุ่งหมายเพื่อปรับปรุงประสิทธิภาพและความสามารถในการตัดสินใจ “ไมล์สุดท้าย” นี้คือสิ่งที่องค์กรส่วนใหญ่ยังคงประเมินต่ำเกินไป: คุณค่าของ AI ไม่ถูกสร้างขึ้นเมื่อโมเดลสร้างคำตอบ แต่เมื่อมันส่งมอบคำตอบที่ถูกต้องในเวลาที่เหมาะสม และมนุษย์สามารถไว้วางใจมันเพียงพอในการดำเนินการตามที่มันสร้างขึ้น

ทำไมเราจึงเพิกเฉยต่อ “มนุษย์ในวงจร” ที่แท้จริง – ผู้ใช้?

เราได้ยินมากมายเกี่ยวกับ “มนุษย์ในวงจร” และความสำคัญของการมีมนุษย์ในการอนุมัติผลลัพธ์ที่ขับเคลื่อนด้วย AI แต่สิ่งใดจะเกิดขึ้นหาก “มนุษย์ที่แท้จริง” – ผู้ใช้ – ไม่ได้รับการทำความเข้าใจอย่างเหมาะสม? การโต้ตอบระหว่างมนุษย์กับมนุษย์เป็นเรื่องที่ซับซ้อนและหลายมิติ แต่เหตุผลที่การสื่อสารโดยตรงทำงานได้ดีเพราะไม่มีการสูญเสียความหมายใดๆ หากใครๆ สะดุด ลดความมั่นใจ กลายเป็นหงุดหงิดหรือสับสน หรือความตั้งใจเปลี่ยนแปลงไป สิ่งเหล่านี้จะส่งผลต่อการโต้ตอบและบทสนทนาจะเปลี่ยนแปลงตามนั้น ระบบ AI ส่วนใหญ่ยังคงดิ้นรนที่จะรับรู้สัญญาณเหล่านี้เพราะพวกมันอยู่ “บนราง” ในแง่ที่ว่าพวกมันตอบสนองเฉพาะคำสั่งล่าสุดจากผู้ใช้เท่านั้น

ในความคิดของฉัน นี่เป็นข้อจำกัดที่สำคัญของการนำ AI ไปใช้ในองค์กรที่เราเห็นอยู่ในปัจจุบัน เราได้สร้างระบบที่มีความสามารถพิเศษในการสร้างข้อมูล ในขณะเดียวกันก็ยังคงมีข้อจำกัดในการรับรู้ว่าข้อมูลนั้นช่วยให้ใครบางคนตัดสินใจได้ดีขึ้นหรือไม่

องค์กรสามารถใช้เครื่องมือ AI สำหรับพนักงานหลายพันคนและยังคงไม่สามารถบรรลุการยอมรับที่มีความหมายในทางปฏิบัติในการใช้ระบบเหล่านี้ได้ แฟรมเวิร์ก เช่น NIST AI Risk Management Framework, ISO/IEC 42001 และ EU AI Act กำลังผลักดันองค์กรให้มีความตื่นตัวมากขึ้นในการกำกับดูแลและการรับผิดชอบในการดำเนินงาน แต่การกำกับดูแลบนกระดาษไม่ได้ไปไกลถ้าการมีส่วนร่วมของพนักงานกับ AI ยังคงกระจัดกระจาย หากทีมต่างๆ ไว้วางใจและใช้ AI ในวิธีที่แตกต่างกัน การวัด ROI อย่างสม่ำเสมอจะกลายเป็นเรื่องที่ยากเกินไป และนี่คือปัญหาที่ไม่สามารถแก้ไขได้ด้วยการให้คำแนะนำเพียงอย่างเดียว

ต้นทุนของการอัดอั้น AI

เรากำลังเข้าสู่ระยะที่ AI กลายเป็นสิ่งที่พบได้ทั่วไปภายในกระบวนการทำงานของ AI มีเครื่องบินรบฝังอยู่ในซอฟต์แวร์สำหรับการนำเสนอ การสรุปการประชุมที่สร้างโดย AI ที่มาหลังการโทรทุกครั้ง แผงควบคุมที่แสดงข้อมูลเชิงลึกการคาดการณ์ในเวลาจริง เครื่องมือแนะนำที่ให้คำแนะนำแก่พนักงานอย่างต่อเนื่อง และการวิเคราะห์อัตโนมัติที่ปรากฏเร็วกว่าที่ทีมส่วนใหญ่สามารถประมวลผลได้ ในทฤษฎี นี่ดูเหมือนความคืบหน้า – ธุรกิจกำลังผลิตข้อมูลมากกว่าที่เคยเป็นมา แต่วิทยาศาสตร์แห่งการรับรู้ได้บอกเรามาหลายทศวรรษแล้วว่าข้อมูลที่เพิ่มขึ้นไม่ได้หมายความว่าจะตัดสินใจได้ดีขึ้นเสมอไป

คนสามารถดูดซับข้อมูลได้เพียงแค่ไหนก่อนที่จะเริ่มเกิดการอัดอั้น การแนะนำที่มากเกินไปทำให้เกิดความลังเล การเตือนมากเกินไปกลายเป็นเสียงรบกวน การเลือกที่มากเกินไปของ AI สามารถทำให้พนักงานตัดสินใจได้ช้าลงแทนที่จะดำเนินการด้วยความมั่นใจ สิ่งที่น่าสนใจคือระบบ AI กำลังดีขึ้นอย่างรวดเร็วในการผลิตข้อมูล แต่ยังคงดิ้นรนที่จะเข้าใจว่ามนุษย์รับข้อมูลเหล่านั้น ตีความ และตอบสนองในบริบทอย่างไร คณะกรรมการไม่สนใจว่าระบบสามารถสร้างสรุป คำแนะนำ หรือการวิเคราะห์ที่สร้างโดย AI ได้มากเพียงใด แต่พวกเขาสนใจว่าการตัดสินใจมีความชัดเจนและเชื่อถือได้มากขึ้นหรือไม่

AI ได้เข้าสู่ระยะความรับผิดชอบ

การเสนอหุ้นของ IBM อาจมาจากความกังวลเกี่ยวกับความเอนเอียง แต่ฉันคิดว่ามันสะท้อนถึงสิ่งที่กว้างขึ้นซึ่งเกิดขึ้นทั่วทั้ง AI ในองค์กร ความใหม่เอี่ยมของ AI ได้ผ่านพ้นไป และองค์กรที่กำลังมองหาการลงทุนที่มีผลตอบแทนที่ดีใน AI ไม่สามารถมองไปที่ความสามารถของโมเดลเพียงอย่างเดียวอีกต่อไป เทคโนโลยีนี้ได้พิสูจน์ตัวเองแล้ว แต่ตอนนี้ต้องการความรับผิดชอบ มีพนักงานใช้ระบบเหล่านี้อย่างสม่ำเสมอหรือไม่? การตัดสินใจดีขึ้นหรือไม่? ความไว้วางใจและความมีส่วนร่วมเพิ่มขึ้นหรือไม่? เมื่อ AI กลายเป็นส่วนหนึ่งของกระบวนการทำงานประจำวัน ระบบรุ่นต่อไปอาจต้องเข้าใจพฤติกรรมของมนุษย์ ความสนใจ ความมั่นใจ และความตั้งใจมากขึ้น หากธุรกิจต้องการการนำรับอย่างต่อเนื่องและผลตอบแทนที่วัดได้ จนกว่านั้น “ไมล์สุดท้าย” จะยังคงเป็นหนึ่งในความท้าทายที่ยิ่งใหญ่ที่สุดในการนำ AI ไปใช้ในองค์กร