ระบบควบคุมที่มีมนุษย์อยู่ในวงจรไม่ใช่การบริหารจัดการ

คำตอบที่ชัดเจนต่อความเสี่ยงของ AI คือ “ใส่คนไว้ในวงจร” แต่คำนี้ซ่อนความยากของการทำงาน

การมีคนอยู่ในวงจรจะทำงานได้เฉพาะเมื่อวงจรนั้นถูกออกแบบมาแล้ว ไม่เช่นนั้น คนจะกลายเป็นหนึ่งในสามความล้มเหลว:

• อุดตัน เนื่องจากการตรวจสอบผลลัพธ์ของ AI ใช้เวลานานเท่ากับการทำงานด้วยมือ
• การยอมรับโดยไม่ตรวจสอบ เนื่องจากผู้ตรวจสอบมีงานมากเกินไป ไม่สามารถเห็นหลักฐาน ไม่เข้าใจบริบททางธุรกิจ และคลิกยอมรับเพื่อให้งานดำเนินต่อไป
• หรือความล้มเหลวที่สาม คือ พื้นที่ที่ถูกบีบอัด โดยการเพิ่มคนในวงจร สถาบันจะกำหนดบุคคลที่รับผิดชอบ แต่ไม่ได้ให้ความสามารถในการควบคุม เวลา อำนาจ หรือเส้นทางในการเปลี่ยนแปลงระบบ และไม่มีทางหยุดระบบ

นี่คือจุดที่การอภิปรายเกี่ยวกับ AI ในองค์กรไปผิดทาง เราพูดถึงว่าควรจะมีคนตรวจสอบงานหรือไม่ แต่ไม่ได้พูดถึงว่าการตรวจสอบนั้นถูกออกแบบมาอย่างไร การบริหารจัดการขึ้นอยู่กับว่าผู้ตรวจสอบมีอำนาจที่มีความหมาย มีความสามารถในการมองเห็น และมีทางในการปรับปรุงระบบหลังจากที่การตัดสินใจได้ถูกทำแล้ว

การตรวจสอบของมนุษย์มีค่า แต่เฉพาะเมื่อถูกวางไว้ในจุดที่การตัดสินใจมีความสำคัญ และมีบริบทที่เพียงพอในการตัดสินใจนั้น

ประตูการตรวจสอบมากกว่าการตรวจสอบขั้นตอน

ประตูไม่ใช่ปุ่มพัก แต่เป็นส่วนเชื่อมต่อสำหรับการตรวจสอบ

เมื่อเอเย่นต์หรือการทำงานอัตโนมัติสร้างข้อเสนอ – ร่างตอบกลับ การดำเนินการแนะนำ การจัดประเภท การอนุมัติการชำระเงิน การกำหนดเส้นทางกรณี การออกตั๋วเงิน หรือจดหมายปฏิเสธ – ผู้ตรวจสอบควรจะเข้าใจทันทีว่าเกิดอะไรขึ้นและทำไม

ประตูการตรวจสอบที่แท้จริงจะต้องแสดงสิ่งที่สำคัญ: การดำเนินการเสนอ การสนับสนุนหลักฐาน กฎที่ตรวจสอบ การเปลี่ยนแปลงทางธุรกิจที่จะเกิดขึ้น อำนาจที่ใช้ บันทึกการตรวจสอบที่จะถูกเขียน ความไม่แน่นอนหรือความไม่ปกติที่ทำให้เกิดการตรวจสอบ และตัวเลือกที่มี: อนุมัติ แก้ไข ปฏิเสธ หรือยกระดับ

แต่ละส่วนประกอบเหล่านี้มีอยู่ด้วยเหตุผล การดำเนินการเสนออธิบายว่าระบบตั้งใจจะทำอะไร หลักฐานสนับสนุนอธิบายว่าทำไม กฎและอำนาจแสดงว่าคำแนะนำนั้นอยู่ภายในนโยบายขององค์กร ความไม่แน่นอนบอกผู้ตรวจสอบว่าทำไมงานถึงมาถึงคนในวงจร

หากผู้ตรวจสอบต้องสร้างทุกสิ่งนี้ขึ้นมาใหม่ด้วยตนเอง ประตูการตรวจสอบก็ไม่ได้ถูกสร้าง

จุดประสงค์ของประตูการตรวจสอบไม่ใช่เพียงแค่หยุดข้อผิดพลาดก่อนที่จะเกิดขึ้น แต่มีจุดประสงค์ที่สำคัญกว่านั้น คือ การจับข้อตัดสินใจขององค์กร

นี่คือจุดที่การนำ AI ไปใช้ในองค์กรมีผลกระทบ การตัดสินใจที่แท้จริงทุกครั้งจะจับข้อตัดสินใจขององค์กร – แต่เฉพาะเมื่อประตูการตรวจสอบจับได้ว่าทำไม

การอนุมัติไม่ใช่ข้อมูล แต่การตรวจสอบก็เป็น

การคลิกอนุมัติที่ไม่ได้ตรวจสอบไม่ได้จับข้อมูลที่มีประโยชน์ใดๆ การตัดสินใจที่ถูกตรวจสอบ แก้ไข ปฏิเสธ หรือยกระดับพร้อมด้วยรหัสเหตุผลจะจับข้อมูลที่ระบบสามารถเรียนรู้ได้ หากผู้ตรวจสอบคลิกอนุมัติโดยไม่ดู ระบบจะไม่ได้เรียนรู้อะไร หากผู้ตรวจสอบแก้ไข ปฏิเสธ ยกระดับ และให้เหตุผล องค์กรจะจับข้อตัดสินใจ

เมื่อเวลาผ่านไป การตัดสินใจเหล่านี้จะกลายเป็นหนึ่งในสินทรัพย์ที่มีค่าที่สุดขององค์กร พวกมันแสดงให้เห็นว่านโยบายไม่ชัดเจนตรงไหน กระบวนการทำงานมักล้มเหลวตรงไหน ความผิดปกติเกิดบ่อยที่สุดตรงไหน และการทำงานอัตโนมัติควรจะกลายเป็นมั่นใจมากขึ้น – หรือมีข้อจำกัดมากขึ้น จุดมุ่งหมายไม่ใช่เพียงแค่การทำงานอัตโนมัติมากขึ้น แต่คือการปรับปรุงคุณภาพการตัดสินใจในอนาคตโดยการจับข้อตัดสินใจของคนมีประสบการณ์ในปัจจุบัน

ความรับผิดชอบต้องมากกว่าการมีเจ้าของที่ชื่อ

ความแตกต่างนี้เปลี่ยนแปลงวิธีที่องค์กรควรคิดเกี่ยวกับความรับผิดชอบด้วย

ประตูการตรวจสอบไม่เพียงพอ เจ้าของที่ชื่อไม่เพียงพอ บันทึกการตรวจสอบไม่เพียงพอ

ความรับผิดชอบต้องมีการรับผลที่ตามมา: ข้อผิดพลาดต้องลงเอยที่ไหนที่สามารถเปลี่ยนแปลงพฤติกรรมในอนาคต

ก่อนที่จะนำ AI ไปใช้ในงานที่มีผลกระทบ องค์กรควรจะถามคำถามเหล่านี้:

1. ใครที่จะรับผลที่ตามมาถ้าการดำเนินการนี้ผิด?
2. บุคคลหรือระบบนั้นมีอำนาจควบคุมที่มีความหมายก่อนที่จะดำเนินการหรือไม่?
3. เจ้าของที่รับผิดชอบสามารถตรวจสอบ หยุด หรือเปลี่ยนแปลงระบบได้หรือไม่?
4. ความรับผิดชอบสอดคล้องกับอำนาจที่เจ้าของมีจริงหรือไม่?
5. อะไรที่จะเปลี่ยนแปลงก่อนที่จะดำเนินการครั้งถัดไป: ทักษะ กฎ สิทธิ์ กระบวนการทำงาน การทำงานอัตโนมัติ ประตูการตรวจสอบ รหัสเหตุผล การฝึกอบรม หรือระดับความไว้วางใจ?

ประตูการตรวจสอบของมนุษย์โดยไม่มีอำนาจควบคุมที่มีความหมายไม่ใช่การบริหารจัดการ แต่เป็นพื้นที่ที่ถูกบีบอัด

วงจรไม่ถูกปิดจนกว่าการตัดสินใจที่จับได้จะเปลี่ยนแปลงอะไร: ทักษะ กฎ สิทธิ์ ระดับการยกเลิก การทำงานอัตโนมัติ การตรวจสอบ การฝึกอบรม หรือระดับความไว้วางใจ องค์กรจะดีขึ้นเมื่อทุกการตัดสินใจที่มีความหมายจะเปลี่ยนแปลงระบบในครั้งถัดไป

รั้วความปลอดภัยป้องกันความล้มเหลว การประเมินสร้างความไว้วางใจ

องค์กรต้องแยกความแตกต่างระหว่างรั้วความปลอดภัยและการประเมิน พวกมันแก้ปัญหาที่ต่าง nhauที่ต้องการคำตอบ

1. รั้วความปลอดภัยบังคับพฤติกรรมในขณะทำงาน ตรวจสอบสคีมา ตรวจสอบพารามิเตอร์ที่ไม่ปลอดภัย ตรวจสอบสิทธิ์ การลบ PII การป้องกันการบุกรุกและการใช้เครื่องมือที่จำกัด
2. การประเมินวัดผลการทำงานในระยะยาว พวกมันตรวจสอบคุณภาพ การเปลี่ยนแปลง การเลือกเครื่องมือ คุณภาพการยกเลิก ต้นทุน ความล่าช้า และการปฏิบัติตามนโยบาย พวกมันบอกองค์กรว่าระบบยังคงสมควรที่จะไว้วางใจหรือไม่

สิ่งหนึ่งป้องกันการตัดสินใจในปัจจุบัน อีกสิ่งหนึ่งปรับปรุงการตัดสินใจในอนาคต

รั้วความปลอดภัยและการประเมินมีจุดประสงค์ที่ต่างกัน และผู้ที่รับผิดชอบก็มีจุดประสงค์ที่ต่างกันเช่นกัน ระบบบังคับใช้นโยบาย ผู้ดำเนินการประเมินผลลัพธ์ ทั้งสองสร้างวงจรการให้ข้อมูลที่ทำให้ระบบสามารถปรับปรุงได้โดยไม่สูญเสียการบริหารจัดการ

ระบบดึงนโยบาย บันทึกการอ้างสิทธิ์ เอกสารสนับสนุน คดีก่อนหน้า และคู่มือขององค์กร มันเตรียมแพ็คเกจการแยกประเภท เสนอความรุนแรง ระบุหลักฐานที่หายไป และเปิดกรณีการฉ้อโกงหากกฎต้องการ มีผู้ตรวจสอบเห็นการเคลื่อนไหวที่เสนอ หลักฐานสนับสนุน รหัสเหตุผล บันทึกการตรวจสอบ และผลที่ตามมาของการอนุมัติ แทนที่จะสร้างกรณีจากหลายระบบ ผู้ตรวจสอบสามารถมุ่งเน้นไปที่การตรวจสอบคำแนะนำเอง

กระบวนการเคลมแสดงให้เห็นว่าสิ่งนี้ทำงานอย่างไรในทางปฏิบัติ เอเย่นต์ไม่ได้จำกระบวนการ มันทำงานภายในแผนที่ที่เผยแพร่

สถาปัตยกรรมควรตามงาน

หลักการเดียวกันนี้ใช้ได้กับการทำงานทุกประเภท ไม่ใช่ปัญหาในองค์กรที่มีรูปร่างเดียวกัน และการบริหารจัดการควรสะท้อนให้เห็น

การนำไปใช้ที่มีเป้าหมายเริ่มต้นด้วยผลลัพธ์มากกว่าเส้นทางที่กำหนดไว้ ลองแก้ไขการยกเลิกของลูกค้านี้ ลดความเสี่ยงการยกเลิกบนบัญชีนี้ ตรวจสอบสัญญาณการฉ้อโกงนี้ เตรียมแผนการต่ออายุนี้ จุดหมายปลายเป็นชัดเจน แต่เส้นทางอาจเปลี่ยนแปลงเมื่อมีข้อมูลใหม่ เอเย่นต์หลักแยกงาน ใช้เอเย่นต์และเครื่องมือที่ได้รับอนุมัติ เรียกใช้การทำงานอัตโนมัติที่ได้รับอนุมัติ และมอบหมายงานให้คนภายในขอบเขตที่มีการกำกับดูแล จุดแข็งของมันคือความสามารถในการปรับตัว จุดอ่อนของมันคือความสามารถในการปรับตัวที่ไม่มีขอบเขตที่ชัดเจนจะกลายเป็นความไม่แน่นอน

ดังนั้นระบบที่ยืดหยุ่นต้องการการบริหารจัดการที่เข้มงวดมากขึ้น ไม่ใช่น้อยกว่า ขอบเขตการทำงานอัตโนมัติ สิทธิ์ในการตัดสินใจ บันทึกการตรวจสอบ และกฎการยกเลิกจะสำคัญมากขึ้นเมื่อ AI มีความสามารถมากขึ้น ความสามารถในการกำหนดเส้นทางของตัวเองของเอเย่นต์จะกำหนดขอบเขตที่องค์กรจะต้องกำหนดให้แน่นอน

AI ในองค์กรจะไม่ประสบความสำเร็จเพราะทุกการตัดสินใจมีมนุษย์อยู่ในวงจร

มันจะประสบความสำเร็จเพราะองค์กรเรียนรู้ที่จะสร้างวงจรนั้นเอง