เมื่อ AI เข้าสู่การดำเนินงาน ความสามารถในการอธิบายตัวเองกลายเป็นสิ่งที่ไม่สามารถต่อรองได้

การนำ AI มาใช้ในองค์กรได้เข้าสู่ระยะที่มีความเป็นจริงมากขึ้น สำหรับหัวหน้าเทคโนโลยี ความท้าทายไม่ใช่การทำให้องค์กรเชื่อมั่นในศักยภาพของ AI แต่เป็นการ đảmนว่าระบบที่มีอิทธิพลต่อการตัดสินใจในการดำเนินงานสามารถเข้าใจได้ มีการกำกับดูแล และสามารถป้องกันได้

AI ได้รับการยอมรับในองค์กรเมื่อบุคคลต่างๆ มีความเชื่อมั่นว่าสามารถพึ่งพาได้ ความเชื่อมั่นนี้ไม่ได้สร้างขึ้นจากสถิติประสิทธิภาพเพียงอย่างเดียว แต่ยังขึ้นอยู่กับว่าทีมงานรู้สึกว่าพวกเขายังคงควบคุมได้เมื่อการทำงานอัตโนมัติกลายเป็นส่วนหนึ่งของกระบวนการทำงานประจำวัน

ในหลายองค์กร ความรู้สึกควบคุมนี้ยังคงไม่แน่นอน

เหตุใดความไม่โปร่งใสจึงชะลอการนำรับใช้

AI ได้ถูกฝังอยู่ในกระบวนการทำงานของ IT ตั้งแต่การกำหนดเส้นทางคำขอการบริการไปจนถึงการตรวจสอบเหตุการณ์และการวางแผนความจุ สิ่งเหล่านี้เป็นสภาพแวดล้อมที่การตัดสินใจเชื่อมโยงกัน และข้อผิดพลาดสามารถเพิ่มขึ้นอย่างรวดเร็ว เมื่อผลลัพธ์ของ AI ปรากฏขึ้นโดยไม่มีบริบท ทีมงานมักจะลังเลา การทำงานอัตโนมัติอาจถูกนำไปใช้ แต่คำแนะนำของมันจะถูกตรวจสอบซ้ำ ล่าช้า หรือถูกเลื่อนออกไปอย่างเงียบๆ

พฤติกรรมนี้มักถูกเข้าใจผิดว่าเป็นการต่อต้านการเปลี่ยนแปลง ในความเป็นจริง มันสะท้อนถึงความรับผิดชอบมืออาชีพในสภาพแวดล้อมการดำเนินงานที่มีความเสี่ยงสูง ตัวอย่างสาธารณะของความล้มเหลวของ AI ได้เพิ่มความระมัดระวังให้กับความล้มเหลวเหล่านี้ เมื่อระบบอัตโนมัติสร้างผลลัพธ์ที่ดูเหมือนมั่นใจแต่พิสูจน์แล้วว่าไม่ถูกต้อง อันตรายที่เกิดขึ้นไม่ได้มาจากความทะเยอทะยานเพียงอย่างเดียว แต่มาจากความไม่โปร่งใส หากไม่มีใครสามารถอธิบายได้ว่าเหตุผลถึงข้อสรุปนั้นมาจากไหน ความเชื่อมั่นจะถูกทำลาย แม้ว่าระบบจะถูกต้องส่วนใหญ่ก็ตาม

ภายในทีม IT สิ่งนี้ปรากฏออกมาอย่างไม่เด่นชัด การทำงานอัตโนมัติทำงานในโหมดคำแนะนำมากกว่าโหมดการดำเนินการ วิศวกรยังคงรับผิดชอบต่อผลลัพธ์ แต่คาดว่าจะเชื่อถือเหตุผลที่ไม่สามารถตรวจสอบได้ เมื่อเวลาผ่านไป สิ่งนี้สร้างความตึงเครียด AI มีอยู่ แต่คุณค่าของมันถูกจำกัด

กระบวนการ AI ที่โปร่งใส

ความโปร่งใสและความสามารถในการอธิบายที่มากขึ้นสามารถแก้ไขปัญหานี้ได้โดยการฟื้นฟูความรับผิดชอบในการตัดสินใจอัตโนมัติ AI ที่สามารถอธิบายได้ไม่ได้หมายความว่าแสดงการคำนวณภายในทุกอย่าง แต่หมายถึงการให้ข้อมูลที่เกี่ยวข้องกับผู้ดำเนินการ ซึ่งรวมถึงข้อมูลที่มีอิทธิพลต่อการตัดสินใจ อะไรคือเงื่อนไขที่มีน้ำหนักมากที่สุด และวิธีการประเมินระดับความเชื่อมั่น ข้อมูลบริบทนี้ช่วยให้ทีมงานสามารถตัดสินได้ว่าผลลัพธ์ตรงกับข้อเท็จจริงการดำเนินงานหรือไม่

ที่รู้จักกันในชื่อ AI แบบกล่องขาว AI ที่สามารถอธิบายได้สร้างชั้นเชิงอธิบายที่อธิบายว่าการตัดสินใจของ AI ถูกสร้างขึ้นอย่างไร แทนที่จะซ่อนกระบวนการและตรรกะไว้จากมุมมอง นี่ไม่เพียงแต่หมายความว่าระบบ AI สามารถกลายเป็นส่วนหนึ่งของโครงสร้างความรับผิดชอบที่ดีขึ้น แต่ยังหมายความว่าผู้ใช้เข้าใจว่าระบบทำงานอย่างไร นอกจากนี้ยังหมายความว่าสามารถระบุจุดอ่อนของโมเดล AI และปกป้องตัวเองจากความเอนเอียงได้

สิ่งสำคัญคือความสามารถในการอธิบายตัวเองหมายความว่าเมื่อมีอะไรผิดพลาด ทีมงานสามารถติดตามเส้นทางเหตุผล ระบุสัญญาณที่อ่อนแอ และปรับปรุงกระบวนการได้ หากไม่มีความสามารถในการมองเห็นนี้ ข้อผิดพลาดจะถูกทำซ้ำหรือหลีกเลี่ยงโดยการปิดการทำงานอัตโนมัติ

ความสามารถในการอธิบายตัวเองในทางปฏิบัติ

พิจารณาการจัดการเหตุการณ์ AI มักถูกใช้เพื่อจัดกลุ่มการแจ้งเตือนและแนะนำสาเหตุที่เป็นไปได้ ในสภาพแวดล้อมองค์กรขนาดใหญ่ การจัดประเภทความพึ่งพาที่ผิดพลาดเพียงครั้งเดียวระหว่างเหตุการณ์สำคัญสามารถทำให้การแก้ไขล่าช้าเป็นชั่วโมง โดยดึงทีมหลายทีมเข้ามาในกระบวนการตรวจสอบขนานกันในขณะที่บริการที่เผยแพร่สู่ลูกค้ายังคงถูกย่อขนาด เมื่อคำแนะนำเหล่านั้นมาพร้อมกับการอธิบายที่ชัดเจนว่าระบบใดเกี่ยวข้อง วิธีการเข้าถึงความพึ่งพาหรืออ้างอิงเหตุการณ์ในอดีตอย่างไร วิศวกรสามารถตัดสินใจได้อย่างรวดเร็ว หากปรากฏว่าไม่ถูกต้อง ข้อมูลเชิงลึกนั้นสามารถใช้ในการปรับปรุงทั้งโมเดลและกระบวนการ

หากไม่มีความโปร่งใสนี้ ทีมงานจะกลับสู่การวินิจฉัยด้วยตนเอง ไม่ว่า AI จะมีความทันสมัยแค่ไหน

วงจรป้อนกลับนี้เป็นศูนย์กลางของการนำรับใช้ที่ยั่งยืน ระบบที่สามารถอธิบายตัวเองได้จะพัฒนาไปพร้อมกับบุคคลที่ใช้งาน ระบบกล่องดำโดยตรง มักจะหยุดนิ่งหรือถูกเลื่อนออกไปเมื่อความเชื่อมั่นลดลง

ความรับผิดชอบและความเป็นเจ้าของ

ความสามารถในการอธิบายตัวเองยังเปลี่ยนแปลงวิธีการกระจายความรับผิดชอบ ในสภาพแวดล้อมการดำเนินงาน ความรับผิดชอบไม่หายไปเพียงเพราะการตัดสินใจถูกอัตโนมัติ บางคนยังคงต้องยืนอยู่เบื้องหลังผลลัพธ์ เมื่อ AI สามารถอธิบายตัวเองได้ ความรับผิดชอบจะชัดเจนและจัดการได้ง่ายขึ้น การตัดสินใจสามารถถูกทบทวน พิสูจน์ และปรับปรุงได้โดยไม่ต้องใช้วิธีแก้ปัญหาทางป้องกัน

มีประโยชน์ในการกำกับดูแลด้วย แม้ว่าจะไม่ใช่แรงจูงใจหลักภายใน องค์กรต่างๆ ต้องการอธิบายการตัดสินใจอัตโนมัติในบางบริบทตามกรอบการคุ้มครองข้อมูลและความรับผิดชอบที่มีอยู่ เมื่อกฎระเบียบเฉพาะของ AI ยังคงพัฒนา ระบบที่ไม่มีความโปร่งใสอาจทำให้องค์กรเสี่ยงต่อความเสี่ยงโดยไม่จำเป็น

อย่างไรก็ตาม คุณค่าที่แท้จริงของความสามารถในการอธิบายตัวเองนั้นอยู่ที่ความยืดหยุ่น มากกว่าการปฏิบัติตามกฎระเบียบ ทีมงานที่เข้าใจระบบของตนสามารถฟื้นตัวได้เร็วขึ้น พวกเขาสามารถแก้ไขเหตุการณ์ได้อย่างมีประสิทธิภาพและใช้เวลาน้อยลงในการถกเถียงว่าควรไว้วางใจการทำงานอัตโนมัติหรือไม่

การออกแบบ AI สำหรับการดำเนินงานที่ยอดเยี่ยม

วิศวกรได้รับการฝึกให้ถามคำถามที่มีสมมติฐาน ตรวจสอบความพึ่งพา และทดสอบผลลัพธ์ เมื่อการทำงานอัตโนมัติสนับสนุนสัญชาตญาณเหล่านี้แทนการข้ามพวกมัน การนำรับใช้จะกลายเป็นความร่วมมือและเป็นส่วนหนึ่งของกระบวนการแทนที่จะเป็นโครงสร้างที่บังคับ

มีค่าใช้จ่ายในการสร้างระบบเหล่านี้ มีความต้องการการปฏิบัติด้านข้อมูลอย่างมีวินัย การเลือกออกแบบที่รอบคอบ และพนักงานที่มีทักษะที่สามารถตีความผลลัพธ์ได้อย่างรับผิดชอบ AI ที่สามารถอธิบายได้อาจไม่ขยายขนาดได้เร็วเท่ากับโมเดลที่ไม่โปร่งใสที่ได้รับการปรับให้เหมาะสมสำหรับความเร็วหรือความใหม่ๆ เพียงอย่างเดียว แต่ผลตอบแทนจากการลงทุนนี้คือความเสถียร

องค์กรที่ให้ความสำคัญกับความสามารถในการอธิบายตัวเองเห็นโครงการที่หยุดชะงักน้อยลง และการดำเนินการตัดสินใจในเงา少ลง การทำงานอัตโนมัติกลายเป็นชั้นที่เชื่อถือได้ภายในการดำเนินงาน แทนที่จะเป็นการทดลองขนานที่ดำเนินไปอย่างโดดเดี่ยว เวลาในการให้คุณค่าดีขึ้น ไม่ใช่เพราะระบบเร็วขึ้น แต่เพราะทีมงานเต็มใจที่จะใช้งานอย่างเต็มที่

การขยายขนาดอย่างรับผิดชอบ

เมื่อ AI กลายเป็นส่วนหนึ่งของโครงสร้างพื้นฐานองค์กรอย่างถาวร ความสำเร็จจะถูกกำหนดโดยความน่าเชื่อถือมากกว่าความทะเยอทะยาน ระบบที่สามารถอธิบายการตัดสินใจของตนได้จะน่าเชื่อถือมากขึ้น ง่ายต่อการปรับปรุง และง่ายต่อการยืนหยัดเมื่อผลลัพธ์ถูกท้าทาย

ใน环境การดำเนินงาน ความฉลาดสามารถขยายขนาดได้เมื่อความเข้าใจเดินหน้าไปพร้อมกับการทำงานอัตโนมัติ