ผู้นำทางความคิด

เมื่อ AI เข้าสู่การดำเนินงาน ความสามารถในการอธิบายตัวเองกลายเป็นสิ่งที่ไม่สามารถต่อรองได้

VimalRaj Sampathkumar
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญAI…
ดูเพิ่มเติม
  • AI ที่สามารถอธิบายได้สร้างความไว้วางใจด้วยการให้ทีมงานตรวจสอบการตัดสินใจอัตโนมัติในการดำเนินงานที่มีความเสี่ยงสูง
  • ระบบ AI ที่โปร่งใสสร้างความรับผิดชอบและช่วยให้แก้ไขเหตุการณ์ได้รวดเร็วขึ้นผ่านการติดตามเหตุผลที่ตรวจสอบได้
  • การนำ AI ไปใช้ในเชิงปฏิบัติจะขยายตัวได้ก็ต่อเมื่อความเข้าใจก้าวทันความซับซ้อนของระบบอัตโนมัติเท่านั้น

การนำ AI มาใช้ในองค์กรได้เข้าสู่ระยะที่มีความเป็นจริงมากขึ้น สำหรับหัวหน้าเทคโนโลยี ความท้าทายไม่ใช่การทำให้องค์กรเชื่อมั่นในศักยภาพของ AI แต่เป็นการทำให้มั่นใจว่าระบบที่มีอิทธิพลต่อการตัดสินใจในการดำเนินงานสามารถเข้าใจได้ มีการกำกับดูแล และสามารถให้เหตุผลรองรับได้

AI ได้รับการยอมรับในองค์กรเมื่อบุคคลต่างๆ มีความเชื่อมั่นว่าสามารถพึ่งพาได้ ความเชื่อมั่นนี้ไม่ได้สร้างขึ้นจากสถิติประสิทธิภาพเพียงอย่างเดียว แต่ยังขึ้นอยู่กับว่าทีมงานรู้สึกว่าพวกเขายังคงควบคุมได้เมื่อการทำงานอัตโนมัติกลายเป็นส่วนหนึ่งของกระบวนการทำงานประจำวัน

ในหลายองค์กร ความรู้สึกควบคุมนี้ยังคงไม่แน่นอน

เหตุใดความไม่โปร่งใสจึงชะลอการนำรับใช้

AI ได้ถูกฝังอยู่ในการดำเนินงานด้าน IT ตั้งแต่การกำหนดเส้นทางคำขอการบริการไปจนถึงการเชื่อมโยงเหตุการณ์และการวางแผนความจุ สิ่งเหล่านี้เป็นสภาพแวดล้อมที่การตัดสินใจเชื่อมโยงกัน และข้อผิดพลาดสามารถเพิ่มขึ้นอย่างรวดเร็ว เมื่อผลลัพธ์ของ AI ปรากฏขึ้นโดยไม่มีบริบท ทีมงานมักจะลังเล การทำงานอัตโนมัติอาจถูกนำไปใช้ แต่คำแนะนำของมันจะถูกตรวจสอบซ้ำ ล่าช้า หรือถูกเลื่อนออกไปอย่างเงียบๆ

พฤติกรรมนี้มักถูกเข้าใจผิดว่าเป็นการต่อต้านการเปลี่ยนแปลง ในความเป็นจริง มันสะท้อนถึงความรับผิดชอบมืออาชีพในสภาพแวดล้อมการดำเนินงานที่มีความเสี่ยงสูง ตัวอย่างสาธารณะของความล้มเหลวของ AI ได้เพิ่มความระมัดระวังให้กับความล้มเหลวเหล่านี้ เมื่อระบบอัตโนมัติสร้างผลลัพธ์ที่ดูเหมือนมั่นใจแต่พิสูจน์แล้วว่าไม่ถูกต้อง อันตรายที่เกิดขึ้นไม่ได้มาจากความทะเยอทะยานเพียงอย่างเดียว แต่มาจากความไม่โปร่งใส หากไม่มีใครสามารถอธิบายได้ว่าเหตุผลถึงข้อสรุปนั้นมาจากไหน ความเชื่อมั่นจะถูกทำลาย แม้ว่าระบบจะถูกต้องส่วนใหญ่ก็ตาม

ภายในทีม IT สิ่งนี้ปรากฏออกมาอย่างไม่เด่นชัด การทำงานอัตโนมัติทำงานในโหมดคำแนะนำมากกว่าโหมดการดำเนินการ วิศวกรยังคงรับผิดชอบต่อผลลัพธ์ แต่คาดว่าจะเชื่อถือเหตุผลที่ไม่สามารถตรวจสอบได้ เมื่อเวลาผ่านไป สิ่งนี้สร้างความตึงเครียด AI มีอยู่ แต่คุณค่าของมันถูกจำกัด

กระบวนการ AI ที่โปร่งใส

ความโปร่งใสและความสามารถในการอธิบายที่มากขึ้นสามารถแก้ไขปัญหานี้ได้โดยการฟื้นฟูความรับผิดชอบในการตัดสินใจอัตโนมัติ AI ที่สามารถอธิบายได้ไม่ได้หมายความว่าแสดงการคำนวณภายในทุกอย่าง แต่หมายถึงการให้ข้อมูลที่เกี่ยวข้องกับผู้ดำเนินการ ซึ่งรวมถึงข้อมูลที่มีอิทธิพลต่อการตัดสินใจ อะไรคือเงื่อนไขที่มีน้ำหนักมากที่สุด และวิธีการประเมินระดับความเชื่อมั่น ข้อมูลบริบทนี้ช่วยให้ทีมงานสามารถตัดสินได้ว่าผลลัพธ์ตรงกับข้อเท็จจริงการดำเนินงานหรือไม่

ที่รู้จักกันในชื่อ AI แบบกล่องขาว AI ที่สามารถอธิบายได้สร้างชั้นเชิงอธิบายที่อธิบายว่าการตัดสินใจของ AI ถูกสร้างขึ้นอย่างไร แทนที่จะซ่อนกระบวนการและตรรกะไว้จากมุมมอง นี่ไม่เพียงแต่หมายความว่าระบบ AI สามารถกลายเป็นส่วนหนึ่งของโครงสร้างความรับผิดชอบที่ดีขึ้น แต่ยังหมายความว่าผู้ใช้เข้าใจว่าระบบทำงานอย่างไร นอกจากนี้ยังหมายความว่าสามารถระบุจุดอ่อนของโมเดล AI และปกป้องตัวเองจากความเอนเอียงได้

สิ่งสำคัญคือความสามารถในการอธิบายตัวเองหมายความว่าเมื่อมีอะไรผิดพลาด ทีมงานสามารถติดตามเส้นทางเหตุผล ระบุสัญญาณที่อ่อนแอ และปรับปรุงกระบวนการได้ หากไม่มีความสามารถในการมองเห็นนี้ ข้อผิดพลาดจะถูกทำซ้ำหรือหลีกเลี่ยงโดยการปิดการทำงานอัตโนมัติ

ความสามารถในการอธิบายตัวเองในทางปฏิบัติ

พิจารณาการจัดการเหตุการณ์ AI มักถูกใช้เพื่อจัดกลุ่มการแจ้งเตือนและแนะนำสาเหตุที่เป็นไปได้ ในสภาพแวดล้อมองค์กรขนาดใหญ่ การจัดประเภทความพึ่งพาที่ผิดพลาดเพียงครั้งเดียวระหว่างเหตุการณ์สำคัญสามารถทำให้การแก้ไขล่าช้าเป็นชั่วโมง โดยดึงทีมหลายทีมเข้ามาในกระบวนการตรวจสอบขนานกันในขณะที่บริการที่ลูกค้าใช้งานยังคงมีประสิทธิภาพลดลง เมื่อคำแนะนำเหล่านั้นมาพร้อมกับการอธิบายที่ชัดเจนว่าระบบใดเกี่ยวข้อง วิธีการเข้าถึงความพึ่งพาหรืออ้างอิงเหตุการณ์ในอดีตอย่างไร วิศวกรสามารถตัดสินใจได้อย่างรวดเร็ว หากปรากฏว่าไม่ถูกต้อง ข้อมูลเชิงลึกนั้นสามารถใช้ในการปรับปรุงทั้งโมเดลและกระบวนการ

หากไม่มีความโปร่งใสนี้ ทีมงานจะกลับสู่การวินิจฉัยด้วยตนเอง ไม่ว่า AI จะมีความทันสมัยแค่ไหน

วงจรป้อนกลับนี้เป็นศูนย์กลางของการนำรับใช้ที่ยั่งยืน ระบบที่สามารถอธิบายตัวเองได้จะพัฒนาไปพร้อมกับบุคคลที่ใช้งาน ในทางตรงกันข้าม ระบบกล่องดำมักจะหยุดนิ่งหรือถูกเลื่อนออกไปเมื่อความเชื่อมั่นลดลง

ความรับผิดชอบและความเป็นเจ้าของ

ความสามารถในการอธิบายตัวเองยังเปลี่ยนแปลงวิธีการกระจายความรับผิดชอบ ในสภาพแวดล้อมการดำเนินงาน ความรับผิดชอบไม่หายไปเพียงเพราะการตัดสินใจถูกอัตโนมัติ บางคนยังคงต้องยืนอยู่เบื้องหลังผลลัพธ์ เมื่อ AI สามารถอธิบายตัวเองได้ ความรับผิดชอบจะชัดเจนและจัดการได้ง่ายขึ้น การตัดสินใจสามารถถูกทบทวน พิสูจน์ และปรับปรุงได้โดยไม่ต้องใช้วิธีแก้ปัญหาทางป้องกัน

มีประโยชน์ด้านการกำกับดูแลด้วย แม้ว่าจะไม่ใช่แรงจูงใจหลักภายใน กรอบการคุ้มครองข้อมูลและความรับผิดชอบที่มีอยู่กำหนดให้องค์กรต้องอธิบายการตัดสินใจอัตโนมัติในบางบริบทอยู่แล้ว เมื่อกฎระเบียบเฉพาะของ AI ยังคงพัฒนา ระบบที่ไม่มีความโปร่งใสอาจทำให้องค์กรเสี่ยงต่อความเสี่ยงโดยไม่จำเป็น

อย่างไรก็ตาม คุณค่าที่แท้จริงของความสามารถในการอธิบายตัวเองนั้นอยู่ที่ความสามารถในการรับมือและฟื้นตัวจากความขัดข้อง มากกว่าการปฏิบัติตามกฎระเบียบ ทีมงานที่เข้าใจระบบของตนสามารถฟื้นตัวได้เร็วขึ้น พวกเขาสามารถแก้ไขเหตุการณ์ได้อย่างมีประสิทธิภาพและใช้เวลาน้อยลงในการถกเถียงว่าควรไว้วางใจการทำงานอัตโนมัติหรือไม่

การออกแบบ AI สำหรับการดำเนินงานที่ยอดเยี่ยม

วิศวกรได้รับการฝึกให้ตั้งคำถามต่อสมมติฐาน ตรวจสอบความพึ่งพา และทดสอบผลลัพธ์ เมื่อการทำงานอัตโนมัติสนับสนุนสัญชาตญาณเหล่านี้แทนการข้ามพวกมัน การนำรับใช้จะกลายเป็นความร่วมมือและเป็นส่วนหนึ่งของกระบวนการแทนที่จะเป็นโครงสร้างที่บังคับ

มีค่าใช้จ่ายในการสร้างระบบเหล่านี้ มีความต้องการการปฏิบัติด้านข้อมูลอย่างมีวินัย การเลือกออกแบบที่รอบคอบ และพนักงานที่มีทักษะที่สามารถตีความผลลัพธ์ได้อย่างรับผิดชอบ AI ที่สามารถอธิบายได้อาจไม่ขยายขนาดได้เร็วเท่ากับโมเดลที่ไม่โปร่งใสที่ได้รับการปรับให้เหมาะสมสำหรับความเร็วหรือความใหม่ๆ เพียงอย่างเดียว แต่ผลตอบแทนจากการลงทุนนี้คือความเสถียร

องค์กรที่ให้ความสำคัญกับความสามารถในการอธิบายตัวเองเห็นโครงการที่หยุดชะงักน้อยลง และการดำเนินการตัดสินใจโดยไม่เป็นทางการน้อยลง การทำงานอัตโนมัติกลายเป็นชั้นที่เชื่อถือได้ภายในการดำเนินงาน แทนที่จะเป็นการทดลองขนานที่ดำเนินไปอย่างโดดเดี่ยว เวลาในการให้คุณค่าดีขึ้น ไม่ใช่เพราะระบบเร็วขึ้น แต่เพราะทีมงานเต็มใจที่จะใช้งานอย่างเต็มที่

การขยายขนาดอย่างรับผิดชอบ

เมื่อ AI กลายเป็นส่วนหนึ่งของโครงสร้างพื้นฐานองค์กรอย่างถาวร ความสำเร็จจะถูกกำหนดโดยความน่าเชื่อถือมากกว่าความทะเยอทะยาน ระบบที่สามารถอธิบายการตัดสินใจของตนได้จะน่าเชื่อถือมากขึ้น ง่ายต่อการปรับปรุง และง่ายต่อการยืนหยัดเมื่อผลลัพธ์ถูกท้าทาย

ในสภาพแวดล้อมการดำเนินงาน ความฉลาดสามารถขยายขนาดได้เมื่อความเข้าใจเดินหน้าไปพร้อมกับการทำงานอัตโนมัติ

วิมาลราจ สัมปัทกุมาร์ หัวหน้าฝ่ายเทคนิคประจำสหราชอาณาจักรและไอร์แลนด์ของ ManageEngine เป็นผู้จัดการฝ่ายสนับสนุนก่อนการขายและลูกค้าเชิงกลยุทธ์ โดยมีประสบการณ์ 13 ปีด้านการขายเชิงเทคนิค การบริหารบัญชีลูกค้า และการช่วยให้ลูกค้าประสบความสำเร็จ เขามีความเชี่ยวชาญเชิงเทคนิคลึกซึ้งในการให้คำปรึกษาและติดตั้งใช้งานแอปพลิเคชัน ITSM, ITOM, SIEM, การจัดการอุปกรณ์ปลายทาง, CRM, ATS และ HCM/HRIS ทั่วโลก เขาเชี่ยวชาญในการเพิ่มรายได้และส่วนแบ่งตลาดด้วยการส่งมอบโซลูชันที่เน้นลูกค้าอย่างสม่ำเสมอ แสดงให้เห็นคุณค่าของผลิตภัณฑ์ และสร้างรากฐานความสัมพันธ์ระยะยาวที่ลูกค้ามีความภักดีต่อบริษัท ในเวลาว่างเขาชอบเล่นคริกเก็ต อ่านหนังสือ และท่องเที่ยว