เεφรายน์ รูห์ ซีทีโอของ EMEA ที่ Digitate – ซีรีส์สัมภาษณ์

เอฟรายน์ รูห์ เป็น Chief Technology Officer สำหรับ EMEA ที่ Digitate ซึ่งเขานำยุทธศาสตร์เทคโนโลยีระดับภูมิภาคด้วยการเน้นย้ำ AI ขององค์กร การ自动化 และการเปลี่ยนแปลงการดำเนินงานขนาดใหญ่ เขาทำงานอย่างใกล้ชิดกับลูกค้าในยุโรป ตะวันออกกลาง และแอฟริกา เพื่อช่วยให้องค์กรต่างๆ นำ AI มาใช้อย่างมีความรับผิดชอบ โดยเน้นการดำเนินการจริง การกำกับดูแล และผลลัพธ์ที่วัดได้ รูห์ เป็นผู้ร่วมให้ข้อมูลในอุตสาหกรรมเกี่ยวกับ AI ที่มีหน่วยงาน MLOps ที่มีความเป็นมาตรฐาน และความเป็นจริงในการย้ายจาก AI ที่ทดลองไปสู่ระบบการผลิต

Digitate เป็นบริษัทซอฟต์แวร์สำหรับองค์กรและเป็นบริษัทย่อยของ Tata Consultancy Services ที่เชี่ยวชาญด้านการ自動化ที่ขับเคลื่อนด้วย AI สำหรับการดำเนินงาน IT และธุรกิจ แพลตฟอร์มหลักของบริษัทคือ ignio ซึ่งช่วยให้การดำเนินงานอัตโนมัติโดยการรวมการเรียนรู้ของเครื่อง ความรู้กราฟ และการ 자동化ที่ชาญฉลาดเพื่อตรวจจับปัญหา การคาดการณ์ผลลัพธ์ และการซ่อมแซมระบบอัตโนมัติใน môi trườngองค์กรที่ซับซ้อน Digitate ให้บริการแก่องค์กรระดับโลกที่ต้องการลดความซับซ้อนในการดำเนินงาน ในขณะเดียวกันก็ปรับปรุงความทนทานและประสิทธิภาพผ่านการนำ AI มาใช้

เมื่อพิจารณาจากบทบาทการเป็นผู้นำด้านเทคนิคที่กว้างขวางที่ Digitate และประสบการณ์เชิงปฏิบัติในด้านการดำเนินงาน IT สถาปัตยกรรม และระบบองค์กรของคุณ มุมมองของคุณเกี่ยวกับความสำคัญของ AI ที่อธิบายได้เปลี่ยนแปลงไปอย่างไร เมื่อเทียบกับโมเดลการ 자동化แบบกล่องดำที่หลายองค์กรยังคงใช้งานอยู่ในปัจจุบัน?

รุ่นก่อนๆ ของการ 자동化ส่วนใหญ่เป็นแบบตอบสนองและขึ้นอยู่กับกฎ ซึ่งทำให้พฤติกรรมแบบกล่องดำสามารถยอมรับได้ เมื่อระบบ AI เคลื่อนไปสู่ตัวแทน proactivethat สามารถให้เหตุผลและสร้างการตอบสนองของตนเอง ความอดทนสำหรับการไม่โปร่งใสจะหายไป ผู้นำ IT ต้องรับผิดชอบในการรักษาความพร้อมใช้งานของระบบที่สำคัญต่อภารกิจตลอด 24 ชั่วโมง และความรับผิดชอบนั้นไม่ได้ให้พื้นที่สำหรับการทดลองกับระบบที่เหตุผลไม่สามารถตรวจสอบได้ ความสามารถในการอธิบายจึงเปลี่ยนจากคุณลักษณะทางเทคนิคไปสู่ความต้องการในการดำเนินงานที่ช่วยให้เกิดความไว้วางใจในระดับใหญ่ เพื่อให้ไว้วางใจตัวแทน AI ใหม่เหล่านี้ มันสำคัญที่พวกเขาจะแบ่งปันความคิดของพวกเขา (โดยพื้นฐานแล้วว่าพวกเขามาถึงวิธีแก้ปัญหา) และผลลัพธ์ของการให้เหตุผล

ทำไมความไว้วางใจและความสามารถในการอธิบายจึงกลายเป็นอุปสรรคที่ใหญ่ที่สุดในการนำ AI ที่ขับเคลื่อนด้วยการ автом化ไปใช้ในระดับกว้างใน IT ขององค์กร?

IT ขององค์กรดำเนินงานภายใต้ความรับผิดชอบและความเสี่ยงอยู่เสมอ เมื่อระบบ AI ตัดสินใจโดยอัตโนมัติ โดยเฉพาะอย่างยิ่งในรูปแบบการดำเนินงานแบบป้องกันหรือการซ่อมแซมด้วยตนเอง ทีมงานต้องสามารถเข้าใจได้ว่าเหตุใดจึงมีการดำเนินการบางอย่างโดยไม่มีการมองเห็นหลักฐาน บริบท และตรรกะการตัดสินใจ AI จะนำความไม่แน่นอนมาแทนที่จะลดความไม่แน่นอน ซึ่งจะส่งผลกระทบต่อความไว้วางใจ และชะลอการนำไปใช้ระหว่างทีม IT มากกว่าความแม่นยำของแบบจำลองหรือประสิทธิภาพที่จะทำได้

ความสามารถในการอธิบายที่แท้จริงใน AI ที่ขับเคลื่อนการดำเนินงาน IT มีลักษณะอย่างไร และจะช่วยให้ทีมงานตรวจสอบการตัดสินใจก่อนที่ระบบจะดำเนินการโดยอัตโนมัติได้อย่างไร?

ความสามารถในการอธิบายที่แท้จริงเป็นเรื่องจริงและเน้นย้ำผู้ดำเนินงาน ซึ่งหมายความว่าเทคโนโลยีต้องแสดงข้อมูลที่ใช้ในการให้เหตุผล ตรวจสอบว่าระบบเข้าใจบริบทการดำเนินงานที่ถูกต้อง และอธิบายแนวทางปฏิบัติที่แนะนำในคำที่อ่านได้สำหรับมนุษย์ นอกจากนี้ยังรวมถึงการตรวจสอบทางประวัติศาสตร์ เช่น การตัดสินใจที่คล้ายกันเคยทำมาก่อน และผลลัพธ์เป็นอย่างไร ซึ่งช่วยให้ทีมงานสามารถตรวจสอบการดำเนินการได้อย่างรวดเร็ว และขยายการดำเนินการอัตโนมัติได้โดยไม่มีการเสี่ยงต่ำ หากคนไม่สามารถดูดigest และดำเนินการตามผลลัพธ์ได้อย่างรวดเร็ว อุปกรณ์ความสามารถในการอธิบายจะล้มเหลวในการให้บริการวัตถุประสงค์ของมัน

การขาดความสามารถในการอธิบายจะส่งผลกระทบต่อความเสี่ยงในการดำเนินงาน การเงิน หรือธุรกิจที่แท้จริงสำหรับองค์กรขนาดใหญ่อย่างไร?

หากคุณดำเนินโรงงานและอุปกรณ์ที่สำคัญขาดการเตือนเพื่อระบุปัญหาในการบำรุงรักษา มันจะเริ่มทำงานผิดปกติโดยไม่ต้องแจ้งให้ทีมงานทราบ ซึ่งนำไปสู่ผลิตภัณฑ์ที่มีคุณภาพไม่ดีหรือการหยุดทำงานโดยไม่ได้แจ้งให้ทราบ ในทำนองเดียวกัน AI ที่ไม่มีความสามารถในการอธิบายสามารถเปลี่ยนปัญหาเล็กๆ ของข้อมูลให้กลายเป็นเหตุการณ์ทางธุรกิจที่สำคัญ ระบบการคาดการณ์ความจุที่ขับเคลื่อนด้วย AI ที่ดำเนินการบนข้อมูลที่ไม่สมบูรณ์อาจลดความจุของโครงสร้างพื้นฐานเพื่อประหยัดต้นทุน แต่ส่งผลให้ประสิทธิภาพลดลงอย่างรุนแรงในช่วงเวลาที่มีการประมวลผลสูงสุด ในกรณีของระบบ AI ขององค์กร คุณมักจะเห็นผลกระทบของความสามารถในการอธิบายที่ไม่ดีจาก SLA ที่พลาดไป ค่าปรับทางการเงิน และผลกระทบต่อลูกค้า ในทำนองเดียวกัน การระงับข้อความเตือนแบบก้าวร้าวสามารถซ่อนความล้มเหลวที่สำคัญได้ ทำให้การหยุดทำงานไม่ได้รับการตรวจจับจนกว่าจะกลายเป็นเหตุฉุกเฉินจริงๆ

จากมุมมองของคุณ ระบบ AI ควรเล่นบทบาทใดในการทำให้เหตุผลของพวกเขาตรวจสอบและเข้าใจได้สำหรับทีม IT ที่ดำเนินระบบที่สำคัญต่อภารกิจ?

ตัวแทน AI หรือแพลตฟอร์มที่ได้รับการออกแบบอย่างดีจะมีความสามารถในการอธิบายที่ถูกสร้างเข้าไปแล้ว โดยตรง ตัวระบบอัตโนมัติควรบันทึกข้อมูลที่ใช้ ตรรกะที่ใช้ การดำเนินการแนะนำหรือดำเนินการ และผลลัพธ์ที่ตามมา ข้อมูลนี้ควรนำเสนอในภาษาที่ทีม IT ใช้ เช่น ความสัมพันธ์ เหตุการณ์ทางประวัติศาสตร์ และผลกระทบทางธุรกิจ มากกว่าคะแนน AI ที่เป็นนามธรรม การตรวจสอบความถูกต้องเป็นสิ่งจำเป็นสำหรับการรับผิดชอบ การเรียนรู้ และความไว้วางใจในระยะยาว

แนวทางด้านสถาปัตยกรรมหรือการออกแบบใดที่ช่วยให้องค์กรสามารถย้ายออกจากการ 자동化ที่ไม่โปร่งใสไปสู่การตัดสินใจที่โปร่งใสและเป็นกระจกมากกว่า?

องค์กรกำลังนำสถาปัตยกรรมที่ยึดการดำเนินการตัดสินใจของ AI ในข้อมูลการดำเนินงานที่มีคุณภาพสูงและแยกการตรวจสอบข้อมูลออกจากตรรกะการตัดสินใจ ระบบที่โปร่งใสรับประกันว่า AI ทำงานกับข้อมูลอินพุตที่ถูกต้องและสมมติฐานก่อนดำเนินการ องค์กรหลายแห่งใช้ความเป็นอิสระแบบขั้นตอน โดยเริ่มต้นด้วยคำแนะนำและดำเนินการโดยอัตโนมัติเมื่อความมั่นใจเพิ่มขึ้น การเข้าถึงข้อมูลแบบเปิดและชั้นเนื้อหาที่ชัดเจนเป็นสิ่งสำคัญในการหลีกเลี่ยงพฤติกรรมแบบกล่องดำเมื่อความเป็นอิสระเพิ่มขึ้น ยังมีพื้นที่ให้อุตสาหกรรมเติบโตในด้านความสามารถในการอธิบาย และฉันคิดว่าเราจะเห็นความเจริญรุ่งเรืองของฟีเจอร์ความสามารถในการอธิบายในปีนี้

องค์กรสามารถสร้างสมดุลระหว่างการดำเนินการ AI โดยอัตโนมัติและความดูแลของมนุษย์ได้อย่างไรโดยไม่ทำให้การดำเนินงานชะลอ?

สมดุลนี้สามารถทำได้ผ่านการควบคุมความเสี่ยงมากกว่าการดูแลโดยรวม การทำงานที่มีความถี่สูงและความเสี่ยงต่ำสามารถทำอัตโนมัติได้ด้วยการป้องกัน ในขณะที่การตัดสินใจที่มีผลกระทบสูงจะยังคงได้รับการตรวจสอบโดยมนุษย์จนกว่าระบบจะแสดงให้เห็นถึงความน่าเชื่อถือ เมื่อความสามารถในการอธิบายดีขึ้นและ AI แสดงให้เห็นถึงการตัดสินใจที่ดีโดยสม่ำเสมอ ความเป็นอิสระจะขยายตัวโดยธรรมชาติโดยไม่ทำให้เกิดการเสียดสีในการดำเนินงาน

คำแนะนำของคุณสำหรับ CIO และ CTO ที่ต้องการขยาย AI ไปยังการดำเนินงาน IT แต่เผชิญกับการต่อต้านภายในเนื่องจากความกังวลเรื่องความโปร่งใสและความรับผิดชอบคืออะไร?

เริ่มต้นด้วยความโปร่งใส ไม่ใช่ความเป็นอิสระ ให้ความสำคัญกับการมีส่วนร่วมของทีม IT ในขั้นตอนการออกแบบและการเปิดตัวเพื่อสร้างความไว้วางใจ ความต่อต้านมักมาจากขาดความเข้าใจในกระบวนการตัดสินใจของ AI ไม่ใช่การคัดค้านนวัตกรรม จากนั้น ให้เน้นไปที่กรณีการใช้งานที่ลดเสียงรบกวน ลดความเมื่อยล้าในการแจ้งเตือน และอธิบายว่าการตัดสินใจทำอย่างไรก่อนที่จะอนุญาตให้ระบบดำเนินการโดยอิสระ

เมื่อระบบ AI มีหน้าที่ตัดสินใจมากขึ้น ทีมผู้นำควรปรับปรุงรูปแบบการกำกับดูแล การตรวจสอบ และการสร้างความไว้วางใจใหม่ๆ อย่างไร?

การกำกับดูแลต้องเปลี่ยนจากการอนุมัติแบบคงที่ไปสู่การตรวจสอบอย่างต่อเนื่อง ทีมผู้นำต้องกำหนดพื้นที่ที่อนุญาตให้มีความเป็นอิสระ ระบุหลักฐานที่จำเป็น และเมื่อการแทรกแซงโดยมนุษย์จำเป็น ความไว้วางใจควรได้รับจากการดำเนินการที่วัดผลได้ เช่น ความแม่นยำ การลดเหตุการณ์ และเวลาการแก้ไขที่เร็วขึ้น มากกว่าการถือว่าแบบจำลองมีความซับซ้อน

เมื่อมองไปข้างหน้า คุณเห็น AI ที่สามารถอธิบายได้และโปร่งใสเปลี่ยนแปลงอนาคตของการดำเนินงาน IT โดยอัตโนมัติในอีกไม่กี่ปีข้างหน้าอย่างไร?

AI ที่สามารถอธิบายได้จะเป็นชิ้นส่วนสำคัญของปัญหาเมื่อสร้างการดำเนินงาน IT โดยอัตโนมัติและ proactivethat เพื่อขยายขนาดอย่างปลอดภัยโดยไม่สูญเสียความไว้วางใจที่สำคัญของทีม IT AI ที่สร้างขึ้นกำลังปรับปรุงความโปร่งใสโดยการทำให้ระบบสามารถแสดงหลักฐาน ตรวจสอบข้อเท็จจริง และอธิบายการตัดสินใจในคำที่อ่านได้สำหรับมนุษย์ ในอีกไม่กี่ปีข้าง นี้ระดับความสามารถในการอธิบายจะกลายเป็นมาตรฐาน ทำให้องค์กรสามารถเคลื่อนตัวออกจากการทดลองและฝัง AI ลึกเข้าไปในการดำเนินงาน การกำกับดูแล และกระบวนการทำงานเป็นพันธมิตรที่เชื่อถือได้ มากกว่าผู้ตัดสินใจที่ไม่โปร่งใส ในอีกไม่กี่ปีข้าง AI ตัวแทนจะถูกนำไปใช้ในการจัดการกิจกรรมต่างๆ ขององค์กร และจะกลายเป็นส่วนหนึ่งของชีวิตประจำวันของเรา แต่เพื่อให้บรรลุเป้าหมายนี้ เราต้องสามารถไว้วางใจพวกมัน และความแม่นยำและความโปร่งใสเป็นประเด็นสำคัญที่จะบรรลุเป้าหมายนี้

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Digitate.