การกำกับดูแล AI: ปัญหาสำหรับหลายคน แต่ข้อได้เปรียบสำหรับไม่กี่คน

Enterprise AI กำลังสะสมความเสี่ยงเร็วกว่าที่ใครจะคำนวณได้ เอเจนต์ AI เริ่มสัมผัสกับข้อมูลลูกค้า โค้ดการผลิต และการตัดสินใจทางธุรกิจที่สำคัญ และในหลายองค์กร พวกมันถูกควบคุมโดยการควบคุมที่ออกแบบมาสำหรับยุคเทคโนโลยีที่แตกต่าง ในเวลาเดียวกัน การสนับสนุนภายนอกที่องค์กรอาจพึ่งพาได้กำลังลดลง ห้องปฏิบัติการ AI ที่นำหน้าได้ ลดความมุ่งมั่นในการรักษาความปลอดภัยแบบสมัครใจ และการกำกับดูแลยังคงกระจัดกระจายข้ามเขตอำนาจศาล ความรับผิดชอบในการสร้างความไว้วางใจกำลังตกเป็นของบริษัทที่ใช้ AI เพราะสุดท้ายพวกเขาคือผู้ที่จะ遭受ผลลัพธ์เชิงลบเมื่อและหากพวกมันเกิดขึ้น

ฉันทำงานเชิงกลยุทธ์เกี่ยวกับ AI กับบริษัททั่วหลายอุตสาหกรรม และฉันพูดกับ CEO และคณะกรรมการทุกวัน รูปแบบที่ฉันเห็นคือต่อไปนี้: การใช้งาน AI เพิ่มขึ้นในขณะที่โครงสร้างพื้นฐานการควบคุมไม่ตามทัน รูปแบบนี้สม่ำเสมอจนฉันพิจารณาว่ามันเป็นโครงสร้างมากกว่าความล้มเหลวของบริษัทใดบริษัทหนึ่ง และฉันจะทำการคาดการณ์: เราไม่ไกลจากจุดที่ CEO จะต้องอธิบายว่าข้อผิดพลาดครั้งใหญ่ทำให้ธุรกิจสูญเสียหลายล้าน และพวกเขาจะกล่าวหาว่า AI เป็นข้ออ้าง ฉันขอแนะนำว่านั่นไม่ใช่ข้ออ้าง

ข่าวดีคือฉัน幸ดีที่ได้เห็นบริษัทไม่กี่แห่งที่รับมือกับการกำกับดูแลในแบบที่แตกต่าง และฉันเชื่อว่าบริษัทเหล่านั้นกำลังสร้างข้อได้เปรียบที่สะสมขึ้นตามเวลา ในขณะที่บริษัทอื่นๆ ที่รออยู่ข้างนอกมีความเสี่ยงที่จะล้าหลัง ความเข้าใจในสิ่งที่บริษัทไม่กี่แห่งเห็นเริ่มต้นจากการเข้าใจว่าแนวทางปัจจุบันนำไปสู่ที่ไหน

เรากำลังจะเผชิญกับปัญหา

การนำ AI ไปใช้ในปัจจุบันยังเล็กเกินกว่าที่การกำกับดูแลของมนุษย์จะสามารถดูดซับได้ การวิจัยล่าสุดของ Deloitte เกี่ยวกับ สถานะของ AI ในองค์กร พบว่าเพียงหนึ่งในสี่ขององค์กรที่สำรวจได้นำ实验 AI ไปใช้จริงแล้ว ส่วนใหญ่ขององค์กรยังคงอยู่ในช่วงแรกของการนำ AI ไปใช้ โดย运行เอเจนต์ AI เพียงไม่กี่ตัวในกรณีการใช้งานที่แคบๆ โดยมีคนติดตามผลลัพธ์ทุกๆ ชิ้น

สิ่งที่สำคัญคือแนวทางที่เราเดินไป การนำ AI ไปใช้จะเพิ่มขึ้นจากเอเจนต์ 2 ตัวเป็น 20 ตัว 200 ตัว และ 2,000 ตัว ขึ้นไป ความซับซ้อนจะเพิ่มขึ้นตามไปด้วย เอเจนต์ใหม่ๆ แต่ละตัวจะมีพฤติกรรมของมันเอง รวมถึงการโต้ตอบกับระบบอื่นๆ และเอเจนต์อื่นๆ ที่ทำงานร่วมกัน เมื่อมีเอเจนต์ 2 ตัว การสร้างความไว้วางใจจะง่าย: คุณรู้จักทีมและตรวจสอบผลลัพธ์ด้วยตัวเอง เมื่อมีเอเจนต์ 20 ตัว การสร้างความไว้วางใจต้องเป็นกระบวนการ โดยมีเจ้าของที่กำหนดไว้ การทดสอบ และเส้นทางการเพิ่มขึ้นของการควบคุม เมื่อมีเอเจนต์ 200 ตัว การตรวจสอบแบบไม่เป็นทางการจะกลายเป็นเรื่องเล่นๆ เพราะทีมผู้นำไม่สามารถตรวจสอบกิจกรรมได้มากนัก เมื่อมีเอเจนต์ 2,000 ตัว การมีคนในวงจรการควบคุมจะกลายเป็นเรื่องไร้ประโยชน์ เนื่องจากการโต้ตอบระหว่างเอเจนต์ ข้อมูล และกระบวนการทางธุรกิจจะก่อให้เกิดเว็บที่ซับซ้อนเกินกว่าที่การควบคุมของมนุษย์จะสามารถจัดการได้ เมื่อถึงขนาดนั้น การสร้างความไว้วางใจจะต้องมีอยู่ในระดับเดียวกันและถูกฝังไว้ในโครงสร้างพื้นฐานทางเทคนิคขององค์กร

ค่าใช้จ่ายของการรอ

โครงสร้างพื้นฐานการสร้างความไว้วางใจที่ไม่เพียงพอเป็นอีกเหตุผลหนึ่งที่ทำให้ผลตอบแทนไม่น่าพอใจ ใน การสำรวจ CEO ทั่วโลกของ PwC พบว่า 56% ของ CEO กล่าวว่า AI ไม่ได้สร้างรายได้เพิ่มขึ้นหรือลดค่าใช้จ่ายในช่วงปีที่ผ่านมา จากประสบการณ์ของฉัน แม้ผลตอบแทนที่รายงานดูไม่น่าเชื่อถือเมื่อตรวจสอบเศรษฐกิจที่แท้จริง ส่วนใหญ่ขององค์กรมีการนับชั่วโมงที่ประหยัดและเรียกมันว่าผลตอบแทนจากการลงทุน ชั่วโมงที่ประหยัดจะกลายเป็นผลตอบแทนการเงินเมื่อองค์กรแปลงความสามารถนั้นเป็นสิ่งที่มีค่ามากกว่า: ผลผลิตที่มากขึ้น คุณภาพที่ดีขึ้น ค่าใช้จ่ายที่หลีกเลี่ยงได้ การเติบโตที่เร็วขึ้น ฯลฯ

สิ่งนั้นต้องการความไว้วางใจ องค์กรสามารถย้ายการตัดสินใจของมนุษย์ไปสู่งานที่มีค่ามากกว่าได้เมื่อผู้นำมั่นใจในระบบที่เข้ามาแทนที่งานที่มีค่าน้อยกว่า หากไม่มีความไว้วางใจ องค์กรจะสะสมหนี้สินที่ไม่ขยายตัว และในระยะยาว จะส่งผลกระทบต่อผลผลิตอย่างมีนัยสำคัญ มันเป็นสถานการณ์ที่เลวร้ายที่สุด: ค่าใช้จ่ายที่เพิ่มขึ้นโดยไม่มีอะไรที่จะแสดงให้เห็น ความไว้วางใจคือรากฐานที่ผลตอบแทนนั้นเกิดขึ้น

ปัญหาของลิฟต์

ความเชื่อมโยงระหว่างความไว้วางใจและการนำไปใช้ไม่ใช่เรื่องใหม่ และเราสามารถย้อนกลับไปในยุคกลางของศตวรรษที่ 20 เพื่อหาจุดอ้างอิงที่สมเหตุสมผล ลิฟต์ไร้คนขับมีอยู่ตั้งแต่หลายทศวรรษที่แล้วก่อนที่ใครจะขึ้นไปขับ เทคโนโลยีนั้นใช้ได้ แต่ผู้โดยสารจะเข้าไปในตู้และเห็นว่าไม่มีคนขับแล้วก็ออกมา สิ่งที่เปลี่ยนไม่ใช่ลิฟต์ แต่เป็นการควบคุมความปลอดภัยรอบๆ มัน หลังจากการนัดหยุดงานของคนขับลิฟต์ในปี 1945 ที่ปิดการทำงานของอาคารสำนักงานทั่วニューヨーク อุตสาหกรรมได้สร้างความไว้วางใจเข้าไปในเครื่องจักรเอง: ปุ่มหยุดฉุกเฉิน สายโทรศัพท์ ประตูที่เปิดใหม่เมื่อพบกับการต้านทาน และเสียงบันทึกที่อธิบายว่าจะทำอะไรต่อไป ภายในหนึ่งรุ่น การขึ้นลิฟต์โดยไม่มีคนขับกลายเป็นเรื่องปกติจนการเดินเข้าไปในลิฟต์ที่มีคนขับดูเหมือนเป็นเรื่องโบราณ อุปสรรคในการเอาคนออกจากวงจรไม่ใช่เรื่องความสามารถ มันคือความไว้วางใจ และอุตสาหกรรมได้แก้ปัญหานั้นโดยการสร้างการควบคุมที่มองเห็นได้และตรวจสอบได้เข้าไปในระบบและวางไว้ที่ทุกคนสามารถเห็นได้

AI ในองค์กรอยู่ในขั้นตอนที่คนเดินเข้าไปแล้วเดินออกมา ผู้นำทีมเห็นเอเจนต์ทำงานโดยไม่มีคนขับและลังเล และการลังเลนั้นเป็นเรื่องสมเหตุสมผล: ส่วนใหญ่ขององค์กรมิได้สร้างการควบคุมที่เทียบเท่ากับปุ่มหยุดฉุกเฉิน สายโทรศัพท์ และประตูที่ไม่ปิดบังคน บริษัทที่ออกแบบการควบคุมเหล่านั้นเข้าไปในระบบของตนจะเป็นบริษัทที่คน ผู้บริโภค และผู้กำกับดูแลจะเข้าไปและอยู่ในระบบ

ผู้ขายสามารถรับภาระได้เพียงบางส่วน

หลายคนหวังว่าผู้ขาย AI จะรับภาระความไว้วางใจ ผู้ขายสามารถให้การรักษาความปลอดภัยและควบคุมระดับโมเดลได้ และผู้ขายที่ดีจะทำเช่นนั้น การตัดสินใจว่าการใช้งาน AI นั้นเหมาะสมหรือไม่นั้นยังคงเป็นหน้าที่ของคุณ เพราะผู้ขายไม่มีบริบทที่จะทำเช่นนั้นได้ พวกเขาไม่เคยเห็นภาระผูกพันของคุณ และไม่มีทางที่จะประเมินว่าผลลัพธ์ที่ไม่ดีจะมีค่าใช้จ่ายคุณเท่าใด

การรับประกันความปลอดภัยของผู้ขายครอบคลุมเฉพาะโมเดลของตน ไม่ใช่การใช้งานของคุณ นอกจากนี้ยังไม่ใช่สิ่งที่ถาวร: เช่นที่ผ่านมาหนึ่งปีที่แสดงให้เห็นว่าความมุ่งมั่นดังกล่าวสามารถถูกแก้ไขหรือถอนออกได้ อุตสาหกรรมที่มีการควบคุมได้สรุปเรื่องนี้ไปแล้วสำหรับโมเดลของบุคคลที่สาม และมาตรฐานที่พวกเขาใช้คือมาตรฐานที่ถูกต้อง: องค์กรที่ใช้โมเดลเป็นผู้ที่รับผิดชอบต่อความเสี่ยง

สิ่งที่ไม่กี่คนกำลังทำ

บริษัทที่ดึงหนึ่งกำลังทำการเคลื่อนไหวสามอย่าง:

1. พวกเขากำลังสร้างโครงสร้างพื้นฐานการควบคุมในขณะนี้ โดยคำนึงถึงขนาดที่พวกเขาตั้งเป้าไปสู่ ไม่ใช่ขนาดที่พวกเขาคือในขณะนี้ เพราะการควบคุมต้องมีอยู่ก่อนที่เอเจนต์ที่ต้องการจะเกิดขึ้น
2. พวกเขากำลังฝังการจำแนกและบรรเทาผลเสี่ยงตั้งแต่เริ่มต้นกระบวนการนำไปใช้ ไม่ใช่แค่การตรวจสอบที่ปลายกระบวนการ ดังนั้นกรณีการใช้งานทุกกรณีจึงถูกจำแนกและควบคุมที่เหมาะสมต่อความเสี่ยงตั้งแต่วันแรก
3. และพวกเขากำลังตั้งการกำกับดูแลอิสระที่มีอำนาจที่แท้จริงในการตรวจสอบว่าระบบเหล่านี้ทำงานตามที่ตั้งใจไว้ และยังคงยืดหยุ่นเพื่อปรับเปลี่ยนตามเทคโนโลยี อิสระภาพทำให้การตรวจสอบน่าเชื่อถือ และความยืดหยุ่นรักษาให้มันปัจจุบัน

มันคุ้มที่จะชี้ให้เห็นว่าไม่กี่หน่วยงานกำกับดูแลได้กำหนดกฎเกณฑ์อย่างชัดเจนเกี่ยวกับการใช้และการกำกับดูแล AI ที่สร้างขึ้น แต่นั่นไม่ได้หมายความว่าเราไม่มีอะไรที่จะอ้างอิง ในเดือนเมษายน Federal Reserve, OCC และ FDIC ได้ออก คำแนะนำเกี่ยวกับความเสี่ยงของโมเดลที่แก้ไขแล้ว ซึ่งสะท้อนถึงประสบการณ์หลายทศวรรษ โดยใช้แนวทางที่อิงหลักการ ซึ่งรวมถึงการเก็บคลังโมเดล การควบคุมความเสี่ยงที่เหมาะสมกับการสัมผัส การตรวจสอบอิสระ การติดตามอย่างต่อเนื่อง และความรับผิดชอบขององค์กรต่อผลิตภัณฑ์ของผู้ขาย และได้สั่งให้สถาบันต่างๆ นำแนวทางปฏิบัติเหล่านี้ไปใช้กับ AI ด้วยตัวเอง ข้อความที่ชัดเจน: หลักการที่ใช้ได้ผลรู้จักกัน และกฎเกณฑ์ AI ที่เป็นทางการไม่ได้มาเร็วๆ นี้ องค์กรที่รอความชัดเจนจากกฎเกณฑ์จะรอในขณะที่ไม่กี่คนดำเนินการ นี่คือเหตุผลที่อุตสาหกรรมที่มีการควบคุมอย่างเข้มงวด ซึ่งมักถูกอธิบายว่าช้า ล่วงหน้าเข้าสู่ยุคใหม่นี้ พวกเขาใช้เวลาหลายทศวรรษในการสร้างเครื่องจักรสร้างความไว้วางใจที่ทุกคนต้องการ และไม่รอการอนุญาตให้ใช้งาน

คำถามที่สำคัญ

การแบ่งแยกกำลังเกิดขึ้น ส่วนใหญ่ของบริษัทต่างๆ มองการกำกับดูแลเป็นต้นทุน: สิ่งที่ต้องทน ต้องอดทน และลดให้เหลือน้อยที่สุด ไม่กี่คนมองการกำกับดูแลเป็นโครงสร้างพื้นฐานที่ทำให้พวกเขาย้ายคนไปสู่งานที่มีค่ามากกว่าและขยายตัวด้วยความมั่นใจ ทุกทีมผู้นำอยู่ในฝ่ายใดฝ่ายหนึ่ง ไม่ว่าจะตั้งใจหรือไม่ และช่องว่างนั้นกำลังขยายตัวอย่างเงียบๆ ก่อนที่จะถึงระดับที่จะทำให้มันเห็นได้ชัด ไม่มีใครคิดสองครั้งเกี่ยวกับการเข้าไปในลิฟต์ในปัจจุบัน เพราะความไว้วางใจถูกสร้างเข้าไปในมัน บริษัทที่ทำเช่นเดียวกันกับ AI จะขยายตัวเกินกว่าทุกคนที่ยังคงลังเลว่าจะเข้าไปหรือไม่