คุณสามารถปกป้องสิ่งที่ AI ของคุณทำไปได้หรือไม่?

กำหนดเวลากฎระเบียบสำหรับ AI ยังคงเลื่อนออกไปเรื่อย ๆ แต่ความจำเป็นในการรับผิดชอบของ AI ยังคงอยู่ 

เป็นเวลา 2 ปี การสนทนากฎระเบียบเกี่ยวกับ AI ในระดับองค์กรได้ถูกจัดรอบกำหนดเวลา มาตรการความเสี่ยงสูงของ EU AI Act กำหนดให้มีผลบังคับใช้ตั้งแต่วันที่ 2 สิงหาคม กฎหมาย AI แรกของสหรัฐในรัฐโคโลราโดกำหนดให้มีผลบังคับใช้ตั้งแต่วันที่ 30 มิถุนายน วอชิงตันในที่สุดก็จะตัดสินคำถามว่าใครเป็นผู้กำกับดูแลอะไร 

แล้วเรากำลังเห็นความคืบหน้าเกี่ยวกับกำหนดเวลาเหล่านั้นหรือไม่? พอ ๆ กับนั้น

ในช่วงประมาณหกสัปดาห์ของฤดูใบไม้ผลินี้, สหภาพยุโรปได้ตกลงเลื่อนการปฏิบัติตามข้อกำหนดความเสี่ยงสูง Annex III ไปจนถึงเดือนธันวาคม 2027, และระบบความเสี่ยงสูงที่ฝังอยู่ในผลิตภัณฑ์ไปจนถึงวันที่ 2 สิงหาคม 2028. In Colorado, คำสั่งศาลระดับรัฐบาลกลางได้หยุดไม่ให้อัยการรัฐบังคับใช้กฎหมายฉบับเดิม และแทนที่ด้วยกรอบการแจ้งเตือนที่แคบลง มีผลตั้งแต่วันที่ 1 มกราคม 2027. On June 2, ทำเนียบขาวลงนามคำสั่งบริหารเกี่ยวกับ AIซึ่งมีแนวทางสนับสนุนนวัตกรรมโดยเจตนา ส่งเสริมความร่วมมือโดยสมัครใจกับผู้พัฒนาชั้นนำ มากกว่าการกำหนดใบอนุญาตหรือการขออนุมัติล่วงหน้าที่เป็นข้อบังคับสำหรับโมเดล AI. 

กำหนดเวลาที่เลื่อนออกไปและภาพลวงของการบรรเทากฎระเบียบ

ประเด็นสำคัญสำหรับองค์กรคือ การเปลี่ยนแปลงกำหนดเวลาไม่ได้ทำให้ความรับผิดชอบของ AI หายไป ในยุโรป แม้ว่าข้อกำหนดความเสี่ยงสูงบางส่วนจะถูกย้ายไป แต่ภาระหน้าที่เกี่ยวกับความโปร่งใส ความรู้ด้าน AI เนื้อหาเทียมและการบังคับใช้ยังคงก้าวหน้า โคโลราโดบอกเรื่องคล้ายกัน: นักกฎหมายได้ลบข้อกำหนดการปฏิบัติตามที่เป็นภาระหนักที่สุดออกไป แต่ยังคงรักษาพื้นฐานเช่นการเปิดเผยเมื่อมีการใช้ AI การอธิบายการตัดสินใจที่ไม่ดี การแก้ไขข้อมูลที่ผิดพลาด และการจัดให้มีเส้นทางการตรวจสอบโดยมนุษย์

นั่นเป็นสัญญาณที่มีประโยชน์ว่ากฎระเบียบอาจมาบรรจบกันในที่สุด ผู้กำหนดนโยบายอาจไม่เห็นตรงกันเกี่ยวกับการประเมินผลกระทบ ระบอบการออกใบอนุญาต และระดับของรัฐบาลที่ควรกำหนดกฎ แต่ความสามารถในการอธิบายว่าระบบ AI ทำอะไร เอกสารว่ามันได้ผลลัพธ์อย่างไร และให้ผู้คนมีช่องทางแก้ไขที่มีความหมาย กำลังพิสูจน์ว่ามันยากต่อการกำจัดโดยกฎหมาย ธนาคารยังคงต้องอธิบายการตัดสินใจให้สินเชื่อที่ได้รับอิทธิพลจาก AI โรงพยาบาลยังคงต้องมีบันทึกว่าคำแนะนำที่ช่วยโดย AI ได้มาจากอะไร บริษัทยังคงต้องรู้ว่าเกิดอะไรขึ้นเมื่อระบบอัตโนมัติผลิตผลลัพธ์ที่ต้องปกป้อง

หากมีอะไรหนึ่ง ความพร้อมของโมเดลเปิดที่เพิ่มขึ้นทำให้ความรับผิดชอบนี้สำคัญยิ่งขึ้น ยิ่งองค์กรมีการควบคุมว่ารุ่นทำงานอย่างไรและที่ไหน ความยากในการมองว่าความรับผิดชอบเป็นปัญหาของคนอื่นก็ยิ่งเพิ่มขึ้น หากองค์กรไม่สามารถสร้างใหม่ อธิบาย และปกป้องสิ่งที่ระบบ AI ของตนทำได้ ความล่าช้าของกฎระเบียบก็ให้เพียงการบรรเทาชั่วคราวเท่านั้น

หากคุณเป็นหัวหน้าฝ่าย AI (Chief AI Officer), หัวหน้าฝ่ายการจัดการความเสี่ยงของโมเดล, หรือมีหน้าที่อื่นที่เกี่ยวกับการใช้ AI ในอุตสาหกรรมที่มีการควบคุม, และเคยผ่านยุคของนวัตกรรมและกฎระเบียบใด ๆ มาก่อน, คุณจะรู้ว่าการพัฒนามักจะเร็วกว่าแนวทางกฎระเบียบ – และความรับผิดชอบที่แท้จริงถูกกำหนดโดยสิ่งที่องค์กรของคุณทำในขั้นตอนการใช้งาน ไม่ว่าจะรวมหรือไม่รวมข้อกำหนดของกฎระเบียบ

ช่องว่างการตรวจสอบความเชื่อถือของ AI: ทำไมความเสี่ยงของตลาดจึงเหนือกว่าการปฏิบัติตามกฎระเบียบ

ความรับผิดชอบถูกกำหนดโดยการตัดสินใจที่ทำโดยไม่มีการกำกับดูแลและมันเพิ่มพูนในทั้งสองทิศทาง แม้ว่าความรับผิดชอบของ AI ในระดับองค์กรมักถูกเข้าใจผิดว่าเป็นแนวคิดที่อิงผลลัพธ์ซึ่งสร้างโดยผู้กำกับกฎระเบียบ แต่มันเกิดขึ้นตั้งแต่บริษัทเริ่มใช้งาน ไม่ว่าจะมีการกำหนดผลลัพธ์ที่บังคับใช้หรือไม่ก็ตาม และการใช้งานกำลังเร่งความเร็วเร็วกว่าแผนปฏิบัติตามกฎระเบียบใด ๆ – เร็วที่สุดในขณะนี้เมื่อเอเจนต์อัตโนมัติกำลังเข้าสู่การผลิต ทำการกระทำ จับข้อมูล และตัดสินใจด้วยความเร็วที่ผู้ตรวจสอบมนุษย์ไม่สามารถตามได้. Gartner คาดว่า 40% ของแอปพลิเคชันระดับองค์กรจะรวมเอเจนต์ AI ที่เฉพาะงานภายในสิ้นปีนี้ เพิ่มจากน้อยกว่า 5% ในปี 2025. 

นั่นคือเหตุผลที่สัญญาณที่บ่งบอกมากที่สุดใน AI ระดับองค์กรในขณะนี้ไม่ได้มาจากผู้กำกับกฎระเบียบ – แต่มาจากห้องประชุมผู้บริหารและแสดงบนหน้าการรับสมัครงานขององค์กรในหลากหลายอุตสาหกรรม. การกำกับดูแล AI ระดับคณะกรรมการเพิ่มขึ้น 84% ในการเปิดเผยของบริษัทมหาชนและ Forrester คาดว่า 60% ของ Fortune 100 จะแต่งตั้งหัวหน้าการกำกับดูแล AI อย่างเป็นทางการในปีนี้ Morgan Stanley และ BlackRock เริ่มพิจารณาความพร้อมด้านการกำกับดูแล AI ในการประเมินมูลค่าบริษัท ไม่ได้เป็นการตอบสนองต่อกฎหมายใด ๆ แต่เป็นการตอบสนองต่อความเสี่ยงที่บริษัทที่กำลังนำ AI ไปใช้ยอมรับในทุกด้าน ตั้งแต่การจัดการและการดำเนินธุรกิจจนถึงการลงประกาศรับสมัครงาน. 

AI Index 2026 ของ Stanford พบว่าความปลอดภัยและความเสี่ยง – ไม่ใช่คุณภาพหรือค่าใช้จ่ายของโมเดล – เป็นอุปสรรคที่ใหญ่ที่สุดในการขยาย AI ที่มีเอเจนต์ โดยอ้างอิงจาก 62% ขององค์กรและเหนือกว่าข้อจำกัดด้านเทคนิคและความไม่แน่นอนของกฎระเบียบอย่างชัดเจน ระยะห่างนั้น – ระหว่างสิ่งที่ระบบทำและสิ่งที่เจ้าของสามารถพิสูจน์ได้จริง – คือช่องว่างการตรวจสอบความเชื่อถือของ AI และมันจะไม่หายไปตามกำหนดเวลาของผู้กำกับกฎระเบียบ. 

รูปแบบของนวัตกรรมที่ล้ำหน้ากฎระเบียบเป็นรูปแบบเดียวกับที่เราเห็นกับการยอมรับคลาวด์ การเกิดขึ้นของการเข้ารหัส และอุตสาหกรรมความปลอดภัยไซเบอร์โดยรวมในช่วงสามทศวรรษที่ผ่านมา – สื่อมวลชนได้รายงาน ผู้กำกับกฎระเบียบรับรู้ และทุกอุตสาหกรรมต้องเผชิญกับผลกระทบในโลกจริงและสถานการณ์เฉพาะที่เปลี่ยนจากความลังเลสู่การทดลองและในที่สุดสู่การนำไปใช้ในระดับองค์กรในระดับต่าง ๆ. ในเรื่องคลาวด์คอมพิวติ้ง AWS เปิดตัวในปี 2006 และองค์กรต่าง ๆ ย้ายข้อมูลที่สำคัญและระบบหลักเป็นเวลาประมาณหนึ่งทศวรรษก่อนที่โครงสร้างการปฏิบัติตามกฎระเบียบจะตามทัน. FedRAMPไม่ได้มาถึงจนถึงปี 2011 อุตสาหกรรมจึงต้องสร้าง “โมเดลความรับผิดชอบร่วม” เพื่อมอบความรับผิดชอบที่สัญญาไม่ได้กำหนด, และ GDPR ไม่ได้ทำให้การจัดการข้อมูลมีการบังคับอย่างจริงจังจนถึงปี 2018. ความปลอดภัยไซเบอร์ไม่ได้รับการกำหนดอย่างเป็นทางการจนถึงปี 2004 ซึ่งหลังจากข้อมูลบัตรเครดิตได้ย้ายไปออนไลน์แล้ว; กฎหมายการแจ้งการละเมิดเริ่มจากกฎหมายของรัฐแคลิฟอร์เนียเพียงฉบับเดียวในปี 2003 และยังคงเป็นการจัดการแบบรัฐต่อรัฐในปัจจุบัน; และ SEC ไม่ได้กำหนดให้บริษัทเปิดเผยเหตุการณ์ไซเบอร์สำคัญจนถึงปี 2023. ในทั้งสองกรณี ความรับผิดชอบมีอยู่จริงนานกว่ากฎระเบียบหลายปี และเป็นตลาด ลูกค้า ผู้ตรวจสอบ ผู้ประกันภัย และเหตุการณ์การละเมิดที่เปิดเผยต่อสาธารณะเป็นผู้บังคับใช้กับบริษัทที่แกล้งทำเป็นไม่มีความรับผิดชอบ.

จากความสามารถของการทดลองสู่การปกป้องผลลัพธ์ในการผลิต

ความเร็วและความสามารถเป็นสิ่งที่ทำให้ AI เข้าสู่การทดลองในระดับองค์กรและเช่นเดียวกับนวัตกรรมเทคโนโลยีสำคัญอื่น ๆ มันเป็นสิ่งจำเป็น แต่สิ่งเหล่านั้นยังไม่เพียงพอที่จะทำให้ AI เข้าสู่การผลิตในสภาพแวดล้อมที่มีการควบคุมอย่างเข้มงวดด้วยชุดข้อมูลและกระบวนการทำงานที่ซับซ้อน – ธนาคาร บริษัทประกัน โครงสร้างพื้นฐานสำคัญ โครงการด้านการป้องกันประเทศ – สภาพแวดล้อมที่ในที่สุดต้องนำการตัดสินใจที่ขับเคลื่อนด้วย AI ไปต่อหน้าผู้กำกับกฎระเบียบ คณะกรรมการ หรือทนายความของโจทก์และต้องปกป้องมัน ในห้องเหล่านั้น “โมเดลมีความสามารถสูง” ไม่ใช่คำตอบที่รับผิดชอบ. 

ความแตกต่างนั้นได้กลายเป็นเส้นแบ่งที่แท้จริง และองค์กรจำนวนมากเริ่มตระหนักว่ามันเป็นปัญหาด้านสถาปัตยกรรมก่อนจะเป็นปัญหานโยบาย คุณไม่สามารถตรวจสอบกล่องดำให้มีความรับผิดชอบได้หลังจากเหตุการณ์เกิดขึ้น ความสามารถในการอธิบาย ความสามารถในการตรวจสอบร่องรอย และสายการเป็นเจ้าของที่ชัดเจนต้องถูกสร้างไว้ในระบบหรือจะไม่มีอยู่เลย และองค์กรที่เรียนรู้เรื่องนี้ด้วยความยากลำบากคือผู้ที่นำไปใช้ก่อนและถามเรื่องความรับผิดชอบภายหลัง Gartner คาดว่าโดยปี 2027, 40% ขององค์กรจะต้องลดระดับหรือยกเลิกเอเจนต์อัตโนมัติโดยเฉพาะเนื่องจากช่องว่างการกำกับดูแลที่พวกเขาพบหลังจากเกิดความผิดพลาดในการผลิต. 

การละเมิดข้อมูลของ Klueจากต้นฤดูร้อนที่ผ่านมาเป็นตัวอย่างที่ชัดเจนและยิ่งให้บทเรียนมากขึ้นเมื่อเหตุการณ์ดำเนินต่อไป Klue เป็นแพลตฟอร์มข้อมูลข่าวกรองเชิงแข่งขันที่ขับเคลื่อนด้วย AI และผู้โจมตีไม่ได้ทำลายระบบป้องกันที่ซับซ้อน แต่ใช้ข้อมูลรับรองการเชื่อมต่อเดียวที่ออกในปี 2022 สำหรับการทดลองที่ต่อมาถูกละทิ้งและไม่เคยยกเลิก เพื่อยืนยันตัวตนเข้าสู่การเชื่อมต่อ CRM ของลูกค้าและดึงข้อมูลผ่านการสืบค้นอัตโนมัติ สิ่งที่เริ่มต้นจากการเปิดเผยไม่กี่รายการได้ขยายไปถึงหลายบริษัท แม้หลังจากผู้โจมตีคนแรกเริ่มให้ความร่วมมือ กลุ่มที่สองก็ปรากฏขึ้นโดยอ้างว่าขโมยข้อมูลเดียวกันและดำเนินการบังคับเรียกค่าไถ่ของตนเอง. 

การรั่วไหลไม่ได้เป็นความล้มเหลวของโมเดลหรือช่องโหว่วันศูนย์ที่ฉลาด; มันเป็นเส้นทางการเข้าถึงอัตโนมัติที่เชื่อถือได้ซึ่งไม่มีใครรับผิดชอบโดยตรง และยังคงสร้างผลลัพธ์ต่อเนื่องหลังจากเหตุการณ์ถูกถือว่า “แก้ไขแล้ว” เมื่อองค์กรเชื่อมต่อ AI และเอเจนต์ของมันเข้ากับระบบของตนมากขึ้น การเชื่อมต่อแต่ละจุดนั้นกลายเป็นคำถามเดียวกันที่รอการถาม: ใครเป็นเจ้าของ, ใครกำลังเฝ้าติดตาม, และใครจะรับผิดชอบเมื่อมันเคลื่อนที่เร็วกว่าที่ใครจะควบคุมได้? 

ผู้กำกับกฎระเบียบกำลังเลื่อนวันกำหนดเนื่องจากปัญหาเบื้องลึกนี้ การทำให้ระบบเหล่านี้อ่านออก, ทดสอบได้, และรับผิดชอบเป็นเรื่องที่ยากจริง ๆ และมาตรฐานและเครื่องมือยังไม่สมบูรณ์แบบ แต่สิ่งนั้นไม่ใช่เหตุผลให้รอคอย แทนที่จะเป็นสัญญาณที่ชัดเจนที่สุดว่าต้องให้ความสำคัญทันที องค์กรที่มองระยะเวลาพิเศษเป็นการอนุญาตให้ชะลอจะใช้ปี 2027 ทำสิ่งที่คู่แข่งของพวกเขากำลังทำอยู่ในขณะนี้โดยเลือกทำเอง. 

การกำหนดความสำเร็จของการใช้งาน AI ระดับองค์กรต้องเปลี่ยนจากความสามารถของการทดลองไปสู่การปกป้องผลลัพธ์ ในการปฏิบัติหมายความว่าต้องผ่านการทดสอบสามข้อบนทุกเส้นทางการตัดสินใจที่มี AI เข้ามาเกี่ยวข้อง: บันทึกที่คงทนของสิ่งที่ระบบทำ, คำอธิบายที่ผู้ที่ไม่ใช่วิศวกรสามารถเข้าใจได้, และช่องทางให้ผู้ที่ได้รับผลกระทบสามารถท้าทายผลลัพธ์ได้ นั่นไม่ใช่กรอบที่ใครสักคนคิดขึ้นในสไลด์ของผู้ขาย แต่เกือบทุกบรรทัดเป็นสิ่งที่ยังคงอยู่หลังการลดข้อบังคับของโคโลราโด. 

การถามว่า AI น่าเชื่อถือในเชิงนามธรรมเป็นการโต้แย้งเชิงปรัชญาในปี 2025 ตอนนี้และต่อไปในอนาคต องค์กรต้องสามารถตอบคำถามว่าพวกเขาสามารถปกป้องผลลัพธ์ที่ AI มอบให้ได้หรือไม่ และต้องพิสูจน์ให้ทุกคนที่ถามเห็นได้ทุกครั้ง. 

กำหนดเวลาอาจถูกเลื่อนออกไปและการขยายเวลาอาจต่อเนื่องอยู่ แต่ต่างจากผู้กำกับกฎระเบียบ ตลาด และลูกค้าที่ธุรกิจของคุณให้บริการในที่สุด พวกเขาไม่ได้ให้การขยายเวลา หรือยอมรับข้ออ้างใด ๆ.