AI ระดับองค์กรต้องอาศัยข้อมูลที่ผู้คนเชื่อถือได้

ในปี 2025 บริษัทต่าง ๆ ลงทุนประมาณ 30 ถึง 40 พันล้านดอลลาร์ใน AI สร้างสรรค์ แต่โครงการ NANDA ของ MIT พบว่าเพียง 5 เปอร์เซ็นต์ของการใช้งานระดับองค์กรกว่า 300 รายการที่ตรวจสอบ ที่ตรวจสอบให้ผลตอบแทนทางการเงินที่วัดได้.

ฉันทำงานในโครงการข้อมูลระดับองค์กรมานานกว่า 25 ปี ก่อนที่ AI สร้างสรรค์จะเป็นหัวข้อสนทนา ฉันได้เห็นว่าเทคโนโลยีสูญเสียความน่าเชื่อถืออย่างรวดเร็วเมื่อผู้คนไม่สามารถพึ่งพาข้อมูลเบื้องหลังได้ AI สร้างสรรค์ทำให้สถานการณ์ยิ่งสำคัญเพราะมันสามารถเปลี่ยนข้อมูลที่น่าสงสัยให้กลายเป็นคำตอบที่มั่นใจได้.

เดิมเราพูดว่า ขยะเข้า ขยะออก ตอนนี้คือ ขยะเข้า เหตุร้ายออก เมื่อข้อมูลดูน่าสงสัย คนสามารถใช้วิจารณญาณและติดต่อผู้เชี่ยวชาญด้านข้อมูล ผู้เชี่ยวชาญจะทำการวิเคราะห์สาเหตุรากฐาน ระบุปัญหา และแก้ไข วันนี้ ตัวแทนสามารถดำเนินการกับข้อมูลใด ๆ ที่พบได้ หากไม่มีการควบคุมจากมนุษย์ที่มีความรู้ ผลลัพธ์อาจกลายเป็นส่วนหนึ่งของการดำเนินงาน ถูกใช้ในการตัดสินใจ และขยายไปทั่วองค์กร.

ปัญหาเดียวกันอาจปรากฏในแชทบอท การละเลยการกำกับดูแลสามารถทำให้ข้อมูลที่ไม่ดีหรือไม่เข้าใจอย่างถ่องแท้กลายเป็นคำตอบที่ดูมีอำนาจ อย่างทันทีและในระดับใหญ่.

ความเชื่อถือคืออุปสรรคหลักในการนำไปใช้

เมื่อแชทบอทภายในให้คำตอบที่ดูมั่นใจแต่ผิดพลาด ผู้ใช้คนนั้นอาจไม่เชื่อถือมันอีก ในองค์กรขนาดใหญ่ AI ยังจะค้นพบข้อมูลที่คุณอยากให้มันไม่พบ ฉันเปรียบเทียบกับถุงเท้าสกปรกใต้เตียง: ข้อมูลนั้นอาจซ่อนอยู่แต่ AI จะค้นพบข้อมูลมืดนั้นและนำไปใช้.

บริบทต้องเดินตามข้อมูลและเป็นพื้นฐานที่โมเดล LLM ใช้ ก่อนที่โมเดล AI จะใช้ข้อมูล ผู้คนต้องรู้ว่าข้อมูลหมายถึงอะไร มาจากไหน เจ้าของคือใคร และกฎระเบียบทางธุรกิจใดบ้างที่เกี่ยวข้อง.

ผู้นำอาจมองข้ามเรื่องนี้เพราะระบบค่อนข้างไม่ล่ม AI สามารถให้คำตอบที่มั่นใจแต่ผิดพลาดได้; มันอาจแนะนำกาวสำหรับพิซซ่าของคุณ (ตัวอย่างเก่า) ลองนึกถึงแชทบอทที่ให้คำตอบที่ดูมั่นใจแต่ผิดพลาด แล้วพนักงานจะหยุดเชื่อถือมัน การสร้างความเชื่อมั่นกลับคืนต้องใช้เวลานานกว่าการตั้งค่าการควบคุมที่ถูกต้องตั้งแต่แรก.

การสึกหรอนั้นปรากฏในข้อมูลด้วย พนักงานในบริษัทมากกว่า 90 เปอร์เซ็นต์ที่ MIT ศึกษา ยังคงใช้เครื่องมือ AI ส่วนบุคคลควบคู่ไป แม้หลังจากโครงการนำร่องอย่างเป็นทางการที่นายจ้างสร้างไม่สามารถสร้างความเชื่อมั่นให้พวกเขาได้ เมื่อเครื่องมือที่ได้รับการอนุมัติไม่สร้างความเชื่อมั่น พนักงานจึงหาวิธีอื่นทำงานต่อไป.

งานวิจัย AI ของปีนี้ส่วนใหญ่ชี้ไปที่ปัญหาเดียวกัน: องค์กรกำลังก้าวหน้าไปกับ AI ก่อนที่พวกเขาจะทำงานเพื่อทำให้ข้อมูลของตนเชื่อถือได้ Gartner ประมาณว่าว่าเกือบสองในสามขององค์กรขาดการปฏิบัติการจัดการข้อมูลที่เหมาะสมสำหรับ AI หรือไม่แน่ใจว่ามีหรือไม่ งานวิจัยแยกจาก IDC พบช่องว่างคล้ายกันด้านความเชื่อถือ: 78 เปอร์เซ็นต์ขององค์กรบอกว่าพวกเขาเชื่อถือ AI อย่างเต็มที่ แต่เพียง 40 เปอร์เซ็นต์เท่านั้นที่ได้ลงทุนจริงในงานกำกับดูแลและการอธิบายที่ทำให้ความเชื่อถือนั้นสมเหตุผล.

ความไม่สอดคล้องระหว่างความมั่นใจและการลงทุนช่วยอธิบายว่าทำไมโครงการ AI จำนวนมากถึงหยุดชะงักก่อนที่จะถึงขั้นการผลิตหรือไม่สอดคล้องกับคุณค่าที่ตั้งใจไว้.

การกำกับดูแล AI กลายเป็นความได้เปรียบเชิงการแข่งขัน

ตลอดส่วนใหญ่ของอาชีพของฉัน การกำกับดูแลข้อมูลเป็นหนึ่งในส่วนที่น่าเบื่อที่สุดของ IT ระดับองค์กร การจัดทำรายการเมตาดาต้า กำหนดความเป็นเจ้าของ ทำโปรไฟล์ข้อมูลและจัดการกระบวนการทำงานอาจรู้สึกเหมือนงานทำความสะอาด ผู้คนมักละเลยเพราะความพยายามดูเหมือนมากกว่าคุณค่าที่ได้.

AI ได้เปลี่ยนแปลงสิ่งนั้น มันกำลังกลายเป็นความสามารถในการกำกับดูแลในด้านต่าง ๆ เช่น การออกแบบแบบแปลนข้อมูล การสร้างพจนานุกรมที่อุตสาหกรรมคัดสรร และการแนะนำและเปิดใช้งานนโยบายข้อมูล แม้กระบวนการสืบค้นแหล่งที่มาของข้อมูลก็สามารถสรุปและทำให้เป็นระบบได้เร็วขึ้น ทำให้คุณค่าของสายงานข้อมูลที่จัดการและการสังเกตการณ์ง่ายต่อการทำให้เป็นจริง.

กฎระเบียบก็ทำให้ความโปร่งใสของข้อมูลเร่งดิ่งขึ้น EU AI Act มีผลบังคับใช้อย่างกว้างขวางตั้งแต่วันที่ 2 สิงหาคม 2026 รวมถึงกฎความโปร่งใสสำหรับระบบบางประเภทและเนื้อหาที่สร้างโดย AI กฎหมายนี้ยังกำหนดข้อกำหนดแยกต่างหากสำหรับ ระบบความเสี่ยงสูง รวมถึงเอกสารและข้อมูลที่ช่วยผู้นำไปใช้ตีความผลลัพธ์ของพวกเขา แม้ว่าบางข้อกำหนดความเสี่ยงสูงจะมีกรอบเวลาตามมาทีหลัง.

สำหรับบริษัท บทเรียนเชิงปฏิบัติง่ายต่อการเข้าใจ: การมีแหล่งที่มาชัดเจนและการกำกับดูแลทำให้การบันทึกว่าข้อมูลใดถูกใช้ มาจากไหน และระบบควรทำงานอย่างไรเป็นเรื่องง่าย.

ภาพกฎระเบียบของสหรัฐยังไม่แน่นอน โดยไม่มีกฎหมาย AI ของรัฐบาลกลางที่ครอบคลุม บริษัทต้องนำทางข้อกำหนดของแต่ละรัฐ แม้ว่า White House จะพยายามจำกัดความสามารถของรัฐในการสร้างและบังคับใช้กฎ AI ของตนเอง กฎหมาย AI ของโคโลราโด ซึ่งเป็นกรอบรัฐที่ครอบคลุมที่สุดในปัจจุบัน ได้รับการเลื่อนและเขียนใหม่หนึ่งครั้งในระหว่างการต่อสู้ดังกล่าว โดยภาระหลักถูกเลื่อนไปยังปี 2027 สำหรับบริษัทสหรัฐหลายแห่ง ความล่อใจคือการรอจนความไม่แน่นอนคลี่คลาย.

ผมคิดว่านั่นเป็นสัญชาตญาณที่ผิด ไม่ว่ารูปแบบกฎระเบียบใดในที่สุดจะประสบความสำเร็จในสหรัฐ ความต้องการพื้นฐานนั้นจะไม่หายไป รู้ว่าข้อมูลของคุณมาจากไหน รู้ว่ามีใครตรวจสอบความถูกต้องก่อนที่ AI จะใช้มันหรือไม่ การพัฒนาวินัยนี้ตอนนี้จะช่วยให้บริษัทเตรียมพร้อมสำหรับกฎระเบียบใหม่และเปลี่ยนโครงการนำร่อง AI ที่มีศักยภาพให้เป็นเครื่องมือที่ธุรกิจสามารถใช้ได้อย่างมั่นใจ.

สิ่งที่แยกแยะ 5 เปอร์เซ็นต์

ขอเล่าเรื่องลูกค้าหนึ่งทีมบัญชีแยกประเภทของพวกเขาต้องตรวจสอบสเปรดชีตแยกต่างหาก 300 แฟ้มทุกครั้งที่พบความคลาดเคลื่อนในบัญชี สามร้อยคนในที่สุดได้สร้างระบบข้อมูลที่กำกับดูแลเป็นหนึ่งเดียว พร้อมสูตรคำนวณ รายงาน และข้อมูลพื้นฐานที่บรรจุรวมกันและตรวจสอบล่วงหน้า ครั้งต่อไปที่มีปัญหา การแก้ไขใช้เวลาเพียงเศษส่วนของความพยายามเดิม เพียงกระบวนการเดียวนี้ก็ช่วยประหยัดแรงงานประมาณ 750 วัน นั่นเท่ากับหลายล้านดอลลาร์ของการลดต้นทุนจากการทำความสะอาดข้อมูลนี้.

การปรับปรุงเกิดจากการทำให้ข้อมูลที่ถูกต้องง่ายต่อการค้นหาและเชื่อถือได้พอที่จะใช้โดยไม่ต้องสงสัยซ้ำ การทำงานร่วมกันและการนำกลับมาใช้ใหม่ทำให้เป็นไปได้ ผลิตภัณฑ์ข้อมูลที่เชื่อถือได้สามารถสอดคล้องกับมาตรฐานขององค์กร ขยายและอัปเกรดตามเวลา ประเมินความเชื่อถือและจัดการคุณค่า วิธีการนี้ลดความจำเป็นในการสร้างผลิตภัณฑ์หลายร้อยหรือหลายพันรายการที่ผูกกับตารางฐานข้อมูลแบบกายภาพแต่ละตาราง.

โปรแกรมที่แข็งแกร่งทำให้ความเชื่อถือนั้นมองเห็นได้ ในตลาดข้อมูลที่ฉันทำงานด้วย สินทรัพย์สามารถจัดประเภทเป็นทอง, เงิน หรือทองแดงตามปัจจัยเช่นคุณภาพ การคัดสรร การใช้งานและความเป็นเจ้าของ ผู้ใช้ธุรกิจสามารถดูความเชื่อถือของสินทรัพย์ก่อนนำไปใช้ การมองเห็นนี้ช่วยให้คนหยุดคาดเดาและทำให้พวกเขายินดีใช้ข้อมูลที่มีอยู่ซ้ำ.

ตัวเลข 95 เปอร์เซ็นต์เป็นการเตือนว่า บริษัทหลายแห่งจัดการกับข้อมูลเบื้องหลัง AI สร้างสรรค์อย่างไม่ระมัดระวัง องค์กรที่ก้าวหน้าให้มุมมองที่ชัดเจนแก่ผู้คนว่าข้อมูลมาจากไหน ถูกตรวจสอบอย่างไร และเหมาะสมกับงานหรือไม่ หลังจากหลายปีที่การจัดการข้อมูลถูกมองว่าเป็นงานเบื้องหลัง AI ในที่สุดก็ทำให้คุณค่าของมันปรากฏชัดเจน.