AI ระดับองค์กรพึ่งพาข้อมูลที่ผู้คนเชื่อถือได้

ในปี 2025 บริษัทต่าง ๆ ลงทุนโดยประมาณ 30 ถึง 40 พันล้านดอลลาร์ใน AI สร้างสรรค์ แต่โครงการ NANDA ของ MIT พบว่าเพียง 5 เปอร์เซ็นต์ของการใช้งานระดับองค์กรมากกว่า 300 รายการ ที่ได้ตรวจสอบให้ผลตอบแทนทางการเงินที่วัดได้

ฉันทำงานในโครงการข้อมูลระดับองค์กรมานานกว่า 25 ปี ก่อนที่ AI สร้างสรรค์จะเข้ามาในบทสนทนา ฉันได้เห็นว่าเทคโนโลยีสูญเสียความน่าเชื่อถืออย่างรวดเร็วเมื่อผู้คนไม่สามารถพึ่งพาข้อมูลที่อยู่เบื้องหลังได้ AI สร้างสรรค์ทำให้ความเสี่ยงเพิ่มขึ้นเพราะมันสามารถเปลี่ยนข้อมูลที่น่าสงสัยให้กลายเป็นคำตอบที่มั่นใจได้

เราเคยพูดว่า ขยะเข้า, ขยะออก. ตอนนี้เป็น ขยะเข้า, ความหายนะออก. เมื่อข้อมูลดูน่าสงสัย บุคคลสามารถใช้วิจารณญาณของตนและติดต่อผู้เชี่ยวชาญข้อมูล ผู้เชี่ยวชาญจะทำการวิเคราะห์สาเหตุรากฐาน ระบุปัญหาและนำไปสู่การแก้ไข วันนี้ ตัวแทนสามารถดำเนินการกับข้อมูลใด ๆ ที่พบได้ หากไม่มีการควบคุมโดยมนุษย์ที่มีความรู้ ผลลัพธ์อาจกลายเป็นส่วนหนึ่งของการดำเนินงาน ใช้ในการตัดสินใจและขยายผลทั่วทั้งองค์กร

ปัญหาเดียวกันอาจปรากฏในแชทบอท การละเลยการกำกับดูแลสามารถทำให้ข้อมูลที่แย่หรือเข้าใจไม่ดีกลายเป็นคำตอบที่ดูมีอำนาจ อย่างรวดเร็วและในระดับใหญ่

ความเชื่อถือคือคอขวดการนำไปใช้จริง

เมื่อแชทบอทภายในให้คำตอบที่มั่นใจแต่ผิดพลาด ผู้ใช้คนนั้นอาจไม่เชื่อถือมันอีก ในองค์กรขนาดใหญ่ AI จะค้นพบข้อมูลที่คุณไม่อยากให้มันพบ ฉันเปรียบเทียบกับถุงเท้าสกปรกใต้เตียง: ข้อมูลนั้นอาจไม่เห็นอยู่ แต่ AI จะค้นพบข้อมูลมืดนั้นและใช้มัน

บริบทต้องเดินทางพร้อมกับข้อมูลและเป็นพื้นฐานที่ LLM ใช้ ก่อนที่โมเดล AI จะใช้ข้อมูล ผู้คนต้องรู้ว่ามันหมายถึงอะไร มาจากไหน ใครเป็นเจ้าของ และกฎระเบียบทางธุรกิจและนโยบายใดบ้างที่เกี่ยวข้อง

ผู้นำอาจมองข้ามเรื่องนี้เพราะระบบมักไม่ล่ม AI สามารถให้คำตอบที่มั่นใจแต่ผิดได้; มันอาจแนะนำกาวสำหรับพิซซ่าของคุณ (ตัวอย่างเก่า) ลองนึกถึงแชทบอทที่ให้คำตอบที่มั่นใจแต่ผิดพลาด แล้วพนักงานจะหยุดเชื่อถือมัน การสร้างความเชื่อมั่นใหม่ใช้เวลานานกว่าการตั้งค่าการควบคุมที่ถูกต้องตั้งแต่แรก

การสึกหรอนั้นปรากฏในข้อมูลด้วย พนักงานในบริษัทมากกว่า 90 เปอร์เซ็นต์ที่ MIT ศึกษา ยังคงใช้เครื่องมือ AI ส่วนบุคคลเป็นทางเลือกเสริม แม้หลังจากการทดลองอย่างเป็นทางการของนายจ้างล้มเหลวในการสร้างความเชื่อมั่น เมื่อเครื่องมือที่ได้รับการอนุมัติไม่ได้สร้างความเชื่อมั่น พนักงานจึงหาวิธีอื่นทำงานต่อ

งานวิจัย AI ปีนี้ส่วนใหญ่ชี้ไปที่ปัญหาเดียวกัน: องค์กรเร่งใช้ AI ก่อนที่พวกเขาจะทำงานเพื่อทำให้ข้อมูลของตนเชื่อถือได้ Gartner ประมาณว่า เกือบสองในสามขององค์กรยังขาดแนวทางการจัดการข้อมูลที่เหมาะสมสำหรับ AI หรือไม่แน่ใจว่ามีหรือไม่. การวิจัยจาก IDC พบช่องว่างคล้ายกันในด้านความเชื่อถือ: 78 เปอร์เซ็นต์ขององค์กรบอกว่าพวกเขาเชื่อถือ AI อย่างเต็มที่ แต่เพียง 40 เปอร์เซ็นต์เท่านั้นที่ได้ลงทุนจริงในงานกำกับดูแลและการอธิบายผลลัพธ์ที่ทำให้ความเชื่อถือนั้นสมเหตุผล

ความไม่สอดคล้องระหว่างความมั่นใจและการลงทุนช่วยอธิบายว่าทำไมโครงการ AI จำนวนมากถึงหยุดชะงักก่อนถึงขั้นการผลิตหรือไม่สอดคล้องกับคุณค่าที่ตั้งใจไว้

การกำกับดูแล AI กลายเป็นความได้เปรียบเชิงแข่งขัน

ตลอดส่วนใหญ่ของอาชีพของฉัน การกำกับดูแลข้อมูลเป็นหนึ่งในส่วนที่น่าเบื่อที่สุดของไอทีระดับองค์กร การจัดทำรายการเมตาดาต้า,, กำหนดความเป็นเจ้าของ, ทำโปรไฟล์ข้อมูลและจัดการกระบวนการทำงานอาจรู้สึกเหมือนงานทำความสะอาด ผู้คนมักละเลยเพราะความพยายามดูเหมือนมากกว่าคุณค่าที่ได้

AI ได้เปลี่ยนแปลงสิ่งนั้น มันกำลังกลายเป็นความสามารถในการกำกับดูแลในด้านต่าง ๆ เช่น การออกแบบแบบแปลนข้อมูล, การสร้างพจนานุกรมที่คัดสรรโดยอุตสาหกรรม, และการแนะนำและเปิดใช้งานนโยบายข้อมูล แม้แต่การสืบสายข้อมูลก็สามารถสรุปและเร่งรัดได้เร็วขึ้น ทำให้คุณค่าของท่อข้อมูลที่จัดการและการสังเกตการณ์ง่ายต่อการรับรู้

กฎระเบียบก็ทำให้ความโปร่งใสของข้อมูลเร่งดิ่งขึ้น กฎหมาย EU AI Act มีผลบังคับใช้อย่างกว้างขวางตั้งแต่วันที่ 2 สิงหาคม 2026 รวมถึงกฎความโปร่งใสสำหรับระบบบางประเภทและเนื้อหาที่สร้างโดย AI กฎหมายนี้ยังกำหนดข้อกำหนดแยกต่างหากสำหรับ ระบบเสี่ยงสูง ซึ่งรวมถึงเอกสารและข้อมูลที่ช่วยผู้ใช้งานตีความผลลัพธ์ของพวกเขา แม้ว่าบางข้อกำหนดเสี่ยงสูงจะมีกรอบเวลาตามมาภายหลัง

สำหรับบริษัท บทเรียนเชิงปฏิบัติง่ายต่อการเข้าใจ: การมีสายข้อมูลและการกำกับดูแลที่ชัดเจนทำให้การบันทึกว่าข้อมูลใดถูกใช้ มาจากไหนและระบบควรทำงานอย่างไรง่ายขึ้น

ภาพกฎระเบียบของสหรัฐยังไม่แน่นอน โดยไม่มีกฎหมาย AI ระดับชาติที่ครอบคลุม บริษัทต้องนำทางข้อกำหนดของแต่ละรัฐ แม้ว่า White House จะพยายามจำกัดความสามารถของรัฐในการสร้างและบังคับใช้กฎ AI ของตนเอง กฎหมาย AI ของโคโลราโด ซึ่งเป็นกรอบรัฐที่ครอบคลุมที่สุดในปัจจุบัน ได้รับการเลื่อนและเขียนใหม่แล้วหนึ่งครั้งในระหว่างการต่อสู้นี้ โดยภาระหน้าที่หลักถูกเลื่อนไปจนถึงปี 2027 สำหรับบริษัทสหรัฐหลายแห่ง ความล่อใจคือการรอจนความไม่แน่นอนคลี่คลาย

ผมเชื่อว่านั่นเป็นสัญชาตญาณที่ผิด ไม่ว่ารูปแบบกฎระเบียบใดในที่สุดจะประสบความสำเร็จในสหรัฐ ข้อกำหนดพื้นฐานนั้นจะไม่หายไป รู้ว่าข้อมูลของคุณมาจากที่ไหน รู้ว่ามีใครตรวจสอบความถูกต้องก่อนที่ AI จะใช้มันหรือไม่ การพัฒนาวินัยนี้ตอนนี้จะช่วยบริษัทเตรียมพร้อมสำหรับกฎระเบียบใหม่และเปลี่ยนโครงการทดลอง AI ที่มีศักยภาพให้เป็นเครื่องมือที่ธุรกิจสามารถใช้ได้อย่างมั่นใจ

สิ่งที่ทำให้ 5 เปอร์เซ็นต์แตกต่าง

ขอเล่าถึงลูกค้าหนึ่ง ทีมบัญชีแยกประเภทของพวกเขาต้องตรวจสอบสเปรดชีตแยกต่างหาก 300 แฟ้มทุกครั้งที่พบความคลาดเคลื่อนในบัญชี สามร้อยคนในที่สุดได้สร้างระบบข้อมูลที่กำกับดูแลเป็นหนึ่งเดียว พร้อมสูตรคำนวณ รายงาน และข้อมูลพื้นฐานที่บรรจุและตรวจสอบล่วงหน้า ครั้งต่อไปเมื่อมีปัญหา การแก้ไขใช้ความพยายามเพียงส่วนเล็กของเดิม เพียงกระบวนการเดียวนี้ก็ประหยัดแรงงานประมาณ 750 วัน ซึ่งเท่ากับหลายล้านดอลลาร์ของการประหยัดต้นทุนจากการทำความสะอาดข้อมูลนี้

การปรับปรุงมาจากการทำให้ข้อมูลที่ถูกต้องง่ายต่อการค้นหาและเชื่อถือได้พอที่จะใช้โดยไม่ต้องสงสัยซ้ำ การทำงานร่วมกันและการนำกลับมาใช้ใหม่ทำให้เป็นไปได้ ผลิตภัณฑ์ข้อมูลที่เชื่อถือได้สามารถสอดคล้องกับมาตรฐานองค์กร ขยายและอัปเกรดตามเวลา ประเมินความเชื่อถือและจัดการคุณค่า วิธีการนี้ลดความจำเป็นในการสร้างผลิตภัณฑ์หลายร้อยหรือหลายพันรายการที่ผูกกับตารางฐานข้อมูลแบบกายภาพแต่ละตาราง

โปรแกรมที่แข็งแกร่งทำให้ความเชื่อถือนั้นมองเห็นได้ ในตลาดข้อมูลที่ฉันทำงานด้วย สินทรัพย์สามารถจัดประเภทเป็นทอง, เงิน หรือทองแดงตามปัจจัยเช่น คุณภาพ, การคัดสรร, การใช้งานและความเป็นเจ้าของ ผู้ใช้ธุรกิจสามารถเห็นความน่าเชื่อถือของสินทรัพย์ก่อนนำไปใช้ การมองเห็นนี้ช่วยให้คนหยุดคาดเดาและทำให้พร้อมใช้ข้อมูลที่มีอยู่ซ้ำได้มากขึ้น

ตัวเลข 95 เปอร์เซ็นต์เป็นคำเตือนเกี่ยวกับการที่หลายบริษัทปฏิบัติต่อข้อมูลเบื้องหลัง AI สร้างสรรค์อย่างไม่ระมัดระวัง องค์กรที่ก้าวหน้าให้ผู้คนมองเห็นอย่างชัดเจนว่าข้อมูลของพวกเขามาจากที่ไหน ถูกตรวจสอบอย่างไร และเหมาะสมกับงานหรือไม่ หลังจากหลายปีที่การจัดการข้อมูลถูกมองว่าเป็นงานเบื้องหลัง AI ในที่สุดก็ทำให้คุณค่าของมันปรากฏชัดเจน