ผู้นำทางความคิด

การกำกับดูแล AI ในองค์กรเริ่มต้นที่โครงสร้างพื้นฐานฐานข้อมูล

Phillip Merrick
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญเปอร์เซ็นต์ของโครงการนำร่อง AI ในองค์กรล้มเหลว…
ดูเพิ่มเติม
  • เปอร์เซ็นต์ของโครงการนำร่อง AI ในองค์กรล้มเหลว เนื่องจากการกำกับดูแลไม่ได้ถูกฝังอยู่ในชั้นข้อมูล
  • เอเจนต์อัตโนมัติต้องการการควบคุมในชั้นข้อมูล เนื่องจากการเขียนข้อมูลที่ไม่มีการกำกับดูแลสามารถส่งผลกระทบเป็นลูกโซ่ข้ามระบบ
  • การกำกับดูแลที่เน้นโครงสร้างพื้นฐานเป็นอันดับแรกในระดับฐานข้อมูล ช่วยลดช่องว่างระหว่างโครงการนำร่องและการผลิตจริง

การทดลองใช้ AI ภายในองค์กรดำเนินไปอย่างรวดเร็วกว่าที่เคย แต่เส้นทางสู่การใช้งานจริงยังคงเชื่องช้า ทีมต่าง ๆ เริ่มโครงการนำร่อง ทดสอบโมเดล และแสดงผลลัพธ์ที่น่าพอใจได้ภายในไม่กี่สัปดาห์ บางครั้งเพียงไม่กี่วัน แต่เมื่อถึงเวลานำระบบเหล่านั้นไปใช้งานในวงกว้าง ความคืบหน้ามักหยุดชะงัก ข้อกังวลด้านความปลอดภัยเริ่มปรากฏ ข้อกำหนดด้านการปฏิบัติตามกฎระเบียบเข้มงวดขึ้น และคำถามเรื่องการกำกับดูแลก็เพิ่มจำนวนขึ้น 

รายงานของ MIT เรื่อง The GenAI Divide: State of AI in Business 2025 พบว่า โครงการนำร่อง AI ในองค์กร 95% ไม่สามารถสร้างผลลัพธ์ทางธุรกิจที่วัดได้ มีเพียง 5% ที่ก้าวไปสู่การใช้งานจริงและสร้างผลตอบแทนทางการเงินได้จริง งานวิจัยนี้ครอบคลุมการนำ AI ไปใช้งานมากกว่า 300 กรณีและการสัมภาษณ์ผู้บริหาร 150 ครั้ง โดยสรุปว่าอุปสรรคหลักไม่ใช่ความสามารถของโมเดล แต่เป็นการเชื่อมต่อเข้ากับระบบขององค์กรที่มีข้อบกพร่อง องค์กรส่วนใหญ่มองว่านี่เป็นปัญหาด้านนโยบายที่ต้องแก้ในระดับผู้บริหาร ส่วนผมมองว่าการกำกับดูแล AI เป็นโจทย์ระดับระบบ ซึ่งเริ่มต้นที่ชั้นข้อมูล

เหตุใดโครงการ AI จึงติดอยู่ที่ระยะนำร่อง

โครงการ AI จำนวนมากประสบปัญหาเพราะสภาพแวดล้อมที่ใช้สร้างต้นแบบไม่สอดคล้องกับข้อเท็จจริงของการนำไปใช้ในองค์กรตั้งแต่พื้นฐาน นักพัฒนาได้รับแรงจูงใจให้ทำงานอย่างรวดเร็ว โดยใช้เครื่องมือที่ยืดหยุ่น ชุดข้อมูลที่กำกับดูแลอย่างหลวม ๆ และโครงสร้างพื้นฐานที่เริ่มใช้ได้ด้วยตนเอง เพื่อพิสูจน์คุณค่าให้เร็วที่สุด วิธีนี้เหมาะกับการทดลอง แต่ไม่สามารถนำไปใช้กับสภาพแวดล้อมการใช้งานจริงได้โดยตรง เพราะที่นั่นต้องรองรับการตรวจสอบย้อนหลัง การควบคุมการเข้าถึงที่เข้มงวด การปฏิบัติตามกฎระเบียบ และความสามารถในการรับมือและฟื้นตัวจากปัญหาการดำเนินงาน

ผลก็คือ มักมีการนำการกำกับดูแลมาใช้หลังจากพิสูจน์ความเป็นไปได้ของแนวคิดสำเร็จแล้วเท่านั้น เมื่อถึงจุดนั้น ชั้นที่ควรช่วยให้ระบบทำงานได้กลับกลายเป็นข้อจำกัด ทีมจึงต้องปรับโมเดลความปลอดภัยเพิ่มเติมภายหลัง ออกแบบการไหลของข้อมูลใหม่ และทบทวนสมมติฐานด้านการปฏิบัติตามกฎระเบียบที่ควรเป็นรากฐานตั้งแต่แรก

สิ่งนี้ทำให้ช่องว่างระหว่างสิ่งที่ระบบ AI แสดงให้เห็นได้ในสภาพแวดล้อมที่ควบคุม กับสิ่งที่องค์กรนำไปใช้งานจริงได้อย่างปลอดภัยและเชื่อถือได้ กว้างขึ้นเรื่อย ๆ

ขณะเดียวกัน ชุดเทคโนโลยี AI สมัยใหม่พัฒนามาโดยให้ความสำคัญกับความเร็วและความสะดวกในการเข้าถึง ซึ่งบ่อยครั้งต้องแลกกับการควบคุม แพลตฟอร์มที่ใช้ง่ายสำหรับนักพัฒนาช่วยให้เริ่มโครงการนำร่องได้ง่าย แต่อาจทำให้มองไม่เห็นว่าข้อมูลอยู่ที่ใด ถูกใช้อย่างไร และใครเข้าถึงได้บ้าง 

สิ่งนี้สร้างความเสี่ยงด้านการดำเนินงานและกฎระเบียบที่เกิดขึ้นจริง ทั้งการเปิดเผยข้อมูลโดยไม่ตั้งใจ ขอบเขตข้อมูลระหว่างสภาพแวดล้อมที่ไม่ชัดเจน และความสามารถในการตรวจสอบพฤติกรรมของระบบย้อนหลังที่ไม่เพียงพอ ปัญหาเหล่านี้ปรากฏโดยตรงในการทบทวนความพร้อมสำหรับการใช้งานจริงและการประเมินการปฏิบัติตามกฎระเบียบ ผลสำรวจองค์กรชี้อย่างสม่ำเสมอว่า ปัญหาคุณภาพข้อมูลและการกำกับดูแลเป็นหนึ่งในสาเหตุสำคัญ ที่ทำให้โครงการ AI ล้มเหลว โดยมีการกล่าวถึงใน 60–70% ของกรณี การพึ่งพาโครงสร้างพื้นฐานภายนอกและบริการฐานข้อมูลแบบมีผู้ให้บริการดูแลเพิ่มขึ้นยิ่งซ้ำเติมปัญหา เพราะอาจทำให้ความเป็นเจ้าของข้อมูลกระจัดกระจายยิ่งขึ้นและทำให้การดำเนินงานให้สอดคล้องกับกฎระเบียบซับซ้อนขึ้น ในหลายกรณี องค์กรคิดว่าแพลตฟอร์มดูแลเรื่องการกำกับดูแลให้อยู่แล้ว แต่ในความเป็นจริง ความรับผิดชอบกระจายอยู่หลายชั้นของชุดเทคโนโลยี

ผลลัพธ์จึงย้อนแย้ง เครื่องมือที่เร่งการทดลอง AI มักเป็นเครื่องมือเดียวกับที่สร้างอุปสรรคเมื่อต้องนำไปใช้งานจริง

ฐานข้อมูลคือชั้นการกำกับดูแลที่แท้จริง

การแก้ความไม่สอดคล้องนี้จำเป็นต้องทบทวนว่าการกำกับดูแลเกิดขึ้นจริงที่ใด

การกำกับดูแลมักถูกจัดให้เป็นงานด้านนโยบายที่ฝ่ายกฎหมาย ฝ่ายกำกับการปฏิบัติตามกฎระเบียบ หรือผู้บริหารเป็นผู้กำหนด แล้วบังคับใช้ผ่านเอกสารและกระบวนการทบทวน กลไกเหล่านี้จำเป็น แต่ไม่เพียงพอหากมีเพียงลำพัง การกำกับดูแลจะมีความหมายก็ต่อเมื่อบังคับใช้ได้ในระดับระบบ

ในทางปฏิบัติ การบังคับใช้นั้นเกิดขึ้นตรงจุดที่ข้อมูลถูกจัดเก็บ เข้าถึง และแปลงสภาพ ฐานข้อมูลและโครงสร้างพื้นฐานข้อมูลที่เกี่ยวข้องจึงเป็นชั้นการกำกับดูแลที่สำคัญที่สุดในชุดเทคโนโลยี AI

ฐานข้อมูลสมัยใหม่ไม่ได้เป็นเพียงคลังเก็บข้อมูลที่รอรับข้อมูลเท่านั้น แต่กำหนดสิทธิ์เข้าถึง บังคับใช้ข้อกำหนดว่าข้อมูลต้องเก็บในพื้นที่ทางภูมิศาสตร์ใด จัดการการเข้ารหัสและการควบคุมคีย์ และสร้างบันทึกการตรวจสอบที่จำเป็นต่อการปฏิบัติตามกฎระเบียบและการกำกับความปลอดภัย นอกจากนี้ ยังมีบทบาทเพิ่มขึ้นในฐานะจุดควบคุมที่ระบบ AI ใช้ติดต่อกับข้อมูลขององค์กร

เรื่องนี้สำคัญเพราะระบบ AI รับสภาพการกำกับดูแลต่อมาจากโครงสร้างพื้นฐานข้อมูลที่ตนพึ่งพา หากชั้นฐานข้อมูลด้านล่างขาดโครงสร้าง การควบคุม หรือความชัดเจนในการมองเห็นจุดต่าง ๆ ของระบบ จุดอ่อนเหล่านั้นจะส่งตรงไปยังระบบ AI ที่สร้างอยู่ด้านบน ไม่มีนโยบายในชั้นแอปพลิเคชันที่อยู่ถัดไปใดชดเชยรากฐานข้อมูลที่ขาดการกำกับดูแลได้ทั้งหมด

สิ่งนี้นำไปสู่การเปลี่ยนแปลงด้านสถาปัตยกรรมในวงกว้าง กล่าวคือ ต้องฝังการกำกับดูแลลงในโครงสร้างพื้นฐานตั้งแต่ต้น แทนที่จะเติมหลังนำระบบไปใช้ แนวทาง AI ที่เริ่มจากโครงสร้างพื้นฐานหมายถึงการออกแบบระบบให้การกำกับดูแลเป็นคุณสมบัติในตัว ไม่ใช่ข้อจำกัดจากภายนอก การเข้าถึงข้อมูลต้องผ่านอินเทอร์เฟซที่ควบคุมได้ คำสั่งสืบค้นและการโต้ตอบของระบบจะถูกบันทึกเป็นค่าเริ่มต้น กฎการปฏิบัติตามข้อกำหนด เช่น ข้อจำกัดการเข้าถึง นโยบายระยะเวลาเก็บข้อมูล และข้อกำหนดพื้นที่จัดเก็บข้อมูล จะบังคับใช้ในระดับระบบ แทนการกำกับด้วยคนหรือการตรวจสอบภายหลัง

สิ่งนี้ต้องอาศัยรูปแบบสถาปัตยกรรม เช่น ชั้นตัวกลางสำหรับคำสั่งสืบค้นที่ปลอดภัย การควบคุมการเข้าถึงตามนโยบาย และความสามารถในการสังเกตสถานะภายในระบบแบบรวมศูนย์ครอบคลุมสภาพแวดล้อมข้อมูลที่กระจายอยู่ กลไกเหล่านี้ทำให้การกำกับดูแลถูกบังคับใช้อย่างต่อเนื่อง แทนที่จะตรวจสอบเป็นระยะเท่านั้น

ความแตกต่างระหว่างการกำกับดูแลเชิงป้องกันกับการตอบสนองภายหลังเป็นเรื่องพื้นฐาน แนวทางตอบสนองพยายามแก้ปัญหาหลังสร้างและนำระบบไปใช้แล้ว ส่วนแนวทางเชิงป้องกันยับยั้งไม่ให้ปัญหาเกิดขึ้นตั้งแต่แรก ด้วยการฝังการควบคุมลงในสถาปัตยกรรมระบบโดยตรง

ในสภาพแวดล้อม AI ความแตกต่างนี้เป็นตัวกำหนดว่าระบบจะขยายขนาดได้ หรือหยุดชะงัก

เมื่อเอเจนต์เข้ามามีบทบาท

เอเจนต์อัตโนมัติเปลี่ยนเงื่อนไขของการกำกับดูแลในแบบที่องค์กรส่วนใหญ่ยังไม่พร้อมรับ เอเจนต์ไม่ได้เพียงอ่านข้อมูล แต่เขียนข้อมูลด้วย เรียกให้เกิดการดำเนินการข้ามระบบ และทำทั้งสองอย่างโดยไม่มีมนุษย์เข้ามาร่วมในกระบวนการ

สิ่งนี้เปลี่ยนลักษณะความล้มเหลวไปทั้งหมด คำสั่งสืบค้นที่กำกับดูแลไม่ดีจะให้คำตอบผิด จากนั้นเอเจนต์ที่กำกับดูแลไม่ดีก็ดำเนินการตามคำตอบผิดนั้น ทั้งแก้ไขรายการข้อมูล เรียกกระบวนการทำงานขั้นต่อไป และส่งต่อการตัดสินใจข้ามระบบ ก่อนที่จะมีใครรู้ตัวว่าเกิดข้อผิดพลาด

เพราะเหตุนี้ มาตรการป้องกันจึงอยู่เฉพาะในชั้นแอปพลิเคชันไม่ได้ เอเจนต์ที่ทำงานข้ามหลายระบบจะพบเส้นทางที่มีแรงต้านน้อยที่สุดเสมอ ต้องบังคับใช้การควบคุมที่ชั้นข้อมูล ซึ่งการอ่านและเขียนทุกครั้งจะผ่านตัวกลางและถูกบันทึก ไม่ว่าอะไรเป็นตัวกระตุ้นให้เกิดการทำงานนั้น

Gartner คาดการณ์ว่า โครงการ AI แบบเอเจนต์มากกว่า 40% จะถูกเลื่อนออกไปหรือยกเลิก เนื่องจากปัญหาการกำกับดูแลและความเชื่อถือได้ ผมรู้สึกว่าตัวเลขนี้ต่ำ เพราะตั้งอยู่บนสมมติฐานว่าองค์กรระบุได้ถูกต้องว่าการกำกับดูแลเป็นสาเหตุ แทนที่จะโทษโมเดลหรือเครื่องมือ โดยปกติแล้วสาเหตุรากฐานจะยังมองไม่เห็น จนกว่าจะก่อให้เกิดต้นทุนสูง

จากการทดลองสู่ AI ที่พร้อมใช้งานจริง

องค์กรที่นำ AI จากการทดลองไปสู่การใช้งานจริงได้สำเร็จมักมีลักษณะร่วมกัน คือทำให้สภาพแวดล้อมพัฒนาและสภาพแวดล้อมใช้งานจริงสอดคล้องกันตั้งแต่เนิ่น ๆ 

แทนที่จะปล่อยให้ระบบทดลองห่างออกไปจากข้อจำกัดของการใช้งานจริง องค์กรเหล่านี้ออกแบบทั้งสองสภาพแวดล้อมด้วยหลักการกำกับดูแล ความปลอดภัย และการเข้าถึงข้อมูลที่สอดคล้องกัน วิธีนี้ลดอุปสรรคในช่วงหลังของวงจรชีวิต เมื่อโมเดลเปลี่ยนจากต้นแบบไปเป็นภาระงานที่ใช้งานจริง

ความสอดคล้องนี้สำคัญขึ้นเรื่อย ๆ เพราะองค์กรส่วนใหญ่ยังคง ขาดโครงสร้างพื้นฐาน AI ที่มีความพร้อมสมบูรณ์ในระดับใช้งานจริง ช่องว่างด้านการเข้าถึงข้อมูลอย่างปลอดภัย การติดตาม การสังเกตสถานะภายในระบบ และการบังคับใช้ข้อกำหนดยังคงอยู่ ช่องว่างเหล่านี้ไม่ได้แยกขาดจากกัน แต่เป็นความท้าทายเชิงโครงสร้างที่ปรากฏเมื่อขยาย AI ออกไปจากสภาพแวดล้อมนำร่องสู่กระบวนการทำงานที่สำคัญอย่างยิ่งต่อองค์กร

ความไม่สอดคล้องสำคัญอีกอย่างระหว่างการสร้างต้นแบบกับการใช้งานจริงเกิดขึ้นเมื่อแอปพลิเคชันและฐานข้อมูลที่ใช้งานจริงต้องโฮสต์ในสถานที่ขององค์กร หรือในบัญชีคลาวด์ที่บริหารอย่างเข้มงวด แต่ต้นแบบกลับพัฒนาบนแพลตฟอร์มฐานข้อมูลบนคลาวด์

ในองค์กรที่มีระบบงานพัฒนาเต็มที่แล้ว ภาระงาน AI จะได้รับการดูแลอย่างเข้มงวดเทียบเท่าระบบอื่นที่อยู่ภายใต้กฎระเบียบ นั่นหมายถึงการบันทึกอย่างสม่ำเสมอ การควบคุมการเข้าถึงที่เข้มงวด การติดตามอย่างต่อเนื่อง และโครงสร้างความรับผิดชอบที่ชัดเจนระหว่างทีม นอกจากนี้ ยังต้องให้ฝ่ายวิศวกรรมข้อมูล วิศวกรรมแพลตฟอร์ม ความปลอดภัย และการปฏิบัติตามกฎระเบียบประสานงานกันใกล้ชิดตั้งแต่ต้น ไม่ใช่ค่อยนึกถึงภายหลัง

ประโยชน์ของแนวทางนี้ไม่ได้จำกัดอยู่ที่การลดความเสี่ยง องค์กรยังมีวงจรการนำระบบไปใช้ที่เร็วขึ้น ความล้มเหลวในการใช้งานจริงน้อยลง และความเชื่อมั่นภายในต่อระบบ AI มากขึ้น ในบริบทนี้ การขยาย AI ขึ้นอยู่กับนวัตกรรมโมเดลน้อยกว่า และขึ้นอยู่กับความพร้อมสมบูรณ์ของโครงสร้างพื้นฐานมากกว่า

การกำกับดูแลเป็นสิ่งจำเป็นด้านสถาปัตยกรรม

ท้ายที่สุด การหารือเรื่องการกำกับดูแล AI ต้องก้าวพ้นนโยบายไปสู่สถาปัตยกรรมระบบ 

การกำกับดูแลมักถูกมองว่าเป็นหน้าที่ด้านการกำกับติดตาม แต่ในทางปฏิบัติจะบังคับใช้ผ่านระบบที่กำหนดวิธีเข้าถึงและใช้ข้อมูล ฐานข้อมูลจึงไม่ใช่เพียงชั้นจัดเก็บ แต่เป็นจุดควบคุมความปลอดภัย การปฏิบัติตามกฎระเบียบ และความสมบูรณ์ในการดำเนินงานของชุดเทคโนโลยี AI ทั้งหมด

เมื่อ AI ฝังลึกลงในกระบวนการทำงานขององค์กร ความสำคัญของจุดควบคุมนี้จะเพิ่มขึ้นอย่างมาก การโต้ตอบทุกครั้งระหว่างโมเดลกับข้อมูลขององค์กรกลายเป็นเหตุการณ์ที่อยู่ภายใต้การกำกับดูแล ไม่ว่าองค์กรจะออกแบบไว้โดยชัดแจ้งหรือไม่ก็ตาม

ด้วยการให้ความสำคัญกับการกำกับดูแลที่เริ่มจากโครงสร้างพื้นฐาน โดยเริ่มที่ชั้นฐานข้อมูล องค์กรสามารถปิดช่องว่างระหว่างโครงการนำร่องกับการใช้งานจริงได้ วิธีนี้เปลี่ยน AI จากการทดลองที่แยกกันอยู่ ให้เป็นขีดความสามารถที่ยั่งยืน ขยายขนาดได้ และฝังอยู่ทั่วทั้งองค์กร

ฟิลิป เมอร์ริกคือ ผู้ร่วมก่อตั้ง และ CPO ที่ pgEdge ผู้ประกอบการ ผู้เชี่ยวชาญด้านเทคโนโลยี และผู้บริหารที่มีประสบการณ์สูงซึ่งมีประสบการณ์ในการสร้างโครงสร้างพื้นฐานข้อมูลและแพลตฟอร์มคลาวด์ที่ขับเคลื่อนระบบ AI ในปัจจุบัน เขาเป็น ผู้ร่วมก่อตั้ง และ/หรือ CEO ของ webMethods, EDB, SparkPost, Fugue และ pgEdge และได้นำบริษัทต่างๆ จากการเริ่มต้นจนถึงการเสนอขายหุ้นแก่ประชาชนทั่วไป (IPO) และมีการออกจากบริษัทสามครั้งในระดับ 9-10 ตัวเลข