ผลกระทบของความไว้วางใจในข้อมูลต่อความสำเร็จของ AI ตามรายงาน MIND: เหตุใดโครงการ AI ส่วนใหญ่จึงสร้างอยู่บนรากฐานที่ไม่มั่นคง

รายงาน “ผลกระทบของความไว้วางใจข้อมูลต่อความสำเร็จของ AI” โดย MIND ที่ผลิตโดยความร่วมมือกับ CISO ExecNet ส่งสารที่ชัดเจน: การนำ AI ไปใช้กำลังเร่งความเร็วที่เกินขีดความสามารถขององค์กรไปมากในการรักษาความปลอดภัยและจัดการข้อมูลที่ขับเคลื่อนมัน ผลลัพธ์คือช่องว่างที่กว้างขึ้นระหว่างความทะเยอทะยานและการลงมือปฏิบัติ โดยที่ส่วนใหญ่ขององค์กรต่างๆ กำลังนำ AI ไปใช้ในระดับใหญ่โดยไม่มีรากฐานของความไว้วางใจที่จำเป็นในการทำให้มันเชื่อถือได้ รักษาความปลอดภัย หรือประสบความสำเร็จ

การนำ AI ไปใช้กำลังเร่งความเร็วมากกว่าความไว้วางใจข้อมูล

AI ไม่ใช่การทดลองอีกต่อไป มันถูกฝังอยู่ในปฏิบัติการขององค์กรแล้ว ประมาณ 90% ขององค์กรกำลังใช้เครื่องมือ AI เชิงสร้างสรรค์ระดับองค์กร แต่โครงสร้างพื้นฐานของข้อมูลยังไม่ตามทัน

ความไม่สมดุลนี้สร้างความเป็นจริงที่อันตราย ในขณะที่ระบบ AI กำลังถูกผสมผสานเข้ากับกระบวนการทำงาน การตัดสินใจ และระบบที่เผชิญกับลูกค้า ข้อมูลที่ป้อนให้ระบบเหล่านั้นยังคงไม่ได้รับการจัดประเภทที่ดี การควบคุมที่ไม่เข้มงวด และการรักษาความปลอดภัยที่ไม่สอดคล้องกัน เกือบสองในสามของ CISO รายงานว่ามีความมั่นใจต่ำในการบังคับใช้การควบคุมความปลอดภัยของข้อมูลที่เหมาะสมในสภาพแวดล้อม AI

ความไม่เชื่อมต่อนี้ไม่ใช่เรื่องทางทฤษฎี มันกำลังสร้างผลลัพธ์ที่วัดได้แล้ว มีโครงการ AI เพียงประมาณหนึ่งในห้าเท่านั้นที่บรรลุเป้าหมาย KPI ที่ตั้งไว้ ซึ่งแสดงให้เห็นว่าการล้มเหลวไม่ใช่กรณีชายขอบ แต่เป็นปัญหาเชิงระบบที่เกี่ยวข้องโดยตรงกับความอ่อนแอของโครงสร้างพื้นฐานของข้อมูลโดยตรง

ปัญหาหลัก: ช่องว่างโครงสร้างระหว่างความเร็วและความปลอดภัย

ที่ใจกลางของรายงานคือทฤษฎีง่ายๆ แต่มีพลัง: ความไว้วางใจข้อมูลคือปัจจัยที่ตัดสินว่า AI จะสำเร็จหรือล้มเหลว

ความไว้วางใจข้อมูลหมายถึงความมั่นใจขององค์กรว่าระบบของตน รวมถึง AI กำลังใช้ข้อมูลอย่างปลอดภัยและเหมาะสม เมื่อความไว้วางใจนั้นสูง AI สามารถขยายขนาดได้อย่างรวดเร็วและสร้างผลลัพธ์ที่มีความหมาย เมื่อความไว้วางใจนั้นต่ำ AI จะคาดเดาไม่ได้ มีความเสี่ยง และมักจะไม่มีประสิทธิภาพ

ส่วนใหญ่ขององค์กรกำลังเคลื่อนที่เร็วกว่าแบบจำลองการกำกับดูแลที่เคยออกแบบมา การควบคุมความปลอดภัยถูกสร้างขึ้นสำหรับผู้ใช้ที่เป็นมนุษย์ที่ทำงานด้วยความเร็วของมนุษย์ ในขณะที่ระบบ AI ทำงานทันที เข้าถึงข้อมูลอย่างกว้างขวาง และขาดการวินิจฉัยตามบริบท

สิ่งนี้สร้างช่องว่างโครงสร้าง นโยบายอาจมีอยู่ แต่กลไกบังคับใช้ไม่สามารถตามทันความเร็วและขนาดของ AI องค์กรไม่ได้พยายามที่จะกำหนดกฎ แต่พยายามที่จะใช้กฎเหล่านั้นในเวลาจริง

เหตุผลที่รากฐานของข้อมูลล้มเหลวต่อ AI

ข้อสังเกตที่เปิดเผยมากที่สุดคือ AI ไม่ได้นำความเสี่ยงที่ใหม่ทั้งหมดเข้ามา แต่กลับเปิดเผยปัญหาข้อมูลที่สะสมมาหลายปีที่ซ่อนอยู่ก่อนหน้านี้

มาหลายปีแล้วที่การกำกับดูแลข้อมูลที่ไม่ดีสามารถจัดการได้เพราะไม่มีระบบใดสามารถเข้าถึงทุกอย่างได้ทันที AI เปลี่ยนแปลงสิ่งนี้ทั้งหมด เมื่อระบบ AI เชื่อมต่อกับแหล่งข้อมูล ระบบสามารถแสดงข้อมูลที่มีอยู่ทั้งหมดได้ทันที รวมถึงข้อมูลที่ไม่ได้รับการจัดประเภท ข้อมูลที่มีการแบ่งปันมากเกินไป หรือข้อมูลที่ละเอียดอ่อน

สิ่งนี้กำจัดสิ่งที่หลายองค์กรพึ่งพาโดยไม่รู้ตัว: ข้อเท็จจริงที่ว่าข้อมูลยากที่จะหา ตอนนี้ทุกอย่างมองเห็นได้และสามารถนำไปใช้ได้ในวงกว้าง

ผลที่ตามมามีความสำคัญ องค์กรหลายแห่งไม่รู้ว่าข้อมูลใดที่สามารถเข้าถึงได้โดยเครื่องมือ AI ของตน ข้อมูลใดที่ตัวแทนของพวกเขาใช้ หรือแม้กระทั่งระบบ AI ใดที่กำลังทำงานภายในสภาพแวดล้อมของตน จุดบอดเหล่านี้สร้างสภาพที่ความเสี่ยงไม่เพียงแต่ปรากฏ แต่ยังเพิ่มขึ้นอย่างแข็งขัน

AI ไม่ทำงานเหมือนมนุษย์และสิ่งนี้เปลี่ยนแปลงทุกอย่าง

ข้อบกพร่องหลักในแบบจำลองความปลอดภัยขององค์กรในปัจจุบันคือการสมมติว่าพฤติกรรมของมนุษย์ มนุษย์ใช้วิจารณญาณ ทำงานด้วยความเร็วที่จำกัด และสามารถฝึกอบรมหรือตรวจสอบได้ เอเจนต์ AI ไม่ทำสิ่งเหล่านี้

ระบบ AI สืบทอดสิทธิ์และดำเนินการโดยไม่ลังเล มันไม่กรองข้อมูลตามบริบทหรือความตั้งใจ หากมันสามารถเข้าถึงข้อมูลได้ มันจะประมวลผลข้อมูลนั้น โดยไม่คำนึงว่าการเข้าถึงนั้นเหมาะสมหรือไม่

ความไม่ตรงกันระหว่างกรอบความปลอดภัยที่มุ่งเน้นไปที่มนุษย์และการดำเนินการด้วยความเร็วของเครื่องจักรสร้างปัญหาการกำกับดูแลขั้นพื้นฐาน องค์กรกำลังใช้กฎที่ออกแบบสำหรับคนกับระบบที่มีพฤติกรรมที่แตกต่างไปจากเดิมอย่างสิ้นเชิง

ผลลัพธ์คือการเปิดเผยมากเกินไป เครื่องมือ AI สามารถแสดงข้อมูลที่ละเอียดอ่อนโดยไม่ตั้งใจ ดำเนินการเกินขอบเขตที่ตั้งใจไว้ หรือสร้างผลลัพธ์โดยอาศัยแหล่งข้อมูลที่ไม่น่าเชื่อถือหรือไม่สามารถติดตามได้

โครงการ AI ส่วนใหญ่ล้มเหลวและหลายแห่งไม่รู้ตัว

การล้มเหลวของ AI หลายครั้งยังคงไม่ปรากฏ องค์กรหลายแห่งวัดความสำเร็จโดยใช้เมตริกที่อิงกิจกรรม เช่น การใช้งาน คิวรี่ที่ประมวลผล หรือเอาต์พุตที่สร้างขึ้น

เมตริกเหล่านี้สร้างความรู้สึกผิดๆ ว่ากำลังก้าวหน้า ระบบอาจดูเหมือนมีการใช้งานสูงในขณะที่สร้างผลลัพธ์ที่ไม่ถูกต้อง เผยแพร่ข้อมูลที่ละเอียดอ่อน หรือไม่สามารถสร้างมูลค่าทางธุรกิจ

สิ่งนี้สร้างช่องว่างในการวัดผล โดยไม่มี KPI ที่อิงผลลัพธ์ที่กำหนดไว้อย่างชัดเจน องค์กรไม่สามารถแยกความแตกต่างระหว่างโครงการ AI ที่ประสบความสำเร็จและล้มเหลวได้ ความล้มเหลวกลายเป็นเรื่องปกติ ถูกวินิจฉัยสาเหตุผิด หรือถูกมองข้าม

สาเหตุเบื้องหลังของความล้มเหลวเหล่านี้แทบไม่ใช่ตัวแบบจำลอง AI เอง แต่เป็นสภาพของข้อมูล การจัดประเภทที่ไม่ดี การเข้าถึงที่ไม่ได้รับการควบคุม และคุณภาพข้อมูลที่ไม่สอดคล้องกันสร้างรากฐานที่ไม่มั่นคงที่ไม่มีแบบจำลองใดสามารถชดเชยได้

AI เป็นบททดสอบความแข็งแกร่งของวุฒิภาวะด้านความปลอดภัย

AI ทำหน้าที่เป็นตัวขยายความอ่อนแอของที่มีอยู่แล้ว องค์กรที่มีการกำกับดูแลข้อมูลที่เข้มแข็ง การจัดการตัวตน และความสามารถในการบังคับใช้สามารถขยาย AI ได้อย่างมีประสิทธิภาพ องค์กรที่ไม่มีพื้นฐานเหล่านี้ต้องเผชิญกับความเสี่ยงที่เพิ่มขึ้น

เพียงเศษเสี้ยวขององค์กรในปัจจุบันมีวุฒิภาวะด้านความปลอดภัยที่จำเป็นในการนำ AI ไปใช้อย่างปลอดภัยในระดับใหญ่ สำหรับองค์กรส่วนใหญ่ AI นำเสนอความเสี่ยงที่อาจเกิดผลกระทบตั้งแต่โครงการที่ล้มเหลวไปจนถึงความเสี่ยงด้านกฎระเบียบ และในกรณีที่รุนแรงที่สุด อาจเป็นเหตุการณ์ที่คุกคามธุรกิจ

AI ไม่ใช่สิ่งที่อันตรายโดยธรรมชาติ มันเพียงแต่เร่งผลกระทบของสภาพที่มีอยู่แล้วภายในสภาพแวดล้อมข้อมูลขององค์กร

ช่องว่างในการแข่งขันกำลังเกิดขึ้นแล้ว

ในขณะที่การอภิปรายหลายอย่างมุ่งเน้นไปที่ความเสี่ยง รายงานยังเน้นถึงโอกาสที่สำคัญด้วย องค์กรที่บรรลุระดับความไว้วางใจข้อมูลสูงได้รับประโยชน์ในการแข่งขันที่ชัดเจน

ด้วยข้อมูลที่สะอาด จัดประเภท และควบคุมได้ดี โครงการ AI สามารถดำเนินไปได้เร็วขึ้น ขยายขนาดได้อย่างมั่นใจ และสร้างผลลัพธ์ที่เชื่อถือได้มากขึ้น ความปลอดภัยกลายเป็นตัวช่วย ไม่ใช่ปัญหาอีกต่อไป

องค์กรเหล่านี้ไม่เพียงแต่ลดความเสี่ยงเท่านั้น แต่ยังสร้างโครงสร้างพื้นฐานที่ช่วยให้สามารถทดลองอย่างต่อเนื่อง เร่งการปรับปรุง และรักษาความเร็วในการแข่งขันอย่างต่อเนื่อง

ในขณะเดียวกัน องค์กรที่เลื่อนการลงทุนในความไว้วางใจข้อมูลต้องเผชิญกับความเสียเปรียบเชิงสะสมที่เพิ่มขึ้น แต่ละโครงการ AI ใหม่เพิ่มความซับซ้อน เพิ่มความเสี่ยง และทำให้ยากต่อการแยกแยะระหว่างมูลค่าและความเสี่ยง ช่องว่างระหว่างสองกลุ่มนี้กำลังขยายและมีแนวโน้มจะขยายเร็วขึ้นเมื่อ การนำ AI ไปใช้ ยังคงดำเนินต่อไป

สิ่งที่องค์กรต้องทำต่อไป

เส้นทางไปข้างหน้าเป็นเรื่องของการปรับปรุงพื้นฐานมากกว่าการแก้ไขทีละขั้นตอน

ขั้นตอนแรกคือการมองเห็น องค์กรต้องเข้าใจว่าตนเองมีข้อมูลอะไร ข้อมูลอยู่ที่ไหน และข้อมูลถูกเข้าถึงอย่างไร โดยไม่มีสิ่งนี้ การกำกับดูแลและการบังคับใช้ก็เป็นไปไม่ได้

ขั้นตอนที่สองคือการขยายกรอบการทำงานตัวตนเพื่อรวมตัวแทนไม่ใช่มนุษย์ ตัวแทน AI ต้องถูกมองว่าเป็นตัวตนที่มีขอบเขตสิทธิ์ชัดเจน ไม่ใช่เครื่องมือที่สืบทอดสิทธิ์เข้าถึงอย่างกว้างขวาง

ขั้นตอนที่สามคือการกำหนดความสำเร็จก่อนการนำไปใช้ โครงการ AI ควรจะมีผลลัพธ์ทางธุรกิจที่ชัดเจน ข้อกำหนดคุณภาพข้อมูล และ KPI ที่วัดผลได้ถูกกำหนดไว้ก่อนการนำไปใช้

สุดท้าย องค์กรต้องสร้างกลไกบังคับใช้ที่ทำงานด้วยความเร็วของ AI นโยบายเพียงอย่างเดียวไม่เพียงพอ การควบคุมแบบเรียลไทม์ การติดตาม และความสามารถในการตรวจสอบเป็นสิ่งจำเป็นสำหรับการจัดการกระแสข้อมูลอย่างมีประสิทธิภาพ

สุดท้ายคือเรื่องรากฐาน

รายงาน “ผลกระทบของความไว้วางใจข้อมูลต่อความสำเร็จของ AI” โดย MIND สร้างกรณีที่น่าเชื่อถือว่าอนาคตของ AI ไม่ได้ถูกกำหนดโดยโมเดล อัลกอริทึม หรือพลังการประมวลผล มันถูกกำหนดโดยสิ่งที่มองเห็นได้น้อยกว่ามาก แต่มีความสำคัญยิ่งกว่ามาก นั่นคือคุณภาพ การกำกับดูแล และความน่าเชื่อถือของข้อมูลที่เป็นรากฐาน

องค์กรที่รับรู้สิ่งนี้และลงทุนในความไว้วางใจข้อมูลจะไม่เพียงแต่ลดความเสี่ยงเท่านั้น แต่ยังปลดปล่อยความสามารถเต็มที่ของ AI ในฐานะความได้เปรียบในการแข่งขัน องค์กรที่ไม่ทำเช่นนั้นจะยังคงประสบกับโครงการที่หยุดชะงัก ความล้มเหลวที่ซ่อนอยู่ และการเปิดเผยที่เพิ่มขึ้นเมื่อ AI ขยายขนาดเกินความสามารถในการควบคุมของตน