3 ข้อพิจารณาสำหรับตัวแทน AI ที่ปลอดภัยและเชื่อถือได้สำหรับองค์กร

ตามรายงานของ Gartner, 30% ของโครงการ GenAI มีแนวโน้มที่จะถูกทิ้งหลังการแสดง概念โดยสิ้นปี 2025 การนำ GenAI ไปใช้ในระยะแรกเผยให้เห็นว่าโครงสร้างพื้นฐานด้านข้อมูลและการปฏิบัติด้านการกำกับดูแลขององค์กรส่วนใหญ่ยังไม่พร้อมสำหรับการใช้งาน AI ที่มีประสิทธิภาพ การผลิต GenAI ในช่วงแรกต้องเผชิญกับอุปสรรคที่สำคัญ โดยหลายองค์กรต้องดิ้นรนในการข้ามระยะการแสดงแนวคิดไปสู่การบรรลุผลทางธุรกิจที่มีความหมาย

เมื่อเราเข้าสู่ช่วงการผลิต GenAI ครั้งที่สอง บริษัทต่างๆ ตระหนักว่าการนำเทคโนโลยีเหล่านี้ไปใช้สำเร็จต้องใช้มากกว่าการเชื่อมต่อ LLM กับข้อมูลของตนเท่านั้น ความสำเร็จของ AI ขึ้นอยู่กับสามเสาหลัก: การเตรียมข้อมูลให้พร้อมและทำให้พร้อมสำหรับการรวมกับ AI การปรับปรุงแนวทางปฏิบัติด้านการกำกับดูแลเพื่อแก้ไขความท้าทายที่ GenAI นำมา และการนำตัวแทน AI ไปใช้ในรูปแบบที่ทำให้การใช้งานที่ปลอดภัยและเชื่อถือได้เป็นเรื่องธรรมชาติและ直觉 ทำให้ผู้ใช้ไม่ต้องเรียนรู้ทักษะหรือรูปแบบการใช้งานที่ซับซ้อน

การเตรียมข้อมูลให้พร้อมสำหรับ AI

แม้ว่าข้อมูลที่มีโครงสร้างอาจดูเป็นระเบียบต่อสายตาของมนุษย์ แต่ LLM มักจะดิ้นรนในการเข้าใจและทำงานกับข้อมูลที่มีโครงสร้างนี้อย่างมีประสิทธิภาพ สิ่งนี้เกิดขึ้นเนื่องจากในองค์กรส่วนใหญ่ ข้อมูลไม่ได้ถูกป้ายกำกับในลักษณะที่มีความหมายเชิงซีแมนติก ข้อมูลมักจะมีป้ายกำกับที่ไม่ชัดเจน ตัวอย่างเช่น “ID” โดยไม่มีการบ่งชี้ว่าเป็นตัวระบุของลูกค้า ผลิตภัณฑ์ หรือธุรกรรม

นอกจากนี้ ข้อมูลยังกระจายอยู่ในหลายๆ ที่ ตั้งแต่เซิร์ฟเวอร์แบบดั้งเดิมไปจนถึงบริการคลาวด์และซอฟต์แวร์แอปพลิเคชันต่างๆ ระบบที่กระจายส่งผลให้เกิดปัญหาในการเชื่อมต่อและบูรณาการที่สำคัญ ซึ่งกลายเป็นปัญหาที่ยิ่งใหญ่กว่าเมื่อนำ AI ไปใช้

ความท้าทายพื้นฐานอีกประการหนึ่งเกิดจากความไม่สอดคล้องกันของคำจำกัดความทางธุรกิจระหว่างระบบและแผนกที่แตกต่างกัน ตัวอย่างเช่น ทีมความสำเร็จของลูกค้าอาจกำหนด “การขายเพิ่ม” ในลักษณะหนึ่ง ในขณะที่ทีมขายกำหนดในลักษณะอื่น เมื่อคุณเชื่อมต่อตัวแทน AI หรือแชทบอทกับระบบเหล่านี้และเริ่มถามคำถาม คุณจะได้รับคำตอบที่แตกต่างกันเนื่องจากคำจำกัดความของข้อมูลไม่สอดคล้องกัน

คุณภาพข้อมูลที่ไม่ดีสร้างสถานการณ์ “ข้อมูลที่ไม่ดีในข้อมูลที่ไม่ดี” ที่กลายเป็นเรื่องร้ายแรงมากขึ้นเมื่อเครื่องมือ AI ถูกใช้งานทั่วทั้งองค์กร ข้อมูลที่ไม่ถูกต้องหรือไม่ดีส่งผลกระทบต่อการวิเคราะห์มากกว่าหนึ่งรายการ และแพร่กระจายข้อมูลที่ไม่ถูกต้องไปยังทุกคนที่ใช้ระบบผ่านคำถามและปฏิสัมพันธ์ของพวกเขา เพื่อสร้างความไว้วางใจในระบบ AI สำหรับการตัดสินใจทางธุรกิจที่แท้จริง องค์กรต่างๆ ต้องแน่ใจว่าแอปพลิเคชัน AI ของตนมีข้อมูลที่สะอาด ถูกต้อง และเข้าใจในบริบททางธุรกิจที่เหมาะสม

การเสริมสร้างแนวทางปฏิบัติด้านการกำกับดูแล

การกำกับดูแลข้อมูลได้เป็นจุดสนใจหลักขององค์กรในช่วงหลายปีที่ผ่านมา โดยมุ่งเน้นไปที่การจัดการและปกป้องข้อมูลที่ใช้ในด้านการวิเคราะห์ บริษัทต่างๆ ได้พยายามสร้างแผนที่ข้อมูลที่ไวต่อความเสี่ยง ปฏิบัติตามมาตรฐานการเข้าถึง ตรวจสอบความเป็นไปตามกฎหมาย เช่น GDPR และ CCPA และตรวจจับข้อมูลส่วนบุคคล การดำเนินการที่จำเป็นเหล่านี้มีความสำคัญต่อการสร้างข้อมูลที่พร้อมสำหรับ AI

เราต้องเผชิญกับความจำเป็นในการกำกับดูแลไม่เพียงแต่ข้อมูลที่ซ่อนอยู่เท่านั้น แต่ยังรวมถึงกระบวนการในการที่ผู้ใช้โต้ตอบกับข้อมูลนั้นผ่านตัวแทน AI ด้วย กฎหมายที่มีอยู่ เช่น พระราชบัญญัติ AI ของสหภาพยุโรป และกฎระเบียบที่จะตามมา ทำให้จำเป็นต้องกำกับดูแลกระบวนการในการตอบคำถามด้วย เมื่อผู้ใช้รับคำตอบที่ไม่ชัดเจน เช่น เมื่อถาม “มีจำนวนผู้ป่วยไข้หวัดใหญ่เข้ารับการรักษาเมื่อวานนี้กี่คน?” และได้รับคำตอบว่า “50” โดยไม่มีบริบท มันจะยากที่จะเชื่อถือข้อมูลนั้นสำหรับการตัดสินใจที่สำคัญ

ไม่เหมือนกับการโต้ตอบกับเอกสารที่ผู้ใช้สามารถย้อนกลับไปหาเอกสารหรือนโยบายเพื่อยืนยันความถูกต้อง การโต้ตอบกับข้อมูลที่มีโครงสร้างผ่านตัวแทน AI มักจะขาดความสามารถในการย้อนกลับและอธิบายได้ องค์กรต้องดำเนินการกำกับดูแลที่ไม่เพียงแต่ปกป้องข้อมูลที่ไวต่อความเสี่ยงเท่านั้น แต่ยังทำให้ประสบการณ์การโต้ตอบกับ AI มีความน่าเชื่อถือและปลอดภัยด้วย สิ่งนี้รวมถึงการสร้างการควบคุมการเข้าถึงที่เข้มงวดเพื่อให้แน่ใจว่าบุคลากรที่ได้รับอนุญาตเท่านั้นที่สามารถเข้าถึงข้อมูลที่เฉพาะเจาะจงได้ การกำหนดความรับผิดชอบในการเป็นเจ้าของและดูแลข้อมูลที่ชัดเจน และการทำให้ตัวแทน AI ให้คำอธิบายและอ้างอิงสำหรับการผลิตของตน

การคิดไปไกลกว่าการออกแบบคำสั่ง

เมื่อองค์กรนำตัวแทน AI มาใช้เพื่อปรับปรุงความสามารถในการเข้าถึงข้อมูล การออกแบบคำสั่งได้ปรากฏขึ้นเป็นอุปสรรคทางเทคนิคใหม่สำหรับผู้ใช้ทางธุรกิจ แม้ว่าจะถูกมองว่าเป็นเส้นทางอาชีพที่มีแนวโน้ม แต่การออกแบบคำสั่งเป็นเรื่องของการสร้างอุปสรรคทางเทคนิคอีกครั้ง เช่นเดียวกับการเขียน SQL ที่สมบูรณ์แบบหรือการสร้างฟิลเตอร์สำหรับแดชบอร์ด

องค์กรได้พยายามแก้ปัญหาการเข้าถึงข้อมูลโดยการฝึกอบรมผู้ใช้ให้เข้าใจระบบข้อมูลที่ดีขึ้น การสร้างเอกสาร และพัฒนาบทบาทที่เฉพาะเจาะจง แต่แนวทางนี้เป็นไปในทางกลับกัน เรา要求ผู้ใช้ปรับตัวให้เข้ากับระบบข้อมูลแทนการทำให้ข้อมูลปรับตัวเข้ากับผู้ใช้ การออกแบบคำสั่งอาจทำให้แนวโน้มนี้ดำเนินต่อไปโดยการสร้างชั้นกลางทางเทคนิคอีกชั้นหนึ่ง

การทำให้ข้อมูลเป็นประชาธิปไตยอย่างแท้จริงต้องการระบบที่เข้าใจภาษาธุรกิจ ไม่ใช่ผู้ใช้ที่เข้าใจภาษาข้อมูล เมื่อผู้บริหารถามเกี่ยวกับการรักษาลูกค้า พวกเขาควรไม่ต้องใช้คำศัพท์ที่สมบูรณ์แบบหรือคำสั่ง ระบบควรเข้าใจความตั้งใจ รับรู้ข้อมูลที่เกี่ยวข้องระหว่างป้ายกำกับที่แตกต่างกัน (ไม่ว่าจะเป็น “การลาออก” “การรักษา” หรือ “วงจรชีวิตของลูกค้า”) และให้คำตอบที่มีบริบท สิ่งนี้ช่วยให้ผู้ใช้ทางธุรกิจสามารถมุ่งเน้นไปที่การตัดสินใจแทนการเรียนรู้ที่จะถามคำถามที่สมบูรณ์แบบจากด้านเทคนิค

สรุป

ตัวแทน AI จะนำมาซึ่งการเปลี่ยนแปลงที่สำคัญต่อวิธีการดำเนินงานและตัดสินใจขององค์กร แต่ก็มากับชุดความท้าทายที่ต้องแก้ไขก่อนที่จะนำไปใช้ ด้วย AI ทุกข้อผิดพลาดจะถูกขยายใหญ่ขึ้นเมื่อผู้ใช้ที่ไม่ใช่เทคนิคมีการเข้าถึงแบบ self-service ทำให้จำเป็นต้องสร้างรากฐานที่ถูกต้อง

องค์กรที่แก้ไขความท้าทายพื้นฐานของคุณภาพข้อมูล การจัดตำแหน่งเชิงซีแมนติก และการกำกับดูแล ในขณะเดียวกันก็ข้ามขีดจำกัดของการออกแบบคำสั่ง จะสามารถทำให้การเข้าถึงข้อมูลและกระบวนการตัดสินใจเป็นประชาธิปไตยได้อย่างปลอดภัย แนวทางที่ดีที่สุดคือการสร้างสภาพแวดล้อมที่ส่งเสริมการทำงานร่วมกันและจัดตำแหน่งการโต้ตอบระหว่างมนุษย์กับเครื่องจักรและระหว่างเครื่องจักรด้วยกัน สิ่งนี้รับประกันว่าข้อมูลเชิงลึกที่ได้รับจาก AI จะมีความแม่นยำ มั่นคง และเชื่อถือได้ ส่งเสริมวัฒนธรรมทั่วทั้งองค์กรที่จัดการ ปกป้อง และเพิ่มประสิทธิภาพข้อมูลให้ถึงศักยภาพสูงสุด