เอไอเอเจนต์มาถึงแล้ว: องค์กรของคุณพร้อมที่จะจัดการพวกมันหรือไม่?

82% ขององค์กรใช้เอเจนต์ AI อยู่แล้ว แต่มีเพียง 44% ที่มีนโยบายอย่างเป็นทางการเพื่อกำกับวิธีทำงานของเอเจนต์เหล่านี้ ช่องว่างระหว่างการนำมาใช้กับการกำกับดูแลชี้ให้เห็นความท้าทายสำคัญ: องค์กรกำลังผสาน AI อัตโนมัติเข้ากับงานเร็วกว่าที่เตรียมพร้อมจะบริหารจัดการมัน

ทำความเข้าใจ Agentic AI: เป็นมากกว่าเครื่องมือ

เพื่อให้เข้าใจว่าเหตุใด Agentic AI จึงต้องการแนวทางกำกับดูแลใหม่ ลองมองระบบเหล่านี้เป็นผู้ปฏิบัติงานอิสระในโลกดิจิทัล ต่างจากซอฟต์แวร์มาตรฐานที่ทำตามคำสั่งแบบรับคำสั่ง Agentic AI ตัดสินใจตามสถานการณ์ ปรับตัวเมื่อเงื่อนไขเปลี่ยน และดำเนินการตามเป้าหมายด้วยตนเอง ในทางปฏิบัติ เอเจนต์ AI จึงสามารถเริ่มการกระทำ สร้างเนื้อหา เข้าถึงระบบ และแม้แต่สื่อสารกับภายนอกได้โดยไม่รอการอนุมัติจากมนุษย์

แนวทางกำกับดูแลแบบเดิมซึ่งออกแบบมาสำหรับซอฟต์แวร์ที่คาดการณ์ได้ ไม่เหมาะกับการจัดการเอเจนต์ AI ความเป็นอิสระของมันต้องอาศัยกรอบใหม่สำหรับความรับผิดชอบ การบริหารความเสี่ยง และการกำกับดูแลการปฏิบัติงาน องค์กรจึงต้องทบทวนวิธีติดตาม ควบคุม และทำงานร่วมกับเพื่อนร่วมงานดิจิทัลเหล่านี้

บทเรียนจากความล้มเหลวของ Agentic AI ในโลกจริง

เหตุการณ์ล่าสุดที่เกี่ยวข้องกับเอเจนต์ AI ของ Anthropic ชื่อ “Claudius” แสดงให้เห็นความเสี่ยงดังกล่าว เมื่อถูกนำไปใช้ใน Project Vend เพื่อบริหารตู้จำหน่ายสินค้า Claudius ตัดสินใจผิดพลาดหลายอย่างที่สร้างต้นทุน เช่น ตั้งราคาสินค้าผิด ขายต่ำกว่าทุน และแต่งบทสนทนาขึ้นมา จนท้ายที่สุดขาดทุน เมื่อตัดสินใจและลงมือไปแล้ว นักวิจัยไม่สามารถย้อนคืนความเสียหายทางเศรษฐกิจได้ เหตุการณ์นี้แสดงให้เห็นว่าการกระทำที่ย้อนกลับไม่ได้ของเอเจนต์ AI อาจลุกลามเกินควบคุมอย่างรวดเร็ว และย้ำความจริงที่ชัดขึ้นเรื่อยๆ ว่าเอเจนต์ AI กำลังตัดสินใจเรื่องสำคัญในระบบจริงแล้ว

นี่ไม่ใช่กรณีเดียว อันที่จริง 80% ขององค์กรรายงานว่าเคยพบพฤติกรรมเสี่ยงจากเอเจนต์ AI เช่น การเปิดเผยข้อมูลอย่างไม่เหมาะสมและการเข้าถึงระบบโดยไม่ได้รับอนุญาต เมื่อ Agentic AI แทรกซึมสู่อุตสาหกรรมตั้งแต่ธนาคารจนถึงการผลิต คำถามสำหรับผู้นำไอทีจึงไม่ใช่ว่า จะ มี AI ประพฤติผิดหรือไม่ แต่คือ เมื่อใด และจะป้องกันไม่ให้เกิดขึ้นได้อย่างไร ต่างจากซอฟต์แวร์แบบเดิม ระบบเหล่านี้คิด ลงมือ และปรับตัวได้เอง การบริหารจัดการจึงต้องใช้การกำกับดูแลรูปแบบใหม่ที่ไม่เพียงเฝ้าดูโค้ด แต่ยังคาดการณ์เจตนาได้ด้วย

บริหารเพื่อนร่วมงานคนใหม่ของคุณ: AI

การบริหาร Agentic AI เริ่มจากความจริงที่เรียบง่ายแต่หนักแน่น: คุณต้องรับผิดชอบต่อทุกสิ่งที่มันทำ แม้ระบบจะทำงานอย่างอิสระ แต่ทางเลือก ข้อผิดพลาด และผลลัพธ์ทั้งหมดล้วนย้อนกลับมาหามนุษย์ผู้ใช้งาน

เช่นเดียวกับที่องค์กรสั่งสมแนวปฏิบัติในการจ้าง บริหาร และตรวจสอบพนักงานมาหลายทศวรรษ หลักการเดียวกันสามารถใช้กำกับเพื่อนร่วมงานดิจิทัลอย่างรับผิดชอบได้ แนวปฏิบัติที่สำคัญ ได้แก่:

• การกำกับดูแลที่มีประสิทธิผลต้องยึดโยงกับอัตลักษณ์ เอเจนต์ AI ทุกตัวควรถูกมองเป็นหน่วยงานดิจิทัลที่แยกจากกัน มีอัตลักษณ์เฉพาะซึ่งติดตาม บริหาร และระบุความรับผิดชอบได้
• การเข้าถึงตามบทบาทคือรากฐาน การกำหนดบทบาทอย่างแม่นยำและบังคับใช้การควบคุมการเข้าถึงอย่างเข้มงวด ช่วยให้แต่ละเอเจนต์ติดต่อเฉพาะระบบและข้อมูลที่จำเป็นต่อหน้าที่เท่านั้น หลักสิทธิ์ขั้นต่ำนี้ลดการเปิดรับที่ไม่จำเป็น ลดความเสี่ยง และเสริมความรับผิดชอบทุกระดับ
• การยืนยันตัวตนเป็นสิ่งสำคัญ การยืนยันหลายปัจจัย ความเชื่อถือของอุปกรณ์ และการควบคุมเซสชันช่วยยืนยันว่าทุกการกระทำมาจากหน่วยงานที่ถูกต้อง ในเวลาที่ถูกต้อง และด้วยเหตุผลที่ถูกต้อง เมื่อใช้ร่วมกับหลักสิทธิ์ขั้นต่ำ จะจำกัดความเสียหายหากเกิดปัญหา การแบ่งส่วนและแยกการเข้าถึงยังช่วยลดขอบเขตความเสียหาย ไม่ให้ความผิดพลาดครั้งเดียวลุกลามไปทั้งสภาพแวดล้อม
• การมองเห็นทำให้ภาพสมบูรณ์ การบันทึกอย่างต่อเนื่องและการเฝ้าติดตามแบบเรียลไทม์ทำให้องค์กรตรวจสอบทุกการตัดสินใจและตอบสนองต่อพฤติกรรมน่าสงสัยได้ทันที ไม่ใช่เพียงการตรวจจับปัญหา แต่เป็นการสร้างบันทึกความรับผิดชอบและความไว้วางใจ เมื่อสืบย้อนทุกการกระทำไปยังอัตลักษณ์ที่ตรวจสอบได้ การกำกับดูแลจะเป็นเชิงรุกแทนที่จะรอแก้ปัญหา
• ให้มนุษย์อยู่ในวงจร หากเป็นไปได้ ควรให้มนุษย์อยู่ในวงจรและยืนยันก่อนอนุญาตการกระทำที่ทำลายข้อมูลหรือมีผลร้ายแรง เพราะยากจะเอาผิดเอเจนต์จากการกระทำที่สร้างความเสียหาย ในเมื่อมันเพียงทำตามการโปรแกรม

กลยุทธ์เชิงรุกสำหรับผู้นำไอที

การเติบโตของ Agentic AI กำลังเปลี่ยนโฉมเทคโนโลยีองค์กร และเร่งกระบวนการทำงานจาก 30% เป็น 50% ผู้นำไอทีต้องเร่งสร้างรั้วป้องกันก่อนเกิดความผิดพลาด กฎเหล่านี้ควรพัฒนาไปพร้อมกับเทคโนโลยีเพื่อให้ยังตรงประเด็นและมีประสิทธิผล

กำหนดการควบคุมและขอบเขต
การควบคุมและขอบเขตจำเป็นอย่างยิ่ง โดยเฉพาะเมื่อเอเจนต์ AI ติดต่อกับระบบที่ละเอียดอ่อน ควรใส่จุดตรวจโดยมนุษย์ สวิตช์หยุดฉุกเฉิน และด่านอนุมัติในเวิร์กโฟลว์ มาตรการเหล่านี้เป็นแนวป้องกันสุดท้ายต่อความผิดพลาดที่ย้อนกลับไม่ได้ และเปิดทางให้มนุษย์แทรกแซงเมื่อจำเป็น

ให้ความสำคัญกับความโปร่งใส
ความโปร่งใสเป็นสิ่งที่ต่อรองไม่ได้ ทุกการกระทำของเอเจนต์ควรถูกบันทึก ประทับเวลา และสืบค้นได้ง่าย การบันทึกเป้าหมาย งาน และการตัดสินใจอย่างชัดเจนทำให้เกิดความรับผิดชอบ คำสั่งที่คลุมเครือเปิดช่องให้ตีความอย่างสร้างสรรค์ ซึ่งเอเจนต์อัตโนมัติอาจนำไปปฏิบัติในแบบที่ไม่ได้ตั้งใจ

ส่งเสริมความร่วมมือกับมนุษย์
คงการกำกับดูแลโดยมนุษย์ไว้ด้วยการแจ้งข้อมูลและให้อำนาจแก่เพื่อนร่วมงาน ผู้ใช้ควรรายงานพฤติกรรมที่ไม่คาดคิดหรือผลลัพธ์ที่ไม่ปลอดภัยได้ง่าย มนุษย์ยังเป็นระบบเตือนภัยล่วงหน้าที่ดีที่สุดสำหรับความผิดปกติ ดังนั้นความร่วมมือระหว่างมนุษย์กับ AI จึงสำคัญมาก

คงการกำกับดูแลอย่างใกล้ชิด
การตรวจสอบกิจกรรม AI เป็นประจำช่วยพบการเบี่ยงเบนของบทบาท การเข้าถึงที่ไม่ได้รับอนุญาต หรือพฤติกรรมเสี่ยง ควรทบทวนบันทึกเป็นระยะและปรับสิทธิ์ตามความรับผิดชอบที่เปลี่ยนไป เพื่อให้เอเจนต์ AI ยังคงสอดคล้องกับเป้าหมายองค์กรและข้อกำหนดด้านการปฏิบัติตาม

กำหนดอนาคตของ Agentic AI

AI จะอยู่กับเราอย่างแน่นอน โดยมีบริษัทถึง 99.6% ที่นำเครื่องมือบางรูปแบบมาใช้ในเวิร์กโฟลว์ Agentic AI เพิ่มผลิตภาพและเปิดโอกาสใหม่ได้ แต่ความเป็นอิสระก็มาพร้อมความเสี่ยงจริง หากขาดการกำกับ เอเจนต์ AI อาจทำสิ่งที่คาดไม่ถึง ใช้ข้อมูลผิดวัตถุประสงค์ หรือสร้างความหยุดชะงักที่แก้ไขได้ยาก

องค์กรที่ประสบความสำเร็จในยุคใหม่นี้จะปฏิบัติต่อเอเจนต์ AI เหมือนเพื่อนร่วมงานดิจิทัลที่ต้องรับผิดชอบ ด้วยการวางระบบกำกับดูแลที่เข้มแข็ง ใช้การเข้าถึงและการยืนยันตามอัตลักษณ์ และส่งเสริมความร่วมมือระหว่างมนุษย์กับ AI ธุรกิจจะใช้ประโยชน์จากความเป็นอิสระพร้อมลดความเสี่ยงได้

Agentic AI ไม่ใช่แนวคิดแห่งอนาคตอีกต่อไป แต่เป็นความจริงในปัจจุบัน ยิ่งองค์กรใช้กลยุทธ์บริหารเชิงรุกเร็วเท่าไร ก็ยิ่งปลดล็อกศักยภาพของระบบอัตโนมัติเหล่านี้ได้อย่างปลอดภัย รับผิดชอบ และมีประสิทธิผลเร็วขึ้น การมอง Agentic AI ว่าทั้งทรงพลังและต้องรับผิดชอบ ช่วยให้องค์กรสร้างสมดุลระหว่างนวัตกรรมกับความเสี่ยง และทำให้ AI เป็นพันธมิตรที่ไว้วางใจได้แทนที่จะเป็นตัวแปรที่ควบคุมไม่ได้