2026 จะเห็น AI Agentsระเบิดข้ามธุรกิจ: เราเตรียมพร้อมสำหรับความเสี่ยงด้านความปลอดภัยหรือไม่?

ธุรกิจต่างๆ กำลังแข่งขันกันเพื่อนำ AI Agents มาใช้ แต่พวกเขาไม่มีโครงสร้างพื้นฐานที่จะทำได้อย่างปลอดภัย AI Agents แตกต่างจากเครื่องมือ AI ทั่วไป: พวกมันทำงานโดยอิสระ เข้าถึงข้อมูลอย่างต่อเนื่อง และดำเนินการด้วยความเร็วของเครื่องจักรโดยไม่ต้องมีการกำกับดูแล ซึ่งสร้างความเสี่ยงใหม่ที่เราไม่เคยพบมาก่อนที่เราต้องเตรียมพร้อม

คนกำลังใช้ AI Agents ของตนเองที่ทำงานแล้ว – โดยไม่จำเป็นต้องบอกเจ้านายของพวกเขา AI Agents ของตนเอง – โดยไม่จำเป็นต้องบอกเจ้านายของพวกเขา โดยไม่บอกเจ้านาย วิธีการรับประกันว่า OpenClaw bots ไม่ลบไฟล์สำคัญ? สามในสี่ของธุรกิจขนาดใหญ่จะนำระบบหลายตัวมาใช้ภายในสิ้นปี 2026 ตาม Gartner วิธีการรับประกันว่าแต่ละตัวของ AI Agents ไม่เปิดโอกาสให้แฮกเกอร์เข้าโจมตีในแบบใหม่ๆ?

โครงสร้างพื้นฐานด้านความปลอดภัยในปัจจุบันถูกออกแบบมาเพื่อจัดการกับภัยคุกคามที่ทราบและดำเนินการด้วยความเร็วของมนุษย์ ซึ่งไม่ได้คำนึงถึง AI Agents ที่อาจถูกบุกรุกโดยไม่ทราบ และไม่ได้คำนึงถึงการโจมตีโดยใช้เทคนิค prompt injection: คำสั่งที่ซ่อนอยู่ในโค้ดหรือคำสั่งที่ทำให้ AI เปิดเผยข้อมูลที่ละเอียดอ่อนหรือดำเนินการโค้ดที่เป็นอันตราย

ความจริงคือ บริษัทต่างๆ มีความหิวโหยมากกว่าที่จะเตรียมพร้อมสำหรับคลื่นนี้ เพียง 29% ขององค์กร “เห็นด้วยอย่างแรง” ว่าพวกเขาได้เตรียมการป้องกันความปลอดภัยของ AI ที่ปลอดภัยแล้ว ตามการสำรวจของ Microsoft (MSFT )

ผู้นำธุรกิจจำเป็นต้องทำหลายสิ่ง

1. นำมาตรการรักษาความปลอดภัยของ AI ที่เป็นมิตรกับ AI มาใช้ทั่วทั้งบริษัท
2. รักษาความปลอดภัยของ AI Agents เหมือนกับการรักษาความปลอดภัยของมนุษย์
3. เพิ่มความสามารถในการตรวจสอบกิจกรรมของ AI Agents

โดยการดำเนินการควบคุมเหล่านี้ ความปลอดภัยสามารถตามทันความเร็วของ AI Agents และช่วยให้นวัตกรรมไม่ชะลอการทำงาน

สร้างความปลอดภัยของ AI ที่เป็นมิตรกับ AI

ในเดือนกุมภาพันธ์ นักวิจัยด้านความปลอดภัยของ Meta ได้โพสต์ข้อความที่น่าประหลาดใจบน X: โบต OpenClaw ของเธอได้เริ่ม ลบอีเมลของเธอ และเพิกเฉยต่อคำสั่งให้หยุด โดยเวลาที่เธอสามารถหยุดกระบวนการนี้ได้เอง ความเสียหายก็เกิดขึ้นแล้ว

สิ่งนี้เป็นตัวอย่างของความเร็วที่น่าเหลือเชื่อที่ AI ที่ไม่ถูกต้องสามารถดำเนินการได้ ทำให้การควบคุมที่พึ่งพามนุษย์ไม่เพียงพอ ความปลอดภัยจำเป็นต้องเคลื่อนที่ด้วยความเร็วเท่ากับ – และตามเส้นทางเดียวกับ – AI ที่มีเจตนา

สิ่งนี้ต้องการการเปลี่ยนแปลงโครงสร้างพื้นฐานด้านความปลอดภัยของบริษัท ไม่ใช่การอัปเกรดเครื่องมือที่มีอยู่แล้ว พื้นที่หลายแห่งจำเป็นต้องเกี่ยวข้องกับการเปลี่ยนแปลงนี้

การหลีกเลี่ยงสถานการณ์ที่รวดเร็วเช่นนี้ต้องการเครื่องมือ AI ที่สามารถตรวจจับและตอบสนองต่อความผิดปกติในเวลาจริง ตัวอย่างเช่น ตัวแทนผู้ดูแลสามารถถูกนำไปใช้เพื่อตรวจสอบงานที่มีผลกระทบสูงซึ่งดำเนินการโดยตัวแทนอื่น ๆ เครื่องมือ Agentic Threat Intelligence (ATI) สามารถตรวจจับและดำเนินการในขั้นตอนแรกของการโจมตีที่อาจเกิดขึ้น

กลไกการป้องกันอีกอย่างหนึ่งที่สำคัญคือการรับรองความปลอดภัยของโมเดลที่ใช้บนระบบของคุณ แพลตฟอร์ม เช่น ProtectAI, TrojAI หรือ Aim Security สามารถทดสอบอันตรายโดยตรง เช่น การฉีดคำสั่ง โดยใช้เครื่องมือ AI เพื่อทำความสะอาดโค้ดก่อนเผยแพร่

การรักษาความปลอดภัยของข้อมูลที่ AI Agents ได้รับเป็นสิ่งสำคัญเช่นกัน เครื่องมือ เช่น Databricks Unity Catalog, Collibra หรือ Alation ช่วยให้ทีมงานสามารถควบคุมการเคลื่อนย้ายข้อมูล

เรายังสามารถป้องกันการบุกรุก AI Agents ของเราโดยการรักษาความปลอดภัยของอุปกรณ์ทางกายภาพที่เราใช้ในการใช้งาน แพลตฟอร์ม เช่น CrowdStrike (CRWD ) สามารถช่วยหลีกเลี่ยงการใช้ AI ที่ไม่เหมาะสมและตรวจจับพฤติกรรมที่ผิดปกติ

การมีหลักการในการควบคุมการดำเนินงานภายในและวิธีการเลือกผู้ขายเป็นสิ่งสำคัญ ใช้โครงสร้างพื้นฐานอุตสาหกรรมที่มีอยู่แล้ว เช่น Google SAIF เพื่อสร้างสถาปัตยกรรมที่ปลอดภัย AWS CAF-AI สำหรับการกำกับดูแล AI หรือ NIST AI RMF สำหรับการปฏิบัติตามกฎระเบียบ โครงการ OWASP Gen AI Security – โครงการโอเพ่นซอร์สสำหรับการบรรเทาความเสี่ยงของ AI – มีคำแนะนำด้านความปลอดภัยที่เกี่ยวข้องสำหรับธุรกิจที่ใช้ AI

รักษาความปลอดภัยของ AI เหมือนกับการรักษาความปลอดภัยของมนุษย์

ปีที่แล้ว นักลงทุนกำลังใช้ Replit AI Agent เพื่อเขียนโค้ด – จนกระทั่ง วันที่ 9 ตัวแทนได้ตัดสินใจลบโค้ดจากฐานข้อมูลการผลิตที่ใช้งานจริง ซึ่งส่งผลกระทบต่อ 1,200 บริษัท

เนื่องจาก AI Agents สามารถดำเนินการโดยอิสระ การให้พวกมันเข้าถึงเอกสาร ข้อมูล และ API โดยไม่มีการกำกับดูแลสามารถเป็นอันตรายได้ สาเหตุหนึ่งคือธุรกิจไม่ได้กำหนด “ตัวตน” ให้กับพวกมันเหมือนกับมนุษย์ ซึ่งหมายความว่าพวกเขาไม่สามารถติดตาม ตรวจสอบ และจัดการการเข้าถึงพื้นที่ต่างๆ ได้

ธุรกิจสามารถดำเนินการโดยการกำหนดตัวตนให้กับผู้ใช้ที่ไม่ใช่มนุษย์: ผู้ให้บริการการจัดการตัวตนสามารถควบคุมการเข้าถึงพื้นที่ต่างๆ ของ AI Agents ได้อย่างใกล้ชิด รวมถึงระยะเวลาที่พวกมันสามารถเข้าถึงและพฤติกรรมที่มีความเสี่ยง สิ่งนี้ช่วยลดการเข้าถึงพื้นที่ที่ AI Agents ไม่จำเป็นต้องเข้าถึง และจำกัดสิ่งที่พวกมันสามารถทำได้ในพื้นที่ที่พวกมันทำงาน

การกำหนดตัวตนให้กับ AI Agents ยังช่วยลดความเสี่ยงจากผู้กระทำผิดภายนอก

เมื่อทีมนักวิจัย ทีมนักวิจัย ฉีดคำสั่งที่เป็นอันตรายเข้าไปในแอปพลิเคชัน AI ที่จัดการสัญญาทางกฎหมาย ผู้ใช้หนึ่งคนสามารถเข้าถึงข้อมูลส่วนบุคคลที่เป็นความลับของอีกผู้ใช้หนึ่งได้ เห็นได้ชัดว่าไม่มีการแบ่งแยกข้อมูลของผู้ใช้ระดับและไม่มีการอนุญาตให้เข้าถึงข้อมูลนั้นแม้ว่าจะไม่เกี่ยวข้องกับสถานการณ์ที่เกิดขึ้นก็ตาม

การกำหนดขอบเขตให้กับ “ตัวตน” ของ AI หมายความว่าพวกมันจะไม่มีการเข้าถึง “ตลอดเวลา” ตัวอย่างเช่น AI Agents จะต้องได้รับอนุญาตสำหรับฟังก์ชันบางอย่างหรือมีการเข้าถึงแบบอ่านเท่านั้นในบางพื้นที่ โดยการทำเช่นนี้ แม้ว่า AI Agent จะถูกแฮกหรือบุกรุกโดยผู้กระทำผิด การกระทบกระเทือนก็จะถูกจำกัดไว้ไม่ให้ใหญ่โต

ผู้นำควรให้ความรู้แก่ทีมงานเกี่ยวกับความเสี่ยงของ AI Agents ที่ทำงานอย่างลับๆ ความเสี่ยงนี้มีมากขึ้นเมื่อพนักงานเชื่อมต่อ “shadow AI” เข้ากับพื้นที่ทำงานโดยไม่ได้รับอนุญาตจากผู้นำและไม่ได้รับการระบุตัวตนและมาตรการรักษาความปลอดภัยที่เหมาะสม นอกจากนี้ การใช้แนวทาง Zero Standing Privileges (ZSP) จะสร้างมาตรฐานการเข้าถึง 0 สำหรับ AI Agent ใดๆ ดังนั้นหากพนักงานเชื่อมต่อ AI ที่ไม่ได้รับอนุญาตเข้ากับระบบ พวกมันจะเข้าสู่สภาพแวดล้อมที่ทุกประตูถูกปิด

มองเห็น AI Agents ของคุณ

ในขณะที่เรารู้ว่า “AI เป็นกล่องดำ” แต่การนำไปใช้ในธุรกิจของคุณควรจะถูกสังเกตและติดตามอย่างใกล้ชิด

เพื่อให้สามารถบังคับใช้นโยบายความปลอดภัยที่เข้มงวด AI Agents แต่ละตัวจะต้องถูกควบคุม: พวกมันควรจะมีการจัดทำเอกสารที่ชัดเจนเกี่ยวกับการเป็นเจ้าของ ความรับผิดชอบ และการควบคุม เพื่อให้คุณสามารถติดตามเส้นทางของพวกมันได้อย่างแม่นยำ คุณควรจะมีการตรวจสอบระยะไกล – การติดตามพฤติกรรมของ AI Agents – และให้ข้อมูลเข้าสู่เครื่องมือรักษาความปลอดภัยที่มีอยู่เพื่อให้พวกมันสามารถตรวจจับและดำเนินการตามความน่าเชื่อถือที่ปรับเปลี่ยนได้

ผู้นำจำเป็นต้องให้ความสำคัญกับแนวหน้าด้านความปลอดภัยใหม่นี้และรับรองว่าทีมงานต่างๆ มีความรับผิดชอบต่อการใช้ AI Agents พวกเขาสามารถสร้าง KPI การปฏิบัติตามข้อกำหนดใหม่ เช่น “จำนวนชุดข้อมูลที่มีการตรวจสอบความถูกต้อง” “% ของ AI Agents ที่มีการจัดการตัวตน” หรือ “คะแนนความน่าเชื่อถือของ AI” สิ่งนี้เป็นสิ่งสำคัญสำหรับการป้องกัน แต่ยังเกี่ยวกับการตรวจสอบได้ – แม้แต่ตัวตนที่ไม่ใช่มนุษย์ก็จำเป็นต้องมีการบันทึกการตรวจสอบสำหรับองค์กรที่ต้องการปฏิบัติตามข้อกำหนด

โดยทั่วไปแล้ว เราเข้าใจพฤติกรรมของมนุษย์และเส้นทางที่พวกเขาใช้ภายในพื้นที่ทำงาน แต่ AI เป็นสัตว์ประหลาดที่ใหม่และไม่เคยพบมาก่อน มีหลายสิ่งที่เรายังไม่เข้าใจเกี่ยวกับวิธีการทำงานของมัน บางบริษัทเลือกใช้การแก้ปัญหาในระยะสั้นโดยการปิดกั้น AI จากสำนักงาน – แต่สิ่งนี้จะเพียงแต่เลื่อนปัญหาไปหรือทำให้พนักงานใช้ AI ที่ไม่ได้รับอนุญาต Prepare ความปลอดภัยของคุณล่วงหน้าสำหรับ AI Agents ที่กำลังจะกลายเป็นสิ่งสำคัญ