วิธีการจัดการกับความท้าทายด้านความปลอดภัยของเครือข่ายที่เกี่ยวข้องกับ Agentic AI

ปัญญาประดิษฐ์แบบ Agentic (AI) เป็นตัวแทนของขอบเขตใหม่ของ AI ที่สัญญาว่าจะไปไกลกว่าความสามารถของ AI ที่สร้างขึ้น (GenAI) ไม่เหมือนกับระบบ GenAI ส่วนใหญ่ซึ่งพึ่งพาการส่งสัญญาณหรือการดูแลของมนุษย์ AI แบบ Agentic เป็นแบบกระตือรือร้นเพราะไม่ต้องการการป้อนข้อมูลจากผู้ใช้ในการแก้ปัญหาที่ซับซ้อนและหลายขั้นตอน โดยใช้ระบบนิเวศดิจิทัลของโมเดลภาษาขนาดใหญ่ (LLM) การเรียนรู้ของเครื่อง (ML) และการประมวลผลภาษา自然 (NLP) AI แบบ Agentic ทำงานได้โดยอัตโนมัติแทนมนุษย์หรือระบบ โดยปรับปรุงประสิทธิภาพการทำงานและปฏิบัติการอย่างมาก

แม้ว่า AI แบบ Agentic ยังคงอยู่ในขั้นตอนแรก แต่ผู้เชี่ยวชาญได้เน้นย้ำถึงกรณีการใช้งานที่น่าประทับใจ เช่น สภาพแวดล้อมการบริการลูกค้าของธนาคารที่ตัวแทน AI ทำมากกว่าการตอบคำถามของผู้ใช้เมื่อถูกถาม ตัวแทนจะ ทำธุรกรรมหรืองานอย่างย้ายเงินเมื่อถูกสั่งโดยผู้ใช้ ตัวอย่างอื่นอาจอยู่ในสภาพแวดล้อมทางการเงินซึ่งระบบ AI แบบ Agentic ช่วยเหลือผู้วิเคราะห์ของมนุษย์โดยการวิเคราะห์ข้อมูลจำนวนมากอย่างรวดเร็วเพื่อ สร้างรายงานที่พร้อมสำหรับการตรวจสอบสำหรับการตัดสินใจโดยอาศัยข้อมูล

ความเป็นไปได้ที่น่าเหลือเชื่อของ AI แบบ Agentic ไม่สามารถปฏิเสธได้ อย่างไรก็ตาม เช่นเดียวกับเทคโนโลยีใหม่ๆ มักจะมีปัญหาเกี่ยวกับความปลอดภัย การกำกับดูแล และการปฏิบัติตามกฎระเบียบ ลักษณะเฉพาะของตัวแทน AI เหล่านี้นำเสนอความท้าทายด้านความปลอดภัยและการกำกับดูแลหลายประการสำหรับองค์กร องค์กรต่างๆ ต้องจัดการกับความท้าทายเหล่านี้เพื่อรับผลประโยชน์จาก AI แบบ Agentic และรับประกันความปลอดภัยและประสิทธิภาพของเครือข่าย

ความท้าทายด้านความปลอดภัยของเครือข่ายที่ AI แบบ Agentic สร้างขึ้นสำหรับองค์กร

ตัวแทน AI มีการดำเนินงานพื้นฐานสี่ประการ ประการแรกคือการรับรู้และการเก็บข้อมูล ตัวแทน AI หลายร้อยหลายพันหรือหลายล้านตัวเก็บและรวบรวมข้อมูลจากหลายแหล่ง ไม่ว่าจะเป็นคลาวด์ ในสถานที่ จุดสิ้นสุด ฯลฯ และข้อมูลนี้อาจมาจากที่ใดก็ได้ ไม่ใช่เฉพาะที่ใดที่หนึ่ง การดำเนินงานครั้งที่สองคือการตัดสินใจ เมื่อตัวแทน AI เหล่านี้รวบรวมข้อมูลแล้ว พวกมันจะใช้ AI และ ML ในการตัดสินใจ การดำเนินงานครั้งที่สามคือการดำเนินการและการดำเนินการ ตัวแทน AI เหล่านี้ดำเนินการตามที่ตัดสินใจ และการดำเนินงานครั้งสุดท้ายคือการเรียนรู้ โดยที่ตัวแทน AI เหล่านี้ใช้ข้อมูลที่รวบรวมไว้ก่อนและหลังการตัดสินใจเพื่อปรับและปรับปรุงตามลำดับ

ในกระบวนการนี้ AI แบบ Agentic ต้องการการเข้าถึงชุดข้อมูลขนาดใหญ่เพื่อทำงานได้อย่างมีประสิทธิภาพ ตัวแทน AI เหล่านี้ รวมเข้ากับระบบข้อมูลที่จัดการหรือเก็บข้อมูลที่ละเอียดอ่อน เช่น บันทึกทางการเงิน ฐานข้อมูลด้านสุขภาพ และข้อมูลส่วนบุคคลอื่นๆ (PII) ไม่幸ด้วย AI แบบ Agentic ทำให้ความพยายามในการรักษาความปลอดภัยของโครงสร้างเครือข่ายต่อความเสี่ยงต่างๆ ซับซ้อน โดยเฉพาะอย่างยิ่งด้านความปลอดภัยในการเชื่อมต่อระหว่างคลาวด์ นอกจากนี้ยังนำเสนอความท้าทายด้านความปลอดภัยในการออก ซึ่งทำให้ธุรกิจต่างๆ มีความยากในการป้องกันการขโมยหรือการควบคุมและการบัญชี หากตัวแทน AI ถูกบุกรุก ข้อมูลที่ละเอียดอ่อนอาจถูกปล่อยออกไปหรือถูกขโมยได้ง่ายๆ ในทำนองเดียวกัน ตัวแทน AI เหล่านี้อาจถูกบุกรุกโดยผู้กระทำความผิดที่มีเจตนาไม่ดีและใช้ในการสร้างและเผยแพร่ข้อมูลที่ไม่ถูกต้องในระดับใหญ่ เมื่อเกิดการละเมิดความปลอดภัย ไม่เพียงแต่มีผลกระทบทางการเงินเท่านั้น แต่ยังมีผลกระทบต่อชื่อเสียงด้วย

แนวทางที่ครอบคลุมในการจัดการกับความท้าทายด้านความปลอดภัยของ AI แบบ Agentic

องค์กรสามารถจัดการกับความท้าทายด้านความปลอดภัยของ AI แบบ Agentic ได้โดยการนำโซลูชั่นด้านความปลอดภัยและแนวปฏิบัติที่ดีที่สุดมาใช้ในทุกๆ ขั้นตอนการดำเนินงานพื้นฐาน:

1. การรับรู้และการเก็บข้อมูล: ธุรกิจต่างๆ ต้องการการเชื่อมต่อเครือข่ายที่มีความเร็วสูงและเข้ารหัสทั้งระบบเพื่อให้ตัวแทน AI ของตนสามารถรวบรวมข้อมูลจำนวนมากที่จำเป็นต่อการทำงานได้
2. การตัดสินใจ: องค์กรต่างๆ ต้องแน่ใจว่าตัวแทน AI ของตนสามารถเข้าถึงโมเดลและโครงสร้างพื้นฐาน AI และ ML ที่ถูกต้องเพื่อตัดสินใจได้อย่างถูกต้อง
3. การดำเนินการและการดำเนินการ: ตัวแทน AI ดำเนินการตามที่ตัดสินใจ แต่ธุรกิจต่างๆ ต้องระบุว่าตัวแทน AI ใดที่ทำการตัดสินใจนั้น และต้องทราบว่าตัวแทน AI เหล่านี้สื่อสารกันอย่างไรเพื่อหลีกเลี่ยงความขัดแย้งหรือ “หุ่นยนต์ต่อสู้กัน” ดังนั้น องค์กรจึงต้องการความสามารถในการสังเกตและติดตามการดำเนินการเหล่านี้
4. การเรียนรู้และการปรับ: องค์กรใช้เงินหลายล้านหรือหลายร้อยล้านเพื่อปรับอัลกอริทึมของตน ซึ่งเพิ่มคุณค่าและความแม่นยำของตัวแทน AI เหล่านี้ หากผู้กระทำความผิดที่มีเจตนาไม่ดีได้รับโมเดลและขโมยออกไป องค์กรสามารถปกป้องการลงทุนเหล่านี้ได้โดยใช้คุณลักษณะด้านความปลอดภัยในการออกที่ป้องกันการขโมยและการบัญชี

การเพิ่มประสิทธิภาพของ AI แบบ Agentic ในลักษณะที่ปลอดภัยและรับผิดชอบ

AI แบบ Agentic มีศักยภาพที่น่าเหลือเชื่อในการช่วยให้บริษัทต่างๆ พัฒนาความสามารถในการผลิตและประสิทธิภาพการทำงาน แต่เช่นเดียวกับเทคโนโลยีใหม่ๆ ในพื้นที่ AI องค์กรต่างๆ ต้องใช้ความระมัดระวังในการปกป้องเครือข่ายและข้อมูลที่ละเอียดอ่อนของตน ความปลอดภัยมีความสำคัญอย่างยิ่งในปัจจุบัน โดยพิจารณาจากผู้กระทำความผิดที่มีเจตนาไม่ดีที่ได้รับการสนับสนุนจากประเทศต่างๆ เช่น Salt Typhoon และ Silk Typhoon ที่ดำเนินการโจมตีในระดับใหญ่

องค์กรควรทำงานร่วมกับผู้เชี่ยวชาญด้านความปลอดภัยของคลาวด์ในการพัฒนากลยุทธ์ด้านความปลอดภัยที่มีความยืดหยุ่น มีความสามารถในการปรับขนาด และพร้อมสำหรับอนาคต ซึ่งสามารถจัดการกับความท้าทายที่ไม่เหมือนใครของ AI แบบ Agentic ได้ พันธมิตรเหล่านี้สามารถช่วยให้องค์กรต่างๆ ติดตาม จัดการ และรักษาความปลอดภัยของตัวแทน AI ของตน และช่วยให้องค์กรต่างๆ มีความตระหนักถึงมาตรฐานที่เกี่ยวข้องกับการปฏิบัติตามกฎระเบียบและการกำกับดูแล