ผู้นำทางความคิด

วิธีการจัดการกับความท้าทายด้านความปลอดภัยของเครือข่ายที่เกี่ยวข้องกับ Agentic AI

Anirban Sengupta
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญการเก็บรวบรวมข้อมูลอัตโนมัติของ Agentic AI…
ดูเพิ่มเติม
  • การเก็บรวบรวมข้อมูลอัตโนมัติของ Agentic AI ผ่านระบบคลาวด์และเอดจ์ขยายขอบเขตการโจมตีเครือข่ายอย่างมหาศาล
  • การเรียนรู้แบบไดนามิกของมันทำให้การตรวจสอบความปลอดภัยแบบดั้งเดิมเป็นไปได้ยาก โดยปิดบังเส้นทางการเข้าถึงข้อมูลและกระบวนการตัดสินใจ
  • ความปลอดภัยทางด้านอีเกรสมีความสำคัญอย่างยิ่งในการปกป้องโมเดล AI ที่เป็นกรรมสิทธิ์จากการรั่วไหลโดยผู้คุกคามที่มีความซับซ้อน

ปัญญาประดิษฐ์แบบ Agentic (AI) เป็นตัวแทนของขอบเขตใหม่ของ AI ที่สัญญาว่าจะไปไกลกว่าความสามารถของ AI ที่สร้างขึ้น (GenAI) ไม่เหมือนกับระบบ GenAI ส่วนใหญ่ซึ่งพึ่งพาการส่งสัญญาณหรือการดูแลของมนุษย์ AI แบบ Agentic เป็นแบบกระตือรือร้นเพราะไม่ต้องการการป้อนข้อมูลจากผู้ใช้ในการแก้ปัญหาที่ซับซ้อนและหลายขั้นตอน โดยใช้ระบบนิเวศดิจิทัลของโมเดลภาษาขนาดใหญ่ (LLM) การเรียนรู้ของเครื่อง (ML) และการประมวลผลภาษา自然 (NLP) AI แบบ Agentic ทำงานได้โดยอัตโนมัติแทนมนุษย์หรือระบบ โดยปรับปรุงประสิทธิภาพการทำงานและปฏิบัติการอย่างมาก

แม้ว่า AI แบบ Agentic ยังคงอยู่ในขั้นตอนแรก แต่ผู้เชี่ยวชาญได้เน้นย้ำถึงกรณีการใช้งานที่น่าประทับใจ เช่น สภาพแวดล้อมการบริการลูกค้าของธนาคารที่ตัวแทน AI ทำมากกว่าการตอบคำถามของผู้ใช้เมื่อถูกถาม ตัวแทนจะ ทำธุรกรรมหรืองานอย่างย้ายเงินเมื่อถูกสั่งโดยผู้ใช้ ตัวอย่างอื่นอาจอยู่ในสภาพแวดล้อมทางการเงินซึ่งระบบ AI แบบ Agentic ช่วยเหลือผู้วิเคราะห์ของมนุษย์โดยการวิเคราะห์ข้อมูลจำนวนมากอย่างรวดเร็วเพื่อ สร้างรายงานที่พร้อมสำหรับการตรวจสอบสำหรับการตัดสินใจโดยอาศัยข้อมูล

ความเป็นไปได้ที่น่าเหลือเชื่อของ AI แบบ Agentic ไม่สามารถปฏิเสธได้ อย่างไรก็ตาม เช่นเดียวกับเทคโนโลยีใหม่ๆ มักจะมีปัญหาเกี่ยวกับความปลอดภัย การกำกับดูแล และการปฏิบัติตามกฎระเบียบ ลักษณะเฉพาะของตัวแทน AI เหล่านี้นำเสนอความท้าทายด้านความปลอดภัยและการกำกับดูแลหลายประการสำหรับองค์กร องค์กรต่างๆ ต้องจัดการกับความท้าทายเหล่านี้เพื่อรับผลประโยชน์จาก AI แบบ Agentic และรับประกันความปลอดภัยและประสิทธิภาพของเครือข่าย

ความท้าทายด้านความปลอดภัยของเครือข่ายที่ AI แบบ Agentic สร้างขึ้นสำหรับองค์กร

ตัวแทน AI มีการดำเนินงานพื้นฐานสี่ประการ ประการแรกคือการรับรู้และการเก็บข้อมูล ตัวแทน AI หลายร้อยหลายพันหรือหลายล้านตัวเก็บและรวบรวมข้อมูลจากหลายแหล่ง ไม่ว่าจะเป็นคลาวด์ ในสถานที่ จุดสิ้นสุด ฯลฯ และข้อมูลนี้อาจมาจากที่ใดก็ได้ ไม่ใช่เฉพาะที่ใดที่หนึ่ง การดำเนินงานครั้งที่สองคือการตัดสินใจ เมื่อตัวแทน AI เหล่านี้รวบรวมข้อมูลแล้ว พวกมันจะใช้ AI และ ML ในการตัดสินใจ การดำเนินงานครั้งที่สามคือการดำเนินการและการดำเนินการ ตัวแทน AI เหล่านี้ดำเนินการตามที่ตัดสินใจ และการดำเนินงานครั้งสุดท้ายคือการเรียนรู้ โดยที่ตัวแทน AI เหล่านี้ใช้ข้อมูลที่รวบรวมไว้ก่อนและหลังการตัดสินใจเพื่อปรับและปรับปรุงตามลำดับ

ในกระบวนการนี้ AI แบบ Agentic ต้องการการเข้าถึงชุดข้อมูลขนาดใหญ่เพื่อทำงานได้อย่างมีประสิทธิภาพ ตัวแทน AI เหล่านี้ รวมเข้ากับระบบข้อมูลที่จัดการหรือเก็บข้อมูลที่ละเอียดอ่อน เช่น บันทึกทางการเงิน ฐานข้อมูลด้านสุขภาพ และข้อมูลส่วนบุคคลอื่นๆ (PII) ไม่幸ด้วย AI แบบ Agentic ทำให้ความพยายามในการรักษาความปลอดภัยของโครงสร้างเครือข่ายต่อความเสี่ยงต่างๆ ซับซ้อน โดยเฉพาะอย่างยิ่งด้านความปลอดภัยในการเชื่อมต่อระหว่างคลาวด์ นอกจากนี้ยังนำเสนอความท้าทายด้านความปลอดภัยในการออก ซึ่งทำให้ธุรกิจต่างๆ มีความยากในการป้องกันการขโมยหรือการควบคุมและการบัญชี หากตัวแทน AI ถูกบุกรุก ข้อมูลที่ละเอียดอ่อนอาจถูกปล่อยออกไปหรือถูกขโมยได้ง่ายๆ ในทำนองเดียวกัน ตัวแทน AI เหล่านี้อาจถูกบุกรุกโดยผู้กระทำความผิดที่มีเจตนาไม่ดีและใช้ในการสร้างและเผยแพร่ข้อมูลที่ไม่ถูกต้องในระดับใหญ่ เมื่อเกิดการละเมิดความปลอดภัย ไม่เพียงแต่มีผลกระทบทางการเงินเท่านั้น แต่ยังมีผลกระทบต่อชื่อเสียงด้วย

แนวทางที่ครอบคลุมในการจัดการกับความท้าทายด้านความปลอดภัยของ AI แบบ Agentic

องค์กรสามารถจัดการกับความท้าทายด้านความปลอดภัยของ AI แบบ Agentic ได้โดยการนำโซลูชั่นด้านความปลอดภัยและแนวปฏิบัติที่ดีที่สุดมาใช้ในทุกๆ ขั้นตอนการดำเนินงานพื้นฐาน:

  1. การรับรู้และการเก็บข้อมูล: ธุรกิจต่างๆ ต้องการการเชื่อมต่อเครือข่ายที่มีความเร็วสูงและเข้ารหัสทั้งระบบเพื่อให้ตัวแทน AI ของตนสามารถรวบรวมข้อมูลจำนวนมากที่จำเป็นต่อการทำงานได้
  2. การตัดสินใจ: องค์กรต่างๆ ต้องแน่ใจว่าตัวแทน AI ของตนสามารถเข้าถึงโมเดลและโครงสร้างพื้นฐาน AI และ ML ที่ถูกต้องเพื่อตัดสินใจได้อย่างถูกต้อง
  3. การดำเนินการและการดำเนินการ: ตัวแทน AI ดำเนินการตามที่ตัดสินใจ แต่ธุรกิจต่างๆ ต้องระบุว่าตัวแทน AI ใดที่ทำการตัดสินใจนั้น และต้องทราบว่าตัวแทน AI เหล่านี้สื่อสารกันอย่างไรเพื่อหลีกเลี่ยงความขัดแย้งหรือ “หุ่นยนต์ต่อสู้กัน” ดังนั้น องค์กรจึงต้องการความสามารถในการสังเกตและติดตามการดำเนินการเหล่านี้
  4. การเรียนรู้และการปรับ: องค์กรใช้เงินหลายล้านหรือหลายร้อยล้านเพื่อปรับอัลกอริทึมของตน ซึ่งเพิ่มคุณค่าและความแม่นยำของตัวแทน AI เหล่านี้ หากผู้กระทำความผิดที่มีเจตนาไม่ดีได้รับโมเดลและขโมยออกไป องค์กรสามารถปกป้องการลงทุนเหล่านี้ได้โดยใช้คุณลักษณะด้านความปลอดภัยในการออกที่ป้องกันการขโมยและการบัญชี

การเพิ่มประสิทธิภาพของ AI แบบ Agentic ในลักษณะที่ปลอดภัยและรับผิดชอบ

AI แบบ Agentic มีศักยภาพที่น่าเหลือเชื่อในการช่วยให้บริษัทต่างๆ พัฒนาความสามารถในการผลิตและประสิทธิภาพการทำงาน แต่เช่นเดียวกับเทคโนโลยีใหม่ๆ ในพื้นที่ AI องค์กรต่างๆ ต้องใช้ความระมัดระวังในการปกป้องเครือข่ายและข้อมูลที่ละเอียดอ่อนของตน ความปลอดภัยมีความสำคัญอย่างยิ่งในปัจจุบัน โดยพิจารณาจากผู้กระทำความผิดที่มีเจตนาไม่ดีที่ได้รับการสนับสนุนจากประเทศต่างๆ เช่น Salt Typhoon และ Silk Typhoon ที่ดำเนินการโจมตีในระดับใหญ่

องค์กรควรทำงานร่วมกับผู้เชี่ยวชาญด้านความปลอดภัยของคลาวด์ในการพัฒนากลยุทธ์ด้านความปลอดภัยที่มีความยืดหยุ่น มีความสามารถในการปรับขนาด และพร้อมสำหรับอนาคต ซึ่งสามารถจัดการกับความท้าทายที่ไม่เหมือนใครของ AI แบบ Agentic ได้ พันธมิตรเหล่านี้สามารถช่วยให้องค์กรต่างๆ ติดตาม จัดการ และรักษาความปลอดภัยของตัวแทน AI ของตน และช่วยให้องค์กรต่างๆ มีความตระหนักถึงมาตรฐานที่เกี่ยวข้องกับการปฏิบัติตามกฎระเบียบและการกำกับดูแล

อานิร์บัน เซงกุปต้า เป็น ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีและรองประธานอาวุโสฝ่ายวิศวกรรม ที่ Aviatrix โดยมีประสบการณ์ในการจัดการและพัฒนาเทคโนโลยีมากกว่า 30 ปี ล่าสุด อานิร์บันเคยดำรงตำแหน่ง ผู้อำนวยการอาวุโสฝ่ายวิศวกรรม ที่ Google โดยมีหน้าที่ดูแลบริการจัดการและรักษาความปลอดภัยของ Google Kubernetes Engine (GKE) และงานวิศวกรรม Anthos ในช่วงเวลาที่เขาทำงานที่ Google อานิร์บันช่วยให้ธุรกิจ Anthos เติบโตจากจุดเริ่มต้นจนถึงรายได้ประจำต่อปี (ARR) มากกว่า 200 ล้านดอลลาร์สหรัฐฯ เขายังเปิดตัว GKE Enterprise ซึ่งเป็นแพลตฟอร์มคอนเทนเนอร์แบบบูรณาการ

ก่อนที่จะเข้าร่วม Google อานิร์บันเคยดำรงตำแหน่ง รองประธานฝ่ายวิศวกรรม – NSBU ที่ VMware โดยมีหน้าที่สร้างพอร์ตโฟลิโอ NSX networking และ security รวมถึง NSX Edge, Distributed Firewall และ NSX Intelligence ก่อนหน้านั้น อานิร์บันเคยดำรงตำแหน่งผู้นำที่ Cisco Systems, Lucent Technologies, Ascend Communications และอื่นๆ

อานิร์บันจบการศึกษาระดับ วิทยาศาสตรบัณฑิตในสาขาวิทยาการคอมพิวเตอร์และวิศวกรรมจาก Indian Institute of Technology, Kharagpur, India และจบการศึกษาระดับ วิทยาศาสตรมหาบัณฑิตในสาขาวิศวกรรมคอมพิวเตอร์จาก Santa Clara University, California