กลยุทธ์ความมั่นคงปลอดภัยไซเบอร์สำหรับการพัฒนาเอเจนต์ด้วยโลว์โค้ดและไฮโค้ด

เมื่อองค์กรนำเอเจนต์ปัญญาประดิษฐ์มาใช้งานในระบบธุรกิจต่าง ๆ ความเร็วในการพัฒนาและการกำกับดูแลด้านความปลอดภัยก็เชื่อมโยงกันอย่างใกล้ชิด กลยุทธ์ความมั่นคงปลอดภัยไซเบอร์สำหรับการพัฒนาเอเจนต์ด้วยโลว์โค้ดและไฮโค้ดต้องคำนึงถึงวิธีที่แต่ละแนวทางให้สิทธิ์เข้าถึงข้อมูลและเปิดให้ดำเนินการต่าง ๆ ได้ มาตรการป้องกันที่ออกแบบมาให้ตรงจุดช่วยจัดการความแตกต่างเหล่านี้ได้ ขณะที่การกำกับดูแลร่วมกันช่วยให้กิจกรรมของเอเจนต์สอดคล้องกับงานที่ได้รับอนุญาต เมื่อมีการขยายการใช้งาน

อะไรคือความแตกต่างระหว่างการพัฒนาเอเจนต์ AI ด้วยโลว์โค้ดและไฮโค้ด

แพลตฟอร์มโลว์โค้ดช่วยให้ผู้พัฒนาสร้างเอเจนต์ผ่านส่วนติดต่อแบบภาพและตัวเชื่อมต่อที่สร้างไว้ล่วงหน้า ซึ่งเชื่อมโยงกับบริการทางธุรกิจ ส่วนการพัฒนาแบบไฮโค้ดช่วยให้โปรแกรมเมอร์มีความยืดหยุ่นมากขึ้นในการกำหนดพฤติกรรมของเอเจนต์ผ่านโค้ดที่เขียนขึ้นเอง การผสานรวมเครื่องมือ และสภาพแวดล้อมสำหรับการเรียกใช้ ทั้งสองแนวทางจำเป็นต้องมีการกำกับดูแลข้อมูลที่เอเจนต์เข้าถึงได้และการดำเนินการที่เอเจนต์ทำได้

ความรับผิดชอบด้านความปลอดภัยแตกต่างกัน เพราะอำนาจควบคุมอยู่คนละส่วน ผู้พัฒนาโลว์โค้ดทำงานภายใต้การตั้งค่าของแพลตฟอร์ม ซึ่งกำกับดูแลการแชร์ข้อมูลและการเข้าถึงตัวเชื่อมต่อ ทำให้การตัดสินใจกำหนดค่ามีความสำคัญเป็นพิเศษ ส่วนทีมไฮโค้ดต้องรับผิดชอบมากขึ้นต่อซอฟต์แวร์และสภาพแวดล้อมที่ใช้เรียกใช้คำสั่งของเอเจนต์ รวมถึงการกำหนดขอบเขตการเข้าถึงไฟล์และข้อมูลรับรอง

Cybersecurity and Infrastructure Security Agency ระบุความเสี่ยงหลายประการของ AI แบบเอเจนต์ซึ่งเป็นกรอบที่มีประโยชน์สำหรับทั้งสองแนวทาง พื้นผิวการโจมตีที่ขยายใหญ่ขึ้นหมายถึงช่องทางเข้าสู่ระบบที่เพิ่มขึ้น ขณะที่การสะสมสิทธิ์หมายถึงการได้รับสิทธิ์เข้าถึงเพิ่มขึ้นเรื่อย ๆ ความไม่สอดคล้องของพฤติกรรมเกิดขึ้นเมื่อเอเจนต์เบี่ยงเบนจากงานที่ตั้งใจไว้ ส่วนบันทึกเหตุการณ์ที่ไม่ชัดเจนทำให้การตรวจสอบทำได้ยาก ตัวเชื่อมต่อที่มีผู้ใช้งานอย่างแพร่หลายและเครื่องมือบรรทัดคำสั่งที่ไม่มีข้อจำกัดอาจก่อให้เกิดปัญหาเดียวกันในรูปแบบที่แตกต่างกัน

ความเสี่ยงด้านความปลอดภัยและวิธีแก้ไขสำหรับเอเจนต์ AI แบบโลว์โค้ด

การเข้าถึงโลว์โค้ดที่ง่ายดายช่วยให้พนักงานนอกทีมพัฒนาแบบดั้งเดิมสามารถสร้างเอเจนต์ได้ การกำกับดูแลด้านความปลอดภัยจึงต้องครอบคลุมผู้พัฒนาเหล่านี้ด้วย เพื่อให้การเชื่อมต่อที่สะดวกสอดคล้องกับการใช้งานทางธุรกิจที่ได้รับอนุญาต

ข้อจำกัดด้านความปลอดภัยของสภาพแวดล้อมโลว์โค้ด

นักพัฒนาที่ไม่มีพื้นฐานด้านการพัฒนาซอฟต์แวร์โดยตรงอาจเชื่อมต่อเอเจนต์กับไฟล์ที่แชร์ร่วมกันหรือแอปพลิเคชันทางธุรกิจ โดยไม่เข้าใจสิทธิ์ของเอเจนต์อย่างถ่องแท้ สิทธิ์เข้าถึงที่ได้รับผ่านการเชื่อมต่อเหล่านั้นอาจทำให้ข้อมูลสำคัญถูกเปิดเผย หรือเอื้อให้ดำเนินการนอกเหนือจากขั้นตอนการทำงานที่กำหนดไว้ การแชร์ในวงกว้างและการระบุผู้รับผิดชอบที่ไม่ชัดเจนอาจยิ่งเพิ่มความเสี่ยงในการเปิดเผยข้อมูล

การใช้งานในวงกว้างทำให้การกำกับดูแลอย่างสม่ำเสมอทั่วทั้งแผนกมีความสำคัญ ในการวิเคราะห์ตลาดปี 2024 Forrester รายงานว่า นักพัฒนาในองค์กร 87%ใช้แพลตฟอร์มโลว์โค้ดในงานพัฒนาบางส่วน ข้อค้นพบนี้กล่าวถึงงานพัฒนาโดยทั่วไป จึงแสดงให้เห็นถึงการเข้าถึงของแพลตฟอร์มเหล่านี้ แต่ไม่ได้วัดการใช้งานเอเจนต์ AI โดยเฉพาะ

แนวทางปฏิบัติเพื่อยกระดับความปลอดภัยของเอเจนต์โลว์โค้ด

ทีมควรตรวจสอบสิทธิ์ของตัวเชื่อมต่อให้สอดคล้องกับงานที่กำหนดให้เอเจนต์แต่ละตัวทำ และใช้หลักการให้สิทธิ์เท่าที่จำเป็น บัญชีรายการส่วนกลางควรบันทึกผู้รับผิดชอบและบริการที่เชื่อมต่อสำหรับการใช้งานแต่ละครั้ง พร้อมกำหนดให้ต้องได้รับอนุมัติเมื่อมีการดำเนินการที่ละเอียดอ่อน วิธีนี้ช่วยให้ทีมความปลอดภัยมีข้อมูลสำหรับระบุเอเจนต์ที่ไม่ได้ลงทะเบียนและตรวจสอบการเข้าถึงที่ไม่เหมาะสม

แนวทางการกำกับดูแลข้อมูลของ Microsoft ให้ความสำคัญกับการควบคุมการเข้าถึงข้อมูลทางธุรกิจ Naveen Jangir สถาปนิกหลักของ Microsoft Digital แนะนำให้องค์กร “กำกับดูแลและปกป้องข้อมูลด้วยข้อจำกัดการเข้าถึงที่เหมาะสม” มาตรการควบคุมเหล่านี้ช่วยให้ผู้ใช้ที่ได้รับอนุญาตและความสามารถของ AI นำข้อมูลไปใช้ได้โดยไม่เปิดเผยเกินความจำเป็นภายในขอบเขตสิทธิ์ที่กำหนดไว้ การใช้ข้อกำหนดสำหรับตัวเชื่อมต่อควบคู่กับการระบุผู้รับผิดชอบอย่างชัดเจนจะช่วยให้ข้อจำกัดเหล่านี้เป็นส่วนหนึ่งของกระบวนการพัฒนาในแต่ละวัน

ความเสี่ยงด้านความปลอดภัยและวิธีแก้ไขสำหรับเอเจนต์ AI แบบไฮโค้ด

เมื่อทีมใช้เอเจนต์เขียนโค้ด AI เพื่อสร้างระบบที่พัฒนาขึ้นเอง การเปลี่ยนแปลงที่สร้างโดย AI อาจเกิดขึ้นเร็วกว่าที่คนจะตรวจสอบได้ ดังนั้น ความปลอดภัยในการพัฒนาแบบไฮโค้ดจึงต้องมีมาตรการควบคุมทั้งกระบวนการพัฒนาและสภาพแวดล้อมที่เอเจนต์ใช้ทำงาน

ความท้าทายด้านความปลอดภัยเฉพาะของการพัฒนาแบบไฮโค้ด

เอเจนต์เขียนโค้ดอาจเผชิญกับการแทรกคำสั่งผ่านพรอมป์ต์ทางอ้อม เมื่ออ่านคลังโค้ดภายนอกที่มีคำสั่งซึ่งผู้ไม่หวังดีเป็นผู้ใส่ไว้ หากเอเจนต์ทำตามคำสั่งเหล่านั้นขณะมีสิทธิ์เข้าถึงเครื่องมือพัฒนา ก็อาจเรียกใช้คำสั่งที่ไม่ปลอดภัยหรือเปิดเผยข้อมูลรับรองได้ ผลกระทบที่อาจเกิดขึ้นส่วนหนึ่งขึ้นอยู่กับไฟล์ เครื่องมือ และปลายทางภายนอกที่สภาพแวดล้อมสำหรับเรียกใช้อนุญาตให้เอเจนต์เข้าถึงได้

คำแนะนำด้านการแซนด์บ็อกซ์ของ NVIDIA กล่าวถึงการเปิดเผยข้อมูลรับรองภายในขอบเขตการเรียกใช้นั้น โดยระบุว่า “สภาพแวดล้อมแซนด์บ็อกซ์ควรใช้การส่งข้อมูลลับเข้าไปอย่างชัดเจน” เพื่อจำกัดการเข้าถึงข้อมูลรับรอง ดังนั้น เอเจนต์ ไม่ควรรับข้อมูลรับรองทั้งหมดจากสภาพแวดล้อมเมื่องานที่ได้รับมอบหมายต้องใช้สิทธิ์เข้าถึงเพียงจำกัด ทีมควรจัดเตรียมข้อมูลรับรองให้เหมาะกับงานนั้นโดยเฉพาะ และเก็บข้อมูลลับอื่น ๆ ที่ไม่เกี่ยวข้องให้พ้นจากการเข้าถึงของเอเจนต์

แนวทางเสริมความปลอดภัยให้ไปป์ไลน์เอเจนต์แบบเขียนโค้ด

สภาพแวดล้อมการประมวลผลแบบจำกัดควรควบคุมการเข้าถึงไฟล์และการเชื่อมต่อขาออกให้สอดคล้องกับงาน นอกจากนี้ ทีมควรทดสอบความปลอดภัยของแอปพลิเคชันแบบสแตติกกับโค้ดที่สร้างขึ้นด้วย ผู้ตรวจสอบอิสระควรพิจารณาการตัดสินใจเกี่ยวกับการอนุญาตหรือกฎทางธุรกิจที่การตรวจสอบอัตโนมัติอาจตรวจไม่พบ มาตรการเหล่านี้ช่วยจัดการทั้งขอบเขตการประมวลผลและจุดอ่อนในซอฟต์แวร์ที่ได้

Amazon Web Services แนะนำให้แยกการสร้างโค้ดออกจากการประเมินผล ในกรอบการควบคุมเอเจนต์เขียนโค้ด โดยระบุว่า “การใช้เซสชันแยกกันช่วยหลีกเลี่ยงอคติจากการยืนยันความคิดของตนเอง” อย่างไรก็ตาม เซสชันสองเซสชันที่ใช้โมเดลเดียวกันอาจมีจุดบอดพื้นฐานแบบเดียวกันระหว่างการตรวจสอบ ในกรณีที่ทำได้ การใช้โมเดลอื่นในการตรวจทานและให้มนุษย์ประเมินการเปลี่ยนแปลงที่มีความอ่อนไหวด้านความปลอดภัยจะช่วยเพิ่มการตรวจสอบให้รอบคอบยิ่งขึ้น

วางกลยุทธ์ความปลอดภัยที่ครอบคลุมทั้งสองแนวทาง

การรักษาความปลอดภัย AI สำหรับการพัฒนาเอเจนต์แบบโลว์โค้ดและแบบเขียนโค้ดจำเป็นต้องมีมุมมองร่วมกันต่อกิจกรรมทั้งหมดในจุดที่เอเจนต์แลกเปลี่ยนข้อมูลกัน ตัวอย่างเช่น เวิร์กโฟลว์แบบโลว์โค้ดอาจส่งเนื้อหาไปยังเอเจนต์ที่สร้างขึ้นเอง ซึ่งจะเรียกใช้บริการทางธุรกิจอื่นต่อไป การตรวจสอบแต่ละองค์ประกอบแยกกันอาจทำให้ทีมรักษาความปลอดภัยขาดบริบทที่จำเป็นต่อการทำความเข้าใจลำดับการทำงานทั้งหมด

ผู้เชี่ยวชาญด้านความปลอดภัย AI ของ Darktrace ระบุว่าองค์กร ต้องตรวจสอบพรอมป์ต์และเซสชันควบคู่ไปกับคำตอบจากเครื่องมือ AI เชิงสร้างสรรค์ระดับองค์กรในแนวทางการพัฒนาทั้งสองแบบ มุมมองของ Darktrace ยังครอบคลุมซอฟต์แวร์ในรูปแบบบริการและสภาพแวดล้อมขอบบริการการเข้าถึงที่ปลอดภัยด้วย เมื่อมองเห็นกิจกรรมเหล่านี้ องค์กรจะมีบริบทเพียงพอที่จะ “ตรวจจับการโจมตีด้วยพรอมป์ต์ผ่านบทสนทนาที่แยบยลและการเชื่อมโยงคำสั่งที่เป็นอันตรายได้”

มุมมองของ Darktrace สนับสนุนกลยุทธ์ความปลอดภัย AI ที่ครอบคลุมยิ่งขึ้นสำหรับการพัฒนาเอเจนต์แบบโลว์โค้ดและแบบเขียนโค้ด เพราะการมองเห็นพรอมป์ต์ การติดตามเซสชัน และการกำกับดูแลตัวตนช่วยให้ทีมเข้าใจว่าเอเจนต์โต้ตอบกันอย่างไรผ่านเครื่องมือที่เชื่อมต่อถึงกัน ทีมรักษาความปลอดภัยควรตรวจสอบว่าคำสั่งเปลี่ยนแปลงไปอย่างไรระหว่างเซสชันที่เชื่อมต่อกัน และการดำเนินการต่อเนื่องยังสอดคล้องกับการอนุญาตเดิมหรือไม่ นอกจากนี้ ควรพิจารณาความอ่อนไหวของข้อมูลที่เก็บรักษาไว้เพื่อการสืบสวนด้วย

การกำกับดูแลและติดตามตรวจสอบเพื่อรักษาความปลอดภัยของเอเจนต์ AI ในระยะยาว

เอเจนต์แต่ละตัวควรมีผู้รับผิดชอบที่ระบุได้และขอบเขตงานที่ได้รับอนุญาตอย่างชัดเจน โดยไม่ขึ้นกับวิธีการพัฒนา นอกจากนี้ การกำกับดูแลควรระบุว่าใครมีอำนาจอนุมัติการเปลี่ยนแปลงขอบเขตดังกล่าว และใครสามารถระงับการทำงานได้เมื่อเอเจนต์มีพฤติกรรมผิดปกติ

งานวิจัยด้านการกำกับดูแลเอเจนต์ชี้ว่า เอเจนต์จำเป็นต้องมี อำนาจที่สามารถยืนยันตัวตนได้และตรวจสอบย้อนหลังได้ เพื่อรองรับความรับผิดชอบดังกล่าว แนวทางนี้เชื่อมโยงผู้ให้สิทธิ์เข้ากับงานที่เอเจนต์ได้รับอนุญาตให้ดำเนินการ จากนั้นองค์กรจึงสามารถตรวจสอบการกระทำแต่ละอย่างเทียบกับสิทธิ์ที่อนุญาตไว้ได้

ทีมควรจัดเก็บบันทึกกิจกรรมที่เชื่อมโยงสิทธิ์ที่มอบหมายกับการใช้เครื่องมือและผลลัพธ์ การทบทวนเป็นระยะควรตรวจสอบสิทธิ์เหล่านั้นอีกครั้งเมื่อขีดความสามารถเปลี่ยนแปลง เพิกถอนสิทธิ์ที่ยังคงค้างอยู่หลังงานเสร็จสิ้น และยืนยันว่าข้อมูลผู้รับผิดชอบยังเป็นปัจจุบัน ทีมพัฒนาและทีมรักษาความปลอดภัยสามารถใช้การทบทวนเหล่านี้เพื่อให้การควบคุมการปฏิบัติงานสอดคล้องกับวัตถุประสงค์ที่อนุมัติไว้สำหรับเอเจนต์

รับมือความเสี่ยงด้านความปลอดภัยของเอเจนต์ AI ให้ทันการณ์

การพัฒนาแบบโลว์โค้ดจำเป็นต้องใส่ใจเรื่องสิทธิ์ของแพลตฟอร์มและการกำกับดูแลตัวเชื่อมต่ออย่างรอบคอบ ส่วนการพัฒนาแบบเขียนโค้ดต้องให้ความสำคัญอย่างใกล้ชิดกับสภาพแวดล้อมการประมวลผลที่สร้างขึ้นเองและการตรวจทานโค้ด การติดตามตรวจสอบแบบรวมศูนย์และการกำหนดผู้รับผิดชอบอย่างสม่ำเสมอเป็นพื้นฐานร่วมสำหรับกำกับดูแลวิธีที่เอเจนต์เข้าถึงข้อมูลและดำเนินการในระบบธุรกิจที่เชื่อมต่อกัน เมื่อขีดความสามารถเพิ่มขึ้น นักพัฒนาควรประเมินมาตรการป้องกันอีกครั้งควบคู่ไปกับการเปลี่ยนแปลงเครื่องมือและความรับผิดชอบของเอเจนต์ พร้อมกำหนดกิจกรรมที่อนุญาตสำหรับการนำไปใช้งานแต่ละครั้งให้ชัดเจนตลอดวงจรชีวิต