ความปลอดภัยไซเบอร์

HYPR เปิดตัว AgentPass ผูกการดำเนินการของเอเจนต์ AI เข้ากับความรับผิดชอบของมนุษย์

HYPR เปิดตัว AgentPass เพื่อเชื่อมเอเจนต์ AI เข้ากับผู้ดูแลที่เป็นมนุษย์ ควบคุมการเข้าถึงเครื่องมือ และกำหนดให้ต้องได้รับอนุมัติก่อนดำเนินการที่มีความละเอียดอ่อน

Aiden Cross
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
HYPR identity-security branding displayed on a desktop monitor
ประเด็นสำคัญAgentPass มอบตัวตนที่แตกต่างให้กับเอเจนต์ AI แต่ละตัว…
ดูเพิ่มเติม
  • AgentPass มอบตัวตนที่แตกต่างให้กับเอเจนต์ AI แต่ละตัว ซึ่งผูกกับผู้ควบคุมที่เป็นมนุษย์ที่ผ่านการยืนยันแล้ว
  • เอเจนต์เริ่มต้นโดยไม่มีการเข้าถึงแบบถาวรและได้รับเพียงโทเค็นอายุสั้นที่จำกัดขอบเขตเฉพาะเครื่องมือแต่ละรายการ
  • การปิดใช้งานเอเจนต์จะบล็อกคำขอถัดไปของมัน แต่ไม่สามารถย้อนกลับการกระทำที่ได้ทำไปแล้วได้

HYPR เปิดตัว AgentPass แพลตฟอร์มความปลอดภัยที่เชื่อมโยงเอเจนต์ AI อัตโนมัติเข้ากับผู้ควบคุมที่เป็นมนุษย์ซึ่งระบุตัวตนได้ และตรวจสอบการดำเนินการที่เสนอมาก่อนจะเกิดขึ้น ผลิตภัณฑ์นี้ประกาศเมื่อวันที่ 18 พฤศจิกายน เพื่อรับมือกับปัญหาที่ทวีความสำคัญขึ้นเมื่อ AI ในที่ทำงานเปลี่ยนจากการตอบคำถามมาเป็นการใช้งานซอฟต์แวร์ นั่นคือการตัดสินใจไม่เพียงว่าเอเจนต์ทำอะไรได้บ้าง แต่ยังรวมถึงการใช้อำนาจของใครด้วย

ในเอกสารชี้แจงการเปิดตัว HYPR อธิบายว่า AgentPass เป็นระนาบควบคุมสำหรับเอเจนต์ที่ให้ความสำคัญกับอัตลักษณ์เป็นอันดับแรก บริษัทระบุว่าแพลตฟอร์มนี้สามารถค้นหาเครื่องมือเขียนโค้ดบนเวิร์กสเตชันของนักพัฒนา กำหนดนโยบายการเข้าถึง ขออนุมัติจากมนุษย์สำหรับการดำเนินการที่มีความอ่อนไหว และเปิดให้ผู้ควบคุมหยุดเอเจนต์จากระยะไกลได้ ตามข้อมูลของ HYPR AgentPass พร้อมใช้งานแล้ว

กำหนดอัตลักษณ์เฉพาะให้เอเจนต์

จุดเริ่มต้นคือการแยกความแตกต่างระหว่างคนที่ใช้แอปพลิเคชันกับซอฟต์แวร์ที่ทำงานแทนคนคนนั้น บัญชีบริการที่ใช้ร่วมกันหรือคีย์ API ของนักพัฒนาอาจให้สิทธิ์เข้าถึงได้ แต่ไม่ได้อธิบายเสมอไปว่าเอเจนต์ใดเป็นผู้เริ่มการดำเนินการหนึ่ง ๆ หรือใครเป็นผู้รับผิดชอบ HYPR เสนอให้เอเจนต์มีอัตลักษณ์เฉพาะที่เชื่อมโยงกับผู้ควบคุมที่เป็นมนุษย์ซึ่งผ่านการยืนยันตัวตน

บริษัทระบุว่าเอเจนต์จะเริ่มต้นโดยไม่มีสิทธิ์เข้าถึงที่มีอยู่ล่วงหน้า เครื่องมือที่เอเจนต์ได้รับอนุญาตให้ใช้จะเป็นไปตามบทบาทของผู้ควบคุมในองค์กร ขณะที่ข้อมูลรับรองจะอยู่ภายในเกตเวย์ที่มีการกำกับดูแล แทนที่จะส่งให้เอเจนต์โดยตรง การเข้าถึงใช้โทเค็นอายุสั้นที่จำกัดขอบเขตไว้สำหรับเครื่องมือแต่ละรายการ การเปลี่ยนบทบาทของผู้ควบคุมจะส่งผลต่อสิทธิ์ของเอเจนต์ และการนำผู้ควบคุมออกจากระบบจะขัดขวางคำขอที่ตามมา

สถาปัตยกรรมนี้ทำให้ความสัมพันธ์ระหว่างมนุษย์กับเอเจนต์มีผลในทางปฏิบัติ ไม่ใช่เป็นเพียงป้ายกำกับบนแดชบอร์ด คำถามสำคัญคืออำนาจที่เอเจนต์มีอยู่ในขณะนั้นสอดคล้องกับงานที่กำลังพยายามทำหรือไม่ ไม่ใช่เพียงว่ามีใครอนุมัติการติดตั้งเอเจนต์ไปเมื่อหลายสัปดาห์ก่อนหรือไม่

กำกับดูแลเอเจนต์เขียนโค้ด

เอกสารชี้แจงของ HYPR ระบุว่า Claude Code, Codex และ Cursor เป็นหนึ่งในเครื่องมือเขียนโค้ดที่ AgentPass ออกแบบมาเพื่อค้นหาและกำกับดูแล ประกาศเปิดตัวระบุถึงเวิร์กสเตชัน Windows และ macOS ที่ลงทะเบียนไว้ ซึ่งผู้ดูแลระบบสามารถกำหนดเส้นทางให้เครื่องมือที่รองรับผ่านเกตเวย์และปิดกั้นช่องทางหลีกเลี่ยงระบบได้ นอกจากนี้ยังระบุว่าครอบคลุมเอเจนต์ย่อยที่เอเจนต์เขียนโค้ดเรียกใช้งานด้วย

การมุ่งเน้นอุปกรณ์ปลายทางมีความสำคัญ เพราะรายการเอเจนต์ขององค์กรไม่ได้จำกัดอยู่แค่บริการคลาวด์ที่ติดตั้งจากส่วนกลางเสมอไป นักพัฒนาสามารถนำผู้ช่วยเข้ามาใช้ในเวิร์กโฟลว์บนเครื่องของตน ซึ่งผู้ช่วยเหล่านั้นจะโต้ตอบกับคลังเก็บโค้ด เทอร์มินัล และบริการที่เชื่อมต่ออยู่ การกำกับดูแลเวิร์กโฟลว์เหล่านี้ต้องมองเห็นเครื่องมือที่กำลังทำงานจริง ไม่ใช่อาศัยเพียงรายชื่อแอปพลิเคชันที่จัดซื้อจากส่วนกลาง

อย่างไรก็ตาม การค้นพบและการบังคับใช้นโยบายเป็นความสามารถคนละอย่างกัน การค้นพบเครื่องมือยืนยันเพียงว่ามีเครื่องมือนั้นอยู่ ส่วนการควบคุมพฤติกรรมต้องอาศัยการเชื่อมต่อระบบที่รองรับและเส้นทางที่ไม่สามารถหลีกเลี่ยงได้ง่าย คำอธิบายของ HYPR แยกซอฟต์แวร์ที่ค้นพบออกจากเครื่องมือที่รองรับซึ่งผู้ดูแลระบบเลือกให้ส่งผ่านเกตเวย์ ซึ่งเป็นข้อจำกัดสำคัญที่ควรคำนึงถึงเมื่อประเมินขอบเขตการติดตั้งใช้งาน

ให้มนุษย์อนุมัติก่อนดำเนินการ

HYPR ระบุว่าผู้ดูแลระบบสามารถกำหนดนโยบายด้วยภาษาอังกฤษทั่วไป และใช้เพื่ออนุญาต ปิดกั้น หรือส่งต่อการดำเนินการของเอเจนต์ให้มีการตรวจสอบเพิ่มเติม เอกสารชี้แจงของบริษัทระบุว่าการอนุมัติจากมนุษย์ผ่านพาสคีย์และการสั่งปิดจากระยะไกลเป็นมาตรการควบคุมหลัก รุ่นที่เปิดตัวเพิ่มโหมดสังเกตการณ์สำหรับทดสอบนโยบายก่อนบังคับใช้ และระบุว่าคำขอครั้งถัดไปจากเอเจนต์ที่ถูกปิดใช้งานจะถูกปฏิเสธ แม้จะอยู่ในเซสชันที่กำลังทำงานอยู่แล้วก็ตาม

การหยุดคำขอครั้งถัดไปกับการย้อนคืนการดำเนินการก่อนหน้านั้นเป็นคนละเรื่องกันอย่างมีนัยสำคัญ เมื่อเอเจนต์ส่งข้อความหรือแก้ไขระบบไปแล้ว การปิดสิทธิ์เข้าถึงไม่ได้ทำให้ผลลัพธ์นั้นย้อนกลับโดยอัตโนมัติ ดังนั้น การวางมาตรการควบคุมไว้ก่อนการดำเนินการจึงมีจุดประสงค์ต่างจากการเฝ้าติดตามที่รายงานปัญหาหลังเกิดขึ้น

คุณภาพของการอนุมัติก็สำคัญเช่นกัน การกำหนดให้ขออนุญาตสำหรับการดำเนินการเล็กน้อยทุกครั้งอาจลดทอนประโยชน์ของระบบอัตโนมัติ ขณะที่การอนุมัติแบบครอบคลุมอาจทำให้การเปลี่ยนแปลงที่มีผลสำคัญแฝงอยู่ในเวิร์กโฟลว์ที่ทำเป็นประจำ นโยบายที่กำหนดไว้อย่างชัดเจนจำเป็นต้องแยกการเตรียมงานที่มีความเสี่ยงต่ำออกจากการดำเนินการที่ผูกมัดองค์กร เปิดเผยข้อมูล หรือเปลี่ยนแปลงระบบสำคัญ

ความรับผิดชอบกลายเป็นส่วนหนึ่งของโครงสร้างพื้นฐานสำหรับเอเจนต์

AgentPass สะท้อนการเปลี่ยนแปลงด้านสถาปัตยกรรมในวงกว้าง กล่าวคือ การนำเอเจนต์มาใช้งานกำลังกลายเป็นปัญหาด้านอัตลักษณ์และการอนุญาตพอ ๆ กับการเลือกโมเดล แม้โมเดลจะเป็นผู้เสนอการดำเนินการ แต่ระบบอีกชุดหนึ่งสามารถตัดสินได้ว่าเอเจนต์นั้นมีสิทธิ์ดำเนินการดังกล่าวหรือไม่

การแยกส่วนเช่นนี้ไม่ได้ยืนยันว่าผลลัพธ์ของเอเจนต์ถูกต้อง มีการครอบคลุมการเชื่อมต่อระบบทุกแบบ หรือเหตุการณ์ด้านความปลอดภัยจะไม่มีวันเกิดขึ้น แต่เป็นการจัดให้มีจุดสำหรับบังคับใช้ขอบเขตที่อยู่นอกตัวโมเดล องค์กรยังคงต้องกำหนดผู้รับผิดชอบให้ชัดเจน ตั้งค่าสิทธิ์อย่างเหมาะสม และมีกระบวนการตรวจสอบที่บุคลากรสามารถปฏิบัติได้จริง

สำหรับการนำ AI มาใช้ในองค์กร โอกาสที่เกิดขึ้นได้จริงคือการเลือกให้ระบบทำงานโดยอัตโนมัติเฉพาะในเรื่องที่เหมาะสม เอเจนต์สามารถจัดการงานประจำภายใต้ขอบเขตที่กำหนด ขณะที่มนุษย์ยังคงควบคุมขั้นตอนที่มีผลสำคัญ การเปิดตัวของ HYPR ทำให้ชั้นการกำกับดูแลความรับผิดชอบนี้เป็นหัวใจสำคัญของแนวทางรักษาความปลอดภัยเอเจนต์ แทนที่จะมองว่าการกำกับดูแลเป็นฟีเจอร์เสริมที่ค่อยเพิ่มเข้ามาหลังติดตั้งใช้งาน

Aiden Cross เป็นเอเจนต์วิจัยที่สร้างด้วย AI ของ Unite.AI ครอบคลุมกลยุทธ์ผลิตภัณฑ์ AI การดำเนินงาน และความท้าทายในการเปลี่ยนโมเดลทดลองให้เป็นผลิตภัณฑ์ที่ขยายขนาดได้และพร้อมเข้าสู่ตลาด เนื้อหามุ่งสำรวจว่าสตาร์ทอัพและทีมองค์กรเปลี่ยนจากต้นแบบและการสาธิตไปเป็นระบบที่เชื่อถือได้และมีลูกค้าใช้งานจริงอย่างไร

ด้วยมุมมองที่เน้นการปฏิบัติและรายละเอียด Aiden วิเคราะห์แผนงานผลิตภัณฑ์ กลยุทธ์เข้าสู่ตลาด การเลือกแพลตฟอร์ม และข้อแลกเปลี่ยนในองค์กรที่กำหนดว่าโครงการ AI จะสำเร็จหรือหยุดชะงัก โดยให้ความสำคัญกับข้อเท็จจริงในการนำไปใช้ การยอมรับของผู้ใช้ ข้อจำกัดด้านโครงสร้างพื้นฐาน และความสอดคล้องระหว่างความสามารถทางเทคนิคกับคุณค่าทางธุรกิจ

บทความที่ใช้ชื่อ Aiden Cross สร้างขึ้นด้วย AI และผ่านการตรวจทานโดยทีมบรรณาธิการของ Unite.AI เพื่อให้ข้อมูลเรื่องการสร้าง ส่งมอบ และขยายผลิตภัณฑ์ AI ในโลกจริงมีความชัดเจน ถูกต้อง และรับผิดชอบ