Zenity เพิ่มทุน 125 ล้านดอลลาร์ เนื่องจากองค์กรต่างๆ ต้องเผชิญกับความเสี่ยงด้านความปลอดภัยของ AI ที่มีอิสระ

Zenity ได้ระดมทุน $125 ล้าน ในรอบ Series C เนื่องจากธุรกิจต่างๆ กำลังย้ายตัวแทน AI จากการทดลองที่ควบคุมไปยังระบบที่สามารถเข้าถึงข้อมูล เรียกใช้ซอฟต์แวร์ และดำเนินงานปฏิบัติการ

Norwest เป็นผู้นำรอบการระดมทุน โดย Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures และ LG Technology Ventures เข้าร่วมในฐานะนักลงทุนใหม่ ผู้สนับสนุนเดิม Vertex Ventures, Third Point Ventures, DTCP และ Intel Capital ก็เข้าร่วมด้วย บริษัทไม่ได้เผยแพร่การประเมินมูลค่า

การระดมทุนครั้งนี้เกิดขึ้นหลังจาก Zenity’s $38 million Series B ในเดือนตุลาคม 2024 และทำให้การระดมทุนของบริษัทที่เปิดเผยอยู่ที่ไม่ต่ำกว่า $180 ล้าน

จากการทดลอง AI ไปสู่ระบบอิสระ

ขนาดของรอบการระดมทุนสะท้อนถึงการเปลี่ยนแปลงที่กว้างขึ้นใน cáchที่ องค์กรต่างๆ นำ AI มาใช้ ลูกกลิ้ง AI ครั้งแรกเกี่ยวข้องกับพนักงานที่โต้ตอบกับแชทบอทเพื่อสร้างข้อความ สรุปเอกสาร หรือค้นหาข้อมูล

ตัวแทน AI นำเสนอระดับความเสี่ยงที่แตกต่างออกไป เนื่องจากพวกมันสามารถดำเนินการได้ ขึ้นอยู่กับสิทธิ์ที่ได้รับ ตัวแทนอาจเข้าถึงฐานข้อมูลภายใน เรียกใช้ API อัปเดตบันทึก เรียกใช้โค้ด ส่งส่งข้อความ หรือเริ่มกระบวนการทำงานที่ครอบคลุมระบบองค์กรหลายระบบ

สิ่งนี้เปลี่ยนปัญหาด้านความปลอดภัยไปไกลกว่าเพียงแค่ว่าโมเดลจะตอบสนองในทางที่ไม่เหมาะสม องค์กรต้องเข้าใจว่าตัวแทนใดได้รับการติดตั้ง ใครควบคุมพวกมัน ข้อมูลใดที่พวกมันสามารถเข้าถึงได้ และการกระทำใดที่พวกมันได้รับอนุญาตให้ดำเนินการ

ตัวแทนสามารถทำงานได้ตามที่ออกแบบไว้ แต่ยังคงสร้างเหตุการณ์ด้านความปลอดภัยได้ หากมีสิทธิ์ที่มากเกินไป พบข้อมูลที่ถูกจัดการ หรือตีความคำสั่งของผู้โจมตีเป็นส่วนหนึ่งของงานที่ถูกต้อง

Zenity อธิบายสิ่งนี้ว่าเป็น “ปัญหาที่ระดับตัวแทน” แพลตฟอร์มของบริษัทได้รับการออกแบบมาเพื่อตรวจสอบการกำหนดค่า สิทธิ์ เครื่องมือที่เชื่อมต่อ ความจำ และการดำเนินการในขณะทำงานของตัวแทน แทนที่จะมองเพียงคำสั่งเข้าหรือคำตอบที่สร้างขึ้นโดยโมเดล

วิธีการที่ Zenity ปกป้องตัวแทน AI

Zenity แบ่งแพลตฟอร์มออกเป็นสามส่วนหลัก: การสังเกตการณ์ การจัดการท่าทางด้านความปลอดภัย และการตรวจจับและการตอบสนอง

ส่วนของการสังเกตการณ์จะค้นหาและจัดทำรายการตัวแทนในการดำเนินงานทั่วทั้งองค์กร ซึ่งรวมถึงตัวแทนในแพลตฟอร์ม SaaS ที่พัฒนาภายในที่ทำงานในสภาพแวดล้อมคลาวด์ และเครื่องมือที่ติดตั้งบนอุปกรณ์ของพนักงาน

วัตถุประสงค์คือเพื่อให้ทีมด้านความปลอดภัยมีภาพที่อัปเดตอย่างต่อเนื่องเกี่ยวกับเจ้าของ การกำหนดค่า สิทธิ์ การเชื่อมต่อ และพฤติกรรมขณะทำงานของแต่ละตัวแทน ซึ่งจะกลายเป็นสิ่งสำคัญมากขึ้นเมื่อแต่ละฝ่ายและพนักงานสามารถสร้างตัวแทนได้โดยไม่ต้องผ่านกระบวนการพัฒนาซอฟต์แวร์หรือกระบวนการตรวจสอบด้านความปลอดภัยแบบเดิมๆ

ชั้นการกำกับดูแลของ Zenity จะประเมินการกำหนดค่าและสิทธิ์ก่อนที่ตัวแทนจะเข้าสู่การผลิต นโยบายสามารถใช้เพื่อระบุสิทธิ์ที่มากเกินไป การเชื่อมต่อที่ไม่ปลอดภัย หรือเครื่องมือที่อาจทำให้ตัวแทนสามารถทำงานเกินขอบเขตที่ตั้งใจไว้ แพลตฟอร์มสามารถตรวจสอบการควบคุมเหล่านั้นต่อไปเมื่อตัวแทนถูกปรับเปลี่ยนไป

ในขณะทำงาน Zenity วิเคราะห์เส้นทางการดำเนินการของตัวแทน รวมถึงการเรียกใช้เครื่องมือ การเข้าถึงหน่วยความจำ การใช้ข้อมูล และการโต้ตอบกับระบบอื่นๆ บริษัทระบุว่าสามารถใช้ข้อมูลนี้เพื่ออนุญาต การเปลี่ยนแปลงหรือการปิดกั้นการกระทำก่อนที่จะเกิดขึ้น

แนวทางนี้มีจุดมุ่งหมายเพื่อแยกความแตกต่างระหว่างคำขอที่ปกติและคำขอที่ดูเหมือนปกติแต่ถูกครอบงำโดยเนื้อหาที่เป็นอันตราย นอกจากนี้ยังแก้ไขข้อจำกัดที่สำคัญของการกรองคำสั่ง: ผลลัพธ์ที่เป็นอันตรายอาจเกิดขึ้นจากชุดของการกระทำที่ดูเหมือนเป็นอันตรายแต่ละรายการ

ครอบคลุม SaaS คลาวด์ และอุปกรณ์ของพนักงาน

Zenity พยายามที่จะให้ชั้นความปลอดภัยทั่วไปทั่วทั้งระบบนิเวศของตัวแทนแบบกระจาย

สำหรับสภาพแวดล้อม SaaS มันสนับสนุนตัวแทนในแพลตฟอร์ม เช่น Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise และ Salesforce (CRM ) Agentforce ซึ่งสามารถให้ตัวแทนเข้าถึงเอกสารทางธุรกิจ บันทึกลูกค้า การสื่อสาร และกระบวนการทำงานที่องค์กรไม่ได้โฮสต์หรือควบคุมอย่างเต็มที่

แพลตฟอร์มยังครอบคลุมตัวแทนแบบกำหนดเองที่สร้างขึ้นโดยใช้บริการ เช่น AWS Bedrock, Azure AI Foundry และ Google Vertex AI Zenity ติดตามเครื่องมือและบริการคลาวด์ที่ตัวแทนเหล่านี้เรียกใช้ ในขณะเดียวกันก็ใช้นโยบายระหว่างการพัฒนาและการดำเนินการ

พื้นที่ที่สามเกี่ยวข้องกับตัวแทนบนอุปกรณ์ เช่น ผู้ช่วยในการเขียนโค้ด แอปพลิเคชันเดสก์ท็อป และเบราว์เซอร์ที่มีตัวแทน ซึ่งสามารถทำงานภายในสภาพแวดล้อมที่ได้รับการรับรองของพนักงาน โดยอาจมีการสืบทอดการเข้าถึงไฟล์ เซสชันเบราว์เซอร์ และบริการที่เชื่อมต่อ

การนำสภาพแวดล้อมเหล่านี้มารวมกันอาจทำให้การกำกับดูแลง่ายขึ้น แต่ก็สร้างความท้าทายทางเทคนิคที่สำคัญ อาร์กิเทคเชอร์ สิทธิ์ และข้อมูลที่มีอยู่จากโคปายเลต SaaS อาจแตกต่างอย่างมากจากตัวแทนแบบกำหนดเองบนคลาวด์หรือเครื่องมือที่ติดตั้งบนอุปกรณ์เฉพาะ

การวิจัยด้านความปลอดภัยเน้นย้ำถึงแบบจำลองภัยคุกคามที่เกิดขึ้นใหม่

Zenity ได้สนับสนุนการพัฒนาผลิตภัณฑ์ของตนผ่านการวิจัยที่ดำเนินการผ่าน Zenity Labs ซึ่งตรวจสอบวิธีการที่ระบบอิสระสามารถถูกจัดการผ่านเนื้อหาที่ไม่น่าเชื่อถือ

การวิจัย AgentFlayer ตรวจสอบช่องทางการโจมตีแบบไม่ต้องคลิกและแบบคลิกหนึ่งครั้งที่เกี่ยวข้องกับแพลตฟอร์ม AI องค์กรที่ใช้กันอย่างแพร่หลาย การแสดงตัวอย่างรวมถึงสถานการณ์ที่คำสั่งอันตรายที่ส่งผ่านอีเมล เอกสาร คดีสนับสนุน หรือเครื่องมือสำหรับการทำงานร่วมกันทำให้ตัวแทนแสดงข้อมูลที่ไม่เหมาะสม ใช้เครื่องมือที่เชื่อมต่อในทางที่ผิด หรือเปลี่ยนการตอบสนอง

การวิจัยล่าสุดตรวจสอบเบราว์เซอร์ Comet ของ Perplexity นักวิจัยของ Zenity แสดงให้เห็นว่าสิ่งกำบังที่ซ่อนอยู่ในคำเชิญปฏิทินสามารถมีอิทธิพลต่อเบราว์เซอร์ขณะทำงานที่ไม่ซับซ้อน ในสถานการณ์หนึ่ง ตัวแทนซึ่งถูกบุกรุก นำทางไปยังคลังเก็บพาสเวิร์ด 1Password ที่ไม่ได้ล็อกและถ่ายทอดข้อมูลรับรองผ่านคำขอเว็บปกติ

การวิจัยนี้ให้เหตุผลว่าปัญหาเกิดจากความไม่เพียงพอของการแยกความแตกต่างระหว่างความตั้งใจของผู้ใช้และเนื้อหาของบุคคลที่สามที่ตัวแทนพบเห็น เนื่องจากตัวแทนกำลังทำงานภายในเซสชันเบราว์เซอร์ที่ได้รับการรับรองแล้ว จึงมีศักยภาพที่จะใช้สิทธิ์ที่ผู้ใช้ได้รับอนุญาตอย่างถูกต้อง

การแสดงตัวอย่างเหล่านี้เน้นย้ำว่าเหตุผลที่ความปลอดภัยของตัวแทนไม่สามารถพึ่งพาการตรวจจับคำสั่งที่ชัดเจนว่าเป็นอันตรายได้เท่านั้น คำสั่งอาจถูกฝังอยู่ในข้อมูลที่ตัวแทนคาดว่าจะอ่าน และการกระทำที่ตามมาอาจดูเหมือนกับการท่องเว็บ การดึงเอกสาร หรือกิจกรรมแอปพลิเคชันทั่วไป

พวกเขายังเน้นย้ำถึงความสำคัญของขอบเขตที่ยังคงบังคับใช้ได้แม้ว่าเหตุผลของตัวแทนถูกบุกรุก

การระดมทุนเพื่อการขยายตัวทั่วโลกและการพัฒนาผลิตภัณฑ์

Zenity ระบุว่ารายได้ของบริษัทเพิ่มขึ้นสามเท่าในแต่ละสองปีที่ผ่านมา และคาดว่าจะเพิ่มขึ้นสามเท่าอีกครั้งในปีนี้ บริษัทระบุว่าลูกค้าจำนวนมากเป็นองค์กร Fortune 500 และ Global 2000 ที่ดำเนินงานในอุตสาหกรรมที่มีการควบคุม เช่น บริการทางการเงิน การดูแลสุขภาพ ยา การผลิต และพลังงาน

ปัจจุบันบริษัทมีพนักงานมากกว่า 230 คน โดยมีการวิจัยและพัฒนาในเทลอาวีฟ และหน้าที่การตลาดและการดำเนินงานนำโดยนิวยอร์ก

การระดมทุนรอบ Series C จะถูกนำไปใช้เพื่อเร่งการพัฒนาผลิตภัณฑ์ ขยาย Zenity Labs และเสริมสร้างการมีอยู่ของบริษัทในยุโรปและภูมิภาคเอเชีย-แปซิฟิก จะช่วยให้ Zenity มีทรัพยากรเพิ่มเติมในการสนับสนุนเฟรมเวิร์กตัวแทนจำนวนมากขึ้น เนื่องจากโครงสร้างพื้นฐาน AI ขององค์กรมีความหลากหลายมากขึ้น

การขยายตัวครั้งนี้เกิดขึ้นน้อยกว่าสองปีหลังจากรอบการระดมทุนทางสถาบันครั้งก่อนของบริษัท เมื่อ Zenity ยังคงเน้นย้ำถึงจุดเริ่มต้นในด้านความปลอดภัยของแอปพลิเคชันแบบไม่ต้องเขียนโค้ดและไม่ต้องเขียนโค้ด การวางตำแหน่งปัจจุบันสะท้อนถึงวิธีการที่ความกังวลเหล่านั้นได้พัฒนาไป: พนักงานที่สามารถสร้างแอปพลิเคชันธุรกิจแบบง่ายๆ ได้เมื่อก่อน ตอนนี้สามารถสร้างตัวแทนได้ซึ่งสามารถตัดสินใจและควบคุมระบบที่เชื่อมต่อ

ความปลอดภัยของตัวแทน AI กำลังกลายเป็นหมวดหมู่ของตนเอง

การระดมทุนของ Zenity ส่งสัญญาณถึงความมั่นใจของนักลงทุนว่าความปลอดภัยของตัวแทน AI อาจพัฒนาเป็นหมวดหมู่ด้านความปลอดภัยทางไซเบอร์ที่สำคัญ แทนที่จะเป็นเพียงคุณลักษณะภายในผลิตภัณฑ์คลาวด์ อัตลักษณ์ หรือจุดสิ้นสุด

ข้อโต้แย้งสำหรับหมวดหมู่ที่เฉพาะเจาะจงคือเครื่องมือแบบดั้งเดิมมองเห็นเพียงส่วนหนึ่งของกิจกรรมของตัวแทน แพลตฟอร์มความปลอดภัยทางคลาวด์สามารถตรวจสอบโครงสร้างพื้นฐาน อัตลักษณ์สามารถจัดการสิทธิ์ และผลิตภัณฑ์จุดสิ้นสุดสามารถตรวจจับภัยคุกคามระดับระบบปฏิบัติการได้ แต่ไม่จำเป็นต้องเข้าใจบทบาทที่ตั้งใจไว้ของตัวแทนหรือว่าชุดการเรียกใช้เครื่องมือเกี่ยวข้องกับวัตถุประสงค์ดั้งเดิมของผู้ใช้อย่างไร

Zenity ยังคงต้องพิสูจน์ว่าการควบคุมตามความตั้งใจสามารถทำงานได้ข้ามเฟรมเวิร์กที่เปลี่ยนแปลงอย่างรวดเร็วโดยไม่สร้างการแจ้งเตือนมากเกินไป การปิดกั้นการทำงานที่ถูกต้อง หรือเพิ่มความล่าช้าที่ไม่ยอมรับได้ ต้องแสดงให้เห็นว่าองค์กรจะซื้อแพลตฟอร์มความปลอดภัยของตัวแทนแยกต่างหาก แทนที่จะพึ่งพาการควบคุมที่เพิ่มโดยผู้ให้บริการคลาวด์และซอฟต์แวร์รายใหญ่

โอกาสในตลาดที่ใกล้จะชัดเจนขึ้น เมื่อตัวแทนเข้าถึงข้อมูลที่ละเอียดอ่อนและเริ่มควบคุมกระบวนการทางธุรกิจที่สำคัญ องค์กรจะต้องการมากกว่าเพียงบันทึกของสิ่งที่เกิดขึ้นหลังเหตุการณ์ พวกเขาจะต้องการกลไกที่สามารถระบุ

Zenity’s $125 million Series C ให้ทรัพยากรที่สำคัญแก่บริษัทในการติดตามบทบาทนี้ ในขณะที่ทีมด้านความปลอดภัยเตรียมพร้อมสำหรับสภาพแวดล้อมองค์กรที่มีซอฟต์แวร์อิสระมากขึ้น