Kindo เปิดตัว Deep Hat Sift เพื่อลดการเรียกใช้เอเจนต์ AI ที่ไม่จำเป็น

เอเจนต์ AI ที่อ่านการแจ้งเตือนด้านความปลอดภัยหรือรายการบันทึกทุก条ย่อมมีต้นทุน แม้จะสรุปว่าไม่มีสิ่งใดที่ต้องดำเนินการก็ตาม เมื่อใช้งานในระดับองค์กร การตรวจสอบที่ไม่พบเหตุให้ดำเนินการเหล่านี้อาจกลายเป็นภาระงานขนาดใหญ่ในตัวเอง Kindo เปิดตัว Deep Hat Sift ซึ่งเป็นโมเดลที่ออกแบบมาเพื่อตัดสินว่าเหตุการณ์ขาเข้าใดควรเรียกใช้เอเจนต์ ก่อนที่โมเดลขนาดใหญ่กว่าจะเริ่มประมวลผลเหตุการณ์เหล่านั้น

Sift ประกาศเปิดตัวเมื่อวันที่ 28 ตุลาคม โดยเรียนรู้จากคำตัดสินของเอเจนต์ที่ทำงานร่วมกับระบบ แล้วกรองเหตุการณ์ที่เอเจนต์จะปัดทิ้งหากไม่มีตัวกรอง ผลิตภัณฑ์เริ่มต้นด้วยการเฝ้าสังเกต แทนที่จะระงับเหตุการณ์ กล่าวคือ เหตุการณ์ทุกอย่างยังคงส่งถึงเอเจนต์จนกว่าจะมีผู้ตรวจสอบรูปแบบการกรองที่เสนอและอนุมัติเกณฑ์

แนวทางนี้นำเสนอกลไกควบคุมต้นทุนที่แตกต่างจากการเลือกใช้โมเดลภาษาที่มีราคาถูกกว่า แทนที่จะลดราคาของการตรวจสอบแต่ละครั้ง Sift มุ่งหลีกเลี่ยงการตรวจสอบที่ไม่น่าจะต้องดำเนินการ ประสิทธิภาพของระบบขึ้นอยู่กับทั้งคุณภาพของการตัดสินใจเหล่านั้นและมาตรการควบคุมสิ่งที่จะถูกข้ามไป

โมเดลตัดสินใจก่อนโมเดลภาษา

Kindo อธิบายว่า Deep Hat Sift เป็นโมเดลตัดสินใจแบบ System One ซึ่งเป็นโมเดลที่รวดเร็วและมีต้นทุนต่ำ โดยตอบคำถามเพื่อคัดเลือกแทนการสร้างคำตอบ โมเดลแต่ละตัวจะได้รับมอบหมายให้ทำงานกับแหล่งข้อมูล เอเจนต์เป้าหมาย และงานกรองที่เฉพาะเจาะจง เพื่อให้การเรียนรู้สอดคล้องกับภาระงานที่ออกแบบมาให้รองรับ

ความเฉพาะเจาะจงนี้สำคัญ เหตุการณ์หนึ่งอาจเกี่ยวข้องกับการตรวจสอบด้านความปลอดภัย แต่ไม่เกี่ยวข้องกับกระบวนงานของฝ่ายบริการ Sift เรียนรู้ว่าเอเจนต์เป้าหมายปัดทิ้งเหตุการณ์ใด โดยใช้คำตัดสินที่เอเจนต์ส่งกลับมาเป็นสัญญาณสำหรับการฝึก Kindo ระบุว่าวิธีนี้ช่วยให้ไม่ต้องจัดทำโครงการติดป้ายกำกับข้อมูลโดยมนุษย์แยกต่างหากสำหรับข้อมูลแต่ละสาย

การติดตั้งใช้งานครั้งแรกทำงานในโหมดเงา Sift ให้คะแนนเหตุการณ์ขาเข้า ขณะที่เอเจนต์ยังคงตรวจสอบเหตุการณ์ทั้งหมด ทำให้ระบบเปรียบเทียบการคาดการณ์ของตนกับคำตัดสินของเอเจนต์ได้ ก่อนเริ่มกรอง ผู้ปฏิบัติงานจะได้รับตัวอย่างเหตุการณ์จากข้อมูลของตนเองที่ระบบจะระงับไว้หากเปิดใช้การกรอง

จากนั้นบุคคลหนึ่งต้องอนุมัติเกณฑ์และระบุเหตุผลเป็นลายลักษณ์อักษร วิธีนี้ทำให้ทีมที่รับผิดชอบกระบวนงานเป็นผู้ตัดสินว่ารูปแบบการกรองใดเป็นที่ยอมรับ แทนที่จะถือว่าการติดตั้งโมเดลจะทำให้ระบบเริ่มทำงานโดยอัตโนมัติ

การสุ่มตัวอย่างและมาตรการควบคุมแบบเปิดเมื่อระบบขัดข้องช่วยรับมือกับสิ่งที่อาจพลาด

การกรองทำให้เกิดปัญหาด้านการวัดผลที่แก้ได้ยาก กล่าวคือ หากเหตุการณ์ไม่เคยส่งถึงเอเจนต์ ทีมจะรู้ได้อย่างไรว่าควรตรวจสอบเหตุการณ์นั้นหรือไม่ Sift ยังคงส่งตัวอย่างเหตุการณ์แบบสุ่มที่ระบบจะระงับไว้หากไม่มีการสุ่มตัวอย่างไปให้เอเจนต์ เพื่อใช้คำตัดสินของเอเจนต์ต่อตัวอย่างดังกล่าวในการติดตามวัดอัตราการพลาดอย่างต่อเนื่อง

หน้าผลิตภัณฑ์ระบุจุดอ้างอิงไว้อย่างชัดเจนว่า อัตราการเรียกคืนและอัตราการพลาดวัดเทียบกับคำตัดสินของเอเจนต์ ตัวชี้วัดเหล่านี้แสดงให้เห็นว่า Sift จำลองการตัดสินใจของเอเจนต์ตัวนั้นได้ใกล้เคียงเพียงใด แต่ไม่ได้ยืนยันโดยอิสระว่าเอเจนต์สามารถระบุเหตุการณ์ด้านความปลอดภัยหรือปัญหาด้านการปฏิบัติงานได้ถูกต้องทุกกรณี

Kindo ระบุว่า หากคุณภาพลดลง Sift จะทำงานแบบเปิดเมื่อระบบขัดข้อง โดยส่งเหตุการณ์กลับไปให้เอเจนต์ตรวจสอบ แทนที่จะกรองเหตุการณ์ต่อไป บริษัทยังกล่าวถึงเพดานกิจกรรมที่สามารถทำให้ระบบกลับเข้าสู่โหมดเงาระหว่างที่ปริมาณงานพุ่งสูงขึ้น ระบบจะบันทึกเหตุการณ์ที่ถูกกรองและการตัดสินใจอนุมัติไว้ เพื่อให้ทีมตรวจสอบได้ว่ามีการระงับสิ่งใดไว้และเพราะเหตุใด

“ระบบจะไม่กรองสิ่งใดเลยจนกว่าจะมีผู้อนุมัติเกณฑ์ และหากคุณภาพลดลง ระบบจะเปิดเมื่อขัดข้องและส่งทุกอย่างไปให้ LLM ตัดสิน” Troy Presley วิศวกร Deep Hat Sift ที่ Kindo กล่าวไว้ในประกาศ

กลไกเหล่านี้ทำให้เห็นข้อแลกเปลี่ยน แทนที่จะขจัดข้อแลกเปลี่ยนดังกล่าว การกรองอย่างระมัดระวังมากขึ้นอาจช่วยรักษาความครอบคลุมไว้ได้ แต่ประหยัดการเรียกใช้ได้น้อยลง ส่วนการกรองที่เข้มงวดกว่าอาจช่วยลดงานได้มากขึ้น แต่ทำให้การสุ่มตัวอย่าง การตรวจจับการเปลี่ยนแปลงของคุณภาพ และคุณภาพของเอเจนต์ปลายทางมีความสำคัญยิ่งขึ้น

ออกแบบมาสำหรับการแจ้งเตือน ตั๋วงาน และข้อมูลบันทึกที่ไหลเข้าต่อเนื่อง

การเปิดตัวนี้มุ่งเป้าไปที่ภาระงานซึ่งมีข้อมูลขาเข้าปริมาณมาก แต่มีสัดส่วนต่ำที่ต้องดำเนินการ Kindo ยกตัวอย่างการแจ้งเตือนจาก SIEM และระบบตรวจจับอุปกรณ์ปลายทาง คิวตั๋วงาน รายงานการส่งอีเมลฟิชชิง ระบบและข้อมูลบันทึกเครือข่าย ตลอดจนข้อมูลที่ไหลมาจากแพลตฟอร์มต่าง ๆ เช่น Kafka แหล่งข้อมูลสำหรับการติดตามตรวจสอบประกอบด้วย Splunk, Datadog และ New Relic

Sift ทำงานอยู่หน้าเอเจนต์ ไม่ได้เข้ามาแทนที่ระบบต้นทางเหล่านี้ แพลตฟอร์มด้านความปลอดภัยยังคงสร้างการตรวจพบ ระบบจัดการตั๋วยังคงเก็บงานไว้ในคิว และเอเจนต์ยังคงรับผิดชอบกรณีต่าง ๆ ที่ส่งมาถึง ชั้นระบบใหม่นี้ทำหน้าที่ตัดสินว่าเหตุการณ์ใดจะเริ่มงาน AI เพิ่มเติมดังกล่าว

รูปแบบเดียวกันนี้อาจนำไปใช้กับกระบวนงานด้านการเงินและการปฏิบัติตามข้อกำหนด ซึ่งตรวจสอบข้อมูลธุรกรรมหรือนโยบายที่ไหลเข้ามาได้เช่นกัน ในกรณีนี้ การคัดเลือกเหตุการณ์เพื่อตรวจสอบก็ยังเป็นคนละเรื่องกับการวินิจฉัยว่ามีการฉ้อโกงหรือการปฏิบัติตามข้อกำหนดหรือไม่ เอเจนต์เป้าหมายและกระบวนการทางธุรกิจโดยรอบยังคงเป็นองค์ประกอบสำคัญของผลลัพธ์

Sift ทำงานร่วมกับแพลตฟอร์มจัดการเอเจนต์ของ Kindo อย่างไร

แพลตฟอร์มโดยรวมของ Kindo เชื่อมต่อเอเจนต์เข้ากับระบบระดับองค์กรด้านความปลอดภัย โครงสร้างพื้นฐาน และการปฏิบัติงานด้านไอที โดยผสานการทำงานเข้ากับบริบท สิทธิ์การเข้าถึง และการกำกับดูแลการปฏิบัติงาน ทำให้ทีมมีพื้นที่สำหรับจัดการงานหลังจากเลือกโมเดลแล้ว

เว็บไซต์ของบริษัทอธิบายเรื่องผู้รับผิดชอบเอเจนต์ นโยบายการเข้าถึง และการระบุที่มาของค่าใช้จ่าย โดยแยกตามเอเจนต์ ผู้รับผิดชอบ และทีม Sift เพิ่มจุดควบคุมในขั้นตอนที่เกิดขึ้นก่อนหน้านั้น โดยช่วยตัดสินใจว่าเหตุการณ์หนึ่งควรทำให้เอเจนต์เริ่มทำงานหรือไม่ แนวทางนี้เชื่อมการตัดสินใจด้านการกรองทางเทคนิคเข้ากับคำถามเชิงปฏิบัติการที่ว่าเวิร์กโหลดใดกำลังสร้างค่าใช้จ่ายในการอนุมาน

ตามประกาศเปิดตัว Deep Hat Sift พร้อมใช้งานแล้วทั้งในระบบภายในองค์กร บนคลาวด์ที่ลูกค้าจัดการเอง บนคลาวด์ของ Kindo และในสภาพแวดล้อมที่แยกขาดจากเครือข่ายภายนอก การให้คะแนนจะทำงานในตำแหน่งที่ติดตั้ง Kindo ส่วนการเรียกใช้โมเดลจะจัดการผ่านแพลตฟอร์ม ผลิตภัณฑ์นี้ทำงานร่วมกับเอเจนต์ของ Kindo

เงินที่ประหยัดได้ขึ้นอยู่กับลักษณะของข้อมูลที่ไหลเข้ามา

Kindo ไม่ได้ระบุตัวเลขเปอร์เซ็นต์การประหยัดโดยทั่วไปหรือเกณฑ์มาตรฐานความแม่นยำที่ใช้ได้กับทุกกรณีสำหรับ Sift แต่หน้าเว็บผลิตภัณฑ์แนะนำให้ทีมทดลองดูว่า Sift จะระงับการเรียกใช้กับเหตุการณ์ของตนเองรายการใดบ้าง ความแตกต่างนี้เป็นข้อมูลสำคัญสำหรับผู้ซื้อ เพราะผลลัพธ์ด้านต้นทุนขึ้นอยู่กับปริมาณเหตุการณ์ ค่าใช้จ่ายของการเรียกใช้แต่ละครั้งที่หลีกเลี่ยงได้ สัดส่วนของเหตุการณ์ที่ต้องดำเนินการ และเกณฑ์การทำงานที่ทีมยอมรับ

สำหรับข้อมูลที่ไหลเข้ามาอย่างมีสัญญาณรบกวนสูง การหลีกเลี่ยงการเรียกใช้เอเจนต์โดยไม่จำเป็นอาจช่วยให้การตรวจสอบด้วย AI อย่างต่อเนื่องมีค่าใช้จ่ายที่เข้าถึงได้มากขึ้น ส่วนในกรณีที่การพลาดเหตุการณ์อาจส่งผลร้ายแรง การควบคุมการสุ่มตัวอย่างและการยกระดับการแจ้งเตือนก็สำคัญไม่แพ้ค่าใช้จ่ายในการอนุมาน Deep Hat Sift นำการตัดสินใจเหล่านี้เข้ามาอยู่ในเวิร์กโฟลว์ของเอเจนต์ โดยเปลี่ยนคำถามหลักจากการถามว่าโมเดลใดควรจัดการเหตุการณ์หนึ่ง ไปเป็นว่าโมเดลจำเป็นต้องจัดการเหตุการณ์นั้นหรือไม่