ลิอัต ฮายุน รองประธานฝ่ายจัดการผลิตภัณฑ์และการวิจัยที่เทนเนเบิล – ซีรีส์สัมภาษณ์

ลิอัต ฮายุน เป็นรองประธานฝ่ายจัดการผลิตภัณฑ์และการวิจัยที่เทนเนเบิล คลาวด์ ซีเคียวริตี้ ก่อนที่จะเข้าร่วมเทนเนเบิล ลิอัตเป็นผู้ร่วมก่อตั้งและดำรงตำแหน่งซีอีโอของยูเรก้า ซีเคียวริตี้ บริษัทด้านความปลอดภัยของข้อมูลที่ถูกเทนเนเบิลเข้าซื้อกิจการ ก่อนที่จะร่วมก่อตั้งยูเรก้า ซีเคียวริตี้ ลิอัตใช้เวลาเกินกว่าหนึ่งทศวรรษในการนำความพยายามด้านความปลอดภัยทางไซเบอร์ที่คำสั่งซื้อไซเบอร์ของอิสราเอลและที่เครือข่ายปาโลอัลโต้ ในฐานะรองประธานฝ่ายจัดการผลิตภัณฑ์ที่เครือข่ายปาโลอัลโต้ ลิอัตเป็นผู้นำในการพัฒนา Cortex XDR และบริการการล่าภัยคุกคามที่จัดการของบริษัท (PANW )

เทนเนเบิล เป็นบริษัทด้านความปลอดภัยทางไซเบอร์ของสหรัฐอเมริกาที่มุ่งเน้นในการช่วยให้องค์กรต่างๆ ระบุ เข้าใจ จัดลำดับความสำคัญ และแก้ไขช่องโหว่ด้านความปลอดภัยทั่วทั้นพื้นผิวการโจมตีทางดิจิทัล เทนเนเบิลเป็นที่รู้จักในด้านแพลตฟอร์มการจัดการการเปิดเผยและเครื่องมือ เช่น สแกนเนอร์ช่องโหว่ Nessus ที่ใช้กันอย่างแพร่หลาย ซึ่งช่วยให้ธุรกิจต่างๆ มองเห็นภัยคุกคามที่ครอบคลุมโครงสร้างพื้นฐาน IT คลาวด์ OT/IoT และระบบอัตลักษณ์ และดำเนินการเพื่อลดความเสี่ยงที่ส่งผลกระทบต่อธุรกิจ เทนเนเบิลมีคำตอบที่ให้การค้นพบแบบต่อเนื่อง การจัดลำดับความสำคัญ และข้อมูลด้านภัยคุกคามเพื่อสนับสนุนการจัดการความเสี่ยงทางไซเบอร์แบบกระตือรือร้นสำหรับลูกค้าหลายหมื่นรายทั่วโลก

สิ่งใดที่ทำให้ตัวแทน AI อัตโนมัติอันตรายกว่าโมเดล AI truyền thốngที่ตอบสนองเฉพาะคำสั่งผู้ใช้ ไม่ใช่การทำงานอิสระ

ตัวแทน AI อัตโนมัติเปลี่ยนแปลงธรรมชาติของความเสี่ยง เนื่องจากสามารถเริ่มต้นงาน เข้าถึงระบบต่างๆ ตัดสินใจ และโต้ตอบกับบริการอื่นๆ โดยไม่มีการกำกับดูแลของมนุษย์

ความเป็นอิสระนั้นขยายทั้งความเร็วและขนาดของผลกระทบที่อาจเกิดขึ้น ทำให้ความเสี่ยงต่อการเปิดเผยข้อมูล การหยุดชะงักของการดำเนินงาน และความสูญเสียทางการเงินเพิ่มขึ้น ตัวแทน AI สามารถสืบค้นฐานข้อมูล จุดชนวนการทำงาน เรียกใช้ API หรือแก้ไขโครงสร้างพื้นฐานในแบบเรียลไทม์ หากถูกกำหนดค่าผิดหรือถูกบุกรุก มันสามารถเคลื่อนตัวข้ามระบบโดยใช้สิทธิ์ที่ได้รับ มักจะเร็วกว่าที่มนุษย์สามารถตรวจจับหรือแทรกแซงได้

ตาม รายงานความเสี่ยงด้านความปลอดภัยของคลาวด์และ AI ของเทนเนเบิลปี 2026 52% ขององค์กรที่มีเอกลักษณ์ที่ไม่ใช่มนุษย์ที่มีสิทธิ์มากเกินไป และเกือบครึ่งหนึ่งของจำนวนนั้นไม่ได้ใช้งานอยู่ ทำให้เกิดการเข้าถึงที่ไม่ได้จัดการอย่างกว้างขวางใน môi trườngการผลิต

ผู้โจมตีมักใช้ประโยชน์จากปัญหาที่เรียกว่า Confused Deputy problem โดยไม่จำเป็นต้องบุกรุกตัวแทนเอง แต่จะหลอกให้ตัวแทนได้รับอนุญาตดำเนินการตามคำขอของพวกเขา โดยทั่วไปผ่านการฉีดคำสั่งทางอ้อมหรืออินพุตที่ถูกจัดการ ตัวแทนจะดำเนินการตามคำขอด้วยสิทธิ์ที่ถูกต้อง ทำให้ทำงานแทนผู้โจมตี เมื่อระบบอัตโนมัติมีสิทธิ์ที่กว้างหรือรับบทบาทที่มีสิทธิ์มากเกินไป ระยะเวลาระหว่างการกำหนดค่าผิดและการใช้ประโยชน์จะหายไป ทำให้เกิดช่องว่างการเปิดเผย AI ที่ไม่มีระยะห่าง

หลายองค์กรกำลังทดลองกับตัวแทน AI อย่างไม่เป็นทางการ สิ่งแรกที่ทีมความปลอดภัยควรทำเพื่ประเมินว่าตัวแทน AI อัตโนมัติทำงานภายในสภาพแวดล้อมของตนหรือไม่

การปิดช่องว่างการเปิดเผย AI เริ่มต้นด้วยการค้นพบที่ขยายออกไปนอกเหนือจากคลังอุปกรณ์แบบดั้งเดิม

ตัวแทน AI มักไม่อาศัยอยู่ในระบบที่ชัดเจนและเป็นทางการ มันทำงานนอกการกำกับดูแล มันปรากฏในเครื่องมือสำหรับนักพัฒนา การรวม SaaS การทำงานอัตโนมัติ เบราว์เซอร์ และบริการคลาวด์ ซึ่งสร้างการนำไปใช้ที่กระจาย ทำให้เกิดจุดบอดและจำกัดการควบคุมส่วนกลาง

การค้นพบควรเริ่มต้นด้วยการสร้างคลังอุปกรณ์รวมของที่ทุกที่ที่มีตัวแทน AI อยู่ รวมทั้งการระบุว่าตัวแทนเหล่านั้นเชื่อมต่อกันอย่างไร และมีสิทธิ์เข้าถึงข้อมูลใดบ้าง

ต่อไป ทีมจะต้องสร้างแผนที่ว่าตัวแทนเหล่านั้นเชื่อมต่อกันอย่างไร และมีสิทธิ์เข้าถึงข้อมูลใดบ้าง ซึ่งรวมถึงการระบุอัตลักษณ์ที่ใช้ สิทธิ์ที่ถือครอง และระบบที่สามารถเข้าถึงได้ ความเข้าใจนี้จะช่วยให้เห็นถึงเส้นทางที่เป็นไปได้ในการโจมตี

สุดท้าย หลังจากระยะทดลอง องค์กรควรระบุว่าข้อเชื่อมต่อเหล่านั้นสร้างเส้นทางที่สามารถเข้าถึงทรัพย์สินสำคัญได้ และปิดช่องว่างการเปิดเผย AI

ความเสี่ยงที่คล้ายกับการควบคุมหรือทักษะของบุคคลที่สามที่ไม่ได้รับการตรวจสอบ จะเปรียบเทียบกับการโจมตีที่คุ้นเคย เช่น การโจมตีในห่วงโซ่อุปทานหรือการเพิ่มสิทธิ์ได้อย่างไร

ทักษะของบุคคลที่สามที่ไม่ได้รับการตรวจสอบและพื้นผิวการควบคุมที่ถูกเปิดเผยขยายความเสี่ยงในลักษณะเดียวกับการโจมตีห่วงโซ่อุปทานและเพิ่มสิทธิ์ แต่ด้วยความเร็วและขนาดที่เพิ่มขึ้น

ทักษะของตัวแทนบุคคลที่สามทำงานเหมือนกับข้อพึ่งพาในห่วงโซ่อุปทานซอฟต์แวร์ และพื้นผิวการเปิดเผยแล้วมีน้ำหนักมาก 86% ขององค์กร มีแพ็คเกจโค้ดของบุคคลที่สามที่มีช่องโหว่ความเสี่ยงสูง เมื่อองค์ประกอบเหล่านี้ทำงานภายในตัวแทน AI อัตโนมัติ การดำเนินการจะเกิดขึ้นอย่างต่อเนื่องและอัตโนมัติ ทำให้ไม่มีเวลาระหว่างการบุกรุกและการส่งผลกระทบ

พื้นผิวการควบคุมที่ถูกเปิดเผยขยายชั้นความเสี่ยงด้านอัตลักษณ์และการเข้าถึงโดยการสร้างอินเทอร์เฟซการดำเนินการที่มีสิทธิ์สูงขึ้น 18% ขององค์กรอนุญาตให้บริการ AI รับบทบาทที่มีสิทธิ์มากเกินไป ทำให้ระบบอัตโนมัติมีถึงทั่วทั้งระบบ ตัวแทน AI เชื่อมต่อการเปิดเผยเหล่านี้เข้ากับโซ่อุปทานการดำเนินการเดียว เส้นทางการโจมตีที่สามารถเข้าถึงได้ รวมถึงการบุกรุกที่อ่อนแอ สิทธิ์ที่มากเกินไป และอินเทอร์เฟซที่ถูกเปิดเผย รวมกันเป็นเส้นทางการโจมตีที่สามารถเข้าถึงได้ องค์กรดำเนินงานใน môi trườngที่ไม่มีระยะห่างสำหรับข้อผิดพลาด โดยการเปิดเผยและความเสี่ยงเกิดขึ้นเกือบจะทันที

จากมุมมองการป้องกัน องค์กรที่ใช้ตัวแทน AI ที่มีสิทธิ์เข้าถึงระบบภายในหรือข้อมูลที่ละเอียดอ่อน ควรทำสิ่งใดเพื่อให้แน่ใจว่ามีการดูแลที่ดี

การดูแลที่ดีเริ่มต้นด้วยการรักษาตัวแทน AI เป็นตัวแสดงดิจิทัลที่มีสิทธิ์จริงๆ ทั่วทั้งระบบและข้อมูล องค์กรต้องมีการมองเห็นอย่างต่อเนื่องในตัวแทน AI ทุกตัว ว่ามันทำอะไรบ้าง และสามารถเข้าถึงอะไรได้บ้าง

ทีมควรบังคับใช้สิทธิ์ที่น้อยที่สุดสำหรับอัตลักษณ์ของเครื่องและบริการ ลบการเข้าถึงที่ไม่ได้ใช้งาน และจำกัดสิทธิ์ให้แคบลงให้มากที่สุด ตัวแทน AI แต่ละตัวควรได้รับการกำหนดให้ทำหน้าที่เฉพาะ และสิทธิ์การเข้าถึงควรจำกัดให้แคบลงให้มากที่สุดเพียงเพื่อการทำงานนั้น

สิ่งนี้มีความสำคัญเพราะการเข้าถึงที่ไม่ได้ใช้งานเป็นเรื่องปกติ เกือบครึ่งหนึ่งของอัตลักษณ์ที่มีสิทธิ์มากเกินไปไม่ได้ใช้งานอยู่ และมากกว่า 70% ของบทบาทการทำงาน AI โดยปริยายยังคงไม่ได้ใช้งาน สภาพเหล่านี้สร้างเส้นทางการเพิ่มสิทธิ์ที่พร้อมใช้งานโดยไม่ให้คุณค่าใดๆ

ทีมความปลอดภัยต้องเข้าใจความสัมพันธ์ระหว่างโครงสร้างพื้นฐาน ข้อมูล จุดเชื่อมต่อ API และแอปพลิเคชัน การทำแผนที่ความเชื่อมต่อเหล่านี้จะช่วยเปิดเผยการรวมกันของการเปิดเผยที่เป็นพิษ เช่น การทำงานที่อ่อนแอที่สามารถเข้าถึงได้ผ่านตัวแทน AI ที่มีสิทธิ์มากเกินไปและมีการเข้าถึงข้อมูลที่ละเอียดอ่อน

การดูแลที่ดียังต้องมีการกำกับดูแลอย่างต่อเนื่อง องค์กรต้องติดตามพฤติกรรมของตัวแทน AI ควบคุมการรวมระบบ กำกับข้อมูล และตรวจสอบสิทธิ์อย่างสม่ำเสมอ การปฏิบัติเหล่านี้จะช่วยปิดช่องว่างการเปิดเผย AI และกำจัดเส้นทางการโจมตีที่สามารถเข้าถึงได้

คุณแนะนำให้องค์กรใดๆ ปกป้องพื้นผิวการโจมตี AI อย่างรวดเร็วโดยไม่ชะลอการนวัตกรรม

องค์กรสามารถปกป้องพื้นผิวการโจมตี AI ได้โดยการลดการเปิดเผยด้วยความเร็วและความแม่นยำ

เพื่อให้บรรลุเป้าหมายนั้น สิ่งแรกที่ต้องทำคือการระบุระบบ AI ใดที่สร้างเส้นทางที่สามารถเข้าถึงทรัพย์สินสำคัญได้ มากกว่า 80% ขององค์กรมีการทำงานที่มีช่องโหว่ซึ่งถูกใช้ประโยชน์อยู่แล้วในโลกแห่งความเป็นจริง ความเสี่ยงนั้นอยู่แล้วภายในสภาพแวดล้อมส่วนใหญ่ ทีมความปลอดภัยต้องมุ่งเน้นไปที่การเชื่อมต่อที่สร้างผลกระทบจริง

จากนั้น ต้องรับรู้ว่าระบบอัตโนมัติเป็นเครื่องมือในการขยายขนาด การค้นพบอย่างต่อเนื่อง การจัดลำดับความสำคัญตามบริบท และการแก้ไขที่มีการชี้นำช่วยให้ทีมสามารถลดความเสี่ยงได้โดยไม่ชะลอความเร็วในการพัฒนา

ในขณะที่การกำกับดูแลนโยบายช่วยให้การนำร่องการนำไปใช้ การเข้าถึงตามเวลา การควบคุมการไหลของข้อมูล และการรวมระบบที่ถูกควบคุมช่วยให้องค์กรสามารถจัดการกิจกรรม AI โดยยังคงรักษาการพัฒนาอย่างต่อเนื่อง

เมื่อรวมกันแล้ว ขั้นตอนเหล่านี้จะช่วยลดช่องว่างการเปิดเผย AI โดยการกำจัดการเข้าถึงที่มีความเสี่ยงสูงและความเชื่อมต่อที่ไม่ปลอดภัย การลดการเปิดเผยอย่างรวดเร็วจะช่วยปกป้องระบบโดยยังคงอนุญาตให้นำ AI ไปใช้

ผู้บริหารด้านความปลอดภัยทางไซเบอร์ (CISO) ควรคิดเกี่ยวกับอัตลักษณ์ สิทธิ์ และขอบเขตเมื่อมอบสิทธิ์ให้ตัวแทน AI เข้าถึงระบบการผลิตอย่างไร

ผู้บริหารด้านความปลอดภัยทางไซเบอร์ควรปฏิบัติตัวแทน AI เป็นอัตลักษณ์ที่ไม่ใช่มนุษย์ที่มีอำนาจการดำเนินการจริงทั่วทั้งระบบและข้อมูล

การตัดสินใจเกี่ยวกับสิทธิ์การเข้าถึงควรเน้นไปที่ความแม่นยำ สิทธิ์ควรสอดคล้องกับงานเฉพาะ และมีการตรวจสอบอย่างต่อเนื่อง สิทธิ์ที่มากเกินไปจะขยายขอบเขตและเพิ่มผลกระทบเมื่อระบบโต้ตอบกันที่ความเร็วของเครื่อง

ผู้นำด้านความปลอดภัยยังต้องมีความเข้าใจที่ชัดเจนเกี่ยวกับการเข้าถึงที่มีประสิทธิภาพ สิทธิ์ที่รวมกับเส้นทางเครือข่าย การเข้าถึงข้อมูล และการรวมระบบจะกำหนดสิ่งที่ตัวแทนสามารถทำได้จริงๆ การเข้าใจความสัมพันธ์เหล่านี้จะช่วยเปิดเผยการเปิดเผยที่อาจเกิดขึ้นก่อนที่จะส่งผลกระทบ

อัตลักษณ์เชื่อมโยงโครงสร้างพื้นฐาน ข้อมูล และแอปพลิเคชันข้ามช่องว่างการเปิดเผย AI การออกแบบสิทธิ์ที่เข้มงวดจะจำกัดขอบเขตของการโจมตีและรักษาการควบคุม เมื่อเวลาจากการค้นพบการเปิดเผยถึงการโจมตีนั้นเกือบจะไม่มีระยะห่าง การกำกับดูแลอัตลักษณ์จะกำหนดว่า AI ดำเนินการอย่างปลอดภัยในระบบการผลิตได้อย่างไร

คุณคาดว่าตัวแทน AI อัตโนมัติจะบังคับให้ต้องคิดใหม่เกี่ยวกับโครงสร้างความปลอดภัยที่มีอยู่หรือไม่ หรือแบบจำลองปัจจุบันสามารถปรับให้เข้ากับความเสี่ยงใหม่ๆ ได้

หลักการด้านความปลอดภัยยังคงเท่าเดิม แต่แบบจำลองการดำเนินงานกำลังพัฒนา ตัวแทน AI อัตโนมัติเชื่อมโยงระบบ อัตลักษณ์ และข้อมูลเข้าด้วยกันใน môi trườngที่เปลี่ยนแปลงอย่างต่อเนื่องและดำเนินการด้วยความเร็วของเครื่อง ไม่เหมือนกับผู้ดำเนินการมนุษย์ ตัวแทนเหล่านี้ไม่ได้ใช้ความตัดสินใจในการกระทำหรือแยกแยะระหว่างคำขอที่เหมาะสมและไม่เหมาะสม แต่จะดำเนินการตามคำสั่งและสิทธิ์ที่ได้รับ ซึ่งเพิ่มความสำคัญของการควบคุมและกำกับดูแลอย่างเข้มงวด

ความเสี่ยงเกิดขึ้นจากความสัมพันธ์ระหว่างโครงสร้างพื้นฐาน ห่วงโซ่อุปทานซอฟต์แวร์ และชั้นความปลอดภัย องค์กรสืบทอดความเสี่ยงเร็วกว่าวงจรการแก้ไขปัญหา ทั้งการนำไปใช้และการโจมตีแบบอัตโนมัติทำให้เวลาในการตอบสนองและความกดดันในการดำเนินงานเพิ่มขึ้น

โครงสร้างความปลอดภัยต้องมุ่งเน้นไปที่การมองเห็นและลดการเปิดเผย ทีมต้องการการมองเห็นอย่างต่อเนื่องเกี่ยวกับสิ่งที่มีอยู่ ว่าระบบเชื่อมต่อกันอย่างไร และเส้นทางใดที่นำไปสู่ทรัพย์สินสำคัญ

ความท้าทายที่สำคัญที่สุดคือการจัดการความเสี่ยงที่เชื่อมโยงกันข้ามช่องว่างการเปิดเผย AI โปรแกรมความปลอดภัยประสบความสำเร็จโดยการลดการเปิดเผยที่สามารถเข้าถึงได้อย่างต่อเนื่องและรักษาการควบคุมทั่วทั้งสภาพแวดล้อมที่ซับซ้อน

เมื่อมองไปข้างหน้า คุณเชื่อว่าพื้นที่ใดๆ ของการวิจัยด้านความปลอดภัยของตัวแทน AI อัตโนมัติที่ต้องการการสนใจเพิ่มเติมเมื่อเครื่องมือเหล่านี้เปลี่ยนจากการทดลองเป็นภารกิจที่สำคัญ

พื้นที่การวิจัยหลายแห่งจะกำหนดอนาคตของความปลอดภัยตัวแทน AI อัตโนมัติ

首先 การเติบโตของระบบอัตลักษณ์ที่ไม่ใช่มนุษย์ต้องการการวิเคราะห์ที่ลึกซึ้งยิ่งขึ้น องค์กรกำลังขยายอัตลักษณ์ของเครื่องที่ดำเนินการข้ามโครงสร้างพื้นฐาน ข้อมูล และบริการ การเข้าใจรูปแบบสิทธิ์ พฤติกรรม และการบริหารจัดการวงจรชีวิตจะถือเป็นสิ่งจำเป็น

สิ่งที่สอง การวิจัยต้องปรับปรุงการสร้างแบบจำลองเส้นทางการโจมตีหลายขั้นตอน ระบบ AI เชื่อมโยงห่วงโซ่อุปทานซอฟต์แวร์ โครงสร้างพื้นฐานคลาวด์ และชั้นความปลอดภัย การทำแผนที่ว่าองค์ประกอบเหล่านี้โต้ตอบกันอย่างไรจะช่วยปรับปรุงการคาดการณ์และการจัดลำดับความสำคัญของความเสี่ยง

สิ่งที่สาม การกำกับดูแลการตัดสินใจอัตโนมัติของตัวแทน AI ต้องการการมุ่งเน้นมากขึ้น ทีมความปลอดภัยต้องการการมองเห็นในการเข้าถึงประมวลผลและถ่ายโอนข้อมูลที่ละเอียดอ่อนตลอดเวลา

สุดท้าย ความเร็วในการโจมตีกำลังเพิ่มขึ้นอย่างต่อเนื่อง การศึกษาว่าผู้โจมตีและผู้ป้องกันทำงานอย่างไรที่ความเร็วของเครื่องจะกำหนดกลยุทธ์การตอบสนอง

ความปลอดภัยในอนาคตขึ้นอยู่กับการเข้าใจและลดช่องว่างการเปิดเผย AI การวิจัยต้องมุ่งเน้นไปที่การควบคุมการเปิดเผยที่เชื่อมโยงกันทั่วทั้นพื้นผิวการโจมตี

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ เทนเนเบิล