สตีฟ วิลสัน ผู้บริหารระดับสูงด้าน AI และผลิตภัณฑ์ของ Exabeam – สัมภาษณ์เชิงลึก

สตีฟ วิลสัน เป็นผู้บริหารระดับสูงด้าน AI และผลิตภัณฑ์ของ Exabeam โดยทีมของเขานำเทคโนโลยี AI ที่ทันสมัยมาใช้เพื่อแก้ไขปัญหาด้านความปลอดภัยทางไซเบอร์ในโลกแห่งความเป็นจริง เขาเป็นผู้ก่อตั้งและร่วมเป็นประธานโครงการ OWASP Gen AI Security ซึ่งเป็นองค์กรที่อยู่เบื้องหลังรายการ OWASP Top 10 สำหรับความปลอดภัยของโมเดลภาษาขนาดใหญ่

หนังสือของเขา “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media) ได้รับการยกย่องว่าเป็นหนังสือด้านความปลอดภัยทางไซเบอร์ที่ดีที่สุด โดย Cyber Defense Magazine

Exabeam เป็นผู้นำด้านการวิเคราะห์และการทำงานอัตโนมัติที่ให้พลังแก่การดำเนินงานด้านความปลอดภัยสำหรับบริษัทที่มีความฉลาดที่สุดในโลก โดยการรวมความสามารถของ AI และการวิเคราะห์เชิงพฤติกรรมและอัตโนมัติที่เป็นเลิศของอุตสาหกรรม ทำให้องค์กรสามารถมองเห็นเหตุการณ์ด้านความปลอดภัยได้อย่างครอบคลุม ค้นหาความผิดปกติที่ถูกพลาดไปโดยเครื่องมืออื่น ๆ และบรรลุผลลัพธ์ที่รวดเร็วและแม่นยำยิ่งขึ้น Exabeam ให้พลังแก่ทีมงานด้านความปลอดภัยทั่วโลกในการต่อต้านภัยคุกคามทางไซเบอร์ ลดความเสี่ยง และปรับปรุงการดำเนินงาน

ตำแหน่งใหม่ของคุณคือ Chief AI และ Product Officer ที่ Exabeam สิ่งนี้สะท้อนถึงความสำคัญที่เพิ่มขึ้นของ AI ในด้านความปลอดภัยทางไซเบอร์อย่างไร

ความปลอดภัยทางไซเบอร์เป็นหนึ่งในด้านแรกที่ยอมรับและนำเทคโนโลยีเครื่องจักรเรียนรู้มาใช้จริง – ที่ Exabeam เราใช้ ML เป็นแกนกลางของเครื่องมือตรวจจับของเราเป็นเวลาเกือบสิบปีเพื่อระบุพฤติกรรมที่ผิดปกติที่มนุษย์อาจพลาดได้ ด้วยการมาถึงของเทคโนโลยี AI ใหม่ ๆ เช่น ตัวแทน AI AI ได้เติบโตจากความสำคัญเป็นศูนย์กลางอย่างแท้จริง

บทบาทที่รวมกันของฉันในฐานะ Chief AI และ Product Officer ที่ Exabeam สะท้อนถึงการเปลี่ยนแปลงนี้อย่างแม่นยำ ในบริษัทที่มีความมุ่งมั่นในการฝัง AI ลงในผลิตภัณฑ์ของตน และในอุตสาหกรรมเช่นความปลอดภัยทางไซเบอร์ ซึ่งบทบาทของ AI มีความสำคัญมากขึ้นเรื่อย ๆ จึงมีความสมเหตุสมผลที่จะรวมกลยุทธ์ AI และกลยุทธ์ผลิตภัณฑ์ไว้ภายใต้บทบาทเดียว การบูรณาการนี้ช่วยให้เราได้รับการจัดตำแหน่งเชิงกลยุทธ์ในการส่งมอบโซลูชันที่ขับเคลื่อนด้วย AI ที่เปลี่ยนแปลงไปสู่ทีมงานด้านความปลอดภัยและทีมปฏิบัติการที่พึ่งพาเรา

Exabeam เป็นผู้บุกเบิก “agentic AI” ในการดำเนินงานด้านความปลอดภัย สามารถอธิบายได้ว่าสิ่งนี้หมายถึงอะไรในทางปฏิบัติ และแตกต่างจากแนวทาง AI แบบดั้งเดิมอย่างไร

Agentic AI เป็นตัวแทนของการเปลี่ยนแปลงที่มีความหมายจากแนวทาง AI แบบดั้งเดิม มันถูกออกแบบมาเพื่อการกระทำ – เริ่มต้นกระบวนการ วิเคราะห์ข้อมูล และนำเสนอข้อมูลเชิงลึกก่อนที่นักวิเคราะห์จะขอ มันไม่ใช่แค่การวิเคราะห์ข้อมูลเท่านั้น แต่ยังเป็นที่ปรึกษาที่ให้คำแนะนำเชิงกลยุทธ์ทั่วทั้ง SOC นำผู้ใช้ไปสู่ชัยชนะที่ง่ายที่สุด และให้คำแนะนำทีละขั้นตอนในการปรับปรุงการรักษาความปลอดภัย นอกจากนี้ ตัวแทนยังทำงานเป็นกลุ่มที่มีเอกลักษณ์เฉพาะตัว ไม่ใช่เครื่องมือสนทนาที่ยุ่งยาก แต่ละตัวมีลักษณะเฉพาะและชุดข้อมูลที่ออกแบบมาเพื่อทำงานร่วมกับกระบวนการทำงานของนักวิเคราะห์ วิศวกร และผู้จัดการเพื่อให้ความช่วยเหลือที่มีประสิทธิภาพ

ด้วยการรวมตัวแทน AI หลายตัวทั่วทั้งกระบวนการ SOC ของ Exabeam Nova อนาคตของบทบาทนักวิเคราะห์ด้านความปลอดภัยจะเปลี่ยนแปลงไปอย่างไร มันจะลดลง มีการเปลี่ยนแปลง หรือกลายเป็นงานที่มีความเชี่ยวชาญมากขึ้น

บทบาทของนักวิเคราะห์ด้านความปลอดภัยกำลังเปลี่ยนแปลงไป นักวิเคราะห์ วิศวกรด้านความปลอดภัย และผู้จัดการ SOC ถูกท่วมท้นด้วยข้อมูล การเตือน และกรณี การเปลี่ยนแปลงที่แท้จริงในอนาคตไม่ใช่แค่การประหยัดเวลาในการทำงานที่น่าเบื่อ ๆ แต่ยังเป็นการยกระดับบทบาทของทุกคนให้เป็นผู้นำทีม นักวิเคราะห์ยังคงต้องการทักษะทางเทคนิคที่แข็งแกร่ง แต่ตอนนี้พวกเขาจะเป็นผู้นำทีมตัวแทน AI ที่พร้อมจะเร่งการทำงานของพวกเขา ขยายการตัดสินใจของพวกเขา และขับเคลื่อนการปรับปรุงความปลอดภัยอย่างแท้จริง การเปลี่ยนแปลงนี้ทำให้นักวิเคราะห์กลายเป็นผู้กำกับดูแลเชิงกลยุทธ์มากกว่าผู้ตอบสนองเชิงยุทธวิธี

ข้อมูลล่าสุดแสดงให้เห็นว่ามีความไม่สอดคล้องกันระหว่างผู้บริหารและนักวิเคราะห์เกี่ยวกับผลกระทบของ AI ต่อประสิทธิภาพการทำงาน คุณคิดว่าความไม่สอดคล้องนี้เกิดขึ้นได้อย่างไร และสามารถแก้ไขได้อย่างไร

ข้อมูลล่าสุด แสดงให้เห็นว่ามีความไม่สอดคล้องกันอย่างชัดเจน: 71% ของผู้บริหารเชื่อว่า AI เพิ่มประสิทธิภาพการทำงานอย่างมีนัยสำคัญ แต่นักวิเคราะห์ทางด้านหน้าเพียง 22% เท่านั้นที่เห็นด้วย ที่ Exabeam เราได้เห็นช่องว่างนี้ขยายตัวพร้อมกับความตื่นตัวของ AI ในด้านความปลอดภัยทางไซเบอร์ในปัจจุบัน มันไม่เคยเป็นเรื่องง่ายที่จะสร้างการนำเสนอ AI ที่น่าประทับใจ และผู้ขายต่างเร่งที่จะอ้างว่าพวกเขาได้แก้ไขปัญหาทั้งหมดของ SOC แต่การนำเสนอเหล่านี้อาจดูสวยงามในตอนแรก แต่ส่วนใหญ่ล้มเหลวเมื่อถึงเวลาที่นักวิเคราะห์ใช้งานจริง เพื่อแก้ไขช่องว่างการรับรู้นี้ ผู้บริหารจะต้องจัดลำดับความสำคัญของเครื่องมือ AI ที่ช่วยให้นักวิเคราะห์ทำงานได้อย่างมีประสิทธิภาพ ไม่ใช่แค่การนำเสนอที่น่าประทับใจเท่านั้น เมื่อ AI ช่วยให้นักวิเคราะห์ทำงานได้อย่างมีประสิทธิภาพ ความไว้วางใจและความก้าวหน้าในด้านประสิทธิภาพการทำงานจะตามมา

AI กำลังเร่งการตรวจจับและตอบสนองต่อภัยคุกคาม แต่คุณรักษาสมดุลระหว่างการทำงานอัตโนมัติและความตัดสินใจของมนุษย์ในเหตุการณ์ด้านความปลอดภัยทางไซเบอร์ที่มีความเสี่ยงสูงได้อย่างไร

ความสามารถของ AI กำลังพัฒนาอย่างรวดเร็ว แต่แบบจำลองภาษาที่เป็นพื้นฐานของตัวแทน AI ที่ฉลาดนั้นถูกออกแบบมาเพื่อทำงานเช่นการแปลภาษา ไม่ใช่การตัดสินใจที่ซับซ้อนหรือการรับมือกับปัจจัยมนุษย์ที่ซับซ้อน ซึ่งทำให้ความตัดสินใจของมนุษย์มีความสำคัญมากขึ้นในด้านความปลอดภัยทางไซเบอร์ บทบาทของนักวิเคราะห์ไม่ได้ลดลงโดย AI แต่กลับถูกยกระดับ นักวิเคราะห์กลายเป็นผู้นำทีม โดยใช้ประสบการณ์และข้อมูลเชิงลึกของตนเพื่อนำทางและกำกับตัวแทน AI หลายตัวเพื่อให้แน่ใจว่าการตัดสินใจยังคงมีข้อมูลและเหมาะสมในทุกบริบท

กลยุทธ์ผลิตภัณฑ์ของคุณเปลี่ยนแปลงไปอย่างไรเมื่อ AI กลายเป็นหลักการออกแบบหลักแทนที่จะเป็นส่วนเสริม

ที่ Exabeam กลยุทธ์ผลิตภัณฑ์ของเราถูกกำหนดโดย AI เป็นหลักการออกแบบหลัก ไม่ใช่สิ่งเสริม เราได้สร้าง Exabeam ขึ้นมาจากศูนย์เพื่อสนับสนุนการเรียนรู้ของเครื่องจักร – ตั้งแต่การรับข้อมูลล็อก การแยกข้อมูล การเพิ่มคุณค่าและการทำให้มาตรฐาน – เพื่อเติมโมเดลข้อมูลทั่วไปที่ได้รับการปรับให้เหมาะสมสำหรับระบบ ML ข้อมูลที่มีคุณภาพสูงและเป็นโครงสร้างไม่เพียงแต่สำคัญสำหรับระบบ AI เท่านั้น แต่ยังเป็นชีวิตของมันเช่นกัน ปัจจุบันเราได้ฝังตัวแทน AI ที่ฉลาดเข้าไปในกระบวนการทำงานที่สำคัญ โดยหลีกเลี่ยงการนำเสนอแบบทั่วไปและยุ่งยากแทน

ด้วยการนำตัวแทน AI หลายตัวมาใช้ในกระบวนการ SOC ของ Exabeam Nova อะไรคือ 里程碑สำคัญในการบรรลุการดำเนินงานด้านความปลอดภัยที่เป็นอิสระอย่างสมบูรณ์

แนวคิดเรื่องการดำเนินงานด้านความปลอดภัยที่เป็นอิสระอย่างสมบูรณ์นั้นน่าสนใจ แต่ยังเป็นเรื่องที่ยังไม่พร้อม ตัวแทน AI ที่เป็นอิสระอย่างสมบูรณ์ในโดเมนใดๆ ยังไม่มีประสิทธิภาพหรือปลอดภัย การตัดสินใจใน AI กำลังดีขึ้น แต่ยังไม่ถึงระดับความน่าเชื่อถือของมนุษย์และจะไม่ถึงในระยะเวลาอันใกล้นี้ ที่ Exabeam แนวทางของเราคือการไม่ไล่ตามความเป็นอิสระทั้งหมด แต่เรามุ่งเน้นไปที่การสร้างทีมตัวแทน AI ที่มีความสามารถและได้รับการกำกับอย่างรอบคอบ โดยทำงานภายใต้การดูแลของผู้เชี่ยวชาญด้านความปลอดภัยใน SOC การผสมผสานระหว่างการกำกับดูแลของมนุษย์และการช่วยเหลือจากตัวแทน AI ที่มีเป้าหมายคือเส้นทางที่มีประสิทธิภาพและสมจริงไปสู่อนาคต

คุณเผชิญกับความท้าทายที่ยิ่งใหญ่ที่สุดอะไรในการรวม GenAI และการเรียนรู้ของเครื่องจักรในระดับที่ต้องการสำหรับการรักษาความปลอดภัยทางไซเบอร์แบบเรียลไทม์

หนึ่งในความท้าทายที่ยิ่งใหญ่ที่สุดในการรวม GenAI และการเรียนรู้ของเครื่องจักรในระดับที่ต้องการสำหรับการรักษาความปลอดภัยทางไซเบอร์แบบเรียลไทม์คือการสร้างสมดุลระหว่างความเร็วและความแม่นยำ GenAI เพียงอย่างเดียวไม่สามารถแทนที่ปริมาณข้อมูลที่ระบบ ML ของเราจัดการได้ – การประมวลผลเทราบایتของข้อมูลอย่างต่อเนื่อง ตัวแทน AI ที่ทันสมัยที่สุดมี “หน้าต่างบริบท” ที่ไม่เพียงพอ การผสมผสานของเราคือการใช้ ML เพื่อทำให้ข้อมูลขนาดใหญ่กลายเป็นข้อมูลเชิงลึกที่สามารถดำเนินการได้ ซึ่งตัวแทน AI ที่ฉลาดของเราจะแปลและดำเนินการได้อย่างมีประสิทธิภาพ

คุณร่วมก่อตั้ง OWASP Top 10 สำหรับ LLM Applications สิ่งนี้ได้รับแรงบันดาลใจจากอะไร และคุณเห็นว่ามันจะกำหนดแนวปฏิบัติด้านความปลอดภัยของ AI ได้อย่างไร

เมื่อฉันเปิดตัว OWASP Top 10 สำหรับ LLM Applications ในต้นปี 2023 ข้อมูลที่มีโครงสร้างเกี่ยวกับความปลอดภัยของ LLM และ GenAI ยังหายาก แต่ความสนใจนั้นยอดเยี่ยมมาก ในช่วงไม่กี่วัน มี志願者มากกว่า 200 คนเข้าร่วมในโครงการนี้ โดยนำความคิดเห็นต่างๆ และความเชี่ยวชาญมาเพื่อ塑造รายการเดิม ตั้งแต่นั้นมา มันได้รับการอ่านมากกว่า 100,000 ครั้ง และกลายเป็นรากฐานของมาตรฐานอุตสาหกรรมระหว่างประเทศ ปัจจุบันความพยายามนี้ได้ขยายออกไปสู่ OWASP Gen AI Security Project ซึ่งครอบคลุมเรื่องต่างๆ เช่น AI Red Teaming, การรักษาความปลอดภัยของระบบ Agentic และการรับมือการใช้ Gen AI ในด้านความปลอดภัยทางไซเบอร์อย่างรุกราน กลุ่มของเราล่าสุดได้เพิ่มสมาชิกมากกว่า 10,000 คนและยังคงพัฒนาการปฏิบัติด้านความปลอดภัยของ AI ทั่วโลก

หนังสือของคุณ “The Developer’s Playbook for LLM Security” ได้รับรางวัลสูงสุด สิ่งที่สำคัญที่สุดหรือหลักการที่นักพัฒนาด้าน AI ทุกคนควรเข้าใจเมื่อสร้างแอปพลิเคชันที่มีความปลอดภัยคืออะไร

สิ่งที่สำคัญที่สุดจากหนังสือของฉัน “The Developer’s Playbook for LLM Security” คือ “ความสามารถที่ยิ่งใหญ่มากำเนิดความรับผิดชอบที่ยิ่งใหญ่” ในขณะที่การเข้าใจแนวคิดด้านความปลอดภัยแบบดั้งเดิมยังคงจำเป็น นักพัฒนาต้องเผชิญกับความท้าทายใหม่ที่ไม่เหมือนใครสำหรับ LLM เทคโนโลยีนี้ที่ทรงพลังไม่ใช่การผ่านพ้นไปได้ แต่ต้องการการปฏิบัติด้านความปลอดภัยที่มีจิตสำนึกและรอบคอบ นักพัฒนาต้องขยายมุมมองของตน โดยตระหนักและจัดการกับช่องโหว่เหล่านี้ตั้งแต่เริ่มต้น และฝังความปลอดภัยลงในทุกขั้นตอนของวงจรชีวิตของแอปพลิเคชัน AI

คุณเห็นว่ากำลังแรงงานด้านความปลอดภัยทางไซเบอร์เปลี่ยนแปลงไปอย่างไรใน 5 ปีข้างหน้าเมื่อ AI กลายเป็นสิ่งที่ได้รับการยอมรับมากขึ้น

เรากำลังอยู่ในการแข่งขัน AI กับฝ่ายตรงข้ามที่ใช้ AI เพื่อเพิ่มเป้าหมายที่เป็นอันตราย ทำให้บุคลากรด้านความปลอดภัยทางไซเบอร์มีความสำคัญมากขึ้น 5 ปีข้างหน้าจะไม่ทำให้กำลังแรงงานด้านความปลอดภัยทางไซเบอร์ลดลง แต่จะยกระดับพวกเขาให้สูงขึ้น บุคลากรจะต้องยอมรับ AI และรวมเข้ากับทีมและกระบวนการทำงานของตน บทบาทด้านความปลอดภัยจะเปลี่ยนไปสู่การบัญชาการเชิงกลยุทธ์ – น้อยลงในเรื่องความพยายามส่วนบุคคลและมากขึ้นในเรื่องการ ual effort and more about orchestrating an effective response with a team of AI-driven agents. This transformation empowers cybersecurity professionals to lead decisively and confidently in the battle against ever-evolving threats. Thank you for the great interview, readers who wish to learn more should visit Exabeam.