Steve Wilson, Chief AI and Product Officer at Exabeam – Interview Series

Steve Wilson เป็น Chief AI and Product Officer ที่ Exabeam โดยที่ทีมของเขานำเทคโนโลยี AI ที่ทันสมัยมาใช้เพื่อแก้ไขความท้าทายด้านความปลอดภัยทางไซเบอร์ในโลกแห่งความเป็นจริง เขาเป็นผู้ก่อตั้งและร่วมเป็นประธานโครงการ OWASP Gen AI Security ซึ่งเป็นองค์กรที่อยู่เบื้องหลังรายการมาตรฐาน OWASP Top 10 สำหรับความปลอดภัยของ Large Language Model

หนังสือเล่มที่ได้รับรางวัลของเขา “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media) ถูกเลือกให้เป็นหนังสือเกี่ยวกับความปลอดภัยทางไซเบอร์ที่ทันสมัยที่สุดโดย Cyber Defense Magazine

Exabeam เป็นผู้นำด้านความฉลาดและระบบอัตโนมัติที่ให้พลังในการดำเนินงานด้านความปลอดภัยสำหรับบริษัทที่มีความฉลาดที่สุดในโลก โดยการรวมความสามารถของ AI และความแข็งแกร่งของการวิเคราะห์ทางพฤติกรรมและระบบอัตโนมัติที่เป็นเลิศของอุตสาหกรรม องค์กรจะได้รับมุมมองที่ครอบคลุมมากขึ้นเกี่ยวกับเหตุการณ์ด้านความปลอดภัย ตรวจพบความผิดปกติที่ถูกพลาดไปโดยเครื่องมืออื่น และบรรลุการตอบสนองที่เร็วขึ้น ถูกต้อง และทำซ้ำได้ Exabeam ให้พลังแก่ทีมความปลอดภัยระดับโลกในการต่อสู้กับภัยคุกคามทางไซเบอร์ ลดความเสี่ยง และปรับปรุงการดำเนินงาน

ตำแหน่งใหม่ของคุณคือ Chief AI and Product Officer ที่ Exabeam สิ่งนี้สะท้อนถึงความสำคัญที่เพิ่มขึ้นของ AI ในด้านความปลอดภัยทางไซเบอร์อย่างไร

ความปลอดภัยทางไซเบอร์เป็นหนึ่งในโดเมนแรกที่ยอมรับ machine learning อย่างแท้จริงที่ Exabeam เราใช้ ML เป็นแกนกลางของเครื่องมือตรวจจับของเราเป็นเวลาเกือบสิบปีเพื่อระบุพฤติกรรมที่ผิดปกติที่มนุษย์อาจพลาดไป ด้วยการมาถึงของเทคโนโลยี AI ใหม่ๆ เช่น intelligent agents AI ได้เติบโตจากความสำคัญไปสู่ความสำคัญที่สุด

บทบาทที่รวมกันของฉันในฐานะ Chief AI and Product Officer ที่ Exabeam สะท้อนถึงการเปลี่ยนแปลงนี้อย่างแน่นอน ในบริษัทที่มีความมุ่งมั่นในการฝัง AI ทั่วทั้งผลิตภัณฑ์ และในอุตสาหกรรมเช่นความปลอดภัยทางไซเบอร์ที่บทบาทของ AI มีความสำคัญมากขึ้น ทำให้มีความสมเหตุสมผลที่จะรวมกลยุทธ์ AI และกลยุทธ์ผลิตภัณฑ์ไว้ในบทบาทเดียว การบูรณาการนี้รับประกันว่าเราจะจัดตำแหน่งเชิงกลยุทธ์ในการส่งมอบโซลูชันที่ขับเคลื่อนด้วย AI ที่เปลี่ยนแปลงไปสู่ทีมวิเคราะห์และดำเนินงานด้านความปลอดภัยที่พึ่งพาเรา

Exabeam เป็นผู้บุกเบิก “agentic AI” ในการดำเนินงานด้านความปลอดภัย สิ่งนี้หมายถึงอะไรในทางปฏิบัติ และแตกต่างจากแนวทาง AI แบบดั้งเดิมอย่างไร

Agentic AI เป็นตัวแทนของการเปลี่ยนแปลงที่มีความหมายจากแนวทาง AI แบบดั้งเดิม มันถูกออกแบบมาเพื่อการกระทำเชิงรุก – เริ่มต้นกระบวนการ วิเคราะห์ข้อมูล และนำเสนอข้อมูลเชิงลึกก่อนที่นักวิเคราะห์จะขอ มันไม่เพียงแต่วิเคราะห์ข้อมูลเท่านั้น แต่ยังทำหน้าที่เป็นที่ปรึกษาทางยุทธศาสตร์ โดยให้คำแนะนำเชิงยุทธศาสตร์ทั่วทั้ง SOC และชี้นำผู้ใช้สู่ชัยชนะที่ง่ายที่สุด และให้คำแนะนำทีละขั้นตอนในการปรับปรุงสถานะความปลอดภัย นอกจากนี้ ตัวแทนยังทำงานเป็นกลุ่มที่มีเอกลักษณ์เฉพาะตัว ไม่ใช่ chatbot ที่ยุ่งยาก แต่ละตัวมีลักษณะเฉพาะและชุดข้อมูลที่ออกแบบมาเพื่อทำงานร่วมกับกระบวนการทำงานของนักวิเคราะห์ วิศวกร และผู้จัดการ เพื่อนำเสนอความช่วยเหลือที่มีประสิทธิภาพและตรงจุด

ด้วยการรวม Exabeam Nova ที่มีตัวแทน AI หลายตัวทั่วทั้งกระบวนการ SOC อนาคตของบทบาทนักวิเคราะห์ด้านความปลอดภัยจะเปลี่ยนแปลงไปอย่างไร มันจะพัฒนา ลดลง หรือกลายเป็นงานที่มีความเชี่ยวชาญมากขึ้น

บทบาทของนักวิเคราะห์ด้านความปลอดภัยกำลังเปลี่ยนแปลง นักวิเคราะห์ วิศวกร และผู้จัดการ SOC ต่างถูกท่วมท้นด้วยข้อมูล การแจ้งเตือน และคดี การเปลี่ยนแปลงที่แท้จริงในอนาคตไม่ใช่แค่การประหยัดเวลาในการทำงานแบบง่ายๆ (แม้ว่าตัวแทนจะช่วยในเรื่องนี้) แต่เกี่ยวกับการยกระดับบทบาททุกคนให้เป็นทีมリーダ์ นักวิเคราะห์ยังคงต้องการทักษะทางเทคนิคที่แข็งแกร่ง แต่ตอนนี้พวกเขาจะเป็นผู้นำทีมตัวแทน AI ที่พร้อมจะเร่งการทำงานของพวกเขา ขยายการตัดสินใจของพวกเขา และขับเคลื่อนการปรับปรุงสถานะความปลอดภัยอย่างแท้จริง การเปลี่ยนแปลงนี้ทำให้นักวิเคราะห์กลายเป็นผู้กำกับดูแลเชิงกลยุทธ์มากกว่าผู้ตอบสนองเชิงยุทธวิธี

ข้อมูลล่าสุดแสดงให้เห็นว่ามีความแตกต่างระหว่างผู้บริหารและนักวิเคราะห์เกี่ยวกับผลกระทบของ AI ต่อประสิทธิภาพการทำงาน สิ่งนี้เกิดขึ้นได้อย่างไร และสามารถแก้ไขได้อย่างไร

ข้อมูลล่าสุด แสดงให้เห็นถึงช่องว่างที่ชัดเจน: 71% ของผู้บริหารเชื่อว่า AI เพิ่มประสิทธิภาพการทำงานอย่างมีนัยสำคัญ แต่นักวิเคราะห์ทางด้านหน้า 22% เชื่อว่า AI มีผลกระทบต่อประสิทธิภาพการทำงานของพวกเขา ที่ Exabeam เราได้เห็นช่องว่างนี้เติบโตขึ้นพร้อมกับความตื่นตัวของ AI ในด้านความปลอดภัยทางไซเบอร์ในปัจจุบัน มันไม่เคยเป็นเรื่องง่ายที่จะสร้างการแสดงตัวอย่าง AI ที่น่าประทับใจ และผู้ขายต่างๆ ก็เร็วที่จะอ้างว่าพวกเขาได้แก้ไขทุกปัญหา SOC แล้ว ในขณะที่การแสดงตัวอย่างเหล่านี้อาจทำให้ผู้บริหารประทับใจในตอนแรก แต่ส่วนใหญ่ล้มเหลวที่จุดสำคัญ – ในมือของนักวิเคราะห์ โอกาสมีอยู่ แต่ยังมีเสียงรบกวนมากเกินไปและยังไม่มีการปรับปรุงที่มีความหมาย เพื่อแก้ไขช่องว่างการรับรู้นี้ ผู้บริหารจะต้องจัดลำดับความสำคัญของเครื่องมือ AI ที่ให้พลังแก่นักวิเคราะห์ ไม่ใช่แค่ทำให้ผู้บริหารประทับใจเมื่อแสดงตัวอย่าง เมื่อ AI ปรับปรุงประสิทธิภาพการทำงานของนักวิเคราะห์อย่างแท้จริง ความไว้วางใจและความปรับปรุงที่แท้จริงของประสิทธิภาพการทำงานจะตามมา

AI กำลังเร่งการตรวจจับและตอบสนองต่อภัยคุกคาม แต่คุณรักษาสมดุลระหว่างการทำงานอัตโนมัติและความตัดสินใจของมนุษย์ในเหตุการณ์ด้านความปลอดภัยที่มีความเสี่ยงสูงได้อย่างไร

ความสามารถของ AI กำลังพัฒนาอย่างรวดเร็ว แต่ปัจจุบัน “แบบจำลองภาษา” ที่เป็นพื้นฐานของตัวแทน AI ถูกออกแบบมาเพื่อทำงานเช่นการแปลภาษา ไม่ใช่การตัดสินใจที่ซับซ้อน ทฤษฎีเกม หรือการรับมือกับปัจจัยมนุษย์ที่ซับซ้อน ซึ่งทำให้ความตัดสินใจของมนุษย์มีความสำคัญมากขึ้นในด้านความปลอดภัยทางไซเบอร์ บทบาทของนักวิเคราะห์ไม่ได้ถูกทำให้เล็กลงโดย AI แต่ถูกยกระดับ นักวิเคราะห์เป็นผู้นำทีม โดยใช้ประสบการณ์และความเข้าใจของตนในการชี้นำและควบคุมตัวแทน AI หลายตัว เพื่อให้การตัดสินใจยังคงได้รับแรงบันดาลใจจากบริบทและความละเอียดอ่อน สุดท้าย การสร้างสมดุลระหว่างการทำงานอัตโนมัติและความตัดสินใจของมนุษย์เป็นเรื่องของการสร้างความสัมพันธ์ที่สอดคล้องกัน โดยที่ AI เพิ่มขีดความสามารถของความเชี่ยวชาญของมนุษย์ ไม่ใช่การแทนที่

กลยุทธ์ผลิตภัณฑ์ของคุณพัฒนาไปอย่างไรเมื่อ AI กลายเป็นหลักการออกแบบหลักแทนที่จะเป็นส่วนเสริม

ที่ Exabeam กลยุทธ์ผลิตภัณฑ์ของเรามีรากฐานมาจาก AI เป็นหลักการออกแบบหลัก ไม่ใช่เพียงส่วนเสริม เราได้สร้าง Exabeam ขึ้นมาจากศูนย์เพื่อรองรับ machine learning ตั้งแต่การนำเข้าล็อก การแปล การเพิ่มคุณค่าและการปรับมาตรฐาน – เพื่อเติมโมเดลข้อมูลทั่วไปที่มีคุณภาพสูงซึ่งได้รับการปรับให้เหมาะสมสำหรับระบบ ML ข้อมูลที่มีโครงสร้างและคุณภาพสูงไม่เพียงแต่สำคัญสำหรับระบบ AI เท่านั้น แต่ยังเป็นชีวิตของมัน ด้วยการฝังตัวแทน AI ที่มีความฉลาดเข้าไปในกระบวนการทำงานที่สำคัญ เราหลีกเลี่ยงการสร้าง chatbot ทั่วไปและยุ่งยาก และมุ่งเน้นไปที่กรณีการใช้งานที่สำคัญซึ่งให้ประโยชน์ที่แท้จริงและเป็นรูปธรรมแก่ผู้ใช้ของเรา

ด้วยการรวม Exabeam Nova คุณมุ่งหมายที่จะ “เปลี่ยนจากความช่วยเหลือไปสู่ความเป็นอิสระ” 什么เป็นขั้นตอนสำคัญในการบรรลุการดำเนินงานด้านความปลอดภัยที่เป็นอิสระอย่างสมบูรณ์

แนวคิดเรื่องการดำเนินงานด้านความปลอดภัยที่เป็นอิสระอย่างสมบูรณ์นั้นน่าสนใจ แต่ยังเป็นเรื่องก่อนเวลาอันควร ตัวแทน AI ที่มีความสามารถในการตัดสินใจโดยสมบูรณ์ยังไม่มีประสิทธิภาพหรือปลอดภัยในขณะนี้ ที่ Exabeam แนวทางของเราคือไม่ไล่ตามความเป็นอิสระที่สมบูรณ์ แต่เป็นทีมตัวแทน AI ที่มีความสามารถและได้รับการควบคุมอย่างรอบคอบ โดยทำงานภายใต้การกำกับดูแลของผู้เชี่ยวชาญด้านความปลอดภัยใน SOC สิ่งนี้เป็นเส้นทางที่สมจริงและมีผลกระทบต่อการดำเนินงานในอนาคต

ความท้าทายที่ยิ่งใหญ่ที่สุดที่คุณเผชิญในการรวม GenAI และ machine learning ในระดับที่จำเป็นสำหรับการรักษาความปลอดภัยทางไซเบอร์แบบเรียลไทม์คืออะไร

หนึ่งในความท้าทายที่ยิ่งใหญ่ที่สุดในการรวม GenAI และ machine learning ในระดับที่จำเป็นสำหรับการรักษาความปลอดภัยทางไซเบอร์แบบเรียลไทม์คือการสร้างสมดุลระหว่างความเร็วและความแม่นยำ GenAI เพียงอย่างเดียวไม่สามารถแทนที่ปริมาณข้อมูลขนาดใหญ่ที่เครื่องมือ ML ของเราจัดการได้ แม้ว่าตัวแทน AI ที่ทันสมัยที่สุดจะมี “หน้าต่างบริบท” ที่ไม่เพียงพอ เราใช้ ML เพื่อแยกข้อมูลขนาดใหญ่ให้เป็นข้อมูลเชิงลึกที่สามารถดำเนินการได้ และตัวแทน AI ของเราจะแปลและดำเนินการตามข้อมูลนั้นอย่างมีประสิทธิภาพ

คุณร่วมก่อตั้ง OWASP Top 10 สำหรับ LLM Applications สิ่งนี้ได้รับแรงบันดาลใจจากอะไร และคุณเห็นว่ามันจะกำหนดแนวปฏิบัติด้านความปลอดภัยของ AI อย่างไร

เมื่อฉันเปิดตัว OWASP Top 10 สำหรับ LLM Applications ในต้นปี 2023 ข้อมูลที่มีโครงสร้างเกี่ยวกับความปลอดภัยของ LLM และ GenAI ยังหายาก แต่ความสนใจนั้นมาก ในช่วงไม่กี่วัน มี志愿者มากกว่า 200 คนเข้าร่วมในโครงการนี้ โดยนำความคิดเห็นต่างๆ และความเชี่ยวชาญมาเพื่อสร้างรายการเดิม ตั้งแต่นั้นมา มันได้รับการอ่านมากกว่า 100,000 ครั้ง และกลายเป็นพื้นฐานของมาตรฐานอุตสาหกรรมระหว่างประเทศ ปัจจุบันความพยายามนี้ได้ขยายออกไปสู่โครงการ OWASP Gen AI Security ซึ่งครอบคลุมด้านต่างๆ เช่น AI Red Teaming การรักษาความปลอดภัยของระบบ agentic และการรับมือกับการใช้งานที่เป็นอันตรายของ Gen AI ในด้านความปลอดภัยทางไซเบอร์ กลุ่มของเรามีสมาชิกมากกว่า 10,000 คนและยังคงพัฒนาการปฏิบัติด้านความปลอดภัยของ AI ทั่วโลก

หนังสือของคุณ ‘The Developer’s Playbook for LLM Security‘ ได้รับรางวัลสูงสุด สิ่งที่สำคัญที่สุดหรือหลักการที่นักพัฒนาทุกคนควรเข้าใจเมื่อสร้างแอปพลิเคชันที่มีความปลอดภัยคืออะไร

สิ่งที่สำคัญที่สุดจากหนังสือของฉัน “The Developer’s Playbook for LLM Security” คือ “ความสามารถที่ยิ่งใหญ่มากำเนิดความรับผิดชอบที่ยิ่งใหญ่” ในขณะที่การเข้าใจแนวคิดด้านความปลอดภัยแบบดั้งเดิมยังคงจำเป็น นักพัฒนาต้องเผชิญกับความท้าทายใหม่ที่ไม่เหมือนใครซึ่งเฉพาะเจาะจงกับ LLM เทคโนโลยีนี้ที่มีพลังงานไม่ใช่การผ่านพ้นไปได้ แต่ต้องการการปฏิบัติด้านความปลอดภัยที่มีจิตสำนึกและรอบคอบ นักพัฒนาต้องขยายมุมมองของตน โดยตระหนักและจัดการกับช่องโหว่ด้านความปลอดภัยเหล่านี้ตั้งแต่เริ่มต้น และฝังความปลอดภัยเข้าไปในกระบวนการออกแบบและพัฒนาของแอปพลิเคชัน AI

คุณเห็นว่ากำลังแรงงานด้านความปลอดภัยทางไซเบอร์จะพัฒนาไปอย่างไรใน 5 ปีข้างหน้าเมื่อ AI ที่เป็นตัวแทนกลายเป็นที่นิยมมากขึ้น

เรากำลังอยู่ในสงครามอาวุธ AI ปัจจุบัน ผู้โจมตีกำลังใช้ AI อย่างรุนแรงเพื่อเพิ่มเป้าหมายที่เป็นอันตราย ทำให้บุคลากรด้านความปลอดภัยทางไซเบอร์มีความสำคัญมากขึ้น 5 ปีข้างหน้าจะไม่ทำให้กำลังแรงงานด้านความปลอดภัยทางไซเบอร์ลดลง แต่จะยกระดับพวกเขาให้สูงขึ้น ผู้เชี่ยวชาญด้านความปลอดภัยจะต้องยอมรับ AI และรวมเข้ากับทีมและกระบวนการทำงานของพวกเขา บทบาทด้านความปลอดภัยจะเปลี่ยนไปสู่การบังคับบัญชาเชิงกลยุทธ์ – น้อยลงในเรื่องความพยายามส่วนบุคคลและมากขึ้นในเรื่องการกำกับดูแลการตอบสนองอย่างมีประสิทธิภาพด้วยทีมตัวแทน AI ที่ขับเคลื่อนด้วย AI การเปลี่ยนแปลงนี้ทำให้ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์สามารถนำทางและตัดสินใจได้อย่างมั่นใจในการต่อสู้กับภัยคุกคามที่เปลี่ยนแปลงอย่างต่อเนื่อง

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Exabeam เพื่อเรียนรู้เพิ่มเติม