Sean Roche ผู้อำนวยการอาวุโสฝ่ายการตลาดผลิตภัณฑ์และการวิเคราะห์คุณค่าทางธุรกิจของ Obsidian Security — ชุดบทสัมภาษณ์

Sean Roche ผู้อำนวยการอาวุโสฝ่ายการตลาดผลิตภัณฑ์และการวิเคราะห์คุณค่าทางธุรกิจของ Obsidian Security เป็นผู้นำโครงการที่ประสานงานหลายฝ่ายด้านความปลอดภัย SaaS ความปลอดภัย AI และกลยุทธ์การเข้าสู่ตลาด เขามีบทบาทสำคัญในการพัฒนากรอบการใช้งานร่วมกันชุดแรกของบริษัท โดยประสานฝ่ายขาย การตลาด และทีมดูแลความสำเร็จของลูกค้าให้มุ่งสู่ผลลัพธ์ทางธุรกิจที่วัดได้ พร้อมดูแลการเปิดตัวโซลูชันความปลอดภัยสำหรับ AI เชิงกำเนิดและเอเจนต์ AI ก่อนร่วมงานกับ Obsidian Security เขาดำรงตำแหน่งผู้นำใน Forter, Aviatrix และ Okta โดยเชี่ยวชาญด้านการให้คำปรึกษาคุณค่าทางธุรกิจ กลยุทธ์ราคา การวิเคราะห์คุณค่าที่ลูกค้าได้รับ และการวิเคราะห์ผลตอบแทนการลงทุนสำหรับผู้บริหาร ประสบการณ์ของเขาผสานความปลอดภัยไซเบอร์ กลยุทธ์ซอฟต์แวร์องค์กร และการวิจัยทางการเงิน ทำให้มีความเชี่ยวชาญในการเปลี่ยนความสามารถทางเทคนิคให้เป็นผลลัพธ์ทางธุรกิจที่วัดได้สำหรับลูกค้าองค์กร

Obsidian Security เป็นบริษัทความปลอดภัยไซเบอร์ที่มุ่งรักษาความปลอดภัยของแอปพลิเคชัน SaaS เอเจนต์ AI อัตลักษณ์ และการเชื่อมต่อระบบองค์กรในสภาพแวดล้อมคลาวด์สมัยใหม่ บริษัทให้บริการแพลตฟอร์มแบบบูรณาการเพื่อช่วยตรวจจับภัยคุกคาม จัดการสถานะความปลอดภัยของ SaaS กำกับการเข้าถึงข้อมูล และติดตามกิจกรรมเสี่ยงในแอปพลิเคชันสำคัญต่อธุรกิจ เช่น Microsoft 365, Salesforce (CRM ), Slack และบริการคลาวด์อื่นๆ ในช่วงไม่กี่ปีที่ผ่านมา Obsidian ขยายงานสู่ความปลอดภัยของเอเจนต์ AI ช่วยให้องค์กรมองเห็นว่าระบบ AI อัตโนมัติโต้ตอบกับแพลตฟอร์ม SaaS ข้อมูล และเวิร์กโฟลว์แบบเรียลไทม์อย่างไร บริษัทก่อตั้งโดยผู้นำด้านความปลอดภัยที่มีประสบการณ์จาก CrowdStrike (CRWD ), Okta, Cylance และ Carbon Black และวางตำแหน่งเป็นแพลตฟอร์มความปลอดภัย SaaS และ AI แบบครบวงจรเพื่อรับมือความซับซ้อนที่เพิ่มขึ้นของสภาพแวดล้อมคลาวด์และระบบเอเจนต์ AI

คุณสร้างอาชีพบนจุดเชื่อมระหว่างคุณค่าทางธุรกิจ กลยุทธ์ความเสี่ยง และความปลอดภัย SaaS และขณะนี้ดูแลการวิเคราะห์คุณค่าและการตลาดผลิตภัณฑ์ที่ Obsidian Security อะไรทำให้คุณสนใจการรักษาความปลอดภัยระบบนิเวศ SaaS ที่ขับเคลื่อนด้วย AI และแนวทางของ Obsidian แตกต่างอย่างไรเมื่อรับมือเทคโนโลยีเอเจนต์รุ่นใหม่อย่าง OpenClaws?

ตลอดอาชีพของผม ช่องว่างที่ใหญ่ที่สุดคือสิ่งที่ระบบความปลอดภัยมองไม่เห็น เพราะนั่นคือจุดที่เกิดการบุกรุกจริง เราเห็นเหตุการณ์ที่ระบบแยกขาดหรือไม่ได้รับการจัดการสร้างความเสี่ยงซึ่งมาตรการแบบเดิมตรวจไม่พบ ผมพบปัญหาเดียวกันด้วยตนเองจากตัวเชื่อมต่อสมัยใหม่ที่ใช้เชื่อมกับแพลตฟอร์มขนาดใหญ่ หรือการเชื่อมต่อที่อยู่นอกการมองเห็นตามปกติของทีมความปลอดภัย บางกรณียังทำงานอยู่แม้ทีม IT คิดว่าปิดไปแล้ว ประสบการณ์เหล่านี้ทำให้เห็นว่าความเสี่ยงจำนวนมากอยู่ตามรอยต่อระหว่างระบบ ไม่ใช่เฉพาะภายในระบบที่เราคิดว่าปลอดภัยแล้ว

สถานการณ์นี้กำลังเปลี่ยนจาก Shadow IT ไปสู่ Shadow AI เครื่องมือใหม่และเวิร์กโฟลว์ที่ใช้เอเจนต์เกิดขึ้นและแพร่กระจายได้เร็วกว่ากลยุทธ์กำกับดูแลจะตามทัน หลายแนวทางตอบสนองด้วยการพยายามรวมทุกอย่างไว้ใต้ชั้นควบคุมเดียว แต่รูปแบบนี้ใช้ไม่ได้กับสภาพแวดล้อมแบบกระจาย โดยเฉพาะเมื่อข้อมูลและกิจกรรมสำคัญอยู่ในแอปพลิเคชันของบุคคลที่สามที่เราไม่ได้เป็นเจ้าของและควบคุมได้ไม่ทั้งหมด

นี่คือสิ่งที่ทำให้ผมสนใจความปลอดภัยของระบบนิเวศ SaaS ที่ขับเคลื่อนด้วย AI และเป็นเหตุผลที่แนวทางของ Obsidian น่าสนใจ จำนวนการบุกรุก SaaS เพิ่มขึ้น 300% แต่องค์กรส่วนใหญ่ยังมองเห็นไม่เพียงพอว่าแอปพลิเคชันเหล่านี้ถูกใช้อย่างไร เรามุ่งอุดช่องว่างนี้เพื่อให้องค์กรเข้าใจสิ่งที่เกิดขึ้นจริงและจุดที่เปิดรับความเสี่ยง เมื่อเทคโนโลยีเอเจนต์อย่าง OpenClaws พัฒนาขึ้น แนวทางนี้ยิ่งสำคัญ เพราะความเสี่ยงไม่ใช่แค่ว่าเอเจนต์เข้าถึงข้อมูลบางอย่างได้หรือไม่ แต่รวมถึงสิ่งที่มันเข้าถึงได้และความรวดเร็วในการลงมือทำ

ระบบเอเจนต์ AI อย่าง OpenClaws ได้รับความสนใจมากหลังการประชุม NVIDIA (NVDA ) GTC ในมุมมองของคุณ ระบบเหล่านี้แตกต่างจากเครื่องมือ AI รุ่นก่อนอย่างไรในด้านความเสี่ยงความปลอดภัย?

การเข้าใจอัตลักษณ์ที่ไม่ใช่มนุษย์และวิธีรักษาความปลอดภัยให้สิ่งเหล่านี้เป็นเรื่องสำคัญอย่างยิ่งสำหรับทีมความปลอดภัย เพราะ 68% ของเหตุการณ์ความปลอดภัย IT ในปัจจุบันเกี่ยวข้องกับอัตลักษณ์ของเครื่องจักร และครึ่งหนึ่งขององค์กรที่ตอบแบบสำรวจเคยถูกบุกรุกเพราะอัตลักษณ์ที่ไม่ใช่มนุษย์ซึ่งไม่ได้รับการจัดการ อุตสาหกรรมมุ่งเน้นการจัดการสถานะความปลอดภัย SaaS และการกำกับอัตลักษณ์ของมนุษย์ ขณะที่อัตลักษณ์ที่ไม่ใช่มนุษย์เพิ่มจำนวนอยู่เบื้องหลัง เมื่อองค์กรเริ่มใช้เอเจนต์ AI ที่มีสิทธิ์ผู้ดูแลระบบในวงกว้าง ช่องว่างด้านการกำกับดูแลจึงกลายเป็นปัญหาวิกฤต

ระบบเอเจนต์อย่าง OpenClaws แสดงทั้งโอกาสและความเสี่ยงของ AI ที่ทำงานได้อย่างอิสระอย่างแท้จริง นี่เป็นหนึ่งในครั้งแรกๆ ที่เราเห็น AI ถูกปล่อยให้ทำงานในสภาพแวดล้อมจริงด้วยอิสระในการดำเนินการ นอกกรอบเวิร์กโฟลว์ที่แคบและมีผู้กำกับ

เมื่อความสามารถเหล่านี้เข้าถึงได้ง่ายขึ้น ความเสี่ยงก็เปลี่ยนอย่างรวดเร็ว คนที่ไม่ใช่ผู้เชี่ยวชาญสามารถโต้ตอบกับระบบสำคัญเหล่านี้และอาจหาทางใช้ประโยชน์ในทางที่ผิดได้ง่ายขึ้น ผู้คนเชื่อมเอเจนต์ AI เข้ากับ SaaS อยู่แล้ว และขยายพื้นที่เสี่ยงผ่านคีย์ API การเชื่อมต่อในตัว และแอปพลิเคชันบุคคลที่สาม แต่ละเวิร์กโฟลว์ใหม่ที่ใช้เอเจนต์จะทวีจำนวนเส้นทางเข้าถึงระบบ

เหตุการณ์ บุกรุก Vercel เมื่อไม่นานมานี้ แสดงภัยคุกคามที่เพิ่มขึ้นนี้ เมื่อคุณอนุญาตแอปพลิเคชันบุคคลที่สาม คุณกำลังไว้วางใจทุกฝ่ายที่เกี่ยวข้องกับโครงสร้างพื้นฐานของแอปนั้นโดยปริยาย ทั้งผู้ให้บริการคลาวด์ นักพัฒนา และบริการอื่นที่พวกเขาเชื่อมต่อ องค์กรส่วนใหญ่ไม่ทราบว่าตนยอมรับอะไรไปบ้าง และการใช้เอเจนต์ AI อย่างแพร่หลายโดยขาดการควบคุมยิ่งขยายปัญหา

เอเจนต์ AI จำนวนมากทำงานโดยไม่มีกรอบควบคุมทางเทคนิคที่แท้จริง หากไม่มีร่องรอยที่ระบุกิจกรรมของเอเจนต์ได้หรือมีขอบเขตความปลอดภัยที่อ่อนแอ ก็ยากจะทราบว่าเอเจนต์ทำอะไร แตะต้องอะไร และเปลี่ยนอะไรไป จนกว่าจะตรวจสอบย้อนหลัง การรวมกันของปัจจัยเหล่านี้ทำให้ความเสี่ยงแตกต่างจากเครื่องมือ AI รุ่นก่อนอย่างพื้นฐาน

คุณเคยอธิบายว่า OpenClaws อาจเปิดพื้นที่โจมตีใหม่จากสิทธิ์ที่กว้างและอิสระในการทำงาน ช่วยยกตัวอย่างสถานการณ์จริงที่ทำให้ความเสี่ยงนี้เกิดขึ้นกับองค์กรได้หรือไม่? 

ความเสี่ยงจาก OpenClaws เป็นรูปธรรมทันทีที่เอเจนต์ย้ายจากงานแยกเดี่ยวเข้าไปติดตั้งในระบบใช้งานจริง ซึ่งเกิดขึ้นแล้ว

องค์กรส่วนใหญ่สนใจให้คนที่ถูกต้องเข้าถึงเอเจนต์และให้เอเจนต์ทำงานตามคาด แต่มีไม่กี่แห่งที่คิดว่าจะเกิดอะไรขึ้นเมื่อเอเจนต์ตัวหนึ่งเริ่มโต้ตอบกับอีกตัว

ตรงนี้ทำให้พื้นที่โจมตีขยายอย่างมาก ผลลัพธ์จากระบบหนึ่ง เช่น ข้อความ Slack หรืองาน Jira กลายเป็นตัวกระตุ้นการทำงานของอีกระบบ ผู้นำสูญเสียการควบคุมการโต้ตอบและไม่สามารถคงการมองเห็นหรือบันทึกตรวจสอบย้อนหลังที่สม่ำเสมอ เอเจนต์เหล่านี้ยังเชื่อมต่อผ่าน API ของ SaaS พร้อมกันหลายแห่ง ซึ่งหลายแห่งยังไม่มีเกตเวย์หรือมาตรการป้องกันที่เหมาะสม

องค์กรโดยเฉลี่ยใช้เอเจนต์หลายร้อยตัวแล้ว จำนวนนี้เพิ่มขึ้นเกือบ 100 เท่า ในปีที่ผ่านมา เมื่อทีมตรวจสอบจริง พบว่า 38% มีความเสี่ยงระดับปานกลาง สูง หรือวิกฤต ส่วนใหญ่ไม่มีผู้รับผิดชอบที่บันทึกไว้ หลายตัวสร้างโดยบัญชีที่ไม่มีอยู่แล้ว แต่ยังมีตัวเชื่อมต่อกับระบบใช้งานจริงและไม่มีประวัติการทำงานเลย

การอุดช่องว่างนี้ต้องมองลึกเข้าไปในตัวแอปพลิเคชัน เพื่อเข้าใจว่าสิทธิ์การเข้าถึงเหล่านี้ทำอะไรได้จริงในแต่ละระบบ ต่อข้อมูลแต่ละชุด และสำหรับทุกฝ่ายที่อาจเรียกใช้ หากขาดบริบทนี้ เราก็เห็นเพียงครึ่งภาพ ผู้นำต้องเปลี่ยนจากการตรวจจับไปสู่การบังคับใช้มาตรการขณะทำงาน เพื่อปิดกั้นการกระทำ ณ เวลาที่กำลังเกิดขึ้น ก่อนเสร็จสมบูรณ์ แทนที่จะรอให้เกิดความเสียหาย

หลายองค์กรเชื่อว่ามีความปลอดภัย SaaS ที่เพียงพอแล้ว สมมติฐานนี้ล้มเหลวตรงไหนเมื่อระบบเอเจนต์ AI เข้ามามีบทบาท?

หลายองค์กรเชื่อว่าตน “แก้ปัญหา” ความปลอดภัย SaaS แล้ว แต่การนำเอเจนต์ AI มาใช้เร็วขึ้นกำลังท้าทายสมมติฐานนั้น ความปลอดภัย SaaS มักเป็นเพียงรายการที่รอทำเครื่องหมายว่าเสร็จ: อนุมัติงบ ติดตั้งเครื่องมือ แล้วถือว่าจบ แต่ในทางปฏิบัติ API ที่รองรับสภาพแวดล้อม SaaS เหล่านี้ไม่เคยถูกควบคุมได้อย่างครบถ้วน สาเหตุหลักคือองค์กรมีข้อมูลจำกัดมากว่าเกิดอะไรขึ้นในระดับ API และทรัพยากร SaaS ใดสื่อสารกัน

จึงเกิดจุดบอดเชิงโครงสร้าง แม้องค์กรป้องกันอัตลักษณ์และอุปกรณ์ปลายทางได้ แต่กลับมองไม่ชัดว่าข้อมูล SaaS ถูกเข้าถึงและดำเนินการอย่างไรผ่าน API องค์กรจำนวนมากยังเชื่อมตรงจากอินเทอร์เน็ตสาธารณะเข้าสู่ระบบสำคัญ โดยไม่เข้าใจขนาดและพฤติกรรมของการโต้ตอบผ่าน API ที่อยู่เบื้องหลังอย่างครบถ้วน

เอเจนต์ AI กำลังเปิดเผยช่องว่างนี้และสร้างความท้าทายเร็วกว่าทีมจะตามแก้ทัน จึงกลายเป็นตัวเร่งการสนทนาเรื่อง API

องค์กรควรคิดเรื่องการกำกับดูแลอย่างไร เมื่อเอเจนต์ AI อัตโนมัติสามารถเข้าถึง ย้าย และดำเนินการกับข้อมูลข้ามหลายระบบ?  

ตอนนี้ไม่มีผู้นำคนไหนอยากชะลอการนำ AI มาใช้ โดยเฉพาะเมื่อแรงกดดันให้เดินเร็วขึ้นหรือแสดงผลลัพธ์ที่วัดได้เพิ่มสูงขึ้น แม้แต่การใช้โทเค็นยังถูกนำมาประเมิน ในหลายกรณี คำสั่งเรื่อง AI มาจากผู้บริหารสูงสุดโดยตรง CEO รายงานความคืบหน้าให้คณะกรรมการหรือแม้แต่ผู้มีส่วนได้ส่วนเสียภายนอก จึงยิ่งเร่งแรงกดดันให้รีบนำมาใช้ เมื่อ “AI ไม่ว่าจะต้องแลกด้วยอะไร” กลายเป็นท่าทีหลัก การตั้งค่าผิดและการให้สิทธิ์มากเกินไปก็ไม่อาจแก้ได้เร็วพอด้วยวงจรกำกับดูแลแบบเดิม

ปัญหาคือระบบเอเจนต์ไม่รอให้แก้ไข มันค้นหาระบบ เชื่อมการกระทำเป็นลำดับ และทำเวิร์กโฟลว์ข้ามแอปพลิเคชัน SaaS หลายตัวได้ในไม่กี่วินาที โดยมักทำเสร็จ สิบขั้นตอนขึ้นไป ก่อนมนุษย์จะทันสังเกตเห็นด้วยซ้ำ นับประสาอะไรกับการเข้าไปแทรกแซง

การกำกับดูแลจึงไม่ใช่เพียงการพบปัญหาแต่เนิ่นๆ ในวงจรพัฒนา แต่เน้นการควบคุมในเวลาที่เอเจนต์กำลังลงมือจริงมากขึ้น ผู้นำความปลอดภัยไม่สามารถกำกับเอเจนต์ได้อย่างมีประสิทธิภาพหากมาตรการควบคุมเกิดขึ้นหลังการใช้งานในทางที่ผิดเท่านั้น

ในโลกที่เอเจนต์ตัดสินใจเองข้ามระบบ SaaS แนวทางเดียวที่ใช้ป้องกันภัยเหล่านี้ได้จริงคือการกำกับดูแลระหว่างการทำงาน ต้องก้าวพ้นการตรวจจับหลังการกระทำ ไปสู่การตรวจจับและปิดกั้นการยกระดับสิทธิ์ การเข้าถึงข้อมูลมากเกินไป และการละเมิดนโยบายก่อนส่งผลต่อองค์กร มาตรการเหล่านี้ต้องสอดคล้องกับมาตรฐาน OWASP และแนวปฏิบัติที่ดีของอุตสาหกรรม เพื่อให้เอเจนต์อยู่ในขอบเขตที่ชัดเจนและบังคับใช้ได้ ทีมจึงตามทันการนำเอเจนต์ AI มาใช้โดยไม่ลดทอนนวัตกรรม

ในด้านเทคนิค ช่องโหว่ที่เอเจนต์ AI นำเข้าสู่สภาพแวดล้อม SaaS และมักถูกมองข้ามมากที่สุดคืออะไร?

เมื่อองค์กรนำเครื่องมือ SaaS ใหม่มาใช้ มักพบว่ามีการเพิ่มฟังก์ชัน AI อย่างเงียบๆ หรือเปิดไว้เป็นค่าเริ่มต้น ปัญหาคือฟังก์ชันเหล่านี้มักไม่มีความสามารถในการตั้งค่าและตรวจสอบย้อนหลังในระดับเดียวกับที่ทีมความปลอดภัยพึ่งพาสำหรับฟังก์ชัน SaaS แบบเดิม เมื่อเกิดการกระทำจึงแยกได้ยากว่าผู้ใช้ที่เป็นมนุษย์หรือเอเจนต์อัตโนมัติเป็นผู้เริ่ม ในหลายกรณีองค์กรไม่มีทางปิดฟังก์ชัน AI เพราะมันฝังอยู่ในแอปพลิเคชัน SaaS เอง

ความคลุมเครือนี้สร้างจุดบอดสำคัญต่อความปลอดภัยและการกำกับดูแล หากฟังก์ชัน AI ที่ฝังอยู่ตัดสินใจแทนผู้ใช้ องค์กรมักไม่มีวิธีชัดเจนในการติดตามเจตนา เข้าใจตรรกะการตัดสินใจ หรือแม้แต่ยืนยันว่าอะไรเป็นตัวกระตุ้นการกระทำนั้น

ความเสี่ยงยิ่งชัดเมื่อพิจารณาห่วงโซ่อุปทาน AI ภายใน SaaS ฟังก์ชันที่ฝังอยู่มักพึ่งพาโมเดล บริการ และการเชื่อมต่อบุคคลที่สามต้นทาง หากส่วนใดถูกบุกรุก ประสิทธิภาพเสื่อมลง หรือถูกชักใย AI ใน SaaS ก็อาจทำให้แอปพลิเคชันธุรกิจที่เชื่อถือได้กลายเป็นผู้ร่วมดำเนินการในเส้นทางโจมตี

ชั้น AI ภายใน SaaS กลายเป็นห่วงโซ่อุปทานของตัวเอง และนำความเสี่ยงประเภทใหม่ที่ต้องเฝ้าติดตามและกำกับแยกต่างหาก หากไม่เห็นว่าระบบ AI ที่ฝังอยู่ทำงานอย่างไรและพึ่งพาข้อมูลใด องค์กรก็จะมองไม่เห็นส่วนที่เพิ่มขึ้นของพื้นที่โจมตีใน SaaS

คุณมีประสบการณ์มากในการวัดคุณค่าทางธุรกิจและความเสี่ยง องค์กรควรวัดความเสี่ยงทางการเงินและชื่อเสียงที่เกี่ยวข้องกับเอเจนต์ AI ที่ไม่ปลอดภัยอย่างไร?  

หากเอเจนต์ AI ถูกใช้ผิดทางหรือก่อให้เกิดการบุกรุก ผลทันทีไม่ใช่แค่เหตุการณ์นั้น แต่รวมถึงการตอบสนองขององค์กรที่ตามมา เหตุการณ์จะลดความเร็วที่บริษัทเต็มใจนำ AI มาใช้และขยายการใช้งาน เพราะผู้นำระมัดระวังมากขึ้น เมื่อความไว้วางใจเสียไป การเริ่มกลไกนวัตกรรมที่เคยสร้างคุณค่าขึ้นใหม่จะยากกว่าเดิมมาก

ผลนี้ขยายจากทีมภายในไปถึงผู้มีส่วนได้ส่วนเสียภายนอก คณะกรรมการ ลูกค้า และผู้ถือหุ้นคาดหวังการใช้งานอย่างรับผิดชอบ ความล้มเหลวใดที่เกี่ยวข้องกับเอเจนต์อัตโนมัติจึงกลายเป็นประเด็นความรับผิดชอบในการดูแลผลประโยชน์ที่ได้รับมอบหมายและชื่อเสียงอย่างรวดเร็ว หากไม่ออกแบบความปลอดภัยไว้ตั้งแต่ต้น องค์กรจะถูกบังคับให้กลับมาพูดเรื่องการควบคุมและความปลอดภัยเพื่อตอบสนองปัญหาภายหลัง ซึ่งชะลอการตัดสินใจทั่วองค์กรอย่างหลีกเลี่ยงไม่ได้

ยังมีความเสี่ยงทางการเงินเชิงโครงสร้างที่มักถูกมองข้าม เมื่อการรับรู้ถึงขนาดความเสียหายที่เอเจนต์ AI อาจก่อเพิ่มขึ้น บริษัทจะระมัดระวังการจัดสรรทุนมากขึ้น บางครั้งจึงกันเงินไว้หรือเลื่อนการลงทุนเพื่อป้องกันเหตุการณ์ที่อาจเกิด

ความปลอดภัยของเอเจนต์ AI จึงไม่ใช่เพียงการลดความเสี่ยง แต่เกี่ยวข้องกับรายได้และการเติบโต องค์กรที่ใช้ AI ได้อย่างมั่นใจ รู้ว่าเอเจนต์ถูกกำกับและจำกัดขอบเขต จะเดินหน้าได้เร็วขึ้น ส่วนองค์กรที่ขาดความมั่นใจจะชะลอตัวเอง ในปี 2026 ความสามารถในการรวมความเร็วเข้ากับความไว้วางใจกำลังกลายเป็นข้อได้เปรียบที่ทรงพลัง

มีความตึงเครียดระหว่างการนำ AI มาใช้อย่างรวดเร็วกับการใช้งานอย่างรับผิดชอบ กลยุทธ์ที่สมดุลควรเป็นอย่างไรสำหรับองค์กรที่ต้องการสร้างนวัตกรรมโดยไม่เพิ่มความเสี่ยง?  

ตอนนี้ช่องว่างสำคัญอย่างหนึ่งระหว่างการนำ AI มาใช้กับการใช้อย่างรับผิดชอบคือการสื่อสาร หลายองค์กรใช้ AI อย่างจริงจังใน SaaS แต่ไม่ได้สื่อสารต่อภายนอกอย่างชัดเจนและสม่ำเสมอว่าใช้อย่างไรและมีมาตรการป้องกันใด การขาดความโปร่งใสอาจเพิ่มความเสี่ยง เพราะลูกค้าและพันธมิตรคาดเดาสถานการณ์ที่เลวร้ายที่สุด แทนที่จะเข้าใจมาตรการควบคุมที่มีจริง

แนวทางที่สมดุลกว่าจะถือว่าการใช้ AI อย่างรับผิดชอบเป็นส่วนหนึ่งของคุณค่าที่เสนอ ไม่ใช่แค่การทำตามข้อกำหนดภายใน องค์กรมีโอกาสอธิบายให้ชัดว่า AI ถูกกำกับอย่างไร ทำอะไรได้และไม่ได้ และมีการป้องกันใดเมื่อโต้ตอบกับระบบอ่อนไหว ความชัดเจนนี้สร้างความไว้วางใจและช่วยขยายการใช้ AI อย่างปลอดภัย

บริษัทที่อธิบายการใช้ AI ใน SaaS ได้ชัด และแสดงให้เห็นว่ามีการควบคุมอย่างเป็นระบบและตรวจสังเกตได้ จะสร้างนวัตกรรมได้เร็วขึ้นโดยไม่เพิ่มความเสี่ยงที่ผู้อื่นรับรู้

เมื่อองค์กรทดลองเอเจนต์ AI มากขึ้น ทีมความปลอดภัยควรทำอะไรทันทีเพื่อหลีกเลี่ยงการเป็นเหยื่อการบุกรุกครั้งต่อไปที่ขึ้นพาดหัวข่าว?  

เอเจนต์ AI ไม่เพียงนำความเสี่ยงประเภทใหม่ แต่ยังเร่งความเสี่ยงที่องค์กรมองไม่เห็นด้วย อันที่จริง Shadow AI เพิ่มค่าใช้จ่ายเฉลี่ยของการบุกรุกอีก 670,000 ดอลลาร์ แต่ปัญหาหลักคือการมองเห็น เมื่อองค์กรไม่ทราบว่า AI ถูกใช้ที่ไหนหรือโต้ตอบกับระบบอย่างไร ก็ต้องใช้เวลานานขึ้นในการตรวจจับและจำกัดเหตุการณ์ ส่งผลโดยตรงให้ผลกระทบทางการเงินและกฎระเบียบเพิ่มขึ้น

ขั้นแรกคือต้องสร้างการมองเห็นทั่วทั้งธุรกิจ ทีมความปลอดภัยต้องมีภาพชัดของการใช้ AI ทั้งที่ได้รับอนุมัติและไม่ได้รับอนุมัติ ไม่ใช่แค่ระดับแอปพลิเคชัน แต่ครอบคลุมเวิร์กโฟลว์ที่ AI กำลังตัดสินใจหรือมีอิทธิพลต่อการตัดสินใจด้วย

เมื่อมองเห็นแล้ว ต้องเปลี่ยนข้อมูลนั้นเป็นนโยบายที่บังคับใช้ได้และฝังในระบบที่เกิดงานจริง โดยร่วมกับฝ่ายธุรกิจตกลงว่าจะใช้ AI อย่างไร แล้วเปลี่ยนจากเอกสารไปสู่มาตรการทางเทคนิคบนอุปกรณ์ปลายทาง แพลตฟอร์ม SaaS และระบบเอเจนต์ ยิ่งนำมาตรการเข้าสู่เส้นทางการทำงานได้เร็วเท่าไร โอกาสเกิดเหตุการณ์จาก Shadow AI และเอเจนต์อัตโนมัติที่มีค่าใช้จ่ายสูงและควบคุมความเสียหายได้ยากก็ยิ่งต่ำลง

เมื่อมองไปข้างหน้า คุณเห็นภาพความปลอดภัยจะเปลี่ยนอย่างไร เมื่อระบบเอเจนต์ AI ผสานลึกขึ้นในโครงสร้างพื้นฐานองค์กร?

องค์กรจะต้องมีความปลอดภัยที่ออกแบบมาสำหรับ AI โดยเฉพาะเพื่อรับมือภัยคุกคามจาก AI ระบบเหล่านี้ต้องทำงานด้วยความเร็วระดับเครื่องจักร ซึ่งจะเปลี่ยนงานความปลอดภัยอย่างพื้นฐาน มนุษย์ยังมีส่วนในกระบวนการ แต่จะหันไปกำกับดูแลเชิงกลยุทธ์ ใช้บริบทและวิจารณญาณที่ AI ยังขาด

การเปลี่ยนแปลงนี้จะปรับโครงสร้างทีมความปลอดภัยด้วย ทีมอาจไม่เล็กลง แต่ขอบเขตงานจะกว้างขึ้นมาก ผู้เชี่ยวชาญหนึ่งคนจะดูแลพื้นที่ใหญ่ขึ้นผ่านระบบอัตโนมัติและเครื่องมือ AI

นอกจากนี้ การเฝ้าติดตามและตรวจจับอย่างเดียวไม่พอในสภาพแวดล้อมที่มีเอเจนต์ องค์กรต้องมีกลไกบังคับใช้มาตรการจริง ต้องสร้างระบบที่ทำหน้าที่เสมือนสวิตช์ เปิดหรือปิดความสามารถ จำกัดพฤติกรรมแบบเรียลไทม์ และแยกระบบที่ทำงานผิดหรืออาจเป็นอันตรายต่อองค์กรส่วนอื่น ความเสี่ยงในห่วงโซ่อุปทาน AI สูงเกินกว่าจะไม่มีระบบหยุดฉุกเฉินฝังอยู่ในสถาปัตยกรรม

AI จะพัฒนาความเร็วต่อไปและอาจเกินความเร็วและความสามารถของมนุษย์ แต่เราจะคุยเฉพาะความเสี่ยงไม่ได้ ต้องรวมโอกาสด้วย เช่นเดียวกับการเลี้ยงเด็ก AI จะเติบโตและผิดพลาด แต่ก็อาจเหนือกว่าเรา ผู้ชนะคือผู้ที่ใช้ AI ในวงกว้างพร้อมสร้างระบบควบคุมที่จำเป็นเพื่อให้ใช้งานได้อย่างปลอดภัยและน่าไว้วางใจ

ขอบคุณสำหรับบทสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านที่สนใจสามารถศึกษาเพิ่มเติมได้ที่ Obsidian Security.