การใช้จ่ายด้านความปลอดภัยของ AI ที่เพิ่มขึ้นไม่ได้ลดความเสี่ยงใดๆ ของ AI ของคุณ

งบประมาณด้านความปลอดภัยของ AI กำลังเพิ่มขึ้นอย่างรวดเร็ว ในหลายองค์กร งบประมาณด้านความปลอดภัยเหล่านี้เพิ่มขึ้นเร็วกว่าระบบที่พวกเขาต้องปกป้อง

ความไม่สมดุลนี้สามารถพลาดได้ง่าย การลงทุนในด้านปัญญาประดิษฐ์ยังคงเพิ่มขึ้นอย่างต่อเนื่อง โดยมีการลงทุนจากภาคเอกชนระดับโลกถึง 33.9 พันล้านดอลลาร์ใน năm 2025 เพียงอย่างเดียว ในขณะเดียวกัน ผู้นำด้านความปลอดภัยถูกขอให้คำนวณความเสี่ยงใหม่ที่เกี่ยวข้องกับการทำงานของแบบจำลอง การเปิดเผยข้อมูล และการยักย้ายของฝ่ายตรงข้าม การตอบสนองมักจะเป็นไปตามที่คาดไว้: มีเครื่องมือมากขึ้น การควบคุมมากขึ้น และงบประมาณมากขึ้น

มันทำให้เราต้องการพูดถึงต้นทุนในการดำเนินธุรกิจ แต่นั่นไม่ใช่วิธีที่ถูกต้องในการเข้าใกล้ปัญหานี้ องค์กรต่างๆ ต้องตรวจสอบว่าการลงทุนใน AI ของตน是否ปกป้องเครื่องมือที่ถูกต้องหรือไม่

ทั่วทั้งองค์กรส่วนใหญ่ AI ยังคงถูกนำมาใช้ที่ระดับงาน ทีมงานทดลองกับการสรุป การช่วยเหลือการเขียนโค้ด การวิเคราะห์ หรือการทำงานอัตโนมัติเพื่อเพิ่มผลผลิตของแต่ละคน เครื่องมือเหล่านี้ให้ผลประโยชน์ที่มีจำกัด แต่ไม่เปลี่ยนแปลงวิธีการตัดสินใจหรือการทำงานของระบบในระดับที่กว้างขึ้น ช่องว่างนี้เริ่มปรากฏในผลลัพธ์ แม้ว่าการนำไปใช้จะแพร่หลาย แต่เพียง 20% ขององค์กรที่รายงานผลกระทบอย่างมีนัยสำคัญต่อผลกำไร

การลงทุนด้านความปลอดภัยกำลังเพิ่มขึ้นพร้อมกับการทดลองนี้ แต่ในหลายกรณี มันถูกนำไปใช้กับเครื่องมือที่ไม่เชื่อมต่อกันมากกว่าระบบที่สอดคล้องกันซึ่งกำหนดวิธีการดำเนินธุรกิจ AI ถูกประเมินที่ระดับงาน ปกป้องที่ระดับระบบ และไม่เคยออกแบบที่ระดับงานที่มีคุณค่าจริง

การนำไปใช้ AI กำลังขยายตัวเร็วกว่าการบูรณาการ

การนำไปใช้ AI ส่วนใหญ่ในปัจจุบันถูกออกแบบให้แคบ พวกมันถูกสร้างขึ้นเพื่อทำให้งานแต่ละงานเร็วขึ้น มากกว่าที่จะเปลี่ยนแปลงวิธีการทำงานของทีมหรือระบบ

ทีมขายอาจนำ AI มาใช้เพื่อสร้างอีเมลหรือสรุปการโทร ทีมวิศวกรใช้ AI เพื่อเร่งการสร้างโค้ด ทีมงานใช้ AI เพื่อทดลองกับการวิเคราะห์หรือการคาดการณ์ แต่ละกรณีการใช้งานเหล่านี้ให้ผลประโยชน์ที่วัดได้ระดับบุคคล และมักจะเพียงพอในการยืนยันการลงทุนเริ่มแรก

ความซับซ้อนเริ่มต้นเมื่อผลประโยชน์เหล่านี้สะสม

การนำไปใช้แต่ละครั้งนำโมเดล การเข้าถึงข้อมูล รูปแบบ API และความพึ่งพาใหม่ๆ มาให้ เมื่อเวลาผ่านไป องค์กรพบว่าตัวเองกำลังจัดการระบบนิเวศที่เติบโตของความสามารถ AI ที่ไม่เคยออกแบบมาให้ทำงานร่วมกัน

ทีมความปลอดภัยสืบทอดสภาพแวดล้อมนี้ตามที่มันเกิดขึ้น พวกเขาต้องปกป้องไม่ใช่ระบบเดียว แต่คอลเลกชันเครื่องมือ การผสานรวม และการไหลของข้อมูลที่ขยายออกไปพร้อมกับการทดลองใหม่ๆ

ความเสี่ยงที่แท้จริงไม่ใช่เครื่องมือแต่ละตัว แต่เป็นการกระจายตัวของระบบ

เมื่อการทดลอง AI ยังคงดำเนินต่อไป ความคาดหวังของฝ่ายบริหารเริ่มเปลี่ยนไป คณะกรรมการและทีมผู้บริหารถามว่าการใช้จ่าย AI ที่เพิ่มขึ้นแปลเป็นผลลัพธ์ทางธุรกิจที่วัดได้อย่างไร

เมื่อโครงการเริ่มแรกไม่ประสบความสำเร็จ องค์กรไม่ชะลอการดำเนินการ พวกเขาขยายความพยายาม มีการเปิดตัวโครงการใหม่ๆ มากขึ้น เครื่องมือใหม่ๆ ถูกนำเข้ามา และการผสานรวมใหม่ๆ ถูกสร้างขึ้นเพื่อค้นหาคุณค่าที่ยังไม่เกิดขึ้น การคาดการณ์แล้วว่ามากกว่าครึ่งหนึ่งของโครงการ AI อาจล้มเหลวในการเข้าสู่การผลิตหรือให้ผลลัพธ์ที่คาดหวังในอีกไม่กี่ปีข้างหน้า

สำหรับทีมความปลอดภัย วงจรนี้สร้างความเสี่ยงใหม่

ความท้าทายไม่ใช่แค่การปกป้องแอปพลิเคชันหรือโมเดลแต่ละตัว แต่เป็นการจัดการสภาพแวดล้อมที่ฐานระบบเปลี่ยนแปลงอยู่ตลอดเวลา เครื่องมือใหม่ๆ แต่ละตัวนำตัวตน ข้อมูลไหล และพฤติกรรมโมเดลใหม่ๆ มาให้ ซึ่งทำให้พื้นผิวการโจมตีขยายออกไปก่อนที่ผู้ป้องกันจะเข้าใจมันอย่างเต็มที่

การลงทุนด้านความปลอดภัยกลายเป็นเชิงกลยุทธ์เมื่อ AI กลายเป็นเชิงปฏิบัติการ

เรามีความก้าวหน้าอย่างมากจากผลลัพธ์ของการลงทุนด้านความปลอดภัยของ AI แต่การลงทุนด้านความปลอดภัยมักไม่เชื่อมโยงกับจุดที่ AI สร้างคุณค่าจริง

เมื่อ AI ถูกใช้หลักๆ เป็นเครื่องมือเพื่อเพิ่มผลผลิตที่ระดับงาน การลงทุนด้านความปลอดภัยถูกบังคับให้ติดตามการกระจายตัวนี้ ทีมงานจบลงด้วยการปกป้องแอปพลิเคชันที่ไม่เชื่อมต่อกันหลายตัวที่มีอิทธิพลต่อผลลัพธ์ทางธุรกิจเพียงเล็กน้อย

คุณค่าที่มากขึ้นเกิดขึ้นเมื่อ AI ถูกฝังอยู่ในกระบวนการทำงานที่ขับเคลื่อนการดำเนินงานขององค์กร การวางแผน การคาดการณ์ การจัดสรรทรัพยากร และการตัดสินใจดำเนินงานเป็นจุดที่ AI เริ่มมีอิทธิพลต่อผลลัพธ์อย่างมีนัยสำคัญ นี่คือสภาพแวดล้อมที่การลงทุนด้านความปลอดภัยกลายเป็นเชิงกลยุทธ์มากขึ้น

การเปลี่ยนแปลงต้องเกิดขึ้นเร็วๆ นี้

องค์กรไม่ต้องการโครงการ AI น้อยลง แต่ต้องการโครงการที่มีเจตนามากกว่า

การเปลี่ยนแปลงแรกคือการประเมินความสำเร็จของ AI หากการนำไปใช้ไม่เปลี่ยนแปลงวิธีการตัดสินใจหรือการทำงานของทีม ผลกระทบจะยังคงมีจำกัด ไม่ว่าจะถูกนำไปใช้กี่ครั้ง การวัดความสำเร็จที่ระดับกระบวนการทำงานให้สัญญาณที่ชัดเจนยิ่งขึ้นว่า AI กำลังสร้างคุณค่าจริงที่ไหน

การเปลี่ยนแปลงที่สองคือการให้ความสำคัญกับการลงทุนด้านความปลอดภัย องค์กรควร集中การปกป้องรอบๆ ระบบที่มีอิทธิพลต่อการวางแผน การดำเนินงาน และการตัดสินใจ มากกว่าที่จะกระจายการควบคุมไปทั่วเครื่องมือทดลองต่างๆ

การเปลี่ยนแปลงที่สามคือโครงสร้าง ระบบ AI นำรูปแบบการเป็นเจ้าของใหม่ๆ มาให้ ซึ่ง延伸ออกไปนอกขอบเขตของแอปพลิเคชันแบบดั้งเดิม โมเดล ข้อมูลฝึกอบรม ข้อมูลไหล และผลลัพธ์ที่สร้างโดย AI ต้องการความรับผิดชอบที่ชัดเจน โดยไม่มีการเป็นเจ้าของที่กำหนดไว้ การกำกับดูแลจะไม่สอดคล้องกัน และช่องโหว่ด้านความปลอดภัยจะยากต่อการระบุ

การสร้างระบบ AI ที่สามารถขยายขนาดได้จริง

องค์กรที่จัดตำแหน่งการนำไปใช้ AI กับการออกแบบที่ระดับกระบวนการทำงานจะได้รับเส้นทางที่ชัดเจนยิ่งขึ้นไปสู่คุณค่าและความปลอดภัย

ทรัพยากรด้านความปลอดภัยมีประสิทธิภาพมากขึ้นเมื่อมีการมุ่งเน้นไปที่ระบบที่สำคัญที่สุด มากกว่าที่จะกระจายไปทั่วการลองผิดลองถูกต่างๆ ผู้นำมีความเข้าใจที่ดีขึ้นเกี่ยวกับวิธีการลงทุน AI แปลเป็นผลกระทบการดำเนินงาน เมื่อเวลาผ่านไป โปรแกรม AI กลายเป็นมีความยั่งยืนมากขึ้น เพราะพวกมันถูกสร้างขึ้นบนระบบที่มีโครงสร้าง มากกว่าเครื่องมือที่สะสม

การลงทุน AI ไม่ได้ชะลอตัวลง การใช้จ่ายด้านความปลอดภัยจะยังคงเพิ่มขึ้นพร้อมกับมัน ความแตกต่างจะลงไปที่ว่าการลงทุนเหล่านี้ถูกนำไปใช้อย่างไร

องค์กรที่ยังคงปรับขนาด AI ที่ระดับงานจะพบว่าตัวเองกำลังปกป้องพื้นผิวที่ขยายตัวของเครื่องมือที่ไม่เชื่อมต่อกัน องค์กรที่ออกแบบ AI ที่ระดับกระบวนการทำงานจะปกป้องระบบที่แท้จริงมีค่าในการปกป้อง