ผู้นำทางความคิด

LLM และ AI เชิงกำเนิดจะแก้ปัญหาความปลอดภัยแอปพลิเคชันที่ยืดเยื้อมานาน 20 ปีได้หรือไม่?

Neatsun Ziv
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญAI…
ดูเพิ่มเติม
  • AI สร้างสรรค์สามารถตรวจจับช่องโหว่ได้โดยอัตโนมัติผ่านการเรียนรู้จากคลังโค้ดขนาดใหญ่อย่าง GitHub
  • LLMs สามารถสร้างสถานการณ์โจมตีที่สมจริงได้ เช่น การทดสอบความปลอดภัยแบบไดนามิกของ BurpGPT
  • การสร้างแพตช์ด้วย AI ร่วมกับการทดสอบอัตโนมัติอาจช่วยก้าวข้ามการต่อต้านแบบเดิมในอุตสาหกรรมได้

ในภูมิทัศน์ของความปลอดภัยทางไซเบอร์ที่เปลี่ยนแปลงอยู่ตลอดเวลา การก้าวนำผู้โจมตีที่ประสงค์ร้ายอยู่หนึ่งก้าวเป็นเรื่องที่ท้าทายอย่างมาก ในช่วงสองทศวรรษที่ผ่านมา ปัญหาเรื่องความปลอดภัยของแอปพลิเคชันยังคงอยู่ โดยวิธีการแบบดั้งเดิมมักจะล้มเหลวในการตรวจจับและบรรเทาผลกระทบจากภัยคุกคามที่เกิดขึ้นใหม่ๆ อย่างไรก็ตาม เทคโนโลยีใหม่ที่มีแนวโน้มคือ Generative AI (GenAI) พร้อมที่จะปฏิวัติวงการนี้ ในบทความนี้ เราจะสำรวจว่า Generative AI มีความเกี่ยวข้องกับความปลอดภัยได้อย่างไร ทำไมมันจึงสามารถแก้ไขความท้าทายที่ยาวนานซึ่งวิธีการก่อนหน้านี้ไม่สามารถแก้ไขได้ การเปลี่ยนแปลงที่อาจเกิดขึ้นที่มันสามารถนำมาใช้ได้ และมันแตกต่างจากโมเดล Machine Learning (ML) ที่เก่ากว่าอย่างไร

ทำไมปัญหาเหล่านี้ต้องการเทคโนโลยีใหม่

ปัญหาเรื่องความปลอดภัยของแอปพลิเคชันคือปัญหาหลายด้านและซับซ้อน วิธีการรักษาความปลอดภัยแบบดั้งเดิมส่วนใหญ่พึ่งพาการจับคู่รูปแบบ การตรวจจับจากลายเซ็น และวิธีการตามกฎ ขณะที่มีประสิทธิภาพในกรณีที่ง่าย แต่วิธีการเหล่านี้ต้องดิ้นรนเพื่อจัดการกับวิธีการเขียนโค้ดและกำหนดค่าระบบที่หลากหลายของนักพัฒนา ผู้กระทำผิดที่มีเจตนาเปลี่ยนแปลงเทคนิคการโจมตีของตนอย่างต่อเนื่อง ขยายพื้นที่โจมตี และทำให้การจับคู่รูปแบบไม่เพียงพอในการป้องกันความเสี่ยงที่เกิดขึ้นใหม่ๆ สิ่งนี้ทำให้เกิดความจำเป็นในการเปลี่ยนแปลงแนวทางในการรักษาความปลอดภัย และ Generative AI ถือเป็นกุญแจที่อาจช่วยแก้ไขความท้าทายเหล่านี้ได้

เวทมนตร์ของ LLM ในด้านความปลอดภัย

Generative AI คือความก้าวหน้าเหนือโมเดลที่เก่ากว่าที่ใช้ในอัลกอริทึมการเรียนรู้ของเครื่อง ซึ่งดีในการจัดประเภทหรือจัดกลุ่มข้อมูลตามตัวอย่างสังเคราะห์ที่ได้รับการฝึกอบรม LLM รุ่นใหม่ถูกฝึกอบรมจากตัวอย่างหลายล้านรายการจากคลังโค้ดขนาดใหญ่ (เช่น GitHub) ซึ่งบางส่วนมีการระบุปัญหาเกี่ยวกับความปลอดภัย โดยการเรียนรู้จากข้อมูลจำนวนมาก โมเดล LLM สามารถเข้าใจรูปแบบ โครงสร้าง และความสัมพันธ์ที่เป็นพื้นฐานภายในโค้ดแอปพลิเคชันและสภาพแวดล้อม ทำให้สามารถระบุช่องโหว่ที่อาจมีอยู่และคาดการณ์ช่องทางโจมตีได้เมื่อได้รับอินพุตและข้อมูลเริ่มต้นที่เหมาะสม

ความก้าวหน้าอีกอย่างหนึ่งคือความสามารถในการสร้างตัวอย่างการแก้ไขที่สมจริง ซึ่งสามารถช่วยให้นักพัฒนาทำความเข้าใจสาเหตุของปัญหาและแก้ไขปัญหาได้เร็วขึ้น โดยเฉพาะอย่างยิ่งในองค์กรที่ซับซ้อน ซึ่งผู้เชี่ยวชาญความปลอดภัยทำงานแยกกันเป็นส่วน ๆ ภายในองค์กรและมีภาระงานล้นมือ

การเปลี่ยนแปลงที่กำลังจะเกิดขึ้นซึ่งได้รับการสนับสนุนจาก GenAI

Generative AI มีศักยภาพที่จะเปลี่ยนแปลงระบบนิเวศของความปลอดภัยของแอปพลิเคชันในหลายๆ ด้าน:

การตรวจจับช่องโหว่ด้วยอัตโนมัติ: เครื่องมือสแกนช่องโหว่แบบดั้งเดิมมักจะพึ่งพาการกำหนดกฎด้วยตนเองหรือการจับคู่รูปแบบที่จำกัด Generative AI สามารถทำให้กระบวนการนี้เป็นอัตโนมัติได้โดยการเรียนรู้จากคลังโค้ดและสร้างตัวอย่างสังเคราะห์เพื่อระบุช่องโหว่ ลดเวลาและความพยายามที่จำเป็นสำหรับการวิเคราะห์แบบแมนนวล

การจำลองการโจมตีของฝ่ายตรงข้าม: การทดสอบความปลอดภัยโดยทั่วไปเกี่ยวข้องกับการจำลองการโจมตีเพื่อระบุจุดอ่อนในแอปพลิเคชัน Generative AI สามารถสร้างสถานการณ์การโจมตีที่สมจริง รวมถึงการโจมตีหลายขั้นตอนที่ซับซ้อน ทำให้องค์กรสามารถเสริมสร้างการป้องกันของตนเองได้ ตัวอย่างที่ดีคือ “BurpGPT” ซึ่งเป็นการผสมผสานระหว่าง GPT และ Burp ช่วยในการตรวจจับปัญหาเกี่ยวกับความปลอดภัยแบบไดนามิก

การสร้างแพตช์แบบอัจฉริยะ: การสร้างแพตช์ที่มีประสิทธิภาพสำหรับช่องโหว่คืองานที่ซับซ้อน Generative AI สามารถวิเคราะห์ฐานโค้ดที่มีอยู่และสร้างแพตช์ที่แก้ไขช่องโหว่เฉพาะได้ ซึ่งช่วยลดเวลาและข้อผิดพลาดของมนุษย์ในกระบวนการสร้างแพตช์

แม้ว่าการแก้ไขเหล่านี้จะถูกปฏิเสธโดยอุตสาหกรรมในอดีต แต่การผสมผสานระหว่างการแก้ไขโค้ดอัตโนมัติและการสร้างการทดสอบโดย GenAI อาจเป็นวิธีที่ดีสำหรับอุตสาหกรรมในการผลักดันขอบเขตไปสู่ระดับใหม่

การยกระดับข้อมูลข่าวกรองภัยคุกคาม: Generative AI สามารถวิเคราะห์ปริมาณข้อมูลความปลอดภัยที่ใหญ่ รวมถึงรายงานช่องโหว่ รูปแบบการโจมตี และตัวอย่างมัลแวร์ GenAI สามารถเพิ่มความสามารถด้านการวิเคราะห์ภัยคุกคามได้อย่างมากโดยการสร้างข้อมูลเชิงลึกและระบุแนวโน้มที่เกิดขึ้นใหม่จากสัญญาณเริ่มต้นไปจนถึงคู่มือรับมือที่นำไปปฏิบัติได้จริง เพื่อรองรับกลยุทธ์ป้องกันเชิงรุก

อนาคตของ LLM และความปลอดภัยของแอปพลิเคชัน

LLM ยังคงมีช่องว่างในการบรรลุความปลอดภัยของแอปพลิเคชันที่สมบูรณ์แบบเนื่องจากความเข้าใจบริบทที่จำกัด การครอบคลุมโค้ดที่ไม่สมบูรณ์ การประเมินแบบเรียลไทม์ที่ไม่มี และการขาดความรู้เฉพาะโดเมน เพื่อแก้ไขช่องว่างเหล่านี้ในอีกไม่กี่ปีข้างหน้า วิธีแก้ปัญหาที่น่าจะเป็นไปได้คือการผสมผสานแนวทาง LLM กับเครื่องมือรักษาความปลอดภัยเฉพาะจุด แหล่งข้อมูลเสริมภายนอก และเครื่องมือสแกน การพัฒนาอย่างต่อเนื่องในด้าน AI และความปลอดภัยจะช่วยลดช่องว่างเหล่านี้

โดยทั่วไป หากคุณมีเซตข้อมูลที่ใหญ่ขึ้น คุณสามารถสร้าง LLM ที่แม่นยำขึ้นได้ สิ่งนี้ใช้ได้กับโค้ดด้วย เมื่อเรามีโค้ดมากขึ้นในภาษาเดียวกัน เราจะสามารถใช้มันเพื่อสร้าง LLM ที่ดีขึ้น ซึ่งจะช่วยขับเคลื่อนการสร้างโค้ดและความปลอดภัยที่ดีขึ้นในอนาคต

เราคาดว่าในอีกไม่กี่ปีข้างหน้า เราจะได้เห็นการพัฒนาที่สำคัญในเทคโนโลยี LLM รวมถึงความสามารถในการรองรับจำนวนโทเค็นที่มากขึ้น ซึ่งมีศักยภาพที่จะปรับปรุงความปลอดภัยทางไซเบอร์โดยอาศัย AI ในหลายๆ ด้าน

Neatsun Ziv เป็น CEO และผู้ร่วมก่อตั้ง OX Security ซึ่งเป็นโซลูชันแรกด้านความปลอดภัยของห่วงโซ่อุปทานซอฟต์แวร์แบบ end-to-end สำหรับ DevSecOps ก่อนที่จะก่อตั้ง OX เขาเคยดำรงตำแหน่ง รองประธานฝ่ายความปลอดภัยไซเบอร์ ที่ Check Point โดยดูแลโครงการริเริ่มด้านไซเบอร์ทั้งหมด ทีมของเขาเป็นหนึ่งในทีมแรกที่ตอบสนองต่อการโจมตี SolarWinds, NotPetya และการโจมตีสำคัญอื่นๆ โดยทำงานอย่างใกล้ชิดกับ Interpol, Local CERT และหน่วยงานบังคับใช้กฎหมายอื่นๆ