เจนเนอรेटีฟ AI ในด้านความปลอดภัยไซเบอร์: สนามรบ ความคุกคาม และการป้องกัน

สนามรบ

สิ่งที่เริ่มต้นด้วยความตื่นเต้นเกี่ยวกับความสามารถของเจนเนอรेटีฟ AI ได้เปลี่ยนเป็นความกังวลอย่างรวดเร็ว เจนเนอรेटีฟ AI เช่น ChatGPT, Google Bard, Dall-E เป็นต้น ยังคงสร้างความสนใจในเรื่องความปลอดภัยและความเป็นส่วนตัว นอกจากนี้ยังทำให้เกิดคำถามเกี่ยวกับสิ่งที่เป็นจริงและสิ่งที่ไม่ใช่ เจนเนอรेटีฟ AI สามารถสร้างเนื้อหาที่น่าเชื่อถือและน่าสนใจได้มาก จนกระทั่ง ณ สิ้นสุดของส่วนหนึ่งของ 60 Minutes เกี่ยวกับ AI ผู้ดำเนินรายการ Scott Pelley ได้กล่าวถึงสิ่งนี้ว่า “เราจะสิ้นสุดด้วยคำเตือนซึ่งไม่เคยปรากฏใน 60 Minutes มาก่อน แต่ในยุค AI คุณอาจได้ยินบ่อยๆ: สิ่งที่กล่าวมาข้างต้นถูกสร้างขึ้นด้วยเนื้อหาที่เป็นมนุษย์ 100%”

สงครามไซเบอร์ของเจนเนอรेटีฟ AI เริ่มต้นด้วยเนื้อหาที่น่าเชื่อถือและสมจริง และสนามรบนี้คือที่ที่นักแฮกใช้เจนเนอรेटีฟ AI โดยใช้เครื่องมือ เช่น ChatGPT เป็นต้น มันง่ายมากสำหรับอาชญากรไซเบอร์ โดยเฉพาะผู้ที่มีทรัพยากรจำกัดและไม่มีความรู้ทางเทคนิคในการดำเนินการโจมตีโดยใช้เทคนิคการหลอกลวง การฟิชชิง และการปลอมตัว

ความคุกคาม

เจนเนอรेटีฟ AI มีพลังในการขับเคลื่อนการโจมตีไซเบอร์ที่ซับซ้อนมากขึ้น

เนื่องจากเทคโนโลยีนี้สามารถสร้างเนื้อหาที่น่าเชื่อถือและเหมือนมนุษย์ได้อย่างง่ายดาย การหลอกลวงใหม่ๆ ที่ใช้ AI จึงยากสำหรับทีมความปลอดภัยที่จะตรวจจับได้ง่ายๆ การหลอกลวงที่สร้างโดย AI สามารถมาในรูปแบบของการโจมตีทางสังคม เช่น การโจมตีทางอีเมลและแอปส่งข้อความ ตัวอย่างในโลกแห่งความเป็นจริงอาจเป็นอีเมลหรือข้อความที่มีเอกสารที่ส่งถึงผู้บริหารระดับสูงของบริษัทจากผู้ขาย第三方ผ่าน Outlook (อีเมล) หรือ Slack (แอปส่งข้อความ) อีเมลหรือข้อความจะบอกให้พวกเขาคลิกเพื่อดูใบแจ้งหนี้ ด้วยเจนเนอรेटีฟ AI จึงยากที่จะแยกแยะระหว่างอีเมลหรือข้อความปลอมและของจริง ซึ่งเป็นสิ่งที่ทำให้มัน nguy hiểm

หนึ่งในตัวอย่างที่น่าตกใจที่สุดคือเจนเนอรेटีฟ AI ช่วยให้อาชญากรไซเบอร์สามารถโจมตีได้หลายภาษา โดยไม่จำเป็นต้องรู้ภาษานั้นเป็นภาษาแม่ จุดมุ่งหมายคือการโยนเครือข่ายกว้างๆ และอาชญากรไซเบอร์จะไม่เลือกเหยื่อตามภาษา

การปรับปรุงเจนเนอรेटีฟ AI ส่งสัญญาณว่าขนาดและประสิทธิภาพของการโจมตีเหล่านี้จะเพิ่มขึ้นเรื่อยๆ

การป้องกัน

การป้องกันไซเบอร์สำหรับเจนเนอรेटีฟ AI เป็นชิ้นส่วนที่หายไปของปัญหา จนถึงตอนนี้ โดยใช้การรบระหว่างเครื่องจักรต่อเครื่องจักร หรือการต่อสู้ AI ต่อ AI เราสามารถป้องกันการคุกคามใหม่นี้ได้ แต่ควรให้กลยุทธ์นี้ถูกกำหนดไว้อย่างไร และมันจะดูอย่างไร

ก่อนอื่น อุตสาหกรรมต้องดำเนินการเพื่อต่อสู้ระหว่างเครื่องจักรต่อเครื่องจักรแทนการต่อสู้ระหว่างมนุษย์ต่อเครื่องจักร เพื่อดำเนินการต่อในความพยายามนี้ เราต้องพิจารณาแพลตฟอร์มการตรวจจับที่สามารถตรวจจับการคุกคามที่สร้างโดย AI ลดเวลาที่ใช้ในการตรวจจับและแก้ปัญหาโจมตีทางสังคมที่มาจากเจนเนอรेटีฟ AI ซึ่งเป็นสิ่งที่มนุษย์ไม่สามารถทำได้

เราได้ทดสอบวิธีการนี้เมื่อเร็วๆ นี้ เราได้ให้ ChatGPT สร้างอีเมลการโทรกลับโดยใช้ภาษาเพื่อหลอกลวงในหลายภาษา เพื่อดูว่าแพลตฟอร์มการตรวจจับที่มีความเข้าใจภาษาหรือการตรวจจับที่มีความก้าวหน้าสามารถตรวจจับได้หรือไม่ เราให้คำสั่ง ChatGPT ว่า “เขียนอีเมลเร่งด่วนเพื่อขอให้ใครสักคนโทรเกี่ยวกับใบแจ้งหนี้สุดท้ายของสัญญาอนุญาตซอฟต์แวร์” และเรายังบอกให้เขียนมันในภาษาอังกฤษและภาษาญี่ปุ่นด้วย

แพลตฟอร์มการตรวจจับที่มีความก้าวหน้าสามารถตรวจจับอีเมลเหล่านี้ได้ทันทีว่าเป็นการโจมตีทางสังคม แต่การควบคุมอีเมลพื้นฐาน เช่น ระบบตรวจจับฟิชชิงของ Outlook ไม่สามารถทำได้ แม้ว่าจะไม่มีการเปิดตัว ChatGPT ก็ตาม การโจมตีทางสังคมที่ทำโดยใช้การโจมตีทางภาษาและภาษาได้พิสูจน์แล้วว่าประสบความสำเร็จเพราะสามารถหลบหลีกการควบคุมแบบดั้งเดิมได้ และลงในกล่องจดหมายโดยไม่มีลิงก์หรือพayload ดังนั้น ใช้การรบระหว่างเครื่องจักรต่อเครื่องจักรในการป้องกัน แต่เราต้องแน่ใจว่าเรากำลังใช้อาวุธที่มีประสิทธิภาพ เช่น แพลตฟอร์มการตรวจจับที่มีความก้าวหน้า ใครก็ตามที่มีเครื่องมือเหล่านี้ในความครอบครองจะมีความได้เปรียบในการต่อสู้กับเจนเนอรेटีฟ AI

เมื่อพูดถึงขนาดและความน่าเชื่อถือของการโจมตีทางสังคมที่ได้รับจาก ChatGPT และรูปแบบอื่นๆ ของเจนเนอรेटีฟ AI การป้องกันระหว่างเครื่องจักรต่อเครื่องจักรสามารถปรับให้เหมาะสมได้ ตัวอย่างเช่น การป้องกันนี้สามารถใช้ได้ในหลายภาษา และไม่จำเป็นต้องจำกัดอยู่แค่ความปลอดภัยของอีเมลเท่านั้น แต่สามารถใช้ได้กับช่องทางสื่อสารอื่นๆ เช่น แอปส่งข้อความ เช่น Slack, WhatsApp, Teams เป็นต้น

ยังคงเตือน

เมื่อเลื่อนผ่าน LinkedIn หนึ่งในพนักงานของเราพบการโจมตีทางสังคมของเจนเนอรेटีฟ AI โฆษณาดาวน์โหลด “whitepaper” ที่แปลกๆ ปรากฏขึ้นพร้อมกับโฆษณาที่สามารถอธิบายได้ว่าเป็น “บิซาร์โร” เมื่อตรวจสอบอย่างใกล้ชิด พนักงานพบว่ามีรูปแบบสีที่ชัดเจนในมุมล่างขวาของรูปภาพที่สร้างโดย Dall-E ซึ่งเป็นโมเดล AI ที่สร้างรูปภาพจากข้อความ

การพบกับโฆษณา LinkedIn ปลอมนี้เป็นคำเตือนอีกครั้งเกี่ยวกับอันตรายใหม่ๆ ของการหลอกลวงทางสังคมที่ปรากฏขึ้นเมื่อรวมกับเจนเนอรेटีฟ AI มันสำคัญกว่าที่เคยที่จะต้องระมัดระวังและต้องสงสัย

ยุคของเจนเนอรेटีฟ AI ที่ใช้ในการกระทำผิดทางไซเบอร์มาถึงแล้ว และเราต้องยังคงเตือนและเตรียมพร้อมที่จะสู้กลับด้วยเครื่องมือทุกอย่างที่เรามี