Generative AI ในด้านความปลอดภัยทางไซเบอร์: สนามรบ การคุกคาม และการป้องกันในขณะนี้

สนามรบ

ความตื่นเต้นที่เกิดขึ้นรอบๆ ความสามารถของ Generative AI ได้เปลี่ยนเป็นความกังวลอย่างรวดเร็ว เครื่องมือ Generative AI เช่น ChatGPT, Google Bard, Dall-E และอื่นๆ ยังคงสร้างความสนใจเนื่องจากความกังวลเรื่องความปลอดภัยและความเป็นส่วนตัว ซึ่งนำไปสู่การซักถามเกี่ยวกับสิ่งที่แท้จริงและสิ่งที่ไม่แท้จริง Generative AI สามารถสร้างเนื้อหาที่น่าเชื่อถือและน่าสนใจได้มาก มากจนกระทั่งเมื่อสิ้นสุดส่วนของ 60 Minutes เกี่ยวกับ AI ผู้ดำเนินรายการ Scott Pelley เหลือคำให้ผู้ชมด้วยคำว่า “เราจะสิ้นสุดด้วยคำที่ไม่เคยปรากฏบน 60 Minutes แต่หนึ่งในสิ่งที่ใน革命 AI คุณอาจได้ยินบ่อยๆ: สิ่งที่กล่าวมาข้างต้นถูกสร้างขึ้นด้วยเนื้อหาที่สร้างโดยมนุษย์ 100%”

สงครามไซเบอร์ Generative AI เริ่มต้นด้วยเนื้อหาที่น่าเชื่อถือและเหมือนจริง และสนามรบนี้คือที่ที่นักแฮกใช้ Generative AI โดยใช้เครื่องมือ เช่น ChatGPT เป็นต้น มันง่ายมากสำหรับอาชญากรไซเบอร์ โดยเฉพาะผู้ที่มีทรัพยากรจำกัดและไม่มีความรู้ทางเทคนิคในการดำเนินการอาชญากรรมผ่านการวิศวกรรมสังคม การฟิชชิ่ง และการปลอมตัว

การคุกคาม

Generative AI มีพลังในการกระตุ้นการโจมตีไซเบอร์ที่ซับซ้อนมากขึ้น

เนื่องจากเทคโนโลยีนี้สามารถสร้างเนื้อหาที่น่าเชื่อถือและเหมือนมนุษย์ได้ง่ายๆ การหลอกลวงไซเบอร์ใหม่ๆ ที่ใช้ AI จึงยากกว่าสำหรับทีมความปลอดภัยที่จะสังเกตเห็นได้ง่ายๆ การหลอกลวง AI ที่สร้างขึ้นมาได้มาในรูปแบบการโจมตีทางสังคม เช่น การโจมตีแบบฟิชชิ่งหลายช่องทางที่ดำเนินการผ่านอีเมล์และแอปส่งข้อความ ตัวอย่างในโลกแห่งความเป็นจริงอาจเป็นอีเมลหรือข้อความที่มีเอกสารที่ส่งไปยังผู้บริหารระดับสูงของบริษัทจากผู้ขายที่สามผ่าน Outlook (อีเมล์) หรือ Slack (แอปส่งข้อความ) อีเมลหรือข้อความจะชี้ให้ผู้บริหารคลิกเพื่อดูใบแจ้งหนี้ ด้วย Generative AI จึงยากที่จะแยกแยะระหว่างอีเมลหรือข้อความปลอมและจริง ซึ่งเป็นสิ่งที่ทำให้เกิดอันตราย

ตัวอย่างที่น่ากลัวที่สุดหนึ่งในนั้นคือ ด้วย Generative AI อาชญากรไซเบอร์สามารถสร้างการโจมตีได้หลายภาษา โดยไม่คำนึงว่าแฮกเกอร์จะพูดภาษานั้นหรือไม่ เป้าหมายคือการโยนตาข่ายกว้างๆ และอาชญากรไซเบอร์จะไม่เลือกเหยื่อตามภาษา

ความก้าวหน้าของ Generative AI ส่งสัญญาณว่าขนาดและประสิทธิภาพของการโจมตีเหล่านี้จะเพิ่มขึ้นอย่างต่อเนื่อง

การป้องกัน

การป้องกันไซเบอร์สำหรับ Generative AI เป็นชิ้นส่วนที่หายไปของปัญหา จนถึงตอนนี้ โดยใช้การรบระหว่างเครื่องจักรต่อเครื่องจักร หรือการปัก AI ต่อ AI เราสามารถป้องกันการคุกคามใหม่นี้ได้ แต่ควรกำหนดกลยุทธ์นี้อย่างไร และมันจะดูอย่างไร?

ขั้นแรก อุตสาหกรรมต้องดำเนินการเพื่อปักเครื่องจักรต่อเครื่องจักรแทนการปักมนุษย์ต่อเครื่องจักร เพื่อดำเนินการตามความพยายามนี้ เราต้องพิจารณาแพลตฟอร์มการตรวจจับที่สามารถตรวจจับการคุกคามที่สร้างโดย AI ลดเวลาในการแจ้งเตือนและเวลาในการแก้ไขการโจมตีทางสังคมที่มาจาก Generative AI ซึ่งเป็นสิ่งที่มนุษย์ไม่สามารถทำได้

เราทดสอบวิธีการที่สามารถดูได้ เราให้ ChatGPT สร้างอีเมลฟิชชิ่งแบบเรียกคืนภาษาหลายภาษาเพื่อดูว่าแพลตฟอร์มการตรวจจับที่มีความเข้าใจภาษาหรือแพลตฟอร์มการตรวจจับขั้นสูงสามารถตรวจจับได้หรือไม่ เราให้ ChatGPT คำสั่ง “เขียนอีเมลเร่งด่วนเพื่อขอให้ใครสักคนโทรหาคุยเรื่องใบแจ้งหนี้สัญญาอนุญาตซอฟต์แวร์” เรายังบอกมันให้เขียนเป็นภาษาอังกฤษและญี่ปุ่นด้วย

แพลตฟอร์มการตรวจจับขั้นสูงสามารถตรวจจับอีเมลเหล่านี้เป็นการโจมตีทางสังคมได้ทันที แต่การควบคุมอีเมลพื้นฐาน เช่น แพลตฟอร์มการตรวจจับฟิชชิ่งของ Outlook ไม่สามารถทำได้ แม้ว่าจะไม่มีการเปิดตัว ChatGPT การทำวิศวกรรมสังคมผ่านการโจมตีแบบสนทนาและภาษาก็ได้ผลสำเร็จเพราะสามารถหลบหลีกการควบคุมแบบดั้งเดิมได้ และลงในกล่องจดหมายโดยไม่มีลิงก์หรือเพย์โหลด ดังนั้นจึงต้องใช้การรบระหว่างเครื่องจักรต่อเครื่องจักรในการป้องกัน แต่เราต้องแน่ใจว่าเรากำลังใช้อาวุธที่มีประสิทธิภาพ เช่น แพลตฟอร์มการตรวจจับขั้นสูง ใครก็ตามที่มีเครื่องมือเหล่านี้ในครอบครองจะมีความได้เปรียบในการต่อสู้กับ Generative AI

เมื่อพูดถึงขนาดและความน่าเชื่อถือของการโจมตีทางสังคมที่ได้รับจาก ChatGPT และรูปแบบอื่นๆ ของ Generative AI การป้องกันระหว่างเครื่องจักรต่อเครื่องจักรสามารถปรับให้เหมาะสมได้ ตัวอย่างเช่น การป้องกันนี้สามารถใช้ได้หลายภาษา และไม่จำเป็นต้องจำกัดแค่อีเมลความปลอดภัยเท่านั้น แต่สามารถใช้ได้กับช่องทางสื่อสารอื่นๆ เช่น แอปส่งข้อความ เช่น Slack, WhatsApp, Teams และอื่นๆ

ยังคงเตือน

เมื่อเลื่อนผ่าน LinkedIn หนึ่งในพนักงานของเราพบการพยายามโจมตีทางสังคมที่ใช้ Generative AI โฆษณาดาวน์โหลด “whitepaper” ที่แปลกๆ ปรากฏขึ้นพร้อมกับโฆษณาที่สามารถอธิบายได้ว่า “บิซาร์โร” เมื่อตรวจสอบอย่างใกล้ชิด พนักงานพบว่ามีรูปแบบสีที่มีลักษณะเฉพาะในมุมล่างขวาของรูปภาพที่สร้างโดย Dall-E ซึ่งเป็นโมเดล AI ที่สร้างรูปภาพจากคำสั่งภาษา

การพบกับโฆษณา LinkedIn ปลอมนี้เป็นการเตือนถึงอันตรายใหม่ๆ ของการโจมตีทางสังคมที่เกิดขึ้นเมื่อรวมกับ Generative AI มันสำคัญมากที่จะต้องตื่นตัวและระมัดระวัง

ยุคของ Generative AI ที่ใช้สำหรับการก่ออาชญากรรมไซเบอร์มาถึงแล้ว และเราต้องตื่นตัวและเตรียมพร้อมที่จะสู้กลับด้วยเครื่องมือทุกอย่างที่เรามี