วิธีการที่ฮैकरใช้ปัญญาประดิษฐ์

ปัญญาประดิษฐ์ได้พิสูจน์ตัวเองแล้วว่าเป็นเทคโนโลยีที่เพิ่มคุณค่าในเศรษฐกิจทั่วโลก

เมื่อธุรกิจต่างๆ พบว่าตัวเองต้องปรับตัวให้เข้ากับเหตุการณ์ปัจจุบันในช่วงไม่กี่ปีที่ผ่านมา บางธุรกิจพบวิธีการยัดเยียดการเปลี่ยนแปลงดิจิทัลมูลค่าครึ่งทศวรรษ – ในกรณีของ Frito-Lay – ลงในช่วงเวลาที่สั้นกว่ามาก Harris Poll และ Appen พบว่างบประมาณ AI เพิ่มขึ้น 55%ในช่วงการระบาดทั่วของโควิด-19.

เหมือนกับเครื่องมืออื่นๆ ปัญญาประดิษฐ์ไม่มีคุณค่าทางศีลธรรมที่มีมาแต่กำเนิด คุณค่าหรือศักยภาพในการทำอันตรายของ AI ขึ้นอยู่กับว่าระบบ “เรียนรู้” อย่างไร และสุดท้ายแล้วมนุษย์จะทำอะไรด้วยมัน

บางความพยายามที่จะใช้ AI – เช่น “คาดการณ์” อาชญากรรมก่อนที่จะเกิดขึ้น – แสดงให้เห็นว่าโมเดลที่ฝึกอบรมด้วยข้อมูลที่มีอคติ มีแนวโน้มที่จะทำซ้ำข้อบกพร่องของมนุษย์ จนถึงตอนนี้ การฝึกอบรม AI โดยใช้ข้อมูลจากระบบยุติธรรมของสหรัฐฯ ส่งผลให้ AI มีเหตุผลที่มีอคติ อย่างน่าเศร้า.

ในตัวอย่างอื่นๆ มนุษย์เลือกใช้วิธีการที่ตั้งใจเพื่อใช้ศักยภาพที่ทำลายล้างของ AI ฮैकरแสดงให้เห็นถึงความสามารถที่จะสร้างสรรค์ใหม่ๆ อีกครั้งโดยใช้ AI เพื่อปรับปรุงการโจมตีให้มีประสิทธิภาพและทำกำไรได้มากขึ้น และเมื่อสงครามไซเบอร์กลายเป็นเรื่องปกติมากขึ้นทั่วโลก เราจะเห็นการใช้ AI ในการโจมตีมากขึ้น

AI เป็นทั้งโอกาสและความเสี่ยง

ปัญญาประดิษฐ์ให้โอกาสมากมายแก่ธุรกิจที่ต้องการปรับปรุงการคาดการณ์ การเพิ่มประสิทธิภาพธุรกิจ และกลยุทธ์การรักษาลูกค้า นอกจากนี้ยังเป็นโอกาสสำหรับผู้ที่ตั้งใจที่จะทำลายความเป็นส่วนตัวดิจิทัลของคนอื่น

นี่คือบางวิธีที่ AI อาจถูกทำลายและถูกใช้เพื่อการกระทำที่ก้าวร้าว

1. การทำลายตรรกะของเครื่องจักร

ข้อได้เปรียบหลักของ AI สำหรับผู้บริโภคและธุรกิจคือการที่มันสามารถทำการกระทำที่คาดการณ์ได้และทำซ้ำโดยไม่มีการแทรกแซงจากมนุษย์ นี่คือจุดอ่อนที่สุดของมัน

เหมือนกับโครงสร้างดิจิทัลอื่นๆ AI อาจถูกทำลายโดยผู้โจมตีจากภายนอก ฮैकरที่สามารถเข้าถึงและทำลายตรรกะของเครื่องจักรที่ขับเคลื่อน AI อาจทำให้ AI ทำการกระทำที่ไม่คาดคิดหรือเป็นอันตราย ตัวอย่างเช่น AI ที่ได้รับมอบหมายให้ทำการตรวจสอบสภาพของอุตสาหกรรมอาจให้ผลการอ่านค่าที่ไม่ถูกต้องหรือไม่ส่งสัญญาณเตือนการบำรุงรักษา

เนื่องจากจุดประสงค์หลักของการลงทุนใน AI คือการกำจัดการแทรกแซงจากมนุษย์และการคาดเดาผลลัพธ์ อันตรายที่เกิดจากการโจมตีประเภทนี้อาจไม่ถูกสังเกตเห็นจนกว่าจะเกิดความล้มเหลวอย่างรุนแรง

2. การใช้อัลกอริทึมการย้อนกลับ

อีกหนึ่งวิธีที่อาจก่อให้เกิดอันตราย – โดยเฉพาะอย่างยิ่งเมื่อพูดถึงทรัพย์สินทางปัญญา (IP) และข้อมูลของลูกค้าหรือธุรกิจ – คือแนวคิดของการย้อนกลับ ฮैकरอาจขโมยโค้ด AI เองก็ได้ โดยใช้เวลาในการศึกษาว่ามันทำงานอย่างไร พวกเขาอาจ ค้นหาข้อมูลที่ใช้ในการฝึกอบรม AIในตอนแรก

สิ่งนี้อาจทำให้เกิดผลลัพธ์หลายอย่าง เช่น การทำลาย AI ซึ่งเป็นตัวอย่างหนึ่งของการโจมตีประเภทนี้ อีกตัวอย่างหนึ่งคือฮैकरที่ใช้ข้อมูลการฝึกอบรม AI เพื่อหาแนวทางที่จะโจมตีตลาด ผู้แข่งขัน รัฐบาล ผู้ขาย หรือผู้บริโภคทั่วไป

3. การเรียนรู้เกี่ยวกับเป้าหมายที่ตั้งใจ

การเฝ้าดูเป้าหมายเป็นหนึ่งในผลที่ตามมาที่น่าห่วงของ AI ที่ตกเป็นของฮैकर ความสามารถของ AI ในการสรุปผลเกี่ยวกับความสามารถ ความรู้ พื้นที่ความรู้ อารมณ์ และความน่าจะเป็นที่จะถูกโจมตีหรือหลอกลวงนั้นเป็นเรื่องที่น่ากังวลสำหรับผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์บางคน

AI สามารถดูดซับและ สรุปผลที่แม่นยำเกี่ยวกับบุคคล ทีม และกลุ่มตามข้อมูลที่ไม่น่าจะเป็นไปได้ บุคคลที่ “มีส่วนร่วม” หรือ “ไม่สนใจ” อาจพิมพ์เร็วๆ จับเมาส์หรือย้ายระหว่างแท็บเบราว์เซอร์อย่างรวดเร็ว ผู้ใช้ที่ “สับสน” หรือ “ลังเล” อาจหยุดก่อนคลิกบนองค์ประกอบของหน้าหรือเยี่ยมชมหลายไซต์

ในมือที่ถูกต้อง สัญญาณเหล่านี้ช่วยให้แผนกทรัพยากรบุคคลเพิ่มการมีส่วนร่วมของพนักงานหรือช่วยให้ทีมการตลาดปรับปรุงเว็บไซต์และช่องทางการขาย

สำหรับฮีकर สัญญาณเหล่านี้อาจส่งผลให้เกิดโปรไฟล์ทางจิตวิทยาที่ละเอียดของเป้าหมายที่ตั้งใจ ไซเบอร์อาชญากรอาจสามารถบอกได้ว่าใครอาจอ่อนแอต่อการหลอกลวง การโจมตีทางไฟแนนซ์หรือการโจมตีประเภทอื่นๆ โดยใช้ AI เพื่อสร้างความน่าเชื่อถือให้กับการหลอกลวง

4. การสืบสวนช่องโหว่ของเครือข่าย

ผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์เผยแพร่ข้อมูลเกี่ยวกับ 20,175 ช่องโหว่ด้านความปลอดภัยที่ทราบในปี 2021 ซึ่งเพิ่มขึ้นจากปี 2020 เมื่อมี 17,049 ช่องโหว่ดังกล่าว

โลกกลายเป็นดิจิทัลมากขึ้นทุกชั่วโมง บางคนอาจบอกว่าโลกกลายเป็นดิจิทัลมากขึ้น โดยมีเครือข่ายขนาดเล็กและอุตสาหกรรมที่เชื่อมต่อกันหลายพันล้านอุปกรณ์ออนไลน์ และมีอีกหลายพันล้านอุปกรณ์ที่จะตามมา ทุกอย่างอยู่ออนไลน์ ตั้งแต่เซ็นเซอร์ตรวจสอบสภาพจนถึงซอฟต์แวร์วางแผนธุรกิจ

AI แสดงให้เห็นถึงศักยภาพในการช่วยให้ทีมความปลอดภัยไซเบอร์ สืบสวนช่องโหว่ของเครือข่าย ซอฟต์แวร์ และฮาร์ดแวร์เร็วกว่ามนุษย์สามารถทำได้ ความเร็วและขนาดของการเติบโตของโครงสร้างพื้นฐานดิจิทัลของโลกทำให้การค้นหาช่องโหว่ด้านความปลอดภัยหลายพันล้านบรรทัดโค้ดเป็นเรื่องที่ยากเกินไป

หาก AI เป็นเครื่องมือความปลอดภัยไซเบอร์ในกรณีนี้ มันก็เป็นดาบสองคมเช่นกัน ฮีเกอร์สามารถใช้กลไกเดียวกับที่ “white hat” IT ใช้เพื่อทำงานเดียวกัน: สืบสวนเครือข่าย ซอฟต์แวร์ และเฟิร์มแวร์สำหรับช่องโหว่ด้านความปลอดภัยได้อย่างมีประสิทธิภาพมากกว่าผู้เชี่ยวชาญ IT

การแข่งขันดิจิทัล

มีการใช้ AI ในการโจมตีไซเบอร์มากมายที่ไม่สามารถระบุได้ทั้งหมด แต่นี่คือบางส่วน:

• ฮีเกอร์อาจซ่อนโค้ด AI ภายในแอปพลิเคชันที่ดูไม่เป็นอันตรายซึ่งจะดำเนินการอย่างชั่วร้ายเมื่อตรวจพบสัญญาณหรือเกณฑ์ที่กำหนดไว้ล่วงหน้า
• โมเดล AI ที่เป็นอันตรายอาจถูกใช้เพื่อกำหนดข้อมูลประจำตัวหรือคุณลักษณะการจัดการ IT โดยการตรวจสอบข้อมูลชีวมิติ เช่น ลายนิ้วมือและการรู้จำเสียง
• แม้ว่าการโจมตีไซเบอร์ที่พยายามจะล้มเหลว ฮีเกอร์ที่มี AI อาจสามารถใช้การเรียนรู้ของเครื่องจักรเพื่อกำหนดสิ่งที่ผิดพลาดและจะทำอย่างไรต่อไป

ดูเหมือนว่ามีเพียงเรื่องราวเดียวที่วางไว้อย่างดีเกี่ยวกับการโจมตีรถจี๊ปขณะขับรถเพื่อทำให้การพัฒนารถยนต์ไร้คนขับชะลอลง การโจมตีไซเบอร์ที่มี AI เป็นจุดศูนย์กลางอาจทำให้เกิดการกัดเซาะความนิยมในหมู่ประชาชนได้ การสำรวจความคิดเห็นบางอย่างพบว่าชาวอเมริกันคนเฉลี่ยมีความกังขาเกี่ยวกับประโยชน์ของ AIแล้ว

การคำนวณที่มีอยู่ทุกที่มาพร้อมกับความเสี่ยงด้านความปลอดภัยไซเบอร์ – และทั้งฮีเกอร์ “white hat” และ “black hat” ต่างรู้ดี AI สามารถช่วยให้ชีวิตออนไลน์ของเรามีความปลอดภัย แต่ก็เป็นจุดศูนย์กลางของการแข่งขันดิจิทัลใหม่