AI ที่มีพลังในการสร้าง Deepfake ที่คุกคามความสมบูรณ์ของการเลือกตั้ง — และทำอย่างไรจึงจะแก้ไขปัญหา

โฆษณาแคมเปญสามารถสร้างความสับสนและความขัดแย้งได้แล้ว

ลองนึกภาพว่าคุณถูกเป้าหมายด้วยโฆษณาแคมเปญที่มีผู้สมัครที่มีเสียงที่มีอำนาจในการเปลี่ยนแปลงคะแนนเสียงของคุณ — และโฆษณานั้นไม่ใช่ของจริง มันเป็น Deepfake

สิ่งนี้ไม่ใช่เรื่องสมมติในอนาคต; Deepfake เป็นปัญหาที่แท้จริงและแพร่หลาย เราได้เห็น “การสนับสนุน” ที่สร้างขึ้นโดย AI ที่ทำให้เกิดความสนใจในข่าว และสิ่งที่เราได้ยินเพียงแต่กระซิบเพียงเล็กน้อยเท่านั้น

เมื่อเราเข้าใกล้การเลือกตั้งประธานาธิบดีสหรัฐฯ ในปี 2024 เรากำลังเข้าสู่ดินแดนใหม่ในด้านความมั่นคงทางไซเบอร์และความสมบูรณ์ของข้อมูล ฉันทำงานที่จุดตัดกันของความมั่นคงทางไซเบอร์และ AI ตั้งแต่เมื่อทั้งสองสิ่งนี้ยังเป็นแนวคิดที่ยังไม่เกิดขึ้น และฉันไม่เคยเห็นอะไรที่เกิดขึ้นอย่างนี้มาก่อน

การเปลี่ยนแปลงอย่างรวดเร็วของ AI — โดยเฉพาะ Generative AI และโดยเฉพาะอย่างยิ่งความง่ายในการสร้าง Deepfake ที่มีลักษณะเหมือนจริง — ได้เปลี่ยนแปลงภูมิทัศน์ของการคุกคามการเลือกตั้ง ความเป็นจริงใหม่นี้ต้องการการเปลี่ยนแปลงในสมมติฐานพื้นฐานเกี่ยวกับความมั่นคงในการเลือกตั้งและความมั่นคงในการศึกษาของผู้ลงคะแนน

AI ที่มีพลังในการสร้างอาวุธ

คุณไม่ต้องเชื่อประสบการณ์ส่วนตัวของฉัน; มีหลักฐานมากมายที่แสดงให้เห็นว่าความท้าทายด้านความมั่นคงทางไซเบอร์ที่เราเผชิญอยู่ในปัจจุบันกำลังเปลี่ยนแปลงอย่างรวดเร็ว ในช่วงเวลาเพียงไม่กี่ปี เราได้เห็นการเปลี่ยนแปลงที่น่าตกใจในความสามารถและวิธีการของผู้กระทำความผิดที่อาจเกิดขึ้น การเปลี่ยนแปลงนี้สะท้อนถึงการเปลี่ยนแปลงที่เร็วขึ้นของ AI แต่มีมุมมองที่น่ากังวล

ตัวอย่างเช่น:

• การสร้างอาวุธจากช่องโหว่ความปลอดภัยอย่างรวดเร็ว ผู้โจมตีในปัจจุบันสามารถใช้ประโยชน์จากช่องโหว่ความปลอดภัยที่เพิ่งค้นพบได้อย่างรวดเร็ว โดยมักจะเร็วกว่าที่แพตช์สามารถพัฒนาและติดตั้งได้ เครื่องมือ AI ช่วยเร่งกระบวนการนี้ โดยลดช่วงเวลาระหว่างการค้นพบช่องโหว่และความสามารถในการใช้ประโยชน์
• พื้นที่การโจมตีที่กว้างขึ้น การใช้เทคโนโลยีคลาวด์อย่างแพร่หลายได้ขยายพื้นที่การโจมตีออกไปอย่างมาก โครงสร้างพื้นฐานที่กระจายและแบบจำลองความรับผิดชอบร่วมกันระหว่างผู้ให้บริการคลาวด์และผู้ใช้สร้างเวกเตอร์ใหม่สำหรับการใช้ประโยชน์หากไม่ได้รับการจัดการอย่างเหมาะสม
• มาตรการรักษาความปลอดภัยแบบดั้งเดิมที่ล้าสมัย เครื่องมือรักษาความปลอดภัยแบบดั้งเดิม เช่น ไฟร์วอลล์และซอฟต์แวร์ป้องกันไวรัส ต่อสู้ที่จะตามทันการเปลี่ยนแปลงของภัยคุกคามเหล่านี้ โดยเฉพาะอย่างยิ่งเมื่อตรวจจับและบรรเทาผลกระทบของเนื้อหาที่สร้างโดย AI

มาดูกันว่าใครคุย

ในภูมิทัศน์การคุกคามใหม่นี้ Deepfake เป็นตัวอย่างของความท้าทายที่น่าสะเทือนใจต่อความสมบูรณ์ของการเลือกตั้ง การวิจัยล่าสุด จาก Ivanti ให้ตัวเลขที่คุกคาม: มากกว่าครึ่งหนึ่งของพนักงานในสำนักงาน (54%) ไม่ทราบว่า AI ที่ซับซ้อนสามารถปลอมแปลงเสียงของใครก็ได้ การขาดความตระหนักในหมู่ผู้มีสิทธิเลือกตั้งเช่นนี้น่ากังวลอย่างยิ่งเมื่อเราเข้าใกล้รอบการเลือกตั้งที่สำคัญ

มีหลายสิ่งที่ต้องคำนึงถึง

ความซับซ้อนของเทคโนโลยี Deepfake ในปัจจุบันทำให้ผู้กระทำความผิดทั้งในและต่างประเทศสามารถสร้างเนื้อหาฟอกปลอมที่น่าเชื่อถือได้ด้วยความพยายามน้อยที่สุด การ提示ข้อความเพียงเล็กน้อยสามารถสร้าง Deepfake ที่ยากต่อการแยกแยะจากเนื้อหาที่แท้จริงได้ ความสามารถนี้มีผลกระทบอย่างมีนัยสำคัญต่อการแพร่กระจายของข้อมูลที่ไม่ถูกต้องและการจัดการความคิดเห็นของสาธารณชน

ความท้าทายในด้านการระบุแหล่งที่มาและการบรรเทาผลกระทบ

การระบุแหล่งที่มาเป็นหนึ่งในความท้าทายที่สำคัญที่สุดที่เราเผชิญกับการรบกวนการเลือกตั้งที่สร้างโดย AI ในขณะที่เราเคยเชื่อมโยงการรบกวนการเลือกตั้งกับผู้กระทำความผิดของรัฐในอดีต การกระจายตัวของเครื่องมือ AI หมายความว่ากลุ่มในประเทศที่มีแรงจูงใจอุดมการณ์ต่างๆ สามารถใช้เทคโนโลยีเหล่านี้เพื่อ影响การเลือกตั้งได้

การกระจายตัวของผู้กระทำความผิดที่อาจเกิดขึ้นนี้ทำให้เราต้องระบุและบรรเทาแหล่งที่มาของข้อมูลที่ไม่ถูกต้องได้ยากขึ้น นอกจากนี้ยังเน้นย้ำถึงความจำเป็นในการใช้แนวทางที่หลากหลายในการรักษาความปลอดภัยในการเลือกตั้งที่超越มาตรการรักษาความปลอดภัยแบบดั้งเดิม

ความพยายามร่วมกันในการรักษาความสมบูรณ์ของการเลือกตั้ง

การแก้ไขปัญหาของ Deepfake ที่มีพลังโดย AI ในการเลือกตั้งจะต้องมีความพยายามร่วมกันในหลายภาคส่วน ด้านล่างนี้เป็นด้านที่เราต้องมุ่งเน้นความพยายามของเรา:

• การรักษาความปลอดภัยสำหรับระบบ AI เราต้องใช้หลักการ “shift-left” ของการรักษาความปลอดภัยในการพัฒนาระบบ AI เอง สิ่งนี้หมายถึงการรวมการรักษาความปลอดภัยเข้ากับการพัฒนาแบบจำลอง AI ตั้งแต่ขั้นตอนแรก รวมถึงการคำนึงถึงการใช้ประโยชน์ที่อาจเกิดขึ้นในการรบกวนการเลือกตั้ง
• การบังคับใช้การกำหนดค่าที่ปลอดภัย ระบบ AI และแพลตฟอร์มที่อาจใช้ในการสร้าง Deepfake ควรจะมีการกำหนดค่าที่ปลอดภัยและปลอดภัยโดยค่าเริ่มต้น สิ่งนี้รวมถึงมาตรการรับรองความถูกต้องที่เข้มงวดและข้อจำกัดเกี่ยวกับประเภทของเนื้อหาที่สามารถสร้างขึ้นได้
• การรักษาความปลอดภัยของห่วงโซ่อุปทาน AI เช่นเดียวกับที่เราเน้นย้ำถึงความสำคัญของการรักษาความปลอดภัยของห่วงโซ่อุปทานซอฟต์แวร์ เราต้องขยายความระมัดระวังนี้ไปยังห่วงโซ่อุปทาน AI สิ่งนี้รวมถึงการตรวจสอบชุดข้อมูลที่ใช้ในการฝึกอบรมแบบจำลอง AI และอัลกอริทึมที่ใช้ในระบบ AI ที่สร้างขึ้น
• ความสามารถในการตรวจจับที่ดีขึ้น เราต้องลงทุนและพัฒนาเครื่องมือตรวจจับที่สามารถระบุเนื้อหาที่สร้างโดย AI โดยเฉพาะอย่างยิ่งในบริบทของข้อมูลที่เกี่ยวข้องกับการเลือกตั้ง สิ่งนี้อาจเกี่ยวข้องกับการใช้ AI เองในการต่อต้านการสร้างข้อมูลที่ไม่ถูกต้องโดย AI
• การให้ความรู้และความตระหนักของผู้มีสิทธิเลือกตั้ง ส่วนสำคัญของการป้องกันของเราต่อ Deepfake คือผู้มีสิทธิเลือกตั้งที่มีความรู้ เราต้องมีโปรแกรมการศึกษาที่ครอบคลุมเพื่อช่วยให้ผู้มีสิทธิเลือกตั้งเข้าใจถึงการมีอยู่และผลกระทบที่อาจเกิดขึ้นของเนื้อหาที่สร้างโดย AI และให้เครื่องมือในการประเมินข้อมูลที่พวกเขาพบ
• การทำงานร่วมกันระหว่างภาคส่วน ภาคเทคโนโลยี โดยเฉพาะบริษัท IT และความมั่นคงทางไซเบอร์ ต้องทำงานอย่างใกล้ชิดกับหน่วยงานรัฐบาล เจ้าหน้าที่การเลือกตั้ง และองค์กรสื่อเพื่อสร้างแนวร่วมที่เป็นเอกภาพในการต่อต้านการรบกวนการเลือกตั้งที่ขับเคลื่อนด้วย AI

สิ่งที่เกิดขึ้นในปัจจุบัน และสิ่งที่จะเกิดขึ้นต่อไป

เมื่อเรานำกลยุทธ์เหล่านี้ไปใช้ จะเป็นสิ่งสำคัญที่เราจะต้องวัดประสิทธิภาพของพวกมันอย่างต่อเนื่อง สิ่งนี้จะต้องใช้เมตริกและเครื่องมือติดตามใหม่ที่ออกแบบมาเพื่อติดตามผลกระทบของเนื้อหาที่สร้างโดย AI ต่อการอภิปรายการเลือกตั้งและพฤติกรรมของผู้มีสิทธิเลือกตั้ง

เราควรเตรียมพร้อมที่จะปรับกลยุทธ์ของเราอย่างรวดเร็ว สาขา AI กำลังพัฒนาอย่างรวดเร็ว และมาตรการป้องกันของเราต้องปรับเปลี่ยนได้อย่างรวดเร็วเช่นกัน สิ่งนี้อาจเกี่ยวข้องกับการใช้ AI เองในการสร้างมาตรการรักษาความปลอดภัยที่มีประสิทธิภาพและปรับเปลี่ยนได้

ความท้าทายของ Deepfake ที่มีพลังโดย AI ในการเลือกตั้งแสดงถึงบทใหม่ในด้านความมั่นคงทางไซเบอร์และความสมบูรณ์ของข้อมูล เพื่อแก้ไขปัญหานี้ เราต้องคิดนอกกรอบความมั่นคงแบบดั้งเดิมและสร้างความร่วมมือระหว่างภาคส่วนและสาขาวิชาต่างๆ เป้าหมาย: การใช้พลังของ AI เพื่อประโยชน์ของกระบวนการประชาธิปไตยในขณะเดียวกันก็บรรเทาผลกระทบที่อาจเกิดขึ้นจากความเสียหาย สิ่งนี้ไม่ใช่ความท้าทายทางเทคนิคเท่านั้น แต่ยังเป็นความท้าทายในสังคมที่ต้องการความตื่นตัว การปรับตัว และการทำงานร่วมกันอย่างต่อเนื่อง

ความสมบูรณ์ของการเลือกตั้งของเรา — และโดยการขยายความหมาย ความแข็งแกร่งของประชาธิปไตย — ขึ้นอยู่กับความสามารถของเราในการเผชิญหน้ากับความท้าทายนี้อย่างตรงไปตรงมา สิ่งนี้เป็นความรับผิดชอบที่ตกเป็นของทุกคน: นักเทคโนโลยี นักกำหนดนโยบาย และพลเมือง