Deepfakes ขนาดเล็กอาจเป็นภัยคุกคามที่ใหญ่กว่า

เครื่องมือ AI สำหรับการสนทนา เช่น ChatGPT และ Google Gemini กำลังถูกนำมาใช้ในการสร้าง deepfakes ที่ไม่เปลี่ยนใบหน้า แต่สามารถเขียนเรื่องราวใหม่ทั้งหมดภายในภาพได้ โดยการเปลี่ยนการแสดงออก สิ่งของ และพื้นหลัง การแก้ไขเหล่านี้สามารถหลอกลวงทั้งระบบตรวจจับ AI และมนุษย์ ทำให้ความเสี่ยงในการระบุสิ่งที่แท้จริงออนไลน์增加ขึ้น

ในสถานการณ์ปัจจุบัน โดยเฉพาะอย่างยิ่งหลังการออกกฎหมายที่สำคัญ เช่น กฎหมาย TAKE IT DOWN หลายคนมีความคิดที่เกี่ยวข้องกับ deepfakes และการสร้างอัตลักษณ์โดย AI กับการล่วงละเมิดทางเพศและการหลอกลวงทางการเมือง – โดยทั่วไปแล้ว การบิดเบือนความจริง ในรูปแบบที่ หยาบคาย

สิ่งนี้ทำให้เราเคยชินกับการคาดหวังว่าภาพที่ถูกจัดการโดย AI จะมักมีเนื้อหาที่มีความเสี่ยงสูง โดยที่คุณภาพของการแสดงออกและการบิดเบือนบริบทอาจประสบความสำเร็จในการสร้างความน่าเชื่อถือในระยะสั้น

ในทางประวัติศาสตร์ การเปลี่ยนแปลงที่ละเอียดอ่อนกว่านี้มักมีผลกระทบที่มีศักยภาพและยั่งยืนมากกว่า – เช่น การใช้เทคนิคการถ่ายภาพที่ซับซ้อนของรัฐซึ่งช่วยให้สตาลินสามารถ ลบ ผู้ที่ตกออกจากความโปรดปรานออกจากบันทึกทางภาพถ่าย ตามที่ถูกเลียนแบบในนวนิยายของจอร์จ ออร์เวลล์ 1984 โดยที่ตัวเอก วินสตัน สมิธ ใช้เวลาส่วนใหญ่ในการเขียนเรื่องราวใหม่และสร้างภาพถ่ายขึ้นมาใหม่

ในตัวอย่างต่อไปนี้ ปัญหากับ ภาพที่สอง คือว่าเรา ‘ไม่รู้ว่าไม่รู้’ – ว่าหัวหน้าตำรวจลับของสตาลิน นิโคไล เยจอฟ曾อยู่ในพื้นที่ที่ตอนนี้มีเพียงราวกั้นความปลอดภัย:

ตอนนี้คุณเห็นเขา ตอนนี้เขา… หายไป การจัดการภาพในยุคสตาลินลบสมาชิกพรรคที่ถูกตัดสินออกจากประวัติศาสตร์ Source: Public domain, via https://www.rferl.org/a/soviet-airbrushing-the-censors-who-scratched-out-history/29361426.html

… (เนื้อหาที่เหลือจะถูกแปลและรักษาไว้ในโครงสร้างเดียวกัน)