כמה רחוק ואפל ילכו Deepfakes?

ככל שה-AI משתלב עמוק יותר בחיי היומיום שלנו, טכנולוגיית deepfake הפכה לדאגה גוברת עבור רבים, במיוחד אלה שאוהבים לשתף רגעים אישיים במדיה החברתית. בין אם זה בילוי לילי עם חברים או פיקניק משפחתי באיי בהאמה, תמונות המשותפות על פני פלטפורמות כמו אינסטגרם, פייסבוק וסנאפצ'ט אינן בהכרח בטוחות משימוש לרעה פוטנציאלי.

צעירה מקוריאה פנתה לאחרונה לרשתות החברתיות כדי להביע את מצוקתה בגלל סרטון מזויף עמוק שנעשה כאקט של נקמה. בסרטון נראה שהיא התפשטה. היא התחננה בלהט להסרת הסרטון שנוצר על ידי AI והפצירה באדם להפסיק את ההפצה שלו.

באוקטובר 2023, דמויות מפורסמות כמו מנחה שותף ב-CBS Mornings גייל קינג, השחקן טום הנקס ואישיות YouTube MrBeast היו קורבנות של סרטוני Deepfake לא מורשים שהתפשטו על פני פלטפורמות מדיה חברתית. סרטון נוסף בהשתתפות עיתונאית CNN קלריסה וורד ליד גבול ישראל-עזה עבר מניפולציות כדי להטיל ספק בדיווח שלה.

לסרטונים האלה, המעוצבים בטכנולוגיית deepfake מתקדמת, יש את הכוח להחליף אנשים בתוך תוכן קיים. האופי הריאליסטי שלהם מטריד, גורם לרבים להאמין באותנטיות שלהם. זה כולל שירים שנוצרו על ידי AI מחקה כוכבים מפורסמים, שחלקם הפכו למובילי טבלה.

אירועים כאלה עוררו חששות עולמיים לגבי הפוטנציאל להשפלה ציבורית, הטרדה וסחיטה, והדגישו עוד יותר את הפוטנציאל המרושע של זיופים עמוקים.

מדוע טכנולוגיית Deepfake מסוכנת יותר ממה שאתה חושב

העלייה באירועים מטרידים מצביעה על הדחיפות בצעדים יזומים נגד זיופים עמוקים. נכון לעכשיו, אין חוק אוניברסלי שמתייחס לזיופים עמוקים או לתוכן בלתי מורשה שנוצר בינה מלאכותית, אפילו בארצות הברית. אמנם לא ניתן למגר אותם לחלוטין, אך ניתן לנקוט בצעדי הגנה.

למי שלא מכיר, טכנולוגיית Deepfake משתמשת בינה מלאכותית כדי ליצור תמונות, סרטונים או קטעי אודיו מציאותיים אך מפוברקים. הטכנולוגיה המתעתעת הזו זכה לבולטות בסביבות 2017 כאשר משתמש אנונימי של Reddit הציג אלגוריתם ליצירת סרטונים מזויפים כמו חיים.

על אף שנועדו בהתחלה לבידור, חינוך או אקטיביזם, התקדמות המהירה של AI, יחד עם יכולות זיוף עמוק, מציגה שפע של חששות ביטחוניים ואתיים. זה כולל:

1. הפרת פרטיות: חשש עיקרי הוא שימוש לא מורשה בדמותו של אדם. מקרים בולטים כוללים סרטוני מבוגרים מזויפים עמוקים של ידוענים, המכתימים את תדמיתם. לדוגמה, בשנת 2017, סרטון לא הולם שמציג באופן שקרי את השחקנית גל גדות הופץ בהרחבה.
2. דיסאינפורמציה ומניפולציה: זיופים עמוקים יכולים לעוות אמיתות, להשפיע על דעת הקהל. דוגמה בולטת היא סרטון מזויף עמוק בהשתתפות הנשיא לשעבר אובמה, שנוצר על ידי BuzzFeed וג'ורדן פיל. למרות שנועד כ-PSA נגד מידע מוטעה, הוא מדגיש את השימוש לרעה הפוטנציאלי של הטכנולוגיה.

1. הונאה וסחיטה: טכנולוגיה זו יכולה לייצר ראיות מזויפות או לרמות באמצעות שכפול קול/תמונה. פושעים עלולים להשתמש בזיופים עמוקים לסחיטה או אפילו הונאה פיננסית, כפי שניתן לראות כאשר חברת אנרגיה בבריטניה הוטעתה להעביר סכום משמעותי, אולי באמצעות זיוף קולי.
2. הטיה ואפליה: זיופים עמוקים יכולים להנציח או להגביר דעות קדומות חברתיות, ועלול לייצג דמוגרפיה ספציפית בצורה שגויה.

זיופים עמוקים: איומים על דמוקרטיה, מערכות יחסים וזהות

בעוד שטכנולוגיית Deepfake עצמה אינה זדונית מטבעה, שימוש לרעה בה עלול להזיק. זה יכול לעוות את תוצאות הבחירות, להלחיץ ​​יחסים אישיים ולהפר את הזהות האישית, כפי שהוצג בתוכניות בידור כמו "DeepFake Love" ו-"Clickbait" של נטפליקס.

מחשבות סיכום

Deepfakes משנים את התחום הדיגיטלי, פותחים אפיקים חדשניים תוך הצבת אתגרים אתיים. היעדר רגולציה עולמית וכלי זיהוי יעילים הופכים את הנושא לקריטי. בעוד שמודעות ציבורית ואוריינות תקשורת הם חיוניים, הם מהווים רק חלק מהפתרון.

זה חיוני להרהר: האם אנו רואים בזיופים עמוקים פלאים טכנולוגיים או איומים על רווחת הפרט והחברה? השיחה חייבת להימשך, מכיוון שמודעות ופעולה קולקטיבית הן חיוניות בהפחתת ההשפעות המזיקות של טכנולוגיית Deep Fake.