ืื ืืืื ืืขื
ืืื AI-Powered Deepfakes ืืืืืืื ืขื ืืื ืืืจืืืช ืืืืืจืืช โ ืืื ืืขืฉืืช ืื ืืืข ืืื
פרסומות בחירות יכולות כבר להיות מעט מסובכות ושנויות במחלוקת.
דמיינו שאתה ממוקד עם פרסומת בחירות בה מועמד נותן עמדות חזקות שמשפיעות על הצבעתך — והפרסומת לא אפילו אמיתית. זהו deepfake.
זהו לא היפותטי עתידני; deepfakes הם בעיה אמיתית ונפוצה. כבר ראינו “אישורים” מיוצרים על ידי AI המכונים כותרות, ומה ששמענו רק מחטיא את הפני השטח.
כאשר נגיע לבחירות לנשיאות ארצות הברית ב-2024, אנו נכנסים לשטח לא ממופה באבטחת סייבר ואינטגריטת מידע. עבדתי בחיתוך של אבטחת סייבר ו-AI מאז שניהם היו מושגים בראשיתיים, ומעולם לא ראיתי משהו כמו מה שקורה כרגע.
התפתחות המהירה של בינה מלאכותית — במיוחד generative AI וכמובן, היכולת התוצאתית ליצור deepfakes ריאליסטיים — הפכה את הנוף של איומים על הבחירות. המציאות החדשה דורשת שינוי בהנחות היסוד בנוגע לאבטחת בחירות וחינוך בוחרים.
AI מנשק
אין צורך לקחת את ניסיוני האישי כהוכחה; יש הרבה ראיות שאתגרים האבטחה שאנו פונים אליהם היום מתפתחים בקצב בלתי מוכר. בתוך כמה שנים בודדות, חווינו הפיכה דרמטית ביכולות ובשיטות של גורמי איום פוטנציאליים. התפתחות זו משקפת את הפיתוח המאיץ שראינו בטכנולוגיות AI, אך עם נקודת מבט מדאיגה.
לדוגמה:
- נשק נגד פגיעויות. היום, תוקפים יכולים לנצל פגיעויות חדשות במהירות, לעיתים קרובות מהר מאשר תיקונים יכולים להתפתח ולהיפרס. כלים של AI מאיצים עוד יותר את התהליך, ומקטינים את החלון בין גילוי פגיעות לניצולן.
- שטח תקיפה מורחב. האמצעות הנרחבת של טכנולוגיות ענן הרחיבה משמעותית את שטח התקיפה הפוטנציאלי. תשתית מבוזרת ודגם האחריות המשותפת בין ספקי ענן ומשתמשים יוצרים וקטורים חדשים לניצול, אם לא מנוהלים כראוי.
- אמצעי ביטחון מסורתיים מיושנים. כלים ביטחוניים מסורתיים כמו חומות אש ותוכנות אנטי-וירוס מתקשים לעמוד בקצב עם איומים מתפתחים אלו, במיוחד כאשר מדובר בגילוי ומיתון תוכן שנוצר על ידי AI.
מי זה מדבר
בנוף האיומים החדש, deepfakes מייצגים אתגר מיוחד לאינטגריטת הבחירות. מחקר אחרון מ-Ivanti מעניק מספרים לאיום: יותר ממחצית העובדים (54%) לא מודעים לכך ש-AI מתקדם יכול לחקות את קולו של כל אחד. חוסר מודעות זה בקרב בוחרים פוטנציאליים מדאיג מאוד, כאשר מתקרבים למחזור בחירות קריטי.
יש הרבה מהומה.
הסופיסטיקציה של טכנולוגיית deepfake היום מאפשרת לגורמי איום, הן זרים והן מקומיים, ליצור תוכן קול, וידאו וטקסט מזויף שקשה להבדיל מתוכן אמיתי. תמרור טקסט פשוט יכול כעת ליצור deepfake שקשה יותר ויותר להבדיל מתוכן אמיתי. יכולת זו היא בעלת משמעויות רציניות להפצת מידע כוזב ולהשפעה על דעת הקהל.
אתגרים בייחוס ומיתון
ייחוס הוא אחד האתגרים המשמעותיים ביותר שאנו פונים אליהם עם הפרעות בחירות שנוצרו על ידי AI. בעוד שהיינו משייכים הפרעות בחירות לגורמים לאומיים, הדמוקרטיזציה של כלים AI משמעות שקבוצות מקומיות, המנועות על ידי מניעים אידאולוגיים שונים, יכולות כעת לנצל את הטכנולוגיות האלו כדי להשפיע על הבחירות.
ההפצה של גורמי איום פוטנציאליים מסבכת את יכולתנו לזהות ולמתן מקורות של מידע כוזב. זה גם מדגיש את הצורך בגישה רב-תחומית לאבטחת בחירות שחורגת מאמצעי ביטחון מסורתיים.
מאמץ מתואם לשמירה על אינטגריטת הבחירות
טיפול באתגר של AI-Powered deepfakes בבחירות ידרוש מאמץ מתואם ברחבי מגזרים רבים. הנה אזורים מפתח שבהם אנו צריכים להתמקד:
- אבטחת “shift-left” למערכות AI. אנו צריכים ליישם את עקרונות “shift-left” אבטחה בפיתוח מערכות AI עצמן. זה אומר לשלב היבטים של אבטחה משלבים מוקדמים של פיתוח AI, כולל היבטים של שימוש לרעה בהפרעות בחירות.
- אכיפת קונפיגורציות בטוחות. מערכות AI ופלטפורמות שיכולות לשמש ליצירת deepfakes צריכות להיות עם קונפיגורציות בטוחות ברירת מחדל. זה כולל אמצעי אימות חזקים והגבלות על סוגי התוכן שניתן ליצור.
- אבטחת שרשרת האספקה של AI. כשוואנו מתמקדים באבטחת שרשרת האספקה של תוכנה, אנו צריכים להרחיב את הזהירות הזו לשרשרת האספקה של AI. זה כולל בדיקה של מאגרי הנתונים המשמשים לאימון מודלי AI ואלגוריתמים המועסקים ב-AI יוצר.
- יכולות גילוי משופרות. אנו צריכים להשקיע ולפתח כלים מתקדמים לגילוי תוכן שנוצר על ידי AI, במיוחד בהקשר של מידע הקשור לבחירות. זה כנראה יחייב שימוש ב-AI עצמו כדי להילחם במידע כוזב שנוצר על ידי AI.
- חינוך בוחרים ומודעות. מרכיב חשוב בהגנתנו נגד deepfakes הוא בוחרים מודעים. אנו צריכים תוכניות חינוך מקיפות כדי לעזור לבוחרים להבין את קיומם וההשפעה הפוטנציאלית של תוכן שנוצר על ידי AI, ולספק להם כלים לבחון ביקורתית את המידע שהם נתקלים בו.
- שיתוף פעולה בין-מגזרי. המגזר הטכנולוגי, במיוחד חברות IT ואבטחת סייבר, חייבות לעבוד בצמוד עם סוכנויות ממשלתיות, פקידי בחירות וארגוני תקשורת כדי ליצור חזית מאוחדת נגד הפרעות בחירות שנוהלות על ידי AI.
מה עכשיו, ומה הבא
כאשר אנו מיישמים את האסטרטגיות האלו, חשוב שנמדוד ברציפות את יעילותן. זה ידרוש מדדים חדשים וכלים למעקב שתוכננו במיוחד כדי לעקוב אחר ההשפעה של תוכן שנוצר על ידי AI על דיון בחירות והתנהגות בוחר.
אנו גם צריכים להיות מוכנים להתאים את האסטרטגיות שלנו במהירות. תחום ה-AI מתפתח בקצב מטורף, ואמצעי ההגנה שלנו צריכים להתפתח באותו קצב. זה עשוי להידרש לניצול AI עצמו כדי ליצור אמצעי ביטחון חזקים וגמישים יותר.
אתגר של AI-Powered deepfakes בבחירות מייצג פרק חדש באבטחת סייבר ואינטגריטת מידע. כדי לטפל בזה, אנו צריכים לחשוב מעבר לפרדיגמות ביטחון מסורתיות ולקדם שיתוף פעולה בין מגזרים ודיסציפלינות. המטרה: לנצל את הכוח של AI לטובת תהליכים דמוקרטיים בעודנו מפחיתים את הפוטנציאל לנזק. זהו לא רק אתגר טכני, אלא גם אתגר חברתי שידרוש פיקוח רציף, התאמה ושיתוף פעולה.
אינטגריטת הבחירות שלנו — ובהרחבה, בריאותה של הדמוקרטיה שלנו — תלויה ביכולתנו להתמודד עם אתגר זה באופן ישיר. זוהי אחריות המוטלת על כולנו: טכנולוגים, מדיניות ואזרחים כאחד.
