תעמולה חישובית: כוחות נסתרים המחברים מחדש את הדרך בה אנו חושבים, מצביעים וחיים

תארו לעצמכם: אתם מתעוררים, בודקים את הרשתות החברתיות שלכם, ומוצאים את אותו כותרת דליק בנושא אחד, החוזר על ידי מאות חשבונות – כל פוסט נוצר כדי לגרום לזעם או לדאגה. עד שאתם מספיקים להכין את הקפה שלכם בבוקר, הסיפור הפך לוויראלי, מעל חדשות לגיטימיות ומעורר מחלוקות סוערות ברחבי האינטרנט. תרחיש זה אינו עתידני – זו המציאות עצמה של תעמולה חישובית.

ההשפעה של קמפיינים אלו אינה מוגבלת עוד לפורומים שוליים בודדים. במהלך הבחירות לנשיאות ארצות הברית ב-2016, מחוונים רוסיים הציפו את פייסבוק וטוויטר בתוכן שנועד לעורר סדקים חברתיים, ולכאורה הגיעו למעל 126 מיליון אמריקאים. באותה שנה, הרפרנדום על הברקזיט בבריטניה הואפל על ידי חשבונות – רבים מהם אוטומטיים – ששאבו נרטיבים מפלגים כדי להשפיע על דעת הקהל. ב-2017, הבחירות לנשיאות צרפת הופרעו על ידי הדלפה של מסמכים שהותקפו, שהוגברה על ידי פעילות מדיה חברתית מתואמת בחשד. וכאשר COVID-19 פרץ ברחבי העולם, מידע כוזב אודות טיפולים ומניעה התפשט כמו אש, לעיתים קרובות טובע את ההנחיה להצלת חיים.

מהו המניע למבצעים מניפולטיביים אלו? בעוד שתסריטי ספאם ישנים ומחוונים סללו את הדרך, התקפות מודרניות מנצלות כיום אינטליגנציה מלאכותית מתקדמת. מ- מודלי טרנספורמר (כגון מערכות GPT היוצרות פוסטים הנשמעים כמו בני אדם) ועד עיבוד בזמן אמת שמשפר את הטקטיקות שלו באופן קבוע על סמך תגובות משתמש, עולם התעמולה הפך למתוחכם באופן מרשים. ככל שיותר מחיינו עוברים למקוון, הבנת כוחות אלו – ואיך הם מנצלים את רשתותינו החברתיות – מעולם לא הייתה קריטית יותר.

להלן, נחקור את השורשים ההיסטוריים של תעמולה חישובית, ונמשיך בחקירת הטכנולוגיות המניעות את Unite.AI קמפיינים של מידע כוזב היום. באמצעות הכרה באופן שבו מאמצים מתואמים מנצלים טכנולוגיה כדי לעצב מחשבותינו, נוכל לצעד את הצעדים הראשונים לעבר התנגדות למניפולציה ושיקום דיבור ציבורי אותנטי.

הגדרת תעמולה חישובית

תעמולה חישובית מתייחסת לשימוש במערכות אוטומטיות, ניתוח נתונים, ואינטליגנציה מלאכותית כדי להשפיע על דעת קהל או להשפיע על דיונים מקוונים בקנה מידה גדול. זה לעיתים קרובות כולל מאמצים מתואמים – כגון רשתות בוטים, חשבונות מדיה חברתית מזויפים, והודעות מותאמות אלגוריתמית – כדי להפיץ נרטיבים ספציפיים, לשתול מידע מוטעה, או לשתק דעות מחלוקתיות. על ידי ניצול יצירת תוכן AI, פרסום ממוקד היטב, ולופים של משוב בזמן אמת, אלו שמאחורי תעמולה חישובית יכולים להגביר רעיונות שוליים, להשפיע על סנטימנט פוליטי, ולתקוף את האמון בדיבור ציבורי אותנטי.

הקשר ההיסטורי: מרשתות בוטים מוקדמות למחוונים מודרניים

בסוף שנות ה-90 ותחילת שנות ה-2000, האינטרנט חווה את גל הראשון של תסריטים אוטומטיים – “בוטים” – ששימשו בעיקר לספאם דואר אלקטרוני, לנפח נתוני צפייה, או להגיב אוטומטית בחדרי צ’אט. עם הזמן, תסריטים אלו התפתחו לכלי פוליטיים מכוונים יותר כאשר קבוצות גילו שהם יכולים לעצב שיחות ציבוריות בפורומים, חלקי תגובות, ורשתות חברתיות מוקדמות.

1. אמצע שנות ה-2000: בוטים פוליטיים נכנסים לתמונה
   • דוגמה: ב-2007, דו”חות עלה של בוטים מתואמים ברשתות חברתיות מוקדמות כמו Myspace ו-Facebook, ששימשו לקידום מועמדים ספציפיים או לגנות יריבים.
   • ”צבא 50 הסנט” של סין הוא דוגמה נוספת: סביב 2004–2005, תועד כי פרשנים הקשורים לממשלה קיבלו 50 סנט עבור כל פוסט כדי לכוון דיונים מקוונים לכיוון התומך במדינה.
2. סוף שנות ה-2000 עד תחילת שנות ה-2010: עלייתם של מחוונים
   • 2009–2010: קבוצות ברחבי העולם החלו להקים מחוונים, והעסיקו אנשים ליצור ולנהל חשבונות מדיה חברתית מזויפים רבים. תפקידם: להציף ת’רדים מקוונים בפוסטים מפלגים או מוטעים.
   • מחוונים רוסיים: עד 2013–2014, סוכנות המחקר האינטרנטית (IRA) בסנט פטרבורג זכתה למוניטין עבור יצירת קמפיינים של מידע כוזב המיועדים הן לקהל פנים והן לבינלאומי.
3. 2016: נקודת מפנה עם התערבות גלובלית בבחירות
   • במהלך הבחירות לנשיאות ארצות הברית ב-2016, מחוונים ורשתות בוטים תפסו את הבמה. חקירות מאוחרות יותר חשפו כי מאות דפי פייסבוק וחשבונות טוויטר מזויפים, רבים מהם מיוחסים ל-IRA, קידמו נרטיבים היפר-פרטיים.
   • טקטיקות אלו הופיעו גם ב-ברקזיט ב-2016, שם חשבונות אוטומטיים הגבירו תוכן מפלג סביב הקמפיינים “לעזוב” ו”להישאר”.
4. 2017–2018: חשיפות בולטות והרשעות
   • ב-2017, רשתות בוטים התפשטו מסמכים מוטעים ושמועות על מועמדים.
   • ב-2018, מחלקת המשפטים של ארצות הברית הרשיעה 13 רוסים הקשורים ל-IRA בחשד להתערבות בבחירות 2016, מה שסימן אחת הפעולות המשפטיות הציבוריות ביותר נגד מחוון.
5. 2019 ואילך: מתקפות גלובליות וצמיחה מתמשכת
   • טוויטר ו-פייסבוק החלו למחוק אלפי חשבונות מזויפים הקשורים לקמפיינים של השפעה מתואמים מאיראן, רוסיה וונצואלה.
   • על אף הפיקוח הגובר, מופעלים מתוחכמים המשיכו להופיע – כעת לעיתים קרובות מסייעים באמצעות אינטליגנציה מלאכותית מתקדמת המסוגלת ליצור תוכן רב יותר.

נקודות ציון אלו קבעו את הקרקע ל-נוף הנוכחי, שבו למידת מכונות יכולה לאוטומט את כל מחזור חיי המידע הכוזב. ניסויים מוקדמים בבוטים פשוטים התפתחו לרשתות עצומות המשלבות אסטרטגיה פוליטית עם אינטליגנציה מלאכותית מתקדמת, מאפשרות לגורמים זדוניים להשפיע על דעת קהל בקנה מידה גלובלי עם מהירות ועדינות בלתי נתפסות.

כלי AI מודרניים המניעים תעמולה חישובית

עם התקדמות למידת מכונה ו-עיבוד שפה טבעית, קמפיינים של מידע כוזב התפתחו הרבה מעבר לבוטים פשוטים. מודלים יוצרי AI – המסוגלים לייצר טקסט הנשמע כמו בני אדם – העניקו למניפולטורים את היכולת להגביר נרטיבים מוטעים בקנה מידה רחב. להלן, אנו בוחנים שלוש גישות AI מונעות עיקריות המעצבות את תעמולה חישובית של היום, יחד עם התכונות המרכזיות שהופכות טקטיקות אלו לכה יעילות. טקטיקות אלו מוגברות עוד יותר בשל מנועי המלצות המוטים להפצת חדשות כוזבות על פני עובדות.

1. יצירת שפה טבעית (NLG)

מודלי שפה מודרניים כמו GPT המהפכניים את יצירת תוכן אוטומטית. המאומנים על מאגרי טקסט עצומים, הם יכולים:

• ליצור כמויות גדולות של טקסט: ממאמרים ארוכים ועד פוסטים קצרים ברשתות חברתיות, מודלים אלו יכולים לייצר תוכן 24/7 עם מעט פיקוח אנושי.
• לחקות סגנון כתיבה אנושי: על ידי עיבוד נתונים ספציפיים (למשל, נאומים פוליטיים, סלנג של קהילה), ה-AI יכול לייצר טקסט המתאים להקשר התרבותי או הפוליטי של קהל היעד.
• לשפר הודעות במהירות: מידע כוזב שאינו משיג את התוצאה הרצויה ניתן לשנות במהירות – המסר, הטון או התמונות מותאמים עד שהם משיגים את התוצאה הרצויה.

אחד ה-יתרונות המסוכנים של AI יוצר הוא היכולת להסתגל לטון ושפה לקהלים ספציפיים, כולל חיקוי דמות מסוימת, תוצאותיה כוללות:

• ספין פוליטי: ה-AI יכול לשלב בקלות משפטים פרטיים או סיסמאות, מה שהופך את המידע הכוזב לנראה כאילו הוא מגיע מתנועות עממיות.
• קולות קזואליים או רגועים: כלי זה יכול לעבור ל-”שכן ידידותי” ובקלות להכניס שמועות או תיאוריות קונספירציה לפורומים של קהילה.
• סמכות מומחה: על ידי שימוש בטון פורמלי ואקדמי, חשבונות AI-דרייב יכולים להתחזות למומחים – רופאים, חוקרים, אנליסטים – כדי להעניק אמינות כוזבת לטענות מוטעות.

ביחד, מודלי טרנספורמר וחיקוי סגנון מאפשרים למניפולטורים לייצר המונית תוכן הנראה מגוון ואותנטי, מערפל את הקווים בין קולות אותנטיים לתעמולה מזויפת.

2. פרסום אוטומטי ותזמון

בעוד שבוטים בסיסיים יכולים לפרסם את אותו המסר שוב ושוב, למידת חיזוק מוסיפה שכבה של אינטליגנציה:

• עיבוד אלגוריתמי: בוטים בודקים שעות פרסום, האשטאגים, ואורך תוכן כדי לראות אילו אסטרטגיות מניבות את המעורבות הגבוהה ביותר.
• טקטיקות סמויות: על ידי ניטור הנחיות הפלטפורמה ותגובות משתמש, בוטים אלו לומדים להימנע מאותות אזהרה בולטים – כגון חזרה על המסר או קישורים ספאמיים – וכך מצליחים להישאר מתחת לרדאר המודרטורים.
• הגברה מכוונת: כאשר נרטיב מסוים זוכה לתנופה בתת-קבוצה אחת, הבוטים משכפלים אותו ברחבי קהילות רבות, ובכך מנסים להפוך רעיונות שוליים לנושאים מרכזיים.

בנוסף ללמידת חיזוק, מניפולטורים מתזמנים פוסטים כדי לשמור על נוכחות קבועה:

• מחזור תוכן 24/7: תסריטים אוטומטיים מבטיחים שהמידע הכוזב נותר גלוי בשעות השיא באזורי זמן שונים.
• מסרים מוקדמים: בוטים יכולים להציף את הפלטפורמה בנקודת מבט מסוימת לפני שחדשות אמיתיות מתפרסמות, ובכך לעצב את התגובה הציבורית הראשונית.

דרך פרסום אוטומטי ותזמון, מניפולטורים מקסימלים את היקף התוכן, התזמון, והיכולת להסתגל – מנופים קריטיים להפיכת נרטיבים שוליים או כוזבים לשיח ציבורי.

3. הסתגלות בזמן אמת

יצירת AI ומערכות בוט אוטומטיות תלויות בנתונים קבועים כדי לשפר את הטקטיקות שלהן:

• ניתוח תגובה מיידי: לייקים, שיתופים, תגובות, ונתוני רגש מזינים בחזרה למודלי ה-AI, מדריכים אותם לגבי אילו זווית או קישור רונים את הקהל ביותר.
• שינויים בזמן אמת: תוכן שאינו משיג את התוצאה הרצוית משופר במהירות – המסר, הטון, או התמונות מותאמים עד שהם משיגים את התוצאה הרצוית.
• נרטיבים מתאימים: אם סיפור מסוים מתחיל לאבד רלוונטיות או פוגש התנגדות חזקה, ה-AI משנה לנקודות דיבור חדשות, תוך שמירה על התעניינות ומניעת גילוי.

לופ המשוב הזה בין יצירת תוכן אוטומטית לנתוני המעורבות בזמן אמת יוצר מערכת תעמולה עצמאית ומשפרת:

1. AI יוצרת תוכן: מכינה גל ראשוני של פוסטים מוטעים באמצעות דפוסים נלמדים.
2. פלטפורמות ומשתמשים מגיבים: מדדי המעורבות (לייקים, שיתופים, תגובות) זורמים בחזרה למניפולטורים.
3. AI משפרת אסטרטגיה: המסרים המוצלחים ביותר נשנים או מורחבים, בעוד שניסיונות חלשים יותר מושמטים או משופרים.

עם הזמן, המערכת הופכת ליעילה מאוד ב-תפיסת קהלים ספציפיים, ומצליחה להפיץ סיפורים כוזבים ליותר אנשים, מהר יותר.

תכונות מרכזיות המניעות השפעה זו

אפילו עם AI מתוחכם במשחק, תכונות מסוימות נותרו מרכזיות להצלחת תעמולה חישובית:

1. פעילות רציפה
   AI-דרייב פועלים ללא הרף, מבטיחים נוכחות רציפה של נרטיבים מסוימים. קצב הפוסטים התמידי שומר את המידע הכוזב בפני המשתמשים בכל עת.
2. היקף עצום
   AI יכול לייצר תוכן בלא-מעורבות אנושית ברחבי עשרות, אם לא מאות, חשבונות. רוויה זו יכולה ליצור קונסנסוס כוזב, לחץ על משתמשים אותנטיים להסכים או לקבל נרטיבים מוטעים.
3. הדלקת רגשות וקישורים מחוכמים
   מודלי טרנספורמר יכולים לנתח את הנושאים החם של קהילה וליצור פוסטים המעוררים רגשות חזקים – זעם, פחד, או התלהבות. הדלקות אלו גורמות ל-שיתוף מהיר, מאפשרות לנרטיבים כוזבים להתחרות במידע מוצק יותר.

למה זה חשוב

על ידי ניצול Unite.AI יצירת שפה טבעית מתקדמת, למידת חיזוק, וניתוח בזמן אמת, מניפולטורים של היום יכולים ליצור קמפיינים גדולים של מידע כוזב שהיו בלתי נתפסים לפני מספר שנים. הבנת התפקיד הספציפי של AI יוצר בהגברת מידע כוזב היא צעד קריטי לזיהוי מניפולציות אלו – והגנה מפניהן.

מעבר למסך

השפעות של מאמצים מתואמים אלו אינן נעצרות בפלטפורמות מקוונות. עם הזמן, מניפולציות אלו משפיעות על ערכים בסיסיים וקבלת החלטות. למשל, ברגעים קריטיים של בריאות הציבור, שמועות וחצאי אמיתות יכולות להאפיל על הנחיות מאומתות, ולעודד התנהגות מסוכנת. בהקשרים פוליטיים, סיפורים מעוותים על מועמדים או מדיניות יכולים להציף את הדיונים המאוזנים, ולדחוף את האוכלוסייה כולה לתוצאות המשרתות אינטרסים נסתרים ולא את הטוב הציבורי.

קבוצות של שכנים שחושבים שהם חולקים מטרות משותפות עשויים לגלות שהבנתם של נושאים מקומיים מושפעת ממיתוסים שהושתלו בקפידה. מכיוון שמשתתפים רואים חללים אלו כידידותיים ומוכרים, הם לעיתים רחוקות חושדים בחדירה. עד שמישהו מעורר שאלות על דפוסים לא רגילים, אמונות עשויות להתגבש סביב רושם מוטעה.

המקרה המוצלח ביותר של זה הוא השפעה על בחירות.

אותות אזהרה למניפולציה מתואמת

1. עלייה פתאומית במסרים אחידים
   • פוסטים זהים או דומים: שטף של פוסטים החוזרים על אותן המילים או ההאשטאגים מרמזים על תסריטים אוטומטיים או קבוצות מתואמות הדוחפות נרטיב אחד.
   • פרץ פעילות: עלייה חשודה בפעילות – לעיתים קרובות בשעות לילה – עשויה להצביע על בוטים המנהלים מספר חשבונות במקביל.
2. טענות חוזרות ללא מקורות אמינים
   • אין ציטוטים או קישורים: כאשר משתמשים רבים משתפים טענה ללא ציטוט מקורות אמינים, זו עשויה להיות טקטיקה להפצת מידע כוזב ללא בדיקה.
   • מקורות מפוקפקים: כאשר הפניות הן לאתרים חדשותיים מפוקפקים, הדבר עלול לנצל קהל שאינו מוכר היטב את המותגים הלגיטימיים, למשל, אתר בשם ”abcnews.com.co” התחזה פעם ל-ABC News המרכזית, באמצעות לוגו ועיצוב דומים, אך ללא קשר לשידור הלגיטימי.
   • הפניות מעגליות: כמה פוסטים מקשרים רק לאתרים פקופקים אחרים באותה רשת, יוצרים ”חדר אקו” עצמי של שקרים.
3. סימנים רגשיים חזקים ושפה אלרמיסטית
   • תוכן בעל ערך הלם: זעם, אזהרות חריפות, או תמונות סנסציוניות משמשים לעקוף חשיבה ביקורתית ולעורר תגובות מיידיות.
   • נרטיבים של “אנחנו נגדם”: פוסטים המציגים קבוצות מסוימות כאויבים או איומים מנסים לפלג ולרדיקל את הקהילות, ולא לעודד דיון מחשבה.

על ידי זיהוי אותות אלו – עלייה במסרים אחידים, טענות חוזרות ללא תמיכה, ותוכן המעורר רגשות – יחידים יכולים להבחין טוב יותר בין דיונים אותנטיים לתעמולה מתואמת.

למה שקרים מתפשטים כל כך בקלות

טבע האדם נמשך לסיפורים מרתקים. כאשר מוצגים בפניהם הסבר מעמיק ומאוזן או סיפור סנסציוני, רבים בוחרים את האחרון. הנטייה הזו, בעודה מובנת, יוצרת פתח למניפולציה. על ידי אספקת תוכן דרמטי, מניפולטורים מבטיחים הפצה מהירה וחשיפה חוזרת. בסופו של דבר, מוכרות לוקחת את מקומה של אימות, ואפילו סיפורים הדקים ביותר נראים אמיתיים.

ככל שסיפורים אלו תופסים את הבמה, האמון במקורות אמינים מתנפץ. במקום דיונים המונעים על ידי עובדות והיגיון, החילופין הופכים לקרבות מפלגים פולאריים. פילוג זה חותך מהקהילה את היכולת לחשוב ביחד, למצוא קרקע משותפת, או לטפל בבעיות משותפות.

הסיכונים הגבוהים: הסכנות הגדולות ביותר של תעמולה חישובית

תעמולה חישובית אינה רק הפרעה מקוונת – היא איום מערכתי המסוגל לעצב מחדש חברות שלמות ותהליכי קבלת החלטות. הנה הסיכונים הקריטיים ביותר הקשורים למניפולציות אלו:

1. השפעה על בחירות ותת-מינהל של דמוקרטיה
   כאשר צבאות של בוטים ודמויות AI-דרייב הציפו את המדיה החברתית, הם מעוותים את התפיסה הציבורית ומלהטים את ההיבטים הפוליטיים. על ידי הגברת נושאים מפלגים וטביעת דיון לגיטימי, הם יכולים לכוון את הקנה של בחירות או לדכא את הצבעת הבוחרים. במקרים קיצוניים, אזרחים מתחילים לפקפק בלגיטימיות של תוצאות הבחירות, מתקוטטים ביסודות הדמוקרטיה.
2. ערעור על האחדות החברתית
   תוכן פולרי המיוצר על ידי מודלים AI מתוחכמים ניצל את הקווים הרגשיים והתרבותיים. כאשר שכנים וחברים רואים רק את המסרים המפלגים המיועדים לעורר אותם, הקהילות מתפצלות לאורך חריצים מזויפים. טקטיקה זו של ”פילוג ושליטה” שואבת אנרגיה מדיון משמעותי, הופך קשה להגיע לקונצנזוס על בעיות משותפות.
3. תקיעת אמון במקורות אמינים
   כאשר קולות סינתטיים מתחזים לאנשים אמיתיים, הקו בין דיווח אמין לתעמולה מטשטש. אנשים נעשים סקפטיים כלפי כל מידע, והשפעה של מומחים לגיטימיים, בודקי עובדות, ומוסדות ציבוריים שתלויים באמון לפעול מתפוגגת.
4. מניפולציה של מדיניות ודעת קהל
   מעבר לבחירות, תעמולה חישובית יכולה לדחוף או לטמון מדיניות מסוימת, לעצב את הלך הרוח הכלכלי, ואפילו להצית פחד ציבורי סביב אמצעי בריאות. סדר היום הפוליטי הופך למעורפל על ידי מידע כוזב מתואם, ודיון אמיתי על מדיניות נעשה למאבק בין משפיעים נסתרים.
5. החמרת משברים גלובליים
   בעת מהומות – הבהלה, עימות גאופוליטי, או משבר פיננסי – קמפיינים AI-דרייב יכולים לנצל את הפחד. על ידי הפצת תאוריות קונספירציה או פתרונות כוזבים, הם מחבלים בתגובות מתואמות ומגדילים את העלויות האנושיות והכלכליות במשברים. הם לעיתים קרובות מובילים לבחירת מועמדים פוליטיים שנבחרים על ידי ניצול מידע כוזב.

קריאה לפעולה

הסכנות של תעמולה חישובית