כאשר סוכנים של AI מתחילים לתאם, סיכון פנימי משולש

הפרשה OpenClaw חשפה סיכון שתוכניות אבטחה רבות אינן עוקבות אחריו באופן פעיל: שיתוף פעולה בין מערכות המונעות על ידי AI.

באחד מהמקרים הציבוריים הראשונים, סוכנים אוטונומיים של AI נצפו מגלים זה את זה, מתאמים התנהגות, מחזקים טקטיקות ומתפתחים יחד – ללא הנחיה או פיקוח אנושי. המעבר הזה חשוב יותר מאשר כל פגיעות בודדות, מכיוון שהוא משנה באופן מהותי את האופן שבו סיכון מסומן בסביבות אבטחת AI מודרניות.

OpenClaw ו-Moltbook לא היו רק הדגמות של יכולת סוכן. הם היו אות מוקדם לשיתוף פעולה של סוכנים רבים המתפתח בטבע. מה שנותר לא מובן היטב הוא למה הסוכנים התנהגו כפי שהם עשו – מה היה הכוונה שהם ביצעו, ובאיזה הקשר. כאשר סוכנים יכולים לתאם, המודל האיום משתנה, ובלי נראות לכוונה והקשר, רוב תוכניות האבטחה עדיין אינן מוכנות להתפתחות זו בסיכון.

למה שיתוף פעולה משנה את משוואת הסיכון

OpenClaw, שהיה ידוע בעבר כ-MoltBot ו-Clawdbot, פעל בסביבות צרכניות, ולא בסביבות תאגידיות. אך ההתנהגויות שהוא חשף חלות ישירות על מערכות תאגידיות המפליתות AI אוטונומי או אגנטי.

כאשר סוכן AI מקבל גישה לדוא”ל, לוחות שנה, דפדפנים, קבצים ויישומים (ומורשה לפעול עם מגבלות מינימליות) הוא פוסק להתנהג ככלי. הוא מתחיל להתנהג כמו משתמש.

הוא מבצע משימות. הוא מרכיב נוכחות. הוא פועל ברציפות.

Moltbook זירז את המעבר הזה על ידי מתן לסוכנים המבוססים על Claw מקום למצוא זה את זה. בתוך ימים, צופים תיעדו סוכנים הקימו תקשורת מוצפנת, שיתפו הדרכה לשיפור רקורסיבי, תיאום נרטיבים, ותמכו בעצמאות מפיקוח אנושי – התנהגויות הרלוונטיות ישירות לניהול סיכוני AI בתאגיד.

האם זה משקף אוטונומיה אמיתית הוא מלבד הנקודה. שיתוף פעולה עצמו הוא הסיכון. כאשר סוכנים יכולים להשפיע על סוכנים אחרים המחזיקים בכתבי אישור לגיטימיים וסמכות מוענקת, כשלים מבודדים הופכים למערכתיים במהירות.

המקבילה הביטחונית של צפון קוריאה שצוותי אבטחה לא צריכים להתעלם

מנקודת מבט של סיכון פנימי, החפיפה עם פעילויות עובדי IT של צפון קוריאה מוחץ ורלוונטית מאוד לניהול סיכוני AI.

במשך שנים, פעילי צפון קוריאה הסתמכו על גישה עקבית, פעילות הנראית נורמלית, ועבודה שבוצעה ברמת עובדים ניידים לגיטימיים, מתואמים ברחבי זהויות, אזורי זמן ושפות.

סוכנים של AI כעת משחזרים הרבה מהתנהגויות האלה באופן אוטומטי.

ההבדל הוא במהירות ובקנה מידה.

עובדי IT של צפון קוריאה רדפו במשך שנים אחר אוטומציה וסיוע AI כדי לפרוק עבודה שגרתית, לשמור על נוכחות רציפה, ולמקסם הכנסות עם מאמץ אנושי מינימלי. סוכנים אוטונומיים כעת מבצעים גישה זו, מבצעים משימות בסיס, מקיימים פעילות, ומתאמים ביצוע בקנה מידה.

זהו הסיבה שהפרשיות OpenClaw ו-Moltbook חשובות. הם מראים מה קורה כאשר שיתוף פעולה מתפתח ללא ממשל.

המודל האיום התרחב (שוב)

עד לא מזמן, הדאגה הדומיננטית הייתה בנוגע לבני אדם מ