המערב הפרוע של הונאות מונעות על ידי AI

אנו נמצאים באמצע מרוץ הזהב של AI. הטכנולוגיה מתקדמת, מדמוקרטית את הגישה לכל דבר, מיצירת תוכן אוטומטית ועד קבלת החלטות אלגוריתמיות. עבור עסקים, זהו הזדמנות. עבור מרמים, זהו כרטיס חופשי.

Deepfakes, זהויות סינתטיות והונאות אוטומטיות אינן עוד טקטיקות שוליים. על פי Deloitte, genAI יכול לגרום להפסדים מונעי הונאה לעלות על 40 מיליארד דולר בארצות הברית לבדה עד 2027. הכלים הם חזקים וברובם לא מוסדרים. מה שנותר לנו הוא גבולות דיגיטליים ללא חוק, שם ההשלכות מתרחשות בזמן אמת, אחד שבו חדשנות וניצול לעיתים קרובות נראים זהים.

AI הוריד את רף הכניסה

AI שטח את הלמידה עבור פשעי סייבר. עם רק פרומפט וחיבור לאינטרנט, כמעט כל אחד יכול לשגר התקפה מתוחכמת: מערכת דיוור מתוחכמת, חיקוי אדם נאמן או יצירת זהות דיגיטלית שלמה. מה שפעם דרש מומחיות, כעת דורש רק כוונה. טקטיקות הונאה מסומנות כמו סטארטאפ: נבדקות, מיטובות ומשוגרות בשעות, לא בשבועות.

מדאיג, הונאות אלו לא רק תכופות יותר; הן גם יותר משכנעות. AI איפשר להן לאישות הונאה בקנה מידה שלא נראה קודם — חיקוי דיבור ותבניות, חיקוי התנהגות חברתית והסתגלות להגנות חדשות בזמן אמת. זה הוביל לעלייה בהתקפות במאמץ נמוך, השפעה גבוהה. ככל שהטכנולוגיה ממשיכה להגיע לגבהים חדשים, הכלים הקיימים המשמשים לגילוי ועצירתה נופלים עוד יותר מאחור.

עליית זהויות סינתטיות וכלכלות Deepfake

התפתחות הבאה של הונאות מונעות AI לא רק תחקה מציאות, אלא תיצר אותה כולה. הונאת זהות סינתטית הופכת במהירות לאחת האיומים המהירים ביותר. זה מונע על ידי מודלים של AI יוצרים אישיות דומה לחיים מרסיסים של נתונים גנובים. על פי Datos Insights, יותר מ-40% ממוסדות פיננסיים כבר ראו עלייה בהתקפות הקשורות לזהויות סינתטיות שנוצרו על ידי GenAI, בעוד הפסדים הקשורים לטקטיקות אלו עברו 35 מיליארד דולר ב-2023. זיופים דיגיטליים אלו מטעים לא רק אנשים, אלא גם מערכות אימות ביומטריות ותיעוד, מוחלשים את האמון בלב התהליכים של אימות וציות.

רגולטורים מושחרים קווים בחול זז

מדיניות מתחילים לפעול, אבל הם רודפים אחרי מטרה נעה. מסגרות כמו EU AI Act ו-FTC’s Artificial Intelligence Compliance Plan מראים התקדמות ביצירת מעקי בטיחות לפיתוח ופריסה אתיים של AI, אבל הונאה לא מחכה לרגולציה לתפוס. בזמן שכללים מוגדרים, הטקטיקות כבר התפתחו.

פער רגולטורי זה הוא מסוכן, אחד שבו חברות של היום נאלצות לפעול הן כחדשנים והן כמאכפים. בלי תקן גלובלי משותף לסיכון AI, ארגונים צריכים להסדיר את עצמם, לבנות את המעקים שלהם, לפרש סיכון באופן עצמאי ולשאת את עול החדשנות והאחריות.

להילחם באש באמצעות אש: מה נראה הגנה יעילה

כדי לשמור את הקצב עם הונאות מונעות AI, ארגונים צריכים לאמץ את אותו מנטליות: גמיש, אוטומטי ומבוסס נתונים. ההגנות היעילות ביותר היום תלויות בגילוי סיכון בזמן אמת מוגבר על ידי AI: מערכות שיכולות לזהות התנהגות חשודה לפני שהיא מתפתחת ולהסתגל לדפוסי התקפה חדשים ללא התערבות אנושית.

במזל, הנתונים הדרושים לסוג הגנה הזה כבר זמינים עבור רוב העסקים, נאספים באופן פסיבי דרך אינטראקציות דיגיטליות רגילות. כל לחיצה, התחברות, קצור, כתובת IP ואותות התנהגותיים עוזרים לבנות תמונה מפורטת של מי שמאחורי המסך. זה כולל מידע על התקן, ביומטריה התנהגותית, מטא-נתונים של רשת ואותות כמו גיל כתובת דוא”ל ונוכחות ברשתות חברתיות.

הערך האמיתי טמון בהפיכת אותות אלו המפוזרים לתובנות רלוונטיות. כאשר מנותחים עם AI, נקודות נתונים מגוונות אלו מאפשרות גילוי חריגות מהיר יותר, החלטות חדות יותר והסתגלות טובה יותר לאיומים מתפתחים. במקום לטפל בכל אינטראקציה בנפרד, מערכות הונאה מודרניות מפקחות באופן רציף על דפוסים לא רגילים, קשרים חשודים והטיות מהתנהגות טיפוסית. בקישור הנקודות בזמן אמת, הן מאפשרות הערכות סיכון מדויקות יותר, מודעות להקשר ומפחיתות חיובים שווא.

עם זאת, הגנה מונעת AI לא משמעותה הסרת בני אדם מהלולאה. פיקוח אנושי הכרחי כדי להבטיח יכולת הסברה, להפחית שיפוטים מוטים ולהגיב למקרים קיצוניים שמערכות אוטומטיות עלולות לפספס.

חשיבה מחדש על אמון בעולם בזמן אמת

הסתגלות לנוף האיומים הזה אינה רק על אימוץ כלים חכמים יותר. זה דורש חשיבה מחדש על איך אנו מגדירים סיכון ומפעילים אמון. מודלים מסורתיים של גילוי הונאה לעיתים קרובות תלויים בנתונים היסטוריים וכללים סטטיים. הגישות האלו הן רכות מול איומים דינמיים מונעי AI שמשתנים כל יום. במקום זאת, ארגונים צריכים לעבור לקבלת החלטות מודעות להקשר, ששואבות מאותות התנהגותיים בזמן אמת, נתוני התקן ודפוסי רשת כדי ליצור תמונה עשירה יותר של כוונת המשתמש.

בעל חשיבות, מערכות המכילות אדם בלולאה מחזקות את המסגרת הזו על ידי צירוף דיוק אנליטי של AI עם שיפוט מומחה, מבטיחות כי אנומליות מדגלות בוחנות בהקשר, חיובים שווא מופחתים והחלטות אמון מתפתחות דרך משוב אנושי רציף. המעבר הזה אינו רק טכני; הוא תרבותי.

מניעת הונאה לא יכולה עוד להיות מוגבלת כפונקציה בתוך הארגון. היא צריכה להפוך לחלק מאסטרטגיית אמון רחבה יותר, משולבת עם אימות, ציות וחוויית לקוח. זה אומר צוותים רב-תפקידיים המשתפים תובנות, מסתדרים על תיאבון סיכון ומעצבים מערכות שמאזנות הגנה עם נגישות.

זה גם דורש מנטליות שיותר מעריכה עמידות מאשר קשיחות. ככל ש-AI מגדיר מחדש את מהירות והיקף ההונאה, היכולת להסתגל במהירות, בהקשר וברציפות הופכת לבסיס החדש להישאר מלפנים. אנו לא יכולים לעצור כל ניסיון הונאה, אבל אנו יכולים לעצב מערכות שנכשלות בחכמה, מתאוששות מהר יותר ולומדות בזמן אמת.

אף אחד לא יכול לנצח במרוץ החימוש של הונאה

אין ניצחון סופי במאבק נגד הונאות מונעות AI. כל הגנה חדשה מזמנת התקפה חכמה ומהירה יותר. מרמים פועלים עם פחות הגבלות, מסתגלים בזמן אמת ומשתמשים באותם מודלי AI כמו החברות שהם תוקפים.

במערב הפרוע הדיגיטלי הזה, מרמים נעים מהר, שוברים דברים ופונים לאף אחת מהמגבלות הרגולטוריות או האתיות שמאטות את העסקים הלגיטימיים. ואנו כולנו צריכים לקבל את המציאות החדשה: AI תינוצל על ידי גורמים רעים. התגובה הבטוחה היחידה היא להשתמש ב-AI כיתרון אסטרטגי לבנות מערכות שמהירות, גמישות ומתפתחות כמו האיומים שהן פוגעות. כי בעולם שבו כולם יכולים להשתמש ב-AI, עמידה במקום שווה לכניעה מוחלטת.