כיצד האקרים מניעים בינה מלאכותית

בינה מלאכותית הוכיחה את עצמה כטכנולוגיה המוסיפה ערך ברחבי הכלכלה העולמית.

כאשר עסקים מצאו את עצמם מתרוצלים להסתגל לאירועים נוכחיים במהלך השנים האחרונות, חלקם מצאו דרכים לדחוס חצי עשור של התפתחות דיגיטלית – במקרה של Frito-Lay – לתוך מסגרת זמן קצרה הרבה יותר. Harris Poll ו-Appen מצאו כי תקציבי AI גדלו ב-55% במהלך המגפה הגלובלית.

כמו כל כלי, בינה מלאכותית אין לה ערך מוסרי מולד. השימושיות או הפוטנציאל לנזק של AI תלוי באופן שבו המערכת “לומדת” ומה בסופו של דבר עושים בני אדם איתה.

ניסיונות מסוימים לנצל AI – כגון “חיזוי” פשיעה לפני שהיא קורה – מראים כי מודלים שאומנו על נתונים מוטים נוטים לשחזר חוסרים אנושיים. עד כה, אימון AI באמצעות נתונים ממערכת הצדק האמריקאית הוביל ל חישוב מוטה של AI.

בדוגמאות אחרות, בני אדם בוחרים דרכים מכוונות יותר לנצל את הפוטנציאל ההרסני של AI. האקרים מוכיחים את נטיותיהם החדשניות שוב ושוב על ידי שימוש בבינה מלאכותית כדי לשפר את היקף התקיפות, יעילותן ורווחיותן. וככל שמלחמת סייבר הופכת לנפוצה יותר ברחבי העולם, נראה בטוח שנראה את היישומים של AI בהאקינג מתפתחים עוד יותר.

AI היא הזדמנות וסיכון

בינה מלאכותית מספקת עולם של אפשרויות עבור עסקים המעוניינים לשפר את תחזיותיהם, אופטימיזציה עסקית ואסטרטגיות קידום לקוחות. היא גם מציעה הזדמנות עבור אלו שמעוניינים לפגוע בריבונות הדיגיטלית של אחרים.

ראה כאן כמה דרכים שבהן בינה מלאכותית עלולה להיות פגיעה להתערבות שקטה ולמאמצים גלויים יותר להפנות אותה לפעולות תוקפניות.

1. פגיעה בלוגיקה של המכונה

היתרון העיקרי של AI עבור צרכנים וחברות מסחריות הוא שהיא מבצעת פעולות לוגיות צפויות וחוזרות ללא התערבות אנושית. זהו גם החולשה הגדולה ביותר שלה.

כמו כל בניה דיגיטלית אחרת, AI עלולה להיות פגיעה לחדירה של כוחות חיצוניים. האקרים שגונבים את הלוגיקה של המכונה המניעה את AI יכולים לגרום לה לבצע פעולות בלתי צפויות או מזיקות. למשל, AI שמוטלת עליה לפקח על תנאים תעשייתיים עלולה לספק קריאות שווא או לאפשר לאותות תחזוקה להישלח.

מכיוון שהמטרה העיקרית של השקעות AI היא לבטל התערבות אנושית ולמנוע תוצאות בלתי צפויות, הנזק לתשתית או איכות המוצר שנגרם על ידי התקפה מסוג זה עלול לא להתגלות עד לכישלון קטסטרופלי.

2. שימוש באלגוריתמים של הנדסה הפוכה

דרך אפשרית אחרת לגרום לנזק – במיוחד במקרה של קניין רוחני (IP) ונתוני צרכנים או מסחריים – היא מושג ההנדסה ההפוכה. האקרים עלולים אפילו לגנוב את הקוד של הבינה המלאכותית עצמה. עם זמן מספיק ללמוד איך היא עובדת, הם יכולים ל גלות את המאגרים המשמשים לאמ