قادة الفكر
تأثير الارتفاع في عمليات الاحتيال الانتخابي باستخدام الذكاء الاصطناعي هذا الموسم
أضف Unite.AI إلى مصادرك المفضلة على Google
في عام 2022، زادت البريدات الإلكترونية الخبيثة التي تستهدف عمال الانتخابات في مقاطعات بنسلفانيا بشكل كبير حول الانتخابات التمهيدية في 17 مايو، بزيادة تزيد عن 546% في ستة أشهر. عندما نقارن ذلك بالاحتمال الذي قد يحدثه النماذج اللغوية الكبيرة الخبيثة (LLMs) فوق هجمات الفيشينغ التقليدية، هناك احتمال كبير أن يصبح المواطن الأمريكي العادي هدفًا لاحتيال أكثر واقعية هذا الموسم الانتخابي.
تبدأ الحكومات في ملاحظة ذلك، خاصة مع اندماج الذكاء الاصطناعي في حياتنا اليومية. على سبيل المثال، أطلقت وكالة الأمن السيبراني والبنية التحتية الأمريكية برنامجًا لتعزيز أمان الانتخابات – مما يدل على زيادة الطلب من الحكومة والجمهور لحماية أنفسهم وبياناتهم من الممثلين الخبيثين هذا الموسم الانتخابي.
وفي وقت لاحق، في مؤتمر ميونخ للأمن 2024، وقعت 20 شركة تقنية وذكاء اصطناعي على “اتفاقية تقنية لمكافحة الاستخدام الخادع للذكاء الاصطناعي في انتخابات 2024”، التي تسلط الضوء على المبادئ التوجيهية لحماية الانتخابات والعملية الانتخابية بما في ذلك الوقاية والأصل والكشف والحماية الاستجابة والتقييم والوعي العام. يتكون هذا من لاعبين تقنيين رئيسيين بما في ذلك مايكروسوفت وأمازون وغوغل، مما يدل على تحول مهم في الصناعة التي تتجاوز الانتماءات السياسية، حيث يصبح أمان البيانات موضوعًا يهم المواطنين والخبراء السيبرانيين على حد سواء خلال بقية هذا العام الانتخابي. بالإضافة إلى ذلك، سيكون للذكاء الاصطناعي التوليدية تأثير كبير على كيفية تنفيذ الممثلين الخبيثين لهجماتهم، مما يجعل من السهل إنشاء احتيال واقعي للغاية.
أنواع عمليات الاحتيال الانتخابي
على الرغم من أن موسم الانتخابات ليس الوقت الوحيد الذي نرى فيه زيادة في عمليات الاحتيال، إلا أننا نرى في وقت التصويت، سواء في الانتخابات التمهيدية أو العامة، زيادة في عدة أساليب وطرق. كل هذه تستخدم عادةً بهدف الحصول على وصول إلى حساب الفرد أو مكاسب مالية، ويمكن أن يكون لذلك عواقب كبيرة. في الواقع، تكلف الاحتيال بالبرامج الوهمية وحدها الولايات المتحدة أكثر من 3.4 مليار دولار في خسائر.
تتضمن بعض الأمثلة على عمليات الاحتيال التي نراها حول موسم الانتخابات ما يلي:
- الفيشينغ: يتضمن الفيشينغ استخدام روابط وبريد إلكتروني ومواقع وهمية للحصول على معلومات حساسة للمستهلك – عادةً عن طريق تثبيت البرامج الضارة على نظام المستهدف. ثم يتم استخدام هذه البيانات لسرقة هويات أخرى ووصول إلى أصول قيمة وضغط صناديق البريد بالبريد العشوائي. في موسم الانتخابات، يمكن أن يتخفي بريد الفيشينغ على أنه بريد تبرع يطلب من المواطن النقر على الرابط، ظنًا أنه يتبرع لمرشح، لكنه في الواقع يلعب في يد الممثل الخبيث.
- مكالمات الروبوت، والتقليد، والأصوات أو الدردشة التي تم إنشاؤها بواسطة الذكاء الاصطناعي: كما هو الحال في نيو هامبشاير عندما قام مكالمة روبوت بتقليد الرئيس بايدن لتحفيز المواطنين على عدم التصويت، سوف يرى موسم الانتخابات زيادة في التقليدات لمرشحي الانتخابات أو استطلاعات الرأي لتحقيق الثقة الخاطئة والحصول على معلومات حساسة.
- البرامج الوهمية: مع صعود الذكاء الاصطناعي، أصبحت البرامج الوهمية واقعية للغاية اليوم ويمكن استخدامها لتقليد رئيس أو حتى المشاهير المفضلين لديك. البرامج الوهمية هي مقاطع فيديو أو صور تستخدم الذكاء الاصطناعي لاستبدال الوجوه أو تعديل التعبيرات الوجهية أو الكلام. معظم البرامج الوهمية التي نراها يوميًا ستكون في شكل فيديو، مع مقطع معدل يظهر الشخص يقول أو يفعل شيئًا لم يفعله أبدًا. من المتوقع أن يكون هذا شائعًا بشكل خاص في هذا الموسم الانتخابي مع خطر إنشاء برامج وهمية لتقليد المرشحين. حتى خارج الولايات المتحدة، مثل المملكة المتحدة، هناك مخاوف من أن تُستخدم البرامج الوهمية لتحريف الانتخابات.
تأثير الذكاء الاصطناعي على الانتخابات
على رأس هذه العمليات، يتم استخدام خوارزميات الذكاء الاصطناعي لإنشاء رسائل وبريد إلكتروني ومنشورات على وسائل التواصل الاجتماعي أكثر إقناعًا وملاءمة لخداع المستخدمين وإقناعهم بتقديم معلومات حساسة.
نشرت مايكروسوفت وأوبن آي آي تقريرًا عن التهديدات، “التنقل في التهديدات السيبرانية وتعزيز الدفاعات في عصر الذكاء الاصطناعي،” الذي أشار إلى أن خمسة من ممثلي التهديدات من روسيا وشمال كوريا وإيران والصين قد استخدموا بالفعل الذكاء الاصطناعي لتعزيز عملياتهم ضد الأهداف الناعمة.
يمكن أن تُؤخذ عمليات الاحتيال مثل الدردشة ونسخ الصوت إلى مستوى أعلى باستخدام الذكاء الاصطناعي كأداة لنشر معلومات خاطئة وإنشاء برامج ضارة وتقليد الأفراد. يمكن لأدوات نسخ الصوت إنشاء نسخ متطابقة تقريبًا لصوت أو وجه شخصية انتخابية. يمكن استخدام الذكاء الاصطناعي أيضًا لفيض مراكز الاتصال بمكالمات وهمية من الناخبين، مما يؤدي إلى إغراقهم بمعلومات خاطئة.
سوف تكون وسائل التواصل الاجتماعي في حالة تأهب قصوى، لأنها وسيلة رئيسية للحملات في هذا الموسم الانتخابي. سوف يشارك الناخبون إذا كانوا قد صوتوا وربما يظهرون دعمهم لمرشحهم المفضل على صفحاتهم. ومع ذلك، يشكل هذا العام تهديدًا جديدًا حيث نرى زيادة في عمليات الاحتيال بالفيشينغ التي تستخدم الذكاء الاصطناعي (بما في ذلك السميشينج والفيشينج).
افترض أن شخصًا ما نشر على حسابه على وسائل التواصل الاجتماعي دعمًا لمرشح معين. بعد بضع دقائق، يتلقى بريدًا إلكترونيًا يبدو أنه من مدير الحملة، يشكرهم على دعمهم. يمكن أن يتفاعل ذلك الشخص مع البريد الإلكتروني عن طريق النقر على الرابط، مما يفتح له باب الحصول على معلومات تسجيل الدخول أو خسائر مالية أو تثبيت البرامج الضارة. بسبب قدرة الذكاء الاصطناعي على مراقبة وإنشاء وتسليم حملات الفيشينغ المستهدفة في الوقت الفعلي، فإن المنشورات على وسائل التواصل الاجتماعي التي تبدو بريئة الآن تفتح الباب أمام مستخدميها لتحقيق مستوى جديد من عمليات الاحتيال الواقعية.
البقاء على حالته في موسم الانتخابات
ستستمر هجمات مثل الفيشينغ في أن تكون طريقة شائعة للممثلين الخبيثين لإنشاء عمليات احتيال واقعية يمكن أن تخدع حتى الأشخاص الأكثر معرفة، وفي عصر الذكاء الاصطناعي التوليدية، تم تسريع تأثير هذه العمليات لتمكين الممثلين الخبيثين من الحصول على معلومات حساسة بسرعة أكبر.
في حين يُploy التكنولوجيا من قبل الشركات لحماية بياناتها وموظفيها، يجب على المستهلكين أيضًا أن يكونوا على دراية بالتقنيات لاكتشاف وتجنب عمليات الاحتيال. بعض هذه التقنيات تشمل:
- التحقق من الروابط أو عناوين البريد الإلكتروني العشوائية أو التي تحتوي على أخطاء إملائية
- عدم النقر على رابط من مرسل غير معروف
- استخدام التحقق من هويتك بطرق متعددة أو التحقق البيومتري حيثما أمكن
- جعل حساباتك على وسائل التواصل الاجتماعي خاصة
- الإبلاغ عن الأنشطة الخبيثة
- تثقيف زملائك أو أفراد عائلتك الآخرين
- البحث عن موقع ذو نطاق .gov لتأكيد صحة مرشح الانتخابات
- إذا كان لديك قسم تكنولوجيا المعلومات في مكان عملك، يمكنك أيضًا سؤالهم عن:
- شبكات الثقة الصفرية
- التحقق من هويتك بطرق متعددة المقاومة للفيشينغ
- أدوات أمان البريد الإلكتروني (DMARC و DKIM و SPF)
- طرق للتوقيع الرقمي للمحتوى (أو طريقة أخرى للتأكد من صحة اتصالاتك بشكل مشفر)
على الرغم من أن مواسم الانتخابات هي وقت لتكون على أهبة الاستعداد، إلا أن الهجمات يمكن أن تحدث في أي وقت، لذلك من المهم أن تؤكد على أسس أمان المعلومات الخاصة بك وتكون قوية وموثوقة على مدار العام.
