الذكاء الاصطناعي الخادع: استغلال النماذج التوليدية في مخططات إجرامية

الذكاء الاصطناعي التوليدي، وهو فرع من الذكاء الاصطناعي، اكتسب شعبية سريعة بسبب قدرته الرائعة على توليد أشكال مختلفة من المحتوى، بما في ذلك النصوص البشرية، والصور الواقعية، والصوت، من مجموعات بيانات ضخمة. وقد أظهرت نماذج مثل GPT-3 وDALL-E والشبكات التوليدية المعارضة (GANs) قدرات استثنائية في هذا الصدد.

وتشير تقرير ديلايت إلى الطبيعة المزدوجة للذكاء الاصطناعي التوليدي ويؤكد على الحاجة إلى اليقظة ضد الذكاء الاصطناعي الخادع. في حين أن تقدم الذكاء الاصطناعي يساعد في منع الجرائم، إلا أنه يمنح أيضًا الجهات الفاعلة الخبيثة. على الرغم من التطبيقات الشرعية، يتم استغلال هذه الأدوات القوية بشكل متزايد من قبل المخترقين الإلكترونيين والمخادعين والجهات الفاعلة المرتبطة بالدولة، مما يؤدي إلى زيادة في مخططات معقدة وخادعة.

صعود الذكاء الاصطناعي التوليدي في الأنشطة الإجرامية

أدى صعود الذكاء الاصطناعي التوليدي إلى زيادة في الأنشطة الخادعة التي تؤثر على الفضاء الإلكتروني والحياة اليومية. الغش، وهو تقنية لخداع الأفراد في الكشف عن المعلومات الحساسة، يستخدم الآن الذكاء الاصطناعي التوليدي لجعل رسائل البريد الإلكتروني الغش قوية للغاية. مع زيادة شعبية ChatGPT، زادت رسائل البريد الإلكتروني الغش، حيث يستخدم الجناة لإنشاء رسائل مخصصة تبدو مثل الاتصالات الشرعية.

تستغل هذه الرسائل، مثل الإشعارات البنكية الكاذبة أو العروض المثيرة، علم النفس البشري لخداع المستلمين في إعطاء بيانات حساسة. على الرغم من أن OpenAI يحظر الاستخدام غير المشروع لنماذجه، إلا أن فرض هذا الحظر ليس سهلًا. يمكن أن تتحول الدفعات البريئة بسهولة إلى مخططات خبيثة، مما يتطلب من المراجعين البشر والأنظمة الآلية كشفها ومنعها.

كما زادت الاحتيالات المالية مع تقدم الذكاء الاصطناعي. يغذي الذكاء الاصطناعي التوليدي الاحتيالات، مما يؤدي إلى إنشاء محتوى يخدع المستثمرين ويؤثر على مشاعر السوق. تخيل مواجهة бот يبدو بشريًا ولكنه مصمم فقط للخداع. يمنح الذكاء الاصطناعي التوليدي هذه البوتات، مما يتيح للمستخدمين المشاركة في محادثات تبدو حقيقية بينما يتم استخراج البيانات الحساسة. كما يعزز الذكاء الاصطناعي التوليدي هجمات الهندسة الاجتماعية من خلال إنشاء رسائل مخصصة تستغل الثقة والتعاطف والاستعجال. يسقط ضحايا لطلبات المال أو البيانات الحساسة أو بيانات الوصول.

كشف الهوية، وهو كشف المعلومات الشخصية عن الأفراد، هو مجال آخر حيث يساعد الذكاء الاصطناعي التوليدي الجناة. سواء كان كشف الهوية للشخصيات المجهولة على الإنترنت أو كشف التفاصيل الخاصة، فإن الذكاء الاصطناعي يزيد من التأثير، مما يؤدي إلى عواقب حقيقية مثل سرقة الهوية والتنمر.

ومن ثم هناك الصور الوهمية، وهي مقاطع فيديو أو صوت أو صور توليدية تشبه الواقع. تؤدي هذه الصور الوهمية إلى غموض الواقع، مما يشكل مخاطر من التلاعب السياسي إلى القتل الشخصي.

حوادث الصور الوهمية البارزة ذات الأثر الحرج

أدى استغلال الذكاء الاصطناعي التوليدي إلى سلسلة من الحوادث غير العادية، مما يبرز المخاطر والتحديات الهائلة التي تطرحها هذه التقنية عندما تقع في الأيدي الخاطئة. تكنولوجيا الصور الوهمية، على وجه الخصوص، تؤدي إلى غموض بين الواقع والخيال. الناتجة عن اتحاد الشبكات التوليدية المعارضة والخبيثة، الصور الوهمية تدمج بين العناصر الحقيقية والمنحوتة. تتكون الشبكات التوليدية المعارضة من شبكتين عصبويتين: المولد والمنفرد. يولد المولد محتوى متزايدًا في الواقعية، مثل الوجوه، بينما يحاول المنفرد كشف الوهم.

وقعت حوادث ملحوظة تتعلق بالصور الوهمية بالفعل. على سبيل المثال، استخدم Dessa نموذجًا ذكاءً اصطناعيًا لإنشاء نسخة مقنعة من صوت جو روغان، مما يظهر القدرة على إنتاج أصوات وهمية واقعية. كما كان للصور الوهمية تأثير كبير على السياسة، كما هو موضح في الأمثلة المختلفة. على سبيل المثال، تم إجراء مكالمة هاتفية آليّة تقلدت الرئيس الأمريكي جو بايدن أضلت الناخبين في نيو هامبشاير، بينما تم استخدام تسجيلات صوتية وهمية في سلوفاكيا لتأثير على نتائج الانتخابات. تم الإبلاغ عن حوادث مماثلة تؤثر على سياسة العديد من البلدان.

كما تم استغلال الصور الوهمية في الاحتيالات المالية. سقطت شركة هندسية بريطانية تسمى Arup ضحية احتيال صور وهمية بقيمة 20 مليون جنيه إسترليني، حيث تم خداع موظف مالي في مكالمة فيديو مع المخترقين الذين استخدموا أصوات وهمية وصورًا لتمثيل مسؤولي الشركة. هذا يبرز إمكانية الاحتيال المالي بالذكاء الاصطناعي.

استغل المخترقون الإلكترونيون أدوات الذكاء الاصطناعي التوليدي مثل WormGPT و FraudGPT لتعزيز هجماتهم، مما يشكل تهديدًا كبيرًا لأمن المعلومات. WormGPT، الذي يعتمد على نموذج GPT-J، يسهل الأنشطة الخبيثة دون قيود أخلاقية. استخدم باحثون من SlashNext هذا النموذج لإنشاء رسالة بريد إلكتروني احتيالية مقنعة للغاية. FraudGPT، الذي يتم تداوله على قنوات Telegram، مصمم للهجمات المعقدة ويمكنه توليد شفرة خبيثة، وإنشاء صفحات غش مقنعة، واكتشاف نقاط الضعف في الأنظمة. يبرز ظهور هذه الأدوات تطور التهديدات الإلكترونية وضرورة اتخاذ إجراءات أمنية محسنة.

الآثار القانونية والأخلاقية

تطرح الآثار القانونية والأخلاقية للخداع بالذكاء الاصطناعي تحديًا هائلًا في ظل التطورات السريعة في النماذج التوليدية. حاليًا، يعمل الذكاء الاصطناعي في منطقة رمادية من حيث التنظيم، حيث يحتاج واضعو السياسات إلى مساعدة للاحتفاظ بالتماسك مع التطورات التكنولوجية. هناك حاجة ملحة إلى إطارات تنظيمية قوية لتحديد الاستغلال وضمان حماية العامة من الاحتيالات والأنشطة الخبيثة التي ي驱ها الذكاء الاصطناعي.

علاوة على ذلك، يتحمل مصممو الذكاء الاصطناعي مسؤولية أخلاقية. الشفافية والكشف والامتثال للقواعد هي جوانب أساسية لتطوير الذكاء الاصطناعي المسؤول. يجب على المطورين توقع الاستغلال المحتمل ووضع إجراءات لنمذجات الذكاء الاصطناعي لتقليل المخاطر بشكل فعال.

من المهم الحفاظ على التوازن بين الابتكار والأمن في مواجهة التحديات التي تطرحها الاحتيالات التي ي驱ها الذكاء الاصطناعي. قد يؤدي التنظيم المفرط إلى تقييد التقدم، بينما قد يؤدي الإشراف المريح إلى الفوضى. لذلك، فإن التنظيمات التي تعزز الابتكار دون المساس بالأمان هي أمر ضروري للتنمية المستدامة.

علاوة على ذلك، يجب تصميم نماذج الذكاء الاصطناعي مع الأخذ في الاعتبار الأمن والأخلاقيات. يمكن أن تعزز ميزات مثل كشف الانحياز واختبار المتانة و التدريب المعادي من متانة النماذج ضد الاستغلال الخبيث. هذا هو الأمر 특히 مع تطور الاحتيالات التي ي驱ها الذكاء الاصطناعي، مما يؤكد على الحاجة إلى الرؤية الأخلاقية والمرونة التنظيمية لحماية ضد الإمكانات الخادعة لنماذج الذكاء الاصطناعي التوليدي.

استراتيجيات التخفيف

تتطلب استراتيجيات التخفيف للتعامل مع الاستخدام الخادع لنماذج الذكاء الاصطناعي التوليدي نهجًا متعددة الأوجه ي涉ل تحسين إجراءات الأمن والتعاون بين الأطراف الفاعلة. يجب على المنظمات توظيف مراجعين بشريين لتقييم المحتوى الذي يولده الذكاء الاصطناعي، باستخدام خبرتهم لتحديد أنماط الاستغلال وتحسين النماذج. يمكن أن تكون الأنظمة الآلية المجهزة بخوارزميات متقدمة لتحليل الرسائل الاحتيالية أو الأنشطة الخبيثة أو المعلومات الخاطئة، مما يخدم كأنظمة إنذار مبكر ضد الأفعال الاحتيالية.

علاوة على ذلك، التعاون بين شركات التكنولوجيا ووكالات إنفاذ القانون وواضعي السياسات هو أمر حيوي في كشف ومنع الاحتيالات التي ي驱ها الذكاء الاصطناعي. يجب على شركات التكنولوجيا الكبيرة مشاركة الرؤى وأفضل الممارسات ومعلومات التهديدات، بينما تعمل وكالات إنفاذ القانون بشكل وثيق مع خبراء الذكاء الاصطناعي للبقاء أمام الجناة. يجب على واضعي السياسات الانخراط مع شركات التكنولوجيا والباحثين والمجتمع المدني لإنشاء تنظيمات فعالة، مع التأكيد على أهمية التعاون الدولي في مكافحة الاحتيالات التي ي驱ها الذكاء الاصطناعي.

ونظرًا إلى المستقبل، فإن مستقبل الذكاء الاصطناعي التوليدي ومنع الجريمة يتميز بالتحديات والفرص. مع تطور الذكاء الاصطناعي التوليدي، سيتطور أيضًا أساليب الجريمة، مع تقدم الذكاء الاصطناعي الكمومي والحواسيب الحوافزية والنمذجة اللامركزية التي تشكل المجال. لذلك، يصبح التعليم حول التطوير الأخلاقي للذكاء الاصطناعي أكثر أهمية، مع الحث على المدارس والجامعات لجعل دورات الأخلاقيات إلزامية للممارسين في مجال الذكاء الاصطناعي.

الخلاصة

يقدم الذكاء الاصطناعي التوليدي فوائد هائلة ومخاطر كبيرة، مما يبرز الحاجة الملحة إلى إطارات تنظيمية قوية وتطوير أخلاقي للذكاء الاصطناعي. مع استغلال المخترقين الإلكترونيين للأدوات المتقدمة، تكون استراتيجيات التخفيف الفعالة، مثل الإشراف البشري و خوارزميات الكشف المتقدمة والتعاون الدولي، أمرًا ضروريًا.

من خلال تحقيق التوازن بين الابتكار والأمن، وتعزيز الشفافية، وتصميم نماذج الذكاء الاصطناعي مع ضمانات أمنية مدمجة، يمكننا مكافحة التهديد المتزايد للخداع الذي ي驱ها الذكاء الاصطناعي وتأمين بيئة تكنولوجية أكثر أمانًا للمستقبل.