قادة الفكر
عصر جديد من التمثيل الزائف للتنفيذيين لن يتضمن التنفيذيين على الإطلاق
أضف Unite.AI إلى مصادرك المفضلة على Google
لمدة几年، كان أكبر تهديد رقمي يواجه العلامات التجارية هو التمثيل الزائف للتنفيذيين، والذي يتم تنفيذه غالبًا من خلال عناوين البريد الإلكتروني المزيفة أو حسابات وسائل الإعلام الاجتماعية المزيفة. اليوم، نواجه عدوًا أكثر تعقيدًا وإقناعًا: وكلاء الذكاء الاصطناعي.
ازدهار الوكلاء المستقلين المدعومين بنماذج اللغة الكبيرة (LLMs)، المصممة للعمل مع تدخل بشري قليل أو بدون تدخل على الإطلاق، قد فتح إمكانيات جديدة تقلد حماس العصر المبكر للويب 2 وتطبيقات الهاتف المحمول.
على الرغم من أن الوكلاء المستقلين الحقيقيين لم يصلوا بعد إلى الواقع، يحذر الخبراء من أنهم قد يكونون قادرين على التنقل في الشبكات الشركة في غضون عام. الإثارة والاعتماد التي تليها سوف تقع حتما على رادار المجرمين الإلكترونيين المتكيفين دائمًا، الذين يرون الوكلاء المستقلين كحقل جديد للاحتيال الرقمي. فماذا يحدث عندما يتم تمثيل هؤلاء الوكلاء؟ أو ما هو أسوأ، عندما يكونون هم المتمثلون؟
على سبيل المثال، كما واجهت تطبيقات الهاتف المحمول في الماضي فيضًا من النسخ المزيفة التي تم بناؤها لاستخراج بيانات تسجيل الدخول أو تثبيت البرامج الضارة، فإن وكلاء الذكاء الاصطناعي теперь على وشك مواجهة موجة مماثلة من النسخ المزيفة. ومع ذلك، فإن المخاطر هذه المرة سوف تكون أكثر صعوبة في الكشف عنها، وأضرارها المحتملة أكثر انتشارًا.
من التمثيل الزائف للتنفيذيين إلى التمثيل الزائف للوكلاء
لقد أدخل الذكاء الاصطناعي بالفعل طرقًا جديدة للاحتيال والخداع، ممثلة في عمليات الاحتيال التي تستخدم التقليد الصوتي الذي يمكن أن يكرر أنماط كلام التنفيذي باستخدام بضع ثوان من الصوت، على سبيل المثال، وأخيرًا، تم الإبلاغ عن أدلة على عمليات التمثيل الزائف للفيديو والصوت في الوقت الفعلي. تخيل الآن وكيلًا مستقلًا، يُفترض أنه يمثل شركتك، يتفاعل مع العملاء أو المستثمرين أو الشركاء. يمكن أن يكون هذا الوكيل متضم्नًا في موقع ويب، أو متكاملًا في برنامج محادثة، أو حتى يتفاعل عبر البريد الإلكتروني، يقدم互одействات محتملة ومحترفة وكاملة الزيف.
السلف المحتمل للوكلاء المزيفين قد يكمن في نماذج “الخروج من السجن”، التي يتم من خلالها للمهاجمين التلاعب بنماذج LLMs، غالبًا من خلال حقن الإشارات أو تقنيات متعددة الدورات، لإنتاج مخرجات ضارة أو كاذبة. لكن هذا هو فقط البداية.
وفقًا للبيانات من بيتش بوك، جمعت شركات الذكاء الاصطناعي 131.5 مليار دولار في عام 2024، مما يمثل أكثر من ثلث الصفقات الإجمالية لاستثمارات رأس المال الجريء العالمية. سوف يسرع سباق الذكاء الاصطناعي، الذي يُغذيته المؤسسون الطموحون والمستثمرين الجياع والحكومات الحريصة، سوف يسرع قريبًا من قدرات هذه التكنولوجيا الناشئة، التي سوف تواصل استغلال حالات استخدامها المشروعة لأغراض شريرة.
لقد قام الذكاء الاصطناعي التوليدي بتمكين خلق مثل هؤلاء الوكلاء، وسوف يستمر في ذلك. مع سباق المنصات لدمجهم، هناك قواعد قليلة لتحقق صحة الوكلاء. هذا يفتح الباب لفئة جديدة من التمثيل الزائف: ليس فقط للأشخاص ولكن أيضًا للبرمجيات.
نداء استيقاظ للعلامات التجارية الحريصة والمستهلكين المنهمكين
المستهلكون والعلامات التجارية على حد سواء يبدأون فقط في فهم ما يعنيه الثقة في وكيل. لكن الثقة هي ركيزة أي互одействة رقمية، وعندما يتم كسرها، يمكن أن تكون العواقب مدمرة.
كما لوحظ مع مقاطع الفيديو المزيفة وتقليد الصوت، يمكن استخدام الوكلاء المزيفين ل:
- الطلبات الدفع أو البيانات الحساسة تحت ستار علامة تجارية مقبولة أو موثوقة
- إعادة توجيه المستخدمين إلى مواقع ويب مليئة بالبرامج الضارة عبر رسائل الدعم على وسائل الإعلام الاجتماعية أو الإعلانات المدفوعة
- تآكل ثقة العملاء وتحفيز الضرر بالسمعة على نطاق واسع
وفقًا لتقرير حديث من لجنة التجارة الفيدرالية، كانت عمليات الاحتيال المزيفة مسؤولة عن خسائر تقاربت 3 مليارات دولار في الولايات المتحدة وحدها – رقم متوقع أن يرتفع بشكل حاد مع تحول الاحتيال المزيف بالذكاء الاصطناعي إلى شيء أكثر سلاسة ومتوافقًا.
انتشار الوكلاء المزيفين: الإعلانات، البحث، والاجتماع
ما هو nguy nguy حقًا هو كيف سوف يتم توزيع الوكلاء المزيفين. لا يحتاجون إلى مواقعهم الخاصة أو نطاقاتهم الخاصة لتحقيق زخم. يمكن للمهاجمين، ويفعلون، استخدام نتائج البحث المدفوعة ومنصات وسائل الإعلام الاجتماعية لترويج نسخ مزيفة من العلامات التجارية الموثوقة أو التنفيذيين أو المنتجات. على سبيل المثال، الرابط المدفوع على جوجل أو المنشور المروّج على إنستغرام يكفي لإعادة توجيه المستخدمين غير المتعمد إلى وكيل مزيف أو بوابة دعم.
يتطلب هذا المخاطر على مستوى النظام، حيث يخطف المهاجمون الأراضي الرقمية الشرعية لتسهيل الاحتيال، مدرسة فكر جديدة لأمن المعلومات. لم يعد من الكافي حماية شبكتك أو سحابتك أو تأمين بيانات تسجيل الدخول لموظفيك. يรวม محيط التهديد لعلامتك التجارية الآن كل شبكة إعلانات ومنصة بحث وأداة طرف ثالث يتفاعل معها عملاؤك.
التحرك قبل فوات الأوان
ندخل إلى عالم حيث يصبح خط الفصل بين البشر والوكلاء متزايدًا. المخاطر لم يعد فقط التمثيل الزائف للأشخاص، الذي ينمو حاليًا بسرعة أسيّة بسبب أدوات الذكاء الاصطناعي المتاحة، بل التمثيل الزائف للشخصيات الرقمية.
فكيف يمكن للشركات الاستعداد؟
- خريطة وجود علامتك التجارية الرقمي: اعرف أين يتفاعل عملاؤك مع شركتك ووكلائها – سواء على موقعك أو عبر واجهة برمجة التطبيقات أو عبر أطراف ثالثة – وراقب هذه النقاط الدخول لتحاولات التمثيل الزائف.
- مراقبة بيئات الوكلاء الناشئة: مع نمو سوق الوكلاء المفتوحة والمنصات (مثل مساحات هوجينج فايس)، كن حذرًا من المقلدين أو الفروع من أدواتك التي تظهر في مكان آخر.
- تقليل وقت الكشف (TTD) ووقت الإصلاح (TTR): استخدم الحلول التي تسمح بتحديد السارقين بسرعة وإزالتهم، خاصة أولئك الذين يسيئون استخدام الإعلانات المدفوعة أو منصات وسائل الإعلام الاجتماعية، أمر بالغ الأهمية لتحديد الضرر.
- تثقيف مستخدميك: بناء الشفافية في تجارب الوكيل. يجب على مستخدميك فهم أين و كيف يجب أن يتوقعوا التفاعل مع أدواتك، و كيفية اكتشاف أعلام الحمراء.
- تحديد بروتوكولات صحة الوكيل: اعمل تجاه التحقق الكريبتوغرافي أو القائم على البيانات الوصفية الذي يمكن أن يؤكد أصل الوكيل وشرعيته.
الsolution تكمن في تأمين نظام وكلاء الذكاء الاصطناعي، لا في تجنبه. كما تعلمنا على مر السنين التحقق من النطاقات، وتأكيدها البريد الإلكتروني، ومراجعة تطبيقات الهاتف المحمول، الآن نحن بحاجة إلى تمديد نفس درجة اليقظة إلى عالم وكلاء الذكاء الاصطناعي. إذا لم نتقدم في التمثيل الزائف للوكلاء الآن، قد نجد أنفسنا قريباً نتحدث إلى مساعد متشابه يعمل لصالح الطرف الآخر.
