عمق الصور و الذكاء الاصطناعي: نظرات من تقرير بيندروب 2024 حول ذكاء الصوت و الأمان

التقدم السريع في الذكاء الاصطناعي قد جلب معه فوائد و تغييرات تحويلية عبر مختلف القطاعات. ومع ذلك، فقد أدى ذلك أيضا إلى مخاطر و تحديات جديدة، خاصة فيما يتعلق بالاحتيال و الأمان. عمق الصور، وهو ناتج عن الذكاء الاصطناعي التوليدي، يصبح أكثر تعقيدا و يشكل تهديدا كبيرا لسلامة أنظمة الأمان القائمة على الصوت.

النتائج من تقرير بيندروب 2024 حول ذكاء الصوت و الأمان، يسلط الضوء على تأثير عمق الصور على مختلف القطاعات، و التطورات التكنولوجية التي تدفع هذه التهديدات، و الحلول المبتكرة التي يتم تطويرها لمواجهتها.

صعود عمق الصور: سيف ذو حدين

يستخدم عمق الصور خوارزميات التعلم الآلي المتقدمة لإنشاء محتوى صوتي و فيديوي اصطناعي واقعي للغاية. في حين أن هذه التكنولوجيا لها تطبيقات مثيرة في الترفيه و الإعلام، فإنها تعرض أيضا تحديات أمنية خطيرة. وفقا لتقرير بيندروب، فإن المستهلكين الأمريكيين أكثر قلقا بشأن مخاطر عمق الصور و الأصوات المزيفة في القطاع المصرفي و المالي، حيث يعبر 67.5% عن قلقهم الكبير.

التأثير على المؤسسات المالية

المؤسسات المالية خاصة هي أكثر عرضة للهجمات التي تستخدم عمق الصور. يستخدم المخترقون الأصوات المولدة بواسطة الذكاء الاصطناعي لتحقيق هوية الأفراد، و الحصول على وصول غير مصرح به إلى الحسابات، و التلاعب بالمعاملات المالية. يكشف التقرير عن وجود عدد قياسي من حالات خرق البيانات في عام 2023، حيث بلغت 3205 حالة – بزيادة 78% عن العام السابق. تبلغ التكلفة المتوسطة لخرق البيانات في الولايات المتحدة الآن 9.5 مليون دولار، و تتحمل مراكز الاتصال العبء الأكبر من تداعيات الأمان.

كان أحد الحالات البارزة هو استخدام صوت مزيف لخداع شركة مقرها هونغ كونغ في نقل 25 مليون دولار، مما يسلط الضوء على الإمكانيات المدمرة لتكنولوجيا عمق الصور عند استخدامها بطريقة خبيثة.

تهديدات أوسع للإعلام و السياسة

عبر القطاعات المالية، يشكل عمق الصور تهديدا كبيرا للمؤسسات الإعلامية و السياسية. القدرة على إنشاء محتوى صوتي و فيديوي مزيف مقنع يمكن استخدامها لنشر معلومات خاطئة، و التلاعب بالرأي العام، و تقويض الثقة في العمليات الديمقراطية. يلاحظ التقرير أن 54.9% من المستهلكين قلقون من تهديد عمق الصور للمؤسسات السياسية، في حين أن 54.5% يقلقون من تأثيرها على الإعلام.

في عام 2023، تم اتهام تكنولوجيا عمق الصور بوقوعها في عدة حوادث بارزة، بما في ذلك هجوم مكالمات روبوتية استخدم صوتا مزيفا للرئيس بايدن. هذه الحوادث تؤكد الضرورة الملحة لتطوير آليات الكشف و الوقاية القوية.

التطورات التكنولوجية التي تدفع عمق الصور

انتشار أدوات الذكاء الاصطناعي التوليدي، مثل ChatGPT من OpenAI و Bard من Google (GOOGL ) و Bing AI من Microsoft (MSFT ) ، قد خفض الحواجز أمام إنشاء عمق الصور. اليوم، هناك أكثر من 350 نظام ذكاء اصطناعي توليدي يستخدم في تطبيقات مختلفة، بما في ذلك Eleven Labs و Descript و Podcastle و PlayHT و Speechify. يمكن لنموذج VALL-E من Microsoft استنساخ صوت من شريطة صوتية مدتها ثلاث ثوان فقط.

جعلت هذه التطورات التكنولوجية من عمق الصور أرخص و أسهل في الإنتاج، مما زاد من إمكانية الوصول إليها لكل من المستخدمين البريئين و المخترقين. بحلول عام 2025، يتوقع Gartner أن 80% من عروض الذكاء الاصطناعي الحواري ستدمج الذكاء الاصطناعي التوليدي، بزيادة عن 20% في عام 2023.

مكافحة عمق الصور: ابتكارات بيندروب

لمواجهة التهديد المتزايد لعمق الصور، قدمت بيندروب عدة حلول متقدمة. واحدة من أبرزها هي ضمان Pulse Deepfake، وهو ضمان من نوعه الأول في الصناعة الذي يُعيد تعويض العملاء المؤهلين إذا فشل حزمة منتجات بيندروب في الكشف عن عمق الصور أو أي نوع من أنواع الاحتيال الصوتي الاصطناعي. يهدف هذا المبادرة إلى توفير راحة البال للعملاء و دفع حدود قدرات الكشف عن الاحتيال.

الحلول التكنولوجية لتعزيز الأمان

يبرز تقرير بيندروب فعالية تكنولوجيا الكشف عن الحية، التي تحلل المكالمات الهاتفية الحية لتحديد ما إذا كان الصوت على المكالمة “حيا” أو اصطناعيا. في الاختبارات الداخلية، وجد أن حل الكشف عن الحية من بيندروب كان أكثر دقة بنسبة 12% من أنظمة التعرف على الصوت و 64% أكثر دقة من البشر في تحديد الأصوات الاصطناعية.

بالإضافة إلى ذلك، تستخدم بيندروب منع الاحتيال المتكامل و التحقق من الهوية، مستخدمة الصوت و الجهاز و السلوك و البيانات المتعلقة بالمشغل و إشارات الحية لتعزيز الأمان. يرفع هذا النهج المتعدد الطبقات بشكل كبير عتبة المخترقين، مما يجعل من الصعب عليهم النجاح.

اتجاهات المستقبل و الاستعداد

فيما يتعلق بالاتجاهات المستقبلية، يتنبأ التقرير أن احتيال عمق الصور سيتابع زيادته، مما يشكل تهديدا بقيمة 5 مليار دولار لمراكز الاتصال في الولايات المتحدة وحدها. التطور المتزايد لأنظمة النص إلى الصوت، بالإضافة إلى تكنولوجيا الصوت الاصطناعي منخفضة التكلفة، يطرح تحديات مستمرة.

للبقاء أمام هذه التهديدات، توصي بيندروب بتقنيات الكشف المبكر عن المخاطر، مثل كشف تزييف هوية المتصل و الكشف المستمر عن الاحتيال، لمراقبة و تخفيف الأنشطة الاحتيالية في الوقت الفعلي. من خلال تنفيذ这些 الإجراءات الأمنية المتقدمة، يمكن للمنظمات حماية نفسها بشكل أفضل ضد مشهد الاحتيال الذي يتطور بقيادة الذكاء الاصطناعي.

الختام

يظهر ظهور عمق الصور و الذكاء الاصطناعي التوليدي تحديا كبيرا في مجال الاحتيال و الأمان. يسلط تقرير بيندروب 2024 حول ذكاء الصوت و الأمان الضوء على الحاجة الملحة إلى حلول مبتكرة لمواجهة هذه التهديدات. مع التطورات في الكشف عن الحية، و التحقق من الهوية المتعددة العوامل، و استراتيجيات منع الاحتيال الشاملة، تقود بيندروب الجهود الرامية إلى تأمين مستقبل التفاعلات القائمة على الصوت. مع استمرار تطور المشهد التكنولوجي، يجب أن تتطور أيضا نهجنا لضمان الأمان و الثقة في العصر الرقمي.