بناء الثقة في الذكاء الاصطناعي مع التحقق من الهوية

لقد أثار الذكاء الاصطناعي التوليدي اهتمامًا كبيرًا في جميع أنحاء العالم. في الواقع، ​​60% من المنظمات التي لديها تطبيق للذكاء الاصطناعي الآن تستخدم الذكاء الاصطناعي التوليدي. اليوم، يتنافس القادة على تحديد كيفية دمج أدوات الذكاء الاصطناعي في حزم التكنولوجيا الخاصة بهم ليبقوا في المنافسة والملاءمة – وأدوات الذكاء الاصطناعي التي يطورها المطورون أكثر من أي وقت مضى. ومع ذلك، مع التبني السريع وطبيعة التكنولوجيا، لا يتم النظر في العديد من القضايا الأمنية والاخلاقية بشكل كامل عندما تتسرع الشركات إلى دمج أحدث وأفضل تكنولوجيا. ونتيجة لذلك، تقل الثقة.

وجدت مسح حديث أن 48٪ فقط من الأمريكيين يعتقدون أن الذكاء الاصطناعي آمن ومأمون، بينما يقول 78٪ إنهم قلقون جدًا أو قلقون إلى حد ما من أن الذكاء الاصطناعي يمكن استخدامه لأغراض خبيثة. بينما وجد أن الذكاء الاصطناعي يحسن تدفقات العمل اليومية، يقلق المستهلكون من الأفراد الخبيثين وقدرتهم على التلاعب بالذكاء الاصطناعي. على سبيل المثال، أصبحت قدرات Deepfake أكثر تهديدًا مع زيادة سهولة الوصول إلى التكنولوجيا للجماهير.

لن يكون لدينا أداة ذكاء اصطناعي كافية. من أجل أن يصل الذكاء الاصطناعي إلى إمكانياته الحقيقية والمفيدة، تحتاج الشركات إلى دمج الذكاء الاصطناعي في حلول تظهر استخدامًا مسؤولاً وفعالًا للتكنولوجيا لتعزيز الثقة لدى المستهلكين، خاصة في مجال الأمن السيبراني حيث الثقة هي المفتاح.

تحديات الأمن السيبراني للذكاء الاصطناعي

تتقدم تكنولوجيا الذكاء الاصطناعي التوليدي بسرعة كبيرة، ويتعلم المطورون الآن أهمية جلب هذه التكنولوجيا إلى الشركات كما هو موضح في إطلاق ChatGPT Enterprise الأخير.

تكنولوجيا الذكاء الاصطناعي الحالية قادرة على تحقيق أشياء لم تكن متوفرة إلا في عالم الخيال العلمي قبل عقد من الزمن. طريقة عملها مثيرة للإعجاب، ولكن التوسع السريع الذي يحدث به هو أكثر إثارة للإعجاب. هذا ما يجعل تكنولوجيا الذكاء الاصطناعي قابلة للتطوير والوصول إلى الشركات والأفراد، وبالطبع، المخادعين. بينما قادت قدرات تكنولوجيا الذكاء الاصطناعي الابتكار، أدى استخدامها الواسع إلى تطوير تقنيات خطيرة مثل Deepfakes كخدمة.

سوف يتبع المخادعون دائمًا الأموال التي توفر لهم أعلى عائد على الاستثمار – لذلك أي عمل ي提供 عائدًا كبيرًا سيكون هدفهم. هذا يعني أن الشركات المالية، والشركات التي تدفع الفواتير، والخدمات الحكومية، وتجار السلع القيمة دائمًا سيكونون في قائمة首ياتهم.

نحن في مكان حيث الثقة على المحك، والمستهلكون أقل ثقة بشكل متزايد، مما يعطي المخادعين الهواة فرصًا أكبر من أي وقت مضى للهجوم. مع سهولة الوصول إلى أدوات الذكاء الاصطناعي، وزيادة انخفاض التكلفة، أصبح من السهل على الأفراد الخبيثين من أي مستوى مهارة التلاعب بالصور والهويات. أصبحت قدرات Deepfake أكثر سهولة للجماهير من خلال تطبيقات و مواقع Deepfake، ويتطلب إنشاء Deepfakes متقدمة وقتًا قليلاً ومستوى مهارات منخفضًا.

مع استخدام الذكاء الاصطناعي، لقد رأينا أيضًا زيادة في عمليات الاستحواذ على الحسابات. تجعل Deepfakes التي يتم إنشاؤها بواسطة الذكاء الاصطناعي من السهل على أي شخص إنشاء تمثيلات أو هويات اصطناعية سواء كانت ل المشاهير أو حتى رئيسك. ​​

يمكن استخدام تطبيقات اللغة التوليدية للغة الكبيرة (LLM) واللغة التوليدية بواسطة الذكاء الاصطناعي لإنشاء احتيال أكثر تعقيدًا وتحايلًا يصعب اكتشافه وإزالته. وقد أدت LLMs بشكل خاص إلى استخدام واسع النطاق للهجمات الفيشية التي يمكن أن تتحدث لغة أمك بشكل مثالي. كما أنها تُنشئ مخاطر “الاحتيال العاطفي” على نطاق واسع، عندما يقوم شخص ما بإنشاء اتصال مع شخص ما من خلال موقع أو تطبيق مواعدة، ولكن الشخص الذي يتحدث معه هو مخادع يستخدم ملفًا شخصيًا زائفًا. هذا يؤدي إلى أن تُفكر العديد من المنصات الاجتماعية في نشر “دليل إثبات البشرية” لتبقى قابلة للتطبيق على نطاق واسع.

然而، لا يمكن أن تمنع الحلول الأمنية الحالية، التي تستخدم تحليل البيانات الوصفية، المخادعين. يعتمد الكشف عن Deepfakes على تصنيفات تبحث عن الفروق بين الحقيقي والزائف. ومع ذلك، لم يعد هذا الكشف قويًا بما فيه الكفاية لأن هذه التهديدات المتقدمة تتطلب المزيد من نقاط البيانات للكشف عنها.

الذكاء الاصطناعي والتحقق من الهوية: العمل معًا

يجب على مطوري الذكاء الاصطناعي التركيز على استخدام التكنولوجيا لتوفير حماية أفضل لتدابير الأمن السيبراني المثبتة. لن يوفر هذا فقط حالة استخدام أكثر موثوقية للذكاء الاصطناعي، ولكن يمكن أن يوفر أيضًا استخدامًا أكثر مسؤولية – مما يشجع على ممارسات أمنية أفضل مع تقدم قدرات الحلول الحالية.

أحد الحالات الرئيسية لاستخدام هذه التكنولوجيا هو في التحقق من الهوية. يتحول مشهد التهديدات للذكاء الاصطناعي باستمرار، ويتعين على الفرق أن تكون مجهزة بتكنولوجيا يمكنها التكيف بسرعة وسهولة وتطبيق تقنيات جديدة.

توجد بعض الفرص في استخدام الذكاء الاصطناعي مع تكنولوجيا التحقق من الهوية، مثل:

• فحص سمات الجهاز الرئيسية
• استخدام الذكاء الاصطناعي المضاد للكشف عن التلاعب: لمنع الاحتيال وحماية البيانات الهامة، يمكن للذكاء الاصطناعي المضاد الكشف عن تلاعب الصور الواردة.
• علاج “غياب البيانات” كعامل خطر في بعض الحالات
• البحث النشط عن الأنماط عبر الجلسات والعملاء المتعددين

تُقدم هذه الدفاعات المتعددة التي توفرها تكنولوجيا الذكاء الاصطناعي والتحقق من الهوية، وتحقق من الشخص، وثيقة الهوية المزعومة، والشبكة والجهاز، وتقلل من خطر التلاعب الناجم عن Deepfakes، وضمان حصول الأشخاص الموثوقين والأصليين فقط على الوصول إلى خدماتك.

يجب على الذكاء الاصطناعي والتحقق من الهوية الاستمرار في العمل معًا. كلما كانت بيانات التدريب أكثر شمولاً واكتمالاً، زادت دقة النموذج، وحيث إن الذكاء الاصطناعي ليس أفضل من البيانات التي يتم تغذيته بها، كلما زادت نقاط البيانات، زادت دقة التحقق من الهوية والذكاء الاصطناعي.

مستقبل الذكاء الاصطناعي والتحقق من الهوية

من الصعب الثقة في أي شيء على الإنترنت ما لم يُثبت من مصدر موثوق. اليوم، يعتمد جوهر الثقة على الإنترنت على الهوية المثبتة. تُشكل سهولة الوصول إلى LLMs وأدوات Deepfake مخاطر الاحتيال على الإنترنت المتزايدة. مجموعات الجريمة المنظمة مدعومة جيدًا ويمكنها الآن الاستفادة من أحدث التكنولوجيا على نطاق أكبر.

يجب على الشركات توسيع منظومة الدفاع الخاصة بهم، ولا يجب أن يخافوا من الاستثمار في التكنولوجيا، حتى لو أضاف ذلك بعض الاحتكاك. لا يمكن أن يكون هناك نقطة دفاع واحدة فقط – يجب عليهم النظر في جميع نقاط البيانات المرتبطة بالفرد الذي يحاول الوصول إلى الأنظمة أو السلع أو الخدمات و الاستمرار في التحقق منهم على مدار رحلتهم.

ستستمر Deepfakes في التطور وتصبح أكثر تعقيدًا، ويتعين على قادة الأعمال الاستمرار في مراجعة البيانات من عمليات النشر للحلول لتحديد أنماط الاحتيال الجديدة والعمل على تطوير استراتيجيات الأمن السيبراني بشكل مستمر جنبًا إلى جنب مع التهديدات.