قادة الفكر

ضع المخاطر في الحسبان قبل استخدام Bard مع إضافات الذكاء الاصطناعي

Tal Zamir
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةيمكن لموظفي جوجل مراجعة محادثات بارد التي تحتوي على بيانات المستخدم الخاصة.
عرض المزيد
  • يمكن لموظفي جوجل مراجعة محادثات بارد التي تحتوي على بيانات المستخدم الخاصة.
  • قد يؤدي مشاركة محادثة بارد إلى ظهورها في نتائج بحث جوجل العامة.
  • يمكن لامتدادات المتصفح التي تحتوي على ضوابط منع فقدان البيانات (DLP) أن تقلل من مخاطر سرقة بيانات الذكاء الاصطناعي.

أعلنت Google مؤخرًا عن إطلاق إضافات Bard بالكامل، مما يدمج أداة الذكاء الاصطناعي التوليدية (GenAI) في خدماتها الأخرى. يمكن لـ Bard الآن استخدام بيانات المستخدمين الشخصية للقيام بمجموعة من المهام – تنظيم البريد الإلكتروني، حجز الرحلات، تخطيط الرحلات، صياغة استجابات الرسائل، وغيرها الكثير.

مع وجود خدمات Google بالفعل متشابكة بشكل عميق في حياتنا اليومية، يعتبر هذا التكامل خطوة حقيقية إلى الأمام لتطبيقات الذكاء الاصطناعي اليومية، مما يخلق طرقًا أكثر كفاءة وفعالية في التعامل مع المهام الشخصية وسير العمل. ونتيجة لذلك، مع إطلاق Google أدوات الذكاء الاصطناعي الأكثر راحة، تتطور ميزات الويب الأخرى القائمة على الذكاء الاصطناعي لتلبية احتياجات المستخدمين الذين يبحثون الآن عن امتدادات إنتاجية قائمة على المتصفح.

ومع ذلك، يجب على المستخدمين أن يكونوا حذرين ومسؤولين. فعلى الرغم من أن إضافات Bard وأدواتها المماثلة يمكن أن تكون مفيدة وإنتاجية، إلا أنها تفتح أبوابًا جديدة للثغرات الأمنية المحتملة التي يمكن أن تهدد بيانات المستخدمين الشخصية، بالإضافة إلى المخاطر غير المكتشفة الأخرى. سيكون من المفيد للمستخدمين الذين يرغبون في استخدام Bard أو أدوات الإنتاجية القائمة على GenAI الأخرى أن يتعلموا أفضل الممارسات ويتعرفوا على الحلول الأمنية الشاملة قبل أن يمنحوا معلوماتهم الحساسة دون وعي.

مراجعة البيانات الشخصية

تُصرّح Google بشكل صريح بأن موظفي الشركة قد يراجعون محادثات المستخدمين مع Bard – والتي قد تحتوي على معلومات خاصة، من فواتير إلى تفاصيل بنكية إلى ملاحظات حب. يتم تحذير المستخدمين بشكل مناسب بعدم إدخال معلومات سرية أو أي بيانات لا يرغبون في أن يراها موظفو Google أو يستخدموها لتطوير المنتجات والخدمات وتقنيات التعلم الآلي.

كما أن موفري أدوات GenAI، بما في ذلك Google، من المحتمل أن يستخدموا بيانات المستخدمين الشخصية لإعادة تدريب نماذج التعلم الآلي – وهو جانب ضروري من تحسينات GenAI. تقوم قوة الذكاء الاصطناعي على قدرتها على تعليم نفسها وتعلمها من المعلومات الجديدة، ولكن عندما تأتي هذه المعلومات الجديدة من المستخدمين الذين وثقوا في إضافة GenAI ببياناتهم الشخصية، فإنها تتعرض لخطر دمج معلومات مثل كلمات المرور أو تفاصيل البنك أو بيانات الاتصال في خدمات Bard العامة.

مخاوف أمنية غير محددة

مع تحول Bard إلى أداة أكثر اندماجًا في خدمات Google، يعمل الخبراء والمستخدمون على حد سواء على فهم مدى وظائفها. ومع ذلك، مثل أي لاعب رائد في مجال الذكاء الاصطناعي، تواصل Google إطلاق منتجات دون معرفة كيفية استخدامها لمعلومات المستخدمين وبياناتهم. على سبيل المثال، تم الكشف مؤخرًا عن أن مشاركة محادثة Bard مع صديق عبر زر المشاركة قد تظهر المحادثة بأكملها في نتائج بحث Google العادية للجميع.

على الرغم من أن Bard يقدم حلًا مثيرًا لتحسين سير العمل والكفاءة، فإن منح Bard أو أي إضافة أخرى قائمة على الذكاء الاصطناعي صلاحية تنفيذ مهام يومية مفيدة نيابة عنك يمكن أن يؤدي إلى عواقب غير مرغوب فيها في شكل هلوسات الذكاء الاصطناعي – مخرجات خاطئة أو غير دقيقة التي يُعرف بها GenAI أحيانًا.

بالنسبة إلى مستخدمي Google، قد يعني ذلك حجز رحلة جوية غير صحيحة أو دفع فاتورة بطريقة غير صحيحة أو مشاركة المستندات مع الشخص الخطأ. يمكن أن يؤدي تعرض البيانات الشخصية لأطراف غير مرغوب فيها أو لجهة خبيثة أو إرسال البيانات الخاطئة إلى الشخص الصحيح إلى عواقب غير مرغوب فيها – من سرقة الهوية وفقدان الخصوصية الرقمية إلى خسائر مالية محتملة أو كشف مراسلات محرجة.

توسيع الأمان

بالنسبة إلى المستخدم العادي للذكاء الاصطناعي، أفضل ممارسة هي عدم مشاركة أي معلومات شخصية مع مساعدي الذكاء الاصطناعي الذين لا يزال سلوكهم غير قابل للتنبؤ. ومع ذلك، لا يضمن ذلك وحده الأمان الكامل.

مع الانتقال إلى البرمجيات كخدمة (SaaS) والتطبيقات القائمة على الويب، أصبح المتصفح هدفًا رئيسيًا للمهاجمين. ومع بدء الناس في تبني أدوات الذكاء الاصطناعي القائمة على الويب، تزداد فرصة سرقة البيانات الحساسة. مع ظهور المزيد من الامتدادات التي تحاول ركوب نجاح GenAI – مما يغري المستخدمين بتثبيتها بميزات جديدة وفعالة – يجب على الناس أن يكونوا حذرين من حقيقة أن العديد من هذه الامتدادات ستسرق المعلومات أو مفاتيح واجهة برمجة تطبيقات OpenAI الخاصة بالمستخدم في حالة الأدوات المرتبطة بـ ChatGPT.

لحسن الحظ، توجد بالفعل حلول أمنية لامتدادات المتصفح لمنع سرقة البيانات. من خلال تطبيق امتداد متصفح مع ضوابط منع فقدان البيانات (DLP)، يمكن للمستخدمين تقليل مخاطر السماح لإضافات المتصفح الأخرى، سواء كانت قائمة على الذكاء الاصطناعي أم لا، بإساءة استخدام البيانات الشخصية أو مشاركتها. يمكن لهذه الامتدادات الأمنية فحص نشاط المتصفح وفرض سياسات الأمان، مما يمنع خطر استيلاء التطبيقات القائمة على الويب على المعلومات الحساسة.

حماية Bard

على الرغم من أن Bard والإضافات المماثلة تعد بتحسين الإنتاجية والراحة، إلا أنها تحمل مخاطر أمنية كبيرة. كلما تم استخدام البيانات الشخصية، ظهرت مخاوف أمنية كامنة يجب على المستخدمين أن يكونوا على دراية بها – خاصة في مياه غير مكتشفة للذكاء الاصطناعي التوليدي.

عندما يسمح المستخدمون لـ Bard وغيره من أدوات الذكاء الاصطناعي والأدوات القائمة على الويب بالتصرف باستقلالية باستخدام بياناتهم الشخصية الحساسة، فإن عواقب أشد خطورة تنتظر المستخدمين غير المتنبهين الذين يتركون أنفسهم عرضة للخطر من دون إضافات أمان للمتصفح أو ضوابط منع فقدان البيانات. في النهاية، فإن تحسين الإنتاجية سيكون أقل إنتاجية إذا زاد من فرصة كشف المعلومات، ويجب على الأفراد وضع حماية للذكاء الاصطناعي قبل أن تتعرض البيانات للتعامل الخاطئ على حسابهم.

تال هو كبير مسؤولي التكنولوجيا في Perception Point. وكان سابقًا مؤسس Hysolate وكبير مسؤولي التكنولوجيا فيها. يتمتع تال زامير بخبرة قيادية تمتد إلى 20 عامًا في قطاع البرمجيات، وله سجل حافل بحل تحديات الأعمال الملحّة من خلال إعادة تصور كيفية عمل التكنولوجيا.

كان رائدًا في تطوير العديد من المنتجات المبتكرة في مجالي الأمن السيبراني والمحاكاة الافتراضية. وخلال عمله في مكتب كبير مسؤولي التكنولوجيا في VMware، احتضن تال تطوير منتجات الجيل التالي من الحوسبة للمستخدم النهائي.