اختر المنافع والمخاطر قبل استخدام إضافات Bard مع الذكاء الاصطناعي

أعلنت Google مؤخرًا عن إطلاق إضافات Bard بالكامل، مما يدمج أداة الذكاء الاصطناعي التوليدية (GenAI) في خدماتها الأخرى. يمكن لـ Bard الآن استخدام بيانات المستخدمين الشخصية للقيام بمجموعة من المهام – تنظيم البريد الإلكتروني، حجز الرحلات، تخطيط الرحلات، صياغة استجابات الرسائل، وغيرها الكثير.

مع وجود خدمات Google بالفعل متشابكة بشكل عميق في حياتنا اليومية، يعتبر هذا التكامل خطوة حقيقية向 الأمام لتطبيقات الذكاء الاصطناعي اليومية، مما يخلق طرقًا أكثر كفاءة وفعالية في التعامل مع المهام الشخصية والتدفقات العمل. ونتيجة لذلك، مع إطلاق Google أدوات الذكاء الاصطناعي الأكثر راحة، تتطور ميزات الويب الأخرى القائمة على الذكاء الاصطناعي لتلبية احتياجات المستخدمين الذين يبحثون الآن عن امتدادات إنتاجية قائمة على المتصفح.

然而، يجب على المستخدمين أن يكونوا حذرين ومسؤولين. فعلى الرغم من أن إضافات Bard وأدواتها المماثلة يمكن أن تكون مفيدة وإنتاجية، إلا أنها تفتح أبوابًا جديدة للثغرات الأمنية المحتملة التي يمكن أن تهدد بيانات المستخدمين الشخصية، بالإضافة إلى المخاطر غير المكتشفة الأخرى. سيكون من المفيد للمستخدمين الذين يرغبون في استخدام Bard أو أدوات الإنتاجية القائمة على GenAI الأخرى أن يتعلموا أفضل الممارسات ويتعرفوا على الحلول الأمنية الشاملة قبل أن يمنحوا معلوماتهم الحساسة دون وعي.

مراجعة البيانات الشخصية

تُصرّح Google بشكل صريح rằng موظفي الشركة قد يراجعون محادثات المستخدمين مع Bard – والتي قد تحتوي على معلومات خاصة، من فواتير إلى تفاصيل بنكية إلى ملاحظات حب. يتم تحذير المستخدمين بشكل مناسب بعدم إدخال معلومات سرية أو أي بيانات لا يرغبون في أن يرىها موظفو Google أو يستخدموها لإعلام المنتجات والخدمات وتكنولوجيا التعلم الآلي.

كما أن موفري أدوات GenAI، بما في ذلك Google، من المحتمل أن يستخدموا بيانات المستخدمين الشخصية لإعادة تدريب نماذج التعلم الآلي – وهو جانب ضروري من تحسينات GenAI. تقوم قوة الذكاء الاصطناعي على قدرتها على تعليم نفسها وتعلمها من المعلومات الجديدة، ولكن عندما تأتي هذه المعلومات الجديدة من المستخدمين الذين وثقوا في إضافة GenAI ببياناتهم الشخصية، فإنها تتعرض لخطر دمج معلومات مثل كلمات المرور أو تفاصيل البنك أو أرقام الاتصال في خدمات Bard العامة.

مخاوف أمنية غير محددة

مع تحول Bard إلى أداة أكثر اندماجًا في خدمات Google، يعمل الخبراء والمستخدمون على حد سواء على فهم مدى وظائفها. ومع ذلك، مثل أي لاعب رائد في مجال الذكاء الاصطناعي، تواصل Google إطلاق منتجات دون معرفة كيفية استخدامها لمعلومات المستخدمين وبياناتهم. على سبيل المثال، تم الكشف مؤخرًا عن أن مشاركة محادثة Bard مع صديق عبر زر المشاركة قد تظهر المحادثة بأكملها في نتائج بحث Google العادية للجميع.

على الرغم من أن Bard يقدم حلًا مثيرًا لتحسين التدفقات العمل والكفاءة، فإن منح Bard أو أي امتداد قائم على الذكاء الاصطناعي الأخرى صلاحية تنفيذ مهام يومية مفيدة نيابة عنك يمكن أن يؤدي إلى عواقب غير مرغوب فيها في شكل هلوسات الذكاء الاصطناعي – مخرجات خاطئة أو غير دقيقة التي يُعرف بها GenAI أحيانًا.

对于 مستخدمي Google، قد يعني ذلك حجز رحلة جوية غير صحيحة أو دفع فاتورة غير دقيقة أو مشاركة المستندات مع الشخص الخطأ. يمكن أن يؤدي تعرض البيانات الشخصية لأطراف غير مرغوب فيها أو لأداة خبيثة أو إرسال البيانات الخاطئة إلى الشخص الصحيح إلى عواقب غير مرغوب فيها – من سرقة الهوية وفقدان الخصوصية الرقمية إلى خسائر مالية محتملة أو كشف مراسلات محرجة.

توسيع الأمان

对于 المستخدم العادي للذكاء الاصطناعي، أفضل ممارسة هي عدم مشاركة أي معلومات شخصية مع مساعدي الذكاء الاصطناعي غير المتوقعة. ومع ذلك، لا يضمن ذلك وحده الأمان الكامل.

مع تحول إلى تطبيقات السحابة والويب، أصبحت المتصفح هدفًا رئيسيًا للمهاجمين. ومع بدء الناس في采用 أدوات الذكاء الاصطناعي القائمة على الويب، تزداد فرصة سرقة البيانات الحساسة. مع ظهور المزيد من الامتدادات التي تحاول ركوب نجاح GenAI – مما يغري المستخدمين بتثبيتها بميزات جديدة وفعالة – يجب على الناس أن يكونوا حذرين من حقيقة أن العديد من هذه الامتدادات ستنتهك المعلومات أو مفاتيح واجهة برمجة التطبيقات المفتوحة في حالة أدوات ChatGPT.

幸运ًا، توجد بالفعل حلول أمنية لامتدادات المتصفح لمنع سرقة البيانات. من خلال تطبيق امتداد متصفح مع سيطرات حماية البيانات (DLP)، يمكن للمستخدمين تقليل مخاطر دعوة امتدادات المتصفح الأخرى، بما في ذلك تلك القائمة على الذكاء الاصطناعي، لاستخدام أو مشاركة البيانات الشخصية. يمكن لهذه الامتدادات الأمنية فحص نشاط المتصفح وفرض سياسات الأمان، مما يمنع خطر تطبيق التطبيقات القائمة على الويب لاستخلاص المعلومات الحساسة.

حماية Bard

على الرغم من أن Bard وأدواته المماثلة توعد بتحسين الإنتاجية والراحة، إلا أنها تحمل مخاطر أمنية كبيرة. كلما تم استخدام البيانات الشخصية، ظهرت مخاوف أمنية تحتية يجب على المستخدمين أن يكونوا على دراية بها – خاصة في مياه غير مكتشفة للذكاء الاصطناعي التوليدي.

مع السماح لمستخدمي Bard وأدوات الويب الأخرى بالعمل بشكل مستقل مع البيانات الشخصية الحساسة، يتعرضون ل عواقب أكثر خطورة إذا تركو أنفسهم عرضة للاستغلال بدون امتدادات أمان المتصفح أو ضوابط حماية البيانات. في النهاية، فإن تحسين الإنتاجية سيكون أقل إنتاجية إذا زاد من فرصة كشف المعلومات، ويجب على الأفراد وضع حماية للذكاء الاصطناعي قبل أن تتعرض البيانات للتعامل الخاطئ على حسابهم.