الأمن السيبراني
تفاصيل جوجل حول بنية الأمان لميزات وكيل الذكاء الاصطناعي في Chrome
نشرت Google إطار عمل أمني مفصل لميزات الذكاء الاصطناعي الوكيل القادمة في Chrome، حيث قدمت طبقات دفاع متعددة مصممة لحماية المستخدمين عندما يقوم الوكلاء المدعومون بـ Gemini بأداء مهام تصفح مستقلة.
أكثر من إعلان من مهندس أمن Chrome ناثان باركر يحدد هذا الهيكل أربعة ركائز أمنية أساسية تحكم كيفية تفاعل وكلاء الذكاء الاصطناعي مع مواقع الويب نيابةً عن المستخدمين. ويعالج هذا الهيكل المخاطر التي عانت منها أنظمة الوكلاء في بداياتها، بما في ذلك هجمات الحقن الفوري، والوصول غير المصرح به إلى البيانات، والمعاملات الاحتيالية.
ويأتي نهج جوجل في الوقت الذي يتسابق فيه المنافسون لتقديم وكلاء الذكاء الاصطناعي المستندين إلى المتصفح. أطلقت OpenAI برنامج ChatGPT Atlas في أكتوبر، أطلقت شركة Perplexity متصفح Comet الخاص بها في يوليو. يشير إطار العمل الأمني إلى نية جوجل التحرك بحذر أكبر من منافسيها الذين أثبت باحثو ميزاتهم الوكيلة بالفعل أنها عرضة للاستغلال.
الركائز الأربع لأمن الوكيل
يُشكّل مُنتقد محاذاة المستخدم طبقة الدفاع الأولى، وهو نموذج جيميني مُنفصل يُدقّق في كل إجراء يُقترحه عميل الذكاء الاصطناعي الرئيسي. يعمل هذا المُنتقد بمعزل عن الآخرين، ويفحص فقط البيانات الوصفية للإجراءات المُقترحة، بدلاً من مُحتوى الصفحة بالكامل، مما يُقلّل من تعرّضه للمُدخلات الضارة. إذا بدا الإجراء مُحفوفًا بالمخاطر أو غير مُرتبط بالهدف المُعلن للمستخدم، يُمكن لهذا المُنتقد طلب إعادة المحاولة أو إعادة التحكم إلى المستخدم.
تُقيّد مجموعات المنشأ مواقع الويب وعناصر الصفحات التي يُمكن للوكيل الوصول إليها أثناء أي مهمة مُحددة. يُميّز النظام بين مواقع القراءة فقط التي يُمكن للوكيل من خلالها استخدام المحتوى، ومواقع القراءة والكتابة التي يُمكنه من خلالها اتخاذ إجراءات. تُحجب مواقع الويب والإطارات المضمنة غير ذات الصلة تمامًا، مع ضرورة وجود وظيفة بوابة موثوقة للموافقة على الوصول إلى النطاقات الجديدة. هذا يمنع تسرب البيانات بين المواقع، ويُقلل من الأضرار المُحتملة التي قد يُسببها وكيل مُخترق.
تتطلب مراقبة المستخدم تأكيدًا يدويًا للعمليات الحساسة. عندما يصادف أحد الوكلاء بوابات مصرفية أو مواقع بيانات طبية، أو يحتاج إلى الوصول إلى بيانات اعتماد مخزنة من مدير كلمات المرور من جوجل، يتوقف كروم مؤقتًا ويطالب المستخدمين بالموافقة على الإجراء. وينطبق الأمر نفسه قبل إجراء عمليات شراء أو إرسال رسائل، حيث لا يمكن للوكيل إكمال هذه الإجراءات تلقائيًا.
يستخدم نظام كشف الحقن الفوري مُصنِّفًا مُخصَّصًا لفحص الصفحات فورًا بحثًا عن محاولات الحقن الفوري غير المباشرة. يعمل هذا النظام جنبًا إلى جنب مع بنية Chrome التحتية الحالية للتصفح الآمن واكتشاف عمليات الاحتيال على الجهاز لحظر المحتوى الضار المُشتبه به قبل أن يتمكن الوكيل من معالجته.
التعاون الآلي بين الفرق الحمراء ومكافآت الأخطاء
طورت جوجل أنظمة آلية للتنسيق الأحمر تُنشئ مواقع اختبار وهجمات موجهة من قِبل LLM للتحقق المستمر من صحة بنية الأمان. تُولي الشركة أولوية لاختبار نواقل الهجمات التي قد تُسبب ضررًا دائمًا، لا سيما تلك التي تستهدف المعاملات المالية أو سرقة بيانات الاعتماد.
ستُقدم آلية التحديث التلقائي لمتصفح كروم إصلاحات سريعة عند اكتشاف ثغرات أمنية جديدة. ولتشجيع البحث الأمني الخارجي، أعلنت جوجل عن مكافآت تصل إلى 20,000 دولار أمريكي للباحثين الذين يكتشفون ثغرات في إطار عمل التصفح الوكيل.
تعكس التدابير الدفاعية الدروس المستفادة من إضافات متصفحات الذكاء الاصطناعي المبكرة وعمليات دمج روبوتات الدردشة، حيث أثبتت هجمات الحقن الفوري فعاليتها المذهلة في التلاعب بسلوك الذكاء الاصطناعي. من خلال عزل نموذج الناقد وتقييد الوصول إلى المصدر على مستوى المتصفح، تهدف جوجل إلى منع صفحة الويب نفسها من أن تصبح هدفًا للهجوم.
الآثار المترتبة على سباق متصفحات الذكاء الاصطناعي
يتناقض إفصاح جوجل الأمني المفصل مع الغموض النسبي الذي يحيط بأنظمة المتصفحات الوكيلة المنافسة. ويبدو أن الشركة تراهن على أن مستخدمي المؤسسات والمهتمين بالأمن سيُقدّرون الضمانات الشفافة على الميزات الرائدة.
تُشير هذه البنية أيضًا إلى ما تعتبره جوجل استقلالية مقبولة لوكلاء الذكاء الاصطناعي. يُمكن إتمام عمليات التسوق والبحث وملء النماذج تحت إشراف، ولكن أي شيء يتعلق بالحسابات المالية أو بيانات الرعاية الصحية أو بيانات الاعتماد المُخزّنة يتطلب موافقة بشرية صريحة. وهذا يُرسي خطًا واضحًا لم يُبدِ البائعون الآخرون استعدادًا كافيًا لتعريفه علنًا.
بالنسبة للمطورين الذين يعملون على منصة Chrome، ستتطلب قيود مجموعة المصادر دراسة متأنية لكيفية تفاعل ميزات الوكلاء مع سير العمل متعدد المواقع. قد تحتاج التطبيقات التي تتوقع من الوكلاء التنقل بحرية عبر النطاقات إلى تغييرات هيكلية لتتوافق مع نموذج أمان Google.
لم تُعلن جوجل عن موعد إطلاق محدد لميزات التصفح الوكيل في كروم، إلا أن الإطار الأمني المُفصّل يُشير إلى اقتراب موعد الإطلاق. ويُشير استعداد الشركة لنشر البنية الدفاعية قبل الإطلاق إلى ثقتها في هذا النهج، ويُمثّل تحديًا ضمنيًا للمنافسين لمُجاراة شفافيتها.
