وكلاء الذكاء الاصطناعي يتقدمون بسرعة على أمن الصناعة المالية. هل الصناعة مستعدة؟

أريد شراء بعض أسهم الخطوط الجوية البريطانية

عندما بدأت العمل على مكتب تداول في مدينة لندن في الثمانينيات، كان الهاتف هو الواجهة. كان العميل يتصل، وعادةً كان رجلًا قد kiếm ثروته في شيء ممل ويريد بعضها في الأسهم، ويقول إنه يرغب في شراء بعض أسهم الخطوط الجوية البريطانية. كان شخص ما على المكتب يتولى الأمر، وكان ذلك هو الصفقة. شخصان، هاتف، وquantity من الثقة في كلا الاتجاهين.

ثم قامت الصناعة بإنفاق أربعين عامًا في التخلص من المكالمة الهاتفية. أولاً شاشات التداول. ثم المحطات الإلكترونية. ثم واجهات برمجة التطبيقات التي تسمح للصندوق بإطلاق آلاف من الأوامر في الثانية دون أن يقول أحد كلمة. كنا نسمي ذلك التقدم، وكان معظمها كذلك.

الآن يتم إغلاق الحلقة. الفكرة الجديدة في الصناعة هي السماح للعميل بالتحدث إلى الآلة مرة أخرى، ولكن هذه المرة تجيب الآلة. يمكنك أن تخبر وسيط الذكاء الاصطناعي، باللغة الإنجليزية أو ما شابهها، بتنفيذ صفقة زوجية عبر فئتين من الأصول، أو الحفاظ على موقع الخيارات المُحسَّن ضد مجموعة من الشروط التي تذكرها، وسيقوم بذلك. قمنا بإنفاق جيل في استبدال الرجل على المكتب. نحن الآن على وشك إعادة توظيفه في السيليكون.

لا أمانع كبير لدي ضد أي من هذا. ما يقلقني هو الأسلاك تحتها، والتي هي أصغر سناً بكثير من التسويق.

التركيبات أصغر سناً من الدعاية

الشيء الذي يعمل بquietly على معظم موجة التكامل هذه هو بروتوكول سياق النموذج، أو MCP، وهو لا يزال في سن الثامنة عشر. قام Anthropic بطرحها مفتوحة المصدر في أواخر عام 2024 لحل مشكلة داخلية خاصة به: كيفية توصيل نماذج اللغة بأدوات خارجية وبيانات دون كتابة رمز التكامل المخصص لكل زوج. بحلول الوقت الذي قام فيه Anthropic بتمرير البروتوكول إلى مؤسسة Agentic AI الجديدة في ديسمبر 2025، كان已经 يعمل على أكثر من 10,000 خادم عام وتم اختياره بواسطة ChatGPT وGemini وMicrosoft Copilot، من بين آخرين. هذا هو نوع المنحدر الذي يجعل “الأول في التكامل” يشعر وكأنه السؤال الوحيد الذي يجب أن يسأله أي شخص.

يهتم بحل مشكلة هندسية حقيقية. بدلاً من كتابة رمز التكامل يدويًا لكل أداة مؤسسية، تنشر كتالوجًا موحدًا للقدرات وتهتم بنموذج القراءة منه. يمكن أن يتحدث نموذج الحدود مع قاعدة بيانات عمرها ثلاثون عامًا كما لو كانا قد تم تقديمهما في حفل.

المشكلة هي أن نفس الوحدانية تمشي مباشرةً إلى ما وراء الحدود الشبكية التي قمت بإنفاق عقد من الزمن في بنائها. الواجهة التي تسمح للنموذج بالوصول إلى قاعدة البيانات التقليدية تسمح له بالوصول إلى أي شيء آخر معروض على نفس الواجهة. ووكيل يقوم بعمله الحقيقي في شركة تداول حقيقية يجب أن يقرأ العالم الخارجي للعمل: التعليقات على السوق، وتغذيات الأخبار، والملف الذي قام شخص ما بتركيبه. في اللحظة التي يبدأ فيها في قراءة النص غير الموثوق، تكون الإرشادات والبيانات قادمة من نفس الأنبوب، مكتوبة باللغة نفسها، بدون طريقة موثوقة للنموذج لتحديد أيهما أيهما.

خداع النموذج أسهل من كسر البنك

هذا ليس افتراضيًا. دراسة عام 2026 قامت بقياس مدى مقاومة وكلاء الذكاء الاصطناعي الفعليين لتحقiq الحقن، وهو خداع إخفاء الإرشادات داخل المحتوى الذي يقرأه الوكيل بحيث يقوم ببصورة هادئة بفعل شيء آخر غير ما طلبه صاحبها. عبر آلاف الهجمات المحاكاة على وكلاء بنيت على أنظمة الحدود مثل GPT-5 وGemini، نجح الحقن المباشر أكثر من 79% من الوقت، والهجمات غير المباشرة، حيث يتم دفن الإرشادات في المحتوى العادي على الويب أو البيانات الوصفية، هبطت بين 41% و68%. لم تكن هناك تكوين واحدة قاموا بتحديدها عقدت الخط完全.
مشروع أمان الذكاء الاصطناعي الجيني في OWASP قام بنقطة أقل صخبًا ولكن متعلقة في تقريره عام 2026 على أمان ووكيل الذكاء الاصطناعي، المنشور في يونيو. كان الإصدار الأول قد قام بفهرسة المخاطر التي كانت معظمها قابلة للتصديق على الورق. الإصدار 2026 مبني على حوادث مسجلة، وتنبيهات البائعين والثغرات المسجلة المرفقة تقريبًا كل فئة من فئات المخاطر التي يتبعها. عامان، وأصبح النظري Became الحقيقي. ذلك وحده هو حجة للاطلاع على ما تقوم بتوصيله، وماذا، قبل أن تقوم بتوصيله.

آلة تكتب ثغراتها الخاصة

ثم تغير الصورة مرة أخرى. في أبريل 2026 كشف Anthropic عن Claude Mythos Preview، نموذج محدود للغاية من فئة الحدود تم بناؤه لأعمال السيبرانية. وفقًا لكتابة Anthropic الفنية الخاصة، يمكن أن يجد Mythos ثغرات يوم الصفر عبر أنظمة التشغيل الرئيسية ومتصفحات الويب، وينتج ثغرات تعمل لها، دون أن ي握 أي إنسان يده. قام معهد أمان الذكاء الاصطناعي في المملكة المتحدة بفحص الادعاء بشكل مستقل ووجد أن Mythos أكمل هجومًا شبكيًا محاكىًا من 32 خطوة و حَلَّ 73% من التحديات على مستوى الخبراء.

Mythos نفسه يتم الاحتفاظ به على حبل قصير، مقيد لمجموعة من مقدمي البنية التحتية تحت ما يسمى مشروع Glasswing. لكن وجوده يحسم جدلًا. القدرة الهجومية现在 تتقدم بشكل جيد أمام الحوكمة المزمعة احتوائها. ضع قدرة مثل هذه في الأيدي الخطأ، واشيرها إلى وكيل لديه صلاحية نقل الأموال، وستكون لديك أنبوبًا يمكنه اختراق واجهات برمجة التطبيقات واطلاق تصفية أصول أو تحويلات خروجية لم يأذن بها أحد.

لا يحتاج هذا إلى كسر قاعدة البيانات المشفرة. هذا هو الجزء الذي يستحق الجلوس معه. الأنظمة المالية التقليدية تعمل على رمز محدد، حيث يمنحك الإجراء نفسه نفس الإجابة كل مرة، وبالتالي. يعمل الوكيل على استدلال احتمالي، وهو طريقة لطيفة لقول إنه لا يأتي مع حواف صلبة. لذلك يتخطى المهاجم الخزنة完全 ويتحدث فقط إلى النموذج لتحريف إرشاداته. لماذا تفتح القفل عندما يمكنك التحدث بطريقة لطيفة لمرور الحارس؟

ما يحميك حقًا يقع تحت النموذج

هناك زاوية تكلفة هنا أيضًا، وتشير إلى نفس الاتجاه. MCP هو محادثة. يحتاج إلى الكثير من التحرك ذهابًا وإيابًا، ويتحرك ذلك يحرق الرموز، مما يعني المال. مع تصاعد الفاتورة، توقعي هو أن الشركات الجادة ستتأرجح بعيدًا عن المعيار المفتوح العام وباتجاه نهايات مملوكة مُحسَّنة بشكل ضيق. أقل تكلفة، وأسهل في تأمينها.

لأن أمان النموذج نفسه ليس كافيًا حتى لحماية أموال الآخرين. ما يحميه حقًا يقع تحت النموذج، في التركيبات. يتمثل النشر الجاد في بدء التصفية على مستوى الجهاز. في EXANTE، نبني إطار العمل التطويعي مباشرة في تلك الهندسة المعمارية الطبقية: قبل أن يصل كلمة واحدة إلى نموذج اللغة، يكون قد تم بالفعل إنشاء حاجز أمان محمي بمواد صلبة لتحديد من هو على الطرف الآخر من المحادثة.

تحت ذلك، يجب إعادة بناء واجهات برمجة التطبيقات نفسها لاستخدام الآلة، وليس الشخص. يحصل المطور البشري على واجهة مرنة لأنك تثق بتحكمه. يحصل الوكيل المستقل على مخطط صلب يحد بشكل حاد ما يمكنه أن يطلب من الخلفية القيام به. أعطه الوصول إلى شيء، وسيجد استخدامه. لذلك يجب أن تعرض الإنتاج أقل ما يمكنه التغلب عليه.

يجب أن يعمل عمل الوكيل داخل بيئة محمية، مع أنبوب القراءة العالم معزولًا هيكليًا عن الآلة التي يمكنها التصرف. القراءة والتصرف هما وظيفتان مختلفتان وينتميان إلى غرف منفصلين. ولأي شيء حقيقي الخطورة، يجب على شخص ما أن يقول نعم. شخص ما له اسم وتسجيل الدخول يُصادق على المعاملة قبل أن تذهب إلى أي مكان. هذا الخطوة ليست قابلة للتفاوض.

السلحفاة لها نقطة

تعرف القصة. أرنب سريع لدرجة أنه يتوقف عن النوم، وسلحفاة تفوز بتحقيق تكتيك радيكالي وهو عدم التوقف. إنها خرافة، وليست دليلًا تشغيليًا، ولن أعتمد عليها بشدة. لكن السباق الحالي يرنم معها. الشركات التي تهرع بأسرع ما يمكن هي التي تجمع أكثر التغطية، والتغطية ليست هي نفسها الدوام. السوق تميل إلى تذكر الوسيط الذي نقل ربع ساعة مبكرًا لفترة أطول مما تذكر الوسيط الذي انتظر.

في غضون ذلك، يتم تطبيق القواعد. مع تضييق إطارات مثل قانون الاتحاد الأوروبي للذكاء الاصطناعي على الرقابة على الأنظمة الآلية في التمويل، يصبح التعامل مع الامتثال كشيء تثبته فيما بعد يصبح خيارًا ويتحول إلى غرامة. عندما يفعل وكيل معيب شيئًا لا ينبغي له أن يفعله، تقع المسؤولية على البنية التحتية التي سمحت له، وليس على النموذج الذي خدع. ستكون متانة في هذا العصر تنتمي إلى الشركات التي تحتفظ بأموال العملاء مفصولة بشكل صحيح، وتحافظ على تشغيل الأنوار عند حدوث الأعطال، ويمكن أن تظهر عملهم على مكان ذهاب البيانات. وليس من يربط الاتصال الأكثر بريقًا أولاً.

الذي يأتي بي إلى رجلتي على الهاتف في 1985. لجميع عيوبه، كان لديه ميزة واحدة على الوكيل الذي نعمل على استبداله. عندما قال لك لشراء أسهم الخطوط الجوية البريطانية، اشترى أسهم الخطوط الجوية البريطانية. لم يكن يمكنك التحدث معه لتحويل الحساب إلى غريب عن طريق عنوان مُحسَّن. التقدم، ثم. من نوع ما. في EXANTE، نقضي جهدًا كبيرًا لضمان أن تكون الإصدار السيليكوني على الأقل صعبًا في الغش مثل رجل الهاتف كان، مما يخبرك بشيء عن nơi ألقى بها أربعون عامًا من الابتكار.