شون بلانشفيلد، المؤسس المشارك والرئيس التنفيذي لشركة Jentic – سلسلة المقابلات

شون بلانشفيلد، المؤسس المشارك والرئيس التنفيذي لشركة Jentic، هو رجل أعمال tecnولوجي متسلسل مع عقود من الخبرة في بناء شركات برمجيات وبنية تحتية كبيرة. ومقره في دبلن، وهو حاليًا يقود Jentic بينما يخدم أيضًا في مجلس إيرلندا الاستشاري لتقنية الذكاء الاصطناعي، حيث يُقدم المشورة للحكومة بشأن سياسة الذكاء الاصطناعي. في وقت سابق من مسيرته، شارك في تأسيس DemonWare، وهي منصة خدمات trực tuyến على نطاق كبير لمسؤولي نشر ألعاب الفيديو الكبيرة التي تم الاستحواذ عليها لاحقًا بواسطة Activision Blizzard (ATVI )، وPageFair، وهي شركة ناشئة مدعومة من قبل المستثمرين تركز على تحليل حجب الإعلانات التي تم الاستحواذ عليها بواسطة Blockthrough. كما أسس أو قاد العديد من الشركات الناشئة ويواصل دعم نظام إيرلندا للشركات الناشئة من خلال مبادرات مثل Techpreneurs.

Jentic تقوم بتطوير طبقة تكامل عالمية مصممة لمساعدة وكلاء الذكاء الاصطناعي على التفاعل بشكل آمن مع أنظمة الشركات وواجهات برمجة التطبيقات. تمكن المنصة الشركات من ربط نماذج الذكاء الاصطناعي بأدوات داخلية، خدمات خارجية، وعمليات تشغيلية مع الحفاظ على الحوكمة، المصادقة، والرقابة. من خلال تحويل واجهات برمجة التطبيقات المتجزئة إلى واجهات منظمات يمكن لوكلاء الذكاء الاصطناعي الاعتماد عليها، تهدف Jentic إلى مساعدة الشركات على نشر آليات أتمتة مدفوعة بالذكاء الاصطناعي على نطاق واسع عبر بيئات برمجية معقدة.

لقد أسست وقادت العديد من الشركات التكنولوجية، من DemonWare (التي تم الاستحواذ عليها بواسطة Activision Blizzard) إلى PageFair وJentic، كما أنك تخدم في مجلس إيرلندا الاستشاري لتقنية الذكاء الاصطناعي. ما الذي جذبك مرة أخرى إلى بناء طبقة البنية مع Jentic، وما هو الفراغ الذي رأيته في النظام البيئي الناشئ لوكلاء الذكاء الاصطناعي الذي يفتقده الآخرون؟

عندما تلاحظ نمطًا ثلاث مرات، عليك أن تؤخذ به جدًا. في DemonWare، كان الجميع يتحدث عن اللعب المتعدد عبر الإنترنت – ولكن المشكلة الصعبة كانت البنية التحتية للشبكة أسفل ذلك. نفس الشيء يحدث مع وكلاء الذكاء الاصطناعي. النماذج رائعة. العائق هو طبقة التكامل – دائمًا ما كان كذلك. وكلاء الذكاء الاصطناعي يعتمدون على واجهات برمجة التطبيقات، وواجهات برمجة التطبيقات هذه تم بناؤها من أجل البشر: وثائقها مكتوبة للبشر، وأمانها مخصص للبشر، وهيكلها مخصص للبشر. اشير إلى وكيل مستقل إلى تلك البنية، وستنهار بسرعة. تجارب الذكاء الاصطناعي في الشركات لا تفشل لأن النموذج أسيء فهم المهمة؛ إنها تفشل لأن الوكيل لم يتمكن من الاتصال بشكل موثوق به بالأنظمة التي يحتاجها. يوفر الذكاء الاصطناعي التوليدي وسيلة جديدة لحل هذه المشكلة – من خلال معاملة التكامل كمسألة معرفة، وليس كمسألة برمجة. هذا الاكتشاف جذبني.

عندما بدأت Jentic في عام 2024، هل كانت أمان الوكيل هو الافتراض الأساسي من اليوم الأول، أو تم تحديد التركيز أكثر مع مراقبتك لكيفية نشر المنظمات لوكلاء مستقلين في الإنتاج؟

الخيط الأول الذي سحبتُه كان بيانات الاعتماد. تخيلت وكلاءً يتكاثرون، كل واحد منهم يحتاج إلى بيانات اعتماد للعديد من الأنظمة، كل تلك الأسرار تتدفق إلى نوافذ السياق LLM، وتُسرق – فوضى ساخنة. الجواب هو نفسه كما كان لكان قبل عشرين عامًا: مركزية المصادقة والتفويض. لكن سحب ذلك الخيط أدى مباشرة إلى المشكلة التالية: إذا قمت بمركزية باستخدام أدوات التكامل التقليدية، فإنك تعود إلى أرض الموصلات الثابتة، ووكلاء الذكاء الاصطناعي ليسوا ثابتين. ما أرسى الرؤية كان إدراكي أن اكتشاف القدرات يجب أن يكون مربوطًا بشكل وثيق بالتحكم في الوصول – أن الوكيل يجب أن يتم تقديمه بقدرة فقط إذا كان مخولًا بالفعل باستخدامها، وأن النظام الذي يقدم اكتشاف القدرات يمكن أن يكون أيضًا نقطة تنفيذ وحيدة ومراقبة.

كشفت التعرّض الأخير لأعداد كبيرة من مثيلات الوكيل على الإنترنت عن كيفية تشارك التوجيه والبيانات الاعتماد غالبًا نفس الحدود الموثوقة. من منظورك، ما هو العيب المعماري الأساسي في ذلك النموذج؟

العيب بسيط: الوكيل – نظام يعمل على أوامر من LLM – هو أيضًا النظام الذي يحمل بيانات الاعتماد ويتصل بواجهات برمجة التطبيقات. اختراق الوكيل يعني الحصول على كل ما يمكنه فعله.这是 نفس الخطأ الذي ارتكبناه في عصر الويب المبكر – خوادم تطبيقات مع وصول قاعدة بيانات مُصدر لأنها كانت مريحة. Jentic تقع كطبقة بين الوكيل وواجهات برمجة التطبيقات التي يتصل بها. الوكيل لا يحمل أبدًا بيانات اعتماد. إنه يصدر طلبات من خلال طبقة التنفيذ المُدارة لدينا، والتي تُقدم بيانات الاعتماد على الجانب الخادوم، وتفرض السياسة، وتسجل كل مكالمة. وعندما يحدث شيء خاطئ، هناك مفتاح إيقاف واحد – إجراء واحد يوقف وصول الوكيل إلى كل النظام المرتبط في نفس الوقت.

لقد تحدثت عن فصل التوجيه عن التنفيذ لاحتواء نطاق الانفجار. هل يمكنك شرح كيفية تغيير ذلك الفصل للملف الشخصي للمخاطر عندما يتم اختراق مثيل؟

في النموذج المسطح، يفكر LLM في ما يجب فعله ويتصل مباشرة بواجهات برمجة التطبيقات باستخدام بيانات الاعتماد التي يحملها. اختراق طبقة التفكير يعني السيطرة على طبقة التنفيذ. مع الفصل، يصدر LLM نية – “اتصل بواجهة برمجة تطبيقات Stripe مع هذه المعلمات” – طبقة التنفيذ المُدارة تُ