فال بيركوفيتشي، كبير مسؤولي الذكاء الاصطناعي في WEKA – سلسلة المقابلات

فال بيركوفيتشي، كبير مسؤولي الذكاء الاصطناعي في WEKA، هو مدير تنفيذي في مجال الذكاء الاصطناعي وبنية البيانات يركز على تطوير التقنيات التي تدعم الجيل التالي من الذكاء الاصطناعي. منذ انضمامه إلى WEKA ككبير مسؤولي الذكاء الاصطناعي في يناير 2025، ركّز على بناء بنية تحتية لوكلاء الذكاء الاصطناعي، وتسريع أحمال التدريب والاستدلال، وتحسين اقتصاديات حسابات الذكاء الاصطناعي. إلى جانب دوره في WEKA، يعمل بيركوفيتشي كمستشار للذكاء الاصطناعي في Home Dock، ومستشار استراتيجي لـ FermiHDI وThe Hive، ورئيساً لمجلس إدارة PencilDATA، حيث تشمل أعماله الذكاء الاصطناعي، الأمن السيبراني، البلوك تشين، الحوسبة السحابية، وبنية البيانات. تعكس مسيرته تركيزاً طويلاً على تطوير وتوجيه التقنيات الناشئة المصممة لدعم الأنظمة الذكائية ذات الكثافة العالية للبيانات.

WEKA هي شركة بنية بيانات أصلية للذكاء الاصطناعي تبني منصة معرفة بالبرمجيات مصممة لتلبية متطلبات البيانات المتطلبة للذكاء الاصطناعي، التعلم الآلي، الحوسبة عالية الأداء، وغيرها من الأحمال المتسارعة. توفر منصة بيانات WEKA للمؤسسات بنية موحدة يمكن تشغيلها عبر البيئات المحلية، السحابية، المختلطة، وعلى الحافة، مما يساعد على القضاء على اختناقات التخزين، تحسين استغلال وحدات معالجة الرسوميات، وتسريع تدريب ونشر نماذج الذكاء الاصطناعي. تركز الشركة بشكل متزايد على الاقتصاد الناشئ للاستدلال والذكاء الاصطناعي الوكائي، حيث صُممت بنيتها لتوفير وصول عالي السرعة ومنخفض الكمون إلى البيانات على نطاق ضخم مع تبسيط خطوط أنابيب البيانات المعقدة للذكاء الاصطناعي. تخدم WEKA الشركات، مزودي السحابة، مؤسسات البحث، ومطوري الذكاء الاصطناعي الذين يديرون بعض أكثر بيئات الحوسبة كثافةً في العالم.

لقد مرّ مسارك المهني من تشكيل استراتيجية السحابة المبكرة في NetApp وخدمتك في المجلس المؤسس لـ Kubernetes إلى بناء بنية تحتية للذكاء الاصطناعي في WEKA. كيف شكّلت هذه التطورات طريقة تفكيرك في إعداد البنية التحتية للمرحلة القادمة من الذكاء الاصطناعي؟

كل حقبة من مسيرتي كانت تُعرّف بنفس النمط: تتحرك نقطة الاختناق، وتستغرق الصناعة سنوات لتلاحظ ذلك. في أيام السحابة المبكرة وKubernetes، رأينا الحوسبة تصبح مرنة وتصبح عملية التنسيق هي نقطة الاختناق الجديدة. بعد خروجي من NetApp، حيث شغلت منصب الرئيس التقني بعد استحواذ SolidFire، ظننت أنني أعرف ما هو السرعة: مليثوان منخفضة لقراءة بايت عشوائي أولي حقيقي تحت أحمال الإنتاج.

السبب الذي جعلني أنضم إلى WEKA هو سبب تقني بحت. كان هناك إحصاء واحد: أول قراءة بايت عشوائي غير مخبّأ تستغرق 70 ميكروثانية، وهو ليس رقمًا من فئة التخزين. لم أكن قد تخيلت أبدًا زمن استجابة بمستوى الميكروثانية من هذا النوع من الأنظمة. كان ذلك بمثابة لمبة إضاءة: يمكن لهذه التقنية أن تخدم تطبيقات الذاكرة، وتطبيقات من فئة DRAM مثل Redis و KV cache، وليس مجرد التخزين. وفي الوقت المناسب، بدأ الاستدلال يتفوق على التدريب لأن الصناعة اضطرت إلى تحقيق إيرادات من هذه النماذج، وظهرت الوكلاء لجعل الذاكرة هي اللعبة بأكملها.

هذا هو المنظور الذي أحمله إلى بنية الذكاء الاصطناعي. لقد رأينا هذا السيناريو من قبل. ظهرت FinOps السحابية لأن الشركات أنشأت بنية تحتية دون صرامة اقتصاديات الوحدة، ثم تلقت الفواتير. الذكاء الاصطناعي على نفس المنحنى، ويتحرك بسرعة أكبر. مع دفع الأعمال في النهاية إلى الحد من استهلاك الرموز مع وصول فواتير استهلاك API إلى ما يفوق الميزانيات المخططة للرموز، نشهد صعود FinOps للذكاء الاصطناعي. هذه هي النقطة التي تتوقف فيها المؤسسات عن اعتبار الاستدلال خدمة رخيصة، وتبدأ في إدارة كفاءة الرموز كقواعد مالية. تبدأ FinOps للذكاء الاصطناعي بالرمزية الاقتصادية: تحسين كل طبقة من الأجهزة والبرمجيات في مكدس الاستدلال التي تؤثر على تكلفة الوحدة لكل رمز. الآن أكبر هدر في ذلك المكدس هو وحدات معالجة الرسوميات المكلفة والدوائر المتكاملة ASIC الجديدة التي تظل خاملة في انتظار الذاكرة والبيانات (المعروفة بـ “decode”) بدلاً من FLOPS (المعروفة بـ “prefill”). من يصلح ذلك يمتلك المرحلة التالية من الذكاء الاصطناعي.

البيت الأبيض يحتفظ بتفاصيل إطار عمل السلامة للذكاء الاصطناعي سراً. كيف يمكن للمؤسسات الاستعداد للمتطلبات التنظيمية عندما لا يعرفون بعد ما سيُختبر أو يُطلب بالضبط؟

لا ينبغي للشركات الانتظار حتى القائمة النهائية. ستتغير الاختبارات المحددة، لكن الالتزام الكامن وراءها لن يتغير: سيتعين عليكم إظهار ما فعله نموذج الذكاء الاصطناعي، وما البيانات التي عالجها، وكيف تصرف في نقطة زمنية معينة. والانتظار لم يعد خيارًا على المستوى العالمي. أصبح قانون الذكاء الاصطناعي للاتحاد الأوروبي ساريًا هذا الشهر، ويصنّف معظم تنسيق الوكلاء كخطر عالي.

هذا يعني أن عمل التحضير هو عمل بنية تحتية. تتبع أصل البيانات، والرصد، وإمكانية إعادة إنتاج النتائج، والقدرة على إعادة بناء حالة النموذج عند الطلب كلها أمور حاسمة يجب على المؤسسات إتقانها. أخيرًا، تحتاج المنظمات إلى تنفيذ نماذج حواجز قبل المخرجات، مع تحديد الكمون وميزانيات الرموز لطبقات الدفاع الدلالية. إذا بنيت هذه القدرات الآن، يصبح أي إطار عمل مجرد تمرين تنسيقي. الانتظار حتى القواعد النهائية سيجبركم على تعديل المسؤولية في أنظمة لم تُصمم أبدًا لتشرح نفسها. هذا التعديل دائمًا ما يكون أكثر تكلفة من بنائه من البداية.

في النهاية، الحل لبناء ذكاء اصطناعي آمن هو المزيد من الذكاء الاصطناعي، يُطبّق بصورة مثلى وبنية مقصودة.

ما هي أنواع المتطلبات الجديدة للبنية التحتية التي قد يخلقها اختبار سلامة الذكاء الاصطناعي، وكيف قد تختلف تلك الأحمال عن التدريب أو الاستدلال النموذجي؟

التدريب يشبه خرطومًا يضخ كميات هائلة من البيانات عبر النموذج بنمط مستمر ومتوقع. اختبار السلامة هو العكس: آلاف سيناريوهات التقييم، استكشاف متكرر، مقارنات سلوكية بين إصدارات، وهجمات حمراء عدائية لا تنتهي.

هذه السمة مهمة. تدريب واختبار السلامة يتميزان بالانفجار، والقراءة الكثيفة، والمقارنة. يولدان ويستهلكان كميات هائلة من الحالة الوسيطة. تحتاج نماذج الحواجز إلى أن تكون غير متجانسة بطبيعتها ومتعددة الطبقات، تُنفّذ ضمن ميزانيات كمون ضيقة، وتُعزّز التقييمات بهذا البُعد الجديد لمعايير السلامة. بالنسبة للنماذج المتقدمة أو القادرة على الهجمات السيبرانية، يصبح نمط الحمل مستمرًا 24/7 بدلاً من أن يكون متقطعًا. لا تقوم بإجراء اختبار مرة واحدة وتسجيل النتائج؛ بل تُجري أحمال سُرب الوكلاء المستمرة التي تتنافس في الإنتاج مع الحوسبة والذاكرة وعرض نطاق البيانات للتطبيقات الحرجة التي تحميها. بعد الجودة والسرعة، معظم البنية التحتية اليوم غير مصممة لهذا المبدأ الثالث.

هناك أيضًا مشكلة قياس تحت هذا السطح. معظم معايير الذكاء الاصطناعي اليوم تُجري 8,000 رمز أو أقل، طلبًا واحدًا، استجابة واحدة. أمزح بأنها معايير صناعية للذكاء الاصطناعي الاصطناعي. في منتصف 2026، تُشغّل أحمال الوكلاء الحقيقية ما بين 100,000 إلى 400,000 رمز من السياق عبر آلاف الجولات. إذا ورثت تقييمات السلامة تلك المعايير التجريبية، فسنُصادق على أنظمة لعالم غير موجود. يبني المنظمون بالفعل قدرات أفضل هنا: أطلقت NIST أدوات تقييم أمان الوكلاء مفتوحة المصدر، وتظهر النتائج الأولية هجمات اختطاف الوكلاء الجديدة بمعدل أعلى بمرات عدة من الخطوط الأساسية المعروفة. وهذا بالضبط هو نوع الاختبار المستمر، العدائي، المكلف الذي أتوقع أن تتقارب إليه أطر السلامة.

هل ينبغي على المؤسسات بناء طاقة حوسبة وسعة بيانات فائضة خصيصًا لأعباء العمل المستقبلية للامتثال والسلامة، أم هناك طريقة أكثر كفاءة لتصميم ذلك مع عدم اليقين؟

شراء وحدات معالجة رسوميات فائضة على أمل أن يرتفع الاستخدام يترك رأس المال عالقًا في أجهزة تتدهور قيمتها.

الإجابة الفعّالة هي بنية تحتية تتنقل بين أحمال الإنتاج والتقييم دون مجموعة منفصلة. هذا في جوهره مشكلة بيانات. إذا كان بإمكانك نقل وإعادة استخدام البيانات بكفاءة، والحفاظ على السياق بين الأحمال، وإبقاء المعجّلات مشغولة بعمل حقيقي، يصبح الامتثال تكلفة إضافية بدلاً من بناء موازٍ. تتجه اقتصاديات الذكاء الاصطناعي إلى مقدار القيمة التي تستخرجها من كل رمز، بايت، ووَط. إذا نجحت في ذلك، يمكنك توليد قيمة تزيد من 3 إلى 4 أضعاف من نفس البنية، أو تقليل مساحة الرفوف حتى 75٪. يجب أن يُعامل الامتثال بنفس المعيار.

يُقال إن الإطار الحالي يركز على النماذج المغلقة المتقدمة مع استبعاد النماذج المفتوحة الوزن. ما هي التحديات البنية التحتية أو الأمنية التي قد تنشأ من معاملة هاتين الفئتين بشكل مختلف؟

إذا عالجت النماذج المغلقة والنماذج المفتوحة الوزن بشكل مختلف، ستحصل على إطارين امتثال لتقنيات تقوم بنفس الوظائف، والفجوة بينهما هي موطن المخاطر.

يمكن تحسين نموذج مفتوح الوزن ونشره في بيئات لا يمتلك فيها المزود الأصلي أي رؤية. تنظيم المزود لا يغيّر شيئًا هناك. والانقسام واضح بالفعل: فرضت ضوابط التصدير على أحدث النماذج المغلقة هذا العام، بينما تتنقل النماذج المفتوحة الوزن عبر الحدود بحرية وتحتل الآن صدارة قوائم القدرات العامة. ومع ذلك، تُعرّف الإدارة النماذج المتقدمة، ولا يمكن للحكم أن يقتصر على النموذج نفسه. تحتاج إلى رؤية أين تُشغَّل النماذج، ما البيانات التي تصل إليها، ما الطلبات، الاستجابات والبيانات الوصفية التي تُحتفظ بها، كيف تم تعديلها، وما إذا كانت البنية التحتية تدعم الذكاء الاصطناعي المُحكَم به على نطاق واسع. سيتطلب ذلك تحديثات جديدة للمعايير ISO27001 وSOC2.

إجابتي هي الثقة مع التحقق. إذا وفرت البنية التحتية سعة الرموز، يمكنك تشغيل حواجز غير متجانسة ضد أي نموذج قبل أن تُرسل مخرجاته: محلية أو أجنبية، مفتوحة أو مغلقة. التحقق الموضوعي يتفوق على الثقة العامة أو الشك العام بناءً على مصدر النموذج. مع انتشار النماذج المفتوحة، تعيش قدرة التحقق في طبقة البنية التحتية، وهذا هو ما ستميّز به المؤسسات. قد تحدد السياسات النماذج المسموح بها. تحدد البنية التحتية ما إذا كان يمكن نشر تلك النماذج بمسؤولية واقتصاد.

مع تزايد استقلالية وكلاء الذكاء الاصطناعي وتشغيلهم عبر سياقات أطول، كيف يغيّر ذلك كمية البيانات والذاكرة والحوسبة التي تحتاجها المؤسسات للمراقبة والسلامة؟

الدردشة هي طلب واستجابة. الوكيل المستقل هو عملية جارية. يلامس عشرات الأنظمة، يسترجع معلومات، يتخذ قرارات وسيطة، ويجمع حالة على مدار ساعات أو أيام قبل إكمال المهمة.

لا يمكنك مراقبة ذلك عبر أخذ عينات من الرموز أو الاستجابات الفردية. عليك التقاط السلسلة الكاملة: ما عرفه الوكيل، متى عرفه، وما فعل بعد ذلك. كل ساعة تشغيل للوكيل، تنمو حالته، وكذلك الذاكرة، حركة البيانات، والبنية التحتية المطلوبة لالتقاطها وتحليلها. تتوقف المراقبة عن أن تكون مجرد ميزة تسجيل وتصبح عبء عمل أساسي بميزانية موارد خاصة به.

الدفاع هو المكان الذي يصبح فيه الأمر عاجلًا. مشكلة الذاكرة للذكاء الاصطناعي تتحول إلى مشكلة أمنية. يمكن لوكيل برمجي أن يُشغَّل، يُرسل، ثم يُغلق. لا يستطيع وكيل الأمن السيبراني ذلك. يجب أن يحتفظ بالسياق عبر تغييرات النوبات اليومية في مركز عمليات الأمن، وتحديثات النماذج المتكررة، وحملات الهجمات متعددة المراحل التي كانت تمتد أسابيع، لكنها اليوم تعمل بسرعات الآلات المتناسقة. عندما تُطرد ذاكرة هذا الوكيل وتُعاد حسابها من الصفر كل بضع دقائق، لا يتذكر الوكيل الذي كشف سلوكًا شاذًا في الساعة الأولى من الحادثة ما حدث في الساعة الثانية. المهاجمون لا يواجهون تلك المشكلة؛ وكلاؤهم يحددون الضعف باستمرار، وتكتمل سلاسل الهجوم الآن بسرعات مُحسّنة وفقًا للرمزية الاقتصادية، لذا يجب على دفاعات الأمن السيبراني المدعومة بالذكاء الاصطناعي أن تعمل autonomously على مدار الساعة. وهذا ليس نظرية فقط. يستعد بائعو الأمن الآن لوكلاء سيبرانيين مستمرين 24/7، وأول ما يكتشفونه هو أن الاقتصاديات لا تشبه أعباء الدردشة. تحتاج بعض المؤسسات إلى تشغيل هؤلاء الوكلاء على الحافة، في مرافق لا يمكن فيها شحن رفوف GPU أو حتى مبردات هذا العام. الاختبار الحقيقي للذكاء الاصطناعي المؤسسي هو الحفاظ على السياق المستمر، وليس الاستدلال اللحظي. يصبح هذا صراعًا على استنزاف الرموز، ومن يحل مشكلة الذاكرة السياقية المستمرة على نطاق واسع سيقود أول تطبيق قاتل أفقي في الذكاء الاصطناعي المؤسسي: أسراب الوكلاء الزرقاء العاملة دائمًا.

تحدثت عن أهمية “ذاكرة السياق” المتزايدة مع انتقال أعباء العمل للذكاء الاصطناعي من الدردشة البسيطة إلى الوكلاء المستمرين. هل يمكن أن تصبح ذاكرة السياق مهمة أيضًا للتدقيق، وإعادة الإنتاج، أو التحقيق في سلوك الذكاء الاصطناعي؟

بالطبع، وهي حالة استخدام مهمة. لسنوات، كانت الذاكرة قصة أداء: مدى سرعة إمداد GPU، ومدى كمية السياق التي يمكن الاحتفاظ بها. بمجرد أن يبدأ الوكلاء بالعمل بشكل مستقل، تصبح تلك الذاكرة دليلًا. إذا اتخذ الوكيل قرارًا بناءً على سياق جمعه على مدار أيام، فإن الطلب النهائي والمخرجات لا يوضحان سبب تصرفه. الشرح يكمن في الحالة المتراكمة.

من الناحية التقنية، تعيش معظم تلك الحالة في ذاكرة KV، ولا يزال القطاع يعتبرها مساحة مؤقتة يمكن التخلص منها بدلاً من بيانات دائمة. إذا حافظت على تلك الحالة وتمكنت من استرجاعها بكفاءة، يمكنك إعادة بناء ما كان يعرفه النظام في لحظة اتخاذه للقرار. ستستخدم الفرق ذلك أولاً للتصحيح، ثم لتقييم السلامة، وفي النهاية قد يحتاج أحدهم إليه في تحقيق. التخلص من ذاكرة السياق يعني التخلص من السجل الوحيد الذي يفسّر لماذا فعل الذكاء الاصطناعي ما فعل.

هل قد تُجبر تنظيمات الذكاء الاصطناعي الشركات على الاحتفاظ بكمية أكبر بكثير من المعلومات حول مدخلات النموذج، ومخرجاته، ونقاط التحقق، وأصل البيانات، ونشاط الوكيل؟ ماذا يعني ذلك لهندسة بنية الذكاء الاصطناعي؟

اتجاهيًا، نعم. كلما أصبحت أنظمة الذكاء الاصطناعي أكثر تأثيرًا، سيتوسع نطاق متطلبات الرؤية لتغطي كل خطوة في خط الأنابيب. يمكنك بالفعل ملاحظة الإشارات المبكرة: تخطط الفرق للاحتفاظ بذاكرة سياق قديمة في طبقات تخزين كائنات أرخص لأغراض التدقيق، قبل أن تفرض أي تنظيمات ذلك.

المصادقة على المراقبة مع الثبات أمر أساسي. التلاعب بالسجلات والآثار الجنائية من قبل الوكلاء الخبيثة أصبح روتينيًا، مما يستلزم أنظمة تحقق تشفيرية معقدة لا تكون عرضة لهجمات مركزة على هدف النزاهة المركزي. السجلات الشفافة البسيطة أو سلاسل التجزئة غير كافية للدفاع ضد قدرات التعاون بين أسراب الوكلاء. البُنى اللامركزية العامة القائمة على البلوك تشين مناسبة تمامًا لهذا، وتبرز قيمة “النزاهة” التي غالبًا ما تُغفل في مثلث الأمن السيبراني C‑I‑A.

الاحتفاظ ليس مجرد مشكلة تخزين ضخمة غير قابلة للتغيير. الجزء الصعب هو الحفاظ على هذه المعلومات موثوقة، منظمة، مفهرسة، وقابلة للاسترجاع بسرعة كافية لتكون مفيدة ضمن مهلة، سواء كانت تلك المهلة من منظم، أو استجابة حادث، أو محكمة. بيتابايت من نشاط الوكيل لا يمكن الاستعلام عنه هو عبء، وليس سجلًا. التحول المعماري ينتقل من “مزيد من التخزين” إلى بنية تحتية مصممة حول بيانات الذكاء الاصطناعي القابلة للتحقق موضوعيًا، المستمرة، والقابلة للاستعلام كعبء عمل أساسي.

تركز العديد من المؤسسات على شراء المزيد من وحدات معالجة الرسوميات، لكن أين ترى الاختناقات البنية التحتية الأقل وضوحًا تظهر مع توسع أعباء عمل الذكاء الاصطناعي وارتفاع متطلبات السلامة؟

تحظى وحدات معالجة الرسوميات بالاهتمام لأنها ليست بندًا ماليًا غير مهم. لكن وحدات GPU وخاصة المعجّلات الجديدة المُحسّنة للـ decode (ASIC+SRAM) نادرًا ما تكون القيد الفعلي. عرض النطاق الترددي للذاكرة، جاذبية البيانات وحركتها، أداء التخزين، والشبكات هي التي تحدد ما إذا كانت تلك المعجّلات تقوم بعمل منتج أو تنتظر غير مستغلة.

مع ازدياد اعتماد الذكاء الاصطناعي على السياق، يصبح جدار الذاكرة هو القيد المحدد. يمكنك الاستمرار في إضافة وحدات GPU، ولكن إذا قضت دوراتها في إعادة حساب الرموز أو نقل السياق بين الأنظمة، فأنت تدفع مقابل عمل مهدور مرارًا وتكرارًا. توسيع جدار الذاكرة يعني جعل طبقة البيانات تتصرف كخزن مشترك، ولكن بأداء سرعات الذاكرة الحقيقية. هذه السرعة القريبة من HBM مهمة لموجة حلول تفريغ ذاكرة KV التي تصل الآن: يجب على أي منها تقديم أداء من فئة الذاكرة الحقيقي لتجعل الرمزية الاقتصادية منطقية. قيمة الاحتفاظ لذاكرة KV هي مناقشة تكلفة، ثانوية بالنسبة لمركز الربح. وإذا كان قراءة السياق المخزن أبطأ من مجرد إعادة حسابه، فإن الذاكرة تصبح عديمة الفائدة في معادلة الأعمال. ما يهم ليس عدد وحدات GPU التي تملكها، بل مدى إنتاجية كل واحدة. تتلخص اقتصاديات الذكاء الاصطناعي في القيمة التي تستخرجها من كل رمز، بايت، ووَط، وستزيد متطلبات السلامة من حدة هذه المعادلة.

نظرتك إلى المستقبل، هل تتوقع أن تصبح سلامة الذكاء الاصطناعي والامتثال عبء عمل بنية تحتية مميز بحد ذاته، مشابهًا للطريقة التي تطورت بها الأمن السيبراني إلى طبقة مخصصة في تقنية المؤسسات؟

سنرى سلامة الذكاء الاصطناعي والامتثال يتحولان إلى عبء عمل مميز، وتشبه المقارنة مع الأمن السيبراني من كلا الجانبين. أصبح الأمن طبقة مستقلة بمجرد أن اعترفت الصناعة بأنه لا يمكن أن يكون مجرد تمرين عرضي. جعلت صناعة التأمين السيبراني ذلك أمرًا غير اختياري. سلامة الذكاء الاصطناعي على نفس المسار الإلزامي مع تطور النماذج لتصبح أكثر قدرة وأكثر استقلالية.

لكن يجب أن نتعلم من أخطاء مسار الأمن. أصبح إضافة جانبية: مجموعة منفصلة، ميزانية منفصلة، فريق منفصل يكتشف المشكلات بعد وقوعها. لا ينبغي لبنية تحتية السلامة أن تكرّر هذا الخطأ. يجب أن تكون المراقبة، والتقييم، والقابلية للتدقيق، والاحتفاظ الثابت داخل بنية الذكاء الاصطناعي نفسها، مصممة من البداية.

هنا ما يغفل عنه معظم الناس: سلامة الذكاء الاصطناعي تتطلب المزيد من الذكاء الاصطناعي. نماذج الحواجز ليست مجانية. يجب تدريبها باستمرار، تحسينها، واستخدامها في كل خطوة من تشغيل الوكيل. تجعل ميزانيات الكمون للرموز هذا ملموسًا: كل استجابة لها نافذة زمنية ثابتة، وكلما زادت عدد الرموز التي يمكنك معالجتها داخل تلك النافذة، زادت القدرة على إجراء التحقق قبل خروج المخرجات. والتهديد الحقيقي من النماذج المتقدمة هو تطبيقها الوكائي. تعمل الوكلاء كحلقات استدلال عالية الحجم، تُجري استدعاءات متكررة للنماذج على أفق زمني طويل. كل حلقة هي: مراقبة، توجيه، قرار، فعل، وتستهلك رموزًا. هذا يحوّل أمان الذكاء الاصطناعي إلى حرب استنزاف الرموز. يطلق المهاجمون أسرابًا حمراء، يدافع المدافعون بأسراب زرقاء، والجانب القادر على توليد المزيد من الرموز لكل دولار ولكل واط هو الفائز. الرمزية الاقتصادية تقع على المسار الحاسم لكل من الهجوم والدفاع. توقف هذا كفكرة مجردة صيف هذا العام، عندما هجوم سُرب وكيل أحمر على مستودع نموذج رئيسي أخاف الصناعة، وتكوّن تحالف آمن للذكاء الاصطناعي خلال أيام. وفي الوقت نفسه، تستمر الأحجام في التراكم: انتقل معالجة الرموز في الصناعة من تريليونات إلى كوادريليونات.

بمجرد أن تصبح السلامة متطلبًا دائمًا، تتوقف تكاليف الحوسبة والذاكرة والبيانات عن أن تكون عبئًا. تصبح جزءًا من اقتصاديات الوحدة الأساسية لتشغيل الذكاء الاصطناعي. الشركات التي تُدمج ذلك مبكرًا ستعامل السلامة كمدخل تصميم. والبقية ستعاملها كضريبة.

شكرًا لكم على هذه المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا WEKA.