مقابلات
ستيف نيمزر، المدير التنفيذي لنمو الذكاء الاصطناعي وابتكاره، تيلوس ديجيتال – سلسلة المقابلات
أضف Unite.AI إلى مصادرك المفضلة على Google
ستيف نيمزر، المدير التنفيذي لنمو الذكاء الاصطناعي وابتكاره، تيلوس ديجيتال، يقود مبادرات تركز على تعزيز بيانات التدريب والبنية التحتية لأنظمة الذكاء الاصطناعي الجيل القادم. يشمل عمله تطوير مجموعات بيانات لنمذجة البحث العميق، وبيئات التعلم التعزيزي، وبيانات نمذجة العالم، ومبادرات الذكاء الاصطناعي السيادي، وإطارات تحديد المخاطر للذكاء الاصطناعي، مع التركيز القوي على ممارسات الذكاء الاصطناعي المسؤول مثل معالجة انحياز المجموعة البيانية ودعم ظروف العمل العادلة لمدربي الذكاء الاصطناعي. في وقت مبكر من مسيرته المهنية، أسس نيمزر مختبرات فيري تيست، مما ساعد قادة التكنولوجيا المبكرة بما في ذلك مايكروسوفت، إنتل، أوراكل، وسن ميكروسيستمز على بناء بيئات برمجيات طرف ثالث مزدهرة قبل استحواذ ليونبريدج على الشركة.
تيلوس ديجيتال هي شركة خدمات تكنولوجيا عالمية تساعد المنظمات على تصميم وإنشاء وتشغيل منصات رقمية وحلول مدعومة بالذكاء الاصطناعي. تعمل عبر عشرات البلدان، توفر الشركة خدمات مثل بيانات التدريب على الذكاء الاصطناعي وتنقيح البيانات، وتصميم المنتجات الرقمية، وإدارة تجربة العملاء. تدعم منصاتها وخدماتها الشركات عبر الصناعات بما في ذلك التكنولوجيا، والتمويل، والرعاية الصحية، والاتصالات، والألعاب أثناء تحديث العمليات ونشر قدرات الذكاء الاصطناعي المتقدمة.
مع خلفيتك في اختبار الذكاء الاصطناعي، وتصحيح البيانات، والتنفيذ المسؤول، كيف ترى التحول من الذكاء الاصطناعي التوليدي القائم على اللغة إلى نماذج العالم التي تهدف إلى التفكير في الحالات والنتائج في العالم الحقيقي، خاصة في دورك الحالي في تيلوس ديجيتال؟
النماذج الكبيرة للغة (LLM) هي في الأساس أنظمة للتنبؤ بالنمط. تتولد استجاباتها من خلال التنبؤ بالرمز التالي بناءً على الأنماط المكتسبة من مجموعات بيانات كبيرة وساكنة. في حين يمكن أن يبدو هذا وكأنه التفكير، فإن النموذج لا يُحاكي في الواقع كيفية تغيير الإجراءات لحالة العالم.
تتبنى نماذج العالم نهجًا مختلفًا. بدلاً من التنبؤ بالكلمة أو الرمز التالي، تهدف إلى التنبؤ بالحالة التالية لنظام ما من خلال نمذجة انتقالات الحالة. هذا يسمح للنظم بمحاكاة كيفية تطور البيئات استجابة للإجراءات. في الممارسة، هذا يفتح الباب أمام التفكير التأملي، حيث يمكن للنموذج تقييم نتائج مختلفة قبل اتخاذ قرار.
يتغير هذا التحول أيضًا كيف نفكر في التنفيذ المسؤول. مع أنظمة الذكاء الاصطناعي التوليدية التقليدية، ركزت معظم الانتباه على قضايا مثل الانحياز والهلوسة. مع تحرك النماذج نحو التفكير في البيئات والإجراءات، تبرز مخاطر أخرى.
على سبيل المثال، يتعين على المنظمات النظر في فجوة “التنفيذ من المحاكاة إلى الواقع”، حيث قد لا تترجم السلوكيات المكتسبة في البيئات المحاكاة بشكل نظيف إلى ظروف العالم الحقيقي. يصبح أيضًا تحول التوزيع قلقًا رئيسيًا، حيث قد تختلف البيئات التي تواجهها النماذج في التنفيذ عن البيانات التي تم تدريبها عليها.
هنا يأتي دور الاختبار والتحقق الحاسم، وهو تركيز كبير في دوري في تيلوس ديجيتال. مع تحرك أنظمة الذكاء الاصطناعي إلى ما وراء توليد اللغة إلى أنظمة تتفاعل مع البيئات وتتخذ قرارات، تحتاج المنظمات إلى إطارات تقييم صارمة لضمان سلوك النماذج بشكل موثوق في ظروف العالم الحقيقي.
كثير من الناس على دراية بالنماذج الكبيرة للغة، ولكن عدد أقل يفهم نماذج العالم. في مصطلحات بسيطة، ما هو المشكل الذي تحاول نماذج العالم حلّه والذي يصعب على النماذج الكبيرة للغة التعامل معه؟
نموذج العالم هو نظام يمكنه التنبؤ بـ “ماذا سيحدث بعد ذلك” مع حالة حالية وإجراء. الصيغة هي: الحالة + الإجراء → الحالة التالية
إذا كنت أ握 تفاحة وأReleasedها، يتنبأ نموذج العالم بوقوع التفاحة. لا يعرف فقط ما يبدو عليه التفاح أو ما يقوله الناس عن إسقاط التفاح – بل يتنبأ بالنتيجة بناءً على فهم الفيزياء. سيتنبأ نموذج العالم المتقدم بما سيحدث إذا فعلت الشيء نفسه على محطة الفضاء الدولية مقابل كونه على سطح الأرض.
هذا يختلف عن نموذج اللغة الكبير. يتنبأ نموذج اللغة الكبير بـ: “ماذا يأتي بعد هذه التسلسل من الرموز؟” وهو مدرب على النص – ما كتبه البشر عن العالم، وليس العالم نفسه. يمكنه أن يخبرك أن التفاح الساقط يقع لأنها قرأت عن ذلك. لكنه لا يمتلك محرك فيزياء داخلي يُحاكي السقوط.
باختصار، النماذج الكبيرة للغة جيدة في التنبؤ إحصائيًا بالكلمة التالية في إجابة على سؤال، ولكن فهم العالم الحقيقي يتجاوز وصف اللغة والترابط. تهدف نماذج العالم إلى فهم كيف تتطور الحالات خطوة خطوة، ما هي الحالة التالية مع الحالة الحالية والإجراء الذي سيحدث، ما هي القيود الموجودة.
نماذج العالم غالبًا ما توصف بأنها تمكن أنظمة الذكاء الاصطناعي من محاكاة النتائج قبل اتخاذ الإجراء. ماذا يبدو هذا في الممارسة، وكيف قريبنا من رؤية هذا العمل بشكل موثوق خارج بيئات البحث؟
تحدي في الإجابة على هذا السؤال هو أن مصطلح “نموذج العالم” يستخدم بطريقة فضفاضة، ويتغير المعنى حسب السياق. تعريف بسيط لنماذج العالم هو أنها تسمح للوكيل بمحاكاة حالته البيئي وتوقعات الحالات المستقبلية والتفكير في العواقب الناتجة. يميل الباحثون إلى تصنيف نماذج العالم بشكل أكثر دقة، بناءً على أساليب تمثيلها ومعالجتها.
نماذج العالم الكامنة هي بالفعل خارج مختبرات البحث وتساعد في تطبيقات مثل القيادة الذاتية، وعمليات المستودعات، والعمليات الصناعية، والزراعة. تظهر نماذج العالم التوليدية في إنشاء بيانات اصطناعية لتطوير محرك الألعاب، ولحالات السيارات ذاتية القيادة، ولحالات الذكاء الاصطناعي المضمنة لمحاكاة حركات إنسان مثلية، ولإنشاء رسومات معمارية.
من الواضح أن هناك المزيد من الاختبارات اللازمة لضمان السلامة والموثوقية لتوسيع نماذج العالم خارج بيئات البحث.
من منظور المؤسسة، إلى哪里 تتوقع أن تقدم نماذج العالم قيمة كبيرة أولًا، سواء في الروبوتات أو الأنظمة الذاتية للقرار أو النماذج الرقمية أو بيئات الأعمال المجردة؟
شعوري هو أن النماذج الرقمية المحتملة لتسليم القيمة العملية أولًا. بمحاكاة حالة نظام حقيقي حتى نختبر السيناريوهات قبل التصرف. على سبيل المثال، في نظام سلسلة التوريد، يمكن لشركة تصنيع بناء توأم لشبكة شركائها. يمكن إطلاق المحاكاة بواسطة بيانات المستشعرات، السجلات، بيانات التелеметري، ويمكن الإجابة على أسئلة مثل “ماذا سيحدث إذا تم إغلاق مضيق هرمز؟” حتى نختبر إعادة توجيه الشحنات قبل تغيير اللوجستيات الفعلية.
القيمة المهمة لنماذج العالم للروبوتات تتحرك بالتوازي. سوف يؤدي فهم الخصائص الأساسية للفيزياء، مثل الاحتكاك على السطح عند رفع كائن، إلى دفع نشر الذكاء الاصطناعي المضمن.
كثير من مسيرتك المهنية ركز على جمع البيانات وتنقيحها وتصحيحها. كيف تتغير التحديات البيانية عند الانتقال من التدريب النصي الثابت إلى تعليم النظم كيفية سلوك العالم بمرور الوقت؟
موقف جمع البيانات لنماذج العالم يتطلب انعطافًا كبيرًا عن أساليب تدريب النماذج الكبيرة للغة. أولًا، لا نمتلك مجموعة بيانات ضخمة مسبقة للتدريب، بتراتبيات من كومون كرول وملارات صفحات الويب. بعض باحثي الروبوتات قد افترضوا أن لدينا فقط 1/1000 من كمية البيانات المطلوبة لتدريب الذكاء الفيزيائي ونماذج العالم، للحصول على أداء مكافئ لنقطة أداء GPT2.
لذلك سيتطلب الأمر بعض الوقت لبناء هذه المجموعات البيانية. في حالة الذكاء الاصطناعي المضمن، سنحتاج إلى ملايين الساعات من مجموعات بيانات متعددة الحواس المُحكمة. بعضها يتم تشغيله عن بُعد، وبعضها من البيئات الاصطناعية مثل آيساك سيم. في تيلوس ديجيتال، قمنا بالانعطاف من النص إلى مجموعات بيانات متعددة الحواس وبيانات المحاكاة.
خارج ندرة بيانات التدريب المسبقة وبيانات التنقيح المُحكمة، سيكون هناك العديد من التحديات الأخرى في تدريب نماذج العالم. قد تكون هناك مفاهيم جديدة تحويلية (بدون معنى حرفي) مثل GPT وRL مطلوبة لتحقيق اختراقات في كفاءة أساليب تدريب نماذج العالم.
نماذج العالم تؤثر على القرارات بدلاً من توليد الإخراج فقط. ما هي المخاطر الجديدة للسلامة أو الحوكمة التي تطرحها هذه النماذج مقارنة بأنظمة الذكاء الاصطناعي التوليدية؟
هناك العديد من مخاطر السلامة والحوكمة، حيث تهدف نماذج العالم بشكل固有 إلى دعم العمليات الوكيلية. لذلك، تظل جميع المخاوف التي لدينا حول جيل الذكاء الاصطناعي الحالي سارية في سيناريو نماذج العالم.
مثال محدد لنماذج العالم هو فجوة “التنفيذ من المحاكاة إلى الواقع”، حيث قد يصبح السلوك المكتسب في البيئات المحاكاة فوضويًا في العالم الحقيقي.
مخاطر أخرى تتعلق بسلوك الإنسان. مع تحول الأنظمة إلى المزيد من الاستقلالية، سيبدأ البشر في الاعتماد عليها بشكل كبير، وسيصبح الرقابة متساهلة، وسيتم إهمال إعادة Adjust النموذج.
الانحياز والثقة لا يزالان حواجز رئيسية لاعتماد الذكاء الاصطناعي. كيف تتطور هذه المخاوف عندما تبدأ أنظمة الذكاء الاصطناعي في نمذجة العمل والتفاعل في بيئات العالم الحقيقي أو الاجتماعية المعقدة؟
من الجمهور العام إلى غرفة المجلس، ثقة وثقة في نماذج الذكاء الاصطناعي منخفضة جدًا وأنا لا أرى ذلك يتغير كثيرًا في المدى القصير.
مخاوف بشأن تركيز قوة الذكاء الاصطناعي في أيدي قليلة، وخسارة الوظائف، والانحياز في الذكاء الاصطناعي الذي يضع الفئات الممثلة في وضع غير ممتاز، وصنع القرارات التي تؤثر على الصحة والوظيفة والمالية، واستخدام الذكاء الاصطناعي للاستفادة من الملكية الفكرية دون موافقة، بالإضافة إلى القلق بشأن خدع الذكاء الاصطناعي،已经 مرتفع جدًا. يخاف التنفيذيون من التعامل مع انتقالات القوى العاملة، وخصوصية البيانات، وامتثال التنظيمي، وخسارة الأرض للمنافسين في “سباق الذكاء الاصطناعي”.
التطورات الأخيرة في الأخبار حول ضغط الحكومات على مصنعي نماذج الذكاء الاصطناعي الأساسية لتقديم شروط استخدام أكثر مرونة بشأن أشياء مثل الأسلحة الذاتية أو المراقبة الجماعية تزيد من هذه المخاوف. ستزيد نشر نماذج العالم القائمة على الروبوتات الذكية والمستقلة من هذه المخاوف.
من ناحية أخرى، نرى جيوبًا من اعتماد الذكاء الاصطناعي وثقة واسعة. مثال على ذلك هو الطريقة التي انتشرت فيها وكلاء البرمجة خلال الأشهر القليلة الماضية. يمتلك مديرو تطوير البرمجيات ثقة عالية في وكلاء البرمجة، وهناك تغيير أساسي في الطريقة التي يتم بها تطوير البرمجيات، من تطوير مواصفات المنتج إلى اختبار الانحدار بعد الإصدار.
حلول بناء الثقة تشمل مجموعات بيانات وبيئات متنوعة في مراحل التدريب، وتحليل الشد والاختبار الشامل كحارس سلامة قبل التنفيذ. الرقابة التنظيمية الاستباقية أمر ضروري أيضًا. قد اقترح البعض أن يُطلب من مصنعي نماذج الذكاء الاصطناعي الأساسية تقديم “تقارير影响 المجتمع”، مشابهة لتقارير التأثير البيئي، قبل إصدار نماذج جديدة.
في تيلوس ديجيتال، يتضمن الكثير من العمل نشر الذكاء الاصطناعي بمقياس كبير لشركات حقيقية ومستخدمين حقيقيين. كيف تتقاطع أفكار مثل نماذج العالم مع مخاوف عملية مثل الشفافية وتأثير القوى العاملة والحفاظ على ثقة العملاء؟
لتوضيح، تعمل تيلوس ديجيتال بشكل مباشر مع مصنعي النماذج الأساسية، وأيضًا مع الشركات التي تنشر نماذج الذكاء الاصطناعي. مجال لعبنا هو من النهاية إلى النهاية:
السؤال حول المخاوف العملية يرتبط بالسؤال السابق حول الثقة. لننظر إلى ثقة القوى العاملة. مع تحول الذكاء الاصطناعي القائم على نماذج العالم إلى أوسع نطاق، يحتاج التنفيذيون إلى أن يكونوا شفافين مع موظفيهم، وعملائهم، ومستخدميهم. التواصل الواضح مطلوب حول ما هي جيدة في النماذج، وكيف تم تدريبها، ما هي البيانات المستخدمة في التدريب، ما هي الحواجز التي وضعت، وأين يأتي الإشراف البشري.
القادة يحتاجون إلى إظهار قيمة النماذج الجديدة للقوى العاملة الحالية، على سبيل المثال، القيام بجميع الأعمال الروتينية في الوظيفة. ويحتاجون إلى إظهار مسارات الانتقال للعاملين المتأثرين الذين قد يتحركون إلى وظائف جديدة ناشئة مع تقدم نماذج الذكاء الاصطناعي القائمة على نماذج العالم.
هناك فجوة متزايدة بين ما يفهمه باحثو الذكاء الاصطناعي وما يتصوره الجمهور. كيف يمكن للمنظمات التواصل مع التطورات مثل نماذج العالم بطريقة تبني الثقة دون المبالغة في قدراتها؟
مرة أخرى، يعود هذا إلى الشفافية حول حدود النماذج ومدى جودتها. التواصل حول كيفية تدريب النماذج لتخفيف الانحياز المحتمل. ما هو الإشراف البشري الموجود. بعض التمثيلات الحقيقية لقدرات النموذج وcases استخدامها، مقترنة بدراسات طويلة الأمد، يمكن أن تساعد في تعزيز ثقة الجمهور والقوى العاملة.
أخيرًا، ما هو الخلط الشائع حول نماذج العالم للذكاء الاصطناعي، سواء كان متفائلاً أو حذرًا، الذي يحتاج إلى التصحيح الآن؟
إلى الحد الذي يتم فيه إطلاع الجمهور على نماذج العالم، يعتبر أحد الخلطات الشائعة أن نماذج العالم تحتاج إلى فهم جميع الفيزياء والعلوم لكي تكون فعالة. سوف تُطرح نماذج العالم في وقت أقرب مما يتوقع لأن الحالات الفردية يمكن تضييقها.
سيارة ذاتية القيادة تحتاج فقط إلى فهم ديناميات المرور والفيزياء المرتبطة بالطريق، وكيف تؤثر الظروف الحالية (مثل كونها بالقرب من مدرسة ابتدائية، أو انتشار سيارات الدفع الرباعي ذات المظهر العالي) على رؤيتها وصنع القرار. لا تحتاج سيارة ذاتية القيادة إلى فهم الفيزياء التي تقوم على أساسها طهي الصوفليه لكي تعمل.
شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة تيلوس ديجيتال.
