يوتام أورين، الرئيس التنفيذي ومؤسس مونا لابس – سلسلة المقابلات

يوتام أورين، هو الرئيس التنفيذي ومؤسس مونالابس، وهي منصة تمكن المؤسسات من تحويل مبادرات الذكاء الاصطناعي من تجارب مختبرية إلى عمليات تجارية قابلة للتطوير من خلال فهم سلوك نماذج التعلم الآلي في العمليات التجارية والتطبيقات الحقيقية.

تتحليل مونا تلقائيًا سلوك نماذج التعلم الآلي عبر قطاعات البيانات المحمية وفي سياق الوظائف التجارية، من أجل الكشف عن التحيزات المحتملة في الذكاء الاصطناعي. توفر مونا القدرة على生成 تقارير كاملة عن العدالة التي تتوافق مع المعايير واللوائح الصناعية، وتقدم الثقة بأن تطبيق الذكاء الاصطناعي متوافق وخالي من أي تحيز.

ما الذي جذبك في البداية إلى علوم الحاسوب؟

علوم الحاسوب هي مسار وظيفي شائع في عائلتي، لذلك كان دائمًا في مؤخرة ذهني كخيار قابل للتطبيق. بالطبع، الثقافة الإسرائيلية تعتبر تقنية جداً، نحن نحتفي بالتقنيين المبتكرين وكنّا دائمًا أعتقد أن علوم الحاسوب ستوفر لي مسارًا للنمو والإنجاز.

على الرغم من ذلك، لم يصبح شغفي الشخصي حتى وصلت إلى سن الجامعة. لم أكن واحدًا من هؤلاء الأطفال الذين بدأوا البرمجة في المدرسة الإعدادية. في شبابي، كنت مشغولاً للغاية بلعب كرة السلة لآخذ بالاهتمام بالحواسيب. بعد المدرسة الثانوية، قمت ب passing تقريباً 5 سنوات في الجيش، في أدوار قيادية تشغيلية / قتالية. لذلك، في نوع من الطرق، بدأت بالفعل تعلم علوم الحاسوب عندما كان عليّ اختيار تخصص أكاديمي في الجامعة. ما جذب انتباهي على الفور هو أن علوم الحاسوب جمعت بين حل المشكلات و学习 لغة (أو لغات). شيئان كنت مهتماً بهما بشكل خاص. من ذلك الحين، كنت مدمنًا.

من عام 2006 إلى 2008 عملت على رسم الخرائط والملاحة لشركة بدء تشغيل صغيرة، ما هي بعض النتائج الرئيسية التي توصلت إليها في ذلك العصر؟

كان دوري في Telmap هو بناء محرك بحث على بيانات الخرائط والموقع.

كانت هذه الأيام الأولى جداً من “البيانات الكبيرة” في المؤسسات. لم نكن حتى ندعوها بهذا الاسم، ولكن كنا نكتسب مجموعات بيانات ضخمة ونجتهد لاستخراج الأفكار الأكثر تأثيرًا والأكثر صلة لعرضها على مستخدمينا النهائيين.

واحدة من الاكتشافات المذهلة التي توصلت إليها هي أن الشركات (بما في ذلكنا) استخدمت القليل جداً من بياناتها (ليس إلى Mention البيانات العامة الخارجية المتاحة). كان هناك الكثير من الإمكانيات لاكتشافات جديدة وعمليات وأفضل تجارب.

النتيجة الأخرى هي أن الحصول على المزيد من البيانات يعتمد، بالطبع، على وجود بنية تحتية أفضل وبنية تحتية أفضل وأكثر.

هل يمكنك مشاركة قصة نشأة مونالابس؟

الثلاثة منا، المؤسسون، كنا حول منتجات البيانات طوال مسيرتنا المهنية.

نيمو، مدير التكنولوجيا، هو صديقي في الكلية وزميل الدراسة، وواحد من أول موظف في جوجل تل أبيب. بدأ منتجًا هناك يسمى جوجل تريندز، الذي كان يحتوي على تحليلات متقدمة وتعلم آلي dựa على بيانات محرك البحث. إيتاي، المؤسس الآخر ومدير المنتج، كان في فريق نيمو في جوجل (والتقيت به من خلال نيمو). كان كلاهما دائمًا محبطًا لأن الأنظمة التي تعمل بالذكاء الاصطناعي تُترك دون مراقبة بعد التطوير والاختبار الأولي. على الرغم من صعوبة اختبار هذه الأنظمة قبل الإنتاج، لم تكن الفرق تعرف مدى جودة نماذجها التنبؤية بمرور الوقت. بالإضافة إلى ذلك، بدا أنهم يسمعون أي تعليقات حول أنظمة الذكاء الاصطناعي فقط عندما تذهب الأمور بشكل سيئ والفريق مطلوب لتنفيذ “تمارين إطفاء الحرائق” لتصحيح مشاكل كارثية.

في نفس الوقت تقريباً، كنت مستشارًا في شركة ماكينزي آند كو، وواحدة من أكبر الحواجز التي رأيتها أمام برامج الذكاء الاصطناعي والبيانات الكبيرة في المؤسسات الكبيرة هي نقص الثقة التي لديها أصحاب المصلحة التجارية في هذه البرامج.

أصبحت الخيط المشترك واضحًا لنيمو وإيتاي ولي في المحادثات. تحتاج الصناعة إلى البنية التحتية لمراقبة أنظمة الذكاء الاصطناعي / التعلم الآلي في الإنتاج. جئنا برؤية لتوفير هذا الرؤية من أجل زيادة ثقة أصحاب المصلحة التجارية، وتتمكن فرق الذكاء الاصطناعي دائمًا من الحفاظ على مقبض على أداء أنظمتهم والتحديث بشكل أكثر كفاءة.

وهنا تأسست مونالابس.

ما هي بعض القضايا الحالية المتعلقة بنقص شفافية الذكاء الاصطناعي؟

في العديد من الصناعات، أنفقت المنظمات بالفعل ملايين الدولارات على برامج الذكاء الاصطناعي، ورأوا بعض النجاح الأولي في المختبر وفي التوزيع على نطاق صغير. لكن التوسع، وتحقيق التبني الواسع، والحصول على الثقة التجارية الفعلية بالاعتماد على الذكاء الاصطناعي كان تحديًا كبيرًا几乎 للجميع.

لماذا يحدث هذا؟ حسنًا، يبدأ الأمر بالحقيقة التي أن البحث الجيد لا يترجم تلقائيًا إلى منتجات جيدة (قال لنا أحد العملاء، “نماذج التعلم الآلي مثل السيارات، في اللحظة التي تترك المختبر، تفقد 20٪ من قيمتها”). المنتجات الجيدة لها أنظمة داعمة. هناك أدوات وعمليات لضمان استمرار الجودة مع مرور الوقت، ومعالجة المشاكل في وقت مبكر وفعال. المنتجات الجيدة也有 دورة تغذية راجعة مستمرة، لديها دورة تحسين وطريقًا. بالتالي، المنتجات الجيدة تتطلب شفافية أداء عميقة وثابتة.

عندما يكون هناك نقص في الشفافية، ينتهي بك المطاف مع:

• المشاكل التي تظل مخفية لفترة من الوقت ثم تظهر على السطح وتسبب “تمارين إطفاء الحرائق”
• التحقيقات والتحسينات اليدوية الطويلة الأمد
• برنامج ذكاء اصطناعي لا يثق به مستخدمو الأعمال والرعاة في النهاية ويفشل في التوسع

ما هي بعض التحديات التي تواجه جعل نماذج التنبؤ شفافة وموثوقة؟

الشفافية هي عاملاً مهمًا في تحقيق الثقة، بالطبع. يمكن أن تأتي الشفافية في العديد من الأشكال. هناك شفافية التنبؤ الفردي التي قد تتضمن عرض مستوى الثقة للمستخدم، أو تقديم تفسير / مبرر للتنبؤ. شفافية التنبؤ الفردي تهدف في الغالب إلى مساعدة المستخدم على الشعور بالراحة تجاه التنبؤ. ثم هناك شفافية عامة قد تتضمن معلومات حول دقة التنبؤ، والنتائج غير المتوقعة، والمشاكل المحتملة.

الأكثر تحديًا في الشفافية العامة هو الكشف المبكر عن المشاكل. التنبيه إلى عضو الفريق المناسب حتى يتمكن من اتخاذ إجراءات تصحيحية قبل حدوث الكوارث.

لماذا من الصعب الكشف المبكر عن المشاكل:

• المنشآت غالبًا ما تبدأ بشكل صغير وتغلي قبل أن تظهر على السطح في النهاية.
• المنشآت غالبًا ما تبدأ بسبب عوامل خارجية غير قابلة للسيطرة، مثل مصادر البيانات.
• هناك العديد من الطرق “لتقسيم العالم” والبحث الشامل عن المشاكل في جيوب صغيرة قد يؤدي إلى الكثير من الضوضاء (إرهاق التنبيه)، على الأقل عندما يتم القيام بذلك بطريقة غبية.

جوانب أخرى تحديية في توفير الشفافية هي انتشار واسع الحالات التي يستخدم فيها الذكاء الاصطناعي. هذا يجعل نهجًا مناسبًا للجميع شبه مستحيل. كل حالة استخدام للذكاء الاصطناعي قد تتضمن هياكل بيانات مختلفة، ودورات أعمال مختلفة، ومقاييس نجاح مختلفة، وأحيانًا نهجًا تقنيًا مختلفًا وحتى مكدسًا.

إنه مهمة هائلة، لكن الشفافية أساسية جدًا لنجاح برامج الذكاء الاصطناعي، لذلك عليك القيام بذلك.

هل يمكنك مشاركة بعض التفاصيل حول حلول NLU / NLP و Chatbots؟

الذكاء الاصطناعي المحادثي هو واحد من المجالات الأساسية لمونالابس. نحن فخورون بدعم الشركات المبتكرة مع مجموعة واسعة من حالات استخدام الذكاء الاصطناعي المحادثي، بما في ذلك نماذج اللغة و Chatbots وغيرها.

عامل مشترك عبر هذه الحالات هو أن النماذج تعمل قريبة (وأحيانًا مرئية) للعملاء، لذلك مخاطر الأداء غير المتسق أو السلوك السيئ أعلى. يصبح من المهم جدًا لفريق الذكاء الاصطناعي المحادثي فهم سلوك النظام على مستوى متعمق، وهو مجال من نقاط قوة حل مراقبة مونالابس.

ما يفعله حل مونالابس بشكل فريد هو غربلة منهجية لمجموعات المحادثات والكشف عن جيوب حيث تسئ النماذج (أو البوتات) السلوك. هذا يسمح لفريق الذكاء الاصطناعي المحادثي بالكشف عن المشاكل في وقت مبكر وقبل أن يلاحظها العملاء. هذه القدرة هي محرك決定 حرج لفريق الذكاء الاصطناعي المحادثي عند اختيار حلول المراقبة.

لتلخيص، مونالابس توفر حلًا شاملاً لمراقبة الذكاء الاصطناعي المحادثي. يبدأ بضمان وجود مصدر واحد للمعلومات حول سلوك الأنظمة بمرور الوقت، ويتابع بمراقبة مستمرة لمؤشرات الأداء الرئيسية، وتنبؤات استباقية حول جيوب السلوك الخاطئ – مما يسمح للفرق ب اتخاذ إجراءات تصحيحية استباقية وفعالة.

هل يمكنك تقديم بعض التفاصيل حول محرك رؤية مونالابس؟

بالتأكيد. دعنا نبدأ بالدافع. هدف محرك الرؤية هو إظهار الشذوذات للمستخدمين، مع كمية مناسبة من المعلومات السياقية، دون خلق ضوضاء أو قيادة إلى إرهاق التنبيه.

محرك الرؤية هو سير عمل تحليلي فريد. في هذا السير العمل، يبحث المحرك عن شذوذات في جميع قطاعات البيانات، مما يسمح بالكشف المبكر عن المشاكل عندما تكون لا تزال “صغيرة”، وقبل أن تؤثر على مجموعة البيانات بأكملها والمتغيرات الرئيسية للتجارة في النهاية. ثم يستخدم خوارزمية مملوكة لاكتشاف أسباب الجذور للشذوذات ويتأكد من أن كل شذوذ يتم التنبيه عنه مرة واحدة فقط حتى يتم تجنب الضوضاء. تشمل أنواع الشذوذ المدعومة: شذوذات السلاسل الزمنية، والانجراف، والخارجين، وتدهور النموذج وغيرها.

محرك الرؤية قابل للتخصيص بدرجة عالية من خلال تكوين مونالابس بدون كود / منخفض الكود. تتيح تكوين المحرك لمونالابس أن تكون أكثر حل مرن في السوق، تغطي مجموعة واسعة من الحالات (مثل Batch و Streaming، مع أو بدون反馈 تجاري / حقيقة أرضية، عبر إصدارات النموذج أو بين التدريب والاستدلال، وغيرها).

أخيرًا، يتم دعم محرك الرؤية بواسطة لوحة تحكم مرئية، حيث يمكن عرض الرؤى، ومجموعة من أدوات التحقيق لتمكين تحليل السبب الجذري والاستكشاف الأوسع للمعلومات السياقية. محرك الرؤية也是 متكامل تمامًا مع محرك التنبيه الذي يسمح بتغذية الرؤى إلى بيئات العمل الخاصة بالمستخدمين، بما في ذلك البريد الإلكتروني ومنصات التعاون وغيرها.

في 31 يناير، كشفت مونالابس عن حل جديد للعدالة في الذكاء الاصطناعي، هل يمكنك مشاركة تفاصيل حول هذه الميزة وماذا تعني؟

العدالة في الذكاء الاصطناعي هي حول ضمان أن الأنظمة والأنظمة التي تعمل بالذكاء الاصطناعي تتخذ قرارات غير متحيزة ومتساوية. من المهم جدًا معالجة ومنع التحيزات في أنظمة الذكاء الاصطناعي، لأنها يمكن أن تؤدي إلى عواقب كبيرة في العالم الحقيقي. مع صعود الذكاء الاصطناعي، سيكون التأثير على حياة الناس أكثر وضوحًا في المزيد والمزيد من الأماكن، بما في ذلك تلقين قيادتنا، والكشف عن الأمراض بدقة أكبر، وتحسين فهمنا للعالم، و حتى إنشاء الفن. إذا لم نستطع الثقة في أن تكون عادلة ومتحيزة، كيف يمكننا السماح لها بالاستمرار في الانتشار؟

أحد الأسباب الرئيسية للتحيزات في الذكاء الاصطناعي هو ببساطة قدرة بيانات تدريب النموذج على تمثيل العالم الحقيقي بالكامل. هذا يمكن أن ينشأ من التمييز التاريخي، أو تمثيل مجموعات معينة، أو حتى التلاعب المتعمد بالبيانات. على سبيل المثال، نظام التعرف على الوجه مدرب على أفراد ذوي بشرة فاتحة في الغالب من المحتمل أن يكون لديه معدل خطأ أعلى في التعرف على أفراد ذوي بشرة داكنة. بشكل مماثل، نموذج لغة مدرب على بيانات نصية من مجموعة ضيقة من المصادر قد يطور تحيزات إذا كانت البيانات مائلة تجاه وجهات نظر معينة، حول مواضيع مثل الدين والثقافة وغيرها.

حل مونالابس للعدالة في الذكاء الاصطناعي يوفر لفريق الذكاء الاصطناعي والفرق التجارية الثقة بأن الذكاء الاصطناعي خالي من التحيزات. في القطاعات المنظمة، يمكن لحل مونالابس إعداد الفرق لجاهزية الامتثال.

حل العدالة في مونالابس خاص لأنها تقع على منصة مونالابس – جسر بين بيانات الذكاء الاصطناعي والنموذج وتأثيراتها في العالم الحقيقي. مونالابس تنظر إلى جميع أجزاء العملية التجارية التي يخدمها نموذج الذكاء الاصطناعي في الإنتاج، لتربط بين بيانات التدريب وسلوك النموذج والنتائج الفعلية في العالم الحقيقي من أجل تقديم التقييم الأكثر شمولاً للعدالة.

ثانيًا، لديها محرك تحليلي فريد يسمح بتقسيم مرن للبيانات لتحكم المعلمات ذات الصلة. هذا يسمح بتقييمات دقيقة للارتباطات في السياق الصحيح، وتجنب معضلة سيمبسون، وتقديم درجة تحيز حقيقية للغاية لأي مقياس أداء وميزة محمية.

لذلك، بشكل عام، أود أن أقول إن مونالابس هو عنصر أساسي للفرق التي تحتاج إلى بناء وتوسيع الذكاء الاصطناعي المسؤول.

ما هو رؤيتك لمستقبل الذكاء الاصطناعي؟

هذه هي السؤال الكبير.

أعتقد أنه من السهل التنبؤ بأن الذكاء الاصطناعي سيتواصل في النمو في الاستخدام والتأثير عبر مجموعة متنوعة من قطاعات الصناعة ووجوه حياة الناس. ومع ذلك، من الصعب أخذ رؤية محددة ومفصلة ومحاولة تغطية جميع الحالات والآثار المحتملة للذكاء الاصطناعي في المستقبل. لأن لا أحد يعرف حقًا بما يكفي لتصوير هذه الصورة بشكل موثوق.

ما نعرفه بالتأكيد هو أن الذكاء الاصطناعي سيكون في أيدي المزيد من الناس وسيخدم أغراضًا أكثر.将 يزيد الحاجة إلى الحوكمة والشفافية بشكل كبير.

الرؤية الحقيقية للذكاء الاصطناعي والطريقة التي يعمل بها ستلعب دورين رئيسيين. أولاً، سيساعد على الثقة الناس ورفع حواجز المقاومة لتسريع التبني. ثانيًا، سيساعد من يعمل على الذكاء الاصطناعي على ضمان عدم خروجه عن السيطرة.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا مونالابس.