مقابلات
يوتام أورين، الرئيس التنفيذي ومؤسس مونالابس – سلسلة المقابلات
أضف Unite.AI إلى مصادرك المفضلة على Google
يوتام أورين، هو الرئيس التنفيذي ومؤسس مونالابس، منصة تمكن الشركات من تحويل مبادرات الذكاء الاصطناعي من تجارب مختبرية إلى عمليات أعمال قابلة للتطوير من خلال فهم سلوك نماذج التعلم الآلي في العمليات التجارية والتطبيقات الحقيقية.
تتحليل مونا تلقائيًا سلوك نماذج التعلم الآلي عبر مقاطع البيانات المحمية وفي سياق الوظائف التجارية، من أجل الكشف عن التحيزات المحتملة في الذكاء الاصطناعي. توفر مونا القدرة على توليد تقارير كمال متكاملة تتوافق مع المعايير واللوائح الصناعية، وتوفر الثقة بأن تطبيق الذكاء الاصطناعي متوافق وخالي من أي تحيز.
ما الذي جذبك في البداية إلى علوم الحاسوب؟
علوم الحاسوب هي مسار وظيفي شائع في عائلتي، لذلك كان دائمًا في الخلفية كخيار قابل للتطبيق. بالطبع، الثقافة الإسرائيلية هي ثقافة متقدمة تقنيًا. نحن نحتفل بالتقنيين المبتكرين واعتقدت دائمًا أن علوم الحاسوب ستوفر لي مسارًا للنمو والإنجاز.
على الرغم من ذلك، لم يصبح شغفي الشخصي حتى وصلت إلى سن الجامعة. لم أكن واحدًا من الأطفال الذين بدأوا البرمجة في المدرسة الإعدادية. في شبابي، كنت مشغولًا باللعب في كرة السلة أكثر من الاهتمام بالحواسيب. بعد المدرسة الثانوية، قمت bằng قضاء ما يقرب من 5 سنوات في الجيش، في أدوار قيادية تشغيلية / قتالية. لذلك، في某种方式، بدأت بالفعل التعلم عن علوم الحاسوب عندما كنت بحاجة إلى اختيار تخصص أكاديمي في الجامعة. ما جذب انتباهي على الفور هو أن علوم الحاسوب جمعت بين حل المشكلات و学习 لغة (أو لغات). شيئان كنت مهتمًا بهما بشكل خاص. من ذلك الحين، كنت متصلًا.
من 2006 إلى 2008 عملت على التخطيط والتوجيه لشركة صغيرة، ما هي بعض النتائج المهمة من تلك الفترة؟
كان دوري في Telmap بإنشاء محرك بحث على بيانات الخريطة والموقع.
كانت هذه الأيام المبكرة جدًا من “البيانات الكبيرة” في الشركات. لم نكن نسميها حتى ذلك الوقت، ولكننا كنا نكتسب مجموعات بيانات ضخمة وحاولنا إظهار الأفكار الأكثر تأثيرًا والأكثر صلة للمستخدمين النهائيين.
كان أحد الاستنتاجات المذهلة التي توصلت إليها هو أن الشركات (بما في ذلكنا) استفادت من القليل من بياناتها (ليس إلى Mention البيانات المتاحة بشكل عام). كان هناك الكثير من الإمكانيات لاستكشافات جديدة وعمليات وأفكار أفضل.
الاستنتاج الآخر هو أن القدرة على الحصول على المزيد من البيانات تعتمد، بالطبع، على وجود بنية تحتية أفضل ومرافق أفضل وما إلى ذلك.
يمكنك أن تشاركنا قصة نشأة مونالابس؟
ال ثلاثة منا، المؤسسون، كنا حول منتجات البيانات طوال مسيرتنا المهنية.
نيمو، الرئيس التنفيذي للتقنية، هو صديقي في الكلية وزميل الدراسة، وأحد أوائل موظفي جوجل تل أبيب. بدأ منتجًا هناك يسمى جوجل تريندز، والذي كان يحتوي على تحليلات متقدمة وذكاء اصطناعي dựa على بيانات محرك البحث. إيتاي، المؤسس الآخر والرئيس التنفيذي للمنتج، كان في فريق نيمو في جوجل (والتقيت به من خلال نيمو). كان كلاهما يائسًا من أن الأنظمة المدارة بالذكاء الاصطناعي تُترك بدون مراقبة بعد التطوير والاختبار الأولي. على الرغم من صعوبة اختبار هذه الأنظمة بشكل صحيح قبل الإنتاج، لم يكن الفريق يعرف كيفية أداء نماذج التنبؤ الخاصة بهم بمرور الوقت. بالإضافة إلى ذلك، بدا أن الفريق لن يسمع أي تعليقات حول أنظمة الذكاء الاصطناعي إلا عندما تذهب الأمور بشكل سيئ والفريق يُدعى إلى “تمارين إطفاء الحريق” ل修复 مشاكل كارثية.
(GOOGL )في نفس الوقت، كنت مستشارًا في شركة ماكينزي، ورأيت أن أحد أكبر الحواجز أمام برامج الذكاء الاصطناعي وبيانات كبيرة في الشركات الكبيرة هو عدم ثقة أصحاب المصلحة التجارية في تلك البرامج.
أصبح الخط المشترك واضحًا لنيمو وإيتاي و لي في المحادثات. تحتاج الصناعة إلى بنية تحتية لمراقبة أنظمة الذكاء الاصطناعي / التعلم الآلي في الإنتاج. جاءت رؤيتنا لتوفير هذه الرؤية من أجل زيادة ثقة أصحاب المصلحة التجارية، وتتمكن فرق الذكاء الاصطناعي من الحفاظ على سيطرة دائمة على أداء أنظمتهم والتحسين بكفاءة.
وهنا تأسست مونالابس.
ما هي بعض القضايا الحالية المتعلقة بنقص شفافية الذكاء الاصطناعي؟
في العديد من الصناعات، قامت المنظمات بالفعل بإنفاق ملايين الدولارات في برامج الذكاء الاصطناعي، وشاهدت بعض النجاحات الأولية في المختبر والتنصيب على نطاق صغير. لكن التوسع، وتحقيق التنفيذ الواسع، والحصول على الثقة التجارية الفعلية في الذكاء الاصطناعي كان تحديًا هائلاً几乎 للجميع.
لماذا يحدث هذا؟ يبدأ الأمر بالحقيقة أن البحث الجيد لا يترجم تلقائيًا إلى منتجات جيدة (قال لنا أحد العملاء، “نماذج التعلم الآلي مثل السيارات، في اللحظة التي تترك المختبر، تفقد 20% من قيمتها”). المنتجات الجيدة لها أنظمة داعمة. هناك أدوات وعمليات لضمان استمرار الجودة مع مرور الوقت، ومشاكل يتم اكتشافها في وقت مبكر ومعالجتها بكفاءة. المنتجات الجيدة也有 دورة تعليقات مستمرة، لديها دورة تحسين وطريقًا. بالتالي، المنتجات الجيدة تتطلب شفافية أداء مستمرة.
عندما يكون هناك نقص في الشفافية، ينتهي الأمر بالمشاكل التي تظل مخفية لبعض الوقت ثم تنفجر إلى السطح وتسبب “تمارين إطفاء الحريق”
- المشاكل التي تظل مخفية لبعض الوقت ثم تنفجر إلى السطح وتسبب “تمارين إطفاء الحريق”
- تحقيقات وتصحيحات يدوية طويلة الأمد
- برنامج ذكاء اصطناعي لا يثق به مستخدمو الأعمال والرعاة في النهاية ويفشل في التوسع
ما هي بعض التحديات وراء جعل النماذج التنبؤية شفافة وموثوقة؟
الشفافية هي عاملاً مهمًا في تحقيق الثقة، بالطبع. يمكن أن تأتي الشفافية في العديد من الأشكال. هناك شفافية التنبؤ الفردي الذي قد يشمل عرض مستوى الثقة للمستخدم، أو تقديم تفسير / مبرر للتنبؤ. شفافية التنبؤ الفردي تهدف في الغالب إلى مساعدة المستخدم على الشعور بالراحة مع التنبؤ. ثم هناك شفافية عامة قد تشمل معلومات حول دقة التنبؤ، نتائج غير متوقعة، ومشاكل محتملة. الشفافية العامة مطلوبة من قبل فريق الذكاء الاصطناعي.
الأكثر تحديًا في الشفافية العامة هو الكشف عن القضايا في وقت مبكر، وتحذير عضو الفريق ذي الصلة حتى يتمكن من اتخاذ إجراءات تصحيحية قبل حدوث الكوارث.
لماذا من الصعب الكشف عن القضايا في وقت مبكر:
- ال قضايا غالبًا ما تبدأ بشكل صغير وتغلي قبل أن تنفجر إلى السطح.
- ال قضايا غالبًا ما تبدأ بسبب عوامل غير خاضعة للسيطرة أو الخارجية، مثل مصادر البيانات.
- هناك العديد من الطرق “لتقسيم العالم” والبحث الشامل عن القضايا في جيوب صغيرة قد يؤدي إلى الكثير من الضوضاء (إرهاق الإشعارات)، على الأقل عندما يتم القيام بذلك بطريقة غير مدروسة.
جوانب أخرى من التحديات في توفير الشفافية هي انتشار الحالات الاستخدامية للذكاء الاصطناعي. هذا يجعل نهجًا واحدًا يناسب جميع الحالات几乎 مستحيلًا. كل حالة استخدام للذكاء الاصطناعي قد تشمل هياكل بيانات مختلفة، دورات أعمال مختلفة، معايير نجاح مختلفة، وغالبًا نهجًا تقنيًا مختلفًا وحتى بنية تحتية مختلفة.
لذلك، من الصعب جدًا، لكن الشفافية أساسية جدًا لنجاح برامج الذكاء الاصطناعي، لذلك عليك القيام بذلك.
يمكنك أن تشاركنا بعض التفاصيل حول حلول النماذج اللغوية والتعرف على الكلام؟
الذكاء الاصطناعي المحادثي هو واحد من المجالات الرئيسية لمونالابس. نحن فخورون بدعم الشركات المبتكرة في مجموعة واسعة من حالات استخدام الذكاء الاصطناعي المحادثي، بما في ذلك نماذج اللغة وبرامج الدردشة وغيرها.
عامل مشترك عبر هذه الحالات هو أن النماذج تعمل قريبة (أحيانًا بشكل مرئي) من العملاء، لذلك مخاطر الأداء غير المتسق أو السلوك السيئ أعلى. يصبح من المهم جدًا لفريق الذكاء الاصطناعي المحادثي فهم سلوك النظام على مستوى متعمق، وهو مجال من نقاط القوة لحل مراقبة مونالابس.
ما يفعله حل مونالابس بشكل فريد هو الفرز المنهجي لمجموعات المحادثات والكشف عن جيوب حيث تسئ النماذج (أو البرامج) السلوك. يسمح هذا لفريق الذكاء الاصطناعي المحادثي بالكشف عن المشاكل في وقت مبكر وقبل أن يلاحظها العملاء. هذه القدرة هي محرك قرار حرج لفريق الذكاء الاصطناعي المحادثي عند اختيار حلول المراقبة.
لتلخيص، توفر مونالابس حلًا شاملاً لمراقبة الذكاء الاصطناعي المحادثي. يبدأ بضمان وجود مصدر واحد للمعلومات حول سلوك النظام بمرور الوقت، ويتابع مع تتبع مستمر لمؤشرات الأداء الرئيسية، وتقدم رؤى استباقية حول جيوب السلوك السيئ – مما يسمح للفرق بالاتخاذ إجراءات تصحيحية فعالة وفعّالة.
يمكنك أن تقدم لنا بعض التفاصيل حول محرك رؤية مونالابس؟
بالتأكيد. لنبدأ بالدافع. هدف محرك الرؤية هو إظهار الشذوذات للمستخدمين، مع كمية كافية من المعلومات السياقية، دون خلق ضوضاء أو إرهاق إشعارات.
محرك الرؤية هو سير عمل تحليلي فريد. في هذا السير، يبحث المحرك عن شذوذات في جميع مقاطع البيانات، مما يسمح بالكشف المبكر عن القضايا عندما تكون لا تزال “صغيرة”، وقبل أن تؤثر على مجموعة البيانات الكاملة والمتغيرات الرئيسية للأعمال. ثم يستخدم خوارزمية مملوكة لاكتشاف أسباب الجذور للشذوذات ويتأكد من أن كل شذوذ يتم إخطار عنه مرة واحدة فقط حتى تتجنب الضوضاء.
محرك الرؤية قابل للتخصيص بدرجة كبيرة من خلال تكوين مونالابس بدون كود / منخفض الكود. تتيح تخصيص المحرك لمونالابس أن تكون أكثر حل مرن في السوق، تغطي مجموعة واسعة من الحالات (مثل الدفع والتدفق، مع أو بدون تعليقات تجارية / حقيقة أرضية، عبر إصدارات النموذج أو بين التدريب والاستدلال، وغيرها).
أخيرًا، يتم دعم محرك الرؤية بواسطة لوحة تحكم مرئية، يمكن من خلالها عرض الرؤى، ومجموعة من أدوات التحقيق لتمكين تحليل الجذور وتحقيق المزيد من المعلومات السياقية. محرك الرؤية也是 متكامل بالكامل مع محرك الإشعارات الذي يسمح بتغذية الرؤى إلى بيئات عمل المستخدمين، بما في ذلك البريد الإلكتروني و_platformات التعاون، وغيرها.
في 31 يناير، كشفت مونالابس عن حل جديد للعدالة في الذكاء الاصطناعي، يمكنك أن تشاركنا بعض التفاصيل حول هذه الميزة وماذا لها من أهمية؟
العدالة في الذكاء الاصطناعي هي حول ضمان أن الخوارزميات وأنظمة الذكاء الاصطناعي بشكل عام تتخذ قرارات غير متحيزة ومتساوية. من المهم جدًا معالجة ومنع التحيزات في أنظمة الذكاء الاصطناعي، لأنها يمكن أن تؤدي إلى عواقب كبيرة في العالم الحقيقي. مع زيادة أهمية الذكاء الاصطناعي، سيكون التأثير على حياة الناس أكثر وضوحًا في المزيد من الأماكن، بما في ذلك تلقيم السيارات، والكشف عن الأمراض بدقة أكبر، وتحسين فهم العالم، وإنشاء الفن. إذا لم نستطع الثقة في أن تكون عادلة ومتحيزة، كيف سوف نسمح لها بالاستمرار في الانتشار؟
أحد الأسباب الرئيسية للتحيزات في أنظمة الذكاء الاصطناعي هو simplement القدرة على تمثيل بيانات التدريب العالم الحقيقي بالكامل. يمكن أن ينشأ هذا من التمييز التاريخي، أو تمثيل مجموعات معينة، أو حتى التلاعب المتعمد بالبيانات. على سبيل المثال، نظام التعرف على الوجه مدرب على أفراد ذوي البشرة الفاتحة بشكل رئيسي قد يكون لديه معدل خطأ أعلى في التعرف على أفراد ذوي البشرة الداكنة. وبالمثل، نموذج اللغة مدرب على بيانات نصية من مجموعة ضيقة من المصادر قد يطور تحيزات إذا كانت البيانات مائلة نحو وجهات نظر معينة، حول مواضيع مثل الدين والثقافة، وغيرها.
حل مونالابس للعدالة في الذكاء الاصطناعي يمنح فرق الذكاء الاصطناعي وفرق الأعمال الثقة بأن أنظمتهم الذكاء الاصطناعي خالية من التحيزات. في القطاعات المنظمة، يمكن لحل مونالابس إعداد الفرق للاستعداد للامتثال.
حل مونالابس للعدالة فريد لأنها تقع على منصة مونالابس – جسر بين بيانات الذكاء الاصطناعي ونماذجها وتأثيراتها الحقيقية في العالم. مونالابس تنظر إلى جميع أجزاء العملية التجارية التي يخدمها نموذج الذكاء الاصطناعي في الإنتاج، لتربط بين بيانات التدريب وسلوك النموذج والنتائج الحقيقية في العالم الحقيقي من أجل تقديم التقييم الأكثر شمولاً للعدالة.
ثانيًا، لديها محرك تحليلي فريد يسمح بتقسيم مرن للبيانات للسيطرة على المعايير ذات الصلة. هذا يسمح بتقييمات دقيقة للارتباطات في السياق الصحيح، وتجنب معضلة سيمبسون، وتقديم درجة تحيز حقيقية للغاية لأي معيار أداء وأي ميزة محمية.
لذلك، أود أن أقول إن مونالابس هي عنصر أساسي للفرق التي تحتاج إلى بناء وتوسيع الذكاء الاصطناعي المسؤول.
ما هو رؤيتك لمستقبل الذكاء الاصطناعي؟
هذه هي السؤال الكبير.
أعتقد أنه من السهل التنبؤ بأن الذكاء الاصطناعي سيتواصل في النمو في الاستخدام والتأثير عبر مجموعة متنوعة من قطاعات الصناعة و جوانب حياة الناس. ومع ذلك، من الصعب جدًا التنبؤ برؤية مفصلة تحاول تغطية جميع حالات استخدام الذكاء الاصطناعي وتأثيراته في المستقبل. لأن لا أحد يعرف بما يكفي لتصوير هذه الصورة بشكل موثوق.
ما نعرفه بالتأكيد هو أن الذكاء الاصطناعي سيكون في أيدي المزيد من الناس وسيخدم أغراضًا أكثر. لذلك، سوف يزيد الحاجة إلى الحوكمة والشفافية بشكل كبير.
الرؤية الحقيقية للذكاء الاصطناعي وكيف يعمل ستلعب دورين أساسيين. أولاً، سوف تساعد على إلهام الثقة في الناس ورفع حواجز المقاومة لتوسيع أكثر سرعة. ثانيًا، سوف تساعد من يدير الذكاء الاصطناعي على ضمان أن لا يخرج عن السيطرة.
شكرًا على المقابلة الرائعة، القراء الذين يرغبون في التعلم أكثر يجب أن يزوروا مونالابس.
