يارون سينجر، الرئيس التنفيذي لشركة Robust Intelligence وأستاذ علوم الحاسوب في جامعة هارفارد – سلسلة المقابلات

يارون سينجر هو الرئيس التنفيذي لشركة Robust Intelligence وأستاذ علوم الحاسوب والرياضيات التطبيقية في جامعة هارفارد. يارون معروف بنتائج مبتكرة في تعلم الآلة والخوارزميات والتحسين. في السابق، عمل يارون في بحث جوجل وحصل على شهادة الدكتوراه من جامعة كاليفورنيا، بيركلي.

ما هو ما جذبك في البداية إلى مجال علوم الحاسوب وتعلم الآلة؟

بدأت رحلتي مع الرياضيات، والتي أدتني إلى علوم الحاسوب، والتي وضعني على طريق تعلم الآلة. لقد جذبتني الرياضيات في البداية لأن نظامها الإقناعي أتاح لي إنشاء عوالم جديدة. مع علوم الحاسوب، تعلمت عن البراهين الوجودية، ولكن أيضًا الخوارزميات وراءها. من منظور إبداعي، علوم الحاسوب هي رسم الحدود بين ما يمكننا فعله وما لا يمكننا فعله.

لقد كان اهتمامي دائمًا متجذراً في تعلم الآلة من خلال الاهتمام بالبيانات الحقيقية، أو الجانب المادي منها. أخذ الأشياء من العالم الحقيقي ونمذجتها لإنشاء شيء ذي معنى. يمكننا حرفياً هندسة عالم أفضل من خلال نمذجة ذكية. لذلك، أتاح لي الرياضيات أساساً لبرهنة الأشياء، وعلوم الحاسوب ساعدتني على رؤية ما يمكننا فعله وما لا يمكننا فعله، وتعلم الآلة يسمح لي بتمثيل هذه المفاهيم في العالم.

حتى وقت قريب كنت أستاذاً لعلوم الحاسوب والرياضيات التطبيقية في جامعة هارفارد، ما هي بعض النتائج الرئيسية التي استخلصتها من هذه التجربة؟

أكبر استخلاص لي من كوني عضواً في هيئة التدريس في جامعة هارفارد هو أن ذلك يطور رغبتك في القيام بأشياء كبيرة. تقليدية، لدى جامعة هارفارد هيئة تدريس صغيرة، وتتوقع من أعضاء هيئة التدريس على المسار الوظيفي مواجهة مشاكل كبيرة وإنشاء مجالات جديدة. عليك أن تكون جريئاً. هذا يصبح في النهاية تحضيراً رائعاً لإنشاء شركة ناشئة تُحدد فئة جديدة وتُعرّف مساحة جديدة. لا أوصي بالضرورة بالمرور عبر مسار الوظيفة في جامعة هارفارد أولاً – ولكن إذا نجحت في ذلك، فإن بناء شركة ناشئة يكون أسهل.

يمكنك وصف لحظة “أها” عندما أدركت أن أنظمة الذكاء الاصطناعي المتقدمة معرضة للبيانات السيئة، مع بعض العواقب التي قد تصل إلى حد بعيد؟

عندما كنت طالباً في جامعة كاليفورنيا، بيركلي، أخذت فترة راحة لإنشاء شركة ناشئة بنيت نماذج تعلم الآلة للتسويق في الشبكات الاجتماعية. كان ذلك في عام 2010. كان لدينا كميات هائلة من البيانات من الشبكات الاجتماعية، وبرمجنا جميع النماذج من الصفر. كانت الآثار المالية للبائعين كبيرة جداً، لذلك تابعنا أداء النماذج عن كثب.由于 استخدمنا بيانات من الشبكات الاجتماعية، كان هناك العديد من الأخطاء في الإدخال، بالإضافة إلى الانحراف. رأينا أن الأخطاء الصغيرة في الإدخال تؤدي إلى تغييرات كبيرة في إخراج النموذج ويمكن أن تؤدي إلى نتائج مالية سيئة للبائعين الذين يستخدمون المنتج.

عندما انتقلت إلى العمل على جوجل+ (لأولئك منا الذين يتذكرون)، رأيت نفس التأثيرات. بشكل أكثر دراماتيكية، في أنظمة مثل AdWords التي تقوم بالتنبؤ باحتمالية أن ي点击 الأشخاص على إعلان لمفتاح معين، لاحظنا أن الأخطاء الصغيرة في الإدخال تؤدي إلى تنبؤات سيئة جداً. عندما تشهد هذه المشكلة في حجم جوجل، تدرك أن المشكلة عالمية.

شكلت هذه التجارب تركيزي البحثي، وقضيت وقتي في جامعة هارفارد في تحقيق لماذا تعمل نماذج الذكاء الاصطناعي بشكل خاطئ، وأهم من ذلك، كيفية تصميم خوارزميات يمكنها منع النماذج من الأخطاء. هذا، بالطبع، أدى إلى المزيد من لحظات “أها”، وأخيراً إلى إنشاء Robust Intelligence.

يمكنك مشاركة قصة ولادة Robust Intelligence؟

بدأت Robust Intelligence مع بحث حول ما كان في البداية مشكلة نظرية: ما هي الضمانات التي يمكننا الحصول عليها للقرارات التي يتخذها نماذج الذكاء الاصطناعي. كان Kojin طالباً في جامعة هارفارد، وعملنا معاً، في البداية كتابة أوراق بحثية. لذلك، تبدأ مع كتابة أوراق تُحدد ما هو ممكن ومما لا يُحتمل نظرياً. ثم استمرت هذه النتائج في برنامج لتصميم خوارزميات ونماذج قادرة على تحمل فشل الذكاء الاصطناعي. بعد ذلك، بنينا أنظمة يمكنها تشغيل هذه الخوارزميات في الممارسة. ثم، بدء شركة حيث يمكن للمنظمات استخدام نظام مثل هذا كان خطوة طبيعية.

ما هي بعض القضايا التي تُعالجها Robust Intelligence، وهي الأخطاء الصامتة، ما هي هذه الأخطاء وما الذي يجعلها خطيرة جداً؟

قبل تقديم تعريف تقني للأخطاء الصامتة، من المفيد اتخاذ خطوة إلى الوراء لفهم لماذا يجب علينا الاهتمام بأخطاء الذكاء الاصطناعي في المقام الأول. السبب في اهتمامنا بأخطاء نماذج الذكاء الاصطناعي هو عواقب هذه الأخطاء. عالمنا يستخدم الذكاء الاصطناعي لآلية القرارات الحاسمة: من يحصل على قروض أعمال وبأي سعر فائدة، من يحصل على تغطية تأمين صحي وبأي سعر، أي أحياء يجب على الشرطة патрулировать، من هو المرشح المثالي لشغل وظيفة، كيف يجب تنظيم أمن المطار، وغيرها. حقيقة أن نماذج الذكاء الاصطناعي معرضة بشدة للأخطاء تعني أننا عند آليتنا لاتخاذ القرارات الحاسمة نحمل مخاطر كبيرة. في Robust Intelligence، ندعو هذه “مخاطر الذكاء الاصطناعي”، وهدفنا في الشركة هو القضاء على مخاطر الذكاء الاصطناعي.

Robust Intelligence صممت أساساً جدار نار للذكاء الاصطناعي، وهي فكرة كانت تعتبر من المستحيلات في السابق. لماذا يُعتبر هذا تحدياً تقنياً؟

أحد الأسباب التي تجعل جدار النار للذكاء الاصطناعي تحدياً هو أنه يتعارض مع نمط المجتمع المتعلم السابق. كان نمط المجتمع السابق يعتمد على أن القضاء على الأخطاء يتطلب تغذية المزيد من البيانات، بما في ذلك البيانات السيئة، إلى النماذج. بالقيام بذلك، تتدرّب النماذج على تصحيح الأخطاء بنفسها. المشكلة مع هذا النهج هو أنه يؤدي إلى انخفاض دقة النموذج بشكل كبير. أفضل النتائج المعروفة للصور، على سبيل المثال، تؤدي إلى انخفاض دقة نموذج الذكاء الاصطناعي من 98.5% إلى حوالي 37%.

يقدم جدار النار للذكاء الاصطناعي حلًا مختلفًا. نحن نفصل مشكلة تحديد الخطأ عن دورة إنشاء التنبؤ، مما يعني أن جدار النار يمكنه التركيز على مهمة محددة: تحديد ما إذا كان نقطة البيانات ستنتج تنبؤًا خاطئًا.

كان هذا تحديًا في حد ذاته بسبب صعوبة إعطاء تنبؤ على نقطة بيانات واحدة. هناك العديد من الأسباب التي تجعل النماذج تُخطئ، لذلك بناء تكنولوجيا يمكنها توقع هذه الأخطاء لم يكن مهمة سهلة. نحن محظوظون جداً بالحصول على المهندسين الذين لدينا.

كيف يمكن للنظام مساعدة منع انحياز الذكاء الاصطناعي؟

ينشأ انحياز النموذج من عدم التوازن بين البيانات التي تم تدريب النموذج عليها والبيانات التي يستخدمها لاتخاذ التنبؤات. العودة إلى مخاطر الذكاء الاصطناعي، الانحياز هو مشكلة كبيرة تعزى إلى الأخطاء الصامتة. على سبيل المثال، غالباً ما يكون هذا مشكلة مع السكان غير الممثّلين. قد يكون للنموذج انحياز لأنّه رأى بيانات أقل من ذلك السكان، مما يؤثر بشكل كبير على أداء النموذج ودقة تنبؤاته. يمكن لجدار النار للذكاء الاصطناعي إعلام المنظمات بهذه التناقضات في البيانات ومساعدة النموذج على اتخاذ القرارات الصحيحة.

ما هي بعض المخاطر الأخرى التي تساعد جدار النار للذكاء الاصطناعي على منعها؟

أي شركة تستخدم الذكاء الاصطناعي لآلية القرارات، خاصة القرارات الحاسمة، تُدخل تلقائياً مخاطر. يمكن أن تؤدي البيانات السيئة إلى عواقب كبيرة، حتى لو كانت بسيطة مثل إدخال صفر بدلاً من واحد. سواء كانت المخاطر تنبؤات طبية خاطئة أو تنبؤات خاطئة حول القروض، يساعد جدار النار للذكاء الاصطناعي المنظمات على منع المخاطر بشكل كامل.

هل هناك شيء آخر تود مشاركته حول Robust Intelligence؟

Robust Intelligence تتوسع بسرعة ونحصل على مرشحين رائعين يتقدمون للوظائف. لكن هناك شيء أريد التأكيد عليه لأولئك الذين يفكرون في التقدم، وهو أن أهم شيء نبحث عنه في المرشحين هو شغفهم بالmission. نلتقي بالكثير من المرشحين الذين يتمتعون بالقوة الفنية، لذلك يأتي كل شيء إلى فهم ما إذا كانوا حقاً يهتمون بإزالة مخاطر الذكاء الاصطناعي لجعل العالم مكانًا أكثر أماناً وأفضل.

في العالم الذي ننتقل إليه، ستتم آليتنا لقرارات كثيرة حالياً التي يتم اتخاذها من قبل البشر. سواء كنا نحب ذلك أو لا، هذا هو الحال. بالنظر إلى ذلك، كلنا في Robust Intelligence نريد أن تكون القرارات الآلية محتملة بشكل مسؤول. لذلك، أي شخص متحمس لجعل تأثير، يفهم كيف يمكن أن تؤثر على حياة الناس، هو مرشح نبحث عنه للانضمام إلى Robust Intelligence. نحن نبحث عن ذلك الشغف. نحن نبحث عن الأشخاص الذين سوف يخلقون هذه التكنولوجيا التي سوف يستخدمها العالم كله.

شكراً على المقابلة الرائعة، استمتعت بتعلم آرائك حول منع انحياز الذكاء الاصطناعي وضرورة جدار نار للذكاء الاصطناعي، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة Robust Intelligence.