يارون سينجر، الرئيس التنفيذي لشركة Robust Intelligence وأستاذ علوم الحاسوب في جامعة هارفارد – سلسلة المقابلات

يارون سينجر هو الرئيس التنفيذي لشركة Robust Intelligence وأستاذ علوم الحاسوب والرياضيات التطبيقية في جامعة هارفارد. يارون معروف بنتائج مبتكرة في تعلم الآلة والخوارزميات والتحسين. في السابق، عمل يارون في بحث جوجل وحصل على شهادة الدكتوراه من جامعة كاليفورنيا، بيركلي.

ما الذي جذبك في البداية إلى مجال علوم الحاسوب وتعلم الآلة؟

بدأت رحلتي مع الرياضيات، والتي أدتني إلى علوم الحاسوب، والتي وضعتني على طريق تعلم الآلة. لقد جذبتني الرياضيات في البداية لأن نظامها البديهي أتاح لي إنشاء عوالم جديدة. مع علوم الحاسوب، تعلمت عن البراهين الوجودية، ولكن أيضًا الخوارزميات وراءها. من منظور إبداعي، علوم الحاسوب هي رسم الحدود بين ما يمكننا فعله وما لا يمكننا فعله.

لقد كان اهتمامي دائمًا متجذراً في تعلم الآلة من خلال الاهتمام بالبيانات الحقيقية، أو الجانب المادي منها. أخذ الأشياء من العالم الحقيقي ونمذجتها لإنشاء شيء ذي معنى. يمكننا حرفياً هندسة عالم أفضل من خلال نمذجة ذكية. لذلك، أتاحت لي الرياضيات أساساً لبرهنة الأشياء، وعلوم الحاسوب ساعدتني على رؤية ما يمكننا فعله وما لا يمكننا فعله، وتعلم الآلة يسمح لي بتمثيل هذه المفاهيم في العالم.

حتى وقت قريب كنت أستاذاً لعلوم الحاسوب والرياضيات التطبيقية في جامعة هارفارد، ما هي بعض النتائج الرئيسية التي استخلصتها من هذه التجربة؟

أكبر استخلاص لي من كوني عضواً في هيئة التدريس في جامعة هارفارد هو أن ذلك يطور رغبتك في القيام بأشياء كبيرة. تقليدياً، لدى جامعة هارفارد هيئة تدريس صغيرة، وتتوقع من أعضاء هيئة التدريس على مسار التثبيت الأكاديمي مواجهة مشاكل كبيرة وإنشاء مجالات جديدة. عليك أن تكون جريئاً. هذا يصبح في النهاية تحضيراً رائعاً لإنشاء شركة ناشئة تُحدد فئة جديدة وتُعرّف مساحة جديدة. لا أوصي بالضرورة بالمرور عبر مسار التثبيت الأكاديمي في جامعة هارفارد أولاً – ولكن إذا نجحت في ذلك، فإن بناء شركة ناشئة يكون أسهل.

يمكنك وصف لحظة “أها” عندما أدركت أن أنظمة الذكاء الاصطناعي المتقدمة معرضة للبيانات السيئة، مع بعض العواقب التي قد تصل إلى حد بعيد؟

عندما كنت طالب دراسات عليا في جامعة كاليفورنيا، بيركلي، أخذت فترة راحة لإنشاء شركة ناشئة بنيت نماذج تعلم الآلة للتسويق في الشبكات الاجتماعية. كان ذلك في عام 2010. كان لدينا كميات هائلة من البيانات من الشبكات الاجتماعية، وبرمجنا جميع النماذج من الصفر. كانت الآثار المالية لتجار التجزئة كبيرة جداً، لذلك تابعنا أداء النماذج عن كثب.لأننا استخدمنا بيانات من الشبكات الاجتماعية، كان هناك العديد من الأخطاء في الإدخال، بالإضافة إلى الانحراف. رأينا أن الأخطاء الصغيرة في الإدخال تؤدي إلى تغييرات كبيرة في إخراج النموذج ويمكن أن تؤدي إلى نتائج مالية سيئة لتجار التجزئة الذين يستخدمون المنتج.

عندما انتقلت إلى العمل على جوجل+ (لأولئك منا الذين يتذكرون)، رأيت نفس التأثيرات. بشكل أكثر دراماتيكية، في أنظمة مثل AdWords التي تقوم بالتنبؤ باحتمالية أن ينقر الأشخاص على إعلان مرتبط بكلمة مفتاحية، لاحظنا أن الأخطاء الصغيرة في الإدخال تؤدي إلى تنبؤات سيئة جداً. عندما تشهد هذه المشكلة في حجم جوجل، تدرك أن المشكلة عالمية.

شكلت هذه التجارب تركيزي البحثي، وقضيت وقتي في جامعة هارفارد في دراسة أسباب ارتكاب نماذج الذكاء الاصطناعي للأخطاء، وأهم من ذلك، كيفية تصميم خوارزميات يمكنها منع النماذج من الأخطاء. هذا، بالطبع، أدى إلى المزيد من لحظات “أها”، وأخيراً إلى إنشاء Robust Intelligence.

يمكنك مشاركة قصة ولادة Robust Intelligence؟

بدأت Robust Intelligence مع بحث حول ما كان في البداية مشكلة نظرية: ما هي الضمانات التي يمكننا الحصول عليها للقرارات التي تتخذها نماذج الذكاء الاصطناعي. كان Kojin طالباً في جامعة هارفارد، وعملنا معاً، في البداية كتابة أوراق بحثية. لذلك، تبدأ مع كتابة أوراق تُحدد ما هو ممكن وما هو مستحيل من الناحية النظرية. ثم استمرت هذه النتائج في برنامج لتصميم خوارزميات ونماذج قادرة على تحمل فشل الذكاء الاصطناعي. بعد ذلك، بنينا أنظمة يمكنها تشغيل هذه الخوارزميات في الممارسة. ثم، بدء شركة حيث يمكن للمنظمات استخدام نظام مثل هذا كان خطوة طبيعية.

ما هي بعض القضايا التي تُعالجها Robust Intelligence، وهي الأخطاء الصامتة، ما هي هذه الأخطاء وما الذي يجعلها خطيرة جداً؟

قبل تقديم تعريف تقني للأخطاء الصامتة، من المفيد اتخاذ خطوة إلى الوراء لفهم لماذا يجب علينا الاهتمام بأخطاء الذكاء الاصطناعي في المقام الأول. السبب في اهتمامنا بأخطاء نماذج الذكاء الاصطناعي هو عواقب هذه الأخطاء. عالمنا يستخدم الذكاء الاصطناعي لأتمتة القرارات الحاسمة: من يحصل على قروض أعمال وبأي سعر فائدة، من يحصل على تغطية تأمين صحي وبأي سعر، أي أحياء ينبغي أن تقوم الشرطة بدوريات فيها، من هو المرشح المثالي لشغل وظيفة، كيف يجب تنظيم أمن المطار، وغيرها. حقيقة أن نماذج الذكاء الاصطناعي معرضة بشدة للأخطاء تعني أننا عندما نؤتمت هذه القرارات الحاسمة نحمل مخاطر كبيرة. في Robust Intelligence، نسمي هذه المخاطر «مخاطر الذكاء الاصطناعي»، وهدفنا في الشركة هو القضاء على مخاطر الذكاء الاصطناعي.

الأخطاء الصامتة هي أخطاء في نموذج الذكاء الاصطناعي يتلقى فيها النموذج مدخلات وينتج تنبؤاً أو قراراً يتضمن مخرجاً خاطئاً أو متحيزاً. ظاهرياً، يبدو كل شيء سليماً من الناحية الوظيفية، لأن النموذج يؤدي العمل المتوقع منه، لكن التنبؤ أو القرار خاطئ. وتُسمى هذه الأخطاء صامتة لأن النظام لا يعرف بوجود الخطأ. وقد يكون هذا أسوأ بكثير من عدم إنتاج النموذج لأي مخرجات، إذ قد يستغرق الأمر وقتاً طويلاً قبل أن تدرك المؤسسة أن نظام الذكاء الاصطناعي لديها معيب. وعندها تتحول مخاطر الذكاء الاصطناعي إلى فشل قد تكون عواقبه وخيمة.

Robust Intelligence صممت أساساً جدار نار للذكاء الاصطناعي، وهي فكرة كانت تعتبر من المستحيلات في السابق. لماذا يُعتبر هذا تحدياً تقنياً؟

أحد الأسباب التي تجعل جدار النار للذكاء الاصطناعي تحدياً هو أنه يتعارض مع النهج السابق لمجتمع تعلم الآلة. كان النهج السابق للمجتمع يعتمد على أن القضاء على الأخطاء يتطلب تغذية المزيد من البيانات، بما في ذلك البيانات السيئة، إلى النماذج. بالقيام بذلك، تتدرّب النماذج على تصحيح الأخطاء بنفسها. المشكلة مع هذا النهج هو أنه يؤدي إلى انخفاض دقة النموذج بشكل كبير. أفضل النتائج المعروفة للصور، على سبيل المثال، تؤدي إلى انخفاض دقة نموذج الذكاء الاصطناعي من 98.5% إلى حوالي 37%.

يقدم جدار النار للذكاء الاصطناعي حلًا مختلفًا. نحن نفصل مشكلة تحديد الخطأ عن مهمة إنشاء التنبؤات، مما يعني أن جدار النار يمكنه التركيز على مهمة محددة: تحديد ما إذا كانت نقطة البيانات ستنتج تنبؤًا خاطئًا.

كان هذا تحديًا في حد ذاته بسبب صعوبة التنبؤ بما إذا كانت نقطة بيانات واحدة ستسبب خطأً. هناك العديد من الأسباب التي تجعل النماذج تُخطئ، لذلك بناء تكنولوجيا يمكنها توقع هذه الأخطاء لم يكن مهمة سهلة. نحن محظوظون جداً بالحصول على المهندسين الذين لدينا.

كيف يمكن للنظام مساعدة منع انحياز الذكاء الاصطناعي؟

ينشأ انحياز النموذج من عدم التوازن بين البيانات التي تم تدريب النموذج عليها والبيانات التي يستخدمها لاتخاذ التنبؤات. العودة إلى مخاطر الذكاء الاصطناعي، الانحياز هو مشكلة كبيرة تعزى إلى الأخطاء الصامتة. على سبيل المثال، غالباً ما يكون هذا مشكلة مع الفئات السكانية ناقصة التمثيل. قد يكون للنموذج انحياز لأنّه رأى بيانات أقل عن تلك الفئات السكانية، مما يؤثر بشكل كبير على أداء النموذج ودقة تنبؤاته. يمكن لجدار النار للذكاء الاصطناعي إعلام المنظمات بهذه التناقضات في البيانات ومساعدة النموذج على اتخاذ القرارات الصحيحة.

ما هي بعض المخاطر الأخرى التي تساعد جدار النار للذكاء الاصطناعي على منعها؟

أي شركة تستخدم الذكاء الاصطناعي لأتمتة القرارات، خاصة القرارات الحاسمة، تُدخل تلقائياً مخاطر. يمكن أن تؤدي البيانات السيئة إلى عواقب كبيرة، حتى لو كانت بسيطة مثل إدخال صفر بدلاً من واحد. سواء كانت المخاطر تنبؤات طبية خاطئة أو تنبؤات خاطئة حول القروض، يساعد جدار النار للذكاء الاصطناعي المنظمات على منع المخاطر.

هل هناك شيء آخر تود مشاركته حول Robust Intelligence؟

Robust Intelligence تتوسع بسرعة ونحصل على مرشحين رائعين يتقدمون للوظائف. لكن هناك شيء أريد التأكيد عليه لأولئك الذين يفكرون في التقدم، وهو أن أهم شيء نبحث عنه في المرشحين هو شغفهم بالمهمة. نلتقي بالكثير من المرشحين الذين يتمتعون بالقوة الفنية، لذلك يأتي كل شيء إلى فهم ما إذا كانوا حقاً يهتمون بإزالة مخاطر الذكاء الاصطناعي لجعل العالم مكانًا أكثر أماناً وأفضل.

في العالم الذي ننتقل إليه، ستُؤتمت قرارات كثيرة يتخذها البشر حالياً. سواء كنا نحب ذلك أو لا، هذا هو الحال. بالنظر إلى ذلك، كلنا في Robust Intelligence نريد أن تُتخذ القرارات الآلية بمسؤولية. لذلك، أي شخص متحمس لإحداث تأثير ويفهم كيف يمكن لهذا أن يؤثر في حياة الناس، هو مرشح نبحث عنه للانضمام إلى Robust Intelligence. نحن نبحث عن ذلك الشغف. نحن نبحث عن الأشخاص الذين سوف يخلقون هذه التكنولوجيا التي سوف يستخدمها العالم كله.

شكراً على المقابلة الرائعة، استمتعت بتعلم آرائك حول منع انحياز الذكاء الاصطناعي وضرورة جدار نار للذكاء الاصطناعي، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة Robust Intelligence.