أليسا سيمبسون روتشويرجر، مؤلفة كتاب العالم الحقيقي للذكاء الاصطناعي – سلسلة المقابلات

أليسا روتشويرجر هي قائدة منتجات مدفوعة بالعملاء مكرسة لبناء منتجات تحل مشاكل صعبة للأشخاص الحقيقيين. شغلت العديد من أدوار قيادة المنتجات لمنظمات التعلم الآلي. شغلت منصب نائب الرئيس للمنتجات في Figure Eight (التي تم الحصول عليها من قبل Appen)، ونائب الرئيس للذكاء الاصطناعي والبيانات في Appen، ومدير المنتجات في IBM Watson. غادرت مؤخرًا هذا المجال لمتابعة حلمها في استخدام التكنولوجيا لتحسين الرعاية الصحية. حاليًا، تعمل كمدير للمنتجات في Blue Shield of California، حيث تحيط بها الكثير من البيانات، والمشاكل الصعبة، وفرص لتحقيق تأثير إيجابي.

نناقش كتابها الجديد: العالم الحقيقي للذكاء الاصطناعي: دليل عملي لاستخدام التعلم الآلي المسؤول

في مقدمة الكتاب، تصف كيف واجهت مشكلة مع نظام الذكاء الاصطناعي الذي قدم معلومات متحيزة عندما تم تصنيف صورة شخص في كرسي متحرك على أنه “خاسر” من قبل الخوارزمية. كم كانت هذه المهمة بمثابة استيقاظ لك حول انحياز الذكاء الاصطناعي؟

لن أسميها استيقاظًا، بل كانت تجربتي الأولى في بناء منتج يستند إلى التعلم الآلي (كنت فقط بعد بضعة أشهر في المنصب) ولم أكن أعرف بعد الكثير حول كيفية عمل هذه التكنولوجيا لتقديم حواجز وتنظيم وتخفيف التحيز غير المرغوب فيه. كانت تجربة مفتوحة العينين التي حددت انتباهي على هذه القضية – وجعلتني أدرك بشكل حاد في المستقبل. المساواة والوصول والشمول هي موضوع أحبه وأنا مهتم به منذ فترة طويلة – وحتى فازت بجائزة في الكلية لمناصرة طلاب معاقين. ساعدتني هذه التجربة في IBM على فهم من الناحية الفنية كيف يمكن للتحيز الاجتماعي النظامي أن يتم تشفيره في منتجات التعلم الآلي إذا لم يكن الفريق يخفف من هذا التحيز بشكل فعال. كنت سعيدًا بالعمل في مؤسسة تهتم بعمق بالمساواة ووضعت الموارد في تخفيف.

ماذا تعلمت شخصيًا أثناء البحث والكتابة عن هذا الكتاب؟

من الناحية الشخصية – كان عليّ أن أجد وقتًا للكتابة عن هذا الكتاب بينما كنت أغير وظيفتي، ولدي طفل يبلغ عامًا واحدًا، وأنا أتجاوز فترة كوفيد. تعلمت كيفية إيجاد وقت لجعل هذا الأمر أولوية، وكيفية طلب المساعدة من عائلتي التي وفرت لي الوقت لتوجيه انتباهي إلى كتابة الكتاب.

من الناحية المهنية – كان من الرائع أن يكون لدينا العديد من المشاركين الذين شاركوا قصصهم معنا للنشر. أجد أن محترفي التعلم الآلي في تجربتي هم مجموعة فكرية ومرحبة من الناس – على استعداد للمساعدة في حل المشاكل وتقاسم دروسهم المستفادة. للأسف، لم يتم تضمين العديد من هذه القصص في هذا الكتاب أو كان عليهم أن يُ 匿名 بشكل كبير، بسبب القلق من الظهور العلني بمعلومات خلف الكواليس التي قد تجعل شركة أو فرد يبدو سيئًا إذا تم تناولها بشكل خاطئ. في حين أن هذا بالتأكيد هو السبب، أشعر شخصيًا أن هذا يأسف – أنا مؤمن كبير بالتعلم والنمو من الخبرات السابقة والأخطاء إذا كان يمكن أن يكون مفيدًا للآخرين.

ما هي بعض الدروس الأكثر أهمية التي ت希望 أن يتعلمها الناس من قراءة هذا الكتاب؟

آمل أن يتعلم الناس أن التعلم الآلي ليس مخيفًا أو صعبًا الفهم. إنه تكنولوجيا قوية ولكنها في بعض الأحيان هشة تحتاج إلى توجيه وهيكل لتكون ناجحة في حل المشاكل الصعبة. كما أن الاستخدام الأخلاقي المسؤول لهذه التكنولوجيا هو أمر بالغ الأهمية للنضج والنجاح – والتركيز على تخفيف التحيز الضار في وقت مبكر هو مفتاح النجاح التجاري.

كان أحد الأمثلة على انحياز الجنس في الذكاء الاصطناعي الذي تم تصويره في الكتاب هو إصدار بطاقة الائتمان من Apple (AAPL ) خطوط ائتمان أقل للنساء مقارنة بالرجال. كان هذا مثالًا على كيفية أن يؤدي استبعاد الجنس كخيار إلى عدم مراعاة متغيرات أخرى يمكن أن تعمل كبديل للجنس. أظهر المثال أن بدون مدخلات “الجنس”، كان من المستحيل تحديد أن النتيجة كانت متحيزة حتى بعد إصدار المنتج النهائي. ما هي بعض أنواع مدخلات البيانات التي تعتقد أنها يجب ألا تستبعد لتفادي التحيز ضد الجنس أو الأقليات؟

لا يوجد قاعدة صارمة – كل مجموعة بيانات، وحالة استخدام، وموقف مختلف. أحث الممارسيين على الدخول في التفاصيل والدقة فيما يتعلق بالمشكلة التي يتم تطبيق خوارزمية التعلم الآلي لحلها – وما هو التحيز الضار الذي يمكن أن يتم تشفيره في ذلك القرار.

يصف الكتاب كيفية أن يكون أحد المسؤوليات الأساسية عند التواصل مع فريق الذكاء الاصطناعي هو تحديد النتائج بدقة التي تهم الأعمال. ما مدى频ة فشل الشركات في هذه المهمة؟

أقول إنني في تجربتي، معظم الوقت، النتائج إما غير محددة أو محددة فقط على مستوى فضفاض أو عال. الدخول في التفاصيل حول النتائج المحددة هو طريقة سهلة لتجهيز الفريق للنجاح في وقت مبكر.

يتحدث الكتاب عن أهمية إدراك أن نظام الذكاء الاصطناعي ليس نظامًا من نوع “ضعه و 忘اه”. هل يمكن أن تتحدث ب简略 عن هذا؟

هذا هو الخطأ الكلاسيكي الذي تقع فيه معظم الشركات عند إطلاق نظام تعلم آلي جديد إلى الإنتاج. الواقع يتغير – يمر الوقت، ما كان صحيحًا بالأمس (بيانات التدريب) قد لا يكون صحيحًا بالغد. يعتمد على ظروفك، ولكن في معظم الحالات، من المهم أن تكون قادرًا على التعلم والتكيف واتخاذ قرارات أفضل مع مرور الوقت بناءً على معلومات أحدث.

المنتجات القائمة على التعلم الآلي هي في الأساس صانعو قرارات. لمقارنة هذا بمثال بشري – إنه مثل حكم في مباراة كرة قدم عالية المستوى. في nhiều الأحيان، إذا كان الحكم مدربًا جيدًا ومخضرمًا، فإن الحكم يأخذ قرارًا جيدًا ويتابع اللعبة – ولكن في بعض الأحيان، يأخذ الحكم قرارًا سيئًا أو لا يعتقد ما القرار الذي يجب أن يُ اتخاذ بشأن لعب معينة – ويتطلب ذلك العودة والاستعراض – وسؤال بعض الأشخاص الآخرين من أجل اتخاذ قرار بشأن لعب معينة. بشكل مماثل – تحتاج منتجات التعلم الآلي إلى التغذية الراجعة والتدريب، وأحيانًا لا تكون واثقة. تحتاج إلى خيارات احتياطية للعودة إليها، بالإضافة إلى معلومات جديدة للتعلم منها لتحسين أدائها مع مرور الوقت. سوف يتعلم الحكم الجيد مع مرور الوقت ويصبح أفضل في اتخاذ الأحكام.

هل يمكن أن تتحدث عن أهمية إنشاء فريق متعدد الوظائف يمكنه تحديد المشاكل التي من الأفضل حلها باستخدام الذكاء الاصطناعي؟

تكنولوجيا التعلم الآلي مناسبة بشكل عام لمشاكل صعبة ومحددة لا تحلها طرق أخرى. أي مشكلة صعبة – يحتاج إلى فريق للنجاح. عندما تكون الشركات جديدة في الذكاء الاصطناعي – غالبًا ما يكون هناك سرد خاطئ بأن عالم التعلم الآلي وحده أو حتى فريق التعلم الآلي يمكن أن يحل المشكلة بمفرده. لم أجد هذا صحيحًا أبدًا. يحتاج إلى فريق ذو خلفيات ونهج مختلفة لمواجهة مشكلة صعبة – وبالتأكيد لنشر تكنولوجيا التعلم الآلي بنجاح إلى الإنتاج.

شكرًا على المقابلة الرائعة، للمقاطعين (وخاصة التنفيذيين التجاريين) الذين يهتمون بالتعلم المزيد، أوصي بقراءة كتاب العالم الحقيقي للذكاء الاصطناعي: دليل عملي لاستخدام التعلم الآلي المسؤول.