مقابلات
أليسا سيمبسون روتشويرجر، مؤلف مشارك في عالم الذكاء الاصطناعي الحقيقي – سلسلة المقابلات
أليسا روتشويرجر هي قائدة منتجات مدفوعة بالعملاء مخصصة لبناء منتجات تحل مشاكل صعبة للأشخاص الحقيقيين. شغلت العديد من أدوار القيادة في المنتجات لمنظمات التعلم الآلي. شغلت منصب نائب الرئيس للمنتجات في Figure Eight (التي تم الاستحواذ عليها من قبل Appen)، ونائب الرئيس للذكاء الاصطناعي والبيانات في Appen، ومدير المنتجات في IBM Watson. غادرت مؤخرًا هذا المجال لمتابعة حلمها باستخدام التكنولوجيا لتحسين الرعاية الصحية. حاليًا، تعمل كمدير للمنتجات في Blue Shield of California، حيث تحيط بها الكثير من البيانات، والمشاكل الصعبة، وفرص لا حصر لها لإحداث تأثير إيجابي.
نناقش كتابها الجديد: عالم الذكاء الاصطناعي الحقيقي: دليل عملي للتعلم الآلي المسؤول
في مقدمة الكتاب، تصف كيف واجهت كمدير منتجات في IBM مشكلة مع نظام الذكاء الاصطناعي الذي يقدم معلومات متحيزة عندما تم تصنيف صورة شخص في كرسي متحرك من قبل الخوارزمية على أنها “خاسر”. كم كان هذا استدعاءً للاستيقاظ بالنسبة لك حول انحياز الذكاء الاصطناعي؟
لن أسميه استدعاءً للاستيقاظ بقدر ما كان أول مرة أبني منتجًا يستند إلى التعلم الآلي (كنت فقط بعد بضعة أشهر في المنصب) ولم أكن أعرف بعد الكثير حول كيفية عمل هذه التكنولوجيا لتحديد الحواجز بشكل مناسب وتخفيف الانحياز غير المرغوب فيه بشكل فعال. كان هذا تجربة مفتوحة العينين التي حددت انتباهي على هذه القضية – وجعلتني أدرك بشكل حاد في المستقبل. المساواة والوصول والشمول هو موضوع أنا متحمس له – ولقد كنت كذلك منذ فترة طويلة – حتى فازت بجائزة في الكلية من أجل نضالي من أجل الطلاب ذوي الإعاقة. ساعدتني هذه التجربة في IBM على فهم من منظور تقني كيف يمكن للانحياز الاجتماعي النظامي أن يتم تشفيره في منتجات تستند إلى التعلم الآلي إذا لم يكن الفريق يخفف بشكل فعال. كنت سعيدًا لأنني كنت أعمل في مؤسسة تهتم بعمق بالمساواة وتوفر الموارد لتخفيفها.
ماذا تعلمت شخصيًا أثناء البحث والكتابة في هذا الكتاب؟
من الناحية الشخصية – كان عليّ أن أجد وقتًا لكتابة هذا الكتاب أثناء تغيير الوظيفة، ولدي طفل يبلغ عامًا واحدًا، وفي نفس الوقت التغلب على جائحة كوفيد. تعلمت كيفية تخصيص وقت لجعل هذا الأولوية، وكيفية طلب المساعدة من عائلتي التي وفرت لي الوقت لمنح كتاب الكتابة انتباهي.
من الناحية المهنية – كان من الرائع أن يكون لدينا العديد من المشاركين الذين وافقوا بكل سرور على مشاركة قصصهم معنا للنشر. أجد أن محترفي التعلم الآلي في تجاربي هم مجموعة رائعة ومتعاونة من الناس – على استعداد للمساعدة في مساعدة الآخرين ومشاركة الأخطاء والدروس المستفادة. للأسف، لم يتم تضمين العديد من هذه القصص المستفادة في هذا الكتاب أو كان لا بد من تعميتها بشكل كبير، بسبب القلق من إظهار المعلومات من وراء الكواليس التي يمكن أن تجعل شركة أو فرد يبدو سيئًا إذا تم أخذها في ضوء خاطئ. في حين أن هذا بالتأكيد هو السبيل العادي، أشعر شخصيًا أنه للأسف – أنا مؤمن كبير بالتعلم والنمو من الخبرات السابقة والأخطاء إذا كانت يمكن أن تكون مفيدة للآخرين.
ما هي بعض الدروس الأكثر أهمية التي ت希望 أن يتعلمها الناس من قراءة هذا؟
آمل أن يتعلم الناس أن التعلم الآلي ليس مخيفًا أو صعب الفهم. أنه تكنولوجيا قوية ولكنها في بعض الأحيان هشة تحتاج إلى توجيه وهيكل لتحقيق نجاح في حل المشاكل الصعبة. وأيضًا أن الاستخدام المسؤول والأخلاقي لهذه التكنولوجيا هو أمر حرج للنضج والنجاح – وأن التركيز على تخفيف الانحياز الضار في البداية هو مفتاح النجاح التجاري.
كان أحد الأمثلة على انحياز الجنس في الذكاء الاصطناعي الذي تم تصويره في الكتاب هو بطاقة الائتمان التي أصدرتها شركة Apple مع حدود ائتمان أقل للنساء مقارنة بالرجال. كان هذا مثالًا على كيفية أن حذف الجنس كخيار فشل في مراعاة متغيرات أخرى يمكن أن تخدم كوكيل للجنس. أظهر المثال أن بدون مدخلات “الجنس” كان من المستحيل معرفة ما إذا كان الناتج متحيزًا حتى بعد إصدار المنتج النهائي. ما هي بعض أنواع مدخلات البيانات التي تعتقد أنها يجب ألا يتم حذفها لتجنب الانحياز ضد الجنس أو الأقليات؟
لا يوجد قاعدة صارمة وسريعة – كل مجموعة بيانات، وحالة، وموقف مختلف. أشجع الممارسين على الدخول في التفاصيل والدقة لماذا يتم تطبيق خوارزمية التعلم الآلي لحل مشكلة معينة – وما هو الانحياز الضار الذي يمكن أن يتم تشفيره في ذلك القرار.
يصف الكتاب كيف أن المسؤولية الأساسية عند التواصل مع فريق الذكاء الاصطناعي هي تحديد النتائج التي تهم الأعمال بدقة. ما هي نسبة الأعمال التي تفشل في هذه المهمة؟
أقول إنني في تجاربي، معظم الأحيان، لا يتم تعريف النتائج أو يتم تعريفها فقط على مستوى فضفاض أو مرتفع. الدخول في التفاصيل حول النتائج المحددة هو طريقة سهلة لتجهيز الفريق للنجاح في البداية.
يتحدث الكتاب عن أهمية إدراك أن نظام الذكاء الاصطناعي ليس نظامًا من نوع “ضعه و
