الأخلاقيات
ريد بلاكمان، دكتوراه، مؤسس ومدير تنفيذي لشركة Virtue Consultants – سلسلة المقابلات
Reid Blackman هو المؤسس والمدير التنفيذي لشركة Virtue Consultants. في هذا الصدد، عمل مع الشركات لتكامل الأخلاقيات وتخفيف المخاطر الأخلاقية في ثقافة الشركة وتنمية المنتجات التكنولوجية الناشئة وتنفيذها وشرائها. وهو أيضًا مستشار أول لشركة Ernst & Young ويشغل منصب عضو في مجلس إدارة الذكاء الاصطناعي التابع لها، ويعمل أيضًا كعضو في مبادرة التصميم الأخلاقي التابعة لمنظمة IEEE.
تم عرض عمل ريد في جريدة وول ستريت جورنال وديل بيرسبكتيفز وقدم مقالات لجريدة هارفارد بيزنس ريفيو وTechCrunch وVentureBeat ومجلة المخاطر والامتثال. تم اقتباس كلامه في العديد من المقالات الإخبارية، ويتحدث بانتظام في مختلف الفعاليات بما في ذلك المنتدى الاقتصادي العالمي وSAP وCannes Lions وForbes وNYU Stern School of Business وColumbia University وAIG.
كنت أستاذًا في الفلسفة في جامعة Colgate من 2009 إلى 2018. في أي نقطة بدأت في دمج أخلاقيات الذكاء الاصطناعي في دروسك؟
غالبًا ما درّست دورة في الفلسفة الاجتماعية والسياسية، حيث غطيت ماركس. واحدة من المطالبات المركزية لماركس هي أن الرأسمالية سوف تؤدي في النهاية إلى الشيوعية، بسبب زيادة كبيرة في “وسائل الإنتاج”. وبعبارة أخرى، تدفع الرأسمالية إلى زيادة الكفاءة من أجل المنافسة وفتح أسواق جديدة، مما يعني زيادة في إنشاء التكنولوجيا التي يمكن أن تنتج المزيد والمزيد في وقت أقصر. كما تنبأ ماركس أن هذا سوف يضع المزيد والمزيد من المال في أيدي القليل، وسوف يدفع المزيد والمزيد من الناس إلى الفقر، وفي النهاية سوف يقلب البنية الرأسمالية من قبل ثورة بقيادة الجماهير المتزايدة من الفقراء. كل هذا يؤدي إلى مناقشة حول أخلاقيات التكنولوجيا التي تلغي الحاجة إلى العمل البشري، وهو عنصر مركزي في أخلاقيات الذكاء الاصطناعي.
قصة جانبية صغيرة إذا كنت مهتمًا: في عام 2002 كنت طالبًا دراسات عليا أدير مناقشة حول ماركس مع طلاب في جامعة نورث وسترن. في某 نقطة، رفع طالب يده وقال: “في النهاية لن نحتاج إلى بشر للقيام بأي عمل”. كانت الفصلة مشوشة. كنت مشوشًا. لذا قلت: “حسنًا، من سيفعل العمل؟” أجاب بطريقة واقعية: “الروبوتات”. انفجرت الفصل في الضحك. كتمت ضحكي. ولكن من واضح من من الحاصل على آخر كلمة.
في عام 2018، أطلقت Virtue Consultants، وهي شركة استشارات أخلاقيات تتيح لمسؤولي البيانات والذكاء الاصطناعي تحديد وتخفيف المخاطر الأخلاقية لمنتجاتهم. ما هو ما ألهمك لبدء هذه الرحلة الاستثمارية؟
الحسد. حسنًا، نوعًا ما. بدأت شركة تجارة الألعاب النارية بالجملة عندما كنت طالبًا دراسات عليا، أعتقد حول عام 2003 أو 2004. ذهبت الأمور بشكل أفضل مما توقعته، والشركة لا تزال موجودة، على الرغم من أنني الآن مستشار ولا أتولى عمليات يومية. على أي حال، هذا ذو صلة لأنه يشرح كيف أصبحت مستشارًا لشركات الناشئة في برنامج ريادة الأعمال في Colgate (الذي يسمى TIA، الفكرة إلى العمل، بقيادة两个 مستثمرين رائعين، Andy Greenfield وWills Hapworth، الذين يديرون TIA Ventures). كمسؤول رأيت طلابًا يشرعون في مشاريع مثيرة ويهتمون بتحديد كيفية إنشاء وتوسيع مشاريعهم الناشئة للربح أو غير الربح، وفكرت: “أنا أريد ذلك!” ولكن ماذا سيكون مشروعي الجديد؟ كان يجب أن يتحدث إلى حبي للفلسفة والأخلاقيات، والأمر الأول الذي كان له معنى هو شركة استشارات أخلاقيات. لم أرى سوقًا لخدمات مثل هذه في ذلك الوقت، لأنها لم تكن موجودة، لذا انتظرت. ثم جاءت Cambridge Analytica وBLM و#MeToo إلى العناوين الوطنية، وفجأة أصبح هناك وعي أكبر بضرورة ذلك.
ما مدى أهمية إدخال الشركات لبيان أخلاقيات الذكاء الاصطناعي؟
بيان أخلاقيات الذكاء الاصطناعي ليس ضروريًا، ولكنها أداة مفيدة جدًا لتحديد الأهداف. عندما تقدم برنامجًا لأخلاقيات الذكاء الاصطناعي إلى منظمتك، تريد أن تحدد وتخفيف وتدير المخاطر الأخلاقية والسمعة والتنظيمية والقانونية المختلفة. هذا هو الوظيفة الرئيسية. يساعد بيان الأخلاقيات في توضيح كيفية الظهور عندما يكون لديك البنية والعمليات والممارسات في مكانها لتحقيق تلك الوظيفة. في حدود أن الاستراتيجية تحتاج إلى هدف – وهو ما تفعله دائمًا – بيان أخلاقيات الذكاء الاصطناعي هو طريقة لطيفة لتحديد تلك الأهداف، على الرغم من أنه ليس الطريقة الوحيدة.
كيف يمكن للشركات ضمان تحويل بيان الأخلاقيات إلى عملية وممارسة؟
بيان الأخلاقيات هو مجرد خطوة صغيرة في الاتجاه الصحيح. إذا كنت تريد الاستمرار، الخطوة الطبيعية التالية هي إجراء تقييم لمكانك بالنسبة إلى الأهداف المحددة في ذلك البيان. بمجرد أن تعرف أين توجد أكبر الفجوات الأكثر خطورة – أي أين تكون أكثر عرضة لفشل تحقيق أهدافك – يمكنك البدء في وضع الحلول لتضييق تلك الفجوات. ربما يكون لجنة أخلاقيات. ربما يكون عملية للتحقق من الصحة أثناء تطوير المنتج. ربما يكون تحسين كيفية التعامل مع البيانات في الإدارات غير المنتجة، مثل التسويق والموارد البشرية. ربما يكون كل هذه الأشياء وأكثر.
ما هي بعض الحلول التي يجب على الشركات تنفيذها لتجنب التحيز في الخوارزمية الفعلية للذكاء الاصطناعي؟
هناك العديد من الأدوات الفنية المتاحة لتحديد التحيز، ولكنها محدودة. سوف تسمح لك بمقارنة مخرجات نموذجك بالعشرات من المقاييس الكمية التي تم تقديمها في الأدب الأكاديمي للذكاء الاصطناعي، ولكن عليك أن تكون حذرًا لأن تلك المقاييس ليست متوافقة بشكل متبادل. لذا، يجب اتخاذ قرار أخلاقي مهم: أي من هذه المقاييس، إن وجدت، هي المناسبة في هذا السياق؟
بصرف النظر عن استخدام أداة مثل ذلك، مدعومة بطريقة مسؤولة للإجابة على ذلك السؤال، سوف تفكر فرق المنتجات في أماكن يمكن أن يتسلل إليها التحيز قبل أن يبدأوا في البناء. كيف يمكن احتواؤه أو تعكسه في مجموعات بيانات التدريب؟ ماذا عن تحديد الدالة الكائنية؟ ماذا عن تحديد العتبة؟ هناك العديد من الأماكن التي يمكن أن يتسلل إليها التحيز. التفكير المسبق في مكان يمكن أن يكون فيه ذلك في المشروع الحالي وكيف يمكن أن يدخل فيه أمر ضروري لتحديد وتخفيف التحيز.
تُعرف شركات الذكاء الاصطناعي بأنها تهيمن عليها الذكور البيض الذين قد يبرمجون عن غير قصد بعض التحيزات في نظام الذكاء الاصطناعي. لتفادي ذلك، ما هي السمات التي يجب على إدارات الموارد البشرية النظر فيها؟
أنا من المؤيدين لفرص أكبر وتنوع أكبر بين المهندسين وفرق المنتجات بشكل عام. ومع ذلك، أعتقد أن هذا النظر إلى الأمور من خلال عدسة خاطئة. المشكلة الرئيسية عندما يتعلق الأمر الخوارزميات المتحيزة ليست أن تحيزات رجل أبيض تؤدي إلى تحيز في الشفرة. إنها أن مجموعات بيانات التدريب متحيزة. في الواقع، وجدت ورقة حديثة من جامعة كولومبيا – “برمجة متحيزة؟ أو بيانات متحيزة؟ تجربة ميدانية في تشغيل أخلاقيات الذكاء الاصطناعي” – أن “البرمجة التي تفهم التوجيه الفني تقلل بنجاح من التحيز”، وأن “التنبؤات الخوارزمية للمبرمجين الذكاء الاصطناعي من الإناث والأقليات لا تظهر تحيزًا خوارزميًا أو تمييزًا”. لذلك، بينما يجب على إدارات الموارد البشرية الاهتمام بالمسائل المتعلقة بالتنوع، فمن غير الواضح أن استراتيجيات تخفيف مخرجات الذكاء الاصطناعي المتحيزة يجب أن تركز بشكل رئيسي – أو حصرًا – على قرارات التوظيف المتعلقة بالتنوع.
يمكنك مناقشة ما هو التدقيق الدقيق للمخاطر الأخلاقية و почему يجب على الشركات تنفيذه؟
التدقيق الدقيق للمخاطر الأخلاقية هو محاولة لتحديد المخاطر الأخلاقية المختلفة التي يمكن أن تتحقق مع المنتج الذي تخلقه، بما في ذلك كيف يتم نشره، وكيف يمكن استخدامه وإساء استخدامه، إلخ. تريد التركيز على ميزات المنتج – تلك التي يمتلكها وتلك التي يفتقر إليها – والطرق التي يمكن أن تؤدي بها إلى مخالفات أخلاقية عند نشرها في سياقات مختلفة. عندما يتم القيام به جيدًا، فإنه فحص منهجي ومتعمق. بالطبع، بينما يمكنك محاولة النظر حول الزاوية، قد يكون هناك بعض الأشياء التي سوف تفوتك، وهو السبب في أن المراقبة المستمرة مهمة.
فيما يتعلق بالسؤال عن لماذا يجب على الشركات تنفيذه: إنهم يحتاجون فقط إلى النظر في المخاطر الأخلاقية والسمعة والتنظيمية والقانونية لعدم القيام بذلك. فكر في Optum في الأخبار تحت التحقيق من قبل الهيئات التنظيمية لخوارزمية متحيزة (زُعم أنها) أوصت بممارسين الرعاية الصحية بالاهتمام أكثر بالمرضى البيض من المرضى السوداء. أو إلى Goldman Sachs، تحت التحقيق لlimits الائتمانية لبطاقة Apple، التي زُعم أنها تمييزية ضد النساء. أو برنامج التوظيف الخاص بAmazon، الذي تم إلغاؤه بسبب مخاوف من التحيز قبل نشره. أو IBM، التي تم رفع دعوى قضائية عليها من قبل لوس أنجلوس لزعمها الاستيلاء على البيانات التي تم جمعها من تطبيق الطقس الخاص بها. أو Facebook…
هل هناك أي شيء آخر تود أن تشاركه حول Virtue Consultants؟
تساعد Virtue القيادات العليا في وضع أخلاقيات الذكاء الاصطناعي موضع التنفيذ، سواء كان ذلك من خلال مساعدة الناس على تعلم وتحسين مهاراتهم في هذا الموضوع، أو كتابة بيان أخلاقيات الذكاء الاصطناعي، أو إنشاء وتطبيق إطار أخلاقي للذكاء الاصطناعي قابل للتنفيذ، أو ببساطة كونه مستشارًا في أخلاقيات الذكاء الاصطناعي. إذا كان ذلك يبدو مثيرًا للاهتمام، فيجب على الناس أن يأتيوا ويقولوا مرحبًا.
شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد عن ريد يجب أن يزوروا Reid Blackman، أو يمكنهم زيارة Virtue Consultants.
