مقابلات
ريد بلاكمان، دكتوراه في الفلسفة، مؤسس ومدير تنفيذي لشركة فيرتو كونسالتانتس – سلسلة المقابلات
أضف Unite.AI إلى مصادرك المفضلة على Google
ريد بلاكمان هو مؤسس ومدير تنفيذي لشركة فيرتو كونسالتانتس. في هذا الصدد، عمل مع الشركات لتكامل الأخلاقيات وتخفيف المخاطر الأخلاقية في ثقافة الشركة وتنمية وتطوير وشراء منتجات التكنولوجيا الناشئة. وهو أيضًا مستشار كبير لشركة إرنست ويونغ ويشغل منصب عضو في مجلس إدارة الذكاء الاصطناعي التابع لها، ويشغل أيضًا منصب عضو في مبادرة التصميم المتوافق أخلاقيًا التابعة لمعهد مهندسي الكهرباء والإلكترونيات.
تمت تغطية عمل ريد في جريدة وول ستريت جورنال وديل برسبكتيفز، وقدم مقالات لجريدة هارفارد بيزنس ريفيو، تيك كرنش، فينتش بييت، ومجلة المخاطر والامتثال. وقد تم اقتباس أقواله في العديد من المقالات الإخبارية، ويتحدث بانتظام في مختلف الفعاليات، بما في ذلك المنتدى الاقتصادي العالمي، وشركة إس إيه بي، وكانز لايونز، وشركة فوربس، وكلية ستيرن للاعمال بجامعة نيويورك، وكلية كولومبيا، وشركة إيه آي جي.
كنت أستاذًا للفلسفة في جامعة كولجيت من 2009 إلى 2018. في أي وقت بدأت في دمج أخلاقيات الذكاء الاصطناعي في دروسك؟
غالبًا ما درّست دورة في الفلسفة الاجتماعية والسياسية، حيث غطيت ماركس. أحد المطالبات المركزية لماركس هو أن الرأسمالية ستنحدر في النهاية إلى الشيوعية، بسبب زيادة كبيرة في “وسائل الإنتاج”. وبعبارة أخرى، تدفع الرأسمالية إلى زيادة الكفاءة من أجل المنافسة وفتح أسواق جديدة، مما يعني زيادة في إنشاء التكنولوجيا التي يمكن أن تنتج المزيد والمزيد في وقت أقصر. كما تنبأ ماركس بأن هذا سيزيد من وضع المال في أيدي القليل، وسيضغط على المزيد والمزيد من الناس إلى الفقر، وفي النهاية سيتحول البنية الرأسمالية بسبب ثورة بقيادة الجماهير المتزايدة من الفقراء. كل هذا يؤدي إلى مناقشة حول أخلاقيات التكنولوجيا التي تلغي الحاجة إلى العمل البشري، وهو عنصر مركزي في أخلاقيات الذكاء الاصطناعي.
قصة جانبية صغيرة إذا كنت مهتمًا: في عام 2002 كنت طالبًا دراسات عليا أدير مناقشة حول ماركس مع طلاب في جامعة نورث وسترن. في مرحلة ما، رفع طالب يده وقال: “في النهاية لن نحتاج إلى بشر للقيام بأي عمل”. كان الفصل مرتبكًا. كنت مرتبكًا. لذلك قلت: “حسنًا، من سيفعل العمل؟” أجاب بطريقة واقعية: “الروبوتات”. انفجر الفصل في الضحك. كظمت ضحكي. ولكن من الواضح من حصل على الضحك الأخير.
في عام 2018، أطلقت فيرتو كونسالتانتس، وهي شركة استشارات أخلاقيات تمكن قادة البيانات والذكاء الاصطناعي من تحديد وتخفيف المخاطر الأخلاقية لمنتجاتهم. ما هو ما ألهمك لبدء هذه الرحلة الاستثمارية؟
الحسد. حسنًا، نوعًا ما. بدأت شركة لتجارة الألعاب النارية في عام 2003 أو 2004 أثناء كوني طالبًا دراسات عليا. ذهبت الأمور بشكل أفضل مما توقعته، والشركة لا تزال موجودة، على الرغم من أنني الآن أستشارٍ ولا أدير العمليات اليومية. على أي حال، هذا ذو صلة لأنها توضح كيف أصبحت مستشارًا لشركات الناشئة في برنامج ريادة الأعمال في كولجيت (المسمى تي آي إيه، الفكرة إلى العمل، بقيادة两个 مستثمرين رائعين، آندي غرينفيلد وويلز هابورث، الذين يديرون تي آي إيه فينتشرز). كمسؤول رأيت طلابًا يشرعون في مشاريع مثيرة أثناء محاولتهم معرفة كيفية إنشاء وتوسيع شركاتهم الناشئة الربحية أو غير الربحية، وفكرت: “أريد ذلك!” ولكن ماذا سيكون مشروعي الجديد؟ كان يجب أن يتحدث إلى حبي للأخلاقيات والفلسفة، والأمر الأول الذي كان له معنى هو شركة استشارات أخلاقيات. لم أرى سوقًا لخدمات مثل هذه في ذلك الوقت، لأنها لم تكن موجودة، لذلك انتظرت. ثم جاءت كامبريدج أناليتيكا، وبلومينغتون، و#ميتو، و#بلكم، وأصبحت هناك وعي أكبر بالحاجة.
ما مدى أهمية إدخال بيان أخلاقيات الذكاء الاصطناعي للشركات؟
بيان أخلاقيات الذكاء الاصطناعي ليس ضروريًا، ولكنه أداة مفيدة جدًا لتحديد أهدافك. عندما تقدم برنامجًا لأخلاقيات الذكاء الاصطناعي إلى منظمتك، تريد أن يحدد ويتخفف من المخاطر الأخلاقية والسمعة والتنظيمية والقانونية. هذا هو وظيفته الرئيسية. يساعد بيان الأخلاقيات في صياغة ما سيكون عليه بعد أن يكون لديك البنية والعمليات والممارسات في مكانها لتحقيق تلك الوظيفة. بقدر ما تحتاج الاستراتيجية إلى هدف – وهو ما تفعله دائمًا – بيان أخلاقيات الذكاء الاصطناعي هو طريقة لطيفة لصياغة تلك الأهداف، على الرغم من أنه ليس الطريقة الوحيدة.
كيف يمكن للشركات ضمان نقل بيان الأخلاقيات إلى العملية والممارسة؟
بيان الأخلاقيات هو مجرد خطوة صغيرة في الاتجاه الصحيح. إذا كنت تريد الاستمرار، الخطوة التالية هي إجراء تقييم لمكانك بالنسبة للأهداف المحددة في ذلك البيان. بمجرد أن تعرف أين توجد أكبر الفجوات الأكثر خطورة – أي أين تكون أكثر عرضة لفشل تحقيق أهدافك – يمكنك البدء في وضع الحلول لتضييق تلك الفجوات. ربما يكون ذلك لجنة أخلاقيات. ربما يكون ذلك عملية فحص متعمقة أثناء تطوير المنتج. ربما يكون ذلك تحسين كيفية التعامل مع البيانات في الإدارات غير المنتجة، مثل التسويق والموارد البشرية. ربما يكون كل ذلك وأكثر.
ما هي بعض الحلول التي يجب على الشركات تنفيذها لتجنب الانحياز في الخوارزمية الفعلية للذكاء الاصطناعي؟
هناك العديد من الأدوات الفنية لتحديد الانحياز، ولكنها محدودة. سوف تسمح لك بمقارنة مخرجات نموذجك بالعشرات من المقاييس الكمية التي تم تقديمها في الأدب الأكاديمي لاخلاقيات الذكاء الاصطناعي، ولكن عليك أن تكون حذرًا لأن تلك المقاييس لا تتوافق مع بعضها البعض. لذلك يجب اتخاذ قرار أخلاقي مهم: أي من هذه المقاييس، إن وجدت، هي المناسبة في هذا السياق؟
بصرف النظر عن استخدام أداة مثل ذلك، مدعومة بوسيلة مسؤولة للاجابة على ذلك السؤال، سوف تفيد فرق المنتج من التفكير في哪里 يمكن أن يحدث الانحياز قبل البدء في البناء. كيف يمكن أن يكون محتوى في مجموعات بيانات التدريب؟ ماذا عن تحديد الدالة الكائنة؟ ماذا عن تحديد العتبة؟ هناك العديد من الأماكن التي يمكن أن يحدث فيها الانحياز. التفكير المسبق حول أين يمكن أن يكون ذلك في المشروع الحالي وكيف يمكن أن يحدث هناك ضروري لتحديد وتخفيف الانحياز.
تُعرف شركات الذكاء الاصطناعي بأنها تهيمن عليها الذكور البيض الذين قد يبرمجون عن غير قصد بعض الانحيازات في نظام الذكاء الاصطناعي. لتفادي ذلك، ما هي السمات التي يجب على إدارات الموارد البشرية النظر فيها؟
أنا من مؤيدي فرص أكبر وتعددية أكبر بين المهندسين وفرق المنتج بشكل عام. ومع ذلك، أعتقد أن هذا يعتبر الأمور من خلال عدسة خاطئة. المشكلة الرئيسية عندما يتعلق الأمر بالخوارزميات المتحيزة ليست أن انحيازات رجل أبيض تؤدي إلى رمز متحيز. إنها أن مجموعات بيانات التدريب متحيزة. في الواقع، دراسة حديثة من جامعة كولومبيا – “مبرمجون متحيزون؟ أو بيانات متحيزة؟ تجربة ميدانية في تشغيل أخلاقيات الذكاء الاصطناعي” – خلصت إلى أن “[م]برمجين يفهمون التوجيه الفني يخففون بنجاح من التحيز”، وأن “[ت]نبؤات الخوارزمية للبرمجة الذكية من قبل مبرمجين الذكاء الاصطناعي من الإناث والأقليات لا تظهر انحيازًا أو تمييزًا أقل”. لذلك، في حين يجب على الموارد البشرية الاهتمام بالمسائل المتعلقة بالتنوع، فمن غير الواضح أن استراتيجيات تخفيف مخرجات الذكاء الاصطناعي المتحيزة يجب أن تركز بشكل رئيسي – أو حصرًا – على قرارات التوظيف المتعلقة بالجهود المبذولة لتحقيق التنوع.
يمكنك مناقشة ما هو التقييم المسبق للمخاطر الأخلاقية وماذا يجب على الشركات تنفيذه؟
التقييم المسبق للمخاطر الأخلاقية هو محاولة لتحديد المخاطر الأخلاقية المختلفة التي يمكن أن تتحقق مع المنتج الذي تقوم بإنشائه، بما في ذلك كيفية نشره وكيفية استخدامه وإساء استخدامه، إلخ. تريد التركيز على ميزات المنتج – تلك التي يمتلكها وتلك التي يفتقر إليها – والطرق التي يمكن أن تؤدي، عند نشرها في سياقات مختلفة، إلى مخالفات أخلاقية. عندما يتم القيام به جيدًا، فإنه يعتبر فحصًا شاملاً ومنهجيًا. بالطبع، يمكنك محاولة النظر حول الزاوية، ولكن هناك أشياء قد تفوتك، وهو السبب في أهمية المراقبة المستمرة.
فيما يتعلق بالسؤال عن لماذا يجب على الشركات تنفيذ ذلك: إنهم فقط يحتاجون إلى النظر في المخاطر الأخلاقية والسمعة والتنظيمية والقانونية لعدم القيام بذلك. فكروا في أوبتوم في الأخبار تحت التحقيق بسبب خوارزمية متحيزة (زُعم أنها) أوصت لأخصائيي الرعاية الصحية بالاهتمام أكثر بالمرضى البيض من المرضى السود أكثر، أو جولدمان ساكس تحت التحقيق لlimits الائتمانية لبطاقة آبل، التي زُعم أنها تمييزية ضد النساء. أو برنامج التوظيف في أمازون، الذي تم إلغاؤه بسبب مخاوف من التحيز قبل نشره. أو آي بي إم التي تم رفع دعوى قضائية ضدها من قبل لوس أنجلوس لزعمها سرقة البيانات التي جمعتها من تطبيق الطقس. أو فيسبوك…
هل هناك شيء آخر تريد مشاركته حول فيرتو كونسالتانتس؟
تساعد فيرتو القادة التنفيذيين على وضع أخلاقيات الذكاء الاصطناعي موضع التنفيذ، سواء كان ذلك من خلال مساعدة تعليم وتدريب الأشخاص على هذا الموضوع، أو كتابة بيان أخلاقيات الذكاء الاصطناعي، أو إنشاء وتطبيق إطار مخاطر أخلاقيات الذكاء الاصطناعي قابل للتنفيذ، أو ببساطة служة كمستشارين في أخلاقيات الذكاء الاصطناعي. إذا بدا ذلك مثيرًا للاهتمام، فيجب على الناس أن يقولوا مرحبًا.
شكرًا على المقابلة الرائعة، يُرجى من القراء الذين يرغبون في معرفة المزيد عن ريد زيارة ريد بلاكمان، أو يمكنهم زيارة فيرتو كونسالتانتس.
