أندرو بيري، مدافع الأخلاقيات في شركة إبي، مقابلة

أندرو بيري هو مدافع الأخلاقيات في شركة إبي، وهي شركة ذكاء رقمي. تعمل هذه الشركة على تمكين المنظمات من الوصول إلى المعلومات القيمة والمهمة في عملياتها، مما يتيح لها التحول الحقيقي في الأعمال.

أطلقت شركة إبي مؤخرًا مبادرة عالمية لتطوير الذكاء الاصطناعي الموثوق. قررنا أن نسأل أندرو أسئلة حول الأخلاقيات في الذكاء الاصطناعي، وإساءة استخدام الذكاء الاصطناعي، وما يمكن أن تفعله صناعة الذكاء الاصطناعي حيال هذه المخاوف في المستقبل.

ما هو الشيء الذي حفز اهتمامك الأولي بالاخلاقيات في الذكاء الاصطناعي؟

ما حفز اهتمامي الأولي بالاخلاقيات في الذكاء الاصطناعي هو اهتمامي العميق بالتقاطع بين القانون وتكنولوجيا الذكاء الاصطناعي. بدأت مسيرتي المهنية في نظام العدالة الجنائية، حيث كنت أ代表 المتهمين الفقراء الذين لم يكن لديهم القدرة المالية على تحمل تكاليف الخدمات القانونية. ثم انتقلت إلى مجال التكنولوجيا، حيث ركزت على تطبيق البحث المتقدم والذكاء الاصطناعي في ممارسة القانون. كما أنا متحمس بشكل خاص لقانون الخصوصية واستخدام تكنولوجيا الذكاء الاصطناعي التي تتوافق مع حقوق الخصوصية.

تكنولوجيا التعرف على الوجه غالبًا ما تسيء استخدامها من قبل مصادر السلطة، بما في ذلك الحكومة الأمريكية. ما مدى القلق الاجتماعي الذي يجب أن يكون لهذا الأمر؟

أثر تكنولوجيا التعرف على الوجه يجب أن يكون قلقًا اجتماعيًا كبيرًا، حيث يمكن أن يؤثر على العديد من الحقوق الأساسية، بما في ذلك الحقوق الاقتصادية والاجتماعية والأمنية.

هناك أدلة واضحة ومقنعة أن خوارزميات التعرف على الوجه غير موثوقة. دراسة أجريت بواسطة النست لخوارزميات التعرف على الوجه وجدت أن الأمريكيين من أصل أفريقي كانوا أكثر عرضة للتعريف الخاطئ بمقدار 100 مرة. دراسة أخرى أجريت بواسطة مدرسة جورج تاون للقانون وجدت أن خوارزميات التعرف على الوجه التي تستند إلى صور المعتقلين أنتجت نسبة عالية من الإيجابيات الكاذبة المرتبطة بأفراد أمريكيين من أصل أفريقي، ودراسة أخرى أجريت بواسطة معهد ماساتشوستس للتكنولوجيا عام 2018 لبرنامج التعرف على الوجه التابع لأمازون وجدت أن जबकان الرجال البيض يتم التعرف عليهم بدقة 99% من الوقت، فإن الأفراد ذوي البشرة الداكنة ينتجون عنهم نسبة كاذبة تصل إلى 35%.

من أجل هذه الأسباب، بدأ المنظمون في اتخاذ خطوات لحظر استخدام تكنولوجيا التعرف على الوجه، خاصة في سياق المراقبة والتعريف. على سبيل المثال، مرر مجلس الشيوخ في كاليفورنيا حظراً على مستوى الولاية على استخدام تكنولوجيا التعرف على الوجه ووسائل المراقبة البيومترية الأخرى.

هناك أيضًا زخم داخل مجتمع التكنولوجيا للتراجع عن تسويق برامج التعرف على الوجه. أعلنت شركة آي بي إم أنها ستتوقف عن بيع برامج التعرف على الوجه، مشيرة إلى أن ذلك ينتهك الحقوق الأساسية والاحرار الأساسية. كما أعلنت شركة مايكروسوفت عن قرار مماثل لوقف بيع تكنولوجيا التعرف على الوجه، مشيرة إلى الحقوق الأساسية.

برنامج COMPAS الذي يستخدمه المحاكم الأمريكية لتقييم المخاطر الإجرامية خاطئًا في وسم المخالفين من الأقليات المرئية على أنهم أكثر عرضة للعودة إلى الجريمة من المخالفين البيض. هل يجب أن يكون استخدام الذكاء الاصطناعي في المحاكم خيارًا؟

دراسات حول برنامج COMPAS وجدت أنه لا يتفوق على الأشخاص العاديين في التنبؤ بالجرائم. بينما تقدم التحليلات التنبؤية قيمة كبيرة في السياق التجاري، فقد ثبت أنها تؤدي إلى عدم المساواة في تطبيقها على العدالة الجنائية. هذا واضح في تقرير نشرته منظمة Pro Publica، والذي وجد أن برنامج COMPAS، وهو أكثر البرامج شعبية المستخدمة من قبل المحاكم الأمريكية لتقييم المخاطر الإجرامية، خاطئًا في وسم المخالفين من الأقليات المرئية على أنهم أكثر عرضة للعودة إلى الجريمة بمعدل مرتين من المخالفين البيض.

هذه عدم المساواة دفعت النائب العام السابق إريك هولدر إلى التشكيك في العدالة والتعبير عن القلق بشأن عدم المساواة المحتملة التي تثيرها تكنولوجيا الذكاء الاصطناعي في التنبؤ بمعدلات العودة إلى الجريمة داخل السكان المخالفين.

كيف يمكن للمجتمع تجنب برمجة التحيزات السلبية في أنظمة الذكاء الاصطناعي دون قصد؟

أولاً، يجب أن يكون هناك اعتراف بأن الذكاء الاصطناعي قد يكون له قابلية لإنتاج تحيز غير مقصود، يعرف بالتحيز غير الواعي. للتغلب على تأثيره السلبي، يتطلب الأمر نهجًا شاملاً يتضمن وضع إرشادات أخلاقية للذكاء الاصطناعي، مثل الإطار المقترح من قبل منظمة التعاون والتنمية الاقتصادية. هذا الإطار يعتمد على سبعة مبادئ أساسية، بما في ذلك وكالة الإنسان والرقابة، والمتانة الفنية والسلامة، والخصوصية والحوكمة، والشفافية، والتنوع وعدم التمييز، والرفاهية الاجتماعية والمساءلة.

ثانيًا، الالتزام بالإطارات القانونية التي تحمي ضد التصنيف الآلي هو مفتاح. على سبيل المثال، الاتحاد الأوروبي لديه تاريخ طويل من احترام وحماية حقوق الخصوصية، وأحدث وأقوى تعبير عن ذلك هو اللائحة العامة لحماية البيانات (GDPR)، والتي تحمي بشكل خاص ضد القرارات الآلية.

ثالثًا، هناك حاجة إلى مساءلة صناعية لطريقة تطوير تكنولوجيا الذكاء الاصطناعي. هناك تطورات إيجابية في هذا الصدد. على سبيل المثال، شراكة الذكاء الاصطناعي هي منظمة تضم أكثر من 80 عضوًا في 13 دولة، وتكرس لأبحاث ومناقشات حول قضايا الذكاء الاصطناعي الرئيسية.

أخيرًا، يجب على الشركات التكنولوجية الالتزام بالشفافية والمساءلة فيما يتعلق بتكنولوجيا الذكاء الاصطناعي وكيفية تأثيرها على حقوق الخصوصية والأمن. يجب على قادة التكنولوجيا أن يأخذوا في الاعتبار التوصيات المقدمة من ديلويت: تصميم الأخلاقيات في الذكاء الاصطناعي يبدأ بتحديد ما يهم أصحاب المصلحة، مثل العملاء والموظفين والمنظمين والجمهور العام. يجب على الشركات إنشاء لجنة إدارة وأدبية للذكاء الاصطناعي من قادة متعددين ومستشارين خارجيين، وتشكيل مجموعات عمل متعددة الأطراف، ووضع إطار للحوكمة لحلول الذكاء الاصطناعي، بما في ذلك تصميمها وتطويرها وتحقيقها واستخدامها.

من المهم أن نتذكر أن حلول الذكاء الاصطناعي تعكس البيانات الأساسية التي يتم تدريب هذه التطبيقات عليها، لذا فإن ضمان أن تكون هذه البيانات غير متحيزة وأن تعكس تنوع السكان الذين سيتأثر بهم الحل هو أمر بالغ الأهمية. كما قال الباحث في الذكاء الاصطناعي، البروفيسور جوانا بريسون، “إذا كانت البيانات الأساسية تعكس الصور النمطية، أو إذا قمت بتدريب الذكاء الاصطناعي من الثقافة البشرية، فستجد التحيز. وإذا كنا غير حذرين، فقد نخاطر بدمج هذا التحيز في البرامج الحاسوبية التي تسيطر على تشغيل كل شيء من المستشفيات إلى المدارس إلى السجون – البرامج التي من المفترض أن تلغي تلك التحيزات في المقام الأول”.

أطلقت شركة إبي مؤخرًا مبادرة عالمية لتطوير الذكاء الاصطناعي الموثوق. ما مدى أهمية هذه المبادرة لمستقبل شركة إبي؟

قرار تطوير مبادرتنا العالمية للذكاء الاصطناعي الموثوق هو قرار هام يعتمد على اعتقادنا بأننا، كمنظمة تؤثر تكنولوجياتنا على الشركات في جميع أنحاء العالم وتخدم عشرات الآلاف من المستخدمين الفرديين، لدينا التزام بالسلوك كمواطنين شركات ذوي ضمير اجتماعي. لا يساهم هذا فقط في تعزيز الثقة لدى عملائنا وشريكنا العالميين، بل يساعد أيضًا على ضمان أن تكنولوجياتنا تستمر في التأثير بشكل عميق بطريقة تعود بالفائدة على الجميع.

كما أنه من المهم أن نروج وندعم استخدام الذكاء الاصطناعي الموثوق، حيث يعزز ذلك رأس المال العلامة التجارية لدينا، ويعزز الثقة مع عملائنا وشبكة شركائنا. الثقة تترجم إلى أعمال متكررة ونمو مستدام.

جزء من هذه المبادرة هو التزام شركة إبي بتعزيز ثقافة تعزز استخدام الذكاء الاصطناعي بشكل أخلاقي وتنفعه الاجتماعي. ما الذي يجب على الشركات الأخرى القيام به لتعزيز ثقافة مماثلة؟

الشركات التكنولوجية تحتاج إلى بناء إطار للاستخدام الأخلاقي للذكاء الاصطناعي. يتوقف مدى هذا الالتزام على التطبيقات المقصودة للخوارزميات الذكية. أفضل طريقة لتقييم تأثيره هي تطبيق مبدأ لا تسبب ضررًا، ووجود التزام من أعلى إلى أسفل بالاستخدام الموثوق للذكاء الاصطناعي.

من المهم أيضًا التزام بالشفافية. بينما يجب موازنة حقوق الملكية الفكرية مع مبدأ الذكاء الاصطناعي الموثوق، يجب أن تكون أهمية الشفافية والمساءلة لاستخدام الذكاء الاصطناعي واضحة وموضحة في جميع أنحاء المنظمة.

أحد المبادرات التي التزمت بها شركة إبي هو تقديم تكنولوجيا الذكاء الاصطناعي التي تخدم المنفعة الاجتماعية والاقتصادية. يمكن أن يكون تحقيق هذا التوازن تحديًا. كيف يمكن للشركات تحقيق هذا التوازن؟

يمكن للقادة تحقيق هذا التوازن من خلال أخذ توصيات ديلويت في الاعتبار: تصميم الأخلاقيات في الذكاء الاصطناعي يبدأ بتحديد ما يهم أصحاب المصلحة، مثل العملاء والموظفين والمنظمين والجمهور العام. يجب على الشركات إنشاء لجنة إدارة وأدبية للذكاء الاصطناعي من قادة متعددين ومستشارين خارجيين، وتشكيل مجموعات عمل متعددة الأطراف، ووضع إطار للحوكمة لحلول الذكاء الاصطناعي، بما في ذلك تصميمها وتطويرها وتحقيقها واستخدامها.

كيف نتوازن بين مصالحنا التجارية والخير الاجتماعي كان واضحًا مؤخرًا خلال جائحة كورونا. قمنا بتوفير العديد من تكنولوجياتنا مجانًا أو بأسعار مخفضة لمساعدة الأفراد والمنظمات على التغلب على الأزمة، والحفاظ على استمرارية الأعمال، ودعم زبائنهم في ظل ظروف غير متوقعة.

كما قمنا مؤخرًا بنشر إطارات تكنولوجيانا من خلال NeoML، مكتبتنا مفتوحة المصدر للتعلم الآلي عبر المنصات، والتي تمكن مطوري البرمجيات من الاستفادة من نماذج موثوقة ومثبتة لتعزيز الابتكار في الذكاء الاصطناعي.

هل يمكنك مشاركة وجهات نظر حول استخدام الذكاء الاصطناعي لتطبيقات تتبع كوفيد-19 وضرورة موازنة حق الخصوصية؟

هذا هو موضوع معقد للغاية. هناك من يجادل بأن تطبيقات التتبع على الهواتف الذكية تمثل غزوًا غير مرغوب فيه لحقوق الخصوصية. من ناحية أخرى، عندما يتعلق الأمر بالسلامة العامة، هناك دائمًا حدود للحقوق بشكل عام. إنه توازن بين الحقوق والواجبات. ومع ذلك، الحقوق ليست مطلقة. احتواء وباء عالمي يتطلب عملًا منسقًا وتطبيق الموارد والتكنولوجيا التي يمكن استخدامها مسؤولية لحماية السكان بشكل عام.

هذا التوازن بين حقوق الخصوصية الفردية والخير العام معترف به في الإطار القانوني. على سبيل المثال، يحدد قانون حماية البيانات العام (GDPR) ستة أسباب للprocessing قانوني للمعلومات الشخصية، بما في ذلك حكم عندما يكون المعالجة ضرورية للمصلحة العامة، يكون معالجة البيانات الشخصية مبررة دون الحصول على موافقة صاحب البيانات.

علاوة على ذلك، ينص الفصل 46 من قانون حماية البيانات على أن معالجة البيانات الشخصية مبررة دون الحصول على موافقة صاحب البيانات في حالات الطوارئ الإنسانية، بما في ذلك الأوبئة. ومع ذلك، من المهم ملاحظة أن الفصل 46 يفسر تطبيق حكم المصلحة العامة بشكل ضيق، مشيرًا إلى أنه يجب أن يتم فقط عندما لا يمكن أن يكون على أساس قانوني آخر.

إضافة إلى توازن حقوق الخصوصية مع المصلحة العامة، من الضروري على قطاع التكنولوجيا والمنظمين تنفيذ إرشادات أخلاقية وشفافة وعدلة متعلقة باستخدام الذكاء الاصطناعي والبيانات الصحية الحساسة. قد بدأت شركات التكنولوجيا الكبيرة، مثل جوجل وفيسبوك، في مبادرات لتتبع حركة المستخدمين لتحديد كيفية انتشار الفيروس وتقييم فعالية إجراءات التباعد الاجتماعي.

أعتقد أنه只要 تكون المعلومات مجهولة الهوية، فإن استخدامها له فائدة اجتماعية.

هل هناك أي شيء آخر تود مشاركته حول مبادرة شركة إبي الجديدة لتطوير الذكاء الاصطناعي الموثوق؟

التشريعات تميل إلى التأخر عن الابتكارات التكنولوجية، لذلك على الشركات أن تلعب دورًا استباقيًا في تعزيز الشفافية والمساءلة في تكنولوجيا الذكاء الاصطناعي وكيفية تأثيرها على حقوق الخصوصية والأمن. مبادرتنا تعكس التزامنا بهذا الجهد. منذ تأسيسنا، قمنا بإنشاء تكنولوجيات مبتكرة تحافظ على المعلومات القيمة وتحولها إلى معرفة قابلة للعمل.

علاوة على ذلك، يجب أن يُعتبر استخدام الذكاء الاصطناعي بشكل أخلاقي ليس فقط على أساس قانوني، ولكن أيضًا كالتزام أخلاقي وضرورة تجارية. إذا كانت حلولك لها نطاق واسع وتؤثر على الوظائف الحيوية للأعمال، فيجب أن يكون من المعايير الصناعية أن تكون شفافة في تطبيق تكنولوجيا الذكاء الاصطناعي.

شكرًا جزيلًا على الإجابة على هذه الأسئلة المهمة. للاطلاع على مبادئ توجيه شركة إبي ونهجها في الالتزام بالاخلاقيات الموثوقة للذكاء الاصطناعي، يرجى النقر هنا. يمكن لأي شخص يرغب في معرفة المزيد عن شركة إبي بشكل عام زيارة موقع شركة إبي.