برادفورد نيومان، رئيس ممارسة الأسرار التجارية في أمريكا الشمالية – سلسلة المقابلات

يختص برادفورد في الشؤون المتعلقة بالأسرار التجارية والذكاء الاصطناعي. وهو رئيس لجنة الذكاء الاصطناعي التابعة لجمعية المحامين الأمريكية. تم الاعتراف به من قبل مجلة Daily Journal (DJCO ) في عام 2019 كأحد أفضل 20 محاميًا في كاليفورنيا في مجال الذكاء الاصطناعي، ولعب برادفورد دورًا حاسمًا في اقتراح تشريعات فيدرالية بشأن مكان العمل والملكية الفكرية للذكاء الاصطناعي، والتي تم تحويلها في عام 2018 إلى مشروع قانون مناقشة في مجلس النواب الأمريكي. كما وضع معايير لمراقبة الذكاء الاصطناعي وحوكمة الشركات بهدف ضمان عدالة الخوارزميات.

ما هو ما أثار اهتمامك بالذكاء الاصطناعي في البداية؟

لقد مثلت أهم المبتكرين والمنتجين للذكاء الاصطناعي لسنوات عديدة. دائمًا ما كان اهتمامي هو النظر وراء الستار لفهم الجوانب القانونية والفنية للتعلم الآلي ومشاهدة تطور الذكاء الاصطناعي. أنا مهتم بما هو ممكن للتطبيقات عبر مختلف المجالات.

أنت مناصر قوي للتنظيم العقلاني للذكاء الاصطناعي، خاصة في التنظيم الذي يحمي الصحة العامة، يمكنك مناقشة بعض القضايا الرئيسية التي تقلقك؟

أعتقد أننا في المراحل الأولى من أحد أهم الثورات التي شهدها البشر. للذكاء الاصطناعي القدرة على التأثير على كل جانب من جوانب حياتنا، من لحظة استيقاظنا في الصباح حتى لحظة نومنا — وأيضًا أثناء نومنا. سيكون للعديد من تطبيقات الذكاء الاصطناعي تأثير إيجابي على جودة حياتنا، ومن المحتمل على طول عمرنا كأنواع.

في الوقت الحالي، من وجهة نظر علوم الحاسوب والتعلم الآلي، لا يزال البشر متورطين بشكل كبير في العملية، من كتابة الخوارزميات إلى فهم مجموعات البيانات التدريبية إلى معالجة النتائج وتحديد العيوب وتصنيع التكنولوجيا.

لكننا في سباق مع الزمن على两个 جبهات رئيسيتين. أولاً، ما يسمى بـ “مشكلة الصندوق الأسود”: انخفاض تورط وتفهم البشر للذكاء الاصطناعي مع تطور تعقيداته (فكر في الشبكات العصبية الاصطناعية). ثانيًا، زيادة استخدام الحكومات والجهات الخاصة للذكاء الاصطناعي.

قلقي هو أن يتم استخدام الذكاء الاصطناعي، بشكل مقصود وغير مقصود، في طرق تتعارض مع المثل الديمقراطية الغربية للحرية والاستقلال الفردي.

كيف نعالج هذه القضايا؟

أصبح المجتمع في مرحلة يجب فيها حل ما لا يجب فعله فيما يتعلق بالذكاء الاصطناعي.

أولاً، يجب تحديد القرارات التي لا يمكن أن تتخذ أبدًا بالكامل أو جزئيًا بواسطة الإخراج الخوارزمي المتولد بواسطة الذكاء الاصطناعي. هذا يعني أنه حتى في الحالات التي يتفق فيها كل الخبراء على أن البيانات الداخلة والخارجة غير متحيزة وشفافة ودقيقة، يجب أن يكون هناك حظر تشريعي على استخدامها لأي نوع من اتخاذ القرارات التنبؤية أو الموضوعية.

يعد هذا الأمر معاكسًا لل直ورة في عالم نبتغي فيه اليقين الرياضي، لكن إنشاء “منطقة حظر جوي” للذكاء الاصطناعي ضروري للحفاظ على الحريات التي نحملها جميعًا والتي تعتبر أساس المجتمع.

ثانيًا،对于 القرارات الأخرى المعتمدة على تحليلات الذكاء الاصطناعي التي لا يتم حظرها بشكل مباشر، نحتاج إلى تشريعات تحدد تلك التي يجب أن يكون فيها إنسان متورط في عملية اتخاذ القرار.

لقد كنت مساهماً في اقتراح تشريعات فيدرالية بشأن مكان العمل والملكية الفكرية للذكاء الاصطناعي، والتي تم تحويلها في عام 2018 إلى مشروع قانون مناقشة في مجلس النواب الأمريكي. يمكنك مناقشة بعض هذه الاقتراحات؟

قانون حماية بيانات الذكاء الاصطناعي يهدف إلى تعزيز الابتكار وتم تصميمه (1) لزيادة الشفافية في طبيعة واستخدام الذكاء الاصطناعي، ولبناء الثقة العامة فيه؛ (2) لمعالجة تأثير الذكاء الاصطناعي على سوق العمل؛ (3) لحماية الصحة العامة والسلامة.

يتضمن هذا القانون عدة مكونات رئيسية. على سبيل المثال، يحظر على الشركات المشمولة الاعتماد بشكل وحيد على الذكاء الاصطناعي لاتخاذ بعض القرارات، بما في ذلك القرارات المتعلقة بتوظيف الأفراد أو رفض أو تقييد العلاج الطبي، ويحظر على مشددي التأمين الطبي اتخاذ قرارات بشأن تغطية علاج طبي dựa فقط على تحليلات الذكاء الاصطناعي. كما يؤسس لمجلس الذكاء الاصطناعي – وهي وكالة فيدرالية جديدة مكلفة بمسؤوليات محددة لتنظيم الذكاء الاصطناعي فيما يتعلق بالصحة العامة والسلامة. ويطالب الكيانات المشمولة بتعيين مسؤول رئيسي للذكاء الاصطناعي.

لقد طوّرت أيضًا معايير لمراقبة الذكاء الاصطناعي وحوكمة الشركات بهدف ضمان عدالة الخوارزميات. ما هي بعض القضايا الحالية التي تريها فيما يتعلق بالعدالة أو التحيز في أنظمة الذكاء الاصطناعي؟

هذا الموضوع كان محور دراسة مكثفة من الأكاديميين و现在 يحظى باهتمام الوكالات الحكومية الأمريكية، مثل لجنة فرص العمل المتساوية (EEOC)، وطائفة المحامين. معظم الأحيان، ينتج السبب من عيب في مجموعات البيانات التدريبية أو نقص في الفهم والشفافية في بيئة الاختبار. هذا يُضاف إلى عدم وجود ملكية ومراقبة مركزية للذكاء الاصطناعي من قبل الإدارة العليا.

هذا النقص في الفهم التقني والوعي بالحالة يعتبر مشكلة كبيرة من حيث المسؤولية. لقد تحدثت إلى العديد من المحامين البارزين الذين يبحثون عن قضايا تحيز في الذكاء الاصطناعي.

التعلم العميق يعاني غالبًا من مشكلة “الصندوق الأسود”، حيث ندخل البيانات إلى شبكة عصبية اصطناعية، ثم نحصل على إخراج، دون أي وسيلة لمعرفة كيف تم توليد هذا الإخراج. هل تعتقد أن هذا مشكلة كبيرة؟

نعم. ومع استمرار تطور الخوارزميات والشبكات العصبية، وزيادة انخفاض تورط البشر، هناك خطر حقيقي لعبور نقطة لا يمكننا بعدها فهم عناصر مهمة من الوظيفة والإخراج.

مع جائحة كوفيد-19، أدخلت دول حول العالم أنظمة مراقبة حكومية مدعومة بالذكاء الاصطناعي. ما مدى قلقك من الإساءة المحتملة بهذا النوع من المراقبة؟

من الغباء، وبصراحة، عدم مسؤولية من منظور حقوق الفرد والحرية، تجاهل أو تقليل خطر الإساءة. في حين أن تتبع الاتصال يبدو حكيمًا في ظل جائحة عالمية، وتقديم نظام تحديد الوجه القائم على الذكاء الاصطناعي يقدم مقياسًا فعالًا لما لا يستطيع البشر إنجازه بمفردهم، يجب على المجتمع أن يضع حظراً قانونياً على الإساءة، جنبًا إلى جنب مع آليات الرقابة والتنفيذ الفعالة. خلاف ذلك، نسلم للدولة عنصرًا أساسيًا من حقوقنا الفردية الأساسية. بمجرد أن يتم التنازل عن هذا الحق الأساسي لحرية وخصوصيتنا، لن يتم إعادته.

لقد ذكرت سابقًا أن “يجب أن ننشئ منطقة حظر جوي للذكاء الاصطناعي إذا كنا نريد الحفاظ على الحريات التي يحملها الأمريكيون جميعًا والتي تعتبر أساس المجتمع”. هل يمكنك مشاركة بعض القضايا التي تقلقك؟

عند مناقشة الذكاء الاصطناعي، يجب أن نركز دائمًا على الغرض الأساسي للذكاء الاصطناعي: إنتاج تحليلات تنبؤية دقيقة من مجموعات بيانات كبيرة جدًا، والتي يتم استخدامها بعد ذلك لتصنيف البشر و اتخاذ القرارات. ثم يجب علينا أن ننظر إلى من هم المتخذون للقرارات، وما هي القرارات التي يتخذونها، وعلى ما يعتمدون في اتخاذ هذه القرارات.

إذا فهمنا أن المتخذون للقرارات هم الذين لديهم أكبر تأثير على صحتنا وmeansنا و حرياتنا — أصحاب العمل، وأصحاب المنازل، والأطباء، وشركات التأمين، وإنفاذ القانون وكل مؤسسة خاصة وتجارية وحكومية يمكنها توليد أو جمع أو شراء تحليلات الذكاء الاصطناعي — يصبح من السهل رؤية أن هناك قرارات لا ينبغي ولا يجب أن تترك فقط للذكاء الاصطناعي.

في حين أن العديد من القرارات الواضحة تتبادر إلى الذهن، مثل منع سجن شخص قبل ارتكاب جريمة، يقدم تطبيق الذكاء الاصطناعي على كل جانب من جوانب حياتنا أمثلة أكثر تعقيدًا من الأهوال الأخلاقية. على سبيل المثال، إذا تنبأت الخوارزمية بشكل صحيح أن العمال الذين ينشرون صورًا على وسائل التواصل الاجتماعي لرحلات الشاطئ حيث يشربون الكحول يغادرون أو يفقدون وظائفهم في المتوسط بعد 3.5 سنوات أكثر من أولئك الذين ينشرون صورًا لأنفسهم وهم يتدربون، يجب أن يتم رفض فئة الأولى للترويج أو زيادة الراتب استنادًا فقط إلى الإخراج الخوارزمي؟ إذا قامت الخوارزمية بتحديد أن المراهقين الذين يلعبون ألعاب الفيديو لمدة تزيد على ساعتين في اليوم يقل احتمال تخرجهم من جامعة مدتها أربع سنوات، يجب أن يتم رفض طلاب من هذه الفئة القبول؟ إذا تم تحديد أن النساء الآسيويات في ستينياتهن اللواتي يُدخلن إلى العناية المركزة لآلام متعلقة بكوفيد-19 لديهن معدل بقاء أعلى من الرجال الأمريكيين من أصل أفريقي في سن السبعين، يجب أن تحصل النساء على علاج طبي تفضيلي؟

هذه الأمثلة المبسطة هي فقط بعض القرارات التي تتعارض فيها الاعتماد على الذكاء الاصطناعي فقط مع آرائنا حول ما تتطلبه حقوق الإنسان الفردية.

هل هناك أي شيء آخر تود مشاركته بشأن الذكاء الاصطناعي أو بيكر مكنزي؟

أنا متحمس جدًا لمساعدة قيادة ممارسة بيكر مكنزي العالمية للذكاء الاصطناعي في ظل المناظر المتطورة. ندرك أن عملائنا يبحثون عن إرشادات حول كل ما يتعلق بالذكاء الاصطناعي، من التفاوض على العقود إلى إنشاء مراقبة داخلية إلى تجنب المطالبات بالتحيز إلى فهم الإطار التنظيمي الناشئ المحلي والدولي.

تريد الشركات أن تفعل الشيء الصحيح، لكن هناك عددًا قليلًا جدًا من الشركات القانونية التي لديها الخبرة والمعرفة اللازمة حول الذكاء الاصطناعي والتعلم الآلي لتقديم المساعدة. بالنسبة لنا، الذين نحب الذكاء الاصطناعي والمحاماة، هذا وقت مثير لإضافة قيمة حقيقية لعملائنا.

شكرًا على الإجابات الرائعة بشأن بعض هذه القضايا الاجتماعية الكبيرة المتعلقة بالذكاء الاصطناعي. يمكن للقراء الذين يرغبون في معرفة المزيد عن برادفورد نيومان النقر هنا.