ما يعنيه مشروع قانون حقوق الإنسان الآلي في البيت الأبيض لأمريكا وال世界

صدرت مكتب العلوم والتكنولوجيا في البيت الأبيض مؤخرًا ورقة بيضاء بعنوان “خطة لمشروع قانون حقوق الإنسان الآلي: جعل الأنظمة الآلية تعمل لصالح الشعب الأمريكي”. تم إصدار هذا الإطار بعد عام من إعلان مكتب العلوم والتكنولوجيا عن إطلاق عملية لإنشاء “مشروع قانون حقوق الإنسان في عالم مدعوم بالذكاء الاصطناعي”.

المقدمة في هذا المشروع توضح بوضوح أن البيت الأبيض ي理解 التهديدات الوشيكة للمجتمع التي تطرحها الذكاء الاصطناعي. هذا ما يُذكر في المقدمة:

“من بين التحديات الكبيرة التي تواجه الديمقراطية اليوم هو استخدام التكنولوجيا والبيانات والأنظمة الآلية بطرق تهدد حقوق الجمهور الأمريكي. في كثير من الأحيان، يتم استخدام هذه الأدوات لتقيد فرصنا ومنع وصولنا إلى الموارد أو الخدمات الحيوية. هذه المشاكل موثقة جيدًا. في أمريكا وعلى مستوى العالم، أظهرت الأنظمة التي من المفترض أن تساعد في رعاية المرضى أنها غير آمنة أو غير فعالة أو متحيزة. تم العثور على الخوارزميات المستخدمة في عمليات التوظيف وعمليات الائتمان لتجسد وتعزز عدم المساواة أو التحيز الضار والتمييز.

ما يعنيه هذا مشروع قانون حقوق الإنسان الآلي والإطار الذي يقترحه على مستقبل الذكاء الاصطناعي يبقى مجهولًا. ما نعرفه هو أن التطورات الجديدة تظهر بسرعة متزايدة. ما كان يُعتبر مستحيلًا، مثل الترجمة الفورية للغة، أصبح الآن حقيقة، ونحن نشهد ثورة في فهم اللغة الطبيعية بقيادة OpenAI ومنصتها الشهيرة GPT-3.

منذ ذلك الحين، شهدنا Appearance الجيل التالي من توليد الصور الفورية عبر تقنية تسمى Stable Diffusion، والتي قد تصبح في يوم ما منتجًا مستهلكًا رئيسيًا. ببساطة، يمكن للمستخدم كتابة أي استفسار يخطر بباله، وسيتم توليد صورة تتوافق مع الاستفسار.

عندما نضع في الاعتبار النمو المتسارع و قانون تسارع العائد، سوف يأتي وقت قريب عندما سيحتل الذكاء الاصطناعي كل جانب من جوانب الحياة اليومية. الأفراد والشركات التي تعرف هذا وتستفيد من هذا التحول في المعادلة ستربح. للأسف، قد يقع جزء كبير من المجتمع ضحية للنتائج الضارة غير المقصودة للذكاء الاصطناعي.

يهدف مشروع قانون حقوق الإنسان الآلي إلى دعم تطوير السياسات والممارسات التي تحمي الحقوق المدنية وتعزز القيم الديمقراطية في بناء الأنظمة الآلية وتنفيذها وحوكمتها. كيف سيكون هذا المشروع مقارنة بمقاربة الصين يبقى مجهولًا، لكنه مشروع قانون حقوق الإنسان الآلي الذي يمكن أن يغير من مشهد الذكاء الاصطناعي، ومن المحتمل أن يتم تبنيه من قبل الحلفاء مثل أستراليا وكندا والاتحاد الأوروبي.

على الرغم من ذلك، مشروع قانون حقوق الإنسان الآلي غير ملزم ولا يشكل سياسة حكومية أمريكية. إنه لا يلغي ولا يعدل ولا يوجه تفسيرًا لأي قانون أو لوائحة أو سياسة أو أداة دولية موجودة. ما يعنيه هذا هو أن على الشركات والحكومات اتباع السياسات المحددة في هذه الورقة البيضاء.

حدد هذا المشروع خمسة مبادئ يجب أن توجيه تصميم واستخدام وتنفيذ الأنظمة الآلية لحماية الجمهور الأمريكي في عصر الذكاء الاصطناعي، وسنحدد المبادئ الخمس أدناه:

1. أنظمة آمنة وفعالة

هناك خطر واضح وحاضر للمجتمع من الأنظمة الآلية الخاطئة، خاصة تلك التي تعتمد على التعلم العميق. يتم محاولة معالجة هذا الخطر من خلال هذه المبادئ:

“يجب حمايتك من الأنظمة غير الآمنة أو غير الفعالة. يجب تطوير الأنظمة الآلية بالتشاور مع مجتمعات متنوعة وأصحاب المصلحة وخبراء المجال لتحديد المخاطر والآثار المحتملة للنظام. يجب أن تخضع الأنظمة للاختبار قبل التنفيذ وتحديد المخاطر والتخفيف منها والمراقبة المستمرة التي تثبت أنها آمنة وفعالة بناءً على الاستخدام المقصود والتخفيف من النتائج غير الآمنة بما في ذلك ما هو خارج الاستخدام المقصود والامتثال للمعايير الخاصة بالمجال. يجب أن تشمل نتائج هذه التدابير الحمائية إمكانية عدم تنفيذ النظام أو إزالته من الاستخدام. يجب ألا يتم تصميم الأنظمة الآلية بنية أو احتمال معقول لتعريضك للخطر أو الخطر على سلامتك أو سلامة مجتمعك. يجب تصميمها لتحمي你 بشكل استباقي من الأضرار الناجمة عن الاستخدامات غير المقصودة أو الآثار غير المقصودة للأنظمة الآلية. يجب حمايتك من استخدام البيانات غير المناسب أو غير الملائم في تصميم وتطوير وتنفيذ الأنظمة الآلية، ومن الأضرار المركبة من إعادة استخدامها. يجب إجراء التقييم المستقل والإبلاغ الذي يؤكد أن النظام آمن وفعال، بما في ذلك الإبلاغ عن الخطوات المتخذة للتخفيف من الأضرار المحتملة، ويجب أن يتم إجراؤه وينشر النتائج كلما كان ذلك ممكنًا.

2. حماية من التمييز الخوارزمي

تعالج هذه السياسات بعض المشاكل الكبيرة في الشركات التي تسيء معاملة الأفراد.

مشكلة شائعة عند توظيف الموظفين باستخدام أنظمة الذكاء الاصطناعي هي أن نظام التعلم العميق غالبًا ما يتم تدريبه على بيانات متحيزة للوصول إلى استنتاجات التوظيف. هذا يعني بشكل أساسي أن الممارسات السيئة في التوظيف في الماضي ستؤدي إلى تمييز جنسي أو عرقي من قبل وكيل التوظيف.

مشكلة أخرى أساسية مع البيانات المتحيزة من قبل الحكومات هي خطر الاعتقال الخاطئ، أو أسوأ من ذلك، خوارزميات التنبؤ بالجريمة التي تقدم أحكامًا أطول للمجتمعات المحرومة.

“لا يجب أن تواجه تمييزًا من الخوارزميات والأنظمة، و phải أن تكون مصممة واستخدمت بطريقة عادلة. يحدث التمييز الخوارزمي عندما تساهم الأنظمة الآلية في معاملة غير مبررة أو آثار غير مبررة تعيب الأشخاص بناءً على عرقهم أو لونهم أو أصل قومي أو جنسهم (بما في ذلك الحمل والولادة والظروف الطبية المتعلقة بها، الهوية الجنسية، حالة الهرمونات الجنسية، والتوجه الجنسي) أو دينهم أو عمرهم أو أصل قومي أو إعاقة أو حالة المحاربين القدامى أو المعلومات الجينية أو أي فئة أخرى محمية بموجب القانون. يجب على مصممي ومتطوري ومتحكمي الأنظمة الآلية اتخاذ إجراءات استباقية ومستمرة لحماية الأفراد والمجتمعات من التمييز الخوارزمي وتصميم الأنظمة بطريقة عادلة. يجب أن تشمل هذه الحماية تقييمات العدالة كجزء من تصميم النظام، واستخدام بيانات ممثلة وحماية ضد الوكالات لسمات ديموغرافية، وضمان إمكانية الوصول للأشخاص ذوي الإعاقة في التصميم والتنمية، واختبار التفاوت قبل التنفيذ ومعالجته، والإشراف التنظيمي الواضح. يجب أن يتم إجراء التقييم المستقل والإبلاغ بلسان بسيط في شكل تقييم تأثير خوارزمي، بما في ذلك نتائج اختبار التفاوت ومعلومات المعالجة، وينشر على نطاق واسع كلما كان ذلك ممكنًا لتأكيد هذه الحماية.

3. خصوصية البيانات

من المحتمل أن يؤثر هذا مبدأ الخصوصية على أكبر قسم من السكان. النصف الأول من هذا المبدأ يبدو أنه يهتم بجمع البيانات، خاصة تلك التي تُجمَع عبر الإنترنت، وهو مشكل معروف خاصة منصات وسائل التواصل الاجتماعي. يمكن استخدام هذه البيانات نفسها لبيع الإعلانات، أو أسوأ من ذلك، لتحريف الرأي العام وتأثير الانتخابات.

“يجب حمايتك من ممارسات جمع البيانات الخاطئة من خلال الحماية المدمجة ويجب أن تكون لديك سيطرة على كيفية استخدام البيانات الخاصة بك. يجب حمايتك من انتهاكات الخصوصية من خلال خيارات التصميم التي تضمن هذه الحماية بشكل افتراضي، بما في ذلك ضمان أن جمع البيانات يتوافق مع التوقعات المعقولة، وأن فقط البيانات الضرورية لسياق معين يتم جمعها. يجب على مصممي ومتطوري ومتحكمي الأنظمة الآلية طلب إذنك واحترام قراراتك المتعلقة بجمع البيانات واستخدامها ووصولها ونقلها وحذفها بالطرق المناسبة و إلى أقصى حد ممكن؛ حيث لا يكون ذلك ممكنًا، يجب استخدام حماية الخصوصية بتصميم بديلة. يجب ألا تستخدم الأنظمة الآلية قرارات تصميم وتجربة مستخدم يخفيان اختيار المستخدم أو يثقلان كاهلهم بافتراضات خاطئة. يجب أن يتم استخدام الموافقة فقط لتبرير جمع البيانات في الحالات التي يمكن فيها إعطاءها بشكل مناسب وواضح. يجب أن تكون طلبات الموافقة قصيرة وواضحة وسهلة الفهم وتمنحك سيطرة على جمع البيانات وسياق الاستخدام؛ يجب تغيير ممارسات الإشعار والاختيار الحالية التي تُستخدم لاستخدامات واسعة النطاق للبيانات.

4. الإشعار والتوضيح

يجب أن يكون هذا هو نداء السلاح للشركات لتنفيذ مجلس استشاري للآداب الذكاء الاصطناعي، بالإضافة إلى دفع لتسريع تطوير الذكاء الاصطناعي القابل للشرح. الذكاء الاصطناعي القابل للشرح ضروري في حالة ارتكاب نموذج الذكاء الاصطناعي خطأ، وفهم كيفية عمل الذكاء الاصطناعي يسمح بتشخيص سهل للمشكلة.

الذكاء الاصطناعي القابل للشرح سيسمح أيضًا بمشاركة المعلومات الشفافة حول كيفية استخدام البيانات ولماذا اتخذت الذكاء الاصطناعي قرارًا معينًا. بدون الذكاء الاصطناعي القابل للشرح، سيكون من المستحيل الامتثال لهذه السياسات بسبب مشكلة “ال صندوق الأسود” للتعلم العميق.

الشركات التي تركز على تحسين هذه الأنظمة ستحقق أيضًا منافع إيجابية من فهم دقائق وأسس لماذا اتخذ خوارزمية التعلم العميق قرارًا معينًا.

“يجب أن تعرف أن نظامًا آليًا يتم استخدامه وتفهم كيف يساهم في النتائج التي تؤثر عليك. يجب على مصممي ومتطوري ومتحكمي الأنظمة الآلية تقديم وثائق واضحة ومفهومة باللغة الشائعة، بما في ذلك وصف واضح للنظام ككل ودور الآلية، وإشعار باستخدام مثل هذه الأنظمة، والمنظمة أو الفرد المسؤول عن النظام، وتوضيحات للنتائج التي تؤثر عليك. يجب أن يتم الاحتفاظ بهذا الإشعار محدثًا ويجب إعلام الأشخاص المتأثرين بالنظام بتغييرات استخدام الحالة أو الوظيفة الرئيسية. يجب أن تعرف كيف ولماذا تم تحديد نتيجة تؤثر عليك بواسطة نظام آلي، بما في ذلك عندما لا يكون النظام الآلي هو المدخل الوحيد لتحديد النتيجة. يجب أن تقدم الأنظمة الآلية توضيحات صالحة وفعالة ومفيدة لك ولمن يحتاجون إلى فهم النظام، ومحسوبة على مستوى المخاطر بناءً على المحتوى. يجب أن يتم إجراء تقارير تشمل معلومات ملخصة حول هذه الأنظمة الآلية باللغة الشائعة وتقييمات لتوضيح وضوح و جودة الإشعار والتوضيحات وينشر على نطاق واسع كلما كان ذلك ممكنًا.

5. بديل إنساني ومراجعة وallback

على عكس معظم المبادئ السابقة، هذا المبدأ هو الأكثر صلة بالكيانات الحكومية أو المؤسسات التي تعمل لصالح الحكومة.

حتى مع مجلس استشاري للآداب الذكاء الاصطناعي والذكاء الاصطناعي القابل للشرح، من المهم الارتجاع إلى المراجعة البشرية عندما تكون الأرواح على المحك. هناك دائمًا احتمال للخطأ، ويمكن أن يمنع وجود مراجعة بشرية عند الطلب سيناريو مثل الذكاء الاصطناعي الذي يرسل الأشخاص الخطأ إلى السجن.

النظام القضائي والجنائي لهما أكبر فرصة لارتكاب أضرار لا يمكن إصلاحها للأشخاص المحرومين من المجتمع وينبغي أن يأخذوا هذا المبدأ بعين الاعتبار.

“يجب أن تكون قادرًا على الخروج، حيثما كان ذلك مناسبًا، و الوصول إلى شخص يمكنه النظر بسرعة في المشاكل التي تواجهها وتصحيحها. يجب أن تكون قادرًا على الخروج من الأنظمة الآلية لصالح بديل بشري، حيثما كان ذلك مناسبًا. يجب أن يُحدد المناسب بناءً على التوقعات المعقولة في سياق معين مع التركيز على ضمان إمكانية الوصول الواسعة وحماية الجمهور من الآثار الضارة بشكل خاص. في بعض الحالات، قد يكون البديل البشري مطلوبًا بموجب القانون. يجب أن يكون لديك وصول سريع إلى المراجعة البشرية وتصحيح المشاكل إذا فشل النظام الآلي أو إذا كنت ترغب في الاستئناف أو الطعن في تأثيره عليك. يجب أن تكون المراجعة البشرية والallback متاحة وعادلة وفعالة ومدربة بشكل مناسب ومرفقة بتدريب مناسب للمشغلين، وينبغي ألا تفرض عبئًا غير معقول على الجمهور. يجب أن تكون الأنظمة الآلية التي تهدف إلى استخدامها في المجالات الحساسة، بما في ذلك النظام الجنائي والتوظيف والتعليم والصحة، مخصصة للغرض، وتوفر إمكانية وصول كبيرة إلى الإشراف، وتشمل تدريبًا لأي شخص يتفاعل مع النظام، وتدمج المراجعة البشرية للقرارات السلبية أو عالية المخاطر. يجب أن يتم إجراء تقارير تشمل وصف هذه العمليات الحوكمة البشرية وتقييم سرعة وصولها وفعاليتها ونتائجها وينشر على نطاق واسع كلما كان ذلك ممكنًا.

ملخص

يجب أن يُمنح مكتب العلوم والتكنولوجيا في البيت الأبيض الفضل في محاولة تقديم إطار يربط بين بروتوكولات الأمان اللازمة للمجتمع، دون تقديم سياسات قاسية قد تعيق تقدم تطوير التعلم الآلي.

بعد تحديد المبادئ، يستمر مشروع القانون بتقديم مرافق تقنية لقضايا المناقشة بالإضافة إلى معلومات مفصلة حول كل مبدأ وأفضل السبل للمضي قدمًا في تنفيذ هذه المبادئ.

يجب على أصحاب الأعمال الذكية والشركات أن يأخذوا في الاعتبار دراسة هذا المشروع، لأنه يمكن أن يكون مفيدًا فقط لتنفيذ هذه السياسات في أقرب وقت ممكن.

سوف يستمر الذكاء الاصطناعي القابل للشرح في الحفاظ على أهميته، كما هو واضح من هذا الاقتباس من المشروع.

“على مستوى الحكومة الفيدرالية، تقوم الوكالات بإجراء وبحث دعم حول أنظمة الذكاء الاصطناعي القابل للشرح. يقوم المعهد الوطني للمعايير والتكنولوجيا بإجراء بحث أساسي حول قابلية تفسير أنظمة الذكاء الاصطناعي. يهدف فريق متعدد التخصصات من الباحثين إلى تطوير طرق قياس وأفضل الممارسات لدعم تنفيذ المبادئ الأساسية للذكاء الاصطناعي القابل للشرح. يهدف برنامج الوكالة الدفاعية للبحوث المتقدمة إلى إنشاء مجموعة من تقنيات التعلم الآلي التي تنتج نماذج أكثر قابلية للتفسير، مع الحفاظ على مستوى عالٍ من أداء التعلم (دقة التنبؤ)، وتمكين المستخدمين البشر من فهم الثقة والسيطرة على شركاء الذكاء الاصطناعي الناشئين. يشتمل برنامج مؤسسة العلوم الوطنية حول العدالة في الذكاء الاصطناعي على اهتمام خاص بأبحاث الأسس للذكاء الاصطناعي القابل للشرح.

ما لا يجب إغفاله هو أن المبادئ المحددة هنا ستصبح في النهاية المعيار الجديد.