الأخلاقيات

ماذا تعني شرعة الحقوق في عصر الذكاء الاصطناعي التي طرحها البيت الأبيض لأمريكا وبقية العالم

Antoine Tardif
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةميثاق الحقوق الخاص بالذكاء الاصطناعي في البيت الأبيض غير ملزم ولا يشكل سياسة للحكومة…
عرض المزيد
  • ميثاق الحقوق الخاص بالذكاء الاصطناعي في البيت الأبيض غير ملزم ولا يشكل سياسة للحكومة الأمريكية.
  • الذكاء الاصطناعي القابل للتفسير ضروري للامتثال بسبب مشكلة الصندوق الأسود في التعلم العميق.
  • يتناقض الميثاق مع نهج الصين من خلال إعطاء الأولوية للشفافية وحماية الجمهور.

أصدر مكتب سياسات العلوم والتكنولوجيا في البيت الأبيض (OSTP) مؤخرًا ورقة بيضاء بعنوان «مخطط لشرعة حقوق في عصر الذكاء الاصطناعي: تسخير الأنظمة الآلية لخدمة الشعب الأمريكي». وصدر هذا الإطار بعد عام من إعلان المكتب إطلاق عملية لإعداد «شرعة حقوق لعالم يعمل بالذكاء الاصطناعي».

توضح مقدمة الوثيقة أن البيت الأبيض يدرك التهديدات الوشيكة التي يطرحها الذكاء الاصطناعي على المجتمع. وجاء فيها ما يلي:

«من التحديات الكبرى التي تواجه الديمقراطية اليوم استخدام التكنولوجيا والبيانات والأنظمة الآلية بطرق تهدد حقوق الجمهور الأمريكي. فكثيرًا ما تستخدم هذه الأدوات لتقييد فرصنا ومنع وصولنا إلى الموارد أو الخدمات الحيوية. وهذه مشكلات موثقة جيدًا. ففي أمريكا وحول العالم، ثبت أن أنظمة يفترض أن تساعد في رعاية المرضى غير آمنة أو غير فعالة أو متحيزة. وتبين أن الخوارزميات المستخدمة في قرارات التوظيف والائتمان تعكس أوجه التفاوت القائمة غير المرغوبة وتعيد إنتاجها، أو تُدخل أشكالًا جديدة من التحيز والتمييز الضارين. واستُخدم جمع البيانات بلا ضوابط عبر وسائل التواصل الاجتماعي لتهديد فرص الناس وتقويض خصوصيتهم أو تتبع أنشطتهم على نطاق واسع، وغالبًا دون علمهم أو موافقتهم».

لم يتضح بعد ما ستعنيه هذه الشرعة وإطارها المقترح لمستقبل الذكاء الاصطناعي. لكننا نعرف أن التطورات الجديدة تظهر بوتيرة متسارعة بصورة أسية. فالترجمة الفورية للغات، التي كانت تُعد مستحيلة، أصبحت واقعًا، وفي الوقت نفسه نشهد ثورة في فهم اللغة الطبيعية تقودها OpenAI ومنصتها الشهيرة GPT-3.

ومنذ ذلك الحين شهدنا التوليد الفوري للصور بتقنية تسمى Stable Diffusion قد تصبح قريبًا منتجًا استهلاكيًا واسع الانتشار. فباستخدام هذه التقنية يستطيع المستخدم كتابة أي طلب يتخيله، وينشئ الذكاء الاصطناعي صورة تطابقه وكأن الأمر سحر.

عند أخذ النمو الأسي وقانون العوائد المتسارعة في الحسبان، سيأتي قريبًا وقت يتولى فيه الذكاء الاصطناعي كل جوانب الحياة اليومية. وسيستفيد الأفراد والشركات الذين يدركون ذلك ويستغلون هذا التحول الجذري. وللأسف قد يقع قطاع كبير من المجتمع ضحية للعواقب الخبيثة وغير المقصودة للذكاء الاصطناعي على حد سواء.

تهدف شرعة الحقوق في عصر الذكاء الاصطناعي إلى دعم تطوير سياسات وممارسات تحمي الحقوق المدنية وتعزز القيم الديمقراطية في بناء الأنظمة الآلية ونشرها وحوكمتها. ولم يتضح بعد كيف ستقارن بـنهج الصين، لكنها قد تغير مشهد الذكاء الاصطناعي، ومن المرجح أن يتبناها حلفاء مثل أستراليا وكندا والاتحاد الأوروبي.

مع ذلك، فإن هذه الشرعة غير ملزمة ولا تشكل سياسة للحكومة الأمريكية. وهي لا تحل محل أي تشريع أو لائحة أو سياسة أو صك دولي قائم، ولا تعدله أو توجه تفسيره. وهذا يعني أن اتباع السياسات الواردة في الورقة البيضاء متروك لقرار الشركات والحكومات.

حددت الوثيقة خمسة مبادئ ينبغي أن توجه تصميم الأنظمة الآلية واستخدامها ونشرها لحماية الجمهور الأمريكي في عصر الذكاء الاصطناعي. وفيما يلي عرض لهذه المبادئ الخمسة:

1. أنظمة آمنة وفعالة

تشكل أنظمة الذكاء الاصطناعي المسيئة، وخصوصًا التي تعتمد على التعلم العميق، خطرًا واضحًا وقائمًا على المجتمع. وتحاول المبادئ التالية معالجة ذلك:

«ينبغي حمايتك من الأنظمة غير الآمنة أو غير الفعالة. ينبغي تطوير الأنظمة الآلية بالتشاور مع مجتمعات متنوعة وأصحاب المصلحة وخبراء المجال لتحديد المخاوف والمخاطر والآثار المحتملة للنظام. وينبغي إخضاعها لاختبارات قبل النشر، وتحديد المخاطر والتخفيف منها، والمراقبة المستمرة لإثبات سلامتها وفعاليتها وفق الاستخدام المقصود، والحد من النتائج غير الآمنة حتى خارج ذلك الاستخدام، والالتزام بمعايير المجال. وينبغي أن تشمل نتائج هذه الضمانات احتمال عدم نشر النظام أو سحبه من الاستخدام. ويجب ألا تصمم الأنظمة بنية تعريض سلامتك أو سلامة مجتمعك للخطر، أو مع احتمال يمكن توقعه بصورة معقولة لحدوث ذلك. وينبغي تصميمها لحمايتك استباقيًا من الأضرار الناتجة عن استخدامات أو آثار غير مقصودة لكنها متوقعة. وينبغي حمايتك من استخدام بيانات غير ملائمة أو غير ذات صلة في التصميم والتطوير والنشر، ومن الضرر المتراكم الناتج عن إعادة استخدامها. وينبغي إجراء تقييم مستقل وإعداد تقارير تؤكد سلامة النظام وفعاليته، وتوضح خطوات الحد من الأضرار المحتملة، وإتاحة النتائج للجمهور كلما أمكن».

2. الحماية من التمييز الخوارزمي

تعالج هذه السياسات بعض المشكلات الكبرى التي يصعب تجاهلها عندما تسيء الشركات إلى الأفراد.

من المشكلات الشائعة في التوظيف باستخدام الذكاء الاصطناعي أن نظام التعلم العميق يتدرب غالبًا على بيانات متحيزة للوصول إلى قرارات التوظيف. وهذا يعني أن ممارسات التوظيف السيئة في الماضي ستؤدي إلى تمييز على أساس الجنس أو العرق من جهة التوظيف. وأظهرت إحدى الدراسات صعوبة محاولة إزالة المعلومات الدالة على الجنس من بيانات التدريب.

ومن المشكلات الأساسية الأخرى للبيانات الحكومية المتحيزة خطر السجن الخطأ، أو الأسوأ من ذلك خوارزميات التنبؤ بالإجرام التي تؤدي إلى أحكام سجن أطول بحق الأقليات.

«ينبغي ألا تتعرض للتمييز من الخوارزميات، وينبغي استخدام الأنظمة وتصميمها بإنصاف. يحدث التمييز الخوارزمي عندما تسهم الأنظمة الآلية في معاملة مختلفة غير مبررة أو آثار تضر بالأشخاص بسبب العرق أو اللون أو الانتماء الإثني أو الجنس (بما يشمل الحمل والولادة والحالات الطبية المرتبطة بهما والهوية الجندرية وحالة ثنائية الجنس والتوجه الجنسي)، أو الدين أو العمر أو الأصل القومي أو الإعاقة أو صفة المحارب القديم أو المعلومات الجينية أو أي تصنيف آخر يحميه القانون. وقد ينتهك هذا التمييز الضمانات القانونية بحسب الظروف. وينبغي للمصممين والمطورين والمسؤولين عن نشر الأنظمة اتخاذ تدابير استباقية ومستمرة لحماية الأفراد والمجتمعات من التمييز واستخدام الأنظمة وتصميمها بإنصاف. وتشمل الحماية تقييمات استباقية للإنصاف أثناء التصميم، وبيانات ممثلة، والحماية من استخدام متغيرات بديلة للسمات الديموغرافية، وضمان إتاحة الأنظمة لذوي الإعاقة أثناء التصميم والتطوير، واختبار التفاوت والحد منه قبل النشر وباستمرار بعده، وإشرافًا تنظيميًا واضحًا. وينبغي إجراء تقييم مستقل وإعداد تقارير بلغة بسيطة في صورة تقييم للأثر الخوارزمي، يشمل نتائج اختبارات التفاوت ومعلومات التخفيف منه، ونشرها كلما أمكن لتأكيد هذه الحماية».

تجدر الإشارة إلى أن الولايات المتحدة تبنت نهجًا شديد الشفافية تجاه الذكاء الاصطناعي، وهذه السياسات مصممة لحماية عامة الجمهور، وهو تباين واضح مع النهج الذي تتبعه الصين في الذكاء الاصطناعي.

3. خصوصية البيانات

هذا المبدأ هو الأكثر احتمالًا للتأثير في أكبر شريحة من السكان. ويبدو أن نصفه الأول يتناول جمع البيانات، وخصوصًا عبر الإنترنت، وهي مشكلة معروفة لا سيما في منصات التواصل الاجتماعي. ويمكن استخدام البيانات نفسها لبيع الإعلانات أو، وهو أسوأ، للتلاعب بالرأي العام والتأثير في الانتخابات.

«ينبغي حمايتك من ممارسات البيانات المسيئة بضمانات مدمجة، وأن تكون لك سلطة فعلية على كيفية استخدام بياناتك. ينبغي أن تحميك خيارات التصميم من انتهاكات الخصوصية بإدراج هذه الحماية افتراضيًا، وضمان توافق جمع البيانات مع التوقعات المعقولة، وعدم جمع إلا البيانات الضرورية تمامًا للسياق المحدد. وينبغي للمصممين والمطورين والمسؤولين عن نشر الأنظمة طلب إذنك واحترام قراراتك بشأن جمع بياناتك واستخدامها والوصول إليها ونقلها وحذفها، بصورة ملائمة وإلى أقصى حد ممكن؛ وعندما يتعذر ذلك، ينبغي استخدام ضمانات بديلة لحماية الخصوصية منذ التصميم. وينبغي ألا تستخدم الأنظمة خيارات تصميم أو تجربة مستخدم تخفي الاختيار أو تثقل كاهل المستخدمين بإعدادات افتراضية تنتهك الخصوصية. ولا ينبغي الاستناد إلى الموافقة لتبرير جمع البيانات إلا عندما يمكن منحها بصورة ملائمة وذات معنى. وينبغي أن تكون طلبات الموافقة موجزة ومفهومة بلغة بسيطة، وتمنحك تحكمًا في جمع البيانات وسياق استخدامها المحدد؛ ويجب تغيير ممارسات الإشعار والاختيار الحالية التي يصعب فهمها وتسمح باستخدامات واسعة للبيانات».

يبدو أن النصف الثاني من مبدأ خصوصية البيانات يتناول المراقبة من الحكومات والشركات على حد سواء.

تستطيع الشركات حاليًا مراقبة الموظفين والتجسس عليهم. وفي بعض الحالات قد يكون الهدف تحسين السلامة في مكان العمل، وخلال جائحة كوفيد-19 كان الهدف فرض ارتداء الكمامات. لكن الغالب هو مراقبة كيفية استخدام وقت العمل. وفي كثير من هذه الحالات يشعر الموظفون بأن مراقبتهم والتحكم فيهم يتجاوزان الحدود المقبولة.

«ينبغي أن تعطيك الضمانات والقيود المعززة الخاصة بالبيانات والاستنتاجات المرتبطة بالمجالات الحساسة، ومنها الصحة والعمل والتعليم والعدالة الجنائية والتمويل، وبالبيانات المتعلقة بالشباب، الأولوية. وفي المجالات الحساسة ينبغي ألا تستخدم بياناتك والاستنتاجات المرتبطة بها إلا للوظائف الضرورية، وأن تحميك المراجعة الأخلاقية وحظر بعض الاستخدامات. وينبغي أن تتحرر أنت ومجتمعك من المراقبة بلا ضوابط؛ ويجب إخضاع تقنيات المراقبة لإشراف مشدد يشمل، على الأقل، تقييم أضرارها المحتملة قبل النشر وحدود نطاقها لحماية الخصوصية والحريات المدنية. وينبغي عدم استخدام المراقبة والتتبع المستمرين في التعليم أو العمل أو السكن أو غيرها من السياقات التي يحتمل أن تقيد فيها هذه التقنيات الحقوق أو الفرص أو الوصول. وكلما أمكن، ينبغي إتاحة تقارير تؤكد احترام قراراتك المتعلقة بالبيانات وتقيم الأثر المحتمل لتقنيات المراقبة على حقوقك وفرصك وإمكانية وصولك».

وتجدر الإشارة إلى أن الذكاء الاصطناعي يمكن استخدامه بصورة مفيدة لحماية خصوصية الناس.

4. الإشعار والتفسير

ينبغي أن يكون هذا حافزًا للشركات لإنشاء مجلس استشاري لأخلاقيات الذكاء الاصطناعي، وتسريع تطوير الذكاء الاصطناعي القابل للتفسير. فهذا ضروري عندما يخطئ نموذج ذكاء اصطناعي؛ إذ يتيح فهم طريقة عمله تشخيص المشكلة بسهولة.

كما يسمح الذكاء الاصطناعي القابل للتفسير بمشاركة المعلومات بشفافية بشأن استخدام البيانات وأسباب القرارات. وبدونه يستحيل الامتثال لهذه السياسات بسبب مشكلة الصندوق الأسود في التعلم العميق.

وستستفيد الشركات التي تركز على تحسين هذه الأنظمة أيضًا من فهم التفاصيل الدقيقة والتعقيدات الكامنة وراء اتخاذ خوارزمية التعلم العميق قرارًا معينًا.

«ينبغي أن تعرف أن نظامًا آليًا يُستخدم، وأن تفهم كيف ولماذا يسهم في نتائج تؤثر عليك. ينبغي للمصممين والمطورين والمسؤولين عن نشر الأنظمة تقديم وثائق بلغة بسيطة يسهل الوصول إليها عمومًا، تتضمن وصفًا واضحًا لوظائف النظام ككل ودور الأتمتة، وإشعارًا باستخدام هذه الأنظمة، وتحديد الشخص أو المؤسسة المسؤولة، وتفسيرات واضحة ومتاحة للنتائج في الوقت المناسب. وينبغي تحديث الإشعارات وإبلاغ المتأثرين بأي تغييرات جوهرية في الاستخدام أو الوظائف الرئيسية. وينبغي أن تعرف كيف ولماذا حدد نظام آلي نتيجة تؤثر عليك، حتى عندما لا يكون النظام العامل الوحيد المحدد لها. وينبغي أن يقدم تفسيرات صحيحة تقنيًا وذات معنى ومفيدة لك وللمشغلين أو غيرهم ممن يحتاجون إلى فهمه، ومتناسبة مع مستوى الخطر بحسب السياق. وينبغي نشر تقارير تتضمن ملخصات بلغة بسيطة عن هذه الأنظمة وتقييمات لوضوح الإشعارات والتفسيرات وجودتها كلما أمكن».

5. البدائل البشرية والمراجعة وآليات الرجوع

بخلاف معظم المبادئ السابقة، ينطبق هذا المبدأ بصفة خاصة على الجهات الحكومية أو المؤسسات الخاصة التي تعمل نيابة عن الحكومة.

حتى مع وجود مجلس لأخلاقيات الذكاء الاصطناعي وأنظمة قابلة للتفسير، تظل المراجعة البشرية مهمة عندما تكون الأرواح على المحك. فاحتمال الخطأ قائم دائمًا، ومراجعة شخص للقضية عند الطلب قد تمنع سيناريو مثل إرسال الذكاء الاصطناعي أشخاصًا أبرياء إلى السجن.

يملك النظامان القضائي والجنائي أكبر قدرة على إلحاق ضرر لا يمكن تداركه بأفراد المجتمع المهمشين، وينبغي لهما إيلاء هذا المبدأ اهتمامًا خاصًا.

«ينبغي أن تتمكن من رفض استخدام النظام الآلي، عند الاقتضاء، وأن تصل إلى شخص يستطيع النظر بسرعة في المشكلات التي تواجهها ومعالجتها. ينبغي أن تتمكن من اختيار بديل بشري بدلًا من الأنظمة الآلية عند الاقتضاء. وتحدد الملاءمة وفق التوقعات المعقولة في السياق، مع التركيز على الإتاحة الواسعة وحماية الجمهور من الآثار الضارة خصوصًا. وقد يتطلب القانون في بعض الحالات بديلًا بشريًا أو بديلًا آخر. وينبغي أن تحصل في الوقت المناسب على مراجعة بشرية وإنصاف عبر آلية رجوع وتصعيد للمشكلة إذا فشل النظام أو أنتج خطأ أو أردت الاستئناف أو الاعتراض على أثره عليك. وينبغي أن تكون المراجعة وآليات الرجوع متاحة ومنصفة وفعالة، وأن تستمر صيانتها، وأن يصاحبها تدريب مناسب للمشغلين، وألا تفرض عبئًا غير معقول على الجمهور. وينبغي أن تلائم الأنظمة المقصودة للمجالات الحساسة، ومنها النظام الجنائي والتوظيف والتعليم والصحة، الغرض المحدد، وتتيح وصولًا فعليًا إلى الإشراف، وتدرب كل من يتفاعل معها، وتدرج المراجعة البشرية للقرارات الضارة أو عالية المخاطر. وينبغي نشر تقارير تصف إجراءات الحوكمة البشرية وتقيم سرعتها وإتاحتها ونتائجها وفعاليتها كلما أمكن».

ملخص

يستحق المكتب التقدير لمحاولة تقديم إطار يربط بين بروتوكولات السلامة اللازمة للمجتمع، دون فرض سياسات قاسية تعوق تقدم تطوير التعلم الآلي.

بعد عرض المبادئ، تقدم الوثيقة ملحقًا تقنيًا للمسائل المطروحة، ومعلومات تفصيلية عن كل مبدأ وأفضل سبل المضي في تطبيقه.

ينبغي لأصحاب الأعمال والشركات المتبصرين دراسة الوثيقة، إذ إن تطبيق هذه السياسات في أقرب وقت ممكن لا يمكن إلا أن يفيدهم.

ستستمر أهمية الذكاء الاصطناعي القابل للتفسير في التزايد، كما يوضح الاقتباس التالي من الوثيقة.

«تجري الوكالات في مختلف أنحاء الحكومة الفيدرالية أبحاثًا عن أنظمة الذكاء الاصطناعي القابلة للتفسير وتدعمها. ويجري المعهد الوطني للمعايير والتكنولوجيا (NIST) أبحاثًا أساسية عن قابلية تفسير هذه الأنظمة. ويسعى فريق متعدد التخصصات إلى تطوير أساليب قياس وأفضل الممارسات لدعم تطبيق مبادئها الأساسية. ولدى وكالة مشروعات البحوث الدفاعية المتقدمة (DARPA) برنامج للذكاء الاصطناعي القابل للتفسير يهدف إلى إنشاء مجموعة من تقنيات التعلم الآلي تنتج نماذج أكثر قابلية للتفسير، مع الحفاظ على مستوى مرتفع من أداء التعلم (دقة التنبؤ)، وتمكين البشر من فهم الجيل الناشئ من الشركاء ذوي الذكاء الاصطناعي والثقة بهم على نحو ملائم وإدارتهم بفعالية. ويشمل برنامج الإنصاف في الذكاء الاصطناعي التابع لمؤسسة العلوم الوطنية اهتمامًا خاصًا بالأسس البحثية للذكاء الاصطناعي القابل للتفسير».

وما ينبغي عدم إغفاله هو أن المبادئ الواردة هنا ستصبح في النهاية المعيار الجديد.

أنطوان قائد صاحب رؤية وشريك مؤسس في Unite.AI، يدفعه شغف راسخ بتشكيل مستقبل الذكاء الاصطناعي والروبوتات وتعزيزه. وبصفته رائد أعمال أسس عدة مشروعات، يؤمن بأن الذكاء الاصطناعي سيُحدث تحولًا في المجتمع يضاهي ما أحدثته الكهرباء، وكثيرًا ما يتحدث بحماس عن إمكانات التقنيات التحويلية والذكاء الاصطناعي العام (AGI).

وبصفته مستشرفًا للمستقبل، يكرس جهوده لاستكشاف كيف ستشكل هذه الابتكارات عالمنا. وهو أيضًا مؤسس Securities.io، وهي منصة تركز على الاستثمار في التقنيات المتطورة التي تعيد تعريف المستقبل وتعيد تشكيل قطاعات بأكملها.