شفافية الذكاء الاصطناعي والحاجة إلى نماذج مفتوحة المصدر

لحماية الناس من الأضرار المحتملة للذكاء الاصطناعي، يدعو بعض المنظمين في الولايات المتحدة والاتحاد الأوروبي بصورة متزايدة إلى وضع ضوابط وآليات رقابة وتوازن على قوة نماذج الذكاء الاصطناعي مفتوحة المصدر. ويعود ذلك جزئيًا إلى رغبة الشركات الكبرى في التحكم في تطوير الذكاء الاصطناعي وتوجيهه بما يخدم مصالحها. كما يقلق المنظمون من سرعة التطور، إذ يخشون ألا يتوفر الوقت الكافي لوضع ضمانات تمنع استخدام هذه التقنية لأغراض خبيثة.

تدعم وثيقة حقوق الذكاء الاصطناعي وإطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني الأمريكي للمعايير والتكنولوجيا، إلى جانب قانون الذكاء الاصطناعي الأوروبي، مبادئ تشمل الدقة والسلامة وعدم التمييز والأمن والشفافية والمساءلة وقابلية الشرح والتفسير وخصوصية البيانات. ويتوقع الاتحاد الأوروبي والولايات المتحدة كذلك أن تؤدي هيئات المعايير، الحكومية أو الدولية، دورًا أساسيًا في وضع إرشادات للذكاء الاصطناعي.

في ضوء ذلك، من الضروري السعي إلى مستقبل يتبنى الشفافية وإمكانية فحص أنظمة الذكاء الاصطناعي ومراقبتها. فهذا يتيح للمطورين حول العالم دراسة الذكاء الاصطناعي وتحليله وتحسينه بدقة، مع التركيز خصوصًا على بيانات التدريب وعملياته.

لتحقيق الشفافية، يجب فهم خوارزميات اتخاذ القرار التي يقوم عليها الذكاء الاصطناعي، وفك غموض نهج «الصندوق الأسود». وتؤدي النماذج مفتوحة المصدر والقابلة للفحص دورًا محوريًا، لأنها تتيح الوصول إلى الشفرة الأساسية وبنية النظام وبيانات التدريب من أجل المراجعة والتدقيق. ويشجع هذا الانفتاح التعاون والابتكار ويحمي من الاحتكار.

يتطلب تحقيق هذه الرؤية تسهيل تغييرات السياسات والمبادرات الشعبية وتشجيع المشاركة الفاعلة لجميع الأطراف المعنية، بما يشمل المطورين والشركات والحكومات والجمهور.

الوضع الحالي للذكاء الاصطناعي: التركّز والسيطرة

يتركز تطوير الذكاء الاصطناعي حاليًا، وخصوصًا النماذج اللغوية الكبيرة، إلى حد بعيد لدى الشركات الكبرى وتحت سيطرتها. ويثير تركّز القوة هذا مخاوف من إساءة الاستخدام، وتساؤلات عن عدالة الوصول والتوزيع المنصف لفوائد التقدم في الذكاء الاصطناعي.

تفتقر النماذج الشائعة، ومنها النماذج اللغوية الكبيرة، إلى بدائل مفتوحة المصدر في عملية التدريب بسبب الموارد الحاسوبية الهائلة المطلوبة، التي لا تتوفر عادة إلا للشركات الكبيرة. وحتى إن بقي هذا الوضع على حاله، تظل شفافية بيانات التدريب وعملياته ضرورية للمراجعة والمساءلة.

أثار طرح OpenAI مؤخرًا نظامًا لترخيص أنواع معينة من الذكاء الاصطناعي مخاوف من استحواذ الجهات الخاضعة للتنظيم على العملية التنظيمية، بما قد يؤثر في مسار الذكاء الاصطناعي وفي جوانب اجتماعية واقتصادية وسياسية أوسع.

الحاجة إلى ذكاء اصطناعي شفاف

تخيل الاعتماد على تقنية تتخذ قرارات مؤثرة في حياة البشر دون أن تترك مسارًا يمكن تتبعه، أو تتيح فهم الأسباب التي أدت إلى تلك الاستنتاجات. هنا تصبح الشفافية أمرًا لا غنى عنه.

الشفافية أساسية لبناء الثقة. فعندما تصبح نماذج الذكاء الاصطناعي قابلة للمراقبة، تعزز الثقة في موثوقيتها ودقتها. كما تجعل المطورين والمؤسسات أكثر خضوعًا للمساءلة عن نتائج خوارزمياتهم.

ومن جوانب الشفافية المهمة أيضًا تحديد التحيز الخوارزمي والحد منه. فقد يدخل التحيز إلى النماذج بطرق عدة:

• العنصر البشري: قد ينقل علماء البيانات تحيزاتهم الشخصية إلى النماذج.
• التعلم الآلي: حتى لو أنشأ العلماء ذكاءً اصطناعيًا موضوعيًا تمامًا، تظل النماذج معرضة للتحيز. يبدأ التعلم الآلي بمجموعة بيانات محددة، ثم يستوعب بيانات جديدة ويكوّن مسارات تعلم واستنتاجات جديدة. وقد تكون النتائج غير مقصودة أو متحيزة أو غير دقيقة أثناء محاولة النموذج التطور ذاتيًا فيما يسمى «انجراف البيانات».

يجب إدراك هذه المصادر المحتملة للتحيز لتحديدها والتخفيف منها. ومن وسائل الكشف تدقيق بيانات التدريب والبحث عن أنماط قد تشير إلى التمييز أو عدم الإنصاف. ويمكن كذلك استخدام تقنيات إزالة التحيز لتقليله أو التخلص منه داخل النموذج. وبالإفصاح عن احتمالات التحيز واتخاذ إجراءات للحد منه، يمكن المساعدة في ضمان استخدام الذكاء الاصطناعي بعدالة ومسؤولية.

تتيح النماذج الشفافة للباحثين والمستخدمين فحص بيانات التدريب وتحديد التحيزات واتخاذ إجراءات تصحيحية. وإظهار عملية اتخاذ القرار يساعد على تحقيق الإنصاف ومنع انتشار الممارسات التمييزية. وتلزم الشفافية طوال دورة حياة النموذج لمنع انجراف البيانات والتحيز وهلوسات الذكاء الاصطناعي التي تنتج معلومات زائفة. وتشيع هذه الهلوسات خصوصًا في النماذج اللغوية الكبيرة، لكنها موجودة في مختلف منتجات الذكاء الاصطناعي. كما تؤدي قابلية المراقبة دورًا مهمًا في ضمان أداء النماذج ودقتها، بما ينتج ذكاءً اصطناعيًا أكثر أمانًا وموثوقية وأقل عرضة للأخطاء أو العواقب غير المقصودة.

لكن تحقيق الشفافية ليس خاليًا من التحديات. فلا بد من توازن دقيق يعالج خصوصية البيانات والأمن والملكية الفكرية. ويتطلب ذلك تطبيق تقنيات تحافظ على الخصوصية وإخفاء هوية البيانات الحساسة ووضع معايير ولوائح للقطاع تشجع ممارسات الشفافية المسؤولة.

تحويل الذكاء الاصطناعي الشفاف إلى واقع

تطوير أدوات وتقنيات تتيح فحص الذكاء الاصطناعي أمر أساسي لتعزيز شفافية النماذج ومساءلتها.

يمكن للتطوير التقني أن يدعم الشفافية أيضًا ببناء ثقافة حولها. وتشجيع الشركات والمؤسسات على الإفصاح عن استخدام الذكاء الاصطناعي يساعد على تعزيز الثقة. ومن خلال تسهيل فحص النماذج وترسيخ ثقافة الشفافية، يمكن للتطوير التقني أن يسهم في ضمان الاستخدام العادل والمسؤول.

وقد يحدث العكس أيضًا. فإذا طورت الشركات خوارزميات مغلقة لا تسمح بمراجعتها علنًا، يصبح فهم طريقة عملها وتحديد تحيزاتها أو مخاطرها المحتملة أصعب. وضمان استفادة المجتمع كله، لا فئة محدودة فقط، يتطلب مستوى مرتفعًا من التعاون.

يمكن للباحثين وصناع السياسات وعلماء البيانات وضع لوائح ومعايير توازن بين الانفتاح والخصوصية والأمن دون خنق الابتكار. ويمكن لهذه اللوائح أن تؤسس أطرًا تشجع تبادل المعرفة وتعالج المخاطر المحتملة وتحدد توقعات الشفافية وقابلية الشرح في الأنظمة الحيوية.

ينبغي لجميع الأطراف المعنية بتطوير الذكاء الاصطناعي ونشره إعطاء الأولوية للشفافية، من خلال توثيق عمليات اتخاذ القرار وإتاحة الشفرة المصدرية واعتماد الشفافية مبدأً أساسيًا في تطوير الأنظمة. وهذا يتيح للجميع المساهمة في استكشاف طرق تجعل الخوارزميات أسهل تفسيرًا، وتطوير تقنيات تساعد على فهم النماذج المعقدة وشرحها.

وأخيرًا، تعد مشاركة الجمهور ضرورية. فمن خلال رفع الوعي وتشجيع النقاش العام حول شفافية الذكاء الاصطناعي، يمكن ضمان انعكاس قيم المجتمع في تطوير الأنظمة ونشرها.

الخلاصة

مع اندماج الذكاء الاصطناعي في جوانب متزايدة من حياتنا، تصبح شفافيته واستخدام النماذج مفتوحة المصدر اعتبارين أساسيين. واعتماد ذكاء اصطناعي قابل للفحص يضمن الإنصاف والمساءلة، ويحفز الابتكار ويمنع تركّز القوة ويعزز الوصول المنصف إلى التقدم التقني.

بإعطاء الأولوية للشفافية وإتاحة فحص النماذج وتشجيع التعاون، يمكننا معًا تشكيل مستقبل للذكاء الاصطناعي يفيد الجميع، مع معالجة التحديات الأخلاقية والاجتماعية والتقنية المرتبطة بهذه التكنولوجيا التحويلية.