قادة الفكر
المخاوف بشأن مخاطر ChatGPT المحتملة تتزايد، لكن هل التوقف المؤقت عن تطوير الذكاء الاصطناعي خطوة جيدة؟

النقاط الرئيسيةيتطلب تنظيم الذكاء الاصطناعي العام مثل ChatGPT قواعد جديدة تتجاوز التركيز الضيق لقانون…
عرض المزيد
- يتطلب تنظيم الذكاء الاصطناعي العام مثل ChatGPT قواعد جديدة تتجاوز التركيز الضيق لقانون الذكاء الاصطناعي الأوروبي.
- نموذج 'الشحن أولاً والإصلاح لاحقاً' من OpenAI ينقل المخاطر إلى المستخدمين دون ضمانات كافية.
- التنظيم والإنفاذ الاستباقيان ضروريان لمنع الذكاء الاصطناعي من تضخيم التحيز والمعلومات المضللة.
في حين دعا إيلون ماسك وقادة التكنولوجيا العالميين الآخرون إلى إيقاف الذكاء الاصطناعي بعد إطلاق تشات جي بي تي، يعتقد بعض النقاد أن التوقف عن التطوير ليس الجواب. يعتقد أندرو بيري، الداعم للذكاء الاصطناعي في شركة ABBYY للأتمتة الذكية، أن التوقف مثل وضع معجون الأسنان مرة أخرى في الأنبوب. هنا، يخبرنا لماذا…
تطبيقات الذكاء الاصطناعي شائعة، وتؤثر على كل جانب من جوانب حياتنا. ورغم أن الدعوة إلى كبح التطوير جديرة بالتقدير، فقد يكون تطبيقها الآن غير عملي.
هناك بالفعل مخاوف حقيقية تدعو إلى زيادة الرقابة التنظيمية لاحتواء الآثار الضارة المحتملة.
مؤخرًا، حظرت السلطة الإيطالية لحماية البيانات مؤقتًا استخدام تشات جي بي تي على مستوى البلاد بسبب مخاوف تتعلق بطريقة جمع البيانات الشخصية المستخدمة لتدريب النموذج ومعالجتها، وكذلك غياب واضح لضمانات الحماية، مما يعرّض الأطفال لردود “غير مناسبة إطلاقًا لسنهم ووعيهم”.
تدعو المنظمة الأوروبية للمستهلكين (BEUC) الاتحاد الأوروبي إلى التحقيق في الآثار الضارة المحتملة للنماذج اللغوية الكبيرة، نظرًا ل”مخاوف متزايدة بشأن قدرة تشات جي بي تي وروبوتات الدردشة المماثلة على خداع الناس والتلاعب بهم. تحتاج هذه الأنظمة إلى رقابة عامة أكبر، ويجب على السلطات العامة إعادة السيطرة عليها”.
في الولايات المتحدة، قدّم مركز الذكاء الاصطناعي والسياسة الرقمية شكوى إلى لجنة التجارة الفيدرالية بأن تشات جي بي تي تنتهك المادة 5 من قانون لجنة التجارة الفيدرالية (قانون لجنة التجارة الفيدرالية) (15 USC 45). ويرجع سبب الشكوى إلى أن يُزعم أن تشات جي بي تي لا يتوافق مع الإرشادات التي وضعتها لجنة التجارة الفيدرالية بشأن شفافية أنظمة الذكاء الاصطناعي وقابليتها للتفسير. تم الإشارة إلى اعترافات تشات جي بي تي بوجود عدة مخاطر معروفة، بما في ذلك المساس بحقوق الخصوصية، وإنشاء محتوى ضار، وتناقل المعلومات الخاطئة.
على الرغم من فائدة النماذج اللغوية الكبيرة مثل تشات جي بي تي، تشير الأبحاث إلى جانبها المظلم المحتمل. ثبت أنها تنتج إجابات خاطئة، لأن نموذج تشات جي بي تي يعتمد على خوارزميات التعلم العميق التي تستخدم مجموعات بيانات كبيرة من الإنترنت. على عكس روبوتات الدردشة الأخرى، يستخدم تشات جي بي تي نماذج لغوية تعتمد على تقنيات التعلم العميق التي تولد نصًا مشابهًا للمحادثات البشرية، و”يصل إلى إجابة من خلال إجراء سلسلة من التخمينات، وهو جزء من السبب في أنها يمكن أن تدعي إجابات خاطئة كما لو كانت صحيحة تمامًا”.
علاوة على ذلك، ثبت أن تشات جي بي تي يزيد من التحيز، مما يؤدي إلى “إجابات تميز ضد الجنس والعرق والأقليات، وهو ما تحاول الشركة التخفيف منه”. قد يكون تشات جي بي تي أيضًا فرصة ذهبية لأصحاب النوايا الخبيثة لاستغلال المستخدمين غير المرتابين، مما يهدد خصوصيتهم ويعرّضهم لهجمات احتيالية.
دعت هذه المخاوف البرلمان الأوروبي إلى نشر تعليق يؤكد على ضرورة تعزيز الأحكام الحالية لمشروع قانون الذكاء الاصطناعي للاتحاد الأوروبي (AIA)، الذي لا يزال بانتظار الإقرار. يشير التعليق إلى أن مشروع القانون الحالي يركز على تطبيقات الذكاء الاصطناعي الضيقة، التي تتكون من فئات محددة لأنظمة الذكاء الاصطناعي عالية الخطورة، مثل استقطاب الموظفين والجدارة الائتمانية والتوظيف وإنفاذ القانون والاستحقاق للخدمات الاجتماعية. ومع ذلك، لا يغطي مشروع قانون AIA الأوروبي الحالي الذكاء الاصطناعي للأغراض العامة، مثل النماذج اللغوية الكبيرة التي توفر قدرات معرفية متقدمة ويمكنها “إجراء مجموعة واسعة من المهام الذكية”. هناك دعوات لتمديد نطاق مشروع القانون ليشمل فئة منفصلة من أنظمة الذكاء الاصطناعي للأغراض العامةة عالية الخطورة، مما يتطلب من المطورين إجراء اختبارات مطابقة صارمة قبل إطلاق مثل هذه الأنظمة في السوق ومراقبة أدائها باستمرار لرصد المخرجات الضارة المحتملة غير المتوقعة.
تلفت دراسة مفيدة بوجه خاص الانتباه إلى هذه الفجوة في قانون AIA الأوروبي، الذي “يركز في الغالب على نماذج الذكاء الاصطناعي التقليدية، وليس على الجيل الجديد الذي نشهده اليوم”.
يوصي بأربع استراتيجيات يجب أن يضعها المنظمون في الاعتبار.
- يجب على مطوري هذه الأنظمة تقديم تقارير منتظمة عن فعالية عمليات إدارة المخاطر للحد من المخرجات الضارة.
- يجب على الشركات التي تستخدم النماذج اللغوية الكبيرة الإفصاح للعملاء بأن المحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي.
- يجب على المطورين الالتزام بعمليات إطلاق متدرجة، كجزء من إطار إدارة المخاطر، مصممة للحماية من النتائج الضارة التي قد لا تكون متوقعة.
- يجب على المطورين تحمل مسؤولية التخفيف من المخاطر في الجذور من خلال التدقيق الاستباقي في مجموعة بيانات التدريب للكشف عن التمثيلات المضللة.
عامل يزيد من المخاطر المرتبطة بالتكنولوجيا المبتكرة هو الدافع للمبتكرين لتحقيق ميزة البداية من خلال تبني نموذج أعمال “إطلاق أولاً وتصحيح لاحقًا”. في حين أن OpenAI شفافة إلى حد ما حول المخاطر المحتملة لتشات جي بي تي، إلا أنها أطلقت إياه للاستخدام التجاري الواسع مع تحمل المستخدمين مسؤولية تقييم المخاطر وتحملها بأنفسهم. قد يكون هذا النهج غير قابل للتطبيق بالنظر إلى التأثير الواسع لأنظمة الذكاء الاصطناعي المحادثية. يجب أن تكون التنظيمات الوقائية والتدابير القوية للإنفاذ في المقام الأول عند التعامل مع مثل هذه التكنولوجيا المبتكرة.
الذكاء الاصطناعي يخترق بالفعل معظم جوانب حياتنا، مما يعني أن التوقف عن تطوير الذكاء الاصطناعي قد يعني وجود عقبات ونتائج غير متوقعة كثيرة. بدلاً من التوقف المفاجئ، يجب على أصحاب المصلحة في الصناعة والتشريعية التعاون بصدق لسنّ قوانين يمكن تنفيذها وتأتي من قيم إنسانية مثل الشفافية والمسؤولية والعدالة. من خلال الإشارة إلى التشريعات الحالية مثل قانون AIA، يمكن للقادة في القطاعين الخاص والعام تصميم سياسات شاملة وموحدة عالميًا ستمنع الاستخدامات الخبيثة وتخفف من النتائج السلبية، مما يحافظ على الذكاء الاصطناعي ضمن حدود تحسين التجارب البشرية.












