قادة الفكر
مخاوف بشأن المخاطر المحتملة لتشات جي بي تي تكتسب زخمًا، ولكن هل الإيقاف عن الذكاء الاصطناعي هو خطوة جيدة؟
أضف Unite.AI إلى مصادرك المفضلة على Google
في حين دعا إيلون ماسك وقادة التكنولوجيا العالميين الآخرون إلى إيقاف الذكاء الاصطناعي بعد إطلاق تشات جي بي تي، يعتقد بعض النقاد أن التوقف عن التطوير ليس الجواب. يعتقد أندرو بيري، المبشر بالذكاء الاصطناعي في شركة أبي، أن التوقف مثل وضع معجون الأسنان مرة أخرى في الأنبوب. هنا، ي告诉نا لماذا…
تطبيقات الذكاء الاصطناعي شائعة، وتؤثر على كل جانب من جوانب حياتنا. في حين أن وضع الحد الآن قد يكون غير ممكن.
هناك بالفعل مخاوف حقيقية تدعو إلى زيادة الرقابة التنظيمية لاحتواء الآثار الضارة المحتملة.
最近، حظرت السلطة الإيطالية لحماية البيانات استخدام تشات جي بي تي على مستوى البلاد بسبب مخاوف تتعلق بجمع البيانات الشخصية وprocessingها، وكذلك نقص الحماية، مما يعرّض الأطفال لردود “م绝 غير مناسبة لسنهم ووعيهم”.
تدعو المنظمة الأوروبية للمستهلكين (BEUC) الاتحاد الأوروبي إلى التحقيق في الآثار الضارة المحتملة للنماذج اللغوية الكبيرة، نظرًا ل”Mخاوف متزايدة حول كيفية خداع وتنظيم تشات جي بي تي وروبوتات الدردشة المماثلة للأشخاص. تحتاج هذه الأنظمة إلى رقابة عامة أكبر، ويجب على السلطات العامة إعادة السيطرة عليها”.
في الولايات المتحدة، تقدم مركز السياسة الرقمية والذكاء الاصطناعي شكوى إلى لجنة التجارة الفيدرالية بأن تشات جي بي تي تنتهك المادة 5 من قانون لجنة التجارة الفيدرالية (قانون لجنة التجارة الفيدرالية) (15 USC 45). ويرجع سبب الشكوى إلى أن تشات جي بي تي يفترض أنها لا تتوافق مع الإرشادات التي وضعتها لجنة التجارة الفيدرالية بشأن الشفافية ووضوح أنظمة الذكاء الاصطناعي. تم الإشارة إلى اعترافات تشات جي بي تي بexistence مخاطر معروفة، بما في ذلك المساس بالحقوق الخاصة، وإنشاء محتوى ضار، وتناقل المعلومات الخاطئة.
من الناحية العملية، تبرز الأبحاث جانبًا مظلمًا من النماذج اللغوية الكبيرة مثل تشات جي بي تي. ثبت أنها تنتج إجابات خاطئة، لأن نموذج تشات جي بي تي يعتمد على خوارزميات التعلم العميق التي تستخدم مجموعات بيانات كبيرة من الإنترنت. على عكس روبوتات الدردشة الأخرى، يستخدم تشات جي بي تي نماذج لغوية تعتمد على تقنيات التعلم العميق التي تولد نصًا مشابهًا للمحادثات البشرية، و”يصل إلى إجابة من خلال إجراء سلسلة من التخمينات، وهو جزء من السبب في أنها يمكن أن تدعي إجابات خاطئة كما لو كانت صحيحة تمامًا”.
علاوة على ذلك، ثبت أن تشات جي بي تي يزيد من التحيز، مما يؤدي إلى “إجابات تميز ضد الجنس والعرق والأقليات، وهو ما تحاول الشركة التخفيف منه”. قد يكون تشات جي بي تي أيضًا فرصة ذهبية للممثلين الخبيثين لاستغلال المستخدمين غير المحتذين، مما يضعف خصوصيتهم ويعرضهم لهجمات الاحتيال.
دعت هذه المخاوف البرلمان الأوروبي إلى نشر تعليق يؤكد على ضرورة تعزيز الأحكام الحالية لمشروع قانون الذكاء الاصطناعي الأوروبي (AIA) المعلّق، الذي لا يزال قيد الانتظار. يشير التعليق إلى أن مشروع القانون الحالي يركز على تطبيقات الذكاء الاصطناعي الضيقة، التي تتكون من فئات محددة لأنظمة الذكاء الاصطناعي عالية الخطورة، مثل التوظيف والائتمان والتوظيف وإنفاذ القانون والاستحقاق للخدمات الاجتماعية. ومع ذلك، لا يغطي مشروع قانون AIA الأوروبي الحالي الذكاء الاصطناعي العام، مثل النماذج اللغوية الكبيرة التي توفر قدرات معرفية متقدمة ويمكنها “إجراء مجموعة واسعة من المهام الذكية”. هناك دعوات لتمديد نطاق مشروع القانون ليشمل فئة منفصلة من أنظمة الذكاء الاصطناعي العامة عالية الخطورة، مما يتطلب من المطورين إجراء اختبارات مطابقة صارمة قبل إطلاق مثل هذه الأنظمة في السوق ومراقبتها باستمرار لأي مخاطر غير متوقعة.
أدت أبحاث مفيدة بشكل خاص إلى زيادة الوعي بفجوة في قانون AIA الأوروبي، الذي “يركز في الغالب على نماذج الذكاء الاصطناعي التقليدية، وليس على الجيل الجديد الذي نشهده اليوم”.
يوصي بأربع استراتيجيات يجب أن يضعها المنظمون في الاعتبار.
- يجب على مطوري هذه الأنظمة تقديم تقارير منتظمة عن فعالية عمليات إدارة المخاطر لتحقيق نتائج غير ضارة.
- يجب على الشركات التي تستخدم النماذج اللغوية الكبيرة الإفصاح للعملاء بأن المحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي.
- يجب على المطورين الالتزام بعمليات إطلاق متدرجة، كجزء من إطار إدارة المخاطر، مصممة للحفاظ على النتائج الضارة المحتملة.
- يجب على المطورين تحمل مسؤولية التخفيف من المخاطر في الجذور من خلال إجراء عمليات تدقيق نشطة لبيانات التدريب على المبالغ.
عامل يزيد من المخاطر المرتبطة بالتكنولوجيا المبتكرة هو الدافع للمبتكرين لتحقيق ميزة البداية من خلال تبني نموذج أعمال “إطلاق أولاً وتصحيح لاحقًا”. في حين أن OpenAI شفافة إلى حد ما حول المخاطر المحتملة لتشات جي بي تي، إلا أنها أطلقت 그를 للاستخدام التجاري الواسع مع تحمل المستخدمين مسؤولية التقييم والتحمل المخاطر بأنفسهم. قد يكون هذا النهج غير قابل للتطبيق بالنظر إلى التأثير الواسع لأنظمة الذكاء الاصطناعي المحادثية. يجب أن تكون التنظيمات الوقائية والتدابير القوية للإنفاذ في المقام الأول عند التعامل مع مثل هذه التكنولوجيا المبتكرة.
الذكاء الاصطناعي يخترق بالفعل معظم جوانب حياتنا، مما يعني أن التوقف عن تطوير الذكاء الاصطناعي قد يعني وجود عقبات ونتائج غير متوقعة كثيرة. بدلاً من التوقف المفاجئ، يجب على أصحاب المصلحة في الصناعة والتشريعية التعاون بصدق لسنّ قوانين يمكن تنفيذها وتأتي من قيم إنسانية مثل الشفافية والمسؤولية والعدالة. من خلال الإشارة إلى التشريعات الحالية مثل قانون AIA، يمكن للقادة في القطاعين الخاص والعام تصميم سياسات شاملة وموحدة عالميًا ستمنع الاستخدامات الخبيثة وتخفف من النتائج السلبية، مما يحافظ على الذكاء الاصطناعي ضمن حدود تحسين التجارب البشرية.
