باحثون يقولون إن البشر لن يكونوا قادرين على التحكم في الذكاء الاصطناعي الفائق

من المحتمل أن أي شخص على دراية بالذكاء الاصطناعي (AI) قد سمع بعض الإصدارات حول كسر الحدود في النهاية وتحررها من التحكم البشري. هذا ليس مجرد موضوع من أفلام الخيال العلمي، ولكن إمكانية قوية جدا تثير قلق العديد من الخبراء في الصناعة. يؤكد العديد من هؤلاء الخبراء، بما في ذلك العلماء، على أننا يجب أن نبدأ في الاستعداد لهذه الإمكانية وتجنبها بأي طريقة ممكنة.

الآن، قام فريق دولي من الباحثين بدراسة هذه الفكرة وساندها بحسابات نظرية. استخدم الفريق، الذي ضم علماء من مركز البشر والآلات في معهد ماكس بلانك للتطور البشري، هذه الحسابات لإظهار كيف أنه لن يكون من الممكن التحكم في الذكاء الاصطناعي الفائق.

نشرت الدراسة مؤخرا في مجلة أبحاث الذكاء الاصطناعي.

نظام الذكاء الاصطناعي الفائق

خوف من نظام ذكاء اصطناعي فائق يرتبط بالحقيقة أن مثل هذا النظام سيكون متفوقا على البشر. سيكون قادرا على التعلم بشكل مستقل، بالإضافة إلى الوصول إلى جميع البيانات الحالية ومعالجتها بسرعة فائقة.

يمكن أن يؤدي مثل هذا الحدث إلى أن يسيطر الذكاء الاصطناعي الفائق على جميع الآلات الحالية على الإنترنت، وبالرغم من أنه يمكنه حل مشاكل كبيرة مثل العلاج من الأمراض وحل مشاكل أخرى تواجه البشرية، فإن خطر خروج الأمور عن السيطرة مرتفع.

مانويل سيبريان هو أحد مؤلفي الدراسة وقائد مجموعة التعبئة الرقمية في مركز البشر والآلات، معهد ماكس بلانك للتطور البشري.

“آلة فائقة الذكاء تسيطر على العالم تبدو وكأنها خيال علمي. لكن هناك بالفعل آلات تقوم ببعض المهام المهمة بشكل مستقل دون أن يفهم المبرمجون تماما كيف تعلمتها. وبالتالي، يطرح السؤال عما إذا كان هذا يمكن أن يصبح في مرحلة ما غير قابل للسيطرة وخطير على البشرية،” يقول سيبريان.

التحكم في النظام

هناك مدرستان فكريتان رئيسيتان عندما يتعلق الأمر بالتحكم في مثل هذا النظام. أولا، يمكن للبشر تقييد قدرات الذكاء الاصطناعي الفائق عن طريق تقييد وصوله إلى بعض مصادر البيانات، مثل الإنترنت بأكملها. يمكن للنظام العمل دون الاتصال بالعالم الخارجي. ومع ذلك، المشكلة في ذلك هي أن هذا سيحد بشكل كبير من إمكانيات الذكاء الاصطناعي.

سيتم التحكم في النظام من خلال السماح له بمتابعة النتائج التي تفيد البشرية، ويمكن القيام بذلك عن طريق برمجة المبادئ الأخلاقية فيه.

شملت الدراسة تطوير خوارزمية احتواء نظرية تمنع الذكاء الاصطناعي الفائق من إيذاء البشر تحت أي ظرف. يمكن تحقيق ذلك من خلال إنشاء محاكاة لسلوك الذكاء الاصطناعي والكشف عن أي سلوك يمكن أن يكون ضارا. على الرغم من هذه النظرية الواعدة، تظهر التحليلات الحالية أن مثل هذه الخوارزمية لا يمكن تطويرها.

إياد رحوان هو مدير مركز البشر والآلات.

“إذا قمت بتقسيم المشكلة إلى قواعد أساسية من علوم الحاسوب النظرية، يتبين أن خوارزمية ت 命 الذكاء الاصطناعي بعدم تدمير العالم يمكن أن توقف عملياتها الخاصة بشكل غير مقصود. إذا حدث ذلك، لن تعرف ما إذا كانت خوارزمية الاحتواء لا تزال تحليل التهديد، أو ما إذا она توقفت لاحتواء الذكاء الاصطناعي الضار. في الواقع، هذا يجعل خوارزمية الاحتواء غير قابلة للاستخدام،” يقول رحوان.

هناك مشكلة أخرى هي أن الخبراء قد لا يدركون حتى متى يصل الذكاء الاصطناعي الفائق إلى ذلك الحالة، ويرجع ذلك في الغالب إلى حقيقة أن هذا النظام سيكون أكثر ذكاء من البشر.