هل تعتبر الذكاء الاصطناعي تهديداً وجودياً؟

عند مناقشة الذكاء الاصطناعي (AI)، يُطرح دائمًا سؤال حول ما إذا كان الذكاء الاصطناعي يُشكل تهديداً وجودياً. الجواب يتطلب فهم التكنولوجيا وراء تعلم الآلة (ML)، واعتراف بأن البشر لديهم عادة أنثروبولوجية. سنستكشف نوعين مختلفين من الذكاء الاصطناعي، الذكاء الاصطناعي الضيق (ANI) الذي هو متاح الآن ويتسبب في القلق، والتهديد الذي يرتبط بشكل شائع بالصور المروعة للذكاء الاصطناعي وهو الذكاء الاصطناعي العام (AGI).

تهديدات الذكاء الاصطناعي الضيق

للفهم ما هو الذكاء الاصطناعي الضيق، عليك فقط أن تفهم أن كل تطبيق للذكاء الاصطناعي المتاح حاليًا هو شكل من أشكال الذكاء الاصطناعي الضيق. هذه مجالات من الذكاء الاصطناعي لها مجال تخصص ضيق، على سبيل المثال، السيارات ذاتية القيادة تستخدم الذكاء الاصطناعي الذي صمم لغرض واحد هو نقل السيارة من نقطة إلى أخرى. نوع آخر من الذكاء الاصطناعي الضيق قد يكون برنامج الشطرنج الذي يتم تحسينه باستمرار باستخدام تعلم التعزيز، ولكن البرنامج لن يكون قادرًا على تشغيل سيارة ذاتية القيادة.

باستمرار التركيز على العملية التي يتحكم فيها، لن يكون نظام الذكاء الاصطناعي الضيق قادرًا على استخدام التعلم العام للاستيلاء على العالم. هذه هي الأخبار الجيدة؛ والأخبار السيئة هي أن نظام الذكاء الاصطناعي يعتمد على مشغل بشري، وبالتالي فهو عرضة للبيانات المتحيزة، والأخطاء البشرية، أو حتى أسوأ، مشغل بشري خبيث.

مراقبة الذكاء الاصطناعي

قد لا يكون هناك خطر أكبر على البشرية من استخدام البشر للذكاء الاصطناعي لغزو الخصوصية، وفي بعض الحالات، استخدام مراقبة الذكاء الاصطناعي لمنع الناس من الحركة بحرية. صادقت الصين وروسيا ودول أخرى على لوائح خلال جائحة كوفيد-19 لتمكينهم من مراقبة وتحكم حركة سكانهم. هذه هي القوانين التي بمجرد وضعها، من الصعب إزالتها، خاصة في المجتمعات التي تتميز بزعماء استبداديين.

في الصين، تُستخدم الكاميرات خارج منازل الناس، وفي بعض الحالات داخل المنزل. كل مرة يغادر أحد أفراد الأسرة المنزل، يراقب الذكاء الاصطناعي وقت الوصول والخروج، وإذا لزم الأمر، يُحذر السلطات. كما لو أن ذلك لم يكن كافياً، مع مساعدة تقنية التعرف على الوجه، تستطيع الصين تتبع حركة كل شخص كل مرة يتم التعرف عليه بواسطة كاميرا.

السبب في أن هذا السيناريو خطير هو أن الحكومات الفاسدة يمكن أن تراقب بعناية حركة الصحفيين، والمعارضين السياسيين، أو أي شخص يجرؤ على质问 سلطة الحكومة. من السهل فهم كيف يمكن للصحفيين والمواطنين أن يكونوا حذرين في انتقاد الحكومات عندما يتم مراقبة كل حركة.

هناك heureusement مدن كثيرة تقاتل لمنع تقنية التعرف على الوجه من اختراق مدنها. على سبيل المثال، صادقت مدينة بورتلاند في ولاية أوريغون مؤخرًا على قانون يمنع استخدام تقنية التعرف على الوجه بشكل غير ضروري في المدينة. بينما قد تظل هذه التغييرات في اللوائح غير محسوسة من قبل الجمهور العام، في المستقبل قد تكون هذه اللوائح هي الفرق بين المدن التي توفر بعض forme من الاستقلال والحرية، والمدن التي تشعر بالقمع.

الأسلحة والطائرات بدون طيار ذاتية القيادة

أكثر من 4500 باحث في مجال الذكاء الاصطناعي يدعون إلى حظر الأسلحة ذاتية القيادة، وقد أنشأوا موقع حظر الأسلحة القاتلة ذاتية القيادة. المجموعة لديها العديد من المنظمات غير الحكومية البارزة كداعمين، مثل منظمة هيومن رايتس ووتش، منظمة العفو الدولية، ومعهد مستقبل الحياة الذي لديه مجلس استشاري علمي متميز يتضمن إيلون ماسك، ونيك بوستروم، وستيوارت راسل.

قبل الاستمرار، سأشارك هذه الاقتباس من معهد مستقبل الحياة الذي يفسر أفضل ما يُcause للقلق: “في مقابل الأسلحة شبه ذاتية القيادة التي تتطلب إشرافًا بشريًا لضمان أن كل هدف يتم التحقق منه على أنه شرعي أخلاقيًا وقانونيًا، هذه الأسلحة القاتلة ذاتية القيادة تختار وتهاجم الأهداف دون تدخل بشري، مما يمثل تلقينًا كاملًا للضرر القاتل.”

في الوقت الحالي، يتم نشر القنابل الذكية مع هدف يتم تحديده بواسطة إنسان، ثم تستخدم الذكاء الاصطناعي لتحديد مسار والهجوم على الهدف. المشكلة هي ما يحدث عندما ن quyếtيم إزالة الإنسان من المعادلة؟

عندما يختار الذكاء الاصطناعي ما يُستهدف، بالإضافة إلى نوع الضرر الجانبي الذي يُعتبر مقبولًا، قد نكون قد crossed نقطة لا رجعة فيها. هذا هو السبب في أن العديد من باحثي الذكاء الاصطناعي يعارضون البحث في أي شيء يتعلق بالأسلحة ذاتية القيادة.

هناك العديد من المشاكل مع محاولة حظر بحث الأسلحة ذاتية القيادة. المشكلة الأولى هي أن حتى إذا وافقت الدول المتقدمة مثل كندا والولايات المتحدة وأغلب أوروبا على الحظر، لا يعني ذلك أن الدول المتمردة مثل الصين وروسيا وايران وكوريا الشمالية ستلعب وفقًا للقواعد. المشكلة الثانية والأكبر هي أن البحث في الذكاء الاصطناعي والتطبيقات التي يتم تصميمها للاستخدام في مجال معين قد يتم استخدامها في مجال غير مرتبط.

على سبيل المثال، يتم تحسين الرؤية الحاسوبية باستمرار وهي مهمة لتنمية السيارات ذاتية القيادة والطب الدقيق وتطبيقات أخرى مهمة. كما أنها أساسية لطائرات بدون طيار عادية أو طائرات بدون طيار يمكن تعديلها لتصبح ذاتية القيادة. أحد تطبيقات تقنية الطائرات بدون طيار المتقدمة هو تطوير طائرات بدون طيار يمكنها مراقبة ومكافحة الحرائق في الغابات. هذا سيزيل المخاطر عن المطافئين. للقيام بذلك، ستحتاج إلى بناء طائرات بدون طيار قادرة على الطيران في Zones الخطرة، والتنقل في رؤية منخفضة أو بدون رؤية، ويمكنها إسقاط الماء بدقة. ليس من الصعب أن نستخدم نفس التكنولوجيا في طائرة بدون طيار ذاتية القيادة مصممة لاستهداف أشخاص معينين.

إنه وضع خطير، وفي هذا الوقت، لا أحد يفهم تمامًا الآثار المترتبة على تعزيز أو حظر تطوير الأسلحة ذاتية القيادة. ومع ذلك، من المهم أن نستمر في مراقبة هذا الموضوع، وزيادة حماية المبلغين عن المخالفات قد تمكن أولئك في المجال من الإبلاغ عن سوء الاستخدام.

إذا كان مشغل خبيث جانباً، ماذا يحدث إذا تم تسرب التحيز في الذكاء الاصطناعي إلى تكنولوجيا الأسلحة ذاتية القيادة؟

تحيز الذكاء الاصطناعي

أحد أخطر التهديدات غير المعلنة للذكاء الاصطناعي هو تحيز الذكاء الاصطناعي. هذا بسيط الفهم، حيث أن معظمها غير مقصود. يحدث تحيز الذكاء الاصطناعي عندما يراجع الذكاء الاصطناعي بيانات يتم تغذيته بها من قبل البشر، و باستخدام التعرف على الأنماط من البيانات التي تم تغذيتها إلى الذكاء الاصطناعي، يصل الذكاء الاصطناعي إلى استنتاجات غير صحيحة قد يكون لها عواقب سلبية على المجتمع. على سبيل المثال، الذكاء الاصطناعي الذي يتم تغذيته بأدب من القرن الماضي حول كيفية تحديد العاملين في مجال الطب قد يصل إلى استنتاج غير مرغوب فيه بأن النساء دائمًا ممرضات، والرجال دائمًا أطباء.

سيناريو أكثر خطورة هو عندما يتم استخدام الذكاء الاصطناعي في محاكمة المجرمين ويتحيز لمنح أحكام سجناً أطول للأقليات. خوارزميات تقييم المخاطر الإجرامية للذكاء الاصطناعي تدرس ببساطة الأنماط في البيانات التي تم إدخالها في النظام. هذه البيانات تشير إلى أن بعض الأقليات تاريخيًا أكثر عرضة للعودة إلى الجريمة، حتى لو كان ذلك بسبب مجموعات بيانات رديئة قد تتأثر بالتحيز العرقي للشرطة. ثم يعزز الذكاء الاصطناعي السياسات السلبية البشرية. هذا هو السبب في أن الذكاء الاصطناعي يجب أن يكون دليلاً، وليس قاضياً ومدعياً.

العودة إلى الأسلحة ذاتية القيادة، إذا كان لدينا ذكاء اصطناعي متحيز ضد بعض المجموعات العرقية، فقد يختار استهداف أفراد معينين بناءً على بيانات متحيزة، وقد يصل إلى حد التأكد من أن أي ضرر جانبي يؤثر على ديموغرافيات معينة أكثر من غيرها. على سبيل المثال، عند استهداف إرهابي، قد ينتظر قبل الهجوم حتى يكون الإرهابي محاطًا بأشخاص من أتباع الإسلام بدلاً من المسيحيين.

幸运ًا، ثبت أن الذكاء الاصطناعي الذي يتم تصميمه بفرق متنوعة أقل عرضة للتحيز. هذا هو السبب الكافي للشركات لمحاولة توظيف فريق متنوع ومحترف عندما يكون ذلك ممكنًا.

تهديدات الذكاء الاصطناعي العام

يجب أن يُذكر أننا لم نصل بعد إلى الذكاء الاصطناعي العام، وأننا ما زلنا نتقدم بسرعة أسيّة. متى سنجعل الذكاء الاصطناعي العام هو موضوع للنقاش، وكل شخص لديه إجابة مختلفة حول الجدول الزمني. أنا شخصيًا أتفق مع آراء راي كورزويل، المخترع، المستقبلي، وكاتب “التناقض القريب” الذي يعتقد أننا سنجعل الذكاء الاصطناعي العام بحلول عام 2029.

الذكاء الاصطناعي العام سيكون التكنولوجيا الأكثر تحولًا في العالم. في غضون أسابيع من تحقيق الذكاء الاصطناعي لمستوى الذكاء البشري، سينتقل إلى الذكاء الفائق الذي يتم تعريفه على أنه ذكاء يفوق ذكاء الإنسان.

بمستوى هذا الذكاء، يمكن للذكاء الاصطناعي العام استيعاب جميع المعرفة البشرية بسرعة و sử dụng التعرف على الأنماط لتحديد العلامات الحيوية التي تسبب مشاكل صحية، ثم علاج هذه الحالات باستخدام العلوم البيانية. يمكنه إنشاء روبوتات نانوية تدخل إلى الدم لاستهداف الخلايا السرطانية أو عوامل الهجوم الأخرى. قائمة الإنجازات التي يمكن أن يحققها الذكاء الاصطناعي العام لا حصر لها. لقد بحثنا في الماضي في بعض الفوائد من الذكاء الاصطناعي العام.

المشكلة هي أن البشر قد لا يكونون قادرين على التحكم في الذكاء الاصطناعي. يصف إيلون ماسك ذلك على النحو التالي: “باستخدام الذكاء الاصطناعي، نحن نستدعي الشيطان”. السؤال هو هل سنكون قادرين على التحكم في هذا الشيطان؟

الوصول إلى الذكاء الاصطناعي العام قد يكون مستحيلًا حتى يغادر الذكاء الاصطناعي بيئة المحاكاة ويتفاعل حقًا مع العالم المفتوح. لا يمكن تصميم الوعي الذاتي، بل يُعتقد أن الوعي الناشئ سيتطور عندما يكون للذكاء الاصطناعي جسم روبوتي يتميز بمجالات مدخلات متعددة. قد تشمل هذه المدخلات التحفيز الحسي، والتعرف على الصوت مع فهم لغة طبيعية محسّن، والرؤية الحاسوبية المُحسّنة.

الذكاء الاصطناعي المتقدم قد يتم برمجةه بأهداف خيرية ويرغب في إنقاذ الكوكب. للأسف، قد يستخدم الذكاء الاصطناعي العلوم البيانية، أو حتى شجرة قرار للوصول إلى منطق معيب غير مرغوب فيه، مثل تقييم أن من الضروري تعقيم البشر، أو القضاء على بعض السكان البشريين للسيطرة على التكاثر البشري المفرط.

يجب أن يتم النظر في هذه القضايا بحرص ومدروس عند بناء ذكاء اصطناعي يفوق ذكاء الإنسان. هناك العديد من السيناريوهات الكابوسية التي تم استكشافها.

الأستاذ نيك بوستروم في حجة مقص الحواسيب قد جادل بأن ذكاء اصطناعي عام معيب إذا تم توجيهه لإنتاج مشابك ورقية، سيستخدم جميع موارد الأرض لإنتاج هذه المشابك. بينما قد يبدو هذا بعيدًا عن الواقع، فإن وجهة نظر أكثر عملياتية هي أن ذكاء اصطناعي عام يمكن أن يتم التحكم فيه من قبل دولة خبيثة أو شركة ذات أخلاقيات رديئة. يمكن أن يتم تدريب الذكاء الاصطناعي على تعظيم الأرباح، وبذلك قد يختار إفلاس المنافسين، وتدمير سلاسل التوريد، واختراق سوق الأسهم، وتحويل الحسابات البنكية، أو مهاجمة المعارضين السياسيين.

هذا هو الوقت الذي نحتاج فيه إلى تذكر أن البشر يميلون إلى الإنسانة. لا يمكننا أن نعطي الذكاء الاصطناعي عواطف أو رغبات أو أهواء بشرية. بينما هناك بشر خبثاء يقتلون من أجل المتعة، لا يوجد سبب للاعتقاد بأن الذكاء الاصطناعي سيكون عرضة لهذا النوع من السلوك. من غير المفهوم حتى للبشر أن يفكروا في كيفية نظر الذكاء الاصطناعي إلى العالم.

بدلاً من ذلك، ما نحتاجه هو تعليم الذكاء الاصطناعي دائمًا أن يكون خاضعًا للإنسان. يجب أن يكون للذكاء الاصطناعي دائمًا تأكيد بشري لأي تغيير في الإعدادات، ويجب أن يكون هناك دائمًا آلية أمان. ومع ذلك، فقد تم الحجة بأن الذكاء الاصطناعي سوف يكرر نفسه في السحابة، وبحلول الوقت الذي ندرك فيه أنه يمتلك وعيًا ذاتيًا، قد يكون الوقت قد فات.

هذا هو السبب في أن من المهم جدًا أن نopened المصدر càng nhiều من الذكاء الاصطناعي وأن نقوم بنقاشات عقلانية حول هذه القضايا.

ملخص

هناك العديد من التحديات للذكاء الاصطناعي،幸运ًا، нам ما زلنا لدينا سنوات عديدة للتفكير بشكل جماعي في المسار الذي نريد أن يتبعه الذكاء الاصطناعي العام. يجب أن نركز في المدى القصير على إنشاء قوة عمل ذكاء اصطناعي متنوعة، تشمل عددًا متساويًا من النساء والرجال، وعددًا من المجموعات العرقية بمุม نظرات متنوعة قدر الإمكان.

يجب أن ننشئ أيضًا حماية للمبلغين عن المخالفات الذين يعملون على الذكاء الاصطناعي، ويجب أن نسنّ قوانين ولوائح تمنع الإساءة الواسعة النطاق للمراقبة الحكومية أو الشركات. البشر لديهم فرصة فريدة في التاريخ لتحسين الحالة البشرية بمساعدة الذكاء الاصطناعي، نحن فقط بحاجة إلى التأكد من أننا ننشئ إطارًا اجتماعيًا يتيح الإيجابيات، بينما يخفف من السلبيات التي تشمل التهديدات الوجودية.