جولييت بويل وأرت كلاينر، مؤلفا كتاب معضلة الذكاء الاصطناعي – سلسلة مقابلات

كتاب معضلة الذكاء الاصطناعي من تأليف جولييت بويل وأرت كلاينر.

جولييت بويل هي مؤلفة ومتخصصة في التلفزيون مع أكثر من 9,000 برنامج مباشر، ومهندسة اجتماعية. وهي أيضًا معلق على قناة بلومبرج تي في / شبكات الأخبار التجارية ومحاضرة في المؤتمرات التي نظمها الاقتصادي والمؤسسة المالية الدولية. وقد حصلت محاضرة TED على أكثر من 130 ألف مشاهدة على يوتيوب. تعرف جولييت على الأنماط والممارسات للقادة الناجحين الذين يعتمدون على الذكاء الاصطناعي والأخلاقيات والبيانات للفوز. وهي عضو هيئة تدريس في جامعة نيويورك حيث تدرس أربعة دورات، بما في ذلك مهارات التصميم للمedia المسؤولة، وهي دورة قائمة على كتابها.

أرت كلاينر هو كاتب ومحرر ومستقبلي. من بين كتبه عصر الهراطقة، من يهم حقًا، الامتياز والنجاح، والحكماء. كان محررًا لمنشور strategy+business، المجلة الحائزة على جوائز التي نشرتها PwC. أرت هو أيضًا عضو هيئة تدريس طويل الأمد في NYU-ITP و IMA، حيث تشمل دوراته التدريس المشترك لتقنية مسؤولة ومستقبل الإعلام.

“معضلة الذكاء الاصطناعي” هو كتاب يركز على مخاطر تقنية الذكاء الاصطناعي في الأيدي الخاطئة مع الاعتراف بالفوائد التي يقدمها الذكاء الاصطناعي للمجتمع.

ت出现 مشاكل لأن التكنولوجيا الأساسية معقدة لدرجة أن من الصعب على المستخدم النهائي فهم آليات نظام العلبة المغلقة.

من أكثر القضايا المهمة التي تم التأكيد عليها هي كيف أن تعريف الذكاء الاصطناعي المسؤول دائمًا يتغير، حيث أن القيم الاجتماعية غالبًا لا تظل متسقة مع مرور الوقت.

استمتعت بقراءة “معضلة الذكاء الاصطناعي”. إنه كتاب لا يبخس مخاطر الذكاء الاصطناعي ولا يغوص深ًا في المخاطر المحتملة للذكاء الاصطناعي العام (AGI). بدلاً من ذلك، يتعلم القراء عن الطرق المذهلة التي يتم استخدام بياناتنا الشخصية دون معرفتنا، بالإضافة إلى بعض القيود الحالية للذكاء الاصطناعي وأسباب القلق.

فيما يلي بعض الأسئلة التي صممتها لتظهر للقراء ما يمكنهم توقع حدوثه من هذا الكتاب الرائد.

ما الذي أثارك في البداية لكتابة “معضلة الذكاء الاصطناعي”؟

ذهبت جولييت إلى كولومبيا جزئيًا لدراسة حدود وإمكانيات تنظيم الذكاء الاصطناعي. لقد سمعت من أصدقائها الذين يعملون على مشاريع الذكاء الاصطناعي عن التوتر المحتمل في تلك المشاريع. وتوصلت إلى استنتاج مفاده أن هناك معضلة الذكاء الاصطناعي، وهو مشكلة أكبر بكثير من التنظيم الذاتي. لقد طوّرت نموذج Apex Benchmark – وهو نموذج لاتجاهات القرارات المتعلقة بالذكاء الاصطناعي نحو مسؤولية منخفضة بسبب التفاعلات بين الشركات والمجموعات داخل الشركات. أدى ذلك إلى أطروحتها.

عمل أرت مع جولييت على العديد من مشاريع الكتابة. لقد قرأ أطروحتها وقال: “لديك كتاب هنا”.邀ى جوليته للتعاون معه في كتابته. عند العمل عليه معًا، اكتشفوا أن لديهم وجهات نظر مختلفة جدًا، لكنهما يشاركان وجهة نظر قوية مفادها أن هذه الظاهرة المعقدة والمخاطرة للغاية ستحتاج إلى فهم أفضل حتى يتمكن الأشخاص الذين يستخدمونها من التصرف بطريقة أكثر مسؤولية وفعالية.

إحدى المشاكل الأساسية التي تم التأكيد عليها في معضلة الذكاء الاصطناعي هي أنه من المستحيل حاليًا فهم ما إذا كان نظام الذكاء الاصطناعي مسؤولاً أو إذا كان يؤدي إلى عدم المساواة الاجتماعية من خلال دراسة كود المصدر فقط. ما مدى خطورة هذه المشكلة؟

المشكلة ليست في الغالب مع كود المصدر. كما يشير كاثي أونيل، عندما يكون هناك نظام مغلق، ليس فقط الكود. إنها النظام الاجتماعي والتكنولوجي – القوى البشرية والتكنولوجية التي تشكل بعضها البعض – التي تحتاج إلى استكشافها. المنطق الذي بنى ونشر نظام الذكاء الاصطناعي يتضمن تحديد الغرض، تحديد البيانات، تحديد الأولويات، إنشاء نماذج، وضع إرشادات وحدود للتعلم الآلي، وتحديد متى وكيف يجب على الإنسان التدخل. هذا هو الجزء الذي يحتاج إلى أن يصبح شفافًا – على الأقل للمراقبين والمدققين. مخاطر عدم المساواة الاجتماعية والمخاطر الأخرى أكبر بكثير عندما تكون هذه الأجزاء من العملية مخفية. لا يمكنك إعادة هندسة منطق التصميم من كود المصدر.

هل يمكن أن يعالج التركيز على الذكاء الاصطناعي القابل للشرح (XAI) هذه المشكلة؟

لمهندسي البرمجيات، الذكاء الاصطناعي القابل للشرح هو حاليًا مجموعة من القيود التكنولوجية والممارسات التي تهدف إلى جعل النماذج أكثر وضوحًا للأشخاص الذين يعملون عليها. لشخص ما يتم اتهامه زورًا، يكون للقابلية للشرح معنى آخر وضرورة. نحن جميعًا بحاجة إلى قابلية للشرح بمعنى جعل القرارات التجارية أو الحكومية التي تقوم عليها النماذج واضحة. على الأقل في الولايات المتحدة، سيكون هناك دائمًا توتر بين القابلية للشرح – حق الإنسان في المعرفة – وحق المنظمة في التنافس والابتكار. المدققون والمنظمون بحاجة إلى مستوى مختلف من القابلية للشرح. نناقش هذا بالتفصيل في معضلة الذكاء الاصطناعي.

يمكنك مشاركة آرائك حول أهمية مساءلة أصحاب المصلحة (شركات الذكاء الاصطناعي) عن الكود الذي يصدرونه إلى العالم؟

حتى الآن، على سبيل المثال، في حادثة تصادم سيارة ذاتية القيادة في تيمبي، أريزونا، التي قتلت راكبًا، تم مساءلة المشغل. ذهب فرد إلى السجن. في النهاية، كانت فشلًا تنظيميًا.

عندما ينهار جسر، يتم مساءلة المهندس الميكانيكي. هذا لأن المهندسين الميكانيكيين يتم تدريبهم وتدريبهم بشكل مستمر ومحاسبة من قبل مهنتهم. لم يتم تدريب مهندسي الكمبيوتر.

هل يجب أن يتم تدريب أصحاب المصلحة، بما في ذلك شركات الذكاء الاصطناعي، على اتخاذ قرارات أفضل وزيادة المسؤولية؟

ركز كتاب معضلة الذكاء الاصطناعي كثيرًا على كيفية قيام شركات مثل جوجل وميتا بجمع واستغلال بياناتنا الشخصية. هل يمكنك مشاركة مثال عن إساءة استخدام كبير لبياناتنا التي يجب أن تكون على علم الجميع بها؟

من معضلة الذكاء الاصطناعي، صفحة 67 وما يليها:

تواصل ظهور حالات جديدة للاستخدام غير المشروع لبيانات الشخصية، وكثير منها يتضمن استخدامًا خفيًا للتعرف على الوجه. في ديسمبر 2022، نشرت مجلة MIT Technology Review تقارير عن ممارسة طويلة الأمد لشركة iRobot. تسجل روبوتات المنزل روبوتات روومبا صورًا و مقاطع فيديو في منازل متطوعي اختبار البيتا، مما يعني بالضرورة جمع صور وصور شخصية وعائلية حميمة. يتم مشاركة هذه الصور، دون علم المتطوعين، مع مجموعات خارج البلاد. في حالة واحدة على الأقل، تم نشر صورة لشخص على المرحاض على فيسبوك. في غضون ذلك، في إيران، بدأت السلطات في استخدام بيانات من أنظمة التعرف على الوجه لتتبع واعتقال النساء اللواتي لا يرتدين الحجاب. 16

لا داعي لتطويل هذه القصص. هناك الكثير منها. من المهم، مع ذلك، تحديد التأثير التراكمي للعيش بهذه الطريقة. نخسر شعورنا بالسيطرة على حياتنا عندما نشعر أن معلوماتنا الشخصية قد يتم استخدامها ضدنا في أي وقت دون تحذير.

مفهوم خطير تم طرحه هو كيف تم تصميم عالمنا ليكون بدون احتكاك، مع تعريف الاحتكاك بأنه “أي نقطة في رحلة العميل مع شركة حيث يصطدم بشيء يبطئه أو يسبب له عدم رضا”. كيف يمكن أن يؤدي توقعنا لتجربة بدون احتكاك إلى الذكاء الاصطناعي الخطير؟

في نيوزيلندا، اقترح روبوت وجبة باك إن سافي وصفة ستنتج غاز الكلور إذا تم استخدامها. تم الترويج لهذا كطريقة للعملاء لاستخدام المواد الغذائية المتبقية وتوفير المال.

الاحتكاك الخالي من الاحتكاك يخلق وهمًا من السيطرة. إنه أسرع وأسهل الاستماع إلى التطبيق أكثر من النظر إلى وصفة الجدة. الناس يتبعون مسار أقل مقاومة ولا يدركون إلى أين يأخذهم.

الاحتكاك، من ناحية أخرى، هو خلاق. أنت تشارك. هذا يؤدي إلى سيطرة حقيقية. السيطرة الحقيقية تتطلب انتباهًا وعملاً – وفي حالة الذكاء الاصطناعي – القيام بتحليل مكلف لتحليل التكلفة والفائدة.

مع وهم السيطرة، يبدو أننا نعيش في عالم حيث أنظمة الذكاء الاصطناعي تُحفز البشر، بدلاً من أن يبقى البشر تحت السيطرة الكاملة. ما هي بعض الأمثلة التي يمكن أن تُقدمها حول البشر الذين يعتقدون أن لديهم السيطرة، بينما في الواقع لا يملكون أي سيطرة؟

سان فرانسيسكو الآن، مع سيارات الأجرة التي تقود نفسها. يثير فكرة سيارات الأجرة التي تقود نفسها مشاعر متناقضة: إثارة (“سيارات أجرة بسعر أقل!”) وخوف (“هل سوف تصطدم بي؟”). لذلك، يُقترح العديد من المنظمين أن يتم اختبار السيارات مع أشخاص فيها، يمكنهم التحكم في السيارات. للأسف، قد لا يكون وجود أشخاص على الانتباه، جاهزين لتعطيل الأنظمة في الوقت الفعلي، اختبارًا جيدًا لسلامة العامة. غالبًا ما يكون الاعتقاد الزائد ديناميكية شائعة مع أنظمة الذكاء الاصطناعي. كلما زادت استقلالية النظام، زادت ثقة مشغليه فيه، ولم يلقيوا بالًا تامًا. نحصل على الملل من مراقبة هذه التكنولوجيا. عندما يحدث حادث، لا نتوقع ذلك، وغالبًا لا نستجيب في الوقت المناسب.

كان هناك الكثير من البحث الذي تم إجراؤه لهذا الكتاب، هل هناك شيء قد فاجأك؟

شيء واحد فاجأنا حقًا هو أن الناس في جميع أنحاء العالم لا يستطيعون الاتفاق على من يجب أن يعيش ومن يجب أن يموت في 模拟 محرك السيارة ذاتية القيادة من محرك السيارة ذاتية القيادة. إذا لم نستطع الاتفاق على ذلك، فمن الصعب أن نتخيل أننا سوف يكون لدينا حكم عالمي موحد أو معايير عالمية لأنظمة الذكاء الاصطناعي.

كلاكما يصفهما بأنهما رائدا أعمال، كيف سيؤثر ما تعلمتهما عليهما في جهودكما المستقبلية؟

ممارسة استشارة الذكاء الاصطناعي موجهة نحو مساعدة المنظمات على النمو مسؤولية مع التكنولوجيا. المحامون والمهندسون والعلماء الاجتماعيون والفكريون هم جميعًا أصحاب مصلحة في مستقبل الذكاء الاصطناعي. في عملنا، نجمع كل هذه المنظورات معًا ونمارس الاحتكاك الإبداعي لإيجاد حلول أفضل. لقد طوّرنا إطارات مثل حساب المخاطر المتعمدة لمساعدتنا على التنقل في هذه القضايا.

شكرًا على الإجابات الرائعة، القراء الذين يرغبون في التعلم أكثر يجب أن يزوروا معضلة الذكاء الاصطناعي.