مقابلات

جولييت بويل وأرت كلاينر، مؤلفا كتاب معضلة الذكاء الاصطناعي – سلسلة مقابلات

Antoine Tardif
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةيؤكد كتاب "معضلة الذكاء الاصطناعي" أن المسؤولية الحقيقية تتطلب تدقيق القرارات البشرية…
عرض المزيد
  • يؤكد كتاب "معضلة الذكاء الاصطناعي" أن المسؤولية الحقيقية تتطلب تدقيق القرارات البشرية الخفية وراء أنظمة الذكاء الاصطناعي، وليس فقط تدقيق شفرتها البرمجية.
  • تصميمات الذكاء الاصطناعي السلسة تخلق أوهاماً خطيرة من السيطرة من خلال تشجيع الاعتماد السلبي على المطالبات الآلية.
  • يكشف الخلاف العالمي حول الخيارات الأخلاقية الأساسية للسيارات ذاتية القيادة عن استحالة تحقيق حوكمة عالمية موحدة للذكاء الاصطناعي.

كتاب معضلة الذكاء الاصطناعي من تأليف جولييت بويل وأرت كلاينر.

جولييت بويل هي مؤلفة ومتخصصة في التلفزيون مع أكثر من 9,000 برنامج مباشر، ومتخصصة في التكنولوجيا وعالمة اجتماع. وهي أيضًا معلقة على قناة بلومبرج تي في / شبكات الأخبار التجارية ومحاضرة في المؤتمرات التي نظمتها The Economist ومؤسسة التمويل الدولية. وقد حصلت محاضرة TED على أكثر من 130 ألف مشاهدة على يوتيوب. تحدد جولييت الأنماط والممارسات للقادة الناجحين الذين يعتمدون على الذكاء الاصطناعي والأخلاقيات والبيانات للفوز. وهي عضو هيئة تدريس في جامعة نيويورك حيث تدرّس أربع دورات، بما في ذلك مهارات التصميم لوسائل الإعلام المسؤولة، وهي دورة قائمة على كتابها.

أرت كلاينر هو كاتب ومحرر ومستقبلي. من بين كتبه عصر الهراطقة، من يهم حقًا، الامتياز والنجاح، والحكماء. كان محررًا لمنشور strategy+business، المجلة الحائزة على جوائز التي نشرتها PwC. أرت هو أيضًا عضو هيئة تدريس طويل الأمد في NYU-ITP و IMA، حيث تشمل دوراته التدريس المشترك لتقنية مسؤولة ومستقبل الإعلام.

“معضلة الذكاء الاصطناعي” هو كتاب يركز على مخاطر تقنية الذكاء الاصطناعي في الأيدي الخاطئة مع الاعتراف بالفوائد التي يقدمها الذكاء الاصطناعي للمجتمع.

تظهر مشاكل لأن التكنولوجيا الأساسية معقدة لدرجة أن من الصعب على المستخدم النهائي فهم آليات نظام العلبة المغلقة.

من أكثر القضايا المهمة التي تم التأكيد عليها هي كيف أن تعريف الذكاء الاصطناعي المسؤول دائمًا يتغير، حيث أن القيم الاجتماعية غالبًا لا تظل متسقة مع مرور الوقت.

استمتعت بقراءة “معضلة الذكاء الاصطناعي”. إنه كتاب لا يبالغ في مخاطر الذكاء الاصطناعي ولا يتعمق في المخاطر المحتملة للذكاء الاصطناعي العام (AGI). بدلاً من ذلك، يتعلم القراء عن الطرق المذهلة التي يتم استخدام بياناتنا الشخصية دون معرفتنا، بالإضافة إلى بعض القيود الحالية للذكاء الاصطناعي وأسباب القلق.

فيما يلي بعض الأسئلة التي صممتها لتظهر للقراء ما يمكنهم توقع حدوثه من هذا الكتاب الرائد.

ما الذي أثارك في البداية لكتابة “معضلة الذكاء الاصطناعي”؟

ذهبت جولييت إلى كولومبيا جزئيًا لدراسة حدود وإمكانيات تنظيم الذكاء الاصطناعي. لقد سمعت من أصدقائها الذين يعملون على مشاريع الذكاء الاصطناعي عن التوتر المحتمل في تلك المشاريع. وتوصلت إلى استنتاج مفاده أن هناك معضلة الذكاء الاصطناعي، وهو مشكلة أكبر بكثير من التنظيم الذاتي. لقد طوّرت نموذج Apex Benchmark – وهو نموذج لاتجاهات القرارات المتعلقة بالذكاء الاصطناعي نحو مسؤولية منخفضة بسبب التفاعلات بين الشركات والمجموعات داخل الشركات. أدى ذلك إلى أطروحتها.

عمل أرت مع جولييت على العديد من مشاريع الكتابة. لقد قرأ أطروحتها وقال: “لديك كتاب هنا”. فدعته جولييت إلى المشاركة في تأليفه. عند العمل عليه معًا، اكتشفوا أن لديهم وجهات نظر مختلفة جدًا، لكنهما يشاركان وجهة نظر قوية مفادها أن هذه الظاهرة المعقدة والمخاطرة للغاية ستحتاج إلى فهم أفضل حتى يتمكن الأشخاص الذين يستخدمونها من التصرف بطريقة أكثر مسؤولية وفعالية.

إحدى المشاكل الأساسية التي تم التأكيد عليها في معضلة الذكاء الاصطناعي هي أنه من المستحيل حاليًا فهم ما إذا كان نظام الذكاء الاصطناعي مسؤولاً أو إذا كان يؤدي إلى عدم المساواة الاجتماعية من خلال دراسة كود المصدر فقط. ما مدى خطورة هذه المشكلة؟

المشكلة ليست في الغالب مع كود المصدر. كما تشير كاثي أونيل، عندما يكون هناك نظام مغلق، ليس فقط الكود. بل النظام الاجتماعي والتقني – القوى البشرية والتكنولوجية التي تشكل بعضها البعض – التي تحتاج إلى استكشافها. المنطق الذي بنى ونشر نظام الذكاء الاصطناعي يتضمن تحديد الغرض، تحديد البيانات، تحديد الأولويات، إنشاء نماذج، وضع إرشادات وحدود للتعلم الآلي، وتحديد متى وكيف يجب على الإنسان التدخل. هذا هو الجزء الذي يحتاج إلى أن يصبح شفافًا – على الأقل للمراقبين والمدققين. مخاطر عدم المساواة الاجتماعية والمخاطر الأخرى أكبر بكثير عندما تكون هذه الأجزاء من العملية مخفية. لا يمكنك إعادة هندسة منطق التصميم من كود المصدر.

هل يمكن أن يعالج التركيز على الذكاء الاصطناعي القابل للشرح (XAI) هذه المشكلة؟

لمهندسي البرمجيات، الذكاء الاصطناعي القابل للشرح هو حاليًا مجموعة من القيود التكنولوجية والممارسات التي تهدف إلى جعل النماذج أكثر وضوحًا للأشخاص الذين يعملون عليها. بالنسبة لشخص يُتّهم زورًا، تكتسب قابلية الشرح معنى مختلفًا وإلحاحًا خاصًا، إذ يحتاج إليها ليتمكن من الاعتراض والدفاع عن نفسه. نحن جميعًا بحاجة إلى قابلية للشرح بمعنى جعل القرارات التجارية أو الحكومية التي تقوم عليها النماذج واضحة. على الأقل في الولايات المتحدة، سيكون هناك دائمًا توتر بين القابلية للشرح – حق الإنسان في المعرفة – وحق المنظمة في التنافس والابتكار. المدققون والمنظمون بحاجة إلى مستوى مختلف من القابلية للشرح. نناقش هذا بالتفصيل في معضلة الذكاء الاصطناعي.

يمكنك مشاركة آرائك حول أهمية مساءلة أصحاب المصلحة (شركات الذكاء الاصطناعي) عن الكود الذي يصدرونه إلى العالم؟

حتى الآن، على سبيل المثال، في حادثة تصادم سيارة ذاتية القيادة في تيمبي، أريزونا، التي قتلت إحدى المارة، تمت مساءلة المشغّلة وحُكم عليها بثلاث سنوات من المراقبة القضائية تحت الإشراف. في النهاية، كان ذلك فشلًا تنظيميًا.

عندما ينهار جسر، يتم مساءلة المهندس الميكانيكي. هذا لأن المهندسين الميكانيكيين يتم تدريبهم وتدريبهم بشكل مستمر ومحاسبة من قبل مهنتهم. أما مهندسو الحاسوب فلا يخضعون للمساءلة والتدريب المستمر نفسيهما.

هل يجب أن يتم تدريب أصحاب المصلحة، بما في ذلك شركات الذكاء الاصطناعي، على اتخاذ قرارات أفضل وزيادة المسؤولية؟

ركز كتاب معضلة الذكاء الاصطناعي كثيرًا على كيفية قيام شركات مثل جوجل (GOOGL ) وميتا بجمع واستغلال بياناتنا الشخصية. هل يمكنك مشاركة مثال عن إساءة استخدام كبير لبياناتنا التي يجب أن تكون على علم الجميع بها؟

من معضلة الذكاء الاصطناعي، صفحة 67 وما يليها:

تواصل حالات جديدة من إساءة الاستخدام المنهجي للبيانات الشخصية الظهور، وكثير منها يتضمن استخدامًا خفيًا للتعرف على الوجه. في ديسمبر 2022، نشرت مجلة MIT Technology Review تقارير عن ممارسة طويلة الأمد لشركة iRobot. تسجل روبوتات روومبا المنزلية صورًا و مقاطع فيديو في منازل متطوعي اختبار البيتا، مما يعني بالضرورة جمع صور شخصية وعائلية شديدة الخصوصية. يتم مشاركة هذه الصور، دون علم المتطوعين، مع مجموعات خارج البلاد. في حالة واحدة على الأقل، تم نشر صورة لشخص على المرحاض على فيسبوك (META ). في غضون ذلك، في إيران، بدأت السلطات في استخدام بيانات من أنظمة التعرف على الوجه لتتبع واعتقال النساء اللواتي لا يرتدين الحجاب. 16

لا داعي لتطويل هذه القصص. هناك الكثير منها. من المهم، مع ذلك، تحديد التأثير التراكمي للعيش بهذه الطريقة. نخسر شعورنا بالسيطرة على حياتنا عندما نشعر أن معلوماتنا الشخصية قد يتم استخدامها ضدنا في أي وقت دون تحذير.

مفهوم خطير تم طرحه هو كيف تم تصميم عالمنا ليكون بدون احتكاك، مع تعريف الاحتكاك بأنه “أي نقطة في رحلة العميل مع شركة حيث يصطدم بشيء يبطئه أو يسبب له عدم رضا”. كيف يمكن أن يؤدي توقعنا لتجربة بدون احتكاك إلى الذكاء الاصطناعي الخطير؟

في نيوزيلندا، اقترح روبوت وجبة باك إن سافي وصفة ستنتج غاز الكلور إذا تم استخدامها. تم الترويج لهذا كطريقة للعملاء لاستخدام المواد الغذائية المتبقية وتوفير المال.

غياب الاحتكاك يخلق وهمًا من السيطرة. إنه أسرع وأسهل الاستماع إلى التطبيق أكثر من النظر إلى وصفة الجدة. الناس يتبعون مسار أقل مقاومة ولا يدركون إلى أين يأخذهم.

الاحتكاك، من ناحية أخرى، هو خلاق. أنت تشارك. هذا يؤدي إلى سيطرة حقيقية. السيطرة الحقيقية تتطلب انتباهًا وعملاً – وفي حالة الذكاء الاصطناعي – إجراء تحليل موسع للتكاليف والفوائد.

مع وهم السيطرة، يبدو أننا نعيش في عالم حيث أنظمة الذكاء الاصطناعي تُحفز البشر، بدلاً من أن يحتفظ البشر بالسيطرة الكاملة. ما هي بعض الأمثلة التي يمكن أن تُقدمها حول البشر الذين يعتقدون أن لديهم السيطرة، بينما في الواقع لا يملكون أي سيطرة؟

سان فرانسيسكو الآن، مع سيارات الأجرة التي تقود نفسها. يثير فكرة سيارات الأجرة التي تقود نفسها مشاعر متناقضة: إثارة (“سيارات أجرة بسعر أقل!”) وخوف (“هل سوف تصطدم بي؟”). لذلك، يُقترح العديد من المنظمين أن يتم اختبار السيارات مع أشخاص فيها، يمكنهم التحكم في السيارات. للأسف، قد لا يكون وجود أشخاص على الانتباه، جاهزين لتعطيل الأنظمة في الوقت الفعلي، اختبارًا جيدًا لسلامة العامة. غالبًا ما يكون الإفراط في الثقة ديناميكية شائعة مع أنظمة الذكاء الاصطناعي. كلما زادت استقلالية النظام، زادت ثقة مشغليه فيه، ولم يلقيوا بالًا تامًا. نحصل على الملل من مراقبة هذه التكنولوجيا. عندما يحدث حادث، لا نتوقع ذلك، وغالبًا لا نستجيب في الوقت المناسب.

كان هناك الكثير من البحث الذي تم إجراؤه لهذا الكتاب، هل هناك شيء قد فاجأك؟

شيء واحد فاجأنا حقًا هو أن الناس في جميع أنحاء العالم لا يستطيعون الاتفاق على من يجب أن يعيش ومن يجب أن يموت في محاكاة Moral Machine لتصادم سيارة ذاتية القيادة. إذا لم نستطع الاتفاق على ذلك، فمن الصعب أن نتخيل أننا سوف يكون لدينا حكم عالمي موحد أو معايير عالمية لأنظمة الذكاء الاصطناعي.

تصفان نفسيكما بأنكما رائدا أعمال، فكيف سيؤثر ما تعلمتماه وكتبتما عنه في جهودكما المستقبلية؟

ممارسة استشارة الذكاء الاصطناعي موجهة نحو مساعدة المنظمات على النمو بمسؤولية مع التكنولوجيا. المحامون والمهندسون والعلماء الاجتماعيون والفكريون هم جميعًا أصحاب مصلحة في مستقبل الذكاء الاصطناعي. في عملنا، نجمع كل هذه المنظورات معًا ونمارس الاحتكاك الإبداعي لإيجاد حلول أفضل. لقد طوّرنا إطارات مثل حساب المخاطر المتعمدة لمساعدتنا على التنقل في هذه القضايا.

شكرًا على الإجابات الرائعة، القراء الذين يرغبون في التعلم أكثر يجب أن يزوروا معضلة الذكاء الاصطناعي.

أنطوان قائد صاحب رؤية وشريك مؤسس في Unite.AI، يدفعه شغف راسخ بتشكيل مستقبل الذكاء الاصطناعي والروبوتات وتعزيزه. وبصفته رائد أعمال أسس عدة مشروعات، يؤمن بأن الذكاء الاصطناعي سيُحدث تحولًا في المجتمع يضاهي ما أحدثته الكهرباء، وكثيرًا ما يتحدث بحماس عن إمكانات التقنيات التحويلية والذكاء الاصطناعي العام (AGI).

وبصفته مستشرفًا للمستقبل، يكرس جهوده لاستكشاف كيف ستشكل هذه الابتكارات عالمنا. وهو أيضًا مؤسس Securities.io، وهي منصة تركز على الاستثمار في التقنيات المتطورة التي تعيد تعريف المستقبل وتعيد تشكيل قطاعات بأكملها.