التهويل بشأن نهاية العالم بفعل الذكاء الاصطناعي ومقاهي أجواء الذكاء الاصطناعي: أسئلة الحوكمة التي لا يسعنا تجاهلها

هل مصيرنا الهلاك؟ هل الذكاء الاصطناعي واعٍ؟ ولماذا تفتح شركات الذكاء الاصطناعي مقاهي؟

هذه أسئلة لافتة ومقلقة، وصعبة حقًا، ولا سيما مسألة الوعي. كما أنها تشترك في قدرتها على جذبنا إلى أكثر جوانب قصة الذكاء الاصطناعي إثارةً للتكهنات أو استدرارًا للمشاعر. وفي الوقت نفسه، تؤثر الأسئلة الأقل إثارةً في حياة الناس بالفعل: من يتحمل المسؤولية عندما يتسبب نظام ذكاء اصطناعي في ضرر؟ وما البيانات والعمل اللذان أتاحا تطويره؟ وما القرارات التي ينبغي السماح له بالتأثير فيها؟ ومن له حق إبداء الرأي؟

لا أفترض بالضرورة أن كل من يثير مخاطر وجودية، أو يناقش وعي الآلات، أو يفتتح مقهى، يفعل ذلك تهربًا من تلك الأسئلة. فكل موضوع منها يستحق اهتمامنا في حد ذاته. لكن الانتباه مورد محدود. وعندما تتصدر قصة مثيرة المشهد، يجدر بنا أن نسأل عمّا غاب عن الأنظار.

جاذبية الذكاء الاصطناعي الملموس

بدأت صناعة الذكاء الاصطناعي تمنح منتجاتها، التي لا تتجسد في معظمها في أشياء مادية، عناوين فعلية. فقد دعت مساحة «Zero Slop Zone» التي افتتحتها Anthropic في نيويورك الزوار إلى التمهل والاستمتاع بالقهوة والكتب والورق والقلم؛ وافتتحت Perplexity مقهى Cafe Curious في سيول، حيث يشكل ذكاء الشركة الاصطناعي جزءًا من التجربة. يصف التناول الإعلامي لمساحة Anthropic المؤقتة ومقهى Perplexity في سيول مسعيين مختلفين لإدخال تقنية مجردة إلى بيئة اجتماعية اعتيادية.

وهذا مفهوم إلى حد ما. فمعظم الناس لا يستطيعون رؤية نموذج لغوي، أو تفحّص البنية التحتية التي تقف وراءه، أو تصوّر ما يحدث بسهولة بين كتابة الطلب والحصول على الإجابة. ويوفر المقهى بديلًا ملموسًا من نوع ما: غرفة وفنجانًا وحديثًا. ويمكنه أن يجعل لقاء شركة وتقنيتها أيسر، وربما أن يسهّل فهمهما.

وهناك جانب آخر أيضًا. فالمكان المادي يجعل الشركة حاضرة في المجتمع. وهو يقول، على أقل تقدير: «نحن هنا، في هذا المكان، في الوقت الراهن». وقد يكون ذلك باعثًا على الاطمئنان في مجال تتغير فيه المنتجات والسياسات والتوقعات بسرعة. لكن الظهور لا يعني المساءلة. فقد تجعل المساحة المرحّبة التقنية مألوفة أكثر، من دون أن تخبرنا كيف دُرّبت، أو في أي الحالات يمكن الاعتماد عليها، أو ما سبل الانتصاف المتاحة للشخص إذا أخطأت في أمر مهم.

وهذا التمييز يعيد إلى الأذهان فكرةً أعود إليها منذ سنوات: التجارب الرقمية ليست رقمية فحسب. فهي تلتقي بالناس في أماكن وعلاقات ومؤسسات. ولا يقتصر سؤال التصميم على كيفية جعل نظام الذكاء الاصطناعي يبدو سهل التعامل معه، بل يتناول ما إذا كانت التجربة تساعد الناس على فهم حدود النظام والاحتفاظ بقدرتهم الفعلية على التصرف.

جدل الوعي — والناس المتأثرون بالفعل

وينطبق التمييز نفسه على النقاشات الدائرة حول وعي الذكاء الاصطناعي. فهناك خلاف حقيقي حول إمكان وعي الآلات، ونوع الأدلة التي يمكن أن تثبت وجوده، وكيف ينبغي لعدم اليقين أن يؤثر في مسؤولياتنا. وتدافع حجة أنيل سيث في Noema عن ضرورة عدم التعامل مع الذكاء والوعي على أنهما مترادفان؛ كما يوضح تقرير حديث في The Guardian أسباب استمرار الجدل حول هذه المسألة. فهذا نقاش لا يفضي إلى إجابات سهلة.

لكن عدم اليقين بشأن الحياة الداخلية للآلة لا يجعل الأسئلة الراهنة المتعلقة بتبعاتها على البشر غير محسومة. فالمسؤولية لا تبدأ فقط عندما نتفق على ماهية الوعي، بل تبدأ عندما تطوّر المؤسسات أنظمة تؤثر في الناس وتنشرها وتحقق الأرباح منها.

لنتأمل الأسئلة التي يمكننا بحثها الآن. ما المعلومات التي استُخدمت لتدريب النظام، وفي ظل أي ظروف؟ ومن يضطلع بالعمل اللازم لإعداد مخرجاته والتحقق منها؟ وكيف يكون أداؤه لدى الفئات المختلفة؟ وماذا يحدث عند استخدام نظام في الرعاية الصحية أو التوظيف أو التعليم أو الخدمات العامة؟ وهل يستطيع الشخص الاعتراض على توصية آلية، والتواصل مع مسؤول بشري يتخذ القرار، والحصول على تفسير مفيد؟

هذه ليست مخاوف افتراضية. فتستعرض مراجعة للتحيز في الذكاء الاصطناعي الطبي كيف يمكن للبيانات المتحيزة وخيارات التصميم أن تسهم في قرارات سريرية غير منصفة. أما الأبحاث المتعلقة بالذكاء الاصطناعي والتوظيف، فلا تزال في طور التطور: إذ يقدم تحليل Anthropic لسوق العمل إحدى طرق قياس مدى التعرض للتأثير، فيما يحذر استعراض Hamilton Project من أن الأدلة المتعلقة بالتأثيرات الواسعة في سوق العمل لا تزال غير مكتملة. وتشير هذه المصادر إلى اتجاهات مختلفة بشأن ما يمكننا استنتاجه اليوم، لكنها تؤكد ضرورة قياس الآثار بدلًا من إحلال روايات واثقة محل الأدلة.

وثمة خطر مرتبط بكيفية حديثنا عن الأنظمة. فالأسماء والأصوات وأساليب المحادثة الشبيهة بالبشر قد تجعل الذكاء الاصطناعي يبدو أقرب إلى شخص منه إلى منتج. وقد يؤثر ذلك في الثقة وفي مدى تسليم الناس بصحة إجاباته. ومن المعقول التساؤل عما إذا كان الحديث عن الوعي أو التصميم المجسِّد للصفات البشرية يصرف الانتباه عن المؤسسات التي تحدد أهداف النظام وحدوده. وترى إحدى التحليلات في MIT Technology Review أن السرديات المتعلقة بالوعي قد تحجب أسئلة مسؤولية الشركات. وهذا طرح بشأن آثار طريقة التأطير، لا دليل على أن كل من يثير المسألة يضمر دافعًا خفيًا.

التهويل بشأن الكارثة ليس خطةً للحوكمة

تستحق المخاطر الوجودية اهتمامًا جادًا. ولا تقل أهمية العواقب الكارثية لمجرد وجود أضرار أقرب زمنيًا، كما لا تقل أهمية الأضرار القريبة لمجرد احتمال وقوع كارثة. ولسنا مضطرين إلى اختيار أفق زمني واحد وتجاهل الآخر.

لكن عندما يصبح سؤال «هل نحن محكوم علينا بالهلاك؟» محور الحديث بأكمله، تعود المخاطر طويلة الأمد إلى إزاحة الأضرار الراهنة. وقد يبدو الحديث عن الهلاك حكمًا نهائيًا لا دعوةً إلى العمل: فإذا كانت النتيجة حتمية، فلماذا نبذل عناء العمل الشاق لتغييرها؟ يروي تقرير في The New Yorker عن مقرر دراسي حول المخاطر الوجودية سؤالًا طرحه أحد الطلاب عن «بناء الكاتدرائيات»: لماذا تلتزم ببناء شيء قد يدوم بعد رحيلك إذا كنت تعتقد أن العالم قد ينتهي؟ ليس الجواب أن المخاطر تتلاشى، بل إن عدم اليقين لا يلغي قدرتنا — ولا مسؤوليتنا — على تحديد ما يهم بعد ذلك، والمساعدة في تشكيل ما سيحدث لاحقًا.

هذا ما أعنيه بفلسفتي المسماة «التفاؤل الاستراتيجي». فهي ليست تطمينًا ساذجًا بأن «كل شيء سيكون على ما يرام»، ولا رفضًا للنظر في الأدلة. بل تعني الإقرار بالمخاطر الحقيقية والعمل على الحد منها، وفي الوقت نفسه، بذل جهد جاد من أجل مستقبل يستحق أن نسعى إلى بلوغه. الأمل ليس نقيضًا للصرامة. بل قد يكون ما يبقي الصرامة مرتبطة بالعمل.

أسئلة الحوكمة الكامنة وراء المشهد الاستعراضي

سواء كانت المؤسسة تشتري أداة للذكاء الاصطناعي، أو تطوّر أداة بنفسها، أو تضع سياسات بشأنها، فإن الأسئلة العملية أقل بريقًا من مقهى أو ادعاء بوجود وعي، لكنها أكثر فائدة:

• الغرض: ما المشكلة التي يُفترض أن يحلها النظام، وهل الذكاء الاصطناعي هو الأداة المناسبة لذلك؟
• الأدلة: كيف اختُبر النظام، بما في ذلك مع فئات مختلفة من المستخدمين وفي الحالات الأقل شيوعًا؟
• الحدود: ما القرارات التي يجب أن تبقى بيد الإنسان، وما الأمور التي لا يستطيع النظام إنجازها؟
• المساءلة: من يتحمل المسؤولية عند تعطل النظام، وكيف يمكن للمتضررين الاعتراض؟
• الشفافية: هل يستطيع الناس معرفة متى يُستخدم الذكاء الاصطناعي، وما المعلومات التي أسهمت في تشكيل مخرجاته؟
• الرقابة المستمرة: من يراقب الأداء والبيانات المتغيرة والآثار غير المقصودة بعد إطلاق النظام؟

توفر أطر عمل مثل إطار NIST لإدارة مخاطر الذكاء الاصطناعي للمؤسسات نهجًا منظمًا لتحديد المخاطر وإدارتها على امتداد دورة حياة نظام الذكاء الاصطناعي. ولا يمكن لأي إطار عمل أن يحل محل التقدير أو النقاش العام، لكن الحوكمة تصبح أكثر وضوحًا عندما تُحدَّد المسؤوليات والاختبارات وآليات الانتصاف بجلاء.

ثمة أيضًا جانب مادي ينبغي إخضاعه للحوكمة. فالذكاء الاصطناعي يعتمد على مراكز البيانات والكهرباء والمياه والأراضي والتمويل، لا على الواجهات فحسب. ويثير تناول هيكل تمويل مشروع كبير لمركز بيانات أسئلةً حول كيفية الإفصاح عن مخاطر البنية التحتية، والجهة التي تتحملها في نهاية المطاف. قد يساعد المقهى الناس على التعرف إلى الذكاء الاصطناعي، لكنه لا يستطيع وحده أن يجعل البنية التحتية التي يقوم عليها الذكاء الاصطناعي واضحة لهم.

لذا استمتعوا بالمقهى، واطرحوا الأسئلة الكبيرة عن الوعي، وخذوا المخاطر الكارثية على محمل الجد. ثم عودوا إلى القرارات التي يمكننا فحصها والتأثير فيها الآن: ما الذي يُبنى، ومن المستفيد، ومن يتحمل التكاليف، وما الضمانات القائمة إذا حدث خطأ ما.

ليس المستقبل حكمًا تصدره عناوين الأخبار. بل هو مجموعة من الخيارات — تتخذها الشركات والمؤسسات والحكومات والمجتمعات — التي لا يزال من الممكن مساءلتها وتغييرها. وليس السؤال الأجدى هو ما إذا كنا محكومًا علينا بالهلاك فحسب، بل أيضًا: ما الظروف التي تجعل الذكاء الاصطناعي يخدم ازدهار البشر، وما الذي نحن مستعدون لفعله كي تصبح هذه الظروف واقعًا؟