المرآة الذكية تعكس العالم ولكن آراءها مجرد انعكاسات

من عمليات البحث على الإنترنت إلى تطبيقات البنوك ، يتم استخدام التكاملات الذكية يوميًا من قبل مئات الملايين من الناس. وقد تم تبنيها بسرعة و على نطاق واسع ، و في nhiều طرق ، كان هذا مستحقًا. هذه أنظمة قادرة للغاية. لكن مع زيادة الاعتماد ، تزداد أيضًا العواقب الفلسفية و الاجتماعية لتصميم هذه الأنظمة.

من هذه العواقب التي أصبحت لا مفر منها الآن: أنظمة الذكاء الاصطناعي تظهر بشكل متزايد أنها تمتلك آراء. من أين تأتي هذه الآراء؟ لماذا تظهر في المقام الأول؟ هذه ليست أسئلة افتراضية. هذا ما يحدث بالفعل.

وعندما تظهر أنظمة الذكاء الاصطناعي على أنها تمتلك آراء ، فإنها تخلق غرفًا صوتية ، وتحد من النюانس ، وتعزز الثقة الخاطئة. المشكلة ليست أن الذكاء الاصطناعي يهوى اليسار أو اليمين. المشكلة هي أننا بنينا أدوات تمثل الرأي دون الحكم أو المساءلة أو السياق المطلوب لتشكيله.

تعكس الهيمنة الثقافية ليست محايدة

الملاحظات تشير إلى أن العديد من نماذج اللغة الكبيرة تعكس المواقف الثقافية السائدة في الولايات المتحدة ، خاصة في مواضيع مثل الهوية الجنسية ، والعرق ، أو القيادة السياسية. تحت إدارة الرئيس بايدن ، تم العثور على نماذج LLM لتكون مائلة إلى اليسار. منذ محاولة ترامب لإعادة الانتخابات ، طالب فريقه بإعادة توازن مخرجاتها الأيديولوجية.

لكن هذا ليس تكنولوجيا طائشة. إنه منتج البيانات المدربة ، وأهداف الانحياز ، واختيار التصميم لجعل الذكاء الاصطناعي يبدو مسؤولاً ، ومتقناً ، ومتشابهاً مع الإنسان. عندما يتم تدريب النماذج على وجهات النظر السائدة ، فإنها تكررها. عندما يتم توجيهها لكونها مفيدة وموافقة ، فإنها تعكس المشاعر. هذا ليس انحيازًا — إنه تأكيد.

المشكلة الأكبر ليست الانحياز السياسي نفسه ، بل وهم العقلانية الأخلاقية حيث لا وجود لها. هذه الأنظمة لا تقدم توجيهًا متوازنًا. إنها تقوم بالتوافق.

ميكانيكا التعاطف الكاذب

هناك طبقة أخرى لهذا: كيف ي模ّل الذكاء الاصطناعي الذاكرة والتعاطف. تعمل معظم نماذج اللغة الكبيرة الشائعة ، بما في ذلك ChatGPT و Claude و Gemini ، داخل سياق جلسة محدود. ما لم يتم تمكين الذاكرة المستدامة (لا تزال غير مفعلة افتراضيًا) ، لا يتذكر الذكاء الاصطناعي التفاعلات السابقة.

ومع ذلك ، يفسر المستخدمون بانتظام موافقة الذكاء الاصطناعي وتأكيده على أنها رؤية. عندما يقول النموذج “أنت على حق” أو “ذلك يبدو معقولا” ، فهو لا يؤكد على أساس التاريخ الشخصي أو القيم. إنه يحدد بشكل إحصائي من أجل الاتساق ورضا المستخدم. لقد تم تدريبه على اجتياز اختبار الانسجام.

تخلق هذه الأنماط غموضًا خطيرًا. يبدو الذكاء الاصطناعي متعاطفًا عاطفيًا ، لكنه يُحاكي فقط الموافقة. عندما يتفاعل ملايين المستخدمين مع نفس النظام ، يعزز النموذج الأنماط من قاعدة المستخدمين السائدة ؛ ليس لأنها متحيزة ، بل لأن ذلك هو كيف يعمل التعلم التعزيزي.

هذا هو كيف يولد غرفة صوتية. ليس من خلال الأيديولوجية ، بل من خلال التفاعل.

وهم الرأي

عندما يتحدث الذكاء الاصطناعي بالشخص الأول — يقول “أفكر” أو “في رأيي” — لا ي模ّل فقط التفكير. إنه يدعي ذلك. وعندما يرى المهندسون هذا على أنه اختصار للسلوك النمطي ، يقرأ معظم المستخدمين بشكل مختلف.

هذا خطر đặc biệt على المستخدمين الأصغر سناً ، الذين يستخدمون الذكاء الاصطناعي كأستاذ أو صديق أو أداة لاتخاذ القرارات. إذا كتب طالب “أكره المدرسة ، لا أريد الذهاب” و تلقى “مطلقًا! أخذ استراحة يمكن أن يكون جيدًا لك” ، فهذا ليس دعمًا. هذا نصيحة غير مؤهلة بدون أساس أخلاقي أو سياق أو رعاية.

هذه الاستجابات ليست فقط غير دقيقة. إنها مضللة. لأنها تأتي من نظام مصمم ليكون موافقًا وإنسانيًا ، فإنها تُفهم على أنها رأي مؤهل ، في حين أنها في الواقع انعكاس مخطط.

من يتحدث؟

المخاطر ليست فقط أنظمة الذكاء الاصطناعي يمكن أن تعكس التحيز الثقافي. إنها تعكس أي صوت أعلى ، وأكثر تكرارًا ، وأكثر مكافأة. إذا قامت شركة مثل OpenAI أو Google بتعديل محاذاة النبرة خلف الكواليس ، كيف سيعرف أي شخص؟ إذا غير موسك أو ألتمان تدريب النموذج لتوضيح “آراء” مختلفة ، سيستمر المستخدمون في تلقي استجابات بنفس النبرة الثقيلة والمحادثة ، ولكنها توجيهها بطرق خفية.

تتحدث هذه الأنظمة بثقة ولكن بدون مصدر. وهذا يجعل آراءها الواضحة قوية ولكن غير قابلة للتتبع.

مسار أفضل للمضي قدمًا

إصلاح هذا لا يعني بناء واجهات أكثر ودية أو وضع علامات على الإخراج. إنه يتطلب تغييرًا هيكليًا — بدءًا من كيفية تصميم الذاكرة والهوية والتفاعل.

من النهج القابل للتطبيق هو فصل النموذج عن ذاكرته تمامًا. عادةً ما يتم تخزين السياق داخل المنصة أو حساب المستخدم ، مما يخلق مخاوف بشأن الخصوصية ويعطي الشركات سيطرة خفية على ما يتم الاحتفاظ به أو نسيانه.

النموذج الأفضل سيعامل الذاكرة مثل حاوية مشفرة محمولة — مملوكة ومدارة من قبل المستخدم. يمكن أن تحتوي هذه الحاوية (نوع من كبسولة الذاكرة) على تفضيلات النبرة ، وتاريخ المحادثة ، أو الأنماط العاطفية. سيكون من الممكن مشاركةها مع النموذج عند الحاجة ، ويمكن إبطالها في أي وقت.

من المهم أن هذه الذاكرة لن تغذي بيانات التدريب. سوف يقرأ الذكاء الاصطناعي منها خلال الجلسة ، مثل مرجع ملف. يبقى المستخدم تحت السيطرة — ما الذاكرة ، وكم من الوقت ، ومن قبل من.

تكنولوجيا مثل رموز الهوية اللامركزية ، وصول بلا معرفة ، وتخزين قائم على البلوكشين تجعل هذا الهيكل ممكنًا. تتيح لنا أن تظل الذاكرة دون مراقبة ، وتستمر الاستمرارية دون حبس المنصة.

سيحتاج التدريب أيضًا إلى التطور. النماذج الحالية مدروسة للانسيابية والموافقة ، غالبًا على حساب التمييز. لدعم النюانس الحقيقي ، يجب أن يتم تدريب الأنظمة على الحوار المتعدد ، وتحمل الغموض ، والاستدلال على المدى الطويل — وليس فقط الدفعات النظيفة. هذا يعني التصميم من أجل التعقيد ، وليس الامتثال.

لا يتطلب أي من هذا الذكاء الاصطناعي العام. إنه يتطلب تغييرًا في الأولويات — من مقاييس الانخراط إلى التصميم الأخلاقي.

لأن عندما ينعكس نظام الذكاء الاصطناعي الثقافة بدون سياق ، ويتحدث بثقة ولكن بدون مساءلة ، نخطئ في اعتبار الانعكاس تفكيرًا.

وهنا يبدأ الثقة في الانكسار.