كيف تقوم المدن بنشر التقنيات الرائدة باستخدام خوارزميات الذكاء الاصطناعي غير المحايدة

اليوم ، تلمس几乎 كل جانب من حياتنا جزءًا من شبكة عبر الإنترنت. في حين أن هذا قد حسّن العديد من جوانب الحياة نفسها ، مثل كيفية ходنا مع أجهزة محمولة يمكنها تقديم لنا المعلومات في أي وقت ، إلا أنه يطرح أيضًا بعض المخاطر.

تتجاوز هذه المخاطر عمليات القرصنة التقليدية وتسرب البيانات إلى حساباتنا البنكية ، على سبيل المثال. أكثر مما أشار إليه هنا هو أن هناك العديد من جوانب حياتنا اليوم التي تتأثر بالخوارزميات المستخدمة بواسطة الذكاء الاصطناعي (AI). نحن نفترض أن هذا الذكاء الاصطناعي يعتمد بشكل طبيعي على خوارزميات تخدم مصلحتنا. ومع ذلك ، ماذا يحدث عندما يدخل نوع الخطأ من التحيز إلى هذه الخوارزميات؟ كيف قد يؤثر ذلك على بعض النتائج؟

ماذا يحدث عندما تسلل الخوارزميات المتحيزة إلى أنظمة الذكاء الاصطناعي؟

لنقدم مثالًا آخر ، على يوتيوب ، يوصي خوارزمية الذكاء الاصطناعي تقريبًا 70٪ من جميع مقاطع الفيديو ، وعلى منصات التواصل الاجتماعي مثل إنستجرام وتيك توك ، النسبة مئوية أعلى. على الرغم من أن هذه الخوارزميات يمكن أن تساعد المستخدمين في العثور على المحتوى الذي يهمهم ، إلا أنها تثير مشاكل خطيرة تتعلق بالخصوصية ، وهناك أدلة متزايدة على أن بعض المحتوى الموصى به الذي يستهلكه الناس عبر الإنترنت خطير بسبب المعلومات الخاطئة أو ربما يحتوي على وجهة نظر معينة مصممة لتحويل تفكير شخص ما أو معتقداته السياسية بشكل خفي.

إنشاء ذكاء اصطناعي متكامل ومرن هو عمل تقني واجتماعي صعب ، ولكنه من أهم الأهمية.

من المنطقي أن يكون للذكاء الاصطناعي تأثير سلبي على القيم الاجتماعية وأنماط استخدام الإنترنت ، مع التركيز على الآثار الإيجابية للتكنولوجيا. للمصادر عبر الإنترنت تأثير كبير على مجتمعنا ، والتحيزات في الخوارزميات عبر الإنترنت سوف تؤدي إلى الظلم ، وتشكيل معتقدات الناس ، ونشر المعلومات الخاطئة ، وتعزيز الصراع بين المجموعات المختلفة.

هنا يأتي “الذكاء الاصطناعي السيئ” بأثر حقيقي على النتائج غير المرغوب فيها وعدم العدالة.

كيف يمكن للذكاء الاصطناعي المتحيز التأثير سلبًا على تقاطعات المرور

خذ تقاطعات المرور كمثال أكثر واقعية. أصبحت أوقات الانتظار الطويلة عند إشارات المرور شيئًا من الماضي بفضل تقنيات الذكاء الاصطناعي الجديدة التي يتم نشرها في الأسواق حول العالم. تستخدم حلول الأولوية للنقل خوارزميات تعتمد على بيانات المرور في الوقت الفعلي وتضبط الإشارات لتعويض عن تغييرات أنماط المرور ، مما يحافظ على تدفق المرور ويقلل من الازدحام.

تستخدم هذه الأنظمة التعلم العميق ، حيث يفهم البرنامج عندما لا ينجح جيدًا ويحاول مسارًا مختلفًا – أو يستمر في التحسين عندما يحرز تقدمًا.

يبدو هذا مثل فكرة رائعة ، أليس كذلك؟ ماذا يحدث إذا ، مع مرور الوقت ، تبدأ خوارزميات الذكاء الاصطناعي المدمجة في تقنيات أجهزة استشعار المرور في تحديد الأولوية للسيارات الأكثر تكلفة على حساب الآخرين ، بناءً على خوارزميات متحيزة مصممة لتعرف أن الناس الذين يقودون نوعًا معينًا من السيارات يستحقون الأولوية على الآخرين؟

هنا يأتي “الذكاء الاصطناعي السيئ” ليؤثر سلبًا على جزء مهم من حياتنا.

لنأخذ على سبيل المثال هذه الأنظمة الذكية الأولوية للنقل جزءًا من نظام نقل ذكي أكبر (ITS) يعتمد على قوة تقنيات المركبات المتصلة. أنظمة ITS جيدة فقط مثل منصات تبادل البيانات القائمة على السحابة غير المتحيزة التي تعمل عليها ، وليس كلها متساوية.

إزالة التحيز في خوارزميات الذكاء الاصطناعي

لقد أثبتت هذه منصات تبادل البيانات فاعليتها ، ولكن فقط عندما تفتح المدن والبلديات التي تدير أنظمة النقل هذه منصاتها لتبادل البيانات بشكل صحيح حيث لا يسمح للخوارزميات المتحيزة بالمشاركة. للأسف ، لا تزال العديد من البلديات مقيدة بالعقود مع مشغلي الأجهزة والجهاز الذين يزعمون أنهم يعملون تحت “هيكل مفتوح” لكنهم غير راغبين في العمل تحت منصة بيانات مفتوحة ، وهذه المدن تقيد نفسها بشكل حاد من الإمكانيات الحقيقية التي يمكن أن توفرها منصة قائمة على السحابة.

تأخذ أنظمة الأولوية للنقل القائمة على السحابة الصورة العالمية للنظام في الاعتبار وتستخدم التعلم الآلي غير المتحيز لتحديد الوقت الأمثل لإعطاء الإشارة الخضراء للسيارات في الوقت المناسب. تقلل من التداخل مع الطرق المتقاطعة وتزيد من احتمال القيادة المستمرة في نفس الوقت. أكثر من ذلك ، تضمن منصة السحابة غير المتحيزة أن المدن تستفيد من نظام محدث باستمرار لتحقيق أقصى إمكانات النقل ، دون تحيز من مصادر غير مرغوب فيها.

مع توفر هذه التكنولوجيا الآن ، لدى المدن والمطورين والبلديات التكنولوجيا التي يحتاجونها لتعزيز بناء شبكات النقل الذكية بشكل صحيح من أجل المنفعة العامة ، بطريقة عادلة ومتساوية.

المناطق مثل مدينة سان خوسيه تستفيد الآن من فوائد الذكاء الاصطناعي لتحسين تقديم الخدمات لمواطنيها. مع زيادة استخدام المدينة لأدوات الذكاء الاصطناعي ، أصبح من المهم أكثر من أي وقت مضى ضمان أن تكون أنظمة الذكاء الاصطناعي التي تكتسبها فعّالة وموثوقة. من خلال مراجعة الخوارزميات المستخدمة في أدواتها ، يضمن مكتب الخصوصية الرقمية (DPO) أن استحواذات تكنولوجيا الذكاء الاصطناعي في المدينة تعمل بدقة ، وتقلل من التحيز ، وتكون موثوقة. عندما يرغب قسم في المدينة في شراء أداة ذكاء اصطناعي ، يتبع DPO عمليات مراجعة محددة لتقييم الفوائد والمخاطر لأي نظام ذكاء اصطناعي.

لمنطقة معينة ، نحن فخورون بالانضمام إلى شركات مثل جوجل كواحد من少 عدد قليل من الموردين الموثوقين للذكاء الاصطناعي للمشاركة في نشر التكنولوجيا على مستوى المدينة بسبب الخوارزميات غير المتحيزة. مع استمرار تطوير المزيد من تكنولوجيا الذكاء الاصطناعي ، سيكون من المهم بشكل خاص ضمان أن يتم بناؤها بدون خوارزميات غير متحيزة من أجل استخدام خدمات البلدية المحلية بطريقة عادلة ومتساوية.