قادة الفكر
كيف تنشر المدن تقنيات رائدة بالاستفادة من خوارزميات ذكاء اصطناعي غير متحيزة

النقاط الرئيسيةتستخدم أنظمة الذكاء الاصطناعي غير المتحيزة لتنظيم المرور بيانات السحابة الإلكترونية…
عرض المزيد
- تستخدم أنظمة الذكاء الاصطناعي غير المتحيزة لتنظيم المرور بيانات السحابة الإلكترونية لتحسين إشارات المرور لجميع المركبات بشكل عادل.
- يوصي ذكاء اليوتيوب الاصطناعي بـ 70% من الفيديوهات مما يثير مخاطر جسيمة على الخصوصية وانتشار المعلومات المضللة.
- تقوم سان خوسيه بمراجعة خوارزميات الذكاء الاصطناعي لتقليل التحيز في تطبيقات الخدمات المدينة.
اليوم ، يتصل كل جانب تقريبًا من حياتنا بجزء من شبكة عبر الإنترنت. في حين أن هذا قد حسّن العديد من جوانب الحياة نفسها ، مثل كيفية تنقلنا مع أجهزة محمولة يمكنها تقديم المعلومات لنا في أي وقت ، إلا أنه يطرح أيضًا بعض المخاطر.
تتجاوز هذه المخاطر عمليات القرصنة التقليدية وتسرب البيانات إلى حساباتنا البنكية ، على سبيل المثال. ما أعنيه هنا على وجه الخصوص هو أن هناك العديد من جوانب حياتنا اليوم التي تتأثر بالخوارزميات المستخدمة بواسطة الذكاء الاصطناعي (AI). نحن نفترض أن هذا الذكاء الاصطناعي يعتمد بشكل طبيعي على خوارزميات تخدم مصلحتنا. ومع ذلك ، ماذا يحدث عندما يدخل نوع غير مرغوب فيه من التحيز إلى هذه الخوارزميات؟ كيف قد يؤثر ذلك على بعض النتائج؟
ماذا يحدث عندما تتسلل الخوارزميات المتحيزة إلى أنظمة الذكاء الاصطناعي؟
لنقدم مثالًا آخر ، على يوتيوب ، توصي خوارزمية الذكاء الاصطناعي بما يقرب من 70٪ من جميع مقاطع الفيديو ، وعلى منصات التواصل الاجتماعي مثل إنستجرام وتيك توك ، النسبة المئوية أعلى. على الرغم من أن هذه الخوارزميات يمكن أن تساعد المستخدمين في العثور على المحتوى الذي يهمهم ، إلا أنها تثير مشاكل خطيرة تتعلق بالخصوصية ، وهناك أدلة متزايدة على أن بعض المحتوى الموصى به الذي يستهلكه الناس عبر الإنترنت خطير بسبب المعلومات الخاطئة أو ربما يحتوي على وجهة نظر معينة مصممة لتحويل تفكير شخص ما أو معتقداته السياسية بشكل خفي.
إنشاء ذكاء اصطناعي متكامل ومرن هو عمل تقني واجتماعي صعب ، ولكنه بالغ الأهمية.
من المنطقي أن يكون للذكاء الاصطناعي تأثير سلبي على القيم الاجتماعية وأنماط استخدام الإنترنت ، مع التركيز على الآثار الإيجابية للتكنولوجيا. للمصادر عبر الإنترنت تأثير كبير على مجتمعنا ، والتحيزات في الخوارزميات عبر الإنترنت قد تعزز الظلم دون قصد ، وتشكيل معتقدات الناس ، ونشر المعلومات الخاطئة ، وتعزيز الصراع بين المجموعات المختلفة.
هنا يأتي “الذكاء الاصطناعي السيئ” بأثر حقيقي على التحيزات غير المرغوب فيها أو غير العادلة.
كيف يمكن للذكاء الاصطناعي المتحيز التأثير سلبًا على تقاطعات المرور
خذ تقاطعات المرور كمثال أكثر واقعية. أصبحت أوقات الانتظار الطويلة عند إشارات المرور شيئًا من الماضي بفضل تقنيات الذكاء الاصطناعي الجديدة التي يتم نشرها في الأسواق في أنحاء البلاد. تستخدم حلول إعطاء الأولوية للنقل العام خوارزميات تعتمد على بيانات المرور في الوقت الفعلي وتضبط الإشارات للتكيف مع تغيرات أنماط المرور ، مما يحافظ على تدفق المرور ويقلل من الازدحام.
تستخدم هذه الأنظمة التعلم العميق ، حيث يفهم البرنامج عندما لا ينجح جيدًا ويحاول مسارًا مختلفًا – أو يستمر في التحسين عندما يحرز تقدمًا.
يبدو هذا مثل فكرة رائعة ، أليس كذلك؟ ماذا يحدث إذا ، مع مرور الوقت ، تبدأ خوارزميات الذكاء الاصطناعي المدمجة في تقنيات أجهزة استشعار المرور في تحديد الأولوية للسيارات الأكثر تكلفة على حساب الآخرين ، بناءً على خوارزميات متحيزة مصممة لتعرف أن الناس الذين يقودون نوعًا معينًا من السيارات يستحقون الأولوية على الآخرين؟
هنا يأتي “الذكاء الاصطناعي السيئ” ليؤثر سلبًا على جزء مهم من حياتنا.
لنفترض مثلًا أن أنظمة إعطاء الأولوية للنقل العام المدعومة بالذكاء الاصطناعي جزء من نظام نقل ذكي أكبر (ITS) يعتمد على قوة تقنيات المركبات المتصلة. أنظمة ITS جيدة فقط مثل منصات تبادل البيانات السحابية المحايدة تجاه الموردين التي تعمل عليها ، وليست كلها متساوية.
إزالة التحيز في خوارزميات الذكاء الاصطناعي
لقد أثبتت منصات تبادل البيانات هذه فاعليتها ، ولكن فقط عندما تفتح المدن والبلديات التي تدير أنظمة النقل هذه منصاتها لتبادل البيانات بشكل صحيح حيث لا يسمح للخوارزميات المتحيزة بالمشاركة. للأسف ، لا تزال العديد من البلديات مقيدة بالعقود مع موردي العتاد والأجهزة الذين يزعمون أنهم يعملون تحت “هيكل مفتوح” لكنهم غير راغبين في العمل تحت منصة بيانات مفتوحة ، وهذه المدن تقيد نفسها بشكل حاد من الإمكانيات الحقيقية التي يمكن أن توفرها منصة قائمة على السحابة.
تأخذ أنظمة إعطاء الأولوية للنقل العام القائمة على السحابة الصورة العالمية للنظام في الاعتبار وتستخدم التعلم الآلي غير المتحيز والقائم على البيانات للتنبؤ بالوقت الأمثل لمنح الإشارة الخضراء لمركبات النقل العام في الوقت المناسب. تقلل من التداخل مع الطرق المتقاطعة وتزيد من احتمال القيادة المستمرة في نفس الوقت. أكثر من ذلك ، تضمن المنصة السحابية المحايدة تجاه الموردين أن المدن تستفيد من نظام محدث باستمرار لتحقيق أقصى إمكانات النقل ، دون تحيز من مصادر غير مرغوب فيها.
مع توفر هذه التكنولوجيا الآن ، لدى المدن والمطورين والبلديات التكنولوجيا التي يحتاجونها لتعزيز بناء شبكات النقل الذكية بشكل صحيح من أجل المنفعة العامة ، بطريقة عادلة ومتساوية.
المناطق مثل مدينة سان خوسيه تستفيد الآن من فوائد الذكاء الاصطناعي لتحسين تقديم الخدمات لمواطنيها. مع زيادة استخدام المدينة لأدوات الذكاء الاصطناعي ، أصبح من المهم أكثر من أي وقت مضى ضمان أن تكون أنظمة الذكاء الاصطناعي التي تكتسبها فعّالة وموثوقة. من خلال مراجعة الخوارزميات المستخدمة في أدواتها ، يضمن مكتب الخصوصية الرقمية (DPO) أن استحواذات تكنولوجيا الذكاء الاصطناعي في المدينة تعمل بدقة ، وتقلل من التحيز ، وتكون موثوقة. عندما يرغب قسم في المدينة في شراء أداة ذكاء اصطناعي ، يتبع DPO عمليات مراجعة محددة لتقييم الفوائد والمخاطر لأي نظام ذكاء اصطناعي.
في هذه المنطقة بالتحديد ، نحن فخورون بالانضمام إلى شركات مثل جوجل كواحد من عدد قليل من الموردين المعتمدين للذكاء الاصطناعي للمشاركة في نشر التكنولوجيا على مستوى المدينة بسبب الخوارزميات غير المتحيزة. مع استمرار تطوير المزيد من تكنولوجيا الذكاء الاصطناعي ، سيكون من المهم بشكل خاص ضمان أن يتم بناؤها دون خوارزميات متحيزة من أجل استخدام خدمات البلدية المحلية بطريقة عادلة ومتساوية.












