قادة التكنولوجيا يبرزون مخاطر الذكاء الاصطناعي وضرورة التنظيم القوي

كان نمو الذكاء الاصطناعي وتقدمه كبيرين خلال السنوات القليلة الماضية. وتقرير ستاتيستا بأن سوق الذكاء الاصطناعي العالمي سيكون لديه إيرادات تقدر بحوالي 3000 مليار دولار في عام 2024، مقارنة بـ 126 مليار دولار في عام 2015. ومع ذلك، يحذر قادة التكنولوجيا الآن من المخاطر المختلفة للذكاء الاصطناعي.

特别، الموجة الأخيرة من النماذج التوليدية للذكاء الاصطناعي مثل ChatGPT أدخلت قدرات جديدة في قطاعات مختلفة مثل الرعاية الصحية والتعليم والتمويل وغيرها. هذه التطورات المدعومة بالذكاء الاصطناعي معرضة للخطر بسبب عيوب كثيرة في الذكاء الاصطناعي يمكن للمخترقين استغلالها.

دعونا نناقش ما يقوله خبراء الذكاء الاصطناعي حول التطورات الأخيرة ونبرز المخاطر المحتملة للذكاء الاصطناعي. سنلمس أيضًا كيف يمكن إدارة هذه المخاطر.

قادة التكنولوجيا ومخاوفهم المتعلقة بمخاطر الذكاء الاصطناعي

جيفري هينتون

جيفري هينتون – قائد تكنولوجيا مشهور (وأب هذا المجال)، الذي غادر جوجل最近، أعرب عن مخاوفه بشأن التطور السريع في الذكاء الاصطناعي ومخاطره المحتملة. يعتقد هينتون أن بوتات الدردشة يمكن أن تصبح “مرعبة” إذا تجاوزت الذكاء البشري.

يقول هينتون:

“الآن، ما نراه هو أشياء مثل GPT-4 تتفوق على الشخص في كمية المعرفة العامة التي يمتلكها، وتتفوق عليه بشكل كبير. فيما يتعلق بالاستدلال، ليس جيدًا، لكنه يفعل بالفعل استدلالًا بسيطًا. ونظراً لمعدل التقدم، نتوقع أن تتحسن الأمور بسرعة. لذلك يجب أن نخاف من ذلك.”

علاوة على ذلك، يعتقد أن “المخترقين” يمكنهم استخدام الذكاء الاصطناعي “لأشياء سيئة”، مثل السماح للrobots بالاستفادة من أهدافها الفرعية. على الرغم من مخاوفه، يعتقد هينتون أن الذكاء الاصطناعي يمكن أن يbring فوائد قصيرة الأجل، ولكننا يجب أن نستثمر أيضًا بشكل كبير في سلامة وسيطرة الذكاء الاصطناعي.

إيلون ماسك

بدأت مشاركة إيلون ماسك في الذكاء الاصطناعي مع استثماره المبكر في ديب مايند في عام 2010، ثم شارك في تأسيس أوبن آي آي ودمج الذكاء الاصطناعي في سيارات تسلا ذاتية القيادة.

على الرغم من أنه متحمس للذكاء الاصطناعي، إلا أنه يثير مخاوف حول مخاطر الذكاء الاصطناعي بشكل متكرر. يقول ماسك أن أنظمة الذكاء الاصطناعي القوية يمكن أن تكون أكثر خطورة على الحضارة من الأسلحة النووية. في مقابلة مع فوكس نيوز في أبريل 2023، قال:

“الذكاء الاصطناعي أكثر خطورة من، скажем، تصميم الطائرات أو إنتاج السيارات أو صيانة السيارات. في المعنى الذي يمكن أن يكون لهذا الاحتمال – dù صغيرًا – لكنه ليس غير مهم، وله إمكانية تدمير الحضارة.”

علاوة على ذلك، يدعم ماسك التنظيم الحكومي للذكاء الاصطناعي لضمان السلامة من المخاطر المحتملة، على الرغم من أنه “ليس ممتعًا”.

إيقاف التجارب الكبيرة للذكاء الاصطناعي: رسالة مفتوحة مدعومة من قبل آلاف خبراء الذكاء الاصطناعي

نشر معهد مستقبل الحياة رسالة مفتوحة في 22 مارس 2023. تدعو الرسالة إلى وقف مؤقت لمدة ستة أشهر على أنظمة الذكاء الاصطناعي أكثر تقدمًا من GPT-4. يعبر المؤلفون عن مخاوفهم بشأن وتيرة تطوير أنظمة الذكاء الاصطناعي التي تطرح تحديات اجتماعية واقتصادية خطيرة.

علاوة على ذلك، تنص الرسالة على أن مطورو الذكاء الاصطناعي يجب أن يعملوا مع واضعي السياسات لتوثيق أنظمة حوكمة الذكاء الاصطناعي. حتى يونيو 2023، تم التوقيع على الرسالة من قبل أكثر من 31,000 مطور وخبراء وقيادي تكنولوجيا. من بين الموقعين البارزين إيلون ماسك وستيف ووزنياك (مؤسس شركة آبل) وإيماد مصطفى (مدير تنفيذي لشركة Stability AI) ويوشوا بنجيو (فائز بجائزة تURING) وغيرهم الكثير.

حجج مضادة لإيقاف تطوير الذكاء الاصطناعي

يعارض两个 من القياديين البارزين في الذكاء الاصطناعي، أندرو إنغ ويان لوكون، الحظر لمدة ستة أشهر على تطوير أنظمة الذكاء الاصطناعي المتقدمة، ويعتبرون الإيقاف فكرة سيئة.

يقول إنغ أن الذكاء الاصطناعي له بعض المخاطر، مثل التحيز، وتركز السلطة، إلخ. لكن القيمة التي يخلقها الذكاء الاصطناعي في مجالات مثل التعليم والرعاية الصحية والدعم الاستجابي هي enorme.

يقول لوكون أن البحث والتطوير لا ينبغي إيقافه، على الرغم من أنه يمكن تنظيم المنتجات التي تصل إلى المستخدم النهائي.

ما هي المخاطر المحتملة والخطر الفوري للذكاء الاصطناعي؟

1. استبدال الوظائف

يعتقد خبراء الذكاء الاصطناعي أن أنظمة الذكاء الاصطناعي الذكية يمكن أن تحل محل المهام الإدراكية والإبداعية. وتقدر بنك غولدمان ساكس أن حوالي 300 مليون وظيفة سوف تتأثر بالذكاء الاصطناعي التوليدي.

لذلك، ينبغي أن يكون هناك تنظيمات على تطوير الذكاء الاصطناعي بحيث لا يسبب انهيارًا اقتصاديًا حادًا. ينبغي أن يكون هناك برامج تعليمية لتعزيز مهارات العمال وتأهيلهم لمواجهة هذا التحدي.

2. أنظمة الذكاء الاصطناعي المتحيزة

التنوعات التي توجد بين البشر حول الجنس والعرق أو اللون يمكن أن تنتقل بشكل غير مقصود إلى البيانات المستخدمة في تدريب أنظمة الذكاء الاصطناعي، مما يجعل أنظمة الذكاء الاصطناعي متحيزة.

على سبيل المثال، في سياق توظيف العمال، يمكن لأنظمة الذكاء الاصطناعي المتحيزة أن ترفض سيرًا ذاتية للفرد من خلفيات عرقية معينة، مما يخلق تمييزًا في سوق العمل. في تطبيق القانون، يمكن للتنبؤ بالجريمة المتحيز أن يستهدف بشكل غير متناسب أحياء أو مجموعات ديموغرافية معينة.

لذلك، من المهم أن يكون هناك استراتيجية بيانات شاملة لتسجيل مخاطر الذكاء الاصطناعي، خاصة التحيز. يجب أن يتم تقييم أنظمة الذكاء الاصطناعي وتدقيقها بانتظام لضمان عدالتها.

3. تطبيقات الذكاء الاصطناعي الحساسة للسلامة

المركبات ذاتية القيادة، والتشخيص الطبي والعلاج، وأنظمة الطيران، ومراقبة محطات الطاقة النووية، إلخ، هي أمثلة على تطبيقات الذكاء الاصطناعي الحساسة للسلامة. يجب تطوير هذه الأنظمة بحذر لأن الأخطاء الصغيرة يمكن أن يكون لها عواقب خطيرة على الحياة البشرية أو البيئة.

على سبيل المثال، يُعزى عطل برنامج الذكاء الاصطناعي الذي يسمى Maneuvering Characteristics Augmentation System (MCAS) جزئيًا إلى تحطم طائرتين من طراز Boeing 737 MAX، الأولى في أكتوبر 2018 والثانية في مارس 2019. للأسف، قتل الحادثان 346 شخصًا.

كيف يمكننا التغلب على مخاطر أنظمة الذكاء الاصطناعي؟ – تطوير الذكاء الاصطناعي المسؤول والامتثال التنظيمي

الذكاء الاصطناعي المسؤول يعني تطوير ونشر أنظمة ذكاء اصطناعي عادلة ومسؤولة وشفافة وأمنية تضمن الخصوصية وتنفذ اللوائح القانونية والاجتماعية.

然而، طوّر الشركات الكبيرة إطارات عمل للذكاء الاصطناعي المسؤول، مثل:

1. إطار عمل مايكروسوفت للذكاء الاصطناعي المسؤول
2. مبادئ جوجل للذكاء الاصطناعي
3. إطار عمل آي بي إم للذكاء الاصطناعي الموثوق

يمكن لمعاملات الذكاء الاصطناعي في جميع أنحاء العالم أن تأخذ إلهامًا من هذه المبادئ أو تطوير إطارات عملها الخاصة لتطوير أنظمة ذكاء اصطناعي موثوقة.

الامتثال التنظيمي للذكاء الاصطناعي

منذ أن البيانات هي جزء لا يتجزأ من أنظمة الذكاء الاصطناعي، يجب على المنظمات والمعاملات التي تعمل بالذكاء الاصطناعي الامتثال للتنظيمات التالية لضمان أمان البيانات وخصوصيتها وسلامتها.

1. لوائح حماية البيانات العامة (GDPR) – إطار حماية البيانات الصادر عن الاتحاد الأوروبي.
2. قانون حماية المستهلكين في كاليفورنيا (CCPA) – قانون ولاية كاليفورنيا لحماية حقوق المستهلكين وخصوصيتهم.
3. قانون حماية المعلومات الصحية (HIPAA) – تشريع أمريكي يحمي بيانات المرضى.
4. قانون الذكاء الاصطناعي الأوروبي ومبادئ أخلاقيات الذكاء الاصطناعي الموثوق – تنظيم الذكاء الاصطناعي الصادر عن المفوضية الأوروبية.

هناك قوانين إقليمية ومحلية مختلفة صدرت في بلدان مختلفة لحماية مواطنيها. المنظمات التي تفشل في ضمان الامتثال التنظيمي للبيانات يمكن أن تتعرض لغرامات شديدة. على سبيل المثال، فرضت GDPR غرامة تصل إلى 20 مليون يورو أو 4% من الأرباح السنوية لانتهاكات خطيرة مثل معالجة البيانات غير القانونية أو موافقة البيانات غير المثبتة أو انتهاك حقوق موضوعات البيانات أو نقل البيانات غير المحمي إلى كيان دولي.

تطوير الذكاء الاصطناعي والتنظيمات – الحاضر والمستقبل

مع كل شهر يمضي، تصل تطورات الذكاء الاصطناعي إلى أرقام غير مسبوقة. ومع ذلك، فإن التنظيمات والهياكل الإطارية للذكاء الاصطناعي لا تزال متأخرة. تحتاج إلى أن تكون أكثر قوة ووضوحًا.

لقد حذر قادة التكنولوجيا ومطورو الذكاء الاصطناعي من مخاطر الذكاء الاصطناعي إذا لم يتم تنظيمه بشكل كافٍ. يمكن أن يضيف البحث والتطوير في الذكاء الاصطناعي قيمة كبيرة في العديد من القطاعات، لكن من الواضح أن التنظيم الحذر هو الآن أمر ضروري.

لمزيد من المحتوى المتعلق بالذكاء الاصطناعي، زوروا unite.ai.