الملاحة على الطريق إلى الذكاء الاصطناعي العام (AGI) معا: نهج متوازن

随着 الذكاء الاصطناعي العام (AGI) يتطور بسرعة، فإن المناقشة تتغير من المناقشة الفلسفية إلى واحدة من الأهمية العملية، مع فرصة هائلة لتحويل الأعمال العالمية والإمكانات البشرية.

تجمع سلسلة أحداث AGI Icons من تيرينج معاً مبتكري الذكاء الاصطناعي لمناقشة التطورات العملية والمسؤولة لحلول AGI. في 24 يوليو، استضافت تيرينج حدث AGI Icons الثاني في SHACK15، سان فرانسيسكو، وهو مركز حصرية لرواد الأعمال والمبتكرين التكنولوجيين. تحت إدارة أنيتا راماسوامي، كاتبة العمود المالي في ذي إنفورمेशन، جلست مع آدم دنجلو، الرئيس التنفيذي لشركة Quora، لمناقشة الطريق إلى AGI ومشاركة رؤى حول جداول زمنية التطوير والتطبيقات في العالم الحقيقي ومبادئ النشر المسؤول.

الطريق من الذكاء الاصطناعي إلى AGI

النجم الشمال الذي يدفع البحث في الذكاء الاصطناعي هو سعي إلى “الذكاء” على مستوى الإنسان. ما يفصل AGI عن الذكاء الاصطناعي القياسي هو تقدمه بعد وظائف ضيقة نحو عمومية أكبر (عرض) وأداء (عمق)، حتى يتجاوز قدرات الإنسان.

هذا هو “الطريق إلى AGI”، حيث يتطور الذكاء الاصطناعي إلى أنظمة أكثر استقلالية، وreasoning متفوقة، وقدرات محسنة، ووظائف محسنة. يتم تقسيم هذه التقدمات إلى خمس مستويات تصنيفية:

• المستوى 0: لا يوجد ذكاء اصطناعي – أدوات بسيطة مثل الحاسبات
• المستوى 1: AGI الناشئ – النماذج الحالية مثل ChatGPT
• المستوى 2: AGI الكفء – أنظمة الذكاء الاصطناعي التي تتطابق مع البالغين المهرة على مهام محددة
• المستوى 3: AGI الخبير – أنظمة الذكاء الاصطناعي في 百分ة 90 من البالغين المهرة
• المستوى 4: AGI الفيرتووزو – أنظمة الذكاء الاصطناعي في 百分ة 99
• المستوى 5: AGI الخارق – أنظمة الذكاء الاصطناعي التي تتفوق على جميع البشر

المصدر

خلال مناقشتنا، عرف آدم مفهوم AGI على أنه “برمجيات يمكنها القيام بكل ما يمكن للبشر القيام به”. يتخيل مستقبلاً حيث يحسن الذكاء الاصطناعي نفسه، في النهاية يأخذ على عاتقه مهام复عة يديرها باحثو الذكاء الاصطناعي.

متخذاً خطوة إلى الأمام، قارنت وجهات نظري حول AGI مع “دماغ اصطناعي” قادر على مهام متنوعة مثل “ترجمة الآلة، استفسارات معقدة، وبرمجة”. هذا هو الفرق بين AGI والذكاء الاصطناعي التنبؤي والشكل الضيق من التعلم الآلي الذي جاء قبله. يبدو وكأنه سلوك متجلي.

جدول زمني واقعي للتطوير على الطريق إلى AGI

مثل رحلة على الطريق، السؤال الأهم حول AGI هو، “هل وصلنا بعد؟” الجواب القصير هو لا، ولكن مع تسارع البحث في الذكاء الاصطناعي، السؤال الصحيح هو، “كيف يمكننا موازنة طموح AGI مع التوقعات الواقعية؟”

أشار آدم إلى أن التأتمتية المتزايدة من AGI سوف تغير الأدوار البشرية بدلاً من إلغائها، مما يؤدي إلى نمو اقتصادي أسرع وزيادة في الإنتاجية. “كلما أصبحت هذه التكنولوجيا أكثر قوة، سوف نصل إلى نقطة حيث يتم تلقين 90% مما يفعله الناس اليوم، ولكن الجميع سوف يكونون قد انتقلوا إلى أشياء أخرى”.

في الوقت الحالي، يتم تقييد جزء كبير من اقتصاد العالم بعدد الأشخاص المتاحين للعمل. بمجرد تحقيق AGI، يمكننا نمو الاقتصاد بسرعة أكبر مما هو ممكن اليوم.

لا يمكننا تقديم جدول زمني محدد لتحقيق AGI الحقيقي، ولكن آدم وأنا أشرنا إلى عدة أمثلة على تقدم الذكاء الاصطناعي مما يفتح الطريق لتقدم AGI في المستقبل. على سبيل المثال، أظهرت تجارب تيرينج مع أدوات مطور الذكاء الاصطناعي زيادة بنسبة 33% في إنتاجية المطور، مما يشير إلى إمكانيات أكبر.

التطبيقات والتأثيرات في العالم الحقيقي

واحدة من التطبيقات الواعدة ل AGI تقع في مجال تطوير البرمجيات. النماذج اللغوية الكبيرة (LLMs)، وهي سابقة ل AGI، يتم استخدامها بالفعل لتحسين تطوير البرمجيات وجودة الكود. أرى هذه الحقبة من الذكاء الاصطناعي أقرب إلى الأحياء منها إلى الفيزياء، حيث سوف تحسن جميع أنواع العمل المعرفي. سوف يكون هناك الكثير من الإنتاجية المفتوحة من أجل وبسبب البشرية.

من وجهة نظري، التي تأتي من الخبرة، حيث شهدت زيادة عشرية في الإنتاجية الشخصية عند استخدام LLMs وأدوات مطور الذكاء الاصطناعي. نحن نستخدم الذكاء الاصطناعي في تيرينج لتقييم المواهب الفنية وتركيب المهندسين البرمجيين والخبراء في المجالات المناسبة.

ما أراه في مجال تدريب LLMs، على سبيل المثال، هو أن المدربين يستخدمون هذه النماذج لتعزيز إنتاجية المطورين وتسريع جداول المشاريع. من خلال تلقين المهام البرمجية الروتينية وتقديم اقتراحات كود ذكية، تتيح LLMs للمطورين التركيز على الجوانب الاستراتيجية والإبداعية أكثر من عملهم.

أغلق آدم، “LLMs لن تكتب كل الكود، ولكن فهم أساسيات البرمجيات لا يزال ضروريا. الحاسبات لم تلغِ الحاجة لتعلم الحساب.” أضاف، “يصبح المطورون أكثر قيمة عند استخدام هذه النماذج. وجود LLMs هو إيجابي لولوجة المطورين وسوف يكون هناك الكثير من المكاسب للمطورين”.

نحن ندخل عصراً ذهبياً من تطوير البرمجيات حيث يمكن لمطور برمجيات واحد أن يكون 10 مرات أكثر إنتاجية، وخلق المزيد، والفائدة للعالم.

التحديات الفنية والإدارية

على الرغم من الإمكانات الواعدة ل AGI، يجب معالجة التحديات. عمليات التقييم القوية والإطارات التنظيمية ضرورية لموازنة الابتكار في AGI مع السلامة العامة.

أشار آدم إلى الحاجة إلى عمليات تقييم شاملة وتجريبية لتحديد السيناريوهات الأسوأ. “تريد أن يكون لديك بعض العمليات التقييمية القوية… وتحصل على التوزيع الذي يتم اختباره ليكون أقرب إلى استخدام العالم الحقيقي كما هو ممكن.”

وأنا أ同意. عائق تقدم AGI الآن هو الذكاء البشري، وليس القوة الحاسوبية أو البيانات. الخبرة البشرية ضرورية لتعدين وتصميم نماذج الذكاء الاصطناعي، وهو السبب في تركيز تيرينج على مصدر وتركيب أفضل المهنيين التكنولوجيين لموازنة النماذج بالذكاء البشري.

يجب أن نواجه تحديات AGI بشكل مباشر بالتركيز على القدرات أكثر من العمليات، والعمومية والأداء، والاحتمالات.

منظورات على التحديات: تحسين التفاعلات بين البشر و AGI

بعض أفضل الممارسات لمعالجة تحديات AGI تشمل:

• التركيز على القدرات أو “ما يمكن أن يفعله AGI” بدلاً من العمليات أو “كيف يفعله”.
• موازنة العمومية والأداء كعناصر أساسية من AGI.
• التركيز على المهام المعرفية / المعرفية والقدرات التعلمية أكثر من المهام المادية / الإخراج.
• قياس AGI من خلال إمكانياته وقدراته.
• التركيز على الصحة البيئية من خلال محاذاة المعايير مع المهام الحقيقية التي يقدّرها الناس.
• تذكر أن الطريق إلى AGI ليس نقطة نهاية واحدة، إنه عملية تكرارية.

إضافة إلى هذه الممارسات الجيدة، أشار آدم وأنا إلى أهمية تحسين التفاعلات بين البشر و AGI. أشار آدم إلى قيمة تعلم كيفية استخدام هذه النماذج، ويعتبرها أدوات تعلم قوية يمكنها تعليم أي مجال فرعي من البرمجة بسرعة مع التأكيد على أهمية فهم الأساسيات.

بشكل مماثل، أuggest أن جعل كل إنسان مستخدمًا قويًا ل LLMs يمكن أن يعزز الإنتاجية والفهم عبر مختلف المجالات. LLMs يمكن أن تجعل المعلومات المعقدة متاحة للجميع، مما يعزز الإنتاجية عبر مختلف المجالات. ولكنها تتطلب نهجًا متدرجًا وتكراريًا: البدء بمساعدات الذكاء الاصطناعي التي تساعد البشر، ثم الانتقال إلى وكلاء تحت إشراف بشري، وأخيرًا تحقيق وكلاء مستقلين في مهام مدروسة جيدًا.

مع ذلك، فإن التمييز بعد التدريب هو أمر بالغ الأهمية، ويتضمن تعدين خاضع للإشراف (SFT) و الاستفادة من الذكاء البشري لإنشاء نماذج مخصصة. الشركات التي يمكنها مصدر وتركيب مدربين ومهندسين وآخرين سوف تسرع من قدراتها في التعدين والهندسة المخصصة. التعاون مع الشركات الرائدة مثل OpenAI و Anthropic هو أيضًا مفتاح تطبيق هذه النماذج عبر صناعات متنوعة.

مبادئ التطوير المسؤول ل AGI

“يجب أن يكون تطوير AGI مسؤولاً وخلاقًا، مع ضمان السلامة والشفافية مع تعزيز الابتكار.” – آدم دنجلو

يتطلب التطوير المسؤول ل AGI الالتزام بمبادئ أساسية عديدة:

• السلامة والأمان: ضمان أن أنظمة AGI موثوقة ومقاومة للاستخدام الخاطئ، خاصة مع نمو النماذج لاستيعاب مدخلات بيانات جديدة أو خوارزميات.
• الشفافية: أن تكون واقعية بشأن قدرات AGI وقيودها و “كيف تعمل”.
• الاعتبارات الأخلاقية: معالجة العدالة والتحيز وكيف سوف يؤثر AGI على التوظيف وعوامل اجتماعية واقتصادية أخرى.
• التنظيم: العمل مع الحكومات والمنظمات الأخرى لتطوير الإطارات التي توازن التقدم مع السلامة العامة.
• المعايير: يجب أن تقيس المعايير المستقبلية سلوك AGI وقدراته مقابل الاعتبارات الأخلاقية ومستويات التصنيف.

الختام: التركيز على الطريق إلى AGI، وليس نقطة نهاية واحدة

الطريق إلى AGI معقد، ولكن كل توقف على طول الطريق مهم للرحلة. من خلال فهم تحسينات AGI التكرارية – جنبًا إلى جنب مع آثاره – سوف يكون الناس والشركات قادرة على تبني هذه التكنولوجيا المتطورة بشكل مسؤول. هذا هو جوهر التطوير المسؤول ل AGI، حيث ي告诉نا التفاعل في العالم الحقيقي كيف ننavige هذا الحدود الجديد.