فك الشفرة لفرص وتحديات وكلاء الذكاء الاصطناعي في الذكاء الاصطناعي التوليدي

نحن نشهد تقدمًا في تطبيقات الذكاء الاصطناعي التوليدي التي تعمل بالاعتماد على نماذج اللغة الكبيرة (LLM) من التحفيز إلى توليد البحث المعزز (RAG) إلى الوكلاء. يتم الحديث عن الوكلاء بشكل كبير في الصناعة والبحث ، بشكل رئيسي لقوة هذه التكنولوجيا في تحويل تطبيقات الشركات وتوفير تجارب عملاء فائقة. هناك أنماط شائعة لإنشاء وكلاء تمكننا من اتخاذ الخطوات الأولى نحو الذكاء الاصطناعي العام (AGI).

في مقالي السابق المقال ، رأينا سلمًا من الأنماط الذكية لإنشاء تطبيقات مدعومة بالـ LLM. بدءًا بالتحفيز الذي يلتقط مجال المشكلة ويعمل بالاعتماد على الذاكرة الداخلية للـ LLM لإنشاء الإخراج. مع RAG ، نعزز التحفيز بالمعرفة الخارجية التي يتم البحث عنها من قاعدة بيانات متجهة للسيطرة على الإخراج. بعد ذلك ، من خلال ربط مكالمات LLM ، يمكننا إنشاء تدفقات عمل لتحقيق تطبيقات معقدة. الوكلاء يأخذون هذا إلى مستوى أعلى من خلال تحديد كيفية تشكيل هذه السلاسل LLM تلقائيًا. دعونا ننظر بالتفصيل.

الوكلاء – تحت الغطاء

نمط رئيسي مع الوكلاء هو أنهم يستخدمون قوة فهم اللغة في LLM لإنشاء خطة ل解决 مشكلة معينة. يفهم LLM المشكلة ويعطينا تسلسلًا من الخطوات لحل المشكلة. ومع ذلك ، لا يتوقف الأمر عند هذا الحد. الوكلاء ليسوا نظام دعم خالص سيقدم لنا توصيات لحل المشكلة ثم يمرر لنا المشكلة لاتخاذ الإجراءات الموصى بها. الوكلاء مخولون بأدوات للذهاب إلى الأمام وتنفيذ الإجراءات. مخيف ، أليس كذلك؟

إذا سألنا وكيلًا سؤالًا أساسيًا مثل هذا:

إنسان: ما الشركة التي أسسها مخترع الهاتف؟

ما يلي هو نموذج للخطوات التي قد يفكر فيها الوكيل.

وكيل (التفكير):

• فكرة: أحتاج إلى البحث عن مخترع الهاتف.
• إجراء: البحث [مخترع الهاتف]
• ملاحظة: ألكسندر غراهام بيل
• فكرة: أحتاج إلى البحث عن شركة تأسست بواسطة ألكسندر غراهام بيل
• إجراء: البحث [شركة تأسست بواسطة ألكسندر غراهام بيل]
• ملاحظة: ألكسندر غراهام بيل共同 تأسيس شركة أمريكية للبرق والتلغراف (AT&T) في عام 1885
• فكرة: لقد وجدت الإجابة. سأعيد.

وكيل (الاستجابة): ألكسندر غراهام بيل共同 تأسيس شركة AT&T في عام 1885

يمكنك رؤية أن الوكيل يتبع طريقة منهجية لتحليل المشكلة إلى مشاكل فرعية يمكن حلها من خلال اتخاذ إجراءات محددة. الإجراءات هنا موصى بها بواسطة LLM ويمكننا ربطها بأدوات معينة لتنفيذ هذه الإجراءات. يمكننا تمكين أداة بحث للوكيل بحيث عندما يدرك أن LLM قد قدم البحث كإجراء ، سيتم استدعاء هذه الأداة بالمعاملات المقدمة بواسطة LLM. البحث هنا على الإنترنت ولكن يمكن أيضًا إعادة توجيهه إلى البحث في قاعدة معرفة داخلية مثل قاعدة بيانات متجهة. يصبح النظام الآن مستقلًا وقادرًا على تحديد كيفية حل المشاكل المعقدة باتباع سلسلة من الخطوات. الإطارات مثل LangChain و LLaMAIndex توفر لنا طريقة سهلة لإنشاء هذه الوكلاء والاتصال بالأدوات وواجهات برمجة التطبيقات. أطلقت Amazon مؤخرًا إطار عمل وكلاء Bedrock الذي يوفر واجهة بصرية لتصميم الوكلاء.

تحت الغطاء ، يتبع الوكلاء نمطًا خاصًا لإرسال التحفيزات إلى LLM مما يجعلهم ينتجون خطة إجراء. نمط التفكير-الإجراء-الملاحظة الشهير في نوع من الوكلاء يسمى ReAct (الاستدلال والتفاعل). أنواع أخرى من الوكلاء تشمل MRKL و Plan & Execute ، والتي تختلف بشكل رئيسي في نمط التحفيز.

对于 وكلاء أكثر تعقيدًا ، قد يتم ربط الإجراءات بأدوات تسبب تغييرات في الأنظمة المصدر. على سبيل المثال ، يمكننا توصيل الوكيل بأداة تتحقق من رصيد الإجازة وتقدم طلب إجازة في نظام إدارة الموارد البشرية لموظف. الآن يمكننا بناء واجهة تشات لطيفة ستتفاعل مع المستخدمين وستقدم طلب إجازة في النظام عبر أمر تشات. لا مزيد من الشاشات المعقدة لتطبيق الإجازة ، واجهة تشات موحدة بسيطة. يبدو مثيرًا!

تحذيرات والحاجة إلى الذكاء الاصطناعي المسؤول

ماذا لو كان لدينا أداة تستدعي معاملات التداول بالأسهم باستخدام واجهة برمجة تطبيقات مسبقة الموافقة؟ يمكننا بناء تطبيق حيث يدرس الوكيل التغيرات في الأسهم (باستخدام الأدوات) ويتخذ قرارات الشراء والبيع من أجلنا. ماذا لو باع الوكيل السهم الخطأ لأنها توهمت واصطدمت بقرار خاطئ؟ نظرًا لأن نماذج LLM هي نماذج كبيرة ، فمن الصعب تحديد سبب اتخاذ بعض القرارات ، وبالتالي فإن الأوهام شائعة في غياب الحواجز المناسبة.

虽然 الوكلاء جميعهم مثيرون ، قد تخمّن على الأرجح كيف يمكن أن يكونوا خطيرين. إذا توهموا واتخذوا إجراءً خاطئًا يمكن أن يسبب خسائر مالية ضخمة أو مشاكل كبيرة في أنظمة الشركات. وبالتالي ، أصبح الذكاء الاصطناعي المسؤول أمرًا بالغ الأهمية في عصر تطبيقات LLM. مبادئ الذكاء الاصطناعي المسؤول حول الإعادة الإنتاج والشفافية والمساءلة تحاول وضع حواجز على القرارات التي يتخذها الوكلاء ويقترحون تحليل المخاطر لتحديد الإجراءات التي تحتاج إلى دور إنساني في الحلقة. مع تصميم وكلاء أكثر تعقيدًا ، يحتاجون إلى فحص دقيق hơn ، وشفافية ، ومساءلة لضمان معرفة ما يفعلونه.

أفكار ختامية

قدرة الوكلاء على توليد مسار من الخطوات المنطقية بالإجراءات يجعلهم قريبين جدًا من التفكير البشري. تمكينهم بأدوات أكثر قوة يمكن أن يعطيهم قوى خارقة. الأنماط مثل ReAct تحاول محاكاة كيف يحل البشر المشكلة وسنرى أنماط وكيل أفضل ستكون ذات صلة بالسياقات والمناطق الخاصة (الخدمات المصرفية ، والتأمين ، والرعاية الصحية ، والصناعية ، إلخ). المستقبل هنا والتكنولوجيا خلف الوكلاء جاهزة لاستخدامنا. وفي الوقت نفسه ، يجب علينا أن نلتفت إلى حواجز الذكاء الاصطناعي المسؤول لضمان عدم بناء Skynet!