قاده التفكير
فك تشفير الفرص والتحديات لوكلاء LLM في الذكاء الاصطناعي التوليدي
نحن نشهد تقدمًا في تطبيقات الذكاء الاصطناعي التوليدي المدعومة بنماذج اللغة الكبيرة (LLM) بدءًا من المطالبات وحتى الجيل المعزز للاسترجاع (RAG) إلى الوكلاء. يتم الحديث عن الوكلاء بشكل كبير في دوائر الصناعة والبحث، وذلك بشكل أساسي بسبب القوة التي توفرها هذه التقنية لتحويل تطبيقات المؤسسات وتوفير تجارب فائقة للعملاء. هناك أنماط شائعة لوكلاء البناء التي تتيح الخطوات الأولى نحو الذكاء العام الاصطناعي (AGI).
في تقريري السابق البند، لقد رأينا سلمًا لذكاء الأنماط لبناء التطبيقات التي تدعم LLM. البدء بالمطالبات التي تلتقط مجال المشكلة وتستخدم الذاكرة الداخلية LLM لإنشاء المخرجات. باستخدام RAG، نقوم بزيادة الموجه بالمعرفة الخارجية التي يتم البحث عنها من قاعدة بيانات متجهة للتحكم في المخرجات. بعد ذلك، من خلال تسلسل مكالمات LLM، يمكننا بناء سير عمل لتحقيق التطبيقات المعقدة. يأخذ الوكلاء هذا إلى المستوى التالي من خلال التحديد التلقائي لكيفية تشكيل سلاسل LLM هذه. دعونا ننظر بالتفصيل.
وكلاء - تحت غطاء محرك السيارة
النمط الرئيسي مع الوكلاء هو أنهم يستخدمون قوة فهم اللغة التي تتمتع بها LLM لوضع خطة حول كيفية حل مشكلة معينة. يتفهم LLM المشكلة ويعطينا سلسلة من الخطوات لحل المشكلة. ومع ذلك، فإنه لا يتوقف عند هذا الحد. الوكلاء ليسوا نظام دعم خالصًا يقدم لك توصيات بشأن حل المشكلة ثم ينقلون إليك عصا القيادة لاتخاذ الخطوات الموصى بها. يتم تمكين الوكلاء بالأدوات اللازمة للمضي قدمًا واتخاذ الإجراء. مخيف أليس كذلك!؟
إذا سألنا الوكيل سؤالًا أساسيًا مثل هذا:
الانسان: ما هي الشركة التي بدأ مخترع الهاتف؟
فيما يلي عينة من خطوات التفكير التي قد يتخذها الوكيل.
الوكيل (التفكير):
- فكرة: أريد البحث عن مخترع الهاتف.
- اكشن: بحث [مخترع الهاتف]
- الملاحظة: ألكسندر جراهام بيل
- فكرة: أحتاج إلى البحث عن شركة أسسها ألكسندر جراهام بيل
- اكشن: بحث [الشركة التي أسسها ألكسندر جراهام بيل]
- ملاحظة: شارك ألكسندر جراهام بيل في تأسيس شركة الهاتف والتلغراف الأمريكية (AT&T) عام 1885
- الفكر: لقد وجدت الجواب. سأعود.
الوكيل (الرد): شارك ألكسندر جراهام بيل في تأسيس شركة AT&T في عام 1885
يمكنك أن ترى أن الوكيل يتبع طريقة منهجية لتقسيم المشكلة إلى مشكلات فرعية يمكن حلها عن طريق اتخاذ إجراءات محددة. الإجراءات هنا موصى بها من قبل LLM ويمكننا تعيينها لأدوات محددة لتنفيذ هذه الإجراءات. يمكننا تمكين أداة بحث للوكيل بحيث عندما يدرك أن LLM قد قدمت البحث كإجراء، فإنه سوف يستدعي هذه الأداة مع المعلمات المقدمة من LLM. البحث هنا موجود على الإنترنت ولكن يمكن أيضًا إعادة توجيهه للبحث في قاعدة معارف داخلية مثل قاعدة بيانات المتجهات. أصبح النظام الآن مكتفيًا ذاتيًا ويمكنه معرفة كيفية حل المشكلات المعقدة باتباع سلسلة من الخطوات. الأطر مثل لانجشين ويمنحك LLaMAIndex طريقة سهلة لإنشاء هؤلاء الوكلاء والاتصال بالأدوات وواجهة برمجة التطبيقات. أطلقت أمازون مؤخرًا إطار عمل Bedrock Agents الذي يوفر واجهة مرئية لتصميم الوكلاء.
تحت الغطاء، يتبع الوكلاء أسلوبًا خاصًا في إرسال المطالبات إلى LLM مما يجعلهم يقومون بإنشاء خطة عمل. يعد نمط التفكير والفعل والملاحظة المذكور أعلاه شائعًا في نوع من العوامل يسمى ReAct (الاستدلال والتصرف). تشمل الأنواع الأخرى من الوكلاء MRKL وPlan & Execute، والتي تختلف بشكل أساسي في أسلوب التحفيز الخاص بهم.
بالنسبة للوكلاء الأكثر تعقيدًا، قد تكون الإجراءات مرتبطة بالأدوات التي تسبب تغييرات في الأنظمة المصدر. على سبيل المثال، يمكننا ربط الوكيل بأداة تتحقق من رصيد الإجازات وتقدم بطلب للحصول على إجازة في نظام تخطيط موارد المؤسسات (ERP) للموظف. يمكننا الآن إنشاء روبوت دردشة لطيف يتفاعل مع المستخدمين ويقدم طلبًا للحصول على إجازة في النظام من خلال أمر الدردشة. لا مزيد من الشاشات المعقدة لتقديم طلبات الإجازات، بل توجد واجهة دردشة موحدة وبسيطة. يبدو مثيرا !؟
التحذيرات والحاجة إلى الذكاء الاصطناعي المسؤول
الآن ماذا لو كان لدينا أداة تستدعي المعاملات في تداول الأسهم باستخدام واجهة برمجة التطبيقات (API) المصرح بها مسبقًا. يمكنك إنشاء تطبيق حيث يقوم الوكيل بدراسة تغيرات الأسهم (باستخدام الأدوات) ويتخذ القرارات نيابةً عنك بشأن شراء وبيع الأسهم. ماذا لو قام الوكيل ببيع السهم الخطأ لأنه هلوس واتخذ قرارا خاطئا؟ نظرًا لأن LLM عبارة عن نماذج ضخمة، فمن الصعب تحديد سبب اتخاذهم لبعض القرارات، وبالتالي تكون الهلوسة شائعة في غياب حواجز الحماية المناسبة.
على الرغم من أن العملاء جميعهم رائعون، فمن المحتمل أنك خمنت مدى خطورتهم. إذا هلوسوا واتخذوا إجراءً خاطئًا قد يتسبب في خسائر مالية فادحة أو مشكلات كبيرة في أنظمة المؤسسات. ومن ثم، أصبح الذكاء الاصطناعي المسؤول ذا أهمية قصوى في عصر التطبيقات التي تدعم LLM. تحاول مبادئ الذكاء الاصطناعي المسؤول، التي تدور حول إمكانية التكرار والشفافية والمساءلة، وضع حواجز على القرارات التي يتخذها الوكلاء واقتراح تحليل المخاطر لتحديد الإجراءات التي تحتاج إلى تدخل بشري. ومع تصميم عملاء أكثر تعقيدًا، فإنهم يحتاجون إلى مزيد من التدقيق والشفافية والمساءلة للتأكد من أننا نعرف ما يفعلونه.
الأفكار إغلاق
إن قدرة الوكلاء على إنشاء مسار من الخطوات المنطقية من خلال الإجراءات تجعلهم قريبين حقًا من التفكير البشري. إن تمكينهم بأدوات أكثر قوة يمكن أن يمنحهم قوى خارقة. تحاول أنماط مثل ReAct محاكاة الطريقة التي يحل بها البشر المشكلة وسنرى أنماطًا أفضل للوكلاء ستكون ذات صلة بسياقات ومجالات محددة (الخدمات المصرفية، والتأمين، والرعاية الصحية، والصناعية، وما إلى ذلك). المستقبل هنا والتكنولوجيا وراء الوكلاء جاهزة للاستخدام. في الوقت نفسه، نحتاج إلى إيلاء اهتمام وثيق لحواجز حماية الذكاء الاصطناعي المسؤول للتأكد من أننا لا نبني Skynet!
