قادة الفكر

قبل التوسع في استخدام وكلاء الذكاء الاصطناعي، اسأل عمّا يجهلونه

Dror Nadler
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةتفشل الإجابات الواثقة عندما تحجب الوكلاء سياقًا مثل تواريخ تقديم قديمة أو اختلافات في…
عرض المزيد
  • تفشل الإجابات الواثقة عندما تحجب الوكلاء سياقًا مثل تواريخ تقديم قديمة أو اختلافات في التقويم المالي.
  • تتبّع ما يقرب من 6 من كل 10 شركات إجابةً من الذكاء الاصطناعي واثقة لكنها خاطئة إلى سياق أعمال ناقص أو غير مكتمل.
  • يجب أن يتوسّع المراجعة البشرية بما يتناسب مع المخاطر لأن البيانات الصحيحة إذا شُوركت بشكل خاطئ قد تنتهك اللوائح مع ذلك.

تخيّل هذا الموقف: يستعد مدير مالي لاجتماع مع مستثمر مؤسسي كبير. ولمساعدته في التحضير، يطلب فريق علاقات المستثمرين معلومات أساسية من أداة ذكاء اصطناعي، مثل تاريخ آخر اجتماع مع تلك المؤسسة، والأولويات التي عبّرت عنها، وعدد الأسهم التي تملكها، وغير ذلك.

تؤكد الأداة بثقة أن المستثمر يملك 2.5 مليون سهم. ولا يشكك أحد في ذلك، فيما يواصل المدير المالي الاستعداد لهذه المحادثة المهمة بكل حماس.

لكن ثمة مشكلة: استخرج الذكاء الاصطناعي الرقم من إيداع نموذج 13F، الذي يبيّن حيازات المستثمر حتى نهاية الربع السابق. كانت المعلومات دقيقة حين أُبلغ عنها… لكنها الآن تعود إلى أشهر مضت. وفي هذه الأثناء، باع المستثمر بهدوء مليوني سهم، ما قلّص حصته بدرجة كبيرة. ولم يعد جدول أعمال الاجتماع (وربما الاجتماع نفسه!) يبدو ذا صلة.

ما الذي حدث؟ في هذا السيناريو، لم يختلق الذكاء الاصطناعي إجابة وهمية أو يفبرك رقمًا. بل استرجع معلومات صحيحة، لكنه لم يوضّح سياقها أو يشرح حدودها.

قد تقتصر العواقب في هذه الحالة على محادثة محرجة أو فرصة ضائعة، لكن إجابة قاطعة بالقدر نفسه وتفتقر إلى سياق أساسي قد تنطوي على مخاطر أكبر بكثير في مواقف أخرى.

النماذج الأفضل ليست بالضرورة الحل

تتحسن النماذج الأساسية باستمرار. فلماذا يبدو أن الإجابات الواثقة لكنها خاطئة تتزايد، وهي مشكلة تواجهها شركات في مختلف القطاعات؟

أولًا، أصبح الذكاء الاصطناعي التوليدي واسع الانتشار تمامًا. ووفقًا لتقرير ماكنزي «واقع الذكاء الاصطناعي في عام 2026»، يقول ما يقرب من 9 من كل 10 من المهنيين إن مؤسساتهم تستخدم الذكاء الاصطناعي بانتظام في وظيفة واحدة على الأقل من وظائف الأعمال.

ومع انتقال المؤسسات إلى ما بعد مرحلة التجريب واعتمادها المتزايد على الذكاء الاصطناعي في مهام الأعمال وقراراتها اليومية، فإنها تواجه أيضًا حدود ما تعرفه هذه الأدوات وما تستطيع فهمه.

يكشف استطلاع حديث للقطاع عن سبب شائع لهذه المشكلة: ففي الأشهر الستة الماضية وحدها، عزت قرابة 6 من كل 10 شركات (57%) إجابة واثقة لكنها خاطئة من وكيل ذكاء اصطناعي إلى نقص سياق الأعمال أو عدم اكتماله.

قد يبدو ذلك مفاجئًا في ظل كل البيانات المتاحة للذكاء الاصطناعي. لكن ثمة فرقًا مهمًا ينبغي إدراكه: السياق ليس هو البيانات.

ما السياق، وما ليس منه

قد يشمل السياق المعرفة المؤسسية، والاستثناءات من القواعد، والعلاقات، والعمليات، والتوقعات المتعلقة بكيفية إنجاز العمل؛ وهي تفاصيل دقيقة غالبًا ما تخص كل شركة على حدة.

من خلال عملي مع فرق علاقات المستثمرين، أرى مدى أهمية هذه الفروق. إليكم بعض الأمثلة التي تبدو بسيطة للوهلة الأولى:

  • التقويمات المالية: قد يتزامن الربع الأول لدى إحدى الشركات مع السنة الميلادية، بينما يبدأ لدى شركة أخرى في سبتمبر. ومن دون هذا السياق، قد يقارن وكيل الذكاء الاصطناعي نتائج فترات إعداد التقارير غير الصحيحة.
  • المقاييس المالية: قد تعلن مؤسسة عن الأرباح لكل سهم وفقًا لمبادئ المحاسبة المقبولة عمومًا (GAAP) وبمقاييس لا تتوافق معها. وإذا لم يفهم الوكيل أي المقياسين ينبغي الاستشهاد به (ومتى)، فقد يعرض أداء الشركة على نحو مضلل.
  • سردية الشركة: تتطور الرسائل التي توجهها الشركة بمرور الوقت، بما يعكس قرارات مدروسة بشأن ما ينبغي التركيز عليه وما ينبغي استبعاده. ومن دون فهم تاريخ هذه الرسائل والأسباب وراءها، قد ينشئ وكيل الذكاء الاصطناعي محتوى يقوّض فعليًا سردية صيغت بعناية.

لذلك، ليس من المستغرب أن يقدّم النموذج الأساسي نفسه نتائج مختلفة جدًا من شركة إلى أخرى، تبعًا للسياق والمعرفة المتخصصة المتاحين له.

يمكن للذكاء الاصطناعي المصمم لغرض محدد والمتخصص في قطاع بعينه (أو «الذكاء الاصطناعي العمودي») أن يساعد على سد بعض هذه الفجوات، إذ يتعرف إلى المعارف المتخصصة وسير العمل والتفاصيل الدقيقة في قطاع معين. لكن حتى أكثر التقنيات تطورًا لا تستطيع استيعاب كل ما تعرفه المؤسسة، ولذلك يظل للبشر دور أيضًا.

ما الذي يجهله الذكاء الاصطناعي عن شركتك؟

لكن البشر لا يبقون في وظائفهم إلى الأبد. تأمل ما يحدث حين يغادر مسؤول علاقات مستثمرين متمرس شركته بعد خمس سنوات، على سبيل المثال. فمن المرجح أنه أمضى وقته في تحديد المستثمرين المحتملين واستهدافهم، وتحليل أنشطة المساهمين، وبناء العلاقات، والتحضير لإعلانات الأرباح، وإعداد كبار التنفيذيين… وغير ذلك الكثير.

تحتفظ الشركة بنصوص إعلانات الأرباح والعروض التقديمية والملفات الأخرى. لكن ماذا عن المعرفة المؤسسية الكامنة وراءها؟ يغادر الكثير منها مع الموظف أيضًا، لا سيما إذا أخذنا في الحسبان أن ما يقرب من ثمانية من كل عشرة مسؤولين عن علاقات المستثمرين (78%) ليس لديهم خلف محدد لتولي أدوارهم.

لهذا السبب، ينبغي للمؤسسات أن تبذل جهدًا للحفاظ على المعرفة والفهم بطريقة تتيح لأنظمة الذكاء الاصطناعي الاستفادة منهما. فكثيرًا ما لا يكفي مجرد ربط وكيل ذكاء اصطناعي بمجلد مشترك.

إن امتلاك وسيلة منهجية لتوثيق المعارف وسير العمل الأساسية — مثل الأسباب التي تقف وراء القرارات المهمة، وتاريخ العلاقات، وغيرها من المعلومات الحيوية للمهمة التي لم تُسجَّل قط في وثيقة رسمية — أمر مهم للشركات في مختلف القطاعات.

ويتطلب بناء قاعدة معرفية كهذه مشاركة أشخاص، سواء في تسجيل المعلومات أو في إعمال تقديرهم بشأنها. يمكن للذكاء الاصطناعي أن يساعد في تنظيم المعرفة، لكن الموظفين هم من يقدّمون السياق الأساسي الذي كثيرًا ما تغفله التكنولوجيا.

في البيئات عالية المخاطر، تكون فجوات السياق مؤذية حقًا

لقد ناقشنا ما يحدث عندما يقدّم الذكاء الاصطناعي إجابة خاطئة. لكن قد يسترجع وكيل الذكاء الاصطناعي أحيانًا معلومات صحيحة — دقيقة وحديثة وذات صلة — ومع ذلك يظل يسبب مشكلات حين يشاركها في ظروف غير مناسبة.

وتكون هذه الهفوات مكلفة على نحو خاص في القطاعات الخاضعة لتنظيمات صارمة.

فعلى سبيل المثال، قد تؤدي مشاركة معلومات جوهرية غير معلنة (MNPI)، مثل النتائج المالية التي لم يُعلن عنها بعد، مع محلل أو مستثمر في مجال علاقات المستثمرين إلى مخالفة لائحة الإفصاح العادل (Reg FD) الصادرة عن هيئة الأوراق المالية والبورصات الأمريكية (SEC)، وقد يترتب على ذلك غرامات مالية وأضرار بالسمعة.

وتواجه قطاعات أخرى، مثل الرعاية الصحية والخدمات المالية والخدمات القانونية، مخاطر تنظيمية مماثلة، ما يبرز ضرورة وضع ضوابط وقائية عندما تكون لوكلاء الذكاء الاصطناعي إمكانية الاطلاع على معلومات حساسة.

ويوضح ذلك أيضًا سبب استمرار أهمية البشر، إذ يشكلون عنصرًا أساسيًا في مراجعة ما يجري إبلاغه والموافقة عليه. وقد تنظر الشركات في جعل مستوى المراجعة البشرية متناسبًا مع حجم المخاطر، بحيث تعمل أنواع مختلفة من سير عمل الذكاء الاصطناعي بمستويات متفاوتة من الاستقلالية.

ثلاثة أسئلة ينبغي طرحها قبل توسيع نطاق استخدام وكلاء الذكاء الاصطناعي

لعلنا جميعًا مررنا بمواقف في العمل أو في الحياة عمومًا لم نكن ندرك فيها ما نجهله. أحيانًا لا تترتب على ذلك عواقب تذكر، وأحيانًا أخرى تكون العواقب أخطر.

تتوفر للذكاء الاصطناعي اليوم مجموعات بيانات هائلة، ولذلك باتت النماذج تعرف الكثير، لكنها ما زالت بحاجة إلى «التنبيه» عندما تكون هناك ثغرات. لذا، بينما توظف الشركات الذكاء الاصطناعي للتعامل مع مزيد من الأولويات وسير العمل الاستراتيجي، من المهم طرح هذه الأسئلة قبل توسيع نطاق استخدامه:

  • هل يستطيع وكيلنا توضيح مصدر إجاباته — ومتى حُدّثت تلك المعلومات آخر مرة؟ وهل يستطيع تقديم هذه المعلومات من دون أن يُطلب منه ذلك؟
  • هل يمتلك الوكيل السياق اللازم للأعمال كي يفسر الطلبات ويجيب عنها؟ وهل سيوضح حدود قدراته؟
  • هل نعرف متى ينبغي للإنسان أن يتدخل للمراجعة والموافقة؟ وفي أي ظروف سيحدث ذلك، وكيف ستُفعّل عملية المراجعة؟

الحل ليس في تجنب الذكاء الاصطناعي

أريد أن أكون واضحًا: أنا متفائل جدًا بشأن الذكاء الاصطناعي. أستخدمه يوميًا في عملي، وأرى فوائده الحالية والمستقبلية، وأعتقد أننا، من نواحٍ كثيرة، لم نكتشف سوى جزء ضئيل من إمكاناته. ولا شك لدي في أن الشركات التي تتجنب الذكاء الاصطناعي، وكذلك الشركات التي لا تنجح في تطبيقه بطريقة منظمة وفعالة، تواجه خطرًا حقيقيًا بالتخلف عن الركب.

لكن تبني الذكاء الاصطناعي لا يعني منح نموذج متعدد الأغراض إمكانية الوصول إلى بيانات المؤسسة وتركه يتصرف بلا ضوابط.

في الوقت الراهن، وبقدر ما أستطيع أن أرى، لا يناسب الذكاء الاصطناعي المستقل تمامًا كل مهمة أو قرار في مجال الأعمال. ينبغي للمؤسسات أن تفهم أين يمكن للذكاء الاصطناعي أن يعمل باستقلالية، وأين يحتاج إلى سياق إضافي، وأين لا يمكن الاستغناء عن التقدير البشري.

لذا، قبل أن تسأل عما يعرفه وكيل الذكاء الاصطناعي، اسأل عما لا يعرفه. فالإجابات تحدد كيفية نشره، وما يمكنك الوثوق به للقيام به، وكيف تهيئه للنجاح.

يشغل Dror Nadler منصب الرئيس التنفيذي للمنتجات لدى Q4 Inc.، حيث يقود استراتيجية المنتجات والابتكار، ويساعد فرق علاقات المستثمرين على الاستفادة من الذكاء الاصطناعي والبيانات والتكنولوجيا للعمل بفاعلية أكبر. ويتمتع بخبرة تزيد على 25 عامًا في تكنولوجيا المؤسسات والبرمجيات كخدمة (SaaS) والخدمات المالية، وشغل سابقًا مناصب قيادية في Intralinks وCellrox وRapid7 وEMC. وركز Dror طوال مسيرته المهنية على تطوير المنتجات التكنولوجية وتوسيع نطاقها، ودفع عجلة الابتكار وتسريع نمو الأعمال. وهو حاصل على ماجستير إدارة أعمال تنفيذي من Boston University، وماجستير في تكنولوجيا المعلومات من Harvard University، وشهادة في القانون من Reichman University.