لو كان موظفك يتصرف كأنّه ذكاءً اصطناعيًا، لكان قد تم فصله الآن

تخيل أنك قد وظفت شخصًا جديدًا، وفي معظم الأيام يكون فعالًا، ومطلعًا، ومُعبّرًا وواثقًا. إنه كل ما كنت تأمل أن يكون عليه، ويظهر العديد من صفات الموظف المثالي.

الآن تخيل أنه بين الحين والآخر، عندما يُواجه سؤالًا لا يعرف إجابته، يختلق شيئًا. يكون ذلك بطلاقة وإقناع، لذا في البداية تأخذه على محمل الجد. ولكن عندما تكون له عواقب على الأعمال، تعود إلى ذلك الموظف، وتحدّيه – ولا يستطيع شرح عملية تفكيره أو مشاركة طريقة عمله. قد تشرح له حتى أنه مخطئ، فتلقاه مُصرًا على العكس ومزيدًا من الاختراعات لتدعيم موقفه. بعد المرة الثانية أو الثالثة التي يحدث فيها ذلك، هل من المحتمل أن تكون قد طردته، أو على الأقل أعطيت له تحذيرًا؟ الجواب لمعظم أصحاب العمل هو نعم بالتأكيد.

أجد من المحير أن الشركات الآن تسلم سير العمل الحيوية واتخاذ القرار إلى موظف يُعرف بأنه يظهر هذا السلوك بالضبط. السبب الوحيد لعدم اكتشافه هو أن هذا «الموظف» هو برنامج وليس شخصًا.

لماذا لا يفشل الذكاء الاصطناعي كما يفشل البشر

هناك افتراض شائع غير صحيح بين الشركات التي تستخدم الذكاء الاصطناعي بأنه إذا كان للتقنية معدل خطأ، فذلك يشبه إلى حد كبير مشكلة الأخطاء البشرية ويمكن إدارتها بنفس الطريقة. لكن الفحوصات والمراجعات والتصعيد لا تعمل دائمًا مع نماذج اللغة الكبيرة (LLMs). فهي مصممة لتبدو كالبشر، ولكن إذا نظرت إلى ما تحت الغطاء، فسترى أنها لا تعمل مثلنا على الإطلاق.

إذا ارتكب موظف مميز خطأً، فإننا نفترض أن الخطأ كان غير مقصود – كان يبذل قصارى جهده وتعثّر. يحدث ذلك. إذا قام بتأليف إجابة عمدًا لتجنب عدم معرفته بشيء، وفعل ذلك بشكل متكرر، فسنعتبر ذلك سلوكًا غير لائق. يعرف المديرون أين يركزون إشرافهم، لأن صعوبة المهمة وهوامش الخطأ تتزامن. يمكنهم أن يطلبوا من الموظف شرح منطقهم ومساءلتهم بشأنه. عادةً ما يعرف الموظف متى يكون خارج نطاق خبرته، ويعترف بذلك. وبعد خطأ واحد، يتعلم، لذا لا يتكرر نفس الخطأ في دورة مستمرة.

أنظمة الذكاء الاصطناعي تقلب كل هذه الافتراضات رأسًا على عقب. استجابتها الافتراضية للفشل هي اختراع بطلاقة وثقة. ستنتج إجابة معقولة لكنها غير صحيحة ببساطة، وهو السلوك الذي سينهي مسيرة إنسان. تُصمم نماذج اللغة الكبيرة لإنتاج الاستمرار الأكثر احتمالًا إحصائيًا لنص ما، وعندما لا تعرف الإجابة، غالبًا ما تُنتج شيئًا يبدو أنه قد يكون صحيحًا. وقد أقر باحثو OpenAI أن مستوىً معينًا من الخطأ الواقعي هو حتمية إحصائية لطريقة عمل هذه النماذج، وأن التدريب يكافئ التخمين الواثق على الاعتراف الصادق بالشك.

أين تدخل الأساليب العصبية الرمزية

هذا هو بالضبط ما صُممت الأساليب العصبية الرمزية لإصلاحه. فهي تقرن الشبكات العصبية، التي تتفوق في فهم اللغة والبيانات الفوضوية في العالم الحقيقي، مع التفكير الحتمي القائم على القواعد. وهذا يعني أن استنتاجات النظام تتبع منطقًا صريحًا يمكن فحصه، بدلاً من أن تنبثق من عملية لا يمكن لأحد رؤيتها.

بدون هذه الطبقة الإضافية من المنطق التي توفرها التكنولوجيا العصبية الرمزية، لا تتطابق أخطاء الذكاء الاصطناعي مع صعوبة العمل كما يحدث مع أخطاء الإنسان – فهي غير قابلة للتنبؤ. قد تظهر في مهام تافهة بينما تتجاوز المهام الصعبة بسهولة، مما يجعل من الصعب تحديد أين يتركّز إشراف البشر بشكل أفضل. تفسيراتها، عندما تُقدَّم، تُولد بعد حدوث الخطأ بدلاً من تقديم حساب حقيقي لكيفية وصولها إلى الاستنتاج. يمكن أن يتكرر هذا الخطأ نفسه إلى ما لا نهاية، لأنه لا يوجد أحد داخل النظام يتعلم منه أو يُحاسب عليه.

الثقة دون الفهم

وثّق الباحثون أنه عندما يكون الناس جددًا على نظام ما، يميلون إلى التخلي عنه بعد خطأ واضح واحد؛ لكن عندما يكون الخطأ مألوفًا، ينتقلون إلى الطرف الآخر – قبول مخرجاته لمجرد أنهم تعودوا عليها، وليس لأن تلك المخرجات أصبحت أكثر موثوقية. ما يُرى نادرًا هو مستوى الثقة المناسب، لأن ذلك يعتمد على فهم الناس لمتى يكون نظام الذكاء الاصطناعي عرضة للخطأ وقدرتهم على التعرف على ذلك.

هذا لا يعني أن الذكاء الاصطناعي لا ينبغي أن يُوثق به في الأعمال المهمة. بل يعني أننا كنا مستعدين لمنحه نوعًا من الثقة لا نمنحه لشخص، جزئيًا لأن لا يوجد فرد واضح يمكن محاسبته عندما يفشل.

إذا كان الذكاء الاصطناعي سيتولى أعمالًا تستند إلى الحكم كما يفعل زميل قيم، فيجب أن يلتزم بنفس المعايير الأساسية. يجب أن تكون الإجابات قابلة للتحقق، مع المنطق مرئي، وأن يُقر بحقيقة أن أفضل ما يمكنه القيام به أحيانًا هو قول “لا أعرف”.