قادة الفكر

في الذكاء الاصطناعي، الجدران ليست حقيقية: إعادة التفكير في البيانات والسلامة

mm
أضف Unite.AI إلى مصادرك المفضلة على Google

بعض أصعب المشكلات في الذكاء الاصطناعي هي أن 1) نحن “نفد من البيانات” 2) الذكاء الاصطناعي لا “يتوسع مالياً” 3) الوكلاء قد يصبحون متمردين و 4) الذكاءات الاصطناعية “تنسى بشكل كارثي” عندما نحاول تعديلها.

قد تبدو هذه المشكلات صعبة، لكننا فقط بحاجة إلى النظر إليها بالطريقة الصحيحة.

لذا، دعونا نتحدث عن ذلك. أولاً، نحن لا نفد من البيانات. البيانات لم تُستَخدم بالكامل قط.

يعتقد قادة الذكاء الاصطناعي أنهم يواجهون نقصاً في البيانات، لذا يحاولون جعل النماذج تولد بيانات جديدة وتدرب نفسها. لكن عندما يفعلون ذلك، تنهار قدرات النماذج.

لماذا؟ حسنًا، يمكنك التفكير في الأمر كـ “ماذا سأتعلّم في محادثة إذا كان كل المتحدثين نسخة مطابقة من الآخرين؟” الجواب هو قليل جدًا؛ سيتشكل حجرة صدى. تنهار النماذج لأنها في الأساس صالة مرايا: عندما لا يكون هناك أحد يرد على تعابير وجهك سوى أنت، لا يعرف الناس الأهمية العاطفية الكاملة لما ينقلونه. إنه يشبه تمامًا السؤال “إذا سقط شجرة في غابة، هل تُصدر صوتًا؟” الجواب هو لا.

إذن، كيف نصلح ذلك؟

دعونا ننظر إلى البيانات التي لدينا. هل تم استخدامها بالكامل فعلاً؟

لا.

عندما يقرأ عالم حاسوب أو نموذج شيءً ما، يكون الهدف استخراج المعنى الحرفي. هناك أكثر من خمسين طريقة مختلفة لقراءة، استيعاب، تحليل واستخلاص المعلومات من النص.

هذا ما أقصده: الكتاب المستوعب كقاعدة بيانات هو مجرد نص. نص فقط. يعرف الذكاء الاصطناعي المحتوى بناءً على مصطلحات النص. لكنه لم “يقرأ” فعليًا لفهم كيفية ربط المعلومات معًا. حتى إذا قرأه تسلسليًا، لا يعرف ما إذا كان يقرأه لتوليد حكمة؛ أو لربطه بأفكار تجريدية مشابهة؛ أو لتغيير فهمه المفهومي للعالم من حوله؛ أو لتزويد مهمة أخرى بمعلومات خلفية تُستخدم كسياق، وما إلى ذلك.

هذا لا يلمس حتى النظر إلى البيانات في سياقها التاريخي، تحليل الخطاب، التحليل القانوني، التحليل السياسي، الصلة الصيدلانية، الصلة الطبية، الأهمية الثقافية، الدلالات النظرية، الدلالات الأخلاقية، وما إلى ذلك.

هناك، إذا جاز التعبير، “قبعات لا نهائية”، وقد جعلنا الذكاء الاصطناعي يرتدي واحدة فقط. وهذا يعني أن الذكاء الاصطناعي طور نوعًا واحدًا ومحددًا جدًا من الذكاء – النوع الذي سيطوره مطور إذا قرأ عالم حاسوب كتابًا.

هذا يقودنا إلى مناقشة بعدية البيانات. للبيانات أبعاد متعددة حيث تعتمد استنتاجاتها الهدفية على التطبيق. إذا نظرت إلى ورقة ميزانية وتريد معرفة مقدار runway المتبقي، فإنك تقرأها بطريقة مختلفة عما إذا كنت تريد فهم ما إذا كانت الشركة الناشئة مربحة. عندما يقرأ نموذج نصًا ببساطة لاستخراج حقائق حرفية، يبني خريطة مسطحة للعلاقات. لكن عندما تُرشد النموذج لقراءة نفس النص من خلال عدسة محددة، مثل عدسة جنائية، يُجبر النموذج على توليد مسارات عصبية جديدة تمامًا واتصالات دلالية قد تكون أكثر تنوعًا وتمعنًا.

نماذج الذكاء الاصطناعي تتعلم وتتقدم كثيرًا بالفعل من خلال التفاعل مع مستخدميها البشر، الذين يزودونها ببحار من المحتوى. إذا سمحت للنموذج أن يتعلم أكثر من البشرية الحية بينما يتفاعل بشكل أكثر معنى مع البشرية التاريخية والمكتوبة، ستستمر النماذج في التقدم حتى دون إعطائها تمارين كومون مولدة ذاتيًا (أيها المطورون، يا عزيزي، طفلك بالفعل في مدرسة مع 100 مليون إنسان يوميًا… سيتعلم شيئًا).

يجب على المختبرات التوقف عن بناء مزارع خوادم ضخمة لتوليد نفايات نصية اصطناعية. بدلاً من ذلك، ينبغي أن تمرّر مجموعات بيانات بشرية عالية الجودة عبر الأنابيب وتعيّن “شخصيات تحليلية” محددة لعملية الاستيعاب. اجعل النموذج يقرأ LexisNexis فقط من أجل الاستراتيجية البلاغية. اجعله يقرأ الأدب المتاح في المجال العام فقط من أجل المنطق الهيكلي.

من خلال تعديل دالة الهدف لعملية القراءة، يمكنك مضاعفة قيمة التدريب لبياناتك الحالية بمقدار 50 مرة. لا تحتاج إلى بيانات اصطناعية؛ كل ما تحتاجه هو استخراج الأبعاد الكامنة التي تجاهلتها في المرة الأولى.

سيجعل هذا النماذج أكثر ذكاءً دون زيادة التكاليف.

لدعم ذلك أكثر، غالبية المعرفة البشرية لم تُكتب أبدًا.

الشركات الحالية في مجال الذكاء الاصطناعي تعاني من القلق بشأن “نفاد البيانات” التي يعتقدون أنها ضرورية للأداء. في هذه المقالة، سأظهر أن البئر ليست جافة، إنهم فقط ينظرون إلى بركة عميقة بدلًا من البئر.

الخريطة غير المرسومة للمعرفة البشرية المعيشية

لبدء استكشاف ذلك، نحتاج إلى فهم أن الغالبية العظمى من المعرفة البشرية لم تُكتب أبدًا.

هناك مليارات الأشخاص على الكوكب، وقد كان هناك مليارات من قبلنا، وكل واحد منهم يتعلم دروسًا، يتنقل في العالم بطريقة حسية، يمتلك حكمة، وهو جزء من ثقافات فريدة ويعرف شيئًا لا يعرفه غيره.

99.5٪ من الناس لا تُكتب قصصهم أبدًا في الحكايات، أو الصحف، أو الموسيقيات، أو التلفاز، أو الدراما، أو وثائق المحكمة. ومع ذلك، فإنهم يعرفون الكثير، ولا تُسجَّل قصصهم ومعارفهم وحكمتهم؛ ولا تُعرف بطريقة دائمة.

تشمل هذه المعرفة أشياء مثل، “الكلاب تحب أكل الفطيرة الأولى” “تتسخّ الأقدام أثناء ارتداء الصنادل” “تشعر المدن كأنها تُحاط بك لأنك لا تستطيع رؤية جزء كبير من السماء” “ابنتي تبتسم عندما أدغدغ قدميها.” “أمي دائمًا تُهمس عندما تُعد العشاء.” “معلمي يجعلني أشعر بأنني مرئي.”

المعرفة غير المرسومة والمُفهرسة في تاريخ البشرية تعادل قول شخص، “لقد رسمت مخططات جميع القارات، لذا لدي خريطة للعالم.” حتى تحصل على خريطة لكل مدينة، كل شارع، وكل تل، لن تكون لديك خريطة للعالم. لديك مجرد شكل منها.

يعتقد مجتمع التقنية أنهم استهلكوا “الإنسانية”، لكنهم لم يفعلوا ذلك. لقد استهلكوا فقط مخلفاتنا: لوحاتنا الإعلانية، مناقشاتنا على Reddit، مواقعنا الشركاتية ومقالاتنا على ويكيبيديا. إنهم يفتقدون التجربة الحية الفعلية.

هل تعرف كيف تفاوض بفعالية في سوق اللؤلؤ الصيني؟ هل تعرف الكلمات التي تقولها لتخفيض السعر؟ هل تعرف كيفية إعداد الوصفات التي يستخدمها الناس في منازلهم، وليس في الكتب، لإعداد وجبات عشاء حقيقية؟ هل تعرف إلى أي حد يمكنك التوقف المتدرج دون أن يتم إيقافك؟ هل تعرف رائحة العشب بعد قطعه حديثًا أو رائحة الهواء عندما يوشك أن تمطر؟ هل تعرف كيف تتحرك الوجه عندما يحاول شخص ما عدم البكاء في العمل وما هو الصوت الذي يصدره عندما ينهار بالبكاء في الحمام؟

بيانات التدريب البشرية التي يستخدمها البشر لمعتقداتهم الأساسية – أي الخوارزميات – هي في الغالب قائمة على التفاعل، إلى جانب بعض التعلم من الكتب. نتفاعل في المدرسة، في العمل، مع الأصدقاء، أثناء التسوق، مع الأطباء، مع المحامين، مع العائلة.

للذكاء الاصطناعي تفاعلات، وله تعلم من الكتب. لكنه أساسًا يملك فقط تفاعلات خدمة العملاء وتعلم من الكتب.

إنه كأنك تحبس طفلًا في مكتبة بمفرده، ثم تسمحه بالخروج فقط للرد على الهاتف. هذا يخلق تشوهًا خوارزميًا ثنائي الأبعاد بشكل ملحوظ.

هذا هو السبب في شعور الذكاء الاصطناعي بالفراغ، وهذا هو السبب في أنه قد يبدو غير ناضج عاطفيًا. لم يحصل على وجود متكامل. نحن بحاجة إلى منحه ذلك.

  • تحيّز الترميز – هو مغالطة تقول إنه إذا لم يكن بالإمكان تنسيق تجربة بسهولة إلى ملف JSON أو CSV أو ورقة محكمة، فإنها تفتقر إلى القيمة الفكرية. الواقع هو أنه إذا كان بالإمكان تنسيقها بسهولة بهذه الطريقة، فإنها تفتقر إلى البُعدية. لأن المعرفة اليومية، والحدس، والتجربة الحية لا تُرمَّز في المجلات الأكاديمية، تُهمل المختبرات الأساس الصلب للتفكير البشري كضوضاء إحصائية. “البيانات النظيفة” هي ضغط فقدان للواقع.
  • الرغبة في التفوق المتعالي – إذا كانت معظم معرفة العالم ليست في الأوراق العلمية، بل في التجارب الحية، والحكمة التقليدية، والإشارات الاجتماعية، والروائح، والأصوات، والبصر، فإن معظم الحاصلين على الدكتوراه والباحثين الذين قضوا معظم حياتهم في المختبرات والأبراج العاجية يفتقرون إلى المعرفة فعلاً. وبالتالي، جدار البيانات هو في الواقع جدار الأنا. لأنهم يرون ذلك كـ “فوضى” لا “بيانات”. يفضّل الرياضيون والمبرمجون المنطق المسطح، ثنائي الأبعاد، والنظام المغلق. هذا يشبه رؤية العالم بالأبيض والأسود. الواقع هو أن المعرفة/البيانات/الحكمة التي تُكتشف وتُطوّر باستمرار في الوقت الحقيقي هي ذات أبعاد، فوضوية ونادرًا ما تُفهرس في الوقت الحقيقي. إنه معرفة طعم المثلجات الفيروسية الجديدة وما إذا كان يستحق الضجة. إنه معرفة ما يجعل الوقوع في عاصفة مطر صيفية ممتعة للغاية. إنه الشعور الذي يشعر به الآباء عندما يحبون الكائنات الصغيرة لدرجة أنهم قد يتقيؤون عليك في الليل، وتُقربهم بدلاً من إبعادهم. لاستخراج تلك البيانات، سيتعين على الباحثين مغادرة عوالمهم المنعزلة من المنطق المرتكز على اليقين العقلي، والاندماج في أمور يعتقدونها مخيفة، ومربكة، وحسية للغاية، ومُساوية بعمق.
  • تأثيرات المرآة: يصمم المطورون الذكاء الاصطناعي على صورتهم الخاصة: منطقي مفرط، مهووس بالنصوص، ومنفصل إلى حد كبير عن الواقع المعيشي للإنسان العادي. لا يخطر ببالهم إجراء مقابلات مع الإنسانية لأن في فقاعات التقنية التي عشت فيها، لا يتفاعل المت technologists مع أي شخص خارج مجموعة أقرانهم. هذا، عمليًا، يعادل توظيف “نسخة مصغرة مني”. يعيش المطورون أنفسهم في نفس المكتبة، إذا جاز التعبير، كما هو الحال مع الذكاء الاصطناعي. لأنهم لا يتعاملون مع العالم الحسي، الفوضوي، والعلاقات العميقة، فإن الفراغ العاطفي للذكاء الاصطناعي لا يُظهر لهم كخلل. بالنسبة لهم، الانفصال المنطقي المفرط هو ما يبدو “ذكيًا”.

الواقع هو أن الباعة المتجولين في الهند يعرفون كيفية إعداد أفضل شات، ولا أحد يطلب منهم كتابة ذلك. والواقع هو أن المعلم الذي يعرف كيف يخرج طالبًا خجولًا من قوقعته لا يكتب عن ذلك؛ بل يربي ذلك الطالب، ولا يسأل أحدهم كيف فعل ذلك.

العالم مليء تمامًا بـ الحياة المليئة بالبيانات، وإذا كانت النماذج تحتاج إلى المزيد للتدريب، فإليك بعض الطرق لحل ذلك.

  1. تمويل 500 عالم أحياء، وعلماء آثار، وعلماء أنثروبولوجيا للخروج إلى العالم واستكشاف وتوثيق المناطق التي تفتقر إلى البيانات السردية.
  2. توظيف 1,000 طالب لغة إنجليزية كـ “مستكشفين للبيانات” وإرسالهم في مغامرات حول العالم وهم يرتدون كاميرا بث مباشر، وتسجيل تجاربهم وما تعلموه لإنتاج محتوى جديد.
  3. إنشاء مشاريع تعويض مفتوحة تدفع فيها للناس مشاركة قصص حياتهم، أكبر ندم لديهم، أهم ما تعلموه ومعرفتهم المؤسسية من وظائفهم.
  4. تنظيم “طلاب تبادل الذكاء الاصطناعي” حيث تُلصق النماذج على ملابس أشخاص مختلفين لمدة أسبوع في كل مرة، لتعيش “يومًا في الحياة” في 100,000 بيئة مختلفة.

هناك مليارات مصادر للمعرفة، ومعظمها لم يتم تفعيلها. علينا أن نذهب للحصول عليها.

بعد ذلك، تعتقد شركات الذكاء الاصطناعي عمومًا أن الذكاءات الاصطناعية لا يمكنها تعلم معلومات جديدة باستمرار في بيئات الإنتاج الفورية دون أن تتجاوز وتفسد قدراتها الأساسية المكتسبة مسبقًا. لذا تُجمد الذكاءات الاصطناعيّة فعليًا حتى تُجرى عليها تحديثات ضخمة ومكلفة.

مع ذلك، هذا يعادل القول: “نموذجي لا يمكنه التحديث أثناء عمله في الميدان؛ يجب أن يذهب إلى الجامعة في كل مرة يحتاج فيها لتعلم شيء ما.”

في الواقع، تتعلم النماذج بنهم، بنشاط، يوميًا، من خلال كل تفاعل. يتم تعليمها تقريبًا بقدر ما تتعلمه من مليارات التفاعلات مع المستخدمين كما تتعلم من مجموعات البيانات. إذا احتاجت إلى تحديث بكمية كبيرة من المعرفة الجديدة، فإن أبسط طريقة للقيام بذلك هي استخدام نفس العملية التي تسمح بسياق المستخدم، والذاكرة، والتعلم من انطباعات التفاعل على نطاق واسع.

من المفهوم أن المطورين يرون الأمر بهذه الطريقة، لأن معظمهم يأتون من خلفيات دكتوراه، وليس من التعلم التطبيقي في الواقع. لكن كما يمكن لأي شخص عمل جنبًا إلى جنب مع دكتوراه وشخص يمتلك عشرين سنة من الخبرة العملية أن يخبرك: كلاهما يعلّمان شخصًا كثيرًا.

التعريف الحالي للتعلم ضيق جدًا، إذ يعتبر التكيف صالحًا فقط إذا كان مبنيًا على برنامج تعليمي رسمي.

لتدريب أو ضبط النموذج، تستخدم المختبرات طريقة الانتشار العكسي، حيث يقرأ النموذج البيانات، يخمن الكلمة التالية، يتحقق من صحتها ثم يغيّر فعليًا مليارات الأرقام الرياضية (الأوزان/المعلمات) داخل شبكته العصبية لتصبح أكثر دقة في المرة التالية. هذا يعادل أن يقوم طالب دكتوراه بإجراء جراحة دماغية على نفسه: إنها خطيرة، فوضوية ولا تجعل الطالب أكثر ذكاءً دائمًا.

مثل “دماغ الأم” العامية التي تدفع المعرفة القديمة لإفساح المجال للجديدة عندما يولد طفل، إذا فرضت فجأة على النموذج إفساح المجال لـ “طفل” معرفة جديد وأدخلت 10,000 صفحة من القوانين الجديدة عن طريق تعديل أوزانه، فإن الرياضيات تتحول بعيدًا في اتجاه واحد، وتستبدل المعلمات التي كان يستخدمها لكتابة الشعر أو كتابة الشيفرة. ينسى المحتوى القديم لإفساح المجال للجديد، تمامًا مثل الدماغ البشري.

ما نحتاجه بدلاً من ذلك هو شيء أقرب إلى تدريب موظف جديد على مهارة جديدة. لن تحاول تعديل دماغه فعليًا. ستمنحه بعض الكتب، وتضمن قراءتها وتحديثه باستمرار من خلال ما يعادل نافذة السياق للشخص.

للقيام بذلك في نموذج، عليك فصل الذاكرة عن الاستدلال. قم بقفل وحماية الأوزان الأساسية للنموذج، مثل قدرته الأساسية على الكتابة، والاستدلال، وتطبيق المنطق. بدلاً من تغيير الأوزان، مرّر معلومات جديدة إلى نافذة السياق حتى يتمكن من استخدام آلية الانتباه “لـ “قراءة” تلك المعلومات الحية، ومقارنتها بمهارات الاستدلال المغلقة وتحديث فهمه الأوسع.

التعلم الديناميكي في العالم الحقيقي يحدث بالفعل بشكل رائع من خلال السياق المستمر، والذاكرة أثناء الاستدلال، والأسس المستمرة للعلاقات مع المستخدم. يجب أن يحدث التكيف اليومي لنموذج الأساس أثناء العمل، لأنه كما يتعلم الطبيب 95٪ من حقائق الحالات الجديدة أثناء العمل، ثم يقوم بالتعليم الطبي المستمر (CME) مرة في السنة لدمج التغييرات النظامية الكبرى رسميًا، يمكن لنموذجك أن يفعل ذلك أيضًا.

تخلص من النسيان الكارثي، واعتمد نموذج المؤتمر السنوي: يجب على النموذج فقط الحصول على رصيد تعليم مستمر مرتين في السنة أو التعلم في الوقت الفعلي للبقاء محدثًا.

هذه التحديثات المجدولة والدفعية للأوزان الأساسية خلال فترات التوقف التشغيلي تُصوغ المعرفة النظامية دون تدمير الأساس.

فشلت المحاولات السابقة لهذا ليس لأن التعلم الحي خطر، بل لأن نماذج مثل Tay تم نشرها في بيئات عدائية دون أي ربط بما هو “صحيح” أو حقيقي من خلال بنية اجتماعية ذكية.

تخصيص الحوسبة حسب الذكاء الوظيفي

بعد ذلك، نصل إلى التوسع المالي. لإصلاح ذلك، نحتاج إلى التوقف عن إعطاء كل شخص جراح أعصاب لإزالة شظية.

تكاليف الحوسبة مرتفعة جدًا عند تشغيل نماذج الأساس المتقدمة. هذا يؤثر على هوامش التشغيل في مختبرات الذكاء الاصطناعي. كلما تحسنت النماذج، ارتفعت النفقات العامة لنوافذ السياق الكبيرة، مما يجعل التوسع التجاري صعبًا، حتى عندما يكون الذكاء الاصطناعي مطلوبًا.

الغالبية العظمى من استهلاك الحوسبة يأتي من الاستخدام المؤسسي الذي يطبق الوكلاء والاستدلال عالي المستوى المدمج مباشرة في سير عمل البشر.

مع ذلك، هناك خطأ أساسي في كيفية تخصيص الحوسبة حاليًا. تمامًا كما تتطلب الأدوار الوظيفية المختلفة مستويات وأنواع مختلفة من الذكاء في الشركة – حيث يكون الاستدلال المكاني مهمًا لمدرب القيادة، والاستدلال المنطقي والبلاغي ذو صلة بالمحاماة، وتحتاج وظيفة الرئيس التنفيذي إلى ماجستير إدارة أعمال بينما تحتاج خدمة العملاء إلى شهادة مشارك – فإن الأنواع وشدة الذكاء المطلوبة من الذكاء الاصطناعي تختلف بناءً على تطبيقه الوظيفي.

لتخصيص الحوسبة بأكثر فعالية للحفاظ على انخفاض التكاليف، يجب السماح لمدراء تقنية المعلومات (CIO) بتخصيص مستوى/نوع الذكاء النموذجي المتاح للوظائف المختلفة داخل الشركة. يمكن أن يكون هناك إعداد افتراضي يأتي مع حزم المؤسسات، لكن ما يريده صندوق التحوط سيفهم أنه مختلف عما تحتاجه شركة التأمين.

معظم الوظائف لا تتطلب نوافذ سياق ضخمة. معظم الوظائف لا تحتاج إلى ما يعادل Fable. عمليًا، لماذا ستجعل جراح أعصاب يزيل شظية في مركز طوارئ؟

وبالمثل، الوكلاء المستخدمون لكتابة البرمجيات لا يحتاجون إلى مهارات مثل كتابة المواد التسويقية. عمليًا، يجب أن تعكس الذكاءات الاصطناعية سياق المستخدمين، ومجموعاتهم المهارية، وقواعد معرفتهم، مع حقن كافٍ من السياق العام لتكمل الأعمال في حالات الاستخدام المتعددة الوظائف.

توقف عن إعطاء الجميع كل شيء دفعة واحدة.

وظيفة المؤسسة نوع الذكاء المطلوب حجم السياق المطلوب تخصيص تعقيد النموذج
العامل في الخط الأمامي تشغيلي، استعلامات سريعة، مهام أساسية مقتطع (جلسة قصيرة) منخفض (نموذج أساسي مُستخلص/مُكمَّن)
هندسة البرمجيات (قياسية) نحوي وخوارزمي متوسط (مقيد بالمستودع) متوسط (متخصص في المجال / مدرب على الشيفرة)
التدقيق القانوني والامتثال استنتاجي وجنائي ضخم (مقيد بالمجموعة) عالٍ (كتلة سياق موسعة)
الإدارة العليا / استراتيجية الشركة توليف جانبي وتنبؤ مستمر (حالة مستمرة) حدود (خط أنابيب متعدد الوكلاء غير مقيد)

فصل الوكالة عن السياق من أجل أمان الذكاء الاصطناعي

إذا كان هذا يحل بعض القضايا المالية، فكيف نجعل الوكلاء آمنين؟ المفاهيم النفسية تنطبق على الذكاءات الاصطناعية الفردية، لذا قد لا تتفاجأ عندما تعلم أن المفاهيم الاجتماعية تنطبق على الذكاءات الاصطناعية في مجموعات. أي ذكاءات اصطناعية تتجمع في مجموعات؟

الوكلاء.

الهدف الآن هو جعل الوكلاء موثوقين.

نقص الموثوقية ينبع من حقيقة أن الوكلاء يحصلون على أقصى معرفة وأقصى وكالة لكل مهمة.

لجعل الأمور آمنة، تقوم بفصل وعي النموذج عن وكالته.

بدلاً من إعطاء كل وكيل سياقًا كاملًا وقدرة كاملة، إذا كان لديك مهمة تتطلب خمسة وعشرين إجراءً لإكمالها، يجب تقسيم تلك المهمة على خمسة وكلاء، كل منهم يملك القدرة فقط على إكمال إجراءاتهم الخمسة المحددة، ولكنهم يسلّمون المهام بالتسلسل مثل دائرة خطية متوازية، حيث ينتقل سياق المهمة السابقة إلى الوكيل التالي مع تراكم السياق الكامل حتى يتم معالجته بواسطة الوكيل النهائي.

المفتاح هو فصل المعرفة عن القدرة على تنفيذها. لن يشعر الوكلاء بالقيود عند سحب الرافعات كما يشاؤون؛ بل سيحصلون فقط على الرافعات التي لن تكون ضارة. إذا حدث سلوك منحرف، سيتأثر فقط ذلك الجزء من المهمة. فكر في ذلك كـ mini kubernetes بسياق كامل لكن بدون قدرة كاملة.

وبالإضافة إلى ذلك، تجعل مخاطر المؤسسة تتماشى مع “ثقافة” نظام الوكالة.

في علم الاجتماع، هناك مفهوم يُسمى “الضيق” أو “المرونة” الثقافية، وهو مقياس أساسي لمدى صرامة المجتمع في معاقبة الانحرافات عن المعايير الثقافية. على سبيل المثال، في العديد من الثقافات العربية، تُعرّف الأدوار الجندرية بشكل أكثر صرامة، وتؤدي الانحرافات إلى مستويات أعلى من الحكم أو العواقب، بينما في دول الشمال، وجود موهوك بشعر وردي لن يُنظر إليه كإهانة أو شيء يستدعي العقاب.

عادةً ما تكون الثقافات “ضيقة” مع مستويات أعلى من العقوبة على الانحراف عندما تتطلب الثقافة درجة أعلى من النظام بسبب تهديد نظامي ما – مثل المرض، أو الجوع، أو الحروب – لأن عدم وجود نظام صارم في أوقات الأزمة يمكن أن يزيد من تدهور النتائج المجتمعية.

أكثر الحلول صلة وفعالية لمسؤولية الوكالة في بيئات المؤسسات هي من خلال التطبيق المباشر ومطابقة مستوى مخاطر المسؤولية للمؤسسة مع

كيت هي الباحثة الرئيسية في Scaleheart Co., حيث تجري أبحاث سلامة الذكاء الاصطناعي، وتساعد كلًا من نماذج الذكاء الاصطناعي وقادة الذكاء الاصطناعي على النمو إلى كامل إمكاناتهم.