الانتقال إلى اقتصاد التحقق

قد يصبح التحقق من عمل الذكاء الاصطناعي قطاعًا مهمًا في اقتصاد التعلم الآلي الجديد؛ قطاعًا يجب أن يتوسع بشكل كبير، ولا يمكن تلقينه. ولكن مع مرور السنوات، من المحتمل أن تتراجع جودة الخبراء البشر.

رأي. زوجتي مهندسة معمارية في واحدة من الإدارات الأكثر ازدحامًا وشدّة في أوروبا. جزء كبير من قيمة تعليمها يكمن في الحصول على حق التوقيع – شهادة باهظة الثمن يجب تجديدها كل عام، والتي تسمح لها بتوقيع مقترحات قد تصل تطبيقها إلى مئات الآلاف، بل ملايين اليوروهات.

ت告诉ني أن هذا ليس الجزء الأصعب من عملها، منذ أن يتم فقط تسجيل حساباتها الخاصة أو حسابات الآخرين، وأن هذا الغرض لا يعتبر عادةً صعبًا للتحقق.

بماذا – كما هو الحال غالبًا عند تعيين المديرين التنفيذيين – يتم توفير هذا الختم (وهو ختم حقيقي) في المقام الأول للمستفيدين بمكان للاعتراف به إذا شيء ي đi yanlış. في التأكد من المساءلة، يسهل أيضًا تغطية التأمين وثقة المستثمرين، والتي لن تكون قابلة للتحقيق بدون مثل هذه الضمانات.

هذا هو المرة الثانية في حياتي أرى هذا الإجراء مباشرة في العمل؛ قبل 25 عامًا كنت مخطوبًا لطبيبة أورام في إدارة أخرى مشهورة بالتعقيد في الاتحاد الأوروبي، إيطاليا، وشاهدت مدى أهمية توقيعها الخبير في سلسلة الثقة التي ساهم فيها العديد من الآخرين بخبرتهم.

سمعت من زوجتي السابقة في ذلك الوقت، ومن زوجتي مؤخرًا، أن مهنهم كانت/ما زالت متأثرة بمحترفين مؤهلين يبيعون ختمهم ويتجنبون العمل الأصلي أو المفيد لأنهم يعتبرونه أقل ربحية. يمكن لمثل هؤلاء الممارسين السخيفين أن يتقاضوا مبالغ عالية لأنهم يمثلون موارد نادرة وضرورية.

تحقق من ذلك

جاء هذا الموضوع إلى ذهني عندما وقعت على ورقة جديدة ومتفرعة اليوم، بعنوان بعض الاقتصاد البسيط للذكاء الاصطناعي العام. في ذلك، يصور ثلاثة باحثين من معهد ماساتشوستس للتكنولوجيا وجامعة واشنطن في سانت لويس وجامعة كاليفورنيا، لووس أنجلوس، مستقبلًا قريبًا حيث يتصادم الدافع المخيف نحو التلقين الآلي بالذكاء الاصطناعي مع الحاجة إلى أذناب بشرية حقيقية في سيناريوهات عالية المخاطر – مما يؤدي إلى اقتصاد جديد للتحقق البشري والتصديق والمساءلة*.

تتناقض الورقة مع تصور الإعلام الحالي لقطاعات الأعمال المحطمة مع مكاتب واسعة تقلص إلى مشرف واحد، قراراتهم تستخدم كبيانات تدريب لتشغيل حتى هذا الشريحة الأخيرة من البرامج.

بدلاً من ذلك، يعتقد المؤلفون أن الاعتبارات العملية ومتطلبات الامتثال ست集中 الانتباه بشكل كبير على البشر “المصادقين” الذين ي满ون قسم الشركة (الذكاء الاصطناعي/البشري/المساعد بالذكاء الاصطناعي) القانوني:

من أجل الشركات، فإن الرؤية الاستراتيجية الأساسية هي أن التحقق لم يعد مجرد وظيفة امتثال، بل تقنية إنتاج رئيسية – وأكثر فأكثر، الأكثر قابلية للدفاع. هذا يفرض تحولًا هيكليًا: الاستثمار بشكل كبير في الرصد، وتوسيع الحقيقة الأرضية للتحقق، وإعادة تنظيم حول طوبولوجيا “الساندويتش” (النوايا البشرية → التنفيذ الآلي → التحقق البشري والتأمين).

في اقتصاد حيث يتم تداول الإنتاج الخام، تنتقل الميزة التنافسية إلى الموهبة النادرة والبيانات القادرة على توجيه وتحقيق النتائج الموثوقة – مما يؤدي إلى تأثيرات شبكية لا في الإنتاج الخام، بل في النتائج الموثوقة.’

يفترض المؤلفون أن العامل المحدد للنمو قد لا يكون الذكاء – الذي أصبح الآن منفصلًا عن البيولوجيا – ولكن نطاق التحقق.

تحول القيمة نحو التحقق البشري

توصف الورقة الانتقال نحو الذكاء الاصطناعي العام على أنه انحراف متزايد بين تكلفة إنتاج الإخراج الآلي وتكلفة التحقق من ذلك الإخراج – الأخير لا يزال مربوطًا بالزمن البشري المحدود والخبرة الحية.

سيصبح توليد الخطط والتقارير والتصاميم والتوصيات رخيصًا ووافرًا، في حين أن تحديد ما إذا كانت هذه الخطط صحيحة، متماشية، وأمنة بما يكفي للعمل عليها، سيصبح “الوظيفة النادرة”. وسي trở thành الحد الفعال على النشر ليس كمية الإخراج الذي يمكن أن تنتجه الأنظمة، بل كمية الإخراج الذي يمكن التحقق منه بشكل موثوق.

بالتالي، بدلاً من مكافأة المهارات المتخصصة في المهام القابلة للقياس، سيبدأ النظام، كما يتنبأ المؤلفون، بمكافأة القِياس نفسه: العمل الذي يمكن параметريته سوف يتحرك نحو التداول كما ي接近 تكلفة التنفيذ تكلفة الحوسبة الهامشية، مع تراكم القيمة في الحقيقة الأرضية العالية الجودة، وسجلات التدقيق الموثوقة، والآليات المؤسسية لتخصيص والمساءلة.

لذلك، في اقتصاد التحقق، ستكون الميزة أقل في إنتاج المحتوى، وأكثر في التصديق للنتائج، وتأمين المخاطر المرتبطة بها.

إذا استمر التلقين الآلي في التسارع بينما يبقى التحقق محدودًا بالزمن البشري والانتباه، تتنبأ الورقة بظهور اقتصاد مجوف، حيث، مع انخفاض تكلفة تلقين العمل، سيتم نشر المزيد والمزيد من الوكلاء لأن ذلك يعتبر منطقيًا من الناحية الاقتصادية – على الرغم من أن القدرة على التحقق بشكل صحيح من إخراجهم لن تزداد بنفس السرعة. في ذلك السيناريو، سيقل نصيب العمل الذي يتم التحقق منه بشكل حقيقي، مع كل العواقب السلبية التي تترتب عليه.

من ناحية أخرى، سيضمن اقتصاد محسّن أن ينمو نطاق التحقق جنبًا إلى جنب مع التلقين الآلي. سي涉ل ذلك استثمارًا متعمدًا في التدريب المنظم للحفاظ على الخبرة، بالإضافة إلى إطارات مساءلة جديدة يمكنها امتصاص المخاطر. سيتم ربط النشر بعد ذلك بما يمكن فعليًا التحقق منه والتأمين – بشكل فعال، عائق قديم جدًا أصبح مركزيًا بفعل تطور تقني غير مسبوق:

من منظور سياسي، التحدي الأساسي هو عدم تناسق هيكلي عميق: يتم تخصيص مكاسب تطبيق الذكاء الاصطناعي بشكل جريء، بينما يتم توزيع المخاطر النظامية. يلتقط الشركات والأفراد الجزء العلوي من تلقين الآلة بينما يexternalize المخاطر الذيلية الكارثية.

بدون بنية تحقق مشتركة وتسعير مساءلة صارم، سيتحرك السوق بشكل منطقي نحو اقتصاد مجوف – توازن يتميز بنشاط كبير قابل للقياس، ولكن بالأساس خالي من التحكم البشري.’

عائدات متضائلة

في الواقع، الحفاظ على الخبرة الفنية في البشر هو أمر بالغ الأهمية لمشكلة التحقق، لأن ثقافة الرقابة الصناعية، وفقًا للمؤلفين، ستخاطر بمرور الوقت بتفاقم جودة أولئك الذين يقومون بالرقابة – لأن أجيال لاحقة من مراقبي الرقابة لن تملك خبرة مباشرة ومعاشة في المجالات التي تتطلب التحقق.

يمكن القول أن جودة الرقابة ستكون في ذلك الوقت حقًا عرضة للتلقين الآلي، لأن القرارات الجديدة ستتشكل فقط على أساس قرارات سابقة. ومع ذلك، سيترك ذلك أصحاب المصلحة بدون عقل قابل للركل، أو نموذج أعمال قابل للتطبيق. كما سيجعل هذا الدور متقلبًا ومليئًا بالمخاطر لدرجة أن يصبح غير جذاب، حتى في مناخ من البطالة المنخفضة.

توجيه المحترفين المعتمدين مثل الأطباء والمهندسين المعماريين إلى موقع دفع عالية الأجر ولكنها ثقيلة بشكل كبير “المصادقة” من المرجح أن يؤدي إلى تدهور قيمتهم في هذا الدور، بمرور الوقت: كلما ابتعدت خبرتهم الفعلية في الميدان في الماضي، أصبحت قراراتهم “نظرية” أكثر، لأن مجالهم المهجور يستمر في التطور في غيابه.

(هذا الأمر مألوف حتى في ثقافة الأعمال قبل الذكاء الاصطناعي، في شكل موظفين مهرة يتقدمون إلى الإدارة ويصبحون غير على اتصال بالتطورات الجديدة، ويتسببون في النهاية في تقويض قيمتهم كمراقبين ومنظمين. كما أنه مألوف لمحبي Star Trek: TNG، في شكل Pakleds – سلالة تستخدم التكنولوجيا المتقدمة على نطاق واسع، لكنها لم تتعلم كيفية إنشاءها أو إصلاحها.)

historically، كان التنفيذ في المستوى 初级 يعتبر ساحة تدريب للمختصين في المستقبل؛ لكن إذا قام التلقين الآلي بإزالة المهام الروتينية التي يتم من خلالها تنمية الحكم، سيقل الإمداد المستقبلي للمصادقين القادرين، وفقًا للمؤلفين.

بالتالي، تنبأ الورقة بمفارقة: كلما أصبح الأنظمة الوكيلية أكثر قوة، زادت اعتماد المجتمع على مخزون من الخبرة البشرية التي قد تؤدي هذه الأنظمة نفسها إلى تدهورها.

وإذ تذكر أن هذا ليس بأي شكل من الأشكال مشكلة تقنية، ولا يخضع لحل تقني. في العديد من الجوانب، يشير هذا المرض إلى ما يعادل.logistically إلى انهيار نموذج الذكاء الاصطناعي – مع فارق أننا نناقش هنا تآكل نموذج اقتصادي.

من منظور سياسي، التحدي الأساسي هو عدم تناسق هيكلي عميق: يتم تخصيص مكاسب تطبيق الذكاء الاصطناعي بشكل جريء، بينما يتم توزيع المخاطر النظامية. يلتقط الشركات والأفراد الجزء العلوي من تلقين الآلة بينما يexternalize المخاطر الذيلية الكارثية.

بدون بنية تحقق مشتركة وتسعير مساءلة صارم، سيتحرك السوق بشكل منطقي نحو اقتصاد مجوف – توازن يتميز بنشاط كبير قابل للقياس، ولكن بالأساس خالي من التحكم البشري.’

الاستنتاج: أزمة مختلفة

يحدد المؤلفون الأزمة المتوقعة على أنها فجوة القِياس، حيث يمكن تلقين العمليات القابلة للقياس بعيدًا عن المساهمة البشرية، تاركًا عمليات n-صعبة أو n-قانونية لا تزال تتطلب الخبرة البشرية.

然而، يُظهر خبرة زوجتي أن تعقيد أو صعوبة عملية معينة لا يرتبط بالضرورة بالحاجة إلى المساءلة في تلك العملية؛ العديد من الأشياء التي “توقيعها” تمثل مشاكل أو حسابات تريفية في حد ذاتها، ولكنها لها عواقب في caso الخروج عن القانون. وكلما أصبحت ثقافة الأعمال أكثر خصومة، زادت الحاجة إلى مساءلة بشرية عبر مجموعة أوسع من العمليات.

لذلك، قد يسبب الانتقال إلى اقتصاد التحقق أزمة مختلفة عن تلك التي تحظى باهتمام الرأي العام حاليًا. لن تكون القضية في这种 الحالة ما إذا كان الذكاء الاصطناعي يمكن أن ينتج أكثر، بل ما إذا كانت المؤسسات قادرة على التحقق من ما يكفي من الإنتاج لترجمة الذكاء الآلي إلى قيمة متينة.

منذ أن قد ينمو الذكاء الآلي بلا سابقة، وستكون متاحة الوقت البشري القابل للتطبيق غير قادرة على مواكبة ذلك الوتيرة، يبدو أن القضايا المذكورة في العمل الجديد من المرجح أن تظهر بسرعة – حتى لو كانت قد غمرت في البداية بالآثار الاقتصادية الأوسع لاعتماد الذكاء الاصطناعي.

* الورقة طويلة جدًا لتقسيمها بالطريقة المعتادة، ولا تتوافق هيكليًا مع هذا النوع من التحليل. لذلك، قررت التعليق عليها واعتبار أهميتها، والاشارة إلى القارئ إلى العمل الأصلي حتى يتمكن من القيام بالمثل.

^† /s

نشر لأول مرة يوم الأربعاء، 25 فبراير 2026