الانتقال إلى اقتصاد التحقق

قد يصبح التحقق من عمل الذكاء الاصطناعي قطاعًا مهمًا في اقتصاد التعلم الآلي الجديد؛ وهو ما سيتعين عليه التوسع بشكل كبير ، ولا يمكن توفيره آليًا. ولكن مع مرور السنوات ، من المحتمل أن تتفاقم جودة “الخبراء” البشر.

رأي. زوجتي مهندسة معمارية في واحدة من الإدارات الأكثر ازدحامًا وشدّة في أوروبا. جزء كبير من قيمة تعليمها يكمن في الحصول على حق التوقيع الخاص بها – شهادة باهظة الثمن يجب تجديدها كل عام ، والتي تسمح لها букّيًا “بتوقيع” على مقترحات قد تصل تطبيقها إلى مئات الآلاف ، بل وملايين اليوروهات.

تخبرني أن هذا ليس الجزء الأصعب من عملها ، منذ أن يتم فقط تدوين حساباتها الخاصة أو حسابات الآخرين ، وأن هذا الغرض لا يعتبر عادةً صعبًا للتحقق.

بمعنى آخر – كما هو الحال غالبًا عند تعيين المديرين التنفيذيين – توفر هذه العلامة (وهي في الواقع علامة) للمستفيدين أسًا لركله إذا حدث خطأ. من خلال ضمان المساءلة ، فإنها تسهل أيضًا تغطية التأمين وثقة المستثمرين ، والتي لن تكون قابلة للتحقيق بدون مثل هذه الضمانات.

هذا هو المرة الثانية في حياتي التي أرى هذا الإجراء مباشرة في العمل ؛ قبل 25 عامًا كنت مخطوبًا لطبيبة أورام في إدارة أخرى مشهورة بالرتابة في الاتحاد الأوروبي ، إيطاليا ، ورأيت مدى اعتماد عملها على توقيعها الخبير في المرحلة الأخيرة من سلسلة الثقة التي ساهم فيها العديد من الآخرين غيرها.

سمعت من زوجتي السابقة في ذلك الوقت ، ومن زوجتي مؤخرًا ، أن مهنهم كانت/ما زالت متأثرة بالمتخصصين المؤهلين الذين يبيعون طابعهم ويتجنبون العمل الأصلي أو الأكثر فائدة لأنهم أقل ربحية. يمكن لمثل هؤلاء الممارسين الساخرين أن يتقاضوا مبالغ كبيرة لأنهم يمثلون موارد نادرة وضرورية.

تحقق من ذلك

جاء هذا الموضوع في بالي عندما وقعت على ورقة جديدة ومتفرعة اليوم ، بعنوان بعض الاقتصاد البسيط للذكاء الاصطناعي العام. في ذلك ، يصور ثلاثة باحثين من معهد ماساتشوستس للتكنولوجيا وجامعة واشنطن في سانت لويس وجامعة كاليفورنيا ، لوكالة ، مستقبلًا قريبًا حيث يصطدم الدافع المروع نحو التأتمتية التي تقودها الذكاء الاصطناعي مع الحاجة إلى أرواح بشرية حقيقية في سيناريوهات عالية المخاطر – مما يؤدي إلى اقتصاد جديد من التحقق البشري والتصديق والمساءلة*.

تتناقض الورقة مع تخيل الإعلام الحالي لقطاعات الأعمال التي تم تقليلها إلى مكاتب فردية ، حيث يتم استخدام قراراتها كبيانات تدريب لتشغيل حتى هذا الشريحة الأخيرة من “البرمجيات” (أي البشر)^†.

بدلاً من ذلك ، يعتقد المؤلفون أن الاعتبارات العملية ومتطلبات الامتثال ست tập trung الانتباه بشكل كبير على “البشر الذين يضعون الختم” الذين يرضون قسم القانون في الشركة (الذكاء الاصطناعي/البشري/المساعد بالذكاء الاصطناعي):

‘للسocieties ، فإن الاكتشاف الأساسي هو أن التحقق لم يعد وظيفة امتثال فحسب ، بل تقنية إنتاج أولية – وأكثر ذلك ، أصبحت أكثر الدفاعات. هذا يفرض تحولًا هيكليًا: الاستثمار بشكل كبير في الرصد ، وتوسيع الحقيقة الأرضية للتحقق ، وإعادة تنظيم حول هيكل “الساندويتش” (النية البشرية → التنفيذ الآلي → التحقق البشري والتأمين).

‘في اقتصاد حيث يتم تداول الإنتاج الخام ، ينتقل الفائدة التنافسية إلى الموهبة النادرة والبيانات القادرة على توجيه وتحقيق نتائج موثوقة – مما يولد تأثيرات شبكية لا في الإنتاج الفعلي ، بل في النتائج الموثوقة.’

يفرض المؤلفون أن العائق الرئيسي على النمو قد لا يكون الذكاء – الذي أصبح الذكاء الاصطناعي الآن “مفصولًا عن البيولوجيا” – ولكن نطاق التحقق.

تحول القيمة نحو التحقق البشري

توصف الورقة الانتقال نحو الذكاء الاصطناعي العام على أنه انحراف متزايد بين تكلفة إنتاج الإنتاج الآلي وتكلفة التحقق من ذلك الإنتاج – والتي لا تزال مرتبطة بزمن بشري محدود وخبرة حية.

سوف يصبح إنتاج الخطط والتقارير والتصاميم والتوصيات في هذا السيناريو رخيصًا ووافرًا ، بينما سوف يصبح تحديد أي من هذه هي صحيحة ، متناسقة ، وأمنة بما يكفي للعمل عليها ، سوف يصبح “الوظيفة النادرة”. سوف يصبح الحد الفعال على النشر هو ليس كمية الإنتاج الذي يمكن أن تنتجه الأنظمة ، بل كمية الإنتاج الذي يمكن التحقق منه بشكل موثوق.

بالتالي ، بدلاً من مكافأة المهارات المتخصصة في المهام القابلة للقياس ، سوف يبدأ النظام ، حسب توقع المؤلفين ، بمكافأة القِياس نفسه: سوف تنتقل الأعمال التي يمكن parametirize إلى التداول كما تكاد تصل تكلفة تنفيذها إلى التكلفة الحدية للحوسبة ، مع تراكم القيمة في الحقيقة الأرضية عالية الجودة ، وسجلات التدقيق الموثوقة ، والآليات المؤسسية لتعيين والمساءلة.

لذلك ، في اقتصاد التحقق ، سوف يكون الفائدة أقل في إنتاج المحتوى ، وأكثر في تحقيق النتائج ، وتأمين المخاطر المرتبطة بها.

إذا استمرت التأتمتة في التسارع ، بينما يبقى التحقق محدودًا بزمن بشري واهتمام ، تتنبأ الورقة بظهور “اقتصاد مجوف” ، حيث ، مع انخفاض تكلفة أتمتة العمل ، سوف يتم نشر المزيد والمزيد من الوكلاء لأن ذلك يعتبر منطقيًا من الناحية الاقتصادية – على الرغم من أن القدرة على التحقق من مخرجاتهم بشكل صحيح لن تتزايد بنفس السرعة. في ذلك السيناريو ، سوف يتناقص حصة العمل الذي يتم التحقق منه بشكل حقيقي ، مع كل العواقب السلبية التي تترتب عليه.

من ناحية أخرى ، سوف يضمن “اقتصاد معزز” أن ينمو نطاق التحقق مع التأتمتة. سوف يتطلب ذلك استثمارًا متعمدًا في التدريب المنظم للحفاظ على الخبرة ، بالإضافة إلى إطارات مساءلة جديدة يمكنها امتصاص المخاطر. سوف يرتبط النشر بعد ذلك بما يمكن التحقق منه بشكل فعلي – وبشكل فعال ، عائق قديم جدًا تم جلبة إلى المسرح بواسطة نمو تقني غير مسبوق:

‘في قطاع التكنولوجيا ، سوف يتغير نموذج الإيرادات السائد من تداول الوصول إلى البرمجيات (البرمجيات كخدمة) إلى تداول النتائج (“البرمجيات كعمل”). وبالتالي ، سوف يتم تقييم الشركات بشكل أساسي على قدرتها على امتصاص المخاطر الذيلية من خلال مساءلة كخدمة.

‘التنفيذ الآن قابل للتوسع بشكل لا نهاية؛ القدرة القانونية والمالية على امتصاص فشله غير المتوقع هي العائق الجديد.’

الانتقاص

في الواقع ، الحفاظ على الخبرة في مجال معين في البشر هو أمر بالغ الأهمية لمواجهة المشكلة ، لأن ثقافة الإشراف الصناعي ، حسب رأي المؤلفين ، سوف تتعرض لخطر التدهور بمرور الوقت – لأن أجيال لاحقة من المشرعين لن تملك خبرة مباشرة ومعيشة في المجالات التي تتطلب التحقق.

يمكن أن يقال إن جودة الإشراف سوف تكون في الواقع قابلة للتأثر بالتأتمتة في ذلك الوقت ، لأن القرارات الجديدة سوف يتم تشكيلها فقط على أساس قرارات سابقة. ومع ذلك ، سوف يترك ذلك المستفيدين بدون عقل قابل للركلة ، أو نموذج أعمال قابل للتطبيق. كما سوف يجعل مثل هذا الدور غير مستقر وخطرًا لدرجة أن يصبح غير جذاب ، حتى في مناخ من البطالة المنخفضة.

إقامة محترفين معتمدين مثل الأطباء والمهندسين المعماريين في منصب “الختم” مدفوع الأجر جيدًا ولكن حمولي للغاية ، سوف يؤدي إلى تدهور قيمتهم في ذلك الدور مع مرور الوقت: كلما انسحبت خبرتهم الفعلية في المجال إلى الماضي ، أصبحت قراراتهم “نظرية” أكثر ، لأن مجالهم المهني المستمر في التطور في غيابهم.

(هذا مألوف حتى في ثقافة الأعمال قبل الذكاء الاصطناعي ، في شكل موظفين مهرة يتقدمون إلى الإدارة ويصبحون غير متصلين بالتطورات الجديدة ، في النهاية يقللون من قيمتهم كمراقبين ومنظمين. كما أنه مألوف لمحبي Star Trek: TNG ، في شكل Pakleds – عرق ي sử dụng التكنولوجيا المتقدمة على نطاق واسع ، ولكنه لم يعد يعرف كيف يخترعها أو يصلحها.)

historically ، كان التنفيذ في المستوى 初級 يخدم كمركز تدريب للمختصين في المستقبل؛ ولكن إذا قامت التأتمتة بإزالة المهام الروتينية التي يتم من خلالها تنمية الحكم ، سوف يتناقص إمداد المُحققين القادرين ، حسب اقتراح المؤلفين.

بالتالي ، تتنبأ الورقة بظهور مفارقة: كلما أصبحت الأنظمة الوكيلية أكثر قوة ، زادت اعتماد المجتمع على مخزون من الخبرة البشرية التي قد تُهدد تلك الأنظمة نفسها.

ولن ننسى أن هذا ليس بأي شكل من الأشكال مشكلة تقنية ، ولا يخضع لحل تقني. في nhiều من النواحي ، تشير هذه المتلازمة إلى ما يعادل*logistically* انهيار نموذج الذكاء الاصطناعي – باستثناء أننا ننظر هنا إلى تآكل نموذج اقتصادي.

‘من منظور سياسي ، التحدي الأساسي هو عدم تناسق هيكلي عميق: مكاسب نشر الذكاء الاصطناعي يتم تخصيصها بشكل جريء ، بينما يتم توزيع المخاطر النظامية. الشركات والأفراد يتقاضون فائدة التأتمتة بينما يخارجون المخاطر الكارثية.

‘بدون بنية تحقق مشتركة وتسعير مساءلة صارم ، سوف يتجه السوق بشكل منطقي نحو اقتصاد مجوف – توازن يتميز بنشاط مقاس بشكل كبير ، ولكنه في الأساس خالي من التحكم البشري.’

الخلاصة: أزمة مختلفة

يحدد المؤلفون الأزمة المتوقعة على أنها فجوة في القِياس ، حيث يمكن توفير العمليات القابلة للقياس آليًا من جميع المساهمات البشرية ، تاركة عمليات n-صعب أو n-قانونية لا تزال تتطلب الخبرة البشرية.

然而 ، خبرة زوجتي تشير إلى أن تعقيد عملية أو صعوبتها ليس بالضرورة متعلقًا بضرورة المساءلة في تلك العملية؛ العديد من الأمور التي “توقيعها” تمثل مشاكل أو حسابات تافّة في حد ذاتها ، ولكنها لها عواقب في caso الخروج عن القانون. وكلما أصبحت ثقافة الأعمال أكثر خصومة ، زادت الحاجة إلى مساءلة بشرية عبر نطاق أوسع من العمليات.

لذلك ، قد يسبب الانتقال إلى اقتصاد التحقق أزمة مختلفة عن تلك التي تثير الانتباه حاليًا. سوف يكون القضية في这种 الحالة ليس ما إذا كان الذكاء الاصطناعي يمكن أن ينتج أكثر ، ولكن ما إذا كان المؤسسات قادرة على التحقق من ما يتم إنتاجه بما يكفي لترجمة الذكاء الاصطناعي إلى قيمة متينة.

منذ أن قد ينمو الذكاء الاصطناعي قريبًا دون سابقة ، وستكون متاحة زمن بشرية قابل للتطبيق لا تتماشى مع ذلك الإيقاع – فإن القضايا المحددة في العمل الجديد تظهر أنها سوف تلوح في الأفق بسرعة – حتى لو كانت قد تُغمر في البداية بالآثار الاقتصادية الأوسع لنشر الذكاء الاصطناعي.

* الورقة طويلة جدًا لتقطيعها بالطريقة المعتادة ، وأيضًا غير مناسبة هيكليًا لنوع من التحليل. لذلك قررت التعليق عليها واعتبار أهميتها ، واطلب من القارئ الرجوع إلى العمل الأصلي حتى يتمكن من القيام بذلك.

^†  /s

نشر لأول مرة يوم الأربعاء ، 25 فبراير 2026