Μετάβαση στην Οικονομία Επαλήθευσης

Η έλεγχος του έργου του AI μπορεί να γίνει ένας σημαντικός τομέας στην νέα οικονομία της μηχανικής μάθησης, ένας που θα πρέπει να κλιμακωθεί σημαντικά και δεν μπορεί να αυτοματοποιηθεί. Όμως, καθώς περνούν τα χρόνια, οι ανθρώπινοι “ειδικοί” είναι πιθανό να επιδεινωθούν στην ποιότητα.

Γνώμη. Η σύζυγός μου είναι αρχιτέκτονας σε μια από τις πιο ασφυκτικές και εντατικές γραφειοκρατίες στην Ευρώπη. Ένας σημαντικός μέρος της αξίας της εκπαίδευσής της βρίσκεται στην απόκτηση και διατήρηση του δικαιώματος υπογραφής – ένα ακριβό πιστοποιητικό που πρέπει να ανανεώνεται κάθε χρόνο και που της επιτρέπει να “υπογράψει” προτάσεις που μπορεί να κοστίσουν εκατοντάδες χιλιάδες, ακόμη και εκατομμύρια ευρώ.

Μου λέει ότι αυτό δεν είναι το πιο δύσκολο μέρος της δουλειάς της, αφού μόνο формαλίζει τους δικούς της υπολογισμούς ή εκείνους των άλλων, και ότι για αυτόν τον σκοπό, η εξωτερική εργασία δεν είναι συνήθως δύσκολο να ελεγχθεί.

Ουσιαστικά – όπως συχνά συμβαίνει και όταν διορίζονται διευθύνοντες σύμβουλοι – αυτό το σήμα (είναι κυριολεκτικά ένα σήμα) παρέχει κυρίως στους μετόχους ένα “πίσω μέρος” να κτυπήσουν αν τα πράγματα πάνε λάθος. Επιτρέποντας την ευθύνη, επίσης διευκολύνει την ασφαλιστική κάλυψη και την εμπιστοσύνη των επενδυτών, η οποία δεν θα ήταν δυνατή χωρίς τέτοιες εγγυήσεις.

Είναι η δεύτερη φορά στη ζωή μου που βλέπω αυτή τη διαδικασία σε δράση, 25 χρόνια πριν ήταν αρραβωνιασμένος με einen ογκολόγο σε μια άλλη γνωστή γραφειοκρατία, την Ιταλία, και είδα το βαθμό στον οποίο η ειδική της υπογραφή ήταν το τελευταίο στάδιο μιας αλυσίδας εμπιστοσύνης στην οποία πολλοί άλλοι εκτός από αυτήν είχαν να συμβάλλουν την εμπειρογνωσία τους.

Άκουσα και από την πρώην αρραβωνιαστικιά μου, εκείνη την περίοδο, και πιο πρόσφατα από τη σύζυγό μου, ότι τα επαγγέλματά τους ήταν/είναι γεμάτα από πιστοποιημένους απατεώνες που πουλάνε την υπογραφή τους και αποφεύγουν πιο πρωτότυπο ή χρήσιμο έργο ως λιγότερο κερδοφόρο. Τέτοιοι κυνικοί praktikoi μπορούν να χρεώνουν υψηλά ποσά επειδή αντιπροσωπεύουν σχετικά σπάνιους και απαραίτητους πόρους.

Δείτε το

Αυτό το θέμα ήρθε στο μυαλό μου καθώς συνάντησα ένα νέο και εκτενές έγγραφο σήμερα, με τίτλο Μερικά απλά οικονομικά του AGI. Σε αυτό, τρεις ερευνητές που καλύπτουν το MIT, το Πανεπιστήμιο του Σεντ Λούις και το UCLA, απεικονίζουν ένα κοντινό μέλλον όπου η τρομακτική, εργοαπορροφητική ώθηση προς την αυτοματοποίηση με AI συναντά την ανάγκη για πραγματικούς “πίσω μέρη” να κτυπήσουν σε υψηλές επενδύσεις σενάρια – οδηγώντας έτσι σε μια νέα οικονομία ανθρώπινης επαλήθευσης, επικύρωσης και ευθύνης*.

Το έγγραφο αντίθεται με την τρέχουσα φαντασία των μέσων ενημέρωσης για αποδυναμωμένα επιχειρηματικά τομείς με εκτενείς γραφεία που μειώνονται σε ένα άτομο “επόπτες”, των οποίων οι αποφάσεις χρησιμοποιούνται ως δεδομένα εκπαίδευσης για (ελπίζοντας) να πυροδοτήσουν ακόμη και αυτό το τελευταίο στέλεχος “κρέατος”^†.

Αντίθετα, οι συγγραφείς πιστεύουν ότι οι πρακτικές σκέψεις και οι απαιτήσεις συμμόρφωσης θα εστιάσουν τεράστια προσοχή στα “ανθρώπινα σφραγίδες” που ικανοποιούν το νομικό τμήμα μιας εταιρείας:

‘Για τις εταιρείες, η βασική στρατηγική εντύπωση είναι ότι η επαλήθευση δεν είναι πλέον μια απλή συνήθεια συμμόρφωσης, αλλά μια πρωταρχική τεχνολογία παραγωγής — και όλο και περισσότερο, η πιο αμυντική τους. Αυτό ορίζει μια δομική αλλαγή: επενδύοντας βαριά στην παρατηρησιμότητα, επεκτείνοντας την επαλήθευση-βαθμού αλήθεια, και επαναδιοργανώνοντας γύρω από μια “σάντουιτς” τοπολογία (ανθρώπινη πρόθεση → μηχανική εκτέλεση → ανθρώπινη επαλήθευση και εγγύηση).

‘Σε μια οικονομία όπου η сырьová παραγωγή είναι εμπορεύματα, το ανταγωνιστικό πλεονέκτημα μεταφέρεται στη σπάνια ταλέντο και δεδομένα που είναι ικανά να οδηγήσουν και να πιστοποιήσουν συστήματα — δημιουργώντας δίκτυα επιπτώσεων όχι σε сырьová παραγωγή, αλλά σε αξιόπιστα αποτελέσματα.’

Οι συγγραφείς υποθέτουν ότι ο οριστικός περιορισμός της ανάπτυξης μπορεί να μην είναι η ευφυΐα – η οποία το AI έχει τώρα “αποσυνδέσει από τη βιολογία” – αλλά η επαλήθευση-ελαστικότητα.

Αλλαγή Αξίας Προς Ανθρώπινη Επαλήθευση

Το έγγραφο περιγράφει την κίνηση προς AGI ως μια διεύρυνση της απόκλισης μεταξύ του κόστους παραγωγής μηχανικής παραγωγής και του κόστους ελέγχου της παραγωγής – το τελευταίο από τα οποία παραμένει συνδεδεμένο με τον πεπερασμένο ανθρώπινο χρόνο και την εμπειρία.
Η δημιουργία σχεδίων, αναφορών, σχεδίων και συστάσεων θα γίνει σε αυτή τη σκηνή φθηνή και άφθονη, ενώ η καθορισμός ποια από αυτά είναι σωστά, συναρμολογημένα και αρκετά ασφαλή για να ενεργηθούν θα γίνει η “σπάνια συνάρτηση”.
Το αποτελεσματικό όριο της ανάπτυξης θα είναι επομένως όχι το πόσο παραγωγή τα συστήματα μπορούν να παράγουν, αλλά πόσο από αυτή τη παραγωγή μπορεί να πιστοποιηθεί με αξιοπιστία.
Έτσι, αντί να ανταμείβουν την εξειδίκευση σε μετρήσιμες εργασίες, το σύστημα, οι συγγραφείς προβλέπουν, θα αρχίσει να ανταμείβει την μετρησιμότητα: η εργασία που μπορεί να παραμετροποιηθεί θα πλωρήσει προς εμπορευματοποίηση καθώς το κόστος εκτέλεσης προσεγγίζει το περιθώριο κόστους υπολογισμού, με αξία που συσσωρεύεται αντίθετα σε υψηλής ποιότητας αλήθεια, αξιόπιστη ελεγκτική ιχνηλασία και θεσμικά μηχανισμοί για την ανάθεση και την απορρόφηση ευθύνης.
Επομένως, σε μια οικονομία επαλήθευσης, το πλεονέκτημα θα βρίσκεται λιγότερο στην παραγωγή περιεχομένου και περισσότερο στην πιστοποίηση αποτελεσμάτων και την εγγύηση των κινδύνων που συνδέονται με αυτά.
Εάν η αυτοματοποίηση συνεχίσει να επιταχύνεται ενώ η επαλήθευση παραμένει περιορισμένη από τον ανθρώπινο χρόνο και την προσοχή, το έγγραφο προβλέπει ότι μια Κενή Οικονομία θα αναδυθεί, όπου, καθώς το κόστος αυτοματοποίησης της εργασίας πέφτει, περισσότεροι και περισσότεροι παράγοντες θα αναπτυχθούν επειδή έχει οικονομική λογική να γίνει così — ακόμη και αν η ικανότητα να ελέγξει σωστά την παραγωγή τους δεν θα αυξηθεί με το ίδιο темпό. Σε αυτή τη σκηνή, το μερίδιο της εργασίας που είναι πραγματικά επικυρωμένο θα συρρικνωθεί, με όλα τα αρνητικά αποτελέσματα που συνεπάγονται.
Αντίθετα, μια Ενισχυμένη Οικονομία θα διασφαλίσει ότι η ικανότητα επαλήθευσης θα επεκταθεί σε συνδυασμό με την αυτοματοποίηση. Αυτό θα απαιτούσε μια σκόπιμη επένδυση σε δομημένη εκπαίδευση για τη διατήρηση της εμπειρογνωσίας, καθώς και νέους πλαίσια ευθύνης που μπορούν να απορροφήσουν τον κίνδυνο. Η ανάπτυξη θα ήταν τότε συνδεδεμένη με αυτό που μπορεί πραγματικά να ελεγχθεί και να ασφαλιστεί — αποτελεσματικά, ένα πολύ παλιό φίμωτρο που φέρνει στο κέντρο της σκηνής από μια άνευ προηγουμένου κλίμακα τεχνολογικής ανάπτυξης:

‘Στην τεχνολογική βιομηχανία, το κυρίαρχο μοντέλο εσόδων θα μετατοπιστεί από την εμπορευματοποίηση της πρόσβασης λογισμικού (Λογισμικό ως Υπηρεσία) στην εμπορευματοποίηση αποτελεσμάτων (“Λογισμικό ως Εργασία”). Συνεπώς, οι εταιρείες θα αξιολογηθούν κυρίως με βάση την ικανότητά τους να απορροφήσουν τον κίνδυνο ουράς μέσω Ευθύνης ως Υπηρεσία.

‘Η εκτέλεση είναι τώρα απεριόριστα επεκτάσιμη, η νομική και οικονομική ικανότητα να απορροφήσει τις αναπόφευκτες αποτυχίες της είναι το νέο φίμωτρο.’

Μειωμένα Οφέλη

Πράγματι, η διατήρηση της τομεακής εμπειρογνωσίας στους ανθρώπους είναι κρίσιμη για το πρόβλημα, поскольку μια κουλτούρα βιομηχανικής εποπτείας, σύμφωνα με τους συγγραφείς, θα κινδύνευε με την πάροδο του χρόνου να υποβαθμίσει την ποιότητα εκείνων που εκτελούν την εποπτεία – επειδή οι επόμενες γενιές εποπτών δεν θα διαθέτουν άμεση και ζωντανή εμπειρία των τομέων που απαιτούν επαλήθευση.

Επιχειρήσιμο, σε εκείνο το στάδιο, η ποιότητα της εποπτείας θα ήταν πραγματικά ευάλωτη στην αυτοματοποίηση,既然 νέες αποφάσεις θα διαμορφώνονταν αποκλειστικά με βάση προηγούμενες αποφάσεις. Ωστόσο, αυτό θα άφηνε τους μετόχους χωρίς ένα πίσω μέρος να κτυπήσουν, ή ένα βιώσιμο επιχειρηματικό μοντέλο. Θα καθιστούσε επίσης τέτοιο ρόλο τόσο εύθραυστο και κινδυνευμένο ως να είναι απωθητικός, ακόμη και σε μια κλίμακα χαμηλής απασχόλησης.

Η απομόνωση πιστοποιημένων επαγγελματιών όπως γιατροί και αρχιτέκτονες σε μια καλά αμειβόμενη αλλά υπερβολικά φορτισμένη “σφραγίδα” θέση είναι πιθανό να υποβαθμίσει την αξία τους σε τέτοιο ρόλο, με την πάροδο του χρόνου: όσο πιο παλιά η πραγματική πεδία-πείρα τους υποχωρεί, τόσο πιο “θεωρητικά” οι αποφάσεις τους θα μπορούσαν να γίνουν, καθώς το εγκαταλελειμμένο πεδίο τους συνεχίζει να εξελίσσεται στην απουσία τους.

(Αυτό είναι οικείο ακόμη και στην προ-ΑΙ επιχειρηματική κουλτούρα, με τη μορφή εξειδικευμένου προσωπικού που προχωρούν στη διαχείριση και γίνονται όλο και περισσότερο αποσυνδεδεμένα από τις νέες εξελίξεις, τελικά υπονομεύοντας την αξία τους ως εποπτών και οργανωτών. Είναι επίσης οικείο στους φανς του Star Trek: TNG , με τη μορφή των Pakleds — ενός είδους που χρησιμοποιεί προηγμένη τεχνολογία εκτενώς, αλλά δεν ξέρει πώς να δημιουργήσει ή να sửa chữa την.

Η αρχική εκτέλεση έχει ιστορικά εξυπηρετήσει ως το έδαφος εκπαίδευσης για μελλοντικούς εμπειρογνώμονες, αλλά αν η αυτοματοποίηση εξαφανίσει τις ρουτινικές εργασίες μέσω των οποίων η κρίση καλλιεργείται, η μελλοντική προμήθεια ικανοποιητικών εποπτών θα συρρικνωθεί, οι συγγραφείς προτείνουν.

Έτσι το έγγραφο προβλέπει μια παράδοξη: όσο πιο ισχυρά γίνονται τα συστήματα, τόσο περισσότερο η κοινωνία θα εξαρτηθεί από ένα αποθεματικό ανθρώπινης εμπειρογνωσίας που τα ίδια αυτά συστήματα μπορεί να υποβαθμίσουν.

Και ας θυμόμαστε ότι αυτό δεν είναι σε καμία περίπτωση ένα τεχνικό πρόβλημα, ούτε ευάλωτο σε μια τεχνολογική λύση. Σε πολλές ways αυτό το σύνδρομο υποδηλώνει το логιστικό ισοδύναμο της αποτυχία του μοντέλου AI — εκτός από το ότι εδώ εξετάζουμε την υπονόμευση ενός οικονομικού μοντέλου.

‘Από μια πολιτική προοπτική, η βασική πρόκληση είναι μια βαθιά δομική ασυμμετρία: τα κέρδη της ανάπτυξης του AI απορροφώνται αγрессίβως, ενώ οι συστημικοί κίνδυνοι κοινωνικοποιούνται. Οι εταιρείες και τα άτομα απορροφούν το πάνω μέρος της αυτοματοποίησης ενώ εξωτερικεύουν καταστροφικούς κινδύνους ουράς.

‘Χωρίς κοινή υποδομή επαλήθευσης και αυστηρή τιμολόγηση ευθύνης, η αγορά θα μετατοπιστεί ορθολογικά προς μια Κενή Οικονομία — μια ισορροπία που χαρακτηρίζεται από εκρηκτική μετρήσιμη δραστηριότητα, αλλά ουσιαστικά κενή ανθρώπινη εποπτεία.’

Συμπέρασμα: Μια Διαφορετική Κρίση

Οι συγγραφείς ορίζουν την προβλεπόμενη κρίση ως μια χάσμα μετρησιμότητας, όπου μετρήσιμες διαδικασίες μπορούν να αυτοματοποιηθούν μακριά από κάθε ανθρώπινη συνεισφορά, αφήνοντας n-σκληρές ή n-νομικές διαδικασίες που vẫn απαιτούν ανθρώπινη εμπειρογνωσία.

Ωστόσο, η εμπειρία της συζύγου μου υποδηλώνει ότι η πολυπλοκότητα ή η δυσκολία μιας διαδικασίας δεν είναι απαραίτητα συνδεδεμένη με την ανάγκη για ευθύνη σε αυτή τη διαδικασία, πολλά από τα οποία η “υπογράφει” αντιπροσωπεύουν ελαφριά προβλήματα ή υπολογισμούς από μόνα τους, αλλά είναι συνεπακόλουθα στην παραβίαση. Και όσο πιο δικαστικός γίνεται ο επιχειρηματικός πολιτισμός, τόσο περισσότερο οι εγγυητές και οι επενδυτές θα απαιτούν ανθρώπινη ευθύνη σε ένα ευρύτερο φάσμα διαδικασιών.

Έτσι, η μετάβαση στην οικονομία επαλήθευσης θα μπορούσε να προκαλέσει μια διαφορετική κρίση από αυτή που τώρα προκαλεί τα επικεφαλίδες. Το ζήτημα σε τέτοια περίπτωση δεν θα ήταν αν το AI μπορεί να παράγει περισσότερα, αλλά αν οι θεσμοί μπορούν να επικυρώσουν αρκετά από αυτά που παράγονται για να μετατρέψουν την मशινική ευφυΐα σε ανθεκτική αξία.

Εφόσον η मशινική ευφυΐα μπορεί σύντομα να κλιμακωθεί χωρίς προηγούμενο και η διαθεσιμότητα περιπτώσεων-εφαρμογής ανθρώπινου χρόνου δεν μπορεί να跟πάρει με αυτό το ρυθμό, τα ζητήματα που περιγράφονται στην νέα εργασία φαίνεται πιθανό να αναδυθούν πολύ γρήγορα — ακόμη και αν μπορεί να είναι αρχικά πνίγονται από τις ευρύτερες οικονομικές επιπτώσεις της υιοθέτησης του AI.

* Το έγγραφο είναι πολύ μεγάλο για να αναλυθεί με τον συνήθη τρόπο, και σε κάθε περίπτωση δεν είναι δομικά κατάλληλο για这一 तरह ανάλυσης. Επομένως, αποφάσισα να σχολιάσω πάνω του και να εξετάσω τη σημασία του, και να αναφέρω τον αναγνώστη στο πηγή-έργο ώστε να μπορεί να κάνει το ίδιο.

^† /s

Πρώτη δημοσίευση Τετάρτη, 25 Φεβρουαρίου 2026