Μετάβαση στην Οικονομία Επαλήθευσης

Η ελέγχου του έργου του AI μπορεί να γίνει ένας σημαντικός τομέας στην nuova οικονομία της μηχανικής μάθησης· ένας που θα πρέπει να κλιμακωθεί σημαντικά και που δεν μπορεί να αυτοματοποιηθεί. Όμως, καθώς τα χρόνια περνούν, οι ανθρώπινοι “ειδικοί” είναι πιθανό να επιδείξουν μείωση της ποιότητας.

Γνώμη. Η γυναίκα μου είναι αρχιτέκτονας σε μια από τις πιο συμφραζομένες και εντατικές γραφειοκρατίες στην Ευρώπη. Ένα σημαντικό μέρος της αξίας της εκπαίδευσής της έγκειται στην απόκτηση και διατήρηση του δικαιώματος υπογραφής – ενός ακριβού πιστοποιητικού που πρέπει να ανανεώνεται κάθε χρόνο και που της επιτρέπει να “υπογράψει” προτάσεις που μπορεί να έχουν υλοποίηση που φτάνει εκατοντάδες χιλιάδες, ακόμη και εκατομμύρια ευρώ.

Μου λέει ότι αυτό δεν είναι το πιο δύσκολο μέρος της δουλειάς της,既然 ότι μόνο формαλίζει τους δικούς της υπολογισμούς ή εκείνους των άλλων, και ότι για αυτόν τον σκοπό, η εξωτερική εργασία δεν είναι συνήθως δύσκολη να ελεγχθεί.

Ουσιαστικά – όπως συχνά συμβαίνει και όταν διορίζονται διευθύνοντες σύμβουλοι – αυτό το σήμα (είναι κυριολεκτικά ένα σήμα) παρέχει κυρίως στους μετόχους ένα “πίσω” για να κicken αν τα πράγματα πάνε στραβά. Επιβεβαιώνοντας την ευθύνη, επίσης διευκολύνει ασφαλιστική κάλυψη και εμπιστοσύνη επενδυτών, η οποία δεν θα ήταν δυνατή χωρίς τέτοιες εγγυήσεις.

Είναι η δεύτερη φορά στη ζωή μου που βλέπω αυτή τη διαδικασία σε λειτουργία· 25 χρόνια πριν ήταν αρραβωνιασμένη με einen ογκολόγο σε μια άλλη γνωστή γραφειοκρατία της ΕΕ, την Ιταλία, και είδα το βαθμό στον οποίο η υπογραφή του ειδικού της ήταν το τελευταίο στάδιο μιας αλυσίδας εμπιστοσύνης στην οποία πολλοί άλλοι εκτός από εκείνη είχαν να συνεισφέρουν την εμπειρογνωσία τους.

Ακούσα από την ex-αρραβωνιαστικιά μου, σε εκείνη την περίοδο, και πιο πρόσφατα από τη γυναίκα μου, ότι τα επάγγελμά τους ήταν/είναι γεμάτα από πιστοποιημένους χάκερ που πουλούν την υπογραφή τους και αποφεύγουν πιο πρωτότυπο ή χρήσιμο έργο ως λιγότερο κερδοφόρο. Τέτοιοι κυνικοί πρακτικοί possono χρεώσει υψηλά ποσά επειδή αντιπροσωπεύουν σχετικά σπάνιες και απαραίτητες πηγές.

Δείτε το

Αυτό το θέμα ήρθε στο μυαλό μου καθώς έπεσα πάνω σε μια νέα και εκτεταμένη εργασία σήμερα, με τίτλο Μερικά απλά οικονομικά του AGI. Σε αυτό, τρεις ερευνητές από το MIT, το Πανεπιστήμιο του Σεντ Λούις και το UCLA, περιγράφουν ένα近-μέλλον όπου η τρομακτική, εργοαπορροφητική ώθηση προς την αυτοματοποίηση με τη βοήθεια του AI συναντά την ανάγκη για πραγματικές “πίσω” για να κicken σε υψηλούς κινδύνους σενάρια – οδηγώντας έτσι σε μια νέα οικονομία ανθρώπινης επαλήθευσης, επικύρωσης και ευθύνης*.

Η εργασία αντίθεται με την τρέχουσα φαντασία των μέσων ενημέρωσης για συρρίκνωση επιχειρηματικών τομέων με εκτεταμένα γραφεία που μειώνονται σε ένα άτομο “επίβλεψη”, των οποίων οι αποφάσεις χρησιμοποιούνται ως δεδομένα εκπαίδευσης για (υποθετικά) να πυροδοτήσουν ακόμη και αυτό το τελευταίο σκουπίδι “κρέατος”^†.

Αντίθετα, οι συγγραφείς πιστεύουν ότι πρακτικές και απαιτήσεις συμμόρφωσης θα εστιάσουν τεράστια προσοχή στα “ανθρώπινα” που ικανοποιούν το νομικό τμήμα μιας εταιρείας:

‘Για τις εταιρείες, η βασική στρατηγική έμπνευση είναι ότι η επαλήθευση δεν είναι πλέον μια απλή συμμορφωτική λειτουργία, αλλά μια πρωταρχική τεχνολογία παραγωγής — και όλο και περισσότερο, η πιο αμυντική τους. Αυτό διευθύνει μια δομική μετατόπιση: επενδύοντας πολύ σε παρατηρησιμότητα, επεκτείνοντας την επαλήθευση-βάση αλήθειας και επαναδιοργανώνοντας γύρω από μια “σάντουιτς” τοπολογία (ανθρώπινη πρόθεση → μηχανική εκτέλεση → ανθρώπινη επαλήθευση και υπογραφή).

‘Σε μια οικονομία όπου το сырой αποτέλεσμα είναι εμπορεύσιμο, το ανταγωνιστικό πλεονέκτημα μεταφέρεται στην σπάνια ταλέντο και δεδομένα που είναι ικανά να οδηγήσουν και να πιστοποιήσουν συστήματα — δημιουργώντας δίκτυα αποτελεσμάτων όχι σε καθαρή παραγωγή, αλλά σε αξιόπιστα αποτελέσματα.’

Οι συγγραφείς υποθέτουν ότι ο καθοριστικός περιορισμός της ανάπτυξης μπορεί να μην είναι η νοημοσύνη — η οποία το AI έχει τώρα “αποσυνδέσει από τη βιολογία” — αλλά η επαλήθευση-πλάτος.

Αξιακή μετατόπιση προς την ανθρώπινη επαλήθευση

Η εργασία περιγράφει την κίνηση προς AGI ως μια διεύρυνση της απόκλισης μεταξύ του κόστους παραγωγής μηχανικής έξοδου και του κόστους ελέγχου αυτής της έξοδου — το τελευταίο από τα οποία παραμένει δεμένο με τον πεπερασμένο ανθρώπινο χρόνο και την εμπειρία.

Η δημιουργία σχεδίων, αναφορών, σχεδιασμών και συστάσεων θα γίνει σε αυτό το σενάριο φθηνή και άφθονη, ενώ η καθορισμός ποίου από αυτά είναι σωστό, συναρμολογημένο και ασφαλές για να ενεργηθεί θα γίνει η “σπάνια λειτουργία”. Η αποτελεσματική όριο της ανάπτυξης θα είναι επομένως όχι πόσο αποτέλεσμα τα συστήματα μπορούν να παράγουν, αλλά πόσο από αυτό το αποτέλεσμα μπορεί να πιστοποιηθεί με πιστότητα.

Έτσι, αντί να ανταμείβει την εξειδίκευση σε μετρήσιμες εργασίες, το σύστημα, οι συγγραφείς προβλέπουν, θα αρχίσει να ανταμείβει τη μετρησιμότητα: η εργασία που μπορεί να παραμετρηθεί θα οδηγήσει στην εμπορευματοποίηση καθώς το κόστος εκτέλεσης προσεγγίζει το περιθώριο κόστους υπολογισμού, με αξία που συσσωρεύεται αντί στην υψηλή ποιότητα αλήθειας, αξιόπιστες ιχνηλατήσεις και θεσμικές μηχανισμοί για την ανάθεση και την απορρόφηση ευθύνης.

Επομένως, σε μια οικονομία επαλήθευσης, το πλεονέκτημα θα έγκειται λιγότερο στην παραγωγή περιεχομένου και περισσότερο στην πιστοποίηση αποτελεσμάτων και στην υπογραφή των κινδύνων που συνδέονται με αυτά.

Εάν η αυτοματοποίηση συνεχίσει να επιταχύνεται ενώ η επαλήθευση παραμένει περιορισμένη από τον ανθρώπινο χρόνο και την προσοχή, η εργασία προβλέπει ότι μια Κενή Οικονομία θα αναδυθεί, όπου, καθώς το κόστος αυτοματοποίησης της εργασίας μειώνεται, περισσότεροι και περισσότεροι πράκτορες θα αναπτυχθούν επειδή έχει οικονομική λογική να το κάνουν — ακόμη και αν η ικανότητα να ελέγξουν σωστά την έξοδό τους δεν θα αυξηθεί με την ίδια ταχύτητα. Σε αυτό το σενάριο, το μερίδιο της εργασίας που είναι πραγματικά επικυρωμένο θα μειωθεί, με όλα τα αρνητικά αποτελέσματα που συνεπάγονται.

Αντίθετα, μια Ενισχυμένη Οικονομία θα διασφαλίσει ότι η ικανότητα επαλήθευσης θα επεκταθεί σε συνδυασμό με την αυτοματοποίηση. Αυτό θα απαιτήσει μια ενεργή επένδυση σε δομημένη εκπαίδευση για να διατηρηθεί η εμπειρογνωσία, καθώς και νέες πλαίσια ευθύνης που μπορούν να απορροφήσουν τον κίνδυνο. Η ανάπτυξη θα ήταν τότε συνδεδεμένη με αυτό που μπορεί πραγματικά να ελεγχθεί και να ασφαλιστεί — αποτελεσματικά, ένα πολύ παλιό σφύριγμα που φέρει στο κέντρο της σκηνής από μια άνευ προηγουμένου κλίμακα τεχνολογικής ανάπτυξης:

‘Στον τεχνολογικό τομέα, το κυρίαρχο μοντέλο εσόδων θα μετατοπιστεί από την εμπορευματοποίηση της πρόσβασης λογισμικού (Λογισμικό ως Υπηρεσία) στην εμπορευματοποίηση αποτελεσμάτων (“Λογισμικό ως Εργασία”). Συνεπώς, οι εταιρείες θα αξιολογηθούν κυρίως με βάση την ικανότητά τους να απορροφήσουν τον κίνδυνο ουράς μέσω Ευθύνης ως Υπηρεσία.

‘Η εκτέλεση είναι τώρα απεριόριστα επεκτάσιμη· η νομική και οικονομική ικανότητα να απορροφήσει τις αναπόφευκτες αποτυχίες της είναι το νέο σφύριγμα.’

Μειούμενα Οφέλη

Πράγματι, η διατήρηση της εξειδίκευσης σε ανθρώπους είναι κρίσιμη για το πρόβλημα,既然 ότι ένας πολιτισμός βιομηχανικής εποπτείας, σύμφωνα με τους συγγραφείς, θα κινδυνεύσει με την πάροδο του χρόνου να υποβαθμίσει την ποιότητα εκείνων που εκτελούν την εποπτεία — επειδή οι επόμενες γενιές εποπτών δεν θα διαθέτουν άμεση και ζωντανή εμπειρία των τομέων που απαιτούν επαλήθευση.

Επιχειρηματικά, στο στάδιο αυτό, η ποιότητα της εποπτείας θα είναι πραγματικά ευάλωτη στην αυτοματοποίηση,既然 ότι οι νέες αποφάσεις θα σχηματιστούν μόνο με βάση προηγούμενες αποφάσεις. Ωστόσο, αυτό θα αφήσει τους μετόχους χωρίς ένα “πίσω” για να κicken, ή ένα βιώσιμο επιχειρηματικό μοντέλο. Θα το κάνει επίσης τόσο εύθραυστο και κινδυνευμένο, ώστε να μην είναι ελκυστικό, ακόμη και σε ένα κλίμα χαμηλής απασχόλησης.

Η τοποθέτηση πιστοποιημένων επαγγελματιών, όπως γιατρών και αρχιτεκτόνων, σε μια καλά αμειβόμενη αλλά πολύ βαρεμένη “εποπτική” θέση είναι πιθανό να υποβαθμίσει την αξία τους σε τέτοιο ρόλο, με την πάροδο του χρόνου: όσο πιο παλιό είναι η πραγματική πεδία-πείρα τους, τόσο πιο “θεωρητικά” οι αποφάσεις τους θα γίνουν, καθώς το εγκαταλελειμμένο πεδίο τους συνεχίζει να εξελίσσεται στην απουσία τους.

(Αυτό είναι οικείο ακόμη και σε προ-ΑΙ επιχειρηματική κουλτούρα, στη μορφή εξειδικευμένου προσωπικού που προάγεται στη διαχείριση και γίνεται ολοένα και πιο απομακρυσμένο από τις νέες εξελίξεις, τελικά υπονομεύοντας την αξία τους ως εποπτών και οργανωτών. Είναι επίσης οικείο στους φανς του Pakleds — ενός είδους που χρησιμοποιεί προηγμένη τεχνολογία εκτενώς, αλλά δεν ξέρει πώς να τη δημιουργήσει ή να τη sửa chữa.)

Η εκτέλεση επιπέδου εισαγωγής έχει ιστορικά χρησιμεύσει ως το έδαφος εκπαίδευσης για μελλοντικούς εμπειρογνώμονες· αλλά αν η αυτοματοποίηση εξαφανίσει τις ρουτινικές εργασίες μέσω των οποίων καλλιεργείται η κρίση, η μελλοντική προμήθεια ικανοποιητικών εποπτών θα μειωθεί, οι συγγραφείς προτείνουν.

Έτσι η εργασία προβλέπει ένα парадόξο: όσο πιο ισχυρά γίνονται τα συστήματα, τόσο περισσότερο η κοινωνία θα εξαρτηθεί από ένα αποθέμα ανθρώπινης εμπειρογνωσίας που αυτά τα ίδια συστήματα μπορεί να υποβαθμίσουν.

Και ας θυμόμαστε ότι αυτό δεν είναι σε καμία περίπτωση ένα τεχνικό πρόβλημα, ούτε ευάλωτο σε μια τεχνολογική λύση. Σε πολλές απόψεις, αυτό το σύνδρομο υποδηλώνει το λογιστικό ισοδύναμο του AI μοντέλο-καταρρευση — εκτός από το ότι εδώ εξετάζουμε την υποβάθμιση ενός οικονομικού μοντέλου.

‘Από μια πολιτική άποψη, η βασική πρόκληση είναι μια βαθιά δομική ασυμμετρία: τα κέρδη της ανάπτυξης του AI είναι επιθετικά ιδιωτικοποιημένα, ενώ οι συστημικοί κίνδυνοι είναι κοινωνικοποιημένοι. Οι εταιρείες και τα άτομα κατέχουν το ανώτερο της αυτοματοποίησης ενώ εξωτερικοποιούν καταστροφικούς κίνδυνους ουράς.

‘Χωρίς κοινή υποδομή επαλήθευσης και αυστηρή τιμολόγηση ευθύνης, η αγορά θα οδηγηθεί λογικά προς μια Κενή Οικονομία — μια ισορροπία που χαρακτηρίζεται από εκρηκτική μετρημένη δραστηριότητα, αλλά ουσιαστικά κενή ανθρώπινη εποπτεία.’

Συμπέρασμα: Μια Διαφορετική Κρίση

Οι συγγραφείς ορίζουν την προβλεπόμενη κρίση ως μια χάσμα μετρησιμότητας, όπου οι μετρήσιμες διαδικασίες μπορούν να αυτοματοποιηθούν μακριά από κάθε ανθρώπινη συνεισφορά, αφήνοντας n-σκληρές ή n-νομικές διαδικασίες που vẫn απαιτούν ανθρώπινη εμπειρογνωσία.

Ωστόσο, η εμπειρία της γυναίκας μου υποδηλώνει ότι η πολυπλοκότητα ή η δυσκολία μιας διαδικασίας δεν είναι απαραίτητα συνδεδεμένη με την ανάγκη για ευθύνη σε αυτή τη διαδικασία· πολλά από αυτά που “υπογράφει” αντιπροσωπεύουν ελαφρά προβλήματα ή υπολογισμούς από μόνα τους, αλλά είναι συνεπακόλουθα στην παραβίαση. Και όσο πιο δικαστικός γίνεται ο επιχειρηματικός πολιτισμός, τόσο περισσότερο οι ασφαλιστές και οι επενδυτές θα απαιτήσουν ανθρώπινη ευθύνη σε ένα ευρύ φάσμα διαδικασιών.

Έτσι, η μετάβαση στην οικονομία επαλήθευσης μπορεί να προκαλέσει μια διαφορετική κρίση από αυτή που目前 προκαλεί τα επικεφαλίδες. Το ζήτημα σε αυτή την περίπτωση δεν θα είναι αν το AI μπορεί να παράγει περισσότερα, αλλά αν οι ιδρύματα μπορούν να επικυρώσουν αρκετά από αυτά που παράγονται για να μετατρέψουν την मशινική νοημοσύνη σε ανθεκτική αξία.

Εφόσον η मशινική νοημοσύνη μπορεί να κλιμακωθεί χωρίς προηγούμενο και η διαθεσιμότητα περιπτώσεων-εφαρμογής ανθρώπινου χρόνου δεν μπορεί να跟隨 με αυτό το ρυθμό, τα ζητήματα που περιγράφονται στην νέα εργασία φαίνεται πιθανό να αναδυθούν πολύ γρήγορα — ακόμη και αν μπορεί να είναι αρχικά καταβυθισμένα από τις ευρύτερες οικονομικές επιπτώσεις της υιοθέτησης του AI.

* Η εργασία είναι πολύ μεγάλη για να αναλυθεί με τον συνήθη τρόπο, και σε κάθε περίπτωση δεν είναι δομικά κατάλληλη για αυτόν τον τύπο ανάλυσης. Έτσι, αποφάσισα να σχολιάσω την εργασία και να εξετάσω τη σημασία της, και να αναφέρω τον αναγνώστη στην πηγή εργασία ώστε να μπορεί να κάνει το ίδιο.

^† /s

Πρώτη δημοσίευση Τετάρτη, 25 Φεβρουαρίου 2026