Σύνταγμα για τη Νέα Επιχείρηση: 15 Κανόνες για τη Διακυβέρνηση της AI

Αυτά τα δοκίμια προοριζόνταν να είναι για αρχιτεκτονική. Διαβάστε τα ξανά και παρατηρήστε τι έκαναν πραγματικά: συνέχισαν να εκδίδουν κανόνες. Οι εγκρίσεις δεν είναι δεδομένα· οι επαληθεύσεις είναι. Διακυβεύστε με βάση τις συνέπειες. Μην προωθείτε το μοντέλο· προωθήστε τη ροή εργασίας. Μια συνέπεια που δεν αλλάζει την επόμενη εκτέλεση είναι μόνο ένα περιστατικό, όχι μάθηση. Οι κανόνες που δηλώνονται άμεσα δεν είναι συμβουλές. Είναι άρθρα. Και κάπου στο κείμενο, το συμπέρασμα έπαψε να είναι προαιρετικό: μια επιχείρηση που σκοπεύει να λειτουργεί με AI χρειάζεται ένα σύνταγμα.

Τα εργαστήρια AI έφτασαν σε αυτό το συμπέρασμα πριν από τους υπόλοιπους. Η Anthropic έγραψε ένα σύνταγμα για τα μοντέλα της — μια σαφής δήλωση αρχών που το σύστημα εκπαιδεύεται να τηρεί — βασισμένο σε μια θεωρία που ισχύει πολύ πέρα από την εκπαίδευση μοντέλων: η καθοδήγηση που δεν υπάρχει σε κανένα έγγραφο καταλήγει να μην υπάρχει πουθενά. Τώρα κοιτάξτε τις επιχειρήσεις που υλοποιούν αυτά τα μοντέλα. Οι περισσότερες έχουν πιλοτικά προγράμματα, μια πολιτική διάσπαρτη σε ελέγχους ασφαλείας, και ενστικτώδεις πρακτικές που μεταβιβάζονται από όποιον παρακολούθησε την τελευταία παρουσίαση του προμηθευτή. Τα μοντέλα έχουν γραπτές αρχές. Οι οργανισμοί που τα διαχειρίζονται δεν τις έχουν.

Γιατί ένα σύνταγμα και όχι μια άλλη πολιτική; Μια πολιτική γράφεται για μια τεχνολογία, και αυτή η τεχνολογία αλλάζει κάθε τρίμηνο· ένα σύνταγμα γράφεται για έναν οργανισμό, και δηλώνει τι παραμένει ενώ, ό,τι βρίσκεται κάτω αλλάζει. Οι πολιτικές πολλαπλασιάζονται μέχρι κανείς να μην μπορεί να τις διαχειριστεί· ένα σύνταγμα παραμένει αρκετά σύντομο ώστε ένας διαχειριστής να το φέρει σε μια συνάντηση. Και ένα σύνταγμα δέχεται τροποποίηση — ανοιχτά, με αποδείξεις — όπου η πολιτική απλώς συσσωρεύεται.

Λοιπόν, αυτά είναι τα δικά μου: δεκαπέντε άρθρα, σε τρία τμήματα. Μόνο δηλώσεις — η αιτιολόγηση πίσω από κάθε μία, και οι ισχυρότερες ενστάσεις σε κάθε μία, αξίζουν περισσότερο χώρο από ό,τι μπορεί να προσφέρει ένα δοκίμιο. Τα δημοσιεύω τώρα, πριν από τη μεγαλύτερη ανάλυση, ακριβώς για να μπορούν να συζητηθούν.

I. Πώς λειτουργεί η εργασία

Άρθρο 1. Τα αποτελέσματα είναι η μονάδα αξίας. Ένα πρόγραμμα AI κρίνεται από το τι συμβαίνει στη δουλειά: γρηγορότερα, λιγότερα σφάλματα, φθηνότερα, λιγότερη ανθρώπινη προσπάθεια και έλεγχο που παραμένει. Μετρήστε αυτά. Μην μετράτε τους αναπτυγμένους πράκτορες.

Άρθρο 2. Η AI προτείνει, οι άνθρωποι αποφασίζουν, η αυτοματοποίηση εκτελεί. Οι πράκτορες διαβάζουν το πλαίσιο, διαχειρίζονται την ποικιλία, συλλέγουν αποδείξεις και προετοιμάζονται. Οι άνθρωποι κατέχουν τις αποφάσεις που φέρουν συνέπεια, και την ευθύνη που ακολουθεί. Η αυτοματοποίηση εφαρμόζει την εγκεκριμένη αλλαγή.

Άρθρο 3. Μην ξοδεύετε νοημοσύνη σε εργασία που δεν τη χρειάζεται. Όπου η εργασία μπορεί να γραφτεί και να ελεγχθεί, εκτελείται ως αυτοματοποίηση — χωρίς μοντέλο στη διαδικασία, χωρίς κόστος ανά εκτέλεση, το ίδιο αποτέλεσμα κάθε φορά. Τα μοντέλα διατηρούνται για κρίση, γλώσσα και ποικιλία.

Άρθρο 4. Η ορχήστρωση κρατά την εργασία ενωμένη. Η εργασία που καλύπτει ανθρώπους, πράκτορες, αυτοματισμούς και συστήματα συντονίζεται από μια δηλωμένη δομή που διαχειρίζεται την πρόοδο, την κατάσταση και την αποκατάσταση. Όπου το μονοπάτι είναι γνωστό, δηλώστε το. Διατηρήστε την ελευθερία επιδίωξης στόχων για αποτελέσματα που πραγματικά υπερβαίνουν τα μονοπάτια — και δεσμεύστε το πιο σφιχτά εκεί.

Άρθρο 5. Η εξουσία κερδίζεται από την εργασία, ποτέ δεν χορηγείται στο μοντέλο. Ένας πράκτορας μπορεί να βοηθήσει οποιονδήποτε με το παρεχόμενο πλαίσιο. Λαμβάνει πραγματική εξουσία μόνο πάνω στην εργασία για την οποία του έχει δοθεί το πλαίσιο — περιγραφόμενο, περιορισμένο, με γραπτά όρια — και μόνο καθώς συγκεντρώνονται αποδείξεις. Η εξουσία μειώνεται αυτόματα όταν η απόδοση πέφτει.

Άρθρο 6. Σχεδιάστε για το εργοστάσιο εξαιρέσεων. Η ευχάριστη διαδρομή είναι αυτή που δείχνει το διάγραμμα διαδικασίας· οι εξαιρέσεις είναι εκεί που η εταιρεία πραγματικά λειτουργεί. Ένας σχεδιασμός που χειρίζεται μόνο τη ευχάριστη διαδρομή αυτοματοποιεί το εύκολο ογδόντα τοις εκατό και καταρρέει στο εικοσιτόις τοις εκατό όπου ζει το κόστος. Η κλιμάκωση, η ανάκληση και η αποκατάσταση αποφασίζονται κατά το σχεδιασμό, όχι ανακαλύπτονται στην παραγωγή.

II. Τι χτίζει και διατηρεί ο οργανισμός

Άρθρο 7. Κατασκευάστε το χάρτη και τις γραμμές καθώς προχωράτε. Κάθε υλοποίηση AI πρέπει να αφήνει πίσω της δύο πράγματα: έναν καλύτερο χάρτη του πώς λειτουργεί πραγματικά η εργασία, και αυτοματισμούς για τα τμήματα που αποδείχθηκαν σταθερά. Κατασκευάστε και τα δύο με την AI, ταυτόχρονα, από το πρώτο έργο — όχι ως ξεχωριστό πρόγραμμα αργότερα.

Άρθρο 8. Καταγράψτε την κρίση, όχι τις συνομιλίες. Κάθε αλληλεπίδραση με ένα μοντέλο είτε συνδέεται με την εργασία στην οποία ανήκει — τη διαδικασία, την υπόθεση, την απόφαση — είτε εξαφανίζεται όταν η συνεδρία λήγει. Η καταγραφή ξεκινά με την πρώτη εποπτευόμενη ανάθεση, όχι με την αυτονομία.

Άρθρο 9. Νοικιάστε τα μοντέλα· κατέχετε τη μνήμη. Ποτέ μην δεσμεύεστε με ένα μόνο μοντέλο — αλλάξτε το ανάλογα με την ικανότητα, το κόστος και το πού πρέπει να ζουν τα δεδομένα σας, χωρίς να ξαναγράψετε την εργασία. Αυτό που κατέχει ο οργανισμός είναι η μνήμη: ο χάρτης της εργασίας του, το αρχείο των αποφάσεών του και των διορθώσεων, και με την πάροδο του χρόνου μοντέλα εκπαιδευμένα στη δική του επικυρωμένη εργασία, μέσα στους δικούς του τοίχους.

Άρθρο 10. Η μάθηση διέπεται, δεν αυτοτροποποιείται. Οι αποδείξεις προτείνουν· ένας ορισμένος κάτοχος εγκρίνει· τίποτα δεν γίνεται λειτουργικό χωρίς αυτήν την έγκριση. Το αρχείο των αποφάσεων είναι μόνο προσθέσιμο.

III. Τι συμβαίνει στους ανθρώπους

Άρθρο 11. Ένα πρόγραμμα, όχι δύο. Η υιοθέτηση AI και η μετασχηματισμός του εργατικού δυναμικού είναι το ίδιο πρόγραμμα. Κάθε απόφαση υλοποίησης είναι απόφαση του εργατικού δυναμικού· κάθε απόφαση του εργατικού δυναμικού αλλάζει τι μπορεί να κάνει με ασφάλεια η AI.

Άρθρο 12. Διατηρήστε και τα δύο λογιστικά βιβλία. Το λογιστικό βιβλίο παραγωγικότητας καταγράφει τι έγινε πιο γρήγορο και φθηνότερο. Το θεσμικό λογιστικό βιβλίο καταγράφει τι χάθηκε, διατηρήθηκε ή ξαναχτίστηκε: εμπιστοσύνη, καθοδήγηση, μνήμη πελατών, κρίση υπό πίεση, κουλτούρα. Αναφέρετε και τα δύο.

Άρθρο 13. Επανασχεδιάστε τους ρόλους γύρω από την εργασία που παραμένει. Κάθε ρόλος παράγει δύο αποτελέσματα: το ορατό προϊόν εργασίας, το οποίο η AI απορροφά όλο και περισσότερο, και το αναπτυξιακό, το οποίο δεν απορροφά — εμπιστοσύνη που χτίζεται με την πάροδο του χρόνου, καθοδήγηση, σχέσεις με πελάτες, κρίση σε εξαιρετικές περιπτώσεις. Επανασχεδιάστε τους ρόλους γύρω από το δεύτερο πριν τους αφαιρέσετε για το πρώτο.

Άρθρο 14. Ανακατασκευάστε την μαθητεία σκόπιμα. Η παλιά μαθητεία — οι νέοι που μαθαίνουν το επάγγελμα κάνοντας τη ρουτινική εργασία — πεθαίνει όταν η ρουτινική εργασία περνάει στις μηχανές. Δημιουργήστε την αντικατάστασή της σκόπιμα: ο χάρτης ως χώρος εκπαίδευσης, οι έμπειροι διδάσκουν την κρίση, οι νέοι διδάσκουν την εγγενή ταχύτητα των μηχανών. Μην κόψετε τους νέους.

Άρθρο 15. Δημοκρατικοποίηση, όχι αναρχία. Οι άνθρωποι που κατέχουν την εργασία δημιουργούν τη δική τους εργασία — εφαρμογές, αυτοματισμούς, πράκτορες, ανατεθειμένες εργασίες, διορθώσεις του χάρτη — μέσα σε προστατευτικούς μηχανισμούς που ορίζει ο οργανισμός, και την επιβάλλει η πλατφόρμα του.

Η ρήτρα τροποποίησης

Ένα σύνταγμα που δεν μπορεί να πει τι θα το τροποποιήσει είναι μια πεποίθηση. Το Άρθρο 3 βασίζεται σε ένα όριο που δεν αναμένω να παραβιαστεί — η ακριβής εκτέλεση δεν έχει αποδεκτή διακύμανση σε καμία δυνατότητα μοντέλου. Τα Άρθρα 8 έως 10 βασίζονται στο πώς οι οργανισμοί μαθαίνουν και απαντούν για τον εαυτό τους, κάτι που αλλάζει πιο αργά από οποιαδήποτε τεχνολογία. Τα πιο εκτεθειμένα άρθρα είναι τα άρθρα για τους ανθρώπους — όχι επειδή είναι αδύναμα, αλλά επειδή η πίεση να αγνοηθούν θα είναι ισχυρότερη ακριβώς όταν τα τριμηνιαία νούμερα ανταμείβουν την κενή έκδοση. Οι τροποποιήσεις θα κερδίζονται με αποδείξεις και θα γίνονται δημόσια.

Άρα διαπραγματευτείτε το. Πείτε μου ποιο άρθρο ο οργανισμός σας δεν θα μπορούσε να υπογράψει και γιατί — αυτή η ένσταση είναι ακριβώς η συζήτηση που αυτό το έγγραφο θέλει να ξεκινήσει. Η αιτιολόγηση πίσω από κάθε άρθρο, και τα ισχυρότερα επιχειρήματα εναντίον τους, έρχονται σε πιο εκτενή μορφή. Αλλά μην περιμένετε γι’ αυτό: τοποθετήστε τους δικούς σας κανόνες του οργανισμού σε ένα σύντομο έγγραφο — τι θα κάνει πάντα και τι δεν θα κάνει ποτέ — υπογράψτε το, και τροποποιήστε το δημόσια όταν οι αποδείξεις το απαιτούν. Όταν αυτή η τεχνολογία σταθεροποιηθεί — και θα σταθεροποιηθεί — οι οργανισμοί που θα παραμείνουν θα είναι αυτοί που θα μπορούν, γραπτώς, να δηλώσουν τι δεν θα κάνουν και τι δεν θα σταματήσουν ποτέ να κάνουν, ενώ όλα τα άλλα θα έχουν αλλάξει.