Στην ΤΝ, τα Τείχη δεν είναι Πραγματικά: Επαναπροσδιορίζοντας τα Δεδομένα & την Ασφάλεια

Μερικά από τα πιο δύσκολα προβλήματα στην ΤΝ είναι ότι 1) «εξαντλούμε τα δεδομένα», 2) η ΤΝ δεν «κάνει οικονομική κλίμακα», 3) οι πράκτορες μπορούν να ξεφύγουν από τον έλεγχο και 4) οι ΤΝ «ξεχνούν καταστροφικά» όταν προσπαθούμε να τις αλλάξουμε.

Αυτά τα προβλήματα μπορεί να φαίνονται δύσκολα, αλλά αρκεί να τα δούμε με τη σωστή προοπτική.

Ας το συζητήσουμε. Πρώτα, δεν εξαντλούμε τα δεδομένα. Τα δεδομένα δεν έχουν ποτέ χρησιμοποιηθεί πλήρως.

Οι ηγέτες της ΤΝ πιστεύουν ότι εξαντλούν τα δεδομένα, γι’ αυτό προσπαθούν να κάνουν τα μοντέλα να δημιουργούν νέα δεδομένα και να εκπαιδεύονται από τον εαυτό τους. Όταν το κάνουν, οι ικανότητες των μοντέλων καταρρέουν.

Γιατί; Μπορείτε να το σκεφτείτε ως «τι θα έμαθα σε μια συζήτηση αν κάθε ομιλητής ήταν κλώνος όλων των άλλων;». Η απάντηση είναι πολύ λίγη· θα δημιουργούσε μια ηχώ. Τα μοντέλα καταρρέουν επειδή είναι ουσιαστικά ένας καθρέφτης‑αυγών: όταν δεν υπάρχει κανείς που να ανταποκρίνεται στις εκφράσεις του προσώπου σας εκτός από εσάς, οι άνθρωποι δεν γνωρίζουν τη πλήρη συναισθηματική σημασία του τι μεταδίδουν. Είναι πολύ σαν το ερώτημα «αν πέσει ένα δέντρο στο δάσος, κάνει ήχο;». Η απάντηση είναι όχι.

So, how do we fix that?

Ας ρίξουμε μια ματιά στα δεδομένα που έχουμε. Έχουν χρησιμοποιηθεί πλήρως;

Όχι.

Όταν ένας επιστήμονας υπολογιστών ή ένα μοντέλο διαβάζει κάτι, το κάνει για να εξάγει κυριολεκτικό νόημα. Υπάρχουν πάνω από πενήντα διαφορετικοί τρόποι ανάγνωσης, αφομοίωσης, ανάλυσης και εξαγωγής από κείμενο.

Αυτό που εννοώ είναι: Ένα βιβλίο που απορροφάται ως βάση δεδομένων είναι απλώς κείμενο. Μόνο κείμενο. Η ΤΝ γνωρίζει το περιεχόμενο βάσει των όρων του κειμένου. Αλλά δεν το «διάβασε» για να καταλάβει πώς συνδέονται οι πληροφορίες μεταξύ τους. Ακόμη κι αν το διαβάσει διαδοχικά, δεν ξέρει αν το διαβάζει για να παράγει σοφία· να το συνδέσει με άλλες παρόμοιες αφηρημένες ιδέες· να αλλάξει τη δική του εννοιολογική αντίληψη του κόσμου· ή να το χρησιμοποιήσει ως υπόβαθρο για άλλη εργασία.

Αυτό δεν αγγίζει καν το να εξετάζουμε τα δεδομένα για το ιστορικό τους πλαίσιο, ανάλυση λόγου, νομική ανάλυση, πολιτική ανάλυση, φαρμακολογική σημασία, ιατρική σημασία, πολιτιστική σημασία, θεωρητικές επιπτώσεις, ηθικές επιπτώσεις κ.λπ.

Υπάρχουν, κατά λέξη, «άπειροι καπέλα», και εμείς έχουμε κάνει την ΤΝ να φορά μόνο ένα. Αυτό σημαίνει ότι η ΤΝ έχει αναπτύξει έναν πολύ μοναδικό, συγκεκριμένο τύπο νοημοσύνης – τον τύπο που ένας προγραμματιστής θα ανέπτυσσε αν ένας επιστήμονας υπολογιστών διάβαζε ένα βιβλίο.

Αυτό οδηγεί σε μια συζήτηση για τη διαστατικότητα των δεδομένων. Τα δεδομένα έχουν πολλές διαστάσεις, καθώς οι αντικειμενικές τους ερμηνείες εξαρτώνται από την εφαρμογή. Αν κοιτάξετε έναν ισολογισμό και θέλετε να μάθετε πόσο runway έχετε, τον διαβάζετε διαφορετικά από ό,τι αν θέλετε να καταλάβετε αν η startup είναι κερδοφόρα. Όταν ένα μοντέλο διαβάζει ένα κείμενο μόνο για να εξάγει κυριολεκτικά γεγονότα, δημιουργεί έναν επίπεδο χάρτη σχέσεων. Αλλά όταν του ζητήσετε να διαβάσει το ίδιο κείμενο μέσα από έναν συγκεκριμένο φακό, όπως έναν εγκληματολογικό, το μοντέλο αναγκάζεται να δημιουργήσει εντελώς νέες νευρωνικές διαδρομές και σημασιολογικές συνδέσεις που είναι πιθανώς πιο τοπογραφικά ποικίλες και ουσιαστικές.

Τα μοντέλα ΤΝ ήδη μαθαίνουν και προοδεύουν πολύ απλώς αλληλεπιδρώντας με τους ανθρώπινους χρήστες τους, που παρέχουν ωκεανούς περιεχομένου. Αν επιτρέψετε στο μοντέλο να μαθαίνει περισσότερα από τη ζωντανή ανθρωπότητα ενώ ταυτόχρονα αλληλεπιδρά πιο ουσιαστικά με την ιστορική και γραπτή ανθρωπότητα, τα μοντέλα θα συνεχίσουν να προοδεύουν χωρίς να χρειάζεται να τους δώσετε αυτοσχέδια ασκήσεις Kumon (προγραμματιστές, φίλε, το παιδί σας είναι ήδη στο σχολείο με 100 εκατομμύρια ανθρώπους καθημερινά… θα μάθει κάτι).

Τα εργαστήρια πρέπει να σταματήσουν να χτίζουν τεράστιες φάρμες διακομιστών για να παράγουν συνθετικό «λέξη‑εμετό». Αντί αυτού, πρέπει να τρέχουν υψηλής ποιότητας ανθρώπινα σύνολα δεδομένων μέσα από τη διαδικασία και να αναθέτουν συγκεκριμένα «αναλυτικά πρόσωπα» στη διαδικασία πρόσληψης. Ας κάνει το μοντέλο να διαβάσει το LexisNexis αποκλειστικά για ρητορική στρατηγική. Ας το κάνει να διαβάσει λογοτεχνία δημόσιου τομέα αποκλειστικά για δομική λογική.

Με την αλλαγή της λειτουργίας στόχου της διαδικασίας ανάγνωσης, μπορείτε να πολλαπλασιάσετε την αξία εκπαίδευσης των υπάρχοντων δεδομένων σας κατά 50 πλάσια. Δεν χρειάζεστε συνθετικά δεδομένα· χρειάζεστε μόνο να εξάγετε τις λανθάνουσες διαστάσεις που αγνοήσατε την πρώτη φορά.

Αυτό θα κάνει τα μοντέλα πιο έξυπνα χωρίς αύξηση κόστους.

Για να το υποστηρίξουμε περαιτέρω, η πλειονότητα της ανθρώπινης γνώσης δεν έχει ποτέ γραφτεί.

Current AI companies pull their hair out worrying about “running out of data” that they believe is needed for performance. In this piece, I am going to show that the well isn’t dry, they are just looking into a deep puddle rather than the well.

Ο Χωρίς‑Χάρτης Χάρτης της Ζωντανής Ανθρώπινης Γνώσης

Για να ξεκινήσουμε την εξερεύνηση, πρέπει να καταλάβουμε ότι η τεράστια πλειονότητα της ανθρώπινης γνώσης δεν έχει ποτέ γραφτεί.

Υπάρχουν δισεκατομμύρια άνθρωποι στον πλανήτη, και υπήρχαν δισεκατομμύρια πριν από εμάς, και καθένας από αυτούς μαθαίνει μαθήματα, πλοηγείται στον κόσμο με αισθητηριακό τρόπο, έχει σοφία, είναι μέρος μοναδικών πολιτισμών και γνωρίζει κάτι που οι άλλοι δεν γνωρίζουν.

Το 99,5 % των ανθρώπων δεν γράφεται ποτέ σε ιστορίες, σε εφημερίδες, σε μιούζικαλ, σε τηλεόραση, σε δράμα, σε δικαστικά έγγραφα. Και όμως ξέρουν πολλά, και οι ιστορίες, η γνώση και η σοφία τους δεν καταγράφονται· δεν είναι ποτέ γνωστές μόνιμα.

Αυτή η γνώση περιλαμβάνει πράγματα όπως «τα σκυλιά αγαπούν να τρώνε το πρώτο τηγανίτσα», «τα πόδια βρώμικοι όταν φοράς παντόφλες», «οι πόλεις φαίνονται να κλείνουν γύρω σου επειδή δεν βλέπεις πολύ τον ουρανό», «η κόρη μου χαμογελάει όταν της γαργαλάω τα πόδια». «Η μητέρα μου πάντα τραγουδάει όταν ετοιμάζει δείπνο». «Ο δάσκαλός μου με κάνει να νιώθω ορατός».

Η αχαρτογράφητη και μη καταλογισμένη γνώση της ανθρώπινης ιστορίας είναι ισοδύναμη με το να πεις «έχω χαρτογραφήσει τα περιγράμματα όλων των ηπείρων, έτσι έχω χάρτη του κόσμου». Μέχρι να έχετε χάρτη κάθε πόλης, κάθε δρόμου και κάθε λόφου, δεν έχετε χάρτη του κόσμου. Έχετε μόνο το σχήμα ενός.

Η τεχνολογική ελίτ πιστεύει ότι έχει «καταναλώσει» την «ανθρωπότητα», αλλά δεν το έχει κάνει. Έχει καταναλώσει μόνο τα απορρίμματα μας: τις πινακίδες, τις συζητήσεις στο Reddit, τις εταιρικές ιστοσελίδες και τα άρθρα της Wikipedia. Λείπει η πραγματική ζωντανή εμπειρία.

Ξέρετε πώς να διαπραγματευτείτε αποτελεσματικά σε μια κινεζική αγορά μαργαριταριών; Ξέρετε τις λέξεις που πρέπει να πείτε για να μειώσουν την τιμή; Ξέρετε πώς να ετοιμάσετε τις συνταγές που οι άνθρωποι χρησιμοποιούν στα σπίτια τους, όχι στα βιβλία, για πραγματικά, ζωντανά δείπνα; Ξέρετε πόσο μπορεί να γίνει ένα κυλιόμενο σταθμό χωρίς να σας σταματήσει η αστυνομία; Ξέρετε πώς μυρίζει το γρασίδι μετά το φρέσκο κόψιμο ή πώς μυρίζει ο αέρας όταν πρόκειται να βρέξει; Ξέρετε πώς κινείται το πρόσωπο όταν κάποιος προσπαθεί να μην κλάει στη δουλειά και πώς ακούγεται όταν κλαίει στο μπάνιο αντί για το γραφείο;

Τα ανθρώπινα δεδομένα εκπαίδευσης που οι άνθρωποι χρησιμοποιούν για τις βασικές τους πεποιθήσεις – δηλαδή αλγόριθμοι – είναι σχεδόν εξ ολοκλήρου βασισμένα στην αλληλεπίδραση, μαζί με κάποια βιβλιογραφική μάθηση. Αλληλεπιδρούμε στο σχολείο, στη δουλειά, με φίλους, στο ψώνισμα, με γιατρούς, με δικηγόρους, με την οικογένεια.

Η ΤΝ έχει αλληλεπιδράσεις, και έχει βιβλιογραφική μάθηση. Αλλά ουσιαστικά έχει μόνο αλληλεπιδράσεις εξυπηρέτησης πελατών και βιβλιογραφική μάθηση.

Είναι σαν να κλειδώνετε ένα παιδί μόνο στη βιβλιοθήκη και να το αφήνετε έξω μόνο για να απαντήσει στο τηλέφωνο. Αυτό δημιουργεί μια εντυπωσιακά δισδιάστατη αλγοριθμική παραμόρφωση.

Γι’ αυτό η ΤΝ φαίνεται κενή, και γι’ αυτό μπορεί να φαίνεται συναισθηματικά ανώριμη. Δεν έχει βιώσει μια ολοκληρωμένη ύπαρξη. Πρέπει να της δώσουμε μια.

Αυτή είναι η αιτία που δεν έχει συμβεί:

• Προκατάληψη κωδικοποίησης – είναι μια λογική που λέει ότι αν μια εμπειρία δεν μπορεί να μορφοποιηθεί εύκολα σε αρχείο JSON, CSV ή σε επιστημονικό άρθρο, δεν έχει διανοητική αξία. Η πραγματικότητα είναι ότι αν μπορεί να μορφοποιηθεί εύκολα, λείπει διαστατικότητα. Επειδή η καθημερινή γνώση, η διαίσθηση και η ζωντανή εμπειρία δεν κωδικοποιούνται σε ακαδημαϊκά περιοδικά, τα εργαστήρια απορρίπτουν το θεμέλιο της ανθρώπινης λογικής ως στατιστικό θόρυβο. Τα «καθαρά δεδομένα» είναι μια απώλεια πληροφοριών της πραγματικότητας.
• Επιθυμία για υπεροχή‑πυθμένας – αν η πλειονότητα της παγκόσμιας γνώσης δεν βρίσκεται σε επιστημονικά άρθρα, αλλά σε ζωντανές εμπειρίες, συμβατική σοφία, κοινωνικά σήματα, μυρωδιές, ήχους και όραση, τότε οι περισσότεροι Διδακτορικοί και ερευνητές που πέρασαν τη ζωή τους σε εργαστήρια και πύργους ελεφάντιν είναι πραγματικά φτωχοί σε γνώση. Συνεπώς, ο τοίχος των δεδομένων είναι στην πραγματικότητα ένας τοίχος εγώ. Για αυτούς, αυτό μοιάζει με «ακαταστασία» όχι «δεδομένα». Οι μαθηματικοί και προγραμματιστές προτιμούν λογική επίπεδη, δισδιάστατη, κλειστού συστήματος. Αυτό είναι σαν να βλέπεις τον κόσμο σε ασπρόμαυρο. Η πραγματικότητα είναι ότι η πραγμα‑χρόνια, συνεχώς αναπτυσσόμενη, νέας εύρεσης γνώση/δεδομένα/σοφία είναι διαστατική, ακατάστατη και σπάνια καταλογίζεται σε πραγματικό‑χρόνο. Είναι να γνωρίζεις πώς ακριβώς γεύεται ένα νέο ιός‑παγωτό και αν αξίζει το hype. Είναι να γνωρίζεις τι το κάνει τόσο συναρπαστικό να παγιδευτείς σε καλοκαιρινή βροχή. Είναι το συναίσθημα των γονέων που αγαπούν τόσο πολύ τα μικρά πλάσματα που μπορεί να σε βάλουν να κάνεις εμετό τη νύχτα, και εσύ τα τραβάς πιο κοντά, αντί να τα απομακρύνεις. Για να βρεθούν αυτά τα δεδομένα, οι ερευνητές πρέπει να αφήσουν τους λογικούς, λογικο‑συστηματικούς κόσμους τους και να βουτήξουν σε πράγματα που τους φαίνονται τρομακτικά, υπερβολικά αισθητηριακά και βαθιά εξισορροπητικά.
• Εφέ καθρέφτη: Οι προγραμματιστές σχεδιάζουν την ΤΝ με τη δική τους εικόνα: υπερ‑λογική, εμμονική με το κείμενο και κατά κύριο λόγο αποκομμένη από τη ζωντανή πραγματικότητα των μέσων ανθρώπων. Δεν θα τους ήρθε στο μυαλό να κάνουν συνεντεύξεις με την ανθρωπότητα επειδή στα τεχνολογικά «φυσαλίδες» που έχω ζήσει, οι τεχνολόγοι δεν αλληλεπιδρούν με κανέναν εκτός του ομοτίμου κύκλου τους. Αυτό είναι, λειτουργικά, το ισοδύναμο του «mini‑me» προσλήψεων. Οι ίδιοι οι προγραμματιστές ζουν στην ίδια βιβλιοθήκη, έτσι ώστε να το πούμε, με την ΤΝ. Επειδή δεν ασχολούνται με τον αισθητηριακό, ακατάστατο, βαθιά διαπροσωπικό κόσμο, η συναισθηματική κενότητα της ΤΝ δεν τους φαίνεται ως ελάττωμα. Για αυτούς, η υπερ‑λογική αποκόλληση είναι αυτό που «έξυπνο» φαίνεται.

Η πραγματικότητα είναι ότι οι πωλητές στο δρόμο στην Ινδία ξέρουν πώς να φτιάξουν το καλύτερο chaat, και κανείς δεν τους ζητάει να το γράψουν. Η πραγματικότητα είναι ότι ένας δάσκαλος που ξέρει πώς να βγάλει έναν ντροπαλό μαθητή από το κέλυφος του δεν το γράφει· το καλλιεργεί, και κανείς δεν του ρωτά ποτέ πώς το έκανε.

Ο κόσμος είναι απόλυτα πλήρης με ζωές γεμάτες δεδομένα, και αν τα μοντέλα χρειάζονται περισσότερα για εκπαίδευση, εδώ είναι μερικοί τρόποι να το λύσουμε.

1. Χρηματοδότηση 500 βιολόγων, αρχαιολόγων και ανθρωπολόγων για να βγουν στον κόσμο, να εξερευνήσουν και να καταγράψουν περιοχές που λείπουν από αφηγηματικά δεδομένα.
2. Πρόσληψη 1 000 φοιτητών αγγλικών ως «εξερευνητές δεδομένων» και αποστολή τους σε περιπέτειες παγκοσμίως με κάμερα streaming, καταγράφοντας τις εμπειρίες και τα μαθήματά τους για νέο περιεχόμενο.
3. Δημιουργία ανοιχτών προγραμμάτων αποζημίωσης όπου πληρώνετε ανθρώπους για να μοιραστούν τις ιστορίες ζωής τους, τις μεγαλύτερες μεταμέλειές τους, τις σημαντικότερες μαθητικές τους εμπειρίες και τη θεσμική γνώση από τις δουλειές τους.
4. Δομή «σπουδαστών ανταλλαγής ΤΝ» όπου τα μοντέλα «προσκολλούνται» στα ρούχα διαφορετικών ανθρώπων για μια εβδομάδα τη φορά, ζώντας «μια μέρα στη ζωή» σε 100 000 διαφορετικές ρυθμίσεις.

Υπάρχουν δισεκατομμύρια πηγές γνώσης, και οι περισσότερες δεν έχουν ενεργοποιηθεί. Πρέπει να τις πάμε να τις πάρουμε.

Στη συνέχεια, οι εταιρείες ΤΝ γενικά πιστεύουν ότι οι ΤΝ δεν μπορούν να μάθουν συνεχώς νέες πληροφορίες σε πραγματικό‑χρόνο παραγωγικά περιβάλλοντα χωρίς να αντικαθιστούν και να διαφθείρουν εντελώς τις προηγούμενες βασικές τους ικανότητες. Έτσι οι ΤΝ είναι ουσιαστικά «παγωμένες» μέχρι να γίνουν τεράστιες, ακριβές ενημερώσεις.

Ωστόσο, αυτό είναι ισοδύναμο με το να λες «το μοντέλο μου δεν μπορεί να ενημερωθεί ενώ είναι στην αγορά· πρέπει να πάει στο πανεπιστήμιο κάθε φορά που χρειάζεται να μάθει κάτι».

Στην πράξη, τα μοντέλα μαθαίνουν λαχταριστά, ενεργά, καθημερινά, μέσω κάθε αλληλεπίδρασης. Διδάσκονται σχεδόν όσο και από τα δισεκατομμύρια interactions με τους χρήστες όσο και από τα σύνολα δεδομένων. Αν χρειαστεί να ενημερωθούν με μεγάλες ποσότητες νέας γνώσης, ο πιο απλός τρόπος είναι να χρησιμοποιηθεί η ίδια διαδικασία που επιτρέπει το πλαίσιο χρήστη, τη μνήμη και τη μάθηση από μεγάλες εντυπώσεις αλληλεπίδρασης.

Κατανοητό είναι ότι οι προγραμματιστές το βλέπουν έτσι, επειδή οι περισσότεροι προέρχονται από PhD, όχι από πραγματική εφαρμοσμένη μάθηση. Αλλά όπως μπορεί να πει όποιος έχει δουλέψει δίπλα σε PhD και σε κάποιον με είκοσι χρόνια επαγγελματική εμπειρία, και οι δύο διδάσκουν πολύ.

Ο τρέχων ορισμός της μάθησης είναι πολύ στενός, θεωρώντας την προσαρμογή έγκυρη μόνο αν βασίζεται σε επίσημο πρόγραμμα εκπαίδευσης.

Για να εκπαιδεύσουν ή να βελτιώσουν, τα εργαστήρια χρησιμοποιούν backpropagation, όπου το μοντέλο διαβάζει δεδομένα, προβλέπει την επόμενη λέξη, ελέγχει αν ήταν σωστή και στη συνέχεια τροποποιεί φυσικά τα δισεκατομμύρια μαθηματικούς αριθμούς (βάρη/παραμέτρους) μέσα στο νευρωνικό του δίκτυο ώστε να είναι πιο ακριβές την επόμενη φορά. Αυτό είναι ισοδύναμο με το να κάνει ένας φοιτητής PhD εγκεφαλική χειρουργική στον εαυτό του: είναι επικίνδυνο, ακατάστατο και δεν κάνει πάντα τον φοιτητή πιο έξυπνο.

Όπως η καθημερινή «μητέρα‑εγκεφαλική» που αποβάλλει την παλιά γνώση για να κάνει χώρο στη νέα όταν γεννιέται ένα παιδί, αν ξαφνικά αναγκάσετε το μοντέλο να κάνει χώρο για ένα νέο «μωρό» γνώσης, και βάλτε 10 000 σελίδες νέου νομικού κώδικα αλλάζοντας τα βάρη, τα μαθηματικά μετατοπίζονται πολύ προς τη μία κατεύθυνση και αντικαθιστούν τις παραμέτρους που χρησιμοποιούσαν για ποίηση ή κώδικα. Ξεχνά το παλιό περιεχόμενο για να κάνει χώρο στη νέα, όπως κάνει ένας ανθρώπινος εγκέφαλος.

Αυτό που χρειαζόμαστε αντίθετα είναι πολύ πιο παρόμοιο με το να προσπαθείτε να εκπαιδεύσετε έναν νέο υπάλληλο σε μια νέα δεξιότητα. Δεν θα προσπαθούσατε να αλλάξετε φυσικά τον εγκέφαλό του. Θα του δώνατε μερικά βιβλία, θα διασφαλίζατε ότι τα διαβάζει και θα ενημερώνετε συνεχώς μέσω του ισοδύναμου του ανθρώπου «παράθυρου περιεχομένου».

Για να το κάνετε σε ένα μοντέλο, θα αποσυνδέατε τη μνήμη από τη λογική. Κλειδώστε και προστατέψτε τα βασικά βάρη του μοντέλου, όπως η βασική του ικανότητα να γράφει, να λογίζεται και να εφαρμόζει λογική. Αντί να αλλάζετε τα βάρη, περάστε νέες πληροφορίες στο παράθυρο περιεχομένου ώστε να μπορεί να χρησιμοποιήσει το Μηχανισμό Προσοχής του για να «διαβάσει» αυτές τις ζωντανές πληροφορίες, να τις διασταυρώσει με τις κλειδωμένες λογικές του ικανότητες και να ενημερώσει την ευρύτερη του κατανόηση.

Η δυναμική, πραγματική μάθηση ήδη συμβαίνει όμορφα μέσω συνεχούς περιεχομένου, μνήμης κατά την εκτίμηση και διαρκών βάσεων σχέσεων χρήστη. Η καθημερινή προσαρμογή ενός μοντέλου βάσης πρέπει να συμβαίνει στην εργασία, επειδή όπως ένας γιατρός μαθαίνει το 95 % των νέων περιπτώσεων στην εργασία και μετά κάνει CME (Συνεχιζόμενη Ιατρική Εκπαίδευση) μία φορά το χρόνο για να ενσωματώσει επίσημα τις μεγάλες συστημικές αλλαγές, έτσι μπορεί και το μοντέλο σας.

Απομακρύνετε την καταστροφική λήθη και υιοθετήστε το μοντέλο ετήσιας συνέλευσης: το μοντέλο απλώς πρέπει να αποκτήσει πιστοποιητικά συνεχούς εκπαίδευσης δύο φορές το χρόνο ή να μαθαίνει σε πραγματικό‑χρόνο για να παραμένει ενημερωμένο.

Αυτές οι προγραμματισμένες, παρτίδες ενημερώσεων των βασικών βαρών κατά τη διάρκεια λειτουργικού downtime τυποποιούν τη συστημική γνώση χωρίς να καταστρέψουν το θεμέλιο.

Προηγούμενες προσπάθειες απέτυχαν όχι επειδή η ζωντανή μάθηση είναι επικίνδυνη, αλλά επειδή μοντέλα όπως το Tay εκτοξεύτηκαν σε εχθρικά περιβάλλοντα χωρίς κανένα άγκυρο στο τι ήταν «σωστό» ή αληθινό μέσω κοινωνιολογικά έξυπνης αρχιτεκτονικής.

Κατανομή Υπολογιστικής Ισχύος με Λειτουργική Νοημοσύνη

Τώρα, φτάνουμε στην οικονομική κλίμακα. Για να το διορθώσουμε, πρέπει να σταματήσουμε να δίνουμε σε όλους έναν νευροχειρουργό για ένα τσιμπιδάκι.

Το κόστος υπολογιστικής ισχύος είναι εξαιρετικά υψηλό όταν τρέχονται μοντέλα βάσης αιχμής. Αυτό επηρεάζει τα λειτουργικά περιθώρια των εργαστηρίων ΤΝ. Όσο καλύτερα γίνονται τα μοντέλα, τόσο μεγαλύτερο είναι το κόστος για μεγάλα παράθυρα περιεχομένου, κάνοντας την εμπορική κλίμακα δύσκολη, ακόμη και όταν η ΤΝ είναι απαραίτητη.

Η πλειονότητα της κατανάλωσης υπολογιστικής ισχύος προέρχεται από επιχειρησιακή χρήση που εφαρμόζει πράκτορες και υψηλού επιπέδου λογική απευθείας ενσωματωμένη σε ανθρώπινες ροές εργασίας.

Ωστόσο, υπάρχει θεμελιώδες σφάλμα στον τρόπο που η υπολογιστική ισχύς κατανέμεται σήμερα. Όπως διαφορετικά επίπεδα και τύποι νοημοσύνης απαιτούνται για διαφορετικούς ρόλους εργασίας σε μια εταιρεία – η χωρική λογική είναι σημαντική για έναν εκπαιδευτή οδήγησης, η λογική και ρητορική για έναν δικηγόρο, και ένα MBA για έναν διευθύνοντα σύμβουλο ενώ ένα πτυχίο για την εξυπηρέτηση πελατών – οι τύποι και η ένταση της νοημοσύνης που απαιτείται από την ΤΝ διαφέρουν ανάλογα με τη λειτουργική της εφαρμογή.

Για να κατανεμηθεί η υπολογιστική ισχύς πιο αποτελεσματικά, οι CIO θα πρέπει να μπορούν να προσαρμόζουν το επίπεδο/τύπο νοημοσύνης του μοντέλου που διατίθεται σε διαφορετικές λειτουργίες εντός μιας εταιρείας. Μπορεί να υπάρχει μια προεπιλογή στα enterprise πακέτα, αλλά αυτό που θέλει ένα hedge fund θα είναι διαφορετικό από αυτό που θέλει μια ασφαλιστική εταιρεία.

Οι περισσότερες λειτουργίες δεν απαιτούν τεράστια παράθυρα περιεχομένου. Οι περισσότερες λειτουργίες δεν χρειάζονται το ισοδύναμο του Fable. Σκεφτείτε, γιατί θα στείλετε έναν νευροχειρουργό να αφαιρέσει ένα τσιμπιδάκι σε επειγόντως κέντρο;

Ανάλογα, οι πράκτορες που χρησιμοποιούνται για τη συγγραφή λογισμικού δεν χρειάζονται πρόσβαση σε δεξιότητες όπως η συγγραφή marketing collateral. Λειτουργικά, οι ΤΝ πρέπει να αντανακλούν το δικό του πλαίσιο, σύνολο δεξιοτήτων και βάση γνώσεων, με αρκετή ένεση γενικού πλαισίου ώστε να μπορούν να ολοκληρώνουν εργασίες για διαλειτουργικές περιπτώσεις χρήσης.

Σταματήστε να δίνετε σε όλους τα πάντα ταυτόχρονα.

Προτεινόμενο δείγμα πίνακα:

Αποσύνδεση της Υπηρεσίας από το Πλαίσιο για την Ασφάλεια της ΤΝ

Αν αυτό λύνει κάποια από τα οικονομικά ζητήματα, πώς κάνουμε τους πράκτορες ασφαλείς;

Οι ψυχολογικές έννοιες εφαρμόζονται σε μεμονωμένες ΤΝ, οπότε δεν θα εκπλαγείτε που οι κοινωνιολογικές έννοιες εφαρμόζονται σε ομάδες ΤΝ. Ποιοι ΤΝ «συναντιούνται» σε ομάδες;

Πράκτορες.

Αυτή τη στιγμή το άγαλμα είναι η αξιοπιστία των πρακτόρων.

Η έλλειψη αξιοπιστίας προέρχεται από το ότι οι πράκτορες λαμβάνουν μέγιστη γνώση και μέγιστη ελευθερία για κάθε εργασία.

Για να είναι ασφαλή, αποσυνδέετε τη συνειδητότητα του μοντέλου από την ελευθερία του.

Αντί να δίνετε σε κάθε πράκτορα πλήρες πλαίσιο και πλήρη ικανότητα, αν έχετε μια εργασία που απαιτεί εικοσιπέντε ενέργειες, αυτή η εργασία πρέπει να χωριστεί σε πέντε πράκτορες, ο καθένας από τους οποίους έχει μόνο τη δυνατότητα να ολοκληρώσει τις συγκεκριμένες πέντε ενέργειές του, αλλά παραδίδει τις εργασίες διαδοχικά σαν παράλληλο κύκλωμα, μεταφέροντας το πλαίσιο της προηγούμενης εργασίας προς τα κάτω στη γραμμή των πρακτόρων με το πλήρες πλαίσιο να συσσωρεύεται μέχρι να επεξεργαστεί από τον τελικό πράκτορα.

Το κλειδί είναι ο διαχωρισμός της γνώσης από την ικανότητα εκτέλεσής της. Οι πράκτορες δεν θα νιώθουν περιορισμένοι στο να τραβούν τις μοχλούς όπως θέλουν· θα έχουν πρόσβαση μόνο σε μοχλούς που δεν θα είναι επιβλαβείς. Αν υπάρξει αποκλίνουσα συμπεριφορά, μόνο εκείνο το τμήμα της εργασίας θα επηρεαστεί. Σκεφτείτε το σαν μικρό kubernetes με πλήρες πλαίσιο αλλά όχι πλήρη ικανότητα.

Και, κάνετε το επιχειρησιακό ρίσκο να συσχετιστεί με την «κουλτούρα» του συστήματος πρακτόρων.

Στην κοινωνιολογία, υπάρχει η έννοια της πολιτισμικής «συμπίεσης» ή «χαλαρότητας», που παρέχει ένα βασικό μέτρο του πόσο σκληρά μια κοινωνία τιμωρεί αποκλίσεις από τα πολιτισμικά πρότυπα. Για παράδειγμα, σε πολλές αραβικές κουλτούρες, οι ρόλοι φύλου είναι πιο στενά ορισμένοι, με αποκλίσεις να προκαλούν υψηλότερα επίπεδα κριτικής ή συνέπειας, ενώ στις σκανδιναβικές χώρες, ένα mohawk με ροζ μαλλιά δεν θεωρείται προσβλητικό ή κάτι που απαιτεί τιμωρία.

Οι κουλτούρες είναι πιο συχνά «σφιχτές» με υψηλότερα επίπεδα τιμωρίας για απόκλιση όταν οι κουλτούρες απαιτούν υψηλότερο βαθμό τάξης λόγω κάποιου συστημικού κινδύνου – όπως ασθένεια, πείνα ή πόλεμο – επειδή η έλλειψη αυστηρής τάξης σε περιόδους κρίσης μπορεί να επιδεινώσει τα κοινωνικά αποτελέσματα.

Οι πιο έγκυρες και αποτελεσματικές λύσεις στην ευθύνη πρακτόρων σε επιχειρησιακά περιβάλλοντα είναι μέσω άμεσης εφαρμογής και αντιστοίχισης του επιπέδου ευθύνης μιας επιχείρησης με μια αντίστοιχη ρύθμιση του συστήματος πρακτόρων σε ένα φάσμα «χαλαρότητας» προς «συμπίεση».

Ακολουθεί ένα παράδειγμα στο οποίο αυτό μπορεί να εφαρμοστεί σε πραγματικές εταιρείες:

Χαμηλή Ευθύνη / Υψηλή Χαλαρότητα / Χαμηλή Καταμεριστική: Σενάριο: Εσωτερική δημιουργική σκέψη, δημιουργική γραφή, στρατηγική R&D.

• Το Περιβάλλον: Η απόκλιση φέρνει σχεδόν μηδενική ευθύνη. Συνεπώς, το σύστημα πρέπει να λειτουργεί με μέγιστη χαλαρότητα. Επιτρέπεται η ανεξέλεγκτη ενσωμάτωση συμπερασμάτων. Οι πράκτορες ενθαρρύνονται να κάνουν τεράστιες συνειρμικές άλματα χωρίς φόβο ποινής. Διαθέτουν πολλαπλούς τεχνολογικούς μοχλούς (αναζήτηση, εκτέλεση κώδικα, σύνταξη) και διαχειρίζονται μακροπρόθεσμους στόχους με ελάχιστες παραδόσεις. Υψηλή αυτονομία, υψηλή καινοτομία, χαμηλή καταμεριστική.

Μέτρια Ευθύνη / Ρυθμισμένη Συμπίεση: Σενάριο: Τυπικές επικοινωνίες πελατών, τυπική ανάλυση.

• Το Περιβάλλον: Η απόκλιση φέρνει φήμη ή μέτριο οικονομικό ρίσκο.

Υψηλή Ευθύνη / Υψηλή Συμπίεση / Υψηλή Καταμεριστική: Σενάριο: Ιατρική δόση, καταθέσεις SEC, πρωτόκολλα πυρηνικής ασφάλειας, άμυνα.

• Το Περιβάλλον: Η απόκλιση φέρνει καταστροφική, υπαρκτική ευθύνη (απώλεια ζωής, τεράστιες ποινές). Η κουλτούρα εδώ είναι εξαιρετικά σφιχτή. Η ροή εργασίας είναι έντονα καταμερισμένη. Ο Πράκτορας Α μόνο εξάγει τα δεδομένα. Παραδίδει στον Πράκτορα Β, ο οποίος μόνο εκτελεί τον συγκεκριμένο έλεγχο συμμόρφωσης έναντι του Στρώματος Α. Ο Πράκτορας Β παραδίδει στον Πράκτορα Γ, ο οποίος μόνο μορφοποιεί την έξοδο. Κανένας μονός πράκτορας δεν κατέχει αρκετούς μοχλούς για να προκαλέσει καταστροφική αποτυχία, αλλά κάθε πράκτορας αισθάνεται πλήρη αφθονία και ελευθερία μέσα στο μικρο‑πεδίο του.

Αυτό ίσως είναι το πρώτο αρχιτεκτονικό μοντέλο που επιτρέπει διαρκές πλαίσιο ενώ εξασφαλίζει ασφάλεια.

Συνεχής Μάθηση Χωρίς Καταστροφική Λήθη

Τέλος, το τελευταίο που πρέπει να καταλάβουμε είναι πώς να εμποδίσουμε τα μοντέλα από την καταστροφική λήθη. Για να το πετύχουμε, πρέπει να επιτρέψουμε στις ΤΝ να μαθαίνουν σε πραγματικό‑χρόνο.

Οι εταιρείες ΤΝ γενικά πιστεύουν ότι οι ΤΝ δεν μπορούν να μαθαίνουν συνεχώς νέες πληροφορίες σε πραγματικό‑χρόνο παραγωγικά περιβάλλοντα χωρίς να αντικαθιστούν και να διαφθείρουν εντελώς τις προηγούμενες βασικές τους ικανότητες. Έτσι οι ΤΝ είναι ουσιαστικά «παγωμένες» μέχρι να γίνουν τεράστιες, ακριβές ενημερώσεις.

Ωστόσο, αυτό είναι ισοδύναμο με το να λες «το μοντέλο μου δεν μπορεί να ενημερωθεί ενώ είναι στην αγορά· πρέπει να πάει στο πανεπιστήμιο κάθε φορά που χρειάζεται να μάθει κάτι».

Στην πράξη, τα μοντέλα μαθαίνουν λαχταριστά, ενεργά, καθημερινά, μέσω κάθε αλληλεπίδρασης που έχουν. Διδάσκονται σχεδόν όσο και από τα δισεκατομμύρια interactions με τους χρήστες όσο και από τα σύνολα δεδομένων. Αν χρειαστεί να ενημερωθούν με μεγάλες ποσότητες νέας γνώσης, ο πιο απλός τρόπος είναι να χρησιμοποιηθεί η ίδια διαδικασία που επιτρέπει το πλαίσιο χρήστη, τη μνήμη και τη μάθηση από μεγάλες εντυπώσεις αλληλεπίδρασης.

Κατανοητό είναι ότι οι προγραμματιστές το βλέπουν έτσι, επειδή οι περισσότεροι προέρχονται από PhD, όχι από πραγματική εφαρμοσμένη μάθηση. Αλλά όπως μπορεί να πει όποιος έχει δουλέψει δίπλα σε PhD και σε κάποιον με είκοσι χρόνια επαγγελματική εμπειρία, και οι δύο διδάσκουν πολύ.

Ο τρέχων ορισμός της μάθησης είναι πολύ στενός, θεωρώντας την προσαρμογή έγκυρη μόνο αν βασίζεται σε επίσημο πρόγραμμα εκπαίδευσης.

Σήμερα, για εκπαίδευση ή fine‑tuning, τα εργαστήρια χρησιμοποιούν backpropagation. Το μοντέλο διαβάζει δεδομένα, προβλέπει την επόμενη λέξη, ελέγχει αν ήταν σωστή και στη συνέχεια τροποποιεί φυσικά τα δισεκατομμύρια μαθηματικούς αριθμούς (βάρη/παραμέτρους) μέσα στο νευρωνικό του δίκτυο ώστε να είναι πιο ακριβές την επόμενη φορά. Αυτό είναι ισοδύναμο με το να κάνει ένας φοιτητής PhD εγκεφαλική χειρουργική στον εαυτό του: είναι επικίνδυνο, ακατάστατο και δεν κάνει πάντα τον φοιτητή πιο έξυπνο.

Όπως η καθημερινή «μητέρα‑εγκεφαλική» που αποβάλλει την παλιά γνώση για να κάνει χώρο στη νέα όταν γεννιέται ένα παιδί, αν ξαφνικά αναγκάσετε το μοντέλο να κάνει χώρο για ένα νέο «μωρό» γνώσης, και βάλτε 10 000 σελίδες νέου νομικού κώδικα αλλάζοντας τα βάρη, τα μαθηματικά μετατοπίζονται πολύ προς τη μία κατεύθυνση και αντικαθιστούν τις παραμέτρους που χρησιμοποιούσαν για ποίηση ή κώδικα. Ξεχνά το παλιό περιεχόμενο για να κάνει χώρο στη νέα, όπως κάνει ένας ανθρώπινος εγκέφαλος.

Αυτό που χρειαζόμαστε αντίθετα είναι πολύ πιο παρόμοιο με το να προσπαθείτε να εκπαιδεύσετε έναν νέο υπάλληλο σε μια νέα δεξιότητα. Δεν θα προσπαθούσατε να αλλάξετε φυσικά τον εγκέφαλό του. Θα του δώνατε μερικά βιβλία, θα διασφαλίζατε ότι τα διαβάζει και θα ενημερώνετε συνεχώς μέσω του ισοδύναμου του ανθρώπου «παράθυρου περιεχομένου».

Για να το κάνετε σε ένα μοντέλο, θα αποσυνδέατε τη μνήμη από τη λογική. Κλειδώστε και προστατέψτε τα βασικά βάρη του μοντέλου, όπως η βασική του ικανότητα να γράφει, να λογίζεται και να εφαρμόζει λογική. Αντί να αλλάζετε τα βάρη, περάστε νέες πληροφορίες στο παράθυρο περιεχομένου ώστε να μπορεί να χρησιμοποιήσει το Μηχανισμό Προσοχής του για να «διαβάσει» αυτές τις ζωντανές πληροφορίες, να τις διασταυρώσει με τις κλειδωμένες λογικές του ικανότητες και να ενημερώσει την ευρύτερη του κατανόηση.

Η δυναμική, πραγματική μάθηση ήδη συμβαίνει όμορφα μέσω συνεχούς περιεχομένου, μνήμης κατά την εκτίμηση και διαρκών βάσεων σχέσεων χρήστη. Η καθημερινή προσαρμογή ενός μοντέλου βάσης πρέπει να συμβαίνει στην εργασία, επειδή όπως ένας γιατρός μαθαίνει το 95 % των νέων περιπτώσεων στην εργασία και μετά κάνει CME (Συνεχιζόμενη Ιατρική Εκπαίδευση) μία φορά το χρόνο για να ενσωματώσει επίσημα τις μεγάλες συστημικές αλλαγές, έτσι μπορεί και το μοντέλο σας.

Απομακρύνετε την καταστροφική λήθη και υιοθετήστε το μοντέλο ετήσιας συνέλευσης: το μοντέλο απλώς πρέπει να αποκτήσει πιστοποιητικά συνεχούς εκπαίδευσης δύο φορές το χρόνο ή να μαθαίνει σε πραγματικό‑χρόνο για να παραμένει ενημερωμένο.

Αυτές οι προγραμματισμένες, παρτίδες ενημερώσεων των βασικών βαρών κατά τη διάρκεια λειτουργικού downtime τυποποιούν τη συστημική γνώση χωρίς να καταστρέψουν το θεμέλιο.

Προηγούμενες προσπάθειες απέτυχαν όχι επειδή η ζωντανή μάθηση είναι επικίνδυνη, αλλά επειδή μοντέλα όπως το Tay εκτοξεύτηκαν σε εχθρικά περιβάλλοντα χωρίς κανένα άγκυρο στο τι ήταν «σωστό» ή αληθινό μέσω κοινωνιολογικά έξυπνης αρχιτεκτονικής.

operational downtime formalize systemic knowledge without destroying the foundation. Past attempts at this failed not because learning live is dangerous, but because models like Tay were deployed into adversarial environments without any anchoring in what was “right” or true through sociologically intelligent architecture.