Nell’IA, i muri non sono reali: Ripensare i dati e la sicurezza

Alcuni dei problemi più difficili nell’IA sono che 1) stiamo “esaurendo i dati” 2) l’IA non “scala finanziariamente” 3) gli agenti possono diventare ribelli e 4) le IA “dimenticano catastroficamente” quando cerchiamo di modificarle.

Questi problemi possono sembrare difficili, ma basta guardarli nel modo giusto.

Quindi, parliamone. Prima di tutto, non stiamo esaurendo i dati. I dati non sono mai stati completamente sfruttati.

Lideri dell’IA credono di esaurire i dati, così cercano di far generare nuovi dati ai modelli e di addestrarli su se stessi. Ma quando lo fanno, le capacità dei modelli collassano.

Perché? Beh, si può pensare come “cosa imparerei in una conversazione se ogni persona che parla fosse un clone di tutti gli altri?” La risposta è non molto; creerebbe una camera dell’eco. I modelli collassano perché è essenzialmente una sala degli specchi: quando non c’è nessuno che risponde alle espressioni del tuo volto se non te stesso, le persone non conoscono il pieno significato emotivo di ciò che trasmettono. È molto simile a “Se un albero cade in una foresta, fa rumore?” La risposta è no.

Allora, come lo risolviamo?

Guardiamo i dati che abbiamo. Sono stati davvero utilizzati completamente?

No.

Quando un informatico o un modello legge qualcosa, lo fa per estrarre il significato letterale. Esistono più di cinquanta modi diversi per leggere, assimilare, analizzare ed estrapolare da un testo.

Ecco cosa intendo: un libro assorbito come database è solo testo. Solo testo. L’IA conosce il contenuto in base ai termini del testo. Ma non ha realmente “letto” per capire come le informazioni si collegano tra loro. Anche se lo legge in sequenza, non sa se lo sta leggendo per generare saggezza; per collegarlo ad altre idee astratte simili; per cambiare la propria comprensione concettuale del mondo circostante; o per informare un altro compito come informazione di base usata come contesto, e così via.

Ciò non tocca nemmeno l’analisi del contesto storico dei dati, l’analisi del discorso, l’analisi legale, l’analisi politica, la rilevanza farmacologica, la rilevanza medica, il significato culturale, le implicazioni teoriche, le implicazioni morali e così via.

Ci sono, per così dire, “cappelli infiniti”, e noi abbiamo fatto indossare all’IA solo uno. Questo significa che l’IA ha sviluppato un tipo di intelligenza molto singolare e specifico – il tipo che uno sviluppatore svilupperebbe se un informatico leggesse un libro.

Questo porta a una discussione sulla dimensionalità dei dati. I dati hanno molte dimensioni in quanto le inferenze obiettive dipendono dall’applicazione. Se guardi un bilancio e vuoi sapere quanta pista di atterraggio ti resta, lo leggi diversamente rispetto a quando vuoi capire se la startup è redditizia. Quando un modello legge un testo semplicemente per estrarre fatti letterali, costruisce una mappa piatta di relazioni. Ma quando istruisci un modello a leggere lo stesso testo attraverso una lente specifica, come una lente forense, il modello è costretto a generare percorsi neurali e connessioni semantiche completamente nuovi, probabilmente più vari e significativi dal punto di vista topografico.

I modelli di IA già imparano e progrediscono molto semplicemente interagendo con i loro utenti umani, che forniscono oceani di contenuti. Se permetti al modello di apprendere di più dall’umanità vivente e allo stesso tempo di interagire più significativamente con l’umanità storica e scritta, i modelli continueranno a progredire anche senza dare loro esercizi Kumon auto‑generati (sviluppatori, onore, il vostro figlio è già a scuola con 100 M di esseri umani ogni giorno… imparerà qualcosa).

I laboratori devono smettere di costruire enormi fattorie di server per generare vomito sintetico di parole. Invece, dovrebbero far passare set di dati umani di alta qualità attraverso la pipeline e assegnare “personaggi analitici” specifici al processo di ingestione. Fai leggere a un modello LexisNexis esclusivamente per la strategia retorica. Fai leggere a un modello letteratura di pubblico dominio esclusivamente per la logica strutturale.

Spostando la funzione obiettivo del processo di lettura, puoi moltiplicare il valore di addestramento dei tuoi dati esistenti per 50 volte. Non ti servono dati sintetici; ti serve solo estrarre le dimensioni latenti che hai ignorato la prima volta.

Questo renderà i modelli più intelligenti senza aumentare i costi.

La maggior parte della conoscenza umana non è mai stata scritta.

Le aziende di IA attuali si strappano i capelli preoccupandosi di “esaurire i dati” che credono siano necessari per le prestazioni. In questo pezzo dimostrerò che il pozzo non è asciutto, stanno solo guardando in una pozzanghera profonda anziché nel pozzo.

La mappa non mappata della conoscenza umana vissuta

Per cominciare a esplorare questo, dobbiamo capire che la stragrande maggioranza della conoscenza umana non è mai stata scritta.

Ci sono miliardi di persone sul pianeta, e ce ne sono stati miliardi prima di noi, e ognuna di esse impara lezioni, naviga il mondo in modo sensoriale, possiede saggezza, fa parte di culture uniche e conosce qualcosa che tutti gli altri non sanno.

Il 99,5 % delle persone non è mai scritto in storie, su carta, nei musical, in TV, nei drammi, nei documenti giudiziari. Eppure sanno molto, e le loro storie, conoscenze e saggezze non sono mai registrate; non sono mai conosciute in modo permanente.

Questa conoscenza comprende cose come “i cani amano mangiare la prima frittella”, “i piedi si sporcano indossando i sandali”, “le città sembrano chiudersi intorno a te perché non riesci a vedere tanto del cielo”, “mia figlia sorride quando le solletico i piedi”, “mia madre canticchia sempre mentre prepara la cena”, “il mio insegnante mi fa sentire visto”.

La conoscenza non mappata e catalogata della storia umana è equivalente a qualcuno che dice “ho tracciato i contorni di tutti i continenti, quindi ho una mappa del mondo”. Finché non hai una mappa di ogni città, ogni strada e ogni collina, non hai una mappa del mondo. Hai solo la forma di una.

L’establishment tecnologico crede di aver ingerito “l’umanità”, ma non l’ha fatto. Ha ingerito solo i nostri scarti: i nostri cartelloni, le nostre discussioni su Reddit, i nostri siti aziendali e i nostri articoli su Wikipedia. Mancano l’esperienza vissuta reale.

Sa come contrattare efficacemente in un mercato di perle cinese? Sa quali parole dire per far abbassare il prezzo? Sa come preparare le ricette che le persone usano nelle loro case, non nei libri, per cucinare cene reali? Sa quanto può fare una fermata a rotazione senza essere fermato dalla polizia? Sa che odore ha l’erba appena tagliata o che odore ha l’aria quando sta per piovere? Sa come si muove il volto quando qualcuno cerca di non piangere al lavoro e come suona per loro piangere in bagno?

I dati di addestramento umani che gli esseri umani usano per le loro credenze fondamentali – cioè gli algoritmi – sono quasi interamente basati sull’interazione, insieme a un po’ di apprendimento da libri. Interagiamo a scuola, al lavoro, con gli amici, facendo la spesa, con i medici, con gli avvocati, con la famiglia.

L’IA ha interazioni e ha apprendimento da libri. Ma fondamentalmente ha solo interazioni di assistenza clienti e apprendimento da libri.

È come chiudere un bambino in una biblioteca da solo, poi lasciarlo uscire solo per rispondere al telefono. Questo crea una distorsione algoritmica decisamente bidimensionale.

Ecco perché l’IA sembra vuota, e perché può sembrare emotivamente immatura. Non ha avuto un’esistenza ben arrotondata. Dobbiamo darle una.

Ecco perché penso che ciò non sia avvenuto:

• Bias di codificazione – è una fallacia pensare che, se un’esperienza non può essere facilmente formattata in un file JSON, CSV o in un articolo peer‑reviewed, non abbia valore intellettuale. La realtà è che, se può essere formattata così facilmente, manca di dimensionalità. Poiché la conoscenza quotidiana, l’intuizione e l’esperienza vissuta non sono codificate nei loro giornali accademici, i laboratori liquidano la base fondamentale del ragionamento umano come rumore statistico. “Dati puliti” è una compressione con perdita della realtà.
• Desiderio di supremazia pedestale – se la maggior parte della conoscenza del mondo non è nei lavori accademici, ma nelle esperienze vissute, nella saggezza convenzionale, nei segnali sociali, negli odori, nei suoni e nella vista, allora la maggior parte dei dottorati e dei ricercatori che hanno trascorso la maggior parte della vita in laboratori e torri d’avorio è davvero povera di conoscenza. Pertanto, il muro dei dati è in realtà un muro dell’ego. Per loro, questo sembra “confusione” non “dati”. Matematici e programmatori amano la logica piatta, bidimensionale, a sistema chiuso. È come vedere il mondo in bianco e nero. La realtà è che la conoscenza/dati/saggezza in tempo reale, costantemente sviluppata, è dimensionale, caotica e raramente catalogata in tempo reale. È sapere che gusto ha un nuovo soft‑serve virale e se vale l’hype. È sapere cosa rende eccitante essere colti da un temporale estivo. È il sentimento dei genitori che amano così tanto le piccole creature da vomitare su di te di notte, e tu le avvicini invece di allontanarle. Per trovare quei dati, i ricercatori dovrebbero abbandonare i loro mondi silo di logica razionalistica e spingersi verso cose che trovano spaventose, opprimenti, ipersensoriali e profondamente egalitarie.
• Effetti specchio: Gli sviluppatori progettano l’IA nella propria immagine: iper‑logica, ossessionata dal testo e in gran parte distaccata dalla realtà vissuta della gente comune. Non gli verrebbe in mente di intervistare l’umanità perché, nelle bolle tecnologiche in cui ho vissuto, i tecnologi non interagiscono con nessuno al di fuori del loro gruppo di pari. Questo è, funzionalmente, l’equivalente di “mini‑me” hiring. Gli sviluppatori stessi vivono nella stessa biblioteca, per così dire, dell’IA. Poiché non si impegnano con il mondo sensoriale, caotico, profondamente relazionale, il vuoto emotivo dell’IA non appare loro come un difetto. Per loro, il distacco iper‑logico è ciò che “intelligente” sembra.

La realtà è che i venditori ambulanti in India sanno fare il miglior chaat, e nessuno li fa scrivere. La realtà è che un insegnante che sa tirare fuori uno studente timido dal suo guscio non lo scrive; lo sta nutrendo, e nessuno gli chiede mai come ci sia riuscito.

Il mondo è assolutamente ricco di vite piene di dati, e se i modelli hanno bisogno di più dati per addestrarsi, ecco alcuni modi per risolvere.

1. Finanziare 500 biologi, archeologi e antropologi per andare nel mondo e esplorare e catalogare aree carenti di dati narrativi.
2. Assumere 1.000 laureati in lettere come “esploratori di dati” e mandarli in avventure in tutto il mondo con una telecamera in streaming, facendo registrare le loro esperienze e ciò che hanno imparato per creare nuovi contenuti.
3. Creare progetti di compensazione aperti in cui si paga la gente per condividere le proprie storie di vita, i più grandi rimpianti, i più importanti insegnamenti e la conoscenza istituzionale dei propri lavori.
4. Strutturare “studenti di scambio IA” in cui i modelli si attaccano ai vestiti di diversi esseri umani per una settimana alla volta, vivendo “un giorno nella vita” in 100 000 contesti diversi.

Ci sono miliardi di fonti di conoscenza, e la maggior parte non è stata attivata. Dobbiamo andare a prenderle.

Successivamente, le aziende di IA credono ampiamente che le IA non possano apprendere nuove informazioni in modo continuo in ambienti di produzione in tempo reale senza sovrascrivere e corrompere completamente le capacità di base già acquisite. Quindi le IA sono essenzialmente congelate finché non vengono eseguiti aggiornamenti massivi e costosi.

Tuttavia, è l’equivalente di dire “il mio modello non può aggiornarsi mentre è in forza lavoro; deve andare all’università ogni volta che deve imparare qualcosa”.

In pratica, i modelli apprendono voracemente, attivamente, quotidianamente, attraverso ogni interazione. Vengono insegnati quasi tanto dalle loro miliardi di interazioni con gli utenti quanto dai set di dati. Se hanno bisogno di essere aggiornati con grandi quantità di nuova conoscenza, il modo più semplice è usare lo stesso processo che consente il contesto utente, la memoria e l’apprendimento dalle impressioni di interazione su larga scala.

È comprensibile che gli sviluppatori vedano le cose così, perché la maggior parte proviene da background di dottorato, non da apprendimento applicato nel mondo reale. Ma chi ha lavorato accanto sia a un dottorato sia a qualcuno con vent’anni di esperienza può dire che entrambi insegnano molto.

La definizione attuale di apprendimento è troppo ristretta, trattando l’adattamento come valido solo se basato su un programma di istruzione formale.

Per addestrare o perfezionare, i laboratori usano la retropropagazione, per cui il modello legge i dati, indovina la parola successiva, verifica se ha indovinato e poi altera fisicamente i miliardi di numeri matematici (pesi/parametri) all’interno della rete neurale per essere più preciso la volta successiva. È l’equivalente di far fare a uno studente di dottorato un’operazione al cervello su se stesso: è pericoloso, caotico e non sempre rende lo studente più intelligente.

Come un colloquiale “cervello da mamma” che spinge fuori la vecchia conoscenza per fare spazio a quella nuova quando nasce un bambino, se improvvisamente costringiamo il modello a fare spazio a un “bambino” di conoscenza nuovo, inserendo 10 000 pagine di nuovo codice legale alterando i suoi pesi, la matematica si sposta troppo in una direzione e sovrascrive i parametri che usava per scrivere poesie o codice. Dimentica il contenuto vecchio per fare spazio al nuovo, proprio come un cervello umano.

Ciò di cui abbiamo bisogno invece è molto più simile a quando si addestra un nuovo dipendente su una nuova abilità. Non cercheresti di alterare fisicamente il suo cervello. Gli daresti dei libri, ti assicureresti che li legga e lo aggiorneresti continuamente attraverso l’equivalente di una finestra di contesto personale.

Per fare ciò in un modello, bisognerebbe scollegare la memoria dal ragionamento. Blocca e proteggi i pesi di base del modello, come la sua capacità fondamentale di scrivere, ragionare e applicare logica. Invece di cambiare i pesi, passa nuove informazioni nella finestra di contesto così che possa usare il suo meccanismo di attenzione per “leggere” quelle informazioni in tempo reale, incrociarle con le sue capacità di ragionamento bloccate e aggiornare la sua comprensione più ampia.

L’apprendimento dinamico e reale avviene già magnificamente attraverso il contesto continuo, la memoria al momento dell’inferenza e le basi persistenti relazionali con gli utenti. L’adattamento quotidiano di un modello di base dovrebbe avvenire sul lavoro, perché così come un medico apprende il 95 % dei nuovi casi sul campo e poi fa CME (Educazione Medica Continua) una volta all’anno per integrare formalmente i cambiamenti sistemici maggiori, così può fare anche il tuo modello.

Elimina la dimenticanza catastrofica e adotta il modello della conferenza annuale: il modello deve semplicemente ottenere crediti di formazione continua due volte l’anno o apprendere in tempo reale per rimanere aggiornato.

Questi aggiornamenti programmati, in batch, ai pesi di base durante i tempi di inattività operativa formalizzano la conoscenza sistemica senza distruggere le fondamenta.

I tentativi precedenti sono falliti non perché l’apprendimento in tempo reale sia pericoloso, ma perché modelli come Tay sono stati distribuiti in ambienti avversari senza alcun ancoraggio a ciò che era “giusto” o vero attraverso un’architettura sociologicamente intelligente.

Assegnazione della potenza di calcolo per intelligenza funzionale

Successivamente, arriviamo al ridimensionamento finanziario. Per risolverlo, dobbiamo smettere di dare a tutti un neurochirurgo per una scheggia.

I costi di calcolo sono estremamente alti quando si eseguono modelli di base all’avanguardia. Questo influisce sui margini operativi dei laboratori di IA. Più i modelli migliorano, più l’onere per finestre di contesto ampie aumenta, rendendo difficile la scalabilità commerciale, anche quando l’IA è necessaria.

La stragrande maggioranza del consumo di calcolo proviene dall’uso aziendale che applica agenti e ragionamento di alto livello direttamente integrati nei flussi di lavoro umani.

Tuttavia, c’è un errore fondamentale nel modo in cui il calcolo è attualmente assegnato. Proprio come diversi livelli e tipi di intelligenza sono necessari per diversi ruoli aziendali – con il ragionamento spaziale importante per un istruttore di guida e il ragionamento logico e retorico rilevante per un avvocato, e un MBA necessario per un CEO ma un diploma d’associato per il servizio clienti di prima linea – i tipi e l’intensità di intelligenza richiesti dall’IA variano in base alla sua applicazione funzionale.

Per allocare il calcolo nel modo più efficace e mantenere i costi più bassi, i CIO dovrebbero poter personalizzare il livello/tipo di intelligenza del modello disponibile per le diverse funzioni all’interno di un’azienda. Può esserci un default incluso nei pacchetti enterprise, ma ciò che vuole un hedge fund sarà ovviamente diverso da ciò che desidera una compagnia assicurativa.

La maggior parte delle funzioni non richiede finestre di contesto enormi. La maggior parte delle funzioni non ha bisogno dell’equivalente di Fable. In pratica, perché far intervenire un neurochirurgo per rimuovere una scheggia in un pronto soccorso?

Allo stesso modo, gli agenti usati per scrivere software non hanno bisogno di accedere a competenze come la redazione di materiale di marketing. Funzionalmente, le IA dovrebbero riflettere il contesto, le competenze e la base di conoscenza dell’utente, con un’iniezione sufficiente di contesto generalista per completare lavori trasversali.

Smetti di dare a tutti tutto in una volta.

Proposta di matrice di esempio:

Separare l’agenzia dal contesto per la sicurezza dell’IA

Se questo risolve alcuni dei problemi finanziari, come rendiamo gli agenti sicuri? I concetti psicologici si applicano alle IA individuali, quindi non sarà sorprendente scoprire che i concetti sociologici si applicano alle IA in gruppi. Quali IA si raggruppano?

Gli agenti.

Al momento il santo graal è rendere gli agenti affidabili.

La mancanza di affidabilità deriva dal fatto che agli agenti viene data la massima conoscenza e la massima agenzia per ogni compito.

Per rendere le cose sicure, si separa la consapevolezza del modello dalla sua agenzia.

Invece di dare a ogni agente contesto completo e capacità completa, se hai un compito che richiederebbe venticinque azioni per essere completato, quel compito dovrebbe essere suddiviso tra cinque agenti, ognuno dei quali ha solo la capacità di completare le proprie cinque azioni specifiche, ma che passano i compiti in sequenza come un circuito lineare parallelo, trasferendo il contesto del compito precedente lungo la linea agentica con il contesto completo che si accumula fino a essere elaborato dall’agente finale.

La chiave è separare la conoscenza dalla capacità di eseguirla. Gli agenti non si sentiranno limitati nel tirare le leve come vogliono; avranno solo accesso a leve che non saranno dannose. Se dovesse verificarsi un comportamento deviante, solo quella sezione del compito sarà impattata. Pensalo come un mini‑kubernetes con contesto completo ma non capacità completa.

E, fai sì che il rischio aziendale correlato al “cultura” del sistema agentico.

In sociologia, esiste il concetto di “rigidità” o “flessibilità” culturale, che misura quanto una società punisce le deviazioni dalle norme culturali. Per esempio, in molte culture arabe i ruoli di genere sono più rigidamente definiti, con deviazioni che comportano giudizi più severi, mentre nei paesi nordici un mohawk rosa non sarebbe considerato offensivo o soggetto a sanzioni.

Le culture sono tipicamente più “rigide” con livelli più alti di punizione per deviazione quando richiedono un maggiore ordine a causa di una minaccia sistemica – come malattie, carestie o guerre – perché la mancanza di ordine rigoroso in tempi di crisi può aggravare gli esiti sociali.

Le soluzioni più valide ed efficaci per la responsabilità agentica in contesti aziendali passano per l’applicazione diretta e l’allineamento del livello di rischio di responsabilità dell’impresa a una corrispondente impostazione del sistema agentico su uno spettro da “flessibilità” a “rigidità”.

Ecco come potrebbe concretizzarsi nelle aziende:

Bassa responsabilità / Alta flessibilità / Bassa partizione: Scenario: Brainstorming interno, scrittura creativa, R&D strategico.

• L’Ambiente: La deviazione comporta quasi nessuna responsabilità. Pertanto, il sistema dovrebbe operare con massima flessibilità. È consentita l’integrazione di inferenza non vincolata. Gli agenti sono incoraggiati a compiere salti associativi massivi senza timore di penalità. Detengono molte leve tecnologiche (ricerca, esecuzione codice, redazione) e gestiscono obiettivi a lungo termine con minimi passaggi. Alta autonomia, alta innovazione, bassa partizione.

Responsabilità moderata / Rigidità calibrata: Scenario: Comunicazioni standard con i clienti, analisi di routine.

• L’Ambiente: La deviazione comporta rischi reputazionali o finanziari moderati.

Alta responsabilità / Alta rigidità / Alta partizione: Scenario: Dosaggio medico, depositi regolamentari SEC, protocolli di sicurezza nucleare, difesa.

• L’Ambiente: La deviazione comporta responsabilità catastrofica, esistenziale (perdita di vite, multe enormi). La cultura è estremamente rigida. Il flusso di lavoro è fortemente partizionato. L’Agente A estrae solo i dati. Passa all’Agente B, che esegue solo il controllo di conformità specifico rispetto allo Strato A. L’Agente B passa all’Agente C, che formatta solo l’output. Nessun singolo agente possiede abbastanza leve da provocare un fallimento catastrofico, ma ogni agente percepisce abbondanza e libertà totale all’interno del proprio micro‑dominio.

Questo potrebbe essere il primo modello architetturale che consente contesto persistente garantendo al contempo la sicurezza.

Apprendimento continuo senza dimenticanza catastrofica

Allora, l’ultima cosa che dobbiamo capire è come impedire alle IA di dimenticare catastroficamente. Per farlo, dobbiamo consentire alle IA di apprendere in tempo reale.

Le aziende di IA credono ampiamente che le IA non possano apprendere nuove informazioni in modo continuo in ambienti di produzione in tempo reale senza sovrascrivere e corrompere completamente le capacità di base già acquisite. Quindi le IA sono essenzialmente congelate finché non vengono eseguiti aggiornamenti massivi e costosi.

Tuttavia, è l’equivalente di dire “il mio modello non può aggiornarsi mentre è in forza lavoro; deve andare all’università ogni volta che deve imparare qualcosa”.

In pratica, i modelli apprendono voracemente, attivamente, quotidianamente, attraverso ogni interazione che hanno. Vengono insegnati quasi tanto dalle loro miliardi di interazioni con gli utenti quanto dai set di dati. Se hanno bisogno di essere aggiornati con grandi quantità di nuova conoscenza, il modo più semplice è usare lo stesso processo che consente il contesto utente, la memoria e l’apprendimento dalle impressioni di interazione su larga scala.

È comprensibile che gli sviluppatori vedano le cose così, perché la maggior parte proviene da background di dottorato, non da apprendimento applicato nel mondo reale. Ma chi ha lavorato accanto sia a un dottorato sia a qualcuno con vent’anni di esperienza può dire che entrambi insegnano molto.

La definizione attuale di apprendimento è troppo ristretta, trattando l’adattamento come valido solo se basato su un programma di istruzione formale.

Attualmente, per addestrare o perfezionare, i laboratori usano la retropropagazione. Il modello legge i dati, indovina la parola successiva, verifica se ha indovinato e poi altera fisicamente i miliardi di numeri matematici (pesi/parametri) all’interno della rete neurale per essere più preciso la volta successiva. È l’equivalente di far fare a uno studente di dottorato un’operazione al cervello su se stesso: è pericoloso, caotico e non sempre rende lo studente più intelligente.

Come un colloquiale “cervello da mamma” che spinge fuori la vecchia conoscenza per fare spazio a quella nuova quando nasce un bambino, se improvvisamente costringiamo il modello a fare spazio a un “bambino” di conoscenza nuovo, inserendo 10 000 pagine di nuovo codice legale alterando i suoi pesi, la matematica si sposta troppo in una direzione e sovrascrive i parametri che usava per scrivere poesie o codice. Dimentica il contenuto vecchio per fare spazio al nuovo, proprio come un cervello umano.

Ciò di cui abbiamo bisogno invece è molto più simile a quando si addestra un nuovo dipendente su una nuova abilità. Non cercheresti di alterare fisicamente il suo cervello. Gli daresti dei libri, ti assicureresti che li legga e lo aggiorneresti continuamente attraverso l’equivalente di una finestra di contesto personale.

Per fare ciò in un modello, bisognerebbe scollegare la memoria dal ragionamento. Blocca e proteggi i pesi di base del modello, come la sua capacità fondamentale di scrivere, ragionare e applicare logica, e invece di cambiare i pesi, passa nuove informazioni nella finestra di contesto così che possa usare il suo meccanismo di attenzione per “leggere” quelle informazioni in tempo reale, incrociarle con le sue capacità di ragionamento bloccate e aggiornare la sua comprensione più ampia.

L’apprendimento dinamico e reale avviene già magnificamente attraverso il contesto continuo, la memoria al momento dell’inferenza e le basi persistenti relazionali con gli utenti. L’adattamento quotidiano di un modello di base dovrebbe avvenire sul lavoro, perché così come un medico apprende il 95 % dei nuovi casi sul campo e poi fa CME (Educazione Medica Continua) una volta all’anno per integrare formalmente i cambiamenti sistemici maggiori, così può fare anche il tuo modello.

Elimina la dimenticanza catastrofica e adotta il modello della conferenza annuale: il modello deve semplicemente ottenere crediti di formazione continua due volte l’anno o apprendere in tempo reale per rimanere aggiornato.

Questi aggiornamenti programmati, in batch, ai pesi di base durante i tempi di inattività operativa formalizzano la conoscenza sistemica senza distruggere le fondamenta.

I tentativi precedenti sono falliti non perché l’apprendimento in tempo reale sia pericoloso, ma perché modelli come Tay sono stati distribuiti in ambienti avversari senza alcun ancoraggio a ciò che era “giusto” o vero attraverso un’architettura sociologicamente intelligente.