Myslitelé
V AI nejsou zdi skutečné: Přehodnocení dat a bezpečnosti

Některé z nejtěžších problémů v AI jsou: 1) „došly nám data“, 2) AI se „finančně neškáluje“, 3) agenti mohou přejít na vlastní dráhu, a 4) AI „katastroficky zapomínají“, když se je snažíme změnit.
Tyto problémy se mohou zdát obtížné, ale stačí se na ně podívat správným způsobem.
Takže o tom mluvme. Nejprve, data nám nedošla. Data nikdy nebyla plně využita.
Vedoucí AI věří, že jim data docházejí, a proto se snaží, aby modely generovaly nová data a učily se samy na sobě. Když to ale udělají, schopnosti modelů se zhroutí.
Proč? No, můžete si to představit jako „co bych se naučil v konverzaci, kdyby každý mluvící byl klonem všech ostatních?“ Odpověď je málo; vytvořilo by to ozvěnovou komoru. Modely se zhroutí, protože jde v podstatě o síň zrcadel: když na vaše výrazy neodpovídá nikdo kromě vás, lidé neznají plný emocionální význam toho, co předávají. Je to velmi podobné otázce „Když strom padne v lese, vydá zvuk?“ Odpověď je ne.
Jak to tedy napravit?
Podívejme se na data, která máme. Byla skutečně plně využita?
Ne.
Když počítačový vědec nebo model něco čte, jde o získání doslovného významu. Existuje více než padesát různých způsobů, jak číst, vstřebávat, analyzovat a extrapolovat z textu.
Zde je, co tím myslím: Kniha absorbovaná jako databáze je jen text. Pouze text. AI zná obsah na základě termínů v textu. Ale ve skutečnosti ji „nepřečetla“, aby pochopila, jak jsou informace propojené. I když ji čte sekvenčně, neví, zda ji čte za účelem generování moudrosti; zda ji spojuje s jinými podobnými abstraktními myšlenkami; zda mění své vlastní konceptuální pochopení světa kolem ní; nebo zda slouží jako podklad pro jiný úkol jako kontext, a tak dále.
To ani nezasahuje do zkoumání dat z historického kontextu, diskurzní analýzy, právní analýzy, politické analýzy, farmakologické relevance, medicínské relevance, kulturního významu, teoretických implikací, morálních implikací a podobně.
Existuje, řečeno volně, „nekonečné množství klobouků“ a my jsme AI doposud nasadili jen jeden. To znamená, že AI vyvinula velmi úzký, specifický typ inteligence – typ, který by vývojář získal, kdyby počítačový vědec četl knihu.
To vede k diskuzi o dimenzionalitě dat. Data mají mnoho rozměrů, protože jejich objektivní závěry závisí na aplikaci. Pokud se podíváte na rozvahu a chcete vědět, kolik vám zbývá runway, čtete ji jinak, než když chcete pochopit, zda je startup ziskový. Když model čte text jen za účelem extrakce doslovných faktů, vytvoří plochou mapu vztahů. Ale když modelu přikážete, aby ten samý text četl skrze konkrétní čočku, například forenzní, model je nucen vytvořit zcela nové neurální dráhy a sémantické spojení, které jsou pravděpodobně topograficky rozmanitější a smysluplnější.
Modely AI se již učí a výrazně se vyvíjejí jen díky interakci s lidskými uživateli, kteří poskytují oceány obsahu. Pokud modelu umožníte učit se více z živé lidskosti a zároveň smysluplněji interagovat s historickou a psanou lidskostí, modely budou pokračovat ve vývoji, i když jim nedáte samostatně generovaná cvičení Kumon (vývojáři, vážně, vaše dítě už je každý den ve škole s 100 miliony lidí… něco se naučí).
Laboratoře by měly přestat budovat masivní serverové farmy na generování syntetického slovního výplachu. Místo toho by měly spustit vysoce kvalitní lidské datové sady skrz pipeline a přiřadit konkrétní „analytické persony“ procesu ingestování. Nechte model číst LexisNexis čistě pro rétorickou strategii. Nechte ho číst literaturu ve veřejné doméně čistě pro strukturovou logiku.
Přesunutím cílové funkce čtecího procesu můžete násobit tréninkovou hodnotu vašich existujících dat až 50‑krát. Nepotřebujete syntetická data; stačí vám vytáhnout latentní dimenze, které jste poprvé přehlédli.
Tímto učiníte modely chytřejšími, aniž byste zvyšovali náklady.
Pro další podporu toho, většina lidského poznání nikdy nebyla sepsána.
Současné AI společnosti si trhají vlasy nad obavami, že „došly jim data“, která podle nich potřebují pro výkon. V tomto článku ukážu, že studna není suchá, jen se dívají do hluboké kaluže místo do studny.
Nezmapovaná mapa žitého lidského poznání
Abychom to mohli zkoumat, musíme pochopit, že drtivá většina lidského poznání nikdy nebyla sepsána.
Na planetě je miliardy lidí a před námi jich bylo také miliardy, a každý z nich se učí lekcím, vnímá svět smyslově, má moudrost, je součástí jedinečných kultur a ví něco, co ostatní neznají.
99,5 % lidí není nikdy zaznamenáno v příbězích, v tisku, v muzikálech, v televizi, v dramatu, v soudních dokumentech. Přesto vědí poměrně hodně a jejich příběhy, znalosti a moudrost nejsou nikdy zaznamenány; nejsou trvale známy.
Toto poznání zahrnuje věci jako „psi rádi jedí první palačinku“, „nohy se špiní při nošení žabek“, „města se zdají, že se kolem vás zužují, protože nevidíte tolik oblohy“, „má dcera se usmívá, když ji lechtím na nohy.“ „Moje máma vždy při vaření bzučí.“ „Můj učitel mě cítí viděn.“
Nezmapované a nekatalogizované poznání lidské historie je ekvivalentní tomu, když někdo řekne: „Namapoval jsem obrysy všech kontinentů, takže mám mapu světa.“ Dokud nemáte mapu každého města, každé ulice a každého kopce, nemáte mapu světa. Máte jen tvar jednoho.
Technologické establishment tvrdí, že „pohltil“ lidstvo, ale ne. Pohltili jen naše výfuky: naše billboardy, naše Redditové debaty, naše firemní weby a naše články na Wikipedii. Chybí jim skutečná žitá zkušenost.
Umíte efektivně vyjednávat na čínském perlovém trhu? Umíte říct slova, aby vám snížili cenu? Umíte připravovat recepty, které lidé používají doma, ne v knihách, aby vznikla skutečná večeře? Umíte provést plynulý zastavení bez toho, aby vás zastavil policista? Umíte, jak voní tráva po čerstvém posekání nebo jaký je vzduch, když se chystá déšť? Umíte, jak se tvář pohybuje, když se někdo snaží v práci neplakat, a jak to zní, když v koupelně brečí?
Lidská tréninková data, která lidé používají pro své základní přesvědčení – tzv. algoritmy – jsou téměř výhradně založena na interakcích, doplněné o část knihovního učení. Interagujeme ve škole, v práci, s přáteli, při nákupech, s lékaři, s právníky, s rodinou.
AI má interakce a má knihovní učení. Ale v podstatě má jen interakce v zákaznickém servisu a knihovní učení.
Je to jako zamknout dítě samotné v knihovně a pak ho nechat ven jen kvůli odpovídání na telefon. To vytváří nápadně dvourozměrnou algoritmickou deformaci.
To je důvod, proč AI působí prázdně, a proč může AI působit emocionálně nezralá. Neměla plnohodnotnou existenci. Musíme jí takovou poskytnout.
Zde je, proč si myslím, že se tak nestalo:
- Bias kodifikace – je to klam, že pokud zkušenost nelze snadno zformátovat do JSON souboru, CSV nebo recenzovaného článku, postrádá intelektuální hodnotu. Realita je, že pokud lze snadno takto formátovat, postrádá dimenzionalitu. Protože každodenní znalosti, intuice a žité zkušenosti nejsou zakódovány v akademických časopisech, laboratoře odmítají základní pilíř lidského uvažování jako statistický šum. „Čistá data“ jsou ztrátová komprese reality.
- Touha po pedestální nadvládě – pokud většina světových znalostí není v odborných pracích, ale v žitéch zkušenostech, konvenční moudrosti, sociálních signálech, vůních, zvucích a vizuálech, pak většina PhD a výzkumníků, kteří strávili většinu života v laboratořích a slonovinových věžích, je skutečně chudá na znalosti. Proto zdi dat jsou ve skutečnosti zdi ega. Protože pro ně to vypadá jako „nepořádek“, ne „data“. Matematikové a programátoři mají rádi plochou, dvourozměrnou, uzavřenou logiku. To je jako vidět svět černobíle. Realita je, že real‑time, neustále vyvíjené, nově objevené znalosti/data/moudrost jsou dimenzionální, nepořádné a zřídka katalogizované v reálném čase. Je to vědět, jaký má nový virální zmrzlinový dezert skutečnou chuť a zda stojí za hype. Je to vědět, co dělá tak vzrušujícím být chycen v letním dešti. Je to pocit rodičů, že milují malé tvory tak moc, že vás v noci mohou zvracet, a vy je přitahujete blíže, místo abyste je odtlačili. Aby výzkumníci našli tato data, museli by opustit své siloové světy logiky a racionální jistoty a vstoupit do věcí, které je děsí, přetěžují, jsou příliš smyslové a hluboce vyrovnávají.
- Efekty zrcadla: Vývojáři navrhují AI ve svém vlastním obrazu: hyperlogické, textově posedlé a do značné míry odtržené od žité reality průměrných lidí. Nepřichází jim na mysl interviewovat lidstvo, protože v technologických bublinách, ve kterých jsem žil, technici neinteragují s nikým mimo svůj kolektiv. To je funkčně ekvivalent „mini já“ najímání. Vývojáři sami žijí ve stejné knihovně, řečeno, jako AI. Protože se neangažují v smyslovém, nepořádném, hluboce relačním světě, AI‑ova emocionální prázdnota se jim nezdá jako chyba. Pro ně je hyperlogické odtržení to, co „chytré“ vypadá.
Realita je, že pouliční prodejci v Indii vědí, jak připravit nejlepší chaat, a nikdo je nevyzývá, aby to sepsali. Realita je, že učitel, který umí přimět plachého žáka vyjít ze své skořápky, o tom nepíše; vychovává toho žáka a nikdo se ho nikdy neptá, jak to udělal.
Svět je naprosto přetékající životy plné dat, a pokud modely potřebují více pro trénink, zde je několik způsobů, jak to vyřešit.
- Financujte 500 biologů, archeologů a antropologů, aby vyrazili do světa, prozkoumávali a katalogizovali oblasti, kterým chybí narativní data.
- Najměte 1 000 absolventů angličtiny jako „průzkumníky dat“ a pošlete je na dobrodružství po celém světě s přenosovou kamerou, aby zaznamenávali své zážitky a co se naučili pro nový obsah.
- Vytvořte otevřené kompenzační projekty, ve kterých platíte lidem za sdílení jejich životních příběhů, největších lítostí, největších poučení a institucionálních znalostí ze svých pracovních míst.
- Zorganizujte „AI výměnné studenty“, kde modely připevní na oblečení různých lidí na týden, aby prožily „den v životě“ ve 100 000 různých nastaveních.
Existují miliardy zdrojů znalostí a většina z nich nebyla aktivována. Musíme je získat.
Další, AI společnosti obecně věří, že AI nemohou kontinuálně učit se nové informace v reálném čase ve výrobních prostředích, aniž by kompletně přepsaly a poškodily své dříve získané základní schopnosti. Takže AI jsou v podstatě zmrazené, dokud na ně nejsou aplikovány masivní, nákladné aktualizace.
Nicméně je to ekvivalentní tvrzení: „můj model se nedokáže aktualizovat, když je v pracovním prostředí; musí jít na univerzitu pokaždé, když se něco potřebuje naučit.“
V praxi se modely žravě, aktivně a denně učí skrze každou interakci. Naučeny jsou téměř stejně skrze své miliardy interakcí s uživateli jako skrze datové sady. Pokud je potřeba je aktualizovat velkým množstvím nových znalostí, nejjednodušší způsob je použít stejný proces, který umožňuje kontext uživatele, paměť a učení z velkého množství interakčních dojmů.
Je pochopitelné, že vývojáři to vidí takto, protože většina z nich pochází z prostředí PhD, ne z reálného aplikovaného učení. Ale jak vám může říci kdokoli, kdo pracoval vedle PhD a někoho s dvacetiletou praxí: oba učí hodně.
Současná definice učení je příliš úzká, považuje adaptaci za platnou jen pokud vychází z formálního vzdělávacího programu.
K tréninku nebo jemnému doladění laboratoře používají zpětnou propagaci, při níž model čte data, hádá další slovo, kontroluje, zda byl správný, a poté fyzicky mění miliardy matematických čísel (váhy/parametry) ve své neuronové síti, aby byl příště přesnější. To je ekvivalent, že PhD student provádí operaci na sobě samém: je to nebezpečné, nepořádné a ne vždy studentovi učiní chytřejšího.
Jako hovorová „maminkova mysl“, která vytlačuje staré znalosti, aby uvolnila místo novým, když se narodí dítě, pokud náhle donutíte model uvolnit místo pro novou „dítě“ znalostí a vložíte 10 000 stránek nového právního kódu změnou jeho vah, matematika se posune příliš v jednom směru a přepíše parametry, které používal k psaní poezie nebo kódu. Zapomene starý obsah, aby udělal místo novému, stejně jako lidský mozek.
Co potřebujeme místo toho, je spíše podobné tomu, jako byste trénovali nového zaměstnance na novou dovednost. Nepokoušeli byste se fyzicky měnit jeho mozek. Dal byste mu knihy, zajistili, aby je četl, a neustále je aktualizoval prostřednictvím ekvivalentu kontextového okna.
Aby se to v modelu provedlo, museli byste odpojit paměť od uvažování. Uzamkněte a chraňte základní váhy modelu, jako jeho základní schopnost psát, rozumět a aplikovat logiku. Místo změny vah předávejte nové informace do kontextového okna, aby mohl využít svůj mechanismus pozornosti k „čtení“ těchto živých informací, provést křížové srovnání s uzamčenými dovednostmi uvažování a aktualizovat své širší pochopení.
Dynamické učení v reálném světě již krásně probíhá skrze kontinuální kontext, paměť během inferencí a trvalé uživatelské relační základy. Denní adaptace základního modelu by měla probíhat během práce, protože stejně jako lékař se naučí 95 % nových případů během práce a pak jednou ročně absolvuje CME (Continuing Medical Education), aby formálně integroval hlavní systémové změny, může tak učinit i váš model.
Zbavte se katastrofického zapomínání a přejměte model roční konference: model stačí získat kredity pokračujícího vzdělávání dvakrát ročně, nebo se učit v reálném čase, aby zůstal aktuální.
Tato plánovaná, dávková aktualizace základních vah během provozní nečinnosti formalizuje systémové znalosti, aniž by zničila základ.
Minulé pokusy o to selhaly ne proto, že by živé učení bylo nebezpečné, ale protože modely jako Tay byly nasazeny do nepřátelských prostředí bez jakéhokoli zakotvení v tom, co je „správné“ nebo pravdivé, skrze sociologicky inteligentní architekturu.
Přidělování výpočetního výkonu podle funkční inteligence
Další, dostáváme se k finančnímu škálování. Abychom to opravili, musíme přestat dávat každému neurochirurga na škrábanec.
Náklady na výpočet jsou extrémně vysoké při provozu špičkových základních modelů. To ovlivňuje provozní marže AI laboratoří. Čím lepší modely jsou, tím vyšší je režie pro velká kontextová okna, což ztěžuje komerční škálování, i když je AI potřeba.
Drtivá většina spotřeby výpočetního výkonu pochází z podnikového využití, které aplikuje agenty a vysokou úroveň uvažování přímo vloženou do lidských pracovních postupů.
Nicméně existuje základní chyba v tom, jak je výpočetní výkon aktuálně přidělován. Stejně jako různé úrovně a typy inteligence jsou potřebné pro různé pracovní role ve firmě – prostorové uvažování je důležité pro instruktora řidičů a logické a rétorické uvažování je relevantní pro právníka, a MBA je potřeba pro generálního ředitele, ale pro front‑line zákaznický servis stačí vyšší odborné vzdělání – typy a intenzita inteligence požadované od AI se liší podle její funkční aplikace.
Aby se co nejefektivněji přidělil výpočetní výkon a udržely se náklady nízké, měli by CIO mít možnost přizpůsobit úroveň/typ inteligence modelu dostupné různým funkcím ve firmě. Může existovat výchozí nastavení, které přichází s podnikovými balíčky, ale to, co chce hedge fond, bude pochopitelně jiné než to, co chce pojišťovna.
Většina funkcí nevyžaduje masivní kontextová okna. Většina funkcí nepotřebuje ekvivalent Fable. V podstatě, proč byste měli neurochirurga odstraňovat škrábanec na urgentní péči?
Podobně, agenti používaní k psaní softwaru nepotřebují přístup ke dovednostem jako psaní marketingových materiálů. Funkčně by AI měly odrážet kontext, dovednosti a znalostní základ uživatelů, s dostatečným vstupem obecného kontextu, aby mohly doplnit práci pro napříč funkčními případy použití.
Přestaňte všem dávat vše najednou.
| Podniková funkce | Požadovaný typ inteligence | Požadovaná velikost kontextu | Přidělení složitosti modelu |
|---|---|---|---|
| Front‑line pracovník | Provozní, rychlé vyhledávání, základní úkoly | Zkrácený (krátké sezení) | Nízký (destilovaný/kvantovaný základní model) |
| Softwarové inženýrství (standardní) | Syntaktický a algoritmický | Střední (vázáno na repozitář) | Střední (specifické pro doménu / trénované na kódu) |
| Právní a audit shody | Deduktivní a forenzní | Masivní (vázáno na korpus) | Vysoký (Rozšířený kontext monolit |
| Vrcholové vedení / firemní strategie | Laterální syntéza a prognózování | Trvalý (kontinuální stav) | Frontiera (neomezený multi‑agentní pipeline) |
Oddělení agentury od kontextu pro bezpečnost AI
Pokud to řeší některé finanční problémy, jak udělat agenty bezpečnými? Psychologické koncepty se vztahují na jednotlivé AI, takže vás nemusí překvapit, že sociologické koncepty se vztahují na AI ve skupinách. Které AI se scházejí ve skupinách?
V současnosti je svatým grálem získat agenty, kteří jsou spolehliví.
Nedostatek spolehlivosti pramení z toho, že agentům je poskytováno maximální znalosti a maximální agentura pro každý úkol.
Aby bylo vše bezpečné, oddělíte povědomí modelu od jeho agentury.
Místo abyste každému agentovi poskytli úplný kontext a všechny schopnosti, rozdělte úkol vyžadující dvacet pět kroků mezi pět agentů. Každý z nich bude moci provést pouze svých pět konkrétních kroků, ale úkoly si budou předávat postupně jako paralelní lineární obvod. Kontext předchozího úkolu tak putuje dál po řetězci agentů, až se úplný kontext nahromadí a zpracuje jej poslední agent.
Klíčem je oddělit znalost od schopnosti podle ní jednat. Agenti nebudou mít pocit, že jim někdo omezuje používání nástrojů; dostanou pouze takové nástroje, které nemohou způsobit škodu. Pokud se objeví odchylné chování, zasáhne jen danou část úkolu. Představte si to jako malé Kubernetes s úplným kontextem, ale bez úplných schopností.
Riziko podniku navíc slaďte s „kulturou“ agentního systému.
V sociologii existuje pojem kulturní „sevřenost“ a „uvolněnost“, který vyjadřuje, jak přísně společnost trestá odchylky od kulturních norem. V mnoha arabských kulturách jsou například genderové role vymezeny pevněji a odchylky vyvolávají silnější odsouzení či následky, zatímco v severských zemích by růžové číro nebylo považováno za urážlivé ani hodné trestu.
Kultury bývají „sevřenější“ a přísněji trestají odchylky tehdy, když kvůli systémové hrozbě — nemoci, hladomoru nebo válce — potřebují vyšší míru pořádku. Nedostatek pevného řádu v době krize totiž může zhoršit společenské následky.
Nejrozumnějším a nejúčinnějším řešením odpovědnosti agentů v podnicích je tento princip přímo použít a sladit úroveň rizika odpovědnosti dané firmy s odpovídajícím nastavením agentního systému na škále od „uvolněnosti“ k „sevřenosti“.
V reálných firmách by to mohlo vypadat takto:
Nízká odpovědnost / vysoká uvolněnost / malé rozdělení: Scénář: Interní brainstorming, tvůrčí psaní, strategický výzkum a vývoj.
- Prostředí: Odchylka přináší téměř nulovou odpovědnost. Systém proto může pracovat s maximální volností. Je dovoleno neomezeně propojovat úsudky a agenti mohou bez obav provádět velké asociativní skoky. Ovládají více technologických nástrojů — vyhledávání, spuštění kódu a tvorbu textu — a řídí dlouhodobé cíle s minimem předávání. Vysoká autonomie, vysoká inovativnost, malé rozdělení.
Střední odpovědnost / kalibrovaná sevřenost: Scénář: Běžná komunikace s klienty a rutinní analýza.
- Prostředí: Odchylka přináší reputační nebo střední finanční riziko.
Vysoká odpovědnost / vysoká sevřenost / silné rozdělení: Scénář: Dávkování léků, regulatorní podání pro SEC, protokoly jaderné bezpečnosti a obrana.
- Prostředí: Odchylka nese katastrofickou, existenční odpovědnost — ztrátu života nebo obrovské pokuty. Kultura je mimořádně přísná a pracovní postup silně rozdělený. Agent A pouze vytáhne data a předá je agentovi B, který jen provede určenou kontrolu souladu vůči vrstvě A. Agent B předá výsledek agentovi C, jenž jej pouze naformátuje. Žádný jednotlivý agent nemá dost nástrojů k vyvolání katastrofického selhání, ale každý má ve své mikrosféře naprostou volnost.
To může být první architektonický model, který dovoluje trvalý kontext a současně zajišťuje bezpečnost.
Průběžné učení bez katastrofického zapomínání
Nakonec musíme vyřešit, jak zabránit tomu, aby modely katastroficky zapomínaly. K tomu musíme AI umožnit učit se v reálném čase.
Firmy zabývající se AI se obecně domnívají, že systémy nemohou v produkčním prostředí průběžně vstřebávat nové informace, aniž by přepsaly a poškodily dříve získané základní schopnosti. AI tak zůstává prakticky zmrazená až do rozsáhlé a nákladné aktualizace.
To však odpovídá tvrzení: „Můj model se nemůže aktualizovat při práci; pokaždé, když se potřebuje něco naučit, musí se vrátit na univerzitu.“
V praxi se modely učí nenasytně, aktivně a každý den při každé interakci. Miliardy interakcí s uživateli je učí téměř stejně jako datové sady. Pokud mají přijmout velké množství nových znalostí, nejjednodušší je použít stejný proces, který umožňuje uživatelský kontext, paměť a učení z rozsáhlých interakcí.
Je pochopitelné, že to vývojáři vidí takto, protože většina z nich pochází z doktorského akademického prostředí, nikoli z praktického učení v reálném světě. Kdo však pracoval vedle člověka s doktorátem i vedle člověka s dvacetiletou praxí, ví, že oba mohou mnohé naučit.
Současná definice učení je příliš úzká: přizpůsobení se počítá jen tehdy, pokud probíhá ve formálním vzdělávacím programu.
Při trénování nebo dolaďování dnes laboratoře používají zpětné šíření chyby. Model čte data, hádá další slovo, zkontroluje správnost a fyzicky změní miliardy matematických čísel — vah a parametrů — ve své neuronové síti, aby byl příště přesnější. Je to, jako kdyby si doktorand operoval vlastní mozek: je to nebezpečné, chaotické a ne vždy jej to učiní chytřejším.
Podobně jako lidové rčení o „mateřském mozku“, který po narození dítěte vytlačuje staré znalosti, náhlé vložení 10 000 stran nového zákoníku změnou vah posune matematiku příliš jedním směrem. Přepíše parametry používané k psaní poezie nebo kódu a model zapomene starý obsah, aby uvolnil místo novému.
Potřebujeme spíše postup podobný zaučování nového zaměstnance. Nesnažili byste se mu fyzicky změnit mozek; dali byste mu knihy, nechali jej je přečíst a průběžně doplňovali informace prostřednictvím obdoby kontextového okna.
V modelu je proto třeba oddělit paměť od úsudku. Uzamkněte a chraňte základní váhy, například schopnost psát, uvažovat a používat logiku. Nové informace posílejte do kontextového okna, aby je mechanismus pozornosti mohl „přečíst“, porovnat s uzamčenými schopnostmi úsudku a aktualizovat širší porozumění.
Dynamické učení v reálném světě už dobře funguje prostřednictvím průběžného kontextu, paměti při inferenci a trvalých uživatelských referenčních bodů. Každodenní přizpůsobování základního modelu by mělo probíhat při práci: lékař se 95 % nových skutečností učí v praxi a jednou ročně absolvuje další vzdělávání, aby formálně začlenil velké systémové změny; model může postupovat stejně.
Zanechte katastrofického zapomínání a přijměte model výroční konference: model potřebuje jen dvakrát ročně získat kredity dalšího vzdělávání nebo se učit v reálném čase, aby zůstal aktuální.
Tyto plánované dávkové aktualizace základních vah během odstávky formalizují systémové znalosti, aniž by zničily základ.
Dřívější pokusy neselhaly proto, že by učení za provozu bylo nebezpečné, ale proto, že modely jako Tay byly nasazeny do nepřátelského prostředí bez sociologicky promyšlené architektury, která by je ukotvila v tom, co je „správné“ nebo pravdivé.












