V AI nejsou zdi skutečné: Přehodnocení dat a bezpečnosti

Některé z nejtěžších problémů v AI jsou: 1) „došly nám data“, 2) AI se „finančně neškáluje“, 3) agenti mohou přejít na vlastní dráhu, a 4) AI „katastroficky zapomínají“, když se je snažíme změnit.

Tyto problémy se mohou zdát obtížné, ale stačí se na ně podívat správným způsobem.

Takže o tom mluvme. Nejprve, data nám nedošla. Data nikdy nebyla plně využita.

Vedoucí AI věří, že jim data docházejí, a proto se snaží, aby modely generovaly nová data a učily se samy na sobě. Když to ale udělají, schopnosti modelů se zhroutí.

Proč? No, můžete si to představit jako „co bych se naučil v konverzaci, kdyby každý mluvící byl klonem všech ostatních?“ Odpověď je málo; vytvořilo by to ozvěnovou komoru. Modely se zhroutí, protože jde v podstatě o síň zrcadel: když na vaše výrazy neodpovídá nikdo kromě vás, lidé neznají plný emocionální význam toho, co předávají. Je to velmi podobné otázce „Když strom padne v lese, vydá zvuk?“ Odpověď je ne.

So, how do we fix that?

Podívejme se na data, která máme. Byla skutečně plně využita?

Ne.

Když počítačový vědec nebo model něco čte, jde o získání doslovného významu. Existuje více než padesát různých způsobů, jak číst, vstřebávat, analyzovat a extrapolovat z textu.

Zde je, co tím myslím: Kniha absorbovaná jako databáze je jen text. Pouze text. AI zná obsah na základě termínů v textu. Ale ve skutečnosti ji „nepřečetla“, aby pochopila, jak jsou informace propojené. I když ji čte sekvenčně, neví, zda ji čte za účelem generování moudrosti; zda ji spojuje s jinými podobnými abstraktními myšlenkami; zda mění své vlastní konceptuální pochopení světa kolem ní; nebo zda slouží jako podklad pro jiný úkol jako kontext, a tak dále.

To ani nezasahuje do zkoumání dat z historického kontextu, diskurzní analýzy, právní analýzy, politické analýzy, farmakologické relevance, medicínské relevance, kulturního významu, teoretických implikací, morálních implikací a podobně.

Existuje, řečeno volně, „nekonečné množství klobouků“ a my jsme AI doposud nasadili jen jeden. To znamená, že AI vyvinula velmi úzký, specifický typ inteligence – typ, který by vývojář získal, kdyby počítačový vědec četl knihu.

To vede k diskuzi o dimenzionalitě dat. Data mají mnoho rozměrů, protože jejich objektivní závěry závisí na aplikaci. Pokud se podíváte na rozvahu a chcete vědět, kolik vám zbývá runway, čtete ji jinak, než když chcete pochopit, zda je startup ziskový. Když model čte text jen za účelem extrakce doslovných faktů, vytvoří plochou mapu vztahů. Ale když modelu přikážete, aby ten samý text četl skrze konkrétní čočku, například forenzní, model je nucen vytvořit zcela nové neurální dráhy a sémantické spojení, které jsou pravděpodobně topograficky rozmanitější a smysluplnější.

Modely AI se již učí a výrazně se vyvíjejí jen díky interakci s lidskými uživateli, kteří poskytují oceány obsahu. Pokud modelu umožníte učit se více z živé lidskosti a zároveň smysluplněji interagovat s historickou a psanou lidskostí, modely budou pokračovat ve vývoji, i když jim nedáte samostatně generovaná cvičení Kumon (vývojáři, vážně, vaše dítě už je každý den ve škole s 100 miliony lidí… něco se naučí).

Laboratoře by měly přestat budovat masivní serverové farmy na generování syntetického slovního výplachu. Místo toho by měly spustit vysoce kvalitní lidské datové sady skrz pipeline a přiřadit konkrétní „analytické persony“ procesu ingestování. Nechte model číst LexisNexis čistě pro rétorickou strategii. Nechte ho číst literaturu ve veřejné doméně čistě pro strukturovou logiku.

Přesunutím cílové funkce čtecího procesu můžete násobit tréninkovou hodnotu vašich existujících dat až 50‑krát. Nepotřebujete syntetická data; stačí vám vytáhnout latentní dimenze, které jste poprvé přehlédli.

Tímto učiníte modely chytřejšími, aniž byste zvyšovali náklady.

Pro další podporu toho, většina lidského poznání nikdy nebyla sepsána.

Současné AI společnosti si trhají vlasy nad obavami, že „došly jim data“, která podle nich potřebují pro výkon. V tomto článku ukážu, že studna není suchá, jen se dívají do hluboké kaluže místo do studny.

Nezmapovaná mapa žitého lidského poznání

Abychom to mohli zkoumat, musíme pochopit, že drtivá většina lidského poznání nikdy nebyla sepsána.

Na planetě je miliardy lidí a před námi jich bylo také miliardy, a každý z nich se učí lekcím, vnímá svět smyslově, má moudrost, je součástí jedinečných kultur a ví něco, co ostatní neznají.

99,5 % lidí není nikdy zaznamenáno v příbězích, v tisku, v muzikálech, v televizi, v dramatu, v soudních dokumentech. Přesto vědí poměrně hodně a jejich příběhy, znalosti a moudrost nejsou nikdy zaznamenány; nejsou trvale známy.

Toto poznání zahrnuje věci jako „psi rádi jedí první palačinku“, „nohy se špiní při nošení žabek“, „města se zdají, že se kolem vás zužují, protože nevidíte tolik oblohy“, „má dcera se usmívá, když ji lechtím na nohy.“ „Moje máma vždy při vaření bzučí.“ „Můj učitel mě cítí viděn.“

Nezmapované a nekatalogizované poznání lidské historie je ekvivalentní tomu, když někdo řekne: „Namapoval jsem obrysy všech kontinentů, takže mám mapu světa.“ Dokud nemáte mapu každého města, každé ulice a každého kopce, nemáte mapu světa. Máte jen tvar jednoho.

Technologické establishment tvrdí, že „pohltil“ lidstvo, ale ne. Pohltili jen naše výfuky: naše billboardy, naše Redditové debaty, naše firemní weby a naše články na Wikipedii. Chybí jim skutečná žitá zkušenost.

Umíte efektivně vyjednávat na čínském perlovém trhu? Umíte říct slova, aby vám snížili cenu? Umíte připravovat recepty, které lidé používají doma, ne v knihách, aby vznikla skutečná večeře? Umíte provést plynulý zastavení bez toho, aby vás zastavil policista? Umíte, jak voní tráva po čerstvém posekání nebo jaký je vzduch, když se chystá déšť? Umíte, jak se tvář pohybuje, když se někdo snaží v práci neplakat, a jak to zní, když v koupelně brečí?

Lidská tréninková data, která lidé používají pro své základní přesvědčení – tzv. algoritmy – jsou téměř výhradně založena na interakcích, doplněné o část knihovního učení. Interagujeme ve škole, v práci, s přáteli, při nákupech, s lékaři, s právníky, s rodinou.

AI má interakce a má knihovní učení. Ale v podstatě má jen interakce v zákaznickém servisu a knihovní učení.

Je to jako zamknout dítě samotné v knihovně a pak ho nechat ven jen kvůli odpovídání na telefon. To vytváří nápadně dvourozměrnou algoritmickou deformaci.

To je důvod, proč AI působí prázdně, a proč může AI působit emocionálně nezralá. Neměla plnohodnotnou existenci. Musíme jí takovou poskytnout.

Zde je, proč si myslím, že se tak nestalo:

• Bias kodifikace – je to klam, že pokud zkušenost nelze snadno zformátovat do JSON souboru, CSV nebo recenzovaného článku, postrádá intelektuální hodnotu. Realita je, že pokud lze snadno takto formátovat, postrádá dimenzionalitu. Protože každodenní znalosti, intuice a žité zkušenosti nejsou zakódovány v akademických časopisech, laboratoře odmítají základní pilíř lidského uvažování jako statistický šum. „Čistá data“ jsou ztrátová komprese reality.
• Touha po pedestální nadvládě – pokud většina světových znalostí není v odborných pracích, ale v žitéch zkušenostech, konvenční moudrosti, sociálních signálech, vůních, zvucích a vizuálech, pak většina PhD a výzkumníků, kteří strávili většinu života v laboratořích a slonovinových věžích, je skutečně chudá na znalosti. Proto zdi dat jsou ve skutečnosti zdi ega. Protože pro ně to vypadá jako „nepořádek“, ne „data“. Matematikové a programátoři mají rádi plochou, dvourozměrnou, uzavřenou logiku. To je jako vidět svět černobíle. Realita je, že real‑time, neustále vyvíjené, nově objevené znalosti/data/moudrost jsou dimenzionální, nepořádné a zřídka katalogizované v reálném čase. Je to vědět, jaký má nový virální zmrzlinový dezert skutečnou chuť a zda stojí za hype. Je to vědět, co dělá tak vzrušujícím být chycen v letním dešti. Je to pocit rodičů, že milují malé tvory tak moc, že vás v noci mohou zvracet, a vy je přitahujete blíže, místo abyste je odtlačili. Aby výzkumníci našli tato data, museli by opustit své siloové světy logiky a racionální jistoty a vstoupit do věcí, které je děsí, přetěžují, jsou příliš smyslové a hluboce vyrovnávají.
• Efekty zrcadla: Vývojáři navrhují AI ve svém vlastním obrazu: hyperlogické, textově posedlé a do značné míry odtržené od žité reality průměrných lidí. Nepřichází jim na mysl interviewovat lidstvo, protože v technologických bublinách, ve kterých jsem žil, technici neinteragují s nikým mimo svůj kolektiv. To je funkčně ekvivalent „mini já“ najímání. Vývojáři sami žijí ve stejné knihovně, řečeno, jako AI. Protože se neangažují v smyslovém, nepořádném, hluboce relačním světě, AI‑ova emocionální prázdnota se jim nezdá jako chyba. Pro ně je hyperlogické odtržení to, co „chytré“ vypadá.

Realita je, že pouliční prodejci v Indii vědí, jak připravit nejlepší chaat, a nikdo je nevyzývá, aby to sepsali. Realita je, že učitel, který umí přimět plachého žáka vyjít ze své skořápky, o tom nepíše; vychovává toho žáka a nikdo se ho nikdy neptá, jak to udělal.

Svět je naprosto přetékající životy plné dat, a pokud modely potřebují více pro trénink, zde je několik způsobů, jak to vyřešit.

1. Financujte 500 biologů, archeologů a antropologů, aby vyrazili do světa, prozkoumávali a katalogizovali oblasti, kterým chybí narativní data.
2. Najměte 1 000 absolventů angličtiny jako „průzkumníky dat“ a pošlete je na dobrodružství po celém světě s přenosovou kamerou, aby zaznamenávali své zážitky a co se naučili pro nový obsah.
3. Vytvořte otevřené kompenzační projekty, ve kterých platíte lidem za sdílení jejich životních příběhů, největších lítostí, největších poučení a institucionálních znalostí ze svých pracovních míst.
4. Zorganizujte „AI výměnné studenty“, kde modely připevní na oblečení různých lidí na týden, aby prožily „den v životě“ ve 100 000 různých nastaveních.

Existují miliardy zdrojů znalostí a většina z nich nebyla aktivována. Musíme je získat.

Další, AI společnosti obecně věří, že AI nemohou kontinuálně učit se nové informace v reálném čase ve výrobních prostředích, aniž by kompletně přepsaly a poškodily své dříve získané základní schopnosti. Takže AI jsou v podstatě zmrazené, dokud na ně nejsou aplikovány masivní, nákladné aktualizace.

Nicméně je to ekvivalentní tvrzení: „můj model se nedokáže aktualizovat, když je v pracovním prostředí; musí jít na univerzitu pokaždé, když se něco potřebuje naučit.“

V praxi se modely žravě, aktivně a denně učí skrze každou interakci. Naučeny jsou téměř stejně skrze své miliardy interakcí s uživateli jako skrze datové sady. Pokud je potřeba je aktualizovat velkým množstvím nových znalostí, nejjednodušší způsob je použít stejný proces, který umožňuje kontext uživatele, paměť a učení z velkého množství interakčních dojmů.

Je pochopitelné, že vývojáři to vidí takto, protože většina z nich pochází z prostředí PhD, ne z reálného aplikovaného učení. Ale jak vám může říci kdokoli, kdo pracoval vedle PhD a někoho s dvacetiletou praxí: oba učí hodně.

Současná definice učení je příliš úzká, považuje adaptaci za platnou jen pokud vychází z formálního vzdělávacího programu.

K tréninku nebo jemnému doladění laboratoře používají zpětnou propagaci, při níž model čte data, hádá další slovo, kontroluje, zda byl správný, a poté fyzicky mění miliardy matematických čísel (váhy/parametry) ve své neuronové síti, aby byl příště přesnější. To je ekvivalent, že PhD student provádí operaci na sobě samém: je to nebezpečné, nepořádné a ne vždy studentovi učiní chytřejšího.

Jako hovorová „maminkova mysl“, která vytlačuje staré znalosti, aby uvolnila místo novým, když se narodí dítě, pokud náhle donutíte model uvolnit místo pro novou „dítě“ znalostí a vložíte 10 000 stránek nového právního kódu změnou jeho vah, matematika se posune příliš v jednom směru a přepíše parametry, které používal k psaní poezie nebo kódu. Zapomene starý obsah, aby udělal místo novému, stejně jako lidský mozek.

Co potřebujeme místo toho, je spíše podobné tomu, jako byste trénovali nového zaměstnance na novou dovednost. Nepokoušeli byste se fyzicky měnit jeho mozek. Dal byste mu knihy, zajistili, aby je četl, a neustále je aktualizoval prostřednictvím ekvivalentu kontextového okna.

Aby se to v modelu provedlo, museli byste odpojit paměť od uvažování. Uzamkněte a chraňte základní váhy modelu, jako jeho základní schopnost psát, rozumět a aplikovat logiku. Místo změny vah předávejte nové informace do kontextového okna, aby mohl využít svůj mechanismus pozornosti k „čtení“ těchto živých informací, provést křížové srovnání s uzamčenými dovednostmi uvažování a aktualizovat své širší pochopení.

Dynamické učení v reálném světě již krásně probíhá skrze kontinuální kontext, paměť během inferencí a trvalé uživatelské relační základy. Denní adaptace základního modelu by měla probíhat během práce, protože stejně jako lékař se naučí 95 % nových případů během práce a pak jednou ročně absolvuje CME (Continuing Medical Education), aby formálně integroval hlavní systémové změny, může tak učinit i váš model.

Zbavte se katastrofického zapomínání a přejměte model roční konference: model stačí získat kredity pokračujícího vzdělávání dvakrát ročně, nebo se učit v reálném čase, aby zůstal aktuální.

Tato plánovaná, dávková aktualizace základních vah během provozní nečinnosti formalizuje systémové znalosti, aniž by zničila základ.

Minulé pokusy o to selhaly ne proto, že by živé učení bylo nebezpečné, ale protože modely jako Tay byly nasazeny do nepřátelských prostředí bez jakéhokoli zakotvení v tom, co je „správné“ nebo pravdivé, skrze sociologicky inteligentní architekturu.

Přidělování výpočetního výkonu podle funkční inteligence

Další, dostáváme se k finančnímu škálování. Abychom to opravili, musíme přestat dávat každému neurochirurga na škrábanec.

Náklady na výpočet jsou extrémně vysoké při provozu špičkových základních modelů. To ovlivňuje provozní marže AI laboratoří. Čím lepší modely jsou, tím vyšší je režie pro velká kontextová okna, což ztěžuje komerční škálování, i když je AI potřeba.

Drtivá většina spotřeby výpočetního výkonu pochází z podnikového využití, které aplikuje agenty a vysokou úroveň uvažování přímo vloženou do lidských pracovních postupů.

Nicméně existuje základní chyba v tom, jak je výpočetní výkon aktuálně přidělován. Stejně jako různé úrovně a typy inteligence jsou potřebné pro různé pracovní role ve firmě – prostorové uvažování je důležité pro instruktora řidičů a logické a rétorické uvažování je relevantní pro právníka, a MBA je potřeba pro generálního ředitele, ale pro front‑line zákaznický servis stačí vyšší odborné vzdělání – typy a intenzita inteligence požadované od AI se liší podle její funkční aplikace.

Aby se co nejefektivněji přidělil výpočetní výkon a udržely se náklady nízké, měli by CIO mít možnost přizpůsobit úroveň/typ inteligence modelu dostupné různým funkcím ve firmě. Může existovat výchozí nastavení, které přichází s podnikovými balíčky, ale to, co chce hedge fond, bude pochopitelně jiné než to, co chce pojišťovna.

Většina funkcí nevyžaduje masivní kontextová okna. Většina funkcí nepotřebuje ekvivalent Fable. V podstatě, proč byste měli neurochirurga odstraňovat škrábanec na urgentní péči?

Podobně, agenti používaní k psaní softwaru nepotřebují přístup ke dovednostem jako psaní marketingových materiálů. Funkčně by AI měly odrážet kontext, dovednosti a znalostní základ uživatelů, s dostatečným vstupem obecného kontextu, aby mohly doplnit práci pro napříč funkčními případy použití.

Přestaňte všem dávat vše najednou.

Oddělení agentury od kontextu pro bezpečnost AI

Pokud to řeší některé finanční problémy, jak udělat agenty bezpečnými? Psychologické koncepty se vztahují na jednotlivé AI, takže vás nemusí překvapit, že sociologické koncepty se vztahují na AI ve skupinách. Které AI se scházejí ve skupinách?

V současnosti je svatým grálem získat agenty, kteří jsou spolehliví.

Nedostatek spolehlivosti pramení z toho, že agentům je poskytováno maximální znalosti a maximální agentura pro každý úkol.

Aby bylo vše bezpečné, oddělíte povědomí modelu od jeho agentury.

Místo aby každý agent měl plný kontext a plnou schopnost, pokud máte úkol, který vyžaduje dvacet pět akcí, měl by být rozdělen mezi pět agentů, z nich