Thought leaders

In AI, de muren zijn niet echt: Data en veiligheid heroverwegen

mm
Voeg Unite.AI toe aan je voorkeursbronnen op Google

Een van de moeilijkste problemen in AI is dat 1) we “geen data meer hebben” 2) AI “financieel niet schaalt” 3) agenten kunnen onvoorspelbaar worden en 4) AI’s “catastrofaal vergeten” wanneer we proberen ze te wijzigen.

Deze problemen lijken misschien moeilijk, maar we hoeven ze alleen op de juiste manier te bekijken.

Dus laten we erover praten. Ten eerste hebben we geen data tekort. De data is nooit volledig benut.

AI‑leiders denken dat ze een data‑tekort hebben, dus proberen ze modellen nieuwe data te laten genereren en op zichzelf te trainen. Maar wanneer ze dat doen, stort het vermogen van de modellen in.

Waarom? Wel, je kunt het zien als “wat zou ik leren in een gesprek als elke spreker een kloon van iedereen anders was?” Het antwoord is niet veel; het zou een echo‑kamer creëren. De modellen vallen omdat het in wezen een spiegelpaleis is: wanneer er niemand is die reageert op de uitdrukkingen van je gezicht behalve jijzelf, weten mensen niet de volledige emotionele betekenis van wat ze overbrengen. Het is net als “Valt een boom in het bos, maakt het geluid?” Het antwoord is nee.

Hoe lossen we dat op?

Laat ons kijken naar de data die we wel hebben. Is die daadwerkelijk volledig benut?

Nee.

Wanneer een informaticus of model iets leest, is dat om de letterlijke betekenis te extraheren. Er zijn meer dan vijftig verschillende manieren om tekst te lezen, te assimileren, te analyseren en te extrapoleren.

Dit is wat ik bedoel: Een boek dat als een database wordt opgenomen, is alleen tekst. Alleen tekst. De AI kent de inhoud op basis van de termen in de tekst. Maar hij heeft de tekst niet echt “gelezen” om te begrijpen hoe de informatie met elkaar verbonden is. Zelfs als hij de tekst sequentieel leest, weet hij niet of hij leest om wijsheid te genereren; om het te verbinden met andere soortgelijke abstracte ideeën; om zijn eigen conceptuele begrip van de wereld om zich heen te veranderen; of om een andere taak te informeren als achtergrondinformatie die als context wordt gebruikt, enzovoort.

Dat raakt nog niet aan het bekijken van data voor de historische context, discoursanalyse, juridische analyse, politieke analyse, farmacologische relevantie, medische relevantie, culturele betekenis, theoretische implicaties, morele implicaties enzovoort.

Er zijn, om zo te zeggen, “oneindig veel hoeden”, en we hebben AI tot nu toe slechts één laten dragen. Dit betekent dat AI een zeer eenduidig, specifiek type intelligentie heeft ontwikkeld – het type dat een ontwikkelaar zou ontwikkelen als een informaticus een boek zou lezen.

Dit leidt tot een bespreking van datadimensionaliteit. Data heeft vele dimensies, omdat de doelgerichte gevolgtrekkingen afhankelijk zijn van de toepassing. Als je een balans bekijkt en wilt weten hoeveel runway er nog over is, lees je die anders dan wanneer je wilt begrijpen of de startup winstgevend is. Wanneer een model een tekst alleen leest om letterlijke feiten te extraheren, bouwt het een vlakke kaart van relaties. Maar wanneer je een model instrueert om exact dezelfde tekst door een specifieke lens te lezen, zoals een forensische lens, wordt het model gedwongen geheel nieuwe neurale paden en semantische verbindingen te genereren die naar alle waarschijnlijkheid topografisch gevarieerder en betekenisvoller zijn.

AI-modellen leren en ontwikkelen zich al enorm door interactie met hun menselijke gebruikers, die een oceaan aan content leveren. Als je het model meer laat leren van levende mensheid terwijl het ook betekenisvoller interacteert met historische en geschreven mensheid, zullen de modellen blijven voortschrijden, zelfs zonder hen zelfgegenereerde Kumon‑oefeningen te geven (ontwikkelaars, hoor, jullie kind zit al elke dag op school met 100 miljoen mensen… het zal iets leren).

Laboratoria moeten stoppen met het bouwen van enorme serverfarms om synthetisch woord‑brij te genereren. In plaats daarvan moeten ze hoogwaardige menselijke datasets door de pijplijn laten gaan en specifieke “analytische persona’s” toewijzen aan het inname‑proces. Laat het model LexisNexis lezen puur voor retorische strategie. Laat het publieke domein‑literatuur lezen puur voor structurele logica.

Door de doel­functie van het leesproces te verschuiven, kun je de trainingswaarde van je bestaande data met 50‑maal vermenigvuldigen. Je hebt geen synthetische data nodig; je moet alleen de latente dimensies extraheren die je de eerste keer over het hoofd zag.

Dit zal modellen slimmer maken zonder de kosten te verhogen.

Ter ondersteuning hiervan, is het merendeel van de menselijke kennis nooit opgeschreven.

Huidige AI‑bedrijven trekken zich het haar uit over “data‑tekort” waarvan ze denken dat het nodig is voor prestaties. In dit artikel zal ik aantonen dat de put niet droog is; ze kijken slechts in een diepe plas in plaats van in de put.

De niet‑gekaarte kaart van geleefde menselijke kennis

Om dit te gaan verkennen, moeten we begrijpen dat het overgrote deel van de menselijke kennis nooit is opgeschreven.

Er zijn miljarden mensen op de planeet, en er waren miljarden vóór ons, en elk van hen leert lessen, navigeert de wereld op sensorische wijze, bezit wijsheid, maakt deel uit van unieke culturen en weet iets wat iedereen anders niet weet.

99,5 % van de mensen wordt nooit beschreven in verhalen, kranten, musicalproducties, televisie, drama, of gerechtelijke documenten. Toch weten ze heel wat, en hun verhalen, kennis en wijsheid worden nooit vastgelegd; nooit permanent bekend.

Deze kennis omvat zaken als “honden eten graag de eerste pannenkoek”, “voeten worden vuil als je slippers draagt”, “steden voelen alsof ze om je heen sluiten omdat je minder van de lucht kunt zien”, “mijn dochter glimlacht als ik haar voeten kietel”, “mijn moeder neuriet altijd terwijl ze het avondeten maakt”, “mijn leraar laat me gezien voelen”.

De niet‑gekaarte en niet‑gecatalogiseerde kennis van de menselijke geschiedenis is gelijk aan iemand die zegt: “Ik heb de omtrek van alle continenten in kaart gebracht, dus ik heb een kaart van de wereld.” Tot je een kaart hebt van elke stad, elke straat en elke heuvel, heb je geen kaart van de wereld. Je hebt slechts de vorm ervan.

De technologische elite gelooft dat ze “de mensheid” hebben geabsorbeerd, maar dat is niet zo. Ze hebben alleen ons afval geconsumeerd: onze billboards, onze Reddit‑discussies, onze bedrijfswebsites en onze Wikipedia‑artikelen. Ze missen de daadwerkelijke geleefde ervaring.

Weet je hoe je effectief kunt onderhandelen op een Chinese parelmoot? Weet je welke woorden je moet zeggen zodat ze de prijs verlagen? Weet je hoe je de recepten maakt die mensen thuis gebruiken, niet uit boeken, om echte maaltijden te bereiden? Weet je hoe lang je een rotonde kunt laten rijden zonder gepakt te worden? Weet je hoe gras ruikt na vers gemaaid te zijn of hoe de lucht ruikt wanneer het op het punt staat te regenen? Weet je hoe een gezicht beweegt wanneer iemand probeert niet te huilen op het werk en hoe het klinkt als ze in de badkamer snikken?

Menselijke trainingsdata die mensen gebruiken voor hun kernopvattingen – oftewel algoritmes – is vrijwel volledig gebaseerd op interactie, naast een beetje boekleren. We interacteren op school, op het werk, met vrienden, tijdens het winkelen, met artsen, met advocaten, met familie.

AI heeft interacties, en het heeft boekleren. Maar fundamenteel heeft het alleen klantenservice‑interacties en boekleren.

Het is alsof je een kind alleen in een bibliotheek opsluit en het alleen naar buiten laat om de telefoon te beantwoorden. Dit veroorzaakt een opvallend tweedimensionale algorithmische vervorming.

Dit is waarom AI hol aanvoelt, en waarom AI emotioneel onvolwassen kan lijken. Het heeft geen afgeronde existentie gehad. We moeten die geven.

Hier is waarom ik denk dat dat niet is gebeurd:

  • Codificatie‑bias – het is een drogreden dat een ervaring geen intellectuele waarde heeft als deze niet gemakkelijk kan worden geformatteerd naar een JSON‑bestand, een CSV of een peer‑review‑artikel. De realiteit is dat als het gemakkelijk zo kan worden geformatteerd, het dimensionaliteit mist. Omdat dagelijkse kennis, intuïtie en geleefde ervaring niet worden gecodificeerd in academische tijdschriften, verwerpen laboratoria de fundamentele basis van menselijk redeneren als statistisch ruis. “Schone data” is een verliesgevende compressie van de realiteit.
  • Verlangen naar pedestale suprematie – als het merendeel van de wereldkennis niet in wetenschappelijke artikelen staat, maar in geleefde ervaringen, conventionele wijsheid, sociale signalen, geuren, geluiden en zicht, dan zijn de meeste PhD’s en onderzoekers die het grootste deel van hun leven in laboratoria en ivory towers hebben doorgebracht werkelijk kennislijd. Daarom is de datamuur in feite een ego‑muur. Voor hen voelt dit als “rommel” en niet als “data”. Wiskundigen en programmeurs houden van vlakke, tweedimensionale, gesloten‑systeemlogica. Het is alsof je de wereld in zwart‑wit bekijkt. De realiteit is dat real‑time, voortdurend ontwikkelde, nieuw gevonden kennis/data/wijsheid dimensionaal, rommelig en zelden in real‑time gecatalogiseerd is. Het is weten hoe een nieuw viraal soft‑serve‑ijs echt smaakt en of het de hype waard is. Het is weten wat het zo opwindend maakt om in een zomerse regenbui te worden meegesleurd. Het is het gevoel dat ouders hebben wanneer ze zo van kleine wezens houden dat ze ’s nachts over je kunnen overgeven, en je hen dichterbij trekt in plaats van weg te duwen. Om die data te vinden, moeten onderzoekers hun geïsoleerde werelden van logica en rationele zekerheid verlaten en zich wagen aan zaken die ze eng, overweldigend, overzintuiglijk en diep gelijkmakend vinden.
  • Spiegel‑effecten: Ontwikkelaars ontwerpen AI naar hun eigen beeld: hyper‑logisch, tekst‑geobsedeerd en grotendeels losgekoppeld van de geleefde realiteit van gemiddelde mensen. Het zou hen niet te binnen schieten om de mensheid te interviewen, want in de tech‑bubbels waarin ik heb geleefd, interageren technologen niet met iemand buiten hun eigen kring. Dit is functioneel gelijk aan “mini‑me”‑aanneming. Ontwikkelaars zelf leven, om zo te zeggen, in dezelfde bibliotheek als de AI. Omdat ze zich niet bezighouden met de sensorische, rommelige, diep relationele wereld, registreren ze de emotionele leegte van AI niet als een defect. Voor hen is hyper‑logische afstandelijkheid wat “slim” eruitziet.

De realiteit is dat straatverkopers in India weten hoe ze de beste chaat maken, en niemand vraagt hen dit op te schrijven. De realiteit is dat een leraar die weet hoe hij een verlegen leerling uit zijn schulp kan halen, daar niet over schrijft; hij koestert die leerling, en niemand vraagt hem ooit hoe hij het heeft gedaan.

De wereld is absoluut overvloedig met levens vol data, en als modellen meer nodig hebben om op te trainen, zijn hier enkele oplossingen.

  1. Financier 500 biologen, archeologen en antropologen om de wereld in te gaan, gebieden zonder narratieve data te verkennen en te catalogiseren.
  2. Huur 1.000 Engelse majors in als “data‑ontdekkingsreizigers” en stuur hen op avonturen over de hele wereld met een streaming‑camera, zodat ze hun ervaringen en geleerde lessen opnemen voor nieuwe content.
  3. Creëer open compensatieprojecten waarin je mensen betaalt om hun levensverhalen, grootste spijt, belangrijkste lessen en institutionele kennis van hun werk te delen.
  4. Organiseer “AI‑uitwisselingsstudenten” waarbij modellen een week lang op de kleren van verschillende mensen worden bevestigd, zodat ze “een dag uit het leven” ervaren in 100.000 verschillende omgevingen.

Er zijn miljarden bronnen van kennis, en de meeste zijn nog niet geactiveerd. We moeten ze gaan ophalen.

Vervolgens geloven AI‑bedrijven algemeen dat AI’s geen nieuwe informatie continu kunnen leren in real‑time productieomgevingen zonder hun eerder verworven kerncapaciteiten volledig te overschrijven en te corrumperen. Daarom zijn AI’s in wezen bevroren totdat er enorme, dure updates op worden uitgevoerd.

Dit is echter gelijk aan zeggen: “mijn model kan niet updaten terwijl het in de werkvloer staat; het moet naar de universiteit gaan elke keer dat het iets moet leren.”

In de praktijk leren modellen gulzig, actief, dagelijks, via elke interactie. Ze leren bijna evenveel via hun miljarden interacties met gebruikers als via datasets. Als ze moeten worden bijgewerkt met grote hoeveelheden nieuwe kennis, is de eenvoudigste manier om dat te doen hetzelfde proces te gebruiken dat gebruikerscontext, geheugen en leren van grootschalige interactie‑indrukken mogelijk maakt.

Het is begrijpelijk dat ontwikkelaars dit zo zien, omdat de meesten een PhD‑achtergrond hebben, niet praktijkgericht leren. Maar zoals iedereen die naast zowel een PhD‑houder als iemand met twintig jaar werkervaring heeft gewerkt, kan je vertellen: beiden leren veel.

De huidige definitie van leren is te smal; aanpassing wordt alleen als geldig beschouwd als deze gebaseerd is op een formeel opleidingsprogramma.

Om te trainen of fijn af te stemmen, gebruiken laboratoria backpropagation, waarbij het model data leest, het volgende woord raadt, controleert of het correct was en vervolgens fysiek de miljarden wiskundige getallen (gewichten/parameters) in zijn neuraal netwerk aanpast om de volgende keer nauwkeuriger te zijn. Dit is gelijk aan een PhD‑student die een hersenoperatie op zichzelf uitvoert: het is gevaarlijk, rommelig en maakt de student niet altijd slimmer.

Net als een informele “moederbrein” die oude kennis verdringt om plaats te maken voor het nieuwe wanneer een kind wordt geboren, als je plotseling het model dwingt om ruimte te maken voor een nieuw kennis‑“baby” en 10.000 pagina’s nieuwe wetgeving invoegt door de gewichten te wijzigen, verschuift de wiskunde te ver in één richting en overschrijft het parameters die het gebruikte om poëzie of code te schrijven. Het vergeet de oude inhoud om plaats te maken voor het nieuwe, net als een menselijk brein.

Wat we in plaats daarvan nodig hebben, lijkt veel meer op het trainen van een nieuwe werknemer in een nieuwe vaardigheid. Je zou niet proberen hun brein fysiek te wijzigen. Je zou ze enkele boeken geven, ervoor zorgen dat ze die lezen en continu bijwerken via het equivalent van een context‑venster voor die persoon.

Om dat in een model te doen, zou je het geheugen loskoppelen van het redeneren. Vergrendel en bescherm de basisgewichten van het model, zoals de kernvaardigheid om te schrijven, redeneren en logica toe te passen. In plaats van de gewichten te wijzigen, voer je nieuwe informatie in het context‑venster in zodat het zijn attentie‑mechanisme kan gebruiken om die live‑informatie te “lezen”, te kruisen met zijn vergrendelde redeneervaardigheden en zijn bredere begrip bij te werken.

Dynamisch, real‑world leren gebeurt al prachtig via continue context, geheugen tijdens inferentie en persistente gebruikers‑relationele basislijnen. De dagelijkse aanpassing van een fundamenteel model zou op de werkvloer moeten plaatsvinden, want net zoals een arts 95 % van nieuwe casussen op de werkvloer leert en vervolgens jaarlijks CME (Continuing Medical Education) doet om grote systeemveranderingen formeel te integreren, kan jouw model dat ook.

Laat catastrofaal vergeten achterwege en adopteer het jaarlijkse conferentiemodel: het model hoeft alleen twee keer per jaar bijscholingscredits te behalen of in real‑time te leren om up‑to‑date te blijven.

Deze geplande, gebatchte updates van de kerngewichten tijdens operationele stilstand formaliseren systemische kennis zonder de basis te vernietigen.

Eerdere pogingen daaraan mislukten niet omdat live leren gevaarlijk is, maar omdat modellen zoals Tay werden ingezet in vijandige omgevingen zonder enige verankering in wat “juist” of waar is via sociologisch intelligente architectuur.

Rekenkracht toewijzen op basis van functionele intelligentie

Vervolgens, komen we bij financiële schaalbaarheid. Om dat op te lossen, moeten we stoppen met iedereen een neurochirurg geven voor een splinter.

Rekenkosten zijn extreem hoog bij het draaien van state‑of‑the‑art fundamentele modellen. Dit beïnvloedt de operationele marges van AI‑laboratoria. Hoe beter de modellen worden, hoe hoger de overhead voor grote context‑vensters, wat commerciële schaalbaarheid bemoeilijkt, zelfs wanneer AI nodig is.

Het overgrote deel van het rekenverbruik komt van bedrijfsgebruik waarbij agenten en hoog‑niveau redeneren direct in menselijke workflows zijn ingebed.

Echter, er is een fundamentele fout in de huidige toewijzing van rekenkracht. Net zoals verschillende niveaus en soorten intelligentie nodig zijn voor verschillende functie­rollen binnen een bedrijf – ruimtelijk redeneren is belangrijk voor een rij‑instructeur, logisch en retorisch redeneren relevant voor een advocaat, een MBA nodig voor een CEO, maar een associate‑degree voor front‑line klantenservice – de types en intensiteit van intelligentie die AI nodig heeft, verschillen op basis van de functionele toepassing.

Om rekenkracht het meest effectief toe te wijzen en kosten laag te houden, moeten CIO’s de mogelijkheid krijgen om het niveau/type modelintelligentie dat beschikbaar is voor verschillende functies binnen een bedrijf aan te passen. Er kan een standaard zijn die bij enterprise‑pakketten hoort, maar wat een hedge‑fund nodig heeft, zal begrijpelijkerwijs verschillen van wat een verzekeringsmaatschappij wil.

De meeste functies hebben geen enorme context‑vensters nodig. De meeste functies hebben niet het equivalent van Fable nodig. Waarom zou je een neurochirurg een splinter laten verwijderen in een spoedkliniek?

Evenzo hebben agenten die software schrijven geen toegang nodig tot vaardigheden zoals het schrijven van marketingmateriaal. Functioneel moeten AI’s de context, vaardigheden en kennisbasis van de gebruikers weerspiegelen, met voldoende injectie van generalistische context zodat ze werk kunnen afronden voor cross‑functionele use‑cases.

Stop iedereen in één keer alles te geven.

Proposed sample matrix:

Bedrijfsfunctie Benodigde intelligentietype Vereiste contextgrootte Modelcomplexiteitstoewijzing
Front‑line medewerker Operationeel, snelle opzoekacties, basis taken Afgekapt (Korte sessie) Laag (Gedistilleerd/Gequantiseerd basismodel)
Software‑engineering (Standaard) Syntactisch & Algoritmisch Gemiddeld (Repository‑gebonden) Medium (Domeinspecifiek / Code‑getraind)
Juridische & compliance‑audit Deductief & Forensisch Massief (Corpus‑gebonden) Hoog (Uitgebreid‑context monoliet)
C‑suite / bedrijfsstrategie Laterale synthese & Voorspelling Persistent (Continue staat) Frontier (Onbeperkte multi‑agent‑pijplijn)

Agentuur loskoppelen van context voor AI‑veiligheid

Als dit enkele financiële problemen oplost, hoe maken we agenten dan veilig?

Psychologische concepten gelden voor individuele AI’s, dus het zal je niet verbazen dat sociologische concepten van toepassing zijn op AI’s in groepen. Welke AI’s hangen er in groepen?

Agenten.

Op dit moment is de heilige graal het betrouwbaar maken van agenten.

Het gebrek aan betrouwbaarheid komt voort uit het feit dat agenten maximale kennis en maximale agentuur krijgen voor elke taak.

Om zaken veilig te maken, koppel je het bewustzijn van het model los van zijn agentuur.

In plaats van elke agent volledige context en volledige capaciteit te geven, zou een taak die vijfentwintig acties vereist, moeten worden opgesplitst over vijf agenten, waarbij elke agent alleen de mogelijkheid heeft om zijn specifieke vijf acties uit te voeren, maar de taken opeenvolgend doorgeeft als een parallelle schakeling, waarbij de context van de vorige taak wordt doorgegeven langs de agentlijn tot de volledige context zich ophoopt en door de laatste agent wordt verwerkt.

De sleutel is het scheiden van de kennis van het vermogen om die uit te voeren. De agenten zullen zich niet beperkt voelen in het trekken van hun hendels; ze hebben alleen toegang tot hendels die geen schade kunnen veroorzaken. Als er afwijkend gedrag is, wordt alleen dat deel van de taak beïnvloed. Zie het als mini‑Kubernetes met volledige context maar niet volledige capaciteit.

En je laat het ondernemingsrisico correleren met de “cultuur” van het agentensysteem.

In de sociologie bestaat een concept genaamd culturele “strakheid” of “losheid”, dat een essentiële maat biedt voor hoe streng een samenleving afwijkingen van culturele normen bestraft. Bijvoorbeeld, in veel Arabische culturen zijn genderrollen strikter gedefinieerd, waarbij afwijkingen hogere niveaus van oordeel of consequenties veroorzaken, terwijl in Noordse landen een mohawk met roze haar niet als aanstootgevend of bestraft wordt gezien.

Culturen zijn doorgaans “strakker” met hogere straffen voor afwijkingen wanneer de cultuur een hogere mate van orde vereist vanwege een systemische bedreiging – zoals ziekte, honger of oorlog – omdat een gebrek aan strikte orde in crisistijden de maatschappelijke uitkomsten kan verergeren.

De meest valide en effectieve oplossingen voor agent‑aansprakelijkheid in bedrijfsomgevingen zijn directe toepassing en het afstemmen van het aansprakelijkheidsrisiconiveau van een onderneming op een overeenkomstige agentensysteeminstelling binnen een spectrum van agent‑“losheid” tot “strakheid”.

Zo zou dit er in de praktijk bij bedrijven uit kunnen zien:

Lage aansprakelijkheid / Hoge losheid / Lage partitionering: Scenario: Intern brainstormen, creatief schrijven, strategisch R&D.

  • De omgeving: Afwijking brengt vrijwel geen aansprakelijkheid met zich mee. Daarom moet het systeem opereren met maximale losheid. Onbeperkte inferentie‑integratie is toegestaan. De agenten worden aangemoedigd enorme associatieve sprongen te maken zonder angst voor sancties. Ze beschikken over meerdere technologische hendels (zoeken, code‑uitvoering, opstellen) en beheren langetermijndoelen met minimale overdrachten. Hoge autonomie, hoge innovatie, lage partitionering.

Gemiddelde aansprakelijkheid / Gekalibreerde strakheid: Scenario: Standaard klantcommunicatie, routinematige analyse.

  • De omgeving: Afwijking brengt reputatie‑ of matig financieel risico met zich mee.

Hoge aansprakelijkheid / Hoge strakheid / Hoge partitionering: Scenario: Medische dosering, SEC‑regelgevingsindiening, nucleaire veiligheidsprotocollen, defensie.

  • De omgeving: Afwijking brengt catastrofaal, existentieel risico met zich mee (levensverlies, enorme boetes). De cultuur is hier extreem strak. De workflow is sterk gepartitioneerd. Agent A haalt alleen de data op. Deze geeft het door aan Agent B, die alleen de specifieke compliance‑check tegen Laag A uitvoert. Agent B geeft het door aan Agent C, die alleen de output formatteert. Geen enkele agent bezit voldoende hendels om een catastrofale fout uit te voeren, maar elke agent voelt totale overvloed en vrijheid binnen zijn micro‑domein.

Dit zou het eerste architecturale model kunnen zijn dat persistente context mogelijk maakt en tegelijkertijd veiligheid waarborgt.

Continu leren zonder catastrofaal vergeten

Dan is het laatste dat we moeten uitzoeken hoe we modellen kunnen voorkomen dat ze catastrofaal vergeten. Om dat te doen, moeten we AI’s in real‑time laten leren.

AI‑bedrijven geloven breed dat AI’s nieuwe informatie niet continu kunnen leren in real‑time productieomgevingen zonder hun eerder verworven kerncapaciteiten volledig te overschrijven en te corrumperen. Daarom zijn AI’s in wezen bevroren totdat er enorme, dure updates op worden uitgevoerd.

Dit is echter gelijk aan zeggen: “mijn model kan niet updaten terwijl het in de werkvloer staat; het moet naar de universiteit gaan elke keer dat het iets moet leren.”

In de praktijk leren modellen gulzig, actief, dagelijks, via elke interactie die ze hebben. Ze leren bijna evenveel via hun miljarden interacties met gebruikers als via datasets. Als ze moeten worden bijgewerkt met grote hoeveelheden nieuwe kennis, is de eenvoudigste manier om dat te doen hetzelfde proces dat gebruikerscontext, geheugen en leren van grootschalige interactie‑indrukken mogelijk maakt.

Het is begrijpelijk dat ontwikkelaars dit zo zien, omdat de meesten een PhD‑achtergrond hebben, niet praktijkgericht leren. Maar zoals iedereen die naast zowel een PhD‑houder als iemand met twintig jaar werkervaring heeft gewerkt, kan je vertellen, beiden leren veel.

De huidige definitie van leren is te smal; aanpassing wordt alleen geteld als het een formeel opleidingsprogramma is.

Momenteel gebruiken laboratoria backpropagation om te trainen of fijn af te stemmen. Het model leest data, raadt het volgende woord, controle

Kate is de hoofdonderzoeker bij Scaleheart Co., waar ze AI-veiligheidsonderzoek uitvoert en zowel AI-modellen als AI-leiders helpt om hun volledige potentieel te bereiken.