Ajatusjohtajat
Yrityksesi muistin tulisi kestää pidempään kuin sen AI-mallit

Keskeiset kohdatTyöskentelykontekstisi elää jonkun toisen säilytysaikataulun ja julkaisutietojen…
Näytä lisää
- Työskentelykontekstisi elää jonkun toisen säilytysaikataulun ja julkaisutietojen alaisuudessa.
- Upotusmuutokset pakottavat korpuksen uudelleenkoodaukseen ja indeksin uudelleenrakentamiseen, kun taas generointimallin vaihdot pysyvät edullisina.
- Vuokraa laskenta, mutta pidä jokaisesta valmistuneesta työnkulusta auktoritatiivinen ja palautettavissa oleva tallenne.
Ihmiset kysyvät usein, mikä malli ohjaa yritystäni. Vastaus on merkittävä: se määrittää laadun, kustannukset ja rajoitukset, ja olen valmis käyttämään siihen tunnin. Haluan myös tietää toisen asian: mitä organisaatiolla on edelleen, kun malli vaihtuu.
Kuvittele se päivämääränä. Jos palveluntarjoajasi kaksinkertaistaisi hintansa tiistaina tai poistaisi käyttämäsi päätepisteen, mitä omistaisit vielä keskiviikon aamuna?
Monille yrityksille rehellinen vastaus on: API-avain, lasku ja erittäin pitkä keskusteluhistoria, joka sijaitsee jonkun toisen palvelimilla jonkun toisen säilytysaikataulun alaisena.
Taustani on kemia. Vietin vuosia rakentaen harmaalaatikkomalleja kemiallisille laitoksille, kytkettynä SCADA:han, laboratoriotuloksiin ja operaattorin omiin muistiinpanoihin. Tämä työ opettaa yhden säännön nopeasti: luku ilman sen ehtoja ei ole tulos. Jos joku vaihtoi anturin viime viikolla eikä kukaan kirjannut sitä, näytön lukema ei selitä mitään.
Se on laboratoriopäiväkirjaongelma. Se ilmenee nyt hankintaongelmana, ja se näkyy harvoin taulukossa, jossa AI-budjetti päätetään.
Kolme kysymystä, joihin vastataan kerralla
Suurempi kontekstialue antaa mallin käyttää enemmän tietoa yhdessä pyynnössä. Kestävä tallennus määrittää, mikä säilyy pyyntöjen välillä. Siirrettävyys määrittää, pysyykö tieto käyttökelpoisena, kun palveluntarjoaja vaihtuu. Nämä ovat erillisiä arkkitehtuurikysymyksiä, ja miljoona‑tokenin ikkuna kannusti kaikkia käsittelemään ne yhtenä.
Google:n oma dokumentaatio tarjoaa vertauksen suoraan: “Kontekstialueen analogia on lyhytkestoinen muisti.” Ota se kirjaimellisesti. Lyhytkestoinen muisti on se, mitä menetät.
Joten jokainen toimittaja, joka myy valtavan ikkunan, myy myös erillisen ratkaisun tilan säilyttämiseen. Lue nämä kerrokset tarkasti, niiden omilla sanoilla, ja huomaa, mitä kukin todella kattaa.
OpenAI tallentaa Response-objekteja oletuksena 30 päivän ajan; Keskusteluobjektit ja niiden kohteet ovat poikkeuksia tästä TTL:stä. Amazonin 30 päivän poistaminen koskee Bedrock Session Management API:a, ja kattaa vain kyseisen API:n. Anthropicin asiakaspuolen muistityökalu havainnollistaa hyödyllisen rajan: malli pyytää muistitoimintoja, sovellus hallitsee tallennusta, kun taas sama yritys toimittaa myös hallinnoidut muistivarastot sen isännöimille agenteille.
Kaikki nämä ovat tavallisia insinööripäätöksiä, jotka on julkaistu avoimesti. Ne tarkoittavat myös sitä, että yrityksesi työympäristön säilytyssäännöt elävät jonkun toisen julkaisumuistiinpanoissa, ja sinun tulisi pystyä nimeämään, mikä sääntö koskee mitäkin dataasi.
Missä vaihtokustannus todellisuudessa piilee
Yhden tekstigeneraattorikutsun vaihtaminen toiseen kestää viikonlopun. Siksi “olemme monimallisia” on niin halpa sanonta. Kalliit kerrokset ovat ne, joita kukaan ei demonstroi.
Upotukset. Upotusmallin vaihtaminen vaatii tyypillisesti korpuksen uudelleenupottamisen ja indeksin siirtämisen tai uudelleenrakentamisen. Sen sijaan generointimallin vaihtaminen ei vaadi tällaista, ja nämä kaksi asiaa sekoitetaan jatkuvasti — yleensä sen toimesta, joka lupaa nopean migraation. Vuoden 2025 kirjallisuus kuvaa vakiopolun seuraavasti: “koko korpuksen uudelleenkoodaus ja Approximate Nearest Neighbor (ANN) -indeksin uudelleenrakentaminen, mikä johtaa merkittävään operatiiviseen häiriöön ja laskentakustannuksiin”; kyseisen paperin oma kontribuutio, Drift-Adapter, on menetelmä lykätä uudelleenrakentamista oppimalla muunnoksen upotusavaruuksien välillä. Joka tapauksessa migraatiokustannus kattaa hakutulosten validoinnin ja operatiivisen työn sekä itse upotuskutsut.
Hienosäädetty käyttäytyminen. Yksi lause Coheren syyskuun 2025 käytöstäpoistoilmoituksesta kuuluu jokaisen hankintapöydän yläpuolelle: “Aikaisemmin hienosäädetyt mallit eivät enää ole käytettävissä.” Käyttäytyminen, josta maksoit luodaksesi, poistui yhdessä sen isännöimän päätepisteen kanssa. Kaikki noudattivat julkaistua prosessia. Mallisi kuitenkin katosi.
Kehote- ja työkalukäyttäytyminen. Samat ohjeet tuottavat erilaisen sovelluksen eri mallilla. Yhdessä yrityssovelluksessa tutkijat raportoivat regressiotestin läpäisyasteen laskeneen alkuperäisestä mallista 100 %:sta 97,3 %:iin uudessa mallissa, jossa oli samat kehotteet, ja se palautui vain tarkoituksellisen kehotemuokkauksen jälkeen. Testiskenaariot ilmestyvät tuotantoon omilla taajuuksillaan, joten tämä luku ei anna arviota siitä, kuinka usein reaaliaikaiset työnkulut epäonnistuvat. Operatiivinen sääntö, jota se tukee, on yksinkertaisempi: validoi jokainen mallipäivitys sovellustasolla itse, ennen kuin se saavuttaa asiakkaan.
Kaikki tämä päätyy lopulta laskuun, kauan sen jälkeen, kun hintasivut on vertailtu.
Joku muu pitää kalenteriasi hallussaan
Vanheneminen tapahtuu julkisesti julkaistun aikataulun mukaisesti, eivätkä aikataulut ole sinun hallussasi. OpenAI antoi vuoden varoitusajan ennen Assistants API:n sulkemista elokuussa 2026 – mikä on antelasta samassa sivussa asetettujen standardien mukaan, jossa GPT-4.5 Preview sai noin kolme kuukautta. Mistralin käytäntö on kuusi kuukautta GA-malleille ja yksi kuukausi esikatselu- ja kolmannen osapuolen malleille, varoituksella että jatkuva alias “voi altistaa sinut hiljaisille päivityksille mallin käyttäytymisessä ja hinnoittelussa.”
AWS sanoo hiljaisen osan ääneen elinkaarikäytännössään: “Siirry aktiiviseen malliin ennen EOL-päivämäärää; migraatio ei tapahdu automaattisesti.”
Tiekartallasi on yhteiskirjoittaja. Se ei koskaan osallistu suunnittelukokouksiisi eikä välitä siitä, missä neljänneksessä olet.
Myös hinta on liikkuva osa
Gemini 3.7 Flashin ilmoitettujen standardihintojen mukaan viisi miljardia välimuistiin tallentamatonta syötetokenia ja yksi miljardi laskutettua tulostokenia maksavat 7 500 $ kuukaudessa. Tällä hetkellä suunnitellut hinnat 1. tammikuuta 2027 varten nostaisivat token-laskun 15 000 $:iin, ennen muita maksuja tai alennuksia, kun tuotteesi tekee täsmälleen samoin kuin ennen.
Jäädytetty hintalista voi myös aiheuttaa suuremman laskun. Anthropicin hinnoitteludokumentaatio huomauttaa, että sen uusimpien mallisukupolvien käyttämä tokenisoija “tuottaa noin 30 % enemmän tokenia samasta tekstistä” – sisällöstä riippuvaista ja kyseisiin generaatiotyyppeihin spesifistä – mikä tekee vaikutuksesta kullekin laskulle mittaamisen tarpeelliseksi. Joten mittaa tokenit, joista sinua laskutetaan. Pelkkä hintakortti ei kerro sinulle mitään.
Tuotteelle, joka suorittaa työnkulkuja, hyödyllinen taloudellinen mittari on onnistuneesti suoritettujen tehtävien kustannus, mukaan lukien uudelleenyritökset ja ihmisen tarkistus. Tämä luku muuttuu, kun malli muuttuu, vaikka hintakortti pysyisikin samana.
Eikä mikään tästä ole neuvoteltavissa tilanteessa, jossa poistuminen vie vuoden. Capgemini kysyi 1 300 johtajalta miljardin dollarin organisaatioissa keväällä 2026 koskien kriittisiä teknologiatoimittajia yleisesti: 36 % sanoi, että yhden toimittajan vaihtaminen veisi yli kaksitoista kuukautta, ja yhdellä kymmenestä ei ollut lainkaan kelvollista vaihtoehtoa. Tämä on kuvaus toimittajasuhteesta ilman toista lähdettä.
Vie se hankintaan
Johdan ranskalaista yritystä, joka on rekisteröity Marseillessa ja isännöity Euroopassa, ja jätän silti suvereniteettipuheen abstraktina. Täydellinen riippumattomuus kaikista teknologiatoimittajista on tavalliselle yritykselle saavuttamaton. Sama Capgemini-tutkimus havaitsi, että 59 % johtajista pitää täyttä digitaalista suvereniteettia epärealistisena, ja olen samaa mieltä heidän kanssaan.
Kriittisten riippuvuuksiesi ymmärtäminen ja hallinta on pienempi, mutta mahdollinen tehtävä. Kolme kysymystä, joihin voidaan vastata kokouksessa: missä tietomme tallennetaan ja käsitellään, kuka voi käyttää niitä, ja mitä vaaditaan, jotta toiminta voidaan pitää yllä toisen toimittajan kanssa?
Jokainen yritys tietää, miten kysyä tästä logistiikasta, maksamista ja pilvitallennuksesta. Kun kysytään työympäristöstä, eurooppalainen riippuvuus nousee kokouksessa toisen lähteen keskusteluksi numeron kera, mikä on muoto, johon hankinta voi reagoida.
Yksi varoitus lainattuihin lukuihin täällä. Se, että yritys käyttää useita malleja, kertoo meille vähän siitä, pystyykö se siirtämään työympäristönsä toimittajalta toiselle. Tämä vaatii erillisen testin: voidaanko tiedot, oikeudet ja keskeneräiset työt siirtää ja edelleen käyttää?
Mitä oikeastaan tekee mallista vaihdettavan
Yhteinen rajapinta mallien välillä on hyödyllinen, ja rakentaisin sellaisen. Sen tulisi tehdä mallikohtaiset ominaisuudet ja riippuvuudet näkyviksi. Siirrettävyys ei saa esittää, että kaikki mallit käyttäytyvät samalla tavalla, ja abstraktio, joka tasoittaa erot hiljaisesti, poistaa pois syyn, miksi maksoit hyvästä mallista.
Raskaampi työ on hallita tilaa, jonka ainoa ylläpitäjä yksikään toimittaja ei saisi olla. Neljä asiaa, siinä järjestyksessä, jossa ne rikkoutuvat.
Luotettava perustietue hallinnassasi. Viestejä, haettuja lähteitä, hyväksyntöjä, suorituskohtia. Tallenna, mitä on suoritettu ulkoisissa järjestelmissä ja mitä voidaan turvallisesti yrittää uudelleen: sähköposti saattaa olla lähetetty, kun vahvistus ei tallentunut, ja palautusmenettely, joka ei tiedä tätä, lähettää sen kahdesti. Kaikki toimittajan tila, jota et voi rekonstruoida, on riippuvuus. Kirjaa se yhdeksi, selvästi, ennen kuin tapaus tekee dokumentoinnin puolestasi.
Lähde jokaisen vektorin rinnalla. Vektori on koottu artefakti; lohko on lähdekoodi. Tallenna lähdedokumentti ja sen versio, dokumentin tunniste, lohkojen rajat, tekstin lohkojakajan versio, upotusmalli versioineen ja ulottuvuuksineen, indeksointiversio, sekä mikä prosessi loi tekstin. Pelkkä tallennettu tekstikatkelma ei rekonstruoi taulukkoa, kuvaa tai OCR-tulosta. Kaiken tämän säilyttäminen muuttaa uudelleenindeksoinnin suunnitelluksi migraatioksi, mikä on yhtä paljon lohdutusta kuin lupaisin.
Tietueet, jotka erottavat lähteen, päätelmän ja päätöksen.Muistin on erotettava, mitä lähde sanoi, mitä malli päätteli ja mitä henkilö hyväksyi. Asiakas, joka lupaa maksaa torstaina, mallin arvaus, että maksu viivästyy, ja sovittu pidennys perjantaille ovat kolme erilaista tietuetta, joilla on kolme erilaista tilaa, ja järjestelmän on tiedettävä, mihin sillä on oikeus toimia. Jokainen tarvitsee alkuperänsä, laajuutensa, käyttöoikeussäännöt ja nykyisen tilansa, mukaan lukien onko se korjattu tai korvattu. Transkriptissä voi hyvin olla todisteet; sen toistaminen ei luotettavasti kerro, mitkä johtopäätökset ovat edelleen ajankohtaisia ja mitkä päätökset edelleen pätevät.
Siirrettävyys, jonka olet todella testannut.Tee siitä testattava kahdella tavalla: vienti‑ja‑palautus‑harjoitus sekä arviointikokonaisuus, joka määrittelee, mitä sovelluksen on saavutettava. Sitten “voisimme vaihtaa” muuttuu mittaukseksi, jonka joku voi suorittaa: pystyykö korvaava ratkaisu jatkamaan edustavia työnkulkuja laatua, käyttöoikeuksia, viivettä ja kustannuksia koskevien vaatimustesi sisällä? Ja säilytä koulutusdata, jota sinulla on oikeus käyttää uudelleen, yhdessä sen versioiden, hienosäätöasetusten ja hyväksymistestien kanssa. Ne mahdollistavat uudelleenkoulutuksen ilman takuita identtisestä käyttäytymisestä, ja hienosäädetyn mallin ID vanhenee päivänä, jonka on asettanut joku, jota et ole koskaan tavannut.
Sen jälkeen käytä isännöityjä istuntoja, kehotteiden välimuisteja ja tarjoajan hakua missä tahansa ne auttavat. Ne ovat usein erinomaisia, ja niiden kieltäminen periaatteesta on oma hintansa. Vaatimus on, että niiden hallussa olevat tietueet voidaan palauttaa ja käyttää muualla niiden käyttö- ja säilytyssääntöjen säilyessä. Vuokraa laskenta; pidä tietueen hallinta.
En myöskään ylikorosta arkkitehtuuria. Ennen kuin tuote löytää markkinapaikkansa, kuusi viikkoa aikaisemmin julkaiseminen voittaa usein minkä tahansa abstraktiokerroksen, ja startup, joka rakentaa kolme hakutaustajärjestelmää ennen kuin sillä on asiakkaita, on rakentanut museon. Onko tuo kauppa oikea, riippuu tuotteesta ja lopullisen uudelleenrakentamisen hinnasta. Pidä raaka-aine palautettavana, ja oikotie pysyy oikotienä.
Muutettu osa
Kun AI vain vastasi kysymyksiin, kontekstin menettäminen oli vain vaiva. Kirjoitit kehotteen uudelleen ja jatkoit. Nyt se varaa tapaamisen, luo tukipyynnön ja koskettaa CRM-järjestelmää, ja puuttuva konteksti johtaa päällekkäiseen tai keskeneräiseen työhön asiakkaidesi järjestelmissä.
Mallitoimittajat rakentavat poikkeuksellisia ratkaisuja, ja käytän niitä päivittäin. Vastuu, jota kuvaan, kuuluu meille, jotka rakennamme välikerroksia: riippuvuuksien tekeminen näkyviksi ja luotettavan tietueen säilyttäminen siitä, mitä on valtuutettu ja mitä on toteutettu.
Jokaisen valmiin työnkulun tulisi jättää organisaatiolle jotain, mitä se voi käyttää uudelleen — vahvistettu tulos, päätös, jolla on jäljitettävä historia, selkeämpi lähtökohta seuraavalle tehtävälle. Tämän kertyneen arvon tulisi kestää pidempään kuin malli, joka auttoi sen luomisessa.
Kysy, mitä omistaisit vielä keskiviikon aamuna.












