Yksityinen tekoäly tarvitsee työkuorman mukana kehittyvän infrastruktuurin

Kaksi vuotta sitten lähes jokainen yritys, jonka kanssa keskustelin, oletti tekoälyn tarkoittavan yhteydenottoa huippumalliin API:n kautta. Tämä oletus on murenemassa. Avoimien painojen mallit ovat kehittyneet riittävän hyviksi moniin päivittäisiin tehtäviin, ja yrityksen tekoälysovelluksen arvon perustana on yleensä yrityksen oma data, ei sovelluksen taustalla oleva malli. Kun yritykset ymmärtävät tämän, mallin pitäminen lähellä omaa dataa ja omassa hallinnassa on yksinkertaisesti järkevää.

Sitä yksityinen tekoäly tarkoittaa. Mallia käytetään omassa ympäristössä, sitä hienosäädetään omilla tiedoilla, ja yritys päättää, missä malli toimii ja mihin sillä on pääsy. Jos kyseessä on pankki tai lääkeyritys, omistusoikeudella suojattua tutkimustietoa tai asiakastietoja ei olisi koskaan ollut luontevaa tallentaa jonkun toisen vuokraamaan ympäristöön. Muille sysäyksen tähän suuntaan antavat päättelyn kustannukset mittakaavan kasvaessa sekä halu välttää riippuvuutta yhdestä palveluntarjoajasta asiassa, josta on tulossa liiketoiminnan keskeinen osa. Linux Foundationin tutkimuksen mukaan 63 % kyselyyn vastanneista yrityksistä käytti avointa tekoälymallia, mikä osoittaa, miten laajasti näitä vaihtoehtoja on jo otettu käyttöön.

Useimmat eivät ymmärrä, että kun malli siirretään oman organisaation sisälle, sen mukana tulee myös infrastruktuuri. Tarvitaan sähköä, jäähdytystä ja laskentatehoa, ja on ratkaistava, missä malli sijaitsee ja miten se yhdistyy kaikkeen muuhun. Aiemmin nämä olivat pilvipalveluntarjoajan murheita. Nyt ne ovat sinun murheitasi. Useimmat yritykset eivät ole aiemmin joutuneet tekemään tällaisia päätöksiä, ja teknologia kehittyy nopeammin kuin betonia ehditään valaa. Jos mitoitat kapasiteetin väärin, päädyt omistamaan kapasiteettia, joka ei sovi lopulta käyttöön tulevaan työkuormaan. Joustavuus on suunniteltava alusta lähtien. Olemassa olevan infrastruktuurin jälkiasennukset voivat olla kalliita silloin, kun ne ovat ylipäätään mahdollisia, ja jotkin palveluntarjoajat eivät yksinkertaisesti pysty niihin, koska niiden tiloja ei ole koskaan rakennettu näin suurelle tehotiheydelle.

Rakenna peruskapasiteetti, vuokraa lisäkapasiteettia kulutuspiikkeihin

Lähtökohtana kannattaa muistaa, ettei jokaiseen tehtävään tarvita suurinta mallia. Asiakirjojen tiivistäminen, tukipyyntöjen luokittelu ja kysymyksiin vastaaminen oman tietopohjan avulla ovat kaikki tehtäviä, jotka avoimien painojen malli voi suorittaa yksityisesti ennakoitavin kustannuksin. Säästä huippumallit töihin, joissa niitä todella tarvitaan.

Tämä kertoo, millainen infrastruktuurin pitäisi olla. Rakenna yksityistä kapasiteettia tasaiseen, viikoittain ennakoitavaan kysyntään. Vuokraa ulkopuolista kapasiteettia kulutuspiikkeihin ja raskaisiin tehtäviin, jotka ylittävät oman kapasiteettisi. Yritykset ovat järjestäneet laskentakapasiteettinsa näin jo pitkään, eikä tekoäly muuta peruslogiikkaa. Se vain kasvattaa peruskapasiteetin tehotiheyttä ja suurentaa huippujen vaihteluväliä.

Haasteena on mitoittaa peruskapasiteetti tarkasti ja saada yksityinen ympäristö ja vuokrattu ympäristö toimimaan yhtenä järjestelmänä. Kummallakin on oltava pääsy samoihin tietoihin, ja molempien on toimittava samojen hallintakäytäntöjen mukaisesti. Yritysten ei kuitenkaan pitäisi joutua rakentamaan putkistoa uudelleen aina, kun työkuorma siirtyy ympäristöstä toiseen.

Minne infrastruktuuri sijoitetaan?

Grafiikkasuorittimien ostaminen osoittautuu helpoksi päätökseksi. Sen jälkeen ne on sijoitettava jonnekin, niille on järjestettävä sähkönsyöttö ja jäähdytys, ja ne on liitettävä yrityksen muuhun infrastruktuuriin. Suurta tehotiheyttä vaativa tekoälylaitteisto ei sovellu tavalliseen yrityksen konesaliin ilman merkittäviä muutoksia sähkönsyöttö- ja jäähdytysjärjestelmiin, eikä se sovi kaikkiin yrityksen käytössä oleviin tiloihin. Uptime Instituten vuoden 2025 tekoälyinfrastruktuurikyselyssä 37 % vastaajista nimesi sähkön saatavuuden yhdeksi tärkeimmistä tekijöistä, jotka vaikuttavat siihen, missä tekoälyn päättelykuormia suoritetaan.

Useimmat yritykset päätyvät yhdistämään konesalihotellipalvelut ja pilvipalvelut. Ratkaiseva tekijä on yleensä data. Sitä on jo hajautettu useisiin paikkoihin, sen siirtäminen on kallista, ja säännellyillä toimialoilla osa siitä ei saa poistua maasta tai tietystä ympäristöstä. Kaiken keskittäminen yhteen rakennukseen grafiikkasuorittimien viereen kuulostaa siistiltä ratkaisulta, mutta sitä tapahtuu tuskin koskaan.

Kysymys ei siis ole vain siitä, missä laskenta sijaitsee. Kyse on myös siitä, miten laskenta saa tarvitsemansa datan turvallisesti ilman kustannusten ja monimutkaisuuden kasvattamista tavalla, jota kadut kolmen vuoden kuluttua. Tätä voi ajatella kolmantena murroksena. Ensimmäinen oli internet, ja yhteydet ratkaisivat sen haasteet. Toinen oli pilvi, jonka haasteet ratkaisi verkkoyhteenliitäntä: ohjelmistopohjainen yhdistäminen mahdollisti sen, että yritykset pystyivät muodostamaan yhteyden eri palveluntarjoajiin yhdestä sijainnista. Tekoäly on kolmas murros, eikä pelkkä verkkoyhteenliitäntä ratkaise sen haasteita. Se tarvitsee sähköä, ja paljon, samassa paikassa kuin verkkoyhteenliitäntä. Yksityisen tekoälyn onnistuneesti käyttöön ottavat yritykset sijoittavat laskentakapasiteetin sinne, missä sähkö ja yhteydet kohtaavat, sen sijaan että ne käsittelisivät niitä kahtena erillisenä hankintana.

Yksityisen tekoälyn yhteydet työkuormien muuttuessa

Agenttinen tekoäly tekee yhteyksistä entistä kiireellisemmän kysymyksen. Tavanomainen sovellus vastaanottaa kehotteen, kutsuu mallia ja palauttaa vastauksen. Agentti on jatkuvasti toiminnassa. Se kutsuu useita malleja, tekee kyselyjä useisiin järjestelmiin, hakee dataa sieltä, missä sitä kulloinkin on, ja siirtää tehtäviä muille agenteille. Jokainen tällainen siirtymä ylittää jonkin rajan, lisää viivettä ja herättää kysymyksen siitä, kenellä on oikeus päästä mihinkin.

Sijoitetaan nyt malli yhteen paikkaan ja data toiseen, ja asetetaan sääntö, jonka mukaan osan datasta on pysyttävä tietyssä maassa tai yksityisessä ympäristössä. Yritysten on voitava hallita näitä reittejä aidosti: mitkä järjestelmät pääsevät käsiksi mihinkin dataan, mitä tapahtuu työkuorman siirtyessä ja miten uusi malli liitetään mukaan häiritsemättä jo käynnissä olevaa toimintaa.

Siksi infrastruktuurin on oltava ohjelmoitavaa. Mallien, datan ja ympäristöjen väliset yhteydet pitäisi voida määrittää ja muuttaa ilman, että joka kerta tarvitaan erillinen suunnitteluprojekti. Yhä useammin määrityksiä ei tee ihminen. Model Context Protocolin eli MCP:n kaltaiset standardit tarjoavat agentille yhtenäisen tavan viestiä ympärillään olevien työkalujen ja järjestelmien kanssa. Jos agentti tarvitsee yhteyden uuteen tietolähteeseen tai uuteen malliin, se voi pyytää sitä aivan kuten se kutsuisi mitä tahansa muuta palvelua, samalla kun asianmukaiset käytännöt ja valvontamekanismit pysyvät voimassa. Tätä ohjelmoitava infrastruktuuri tarkoittaa käytännössä. Uusia malleja tulee saataville muutaman kuukauden välein. Uudet sovellukset tarvitsevat yhteyksiä, joita ei nykyään ole olemassa. Jos jokainen muutos edellyttää uudelleenrakentamista, menetät sen joustavuuden, jonka vuoksi valitsit yksityisen ympäristön.

Talouden saaminen toimimaan

Kapasiteetin oikea mitoitus on ratkaisevan tärkeää onnistumiselle, eikä kyse ole vain kokonaismäärästä. Yritykset, jotka onnistuvat tässä hyvin, ymmärtävät selkeästi niiden syöttämän sähkötehon ja tuottamiensa tokenien välisen suhteen. Tehon ja token-tuoton suhde on yksityisen tekoälyn talouden perusyksikkö. Kun tunnet sen omien työkuormiesi osalta, voit mitoittaa ympäristön luottavaisin mielin. Toinen tärkeä tekijä on pelivara. Uusia ominaisuuksia tulee markkinoille joka vuosineljännes, ja hyvin suunnittelevat yritykset jättävät aina tilaa tulevalle sen sijaan, että mitoittaisivat kaiken tämänhetkisen tarpeen äärirajoille. Paras suunnitelma yhdistää nämä kaksi asiaa. Tunne tehon ja token-tuoton taloudellinen suhde läpikotaisin ja suunnittele sen päälle järkevä marginaali.

Grafiikkasuorittimet ovat kuitenkin vain osa kustannuksista. Niiden sijoittamiseen tarvittavat tilat, jäähdytys, sähkönsyöttö ja liittäminen yrityksen muuhun toimintaan voivat maksaa yhtä paljon kuin laitteisto. Lisäksi tarvitaan henkilöstöä. Useimmat yritykset eivät ole koskaan ylläpitäneet tiheästi pakattua laskentaympäristöä, eikä tällaista osaamista hankita yhdessä vuosineljänneksessä.

Siksi peruskapasiteetti ja kysyntäpiikit ovat tärkeitä. Rakenna yksityiseen ympäristöön riittävästi kapasiteettia tavanomaista kuormitusta varten ja vuokraa lisäkapasiteettia, kun kysyntä ylittää sen. Näin vältät maksamasta laitteistosta, joka seisoo käyttämättömänä suurimman osan vuodesta. Säilytät myös mahdollisuuden muuttaa suuntaa mallien ja sovellusten muuttuessa, kuten ne tulevat muuttumaan.

Varautuminen tulevaan

Kaiken tämän taustalla on ajoitusongelma. Palvelinkeskuksen rakentaminen kestää noin kaksi vuotta. Kahden vuoden kuluttua mallit, laitteistot ja sovellukset, joita yritykset haluavat käyttää, ovat huomattavan erilaisia kuin nykyään. Kaikki, mihin sitoudut nyt, tulee palvelemaan työkuormia, joita kukaan ei vielä pysty täysin kuvailemaan.

Yritykset selvittävät yhä, mitkä työkuormat kuuluvat yksityiseen ympäristöön ja milloin ne tarvitsevat ulkopuolista kapasiteettia, ja tässä vaiheessa oleminen on täysin ymmärrettävää. Vältettävää on se, että sitoutuu infrastruktuuriin tavalla, joka vie päätösvallan ennen kuin ehdit tehdä päätöksen itse. Jätä tilaa erilaisille malleille, lisäkapasiteetille silloin kun sitä tarvitaan sekä työkuormien siirtämiselle.

Yksityisen tekoälyn pitkän aikavälin kannattavuus riippuu vähemmän valitsemastasi mallista ja enemmän siitä, pystyykö infrastruktuurisi mukautumaan tarpeidesi täsmentyessä. Rakenna ratkaisu tämänhetkiselle työkuormalle, pidä yhteydet ohjelmoitavina ja sijoita laskentakapasiteetti sinne, missä verkkoinfrastruktuuri ja sähkö kohtaavat.