Denise Muyco, RAVELin kanssaperustaja ja toimitusjohtaja – haastattelusarja

Denise Muyco on RAVELin kanssaperustaja ja toimitusjohtaja. Hän johtaa yhtiössä monimutkaiseen laskenta- ja tekoälyinfrastruktuuriin tarkoitettujen orkestrointiohjelmistojen kehitystä. Koulutukseltaan insinööri, hän on työskennellyt uransa aikana sähköinfrastruktuurin, prosessien optimoinnin, digitaalisen median, datakeskusten ja virtuaalistudioiden parissa. Ennen keskittymistään tekoälyyn hän osallistui jaetun suurteholaskentainfrastruktuurin kehittämiseen Vancouverin visuaalisten tehosteiden yhteisölle, minkä ansiosta noin 30 studiota sai käyttöönsä laskentakapasiteettia ja suojatut verkkoyhteydet. Kokemus muovasi hänen tapaansa koordinoida kalliita ja rajallisia resursseja. RAVELissa hän soveltaa järjestelmätekniikan näkökulmaa työkuormien sijoitteluun, infrastruktuurin käyttöasteeseen, yhteentoimivuuteen sekä hajautettujen ja suvereenien tekoäly-ympäristöjen kasvaviin tarpeisiin.

RAVEL kehittää ohjelmistoja, joiden avulla organisaatiot voivat ottaa käyttöön, hallita ja skaalata laskenta- ja tekoälytyökuormia pilvi-, paikallis- ja hybridi-infrastruktuureissa. Sen tuotteisiin kuuluvat RAVEL Orchestrate suurteholaskentaan tarkoitetuille virtuaalisille työasemille, RAVEL Orchestrate AI työkuormien automatisointiin ja optimointiin sekä Boost ohjelmistolisensointiin ja telemetriaan. Yhtiön työkalut yhdistävät infrastruktuurin, sovellukset, virtualisoinnin ja tietoturvan sekä tarjoavat keskitetyt hallintatoiminnot ja näkyvyyden toimintaan. RAVEL palvelee datakeskuksia, palveluntarjoajia, yritysten IT-tiimejä, tekoälyn tutkimusryhmiä ja luovia studioita. Digitaalisen sisällöntuotannon juurilleen rakentaen yhtiö keskittyy monimutkaisten ympäristöjen yksinkertaistamiseen ja auttaa tiimejä hyödyntämään käytettävissä olevaa infrastruktuuriaan tehokkaammin.

Perustit RAVELin työskenneltyäsi vuosia tekniikan, mediainfrastruktuurin ja hajautetun laskennan parissa. Mikä sai sinut lopulta perustamaan yhtiön, ja miten RAVELin missio on kehittynyt sen jälkeen, kun generatiivinen tekoäly on kasvattanut laskentakapasiteetin kysyntää huomattavasti?

Olen koulutukseltani insinööri, ja olen työskennellyt sähkön, laskennan ja infrastruktuurin risteyskohdassa jo kauan ennen nykyistä tekoälybuumia. Urani alkuvaiheessa suoritin harjoittelun ydinvoimalassa, ja myöhemmin työni median ja visuaalisten tehosteiden parissa tutustutti minut grafiikkasuorittimiin, suuriin laskentatarpeisiin ja fyysisen infrastruktuurin rajoitteisiin.

Noin 16 vuotta sitten Vancouverin kasvava visuaalisten tehosteiden ala törmäsi näihin rajoitteisiin suoraan. Studiot tarvitsivat valtavasti suurteholaskentakapasiteettia käsitelläkseen eli renderöidäkseen yhä monimutkaisempaa elokuva- ja televisiosisältöä arvokkaisiin tuotantoihin, mutta harvalla oli perusteita rakentaa riittävästi omaa infrastruktuuria huippukysynnän kattamiseksi suojatussa ympäristössä. Myös sähköstä oli tulossa rajoittava tekijä. Kehitimme jaetun infrastruktuurin, jonka ansiosta noin 30 studiota sai käyttöönsä suurteholaskentaa sekä suojatut, suuren kaistanleveyden verkkoyhteydet.

Infrastruktuurin jakaminen ratkaisi yhden ongelman mutta loi toisen: miten kalliit ja rajalliset resurssit voidaan jakaa tehokkaasti eri organisaatioiden ja työkuormien kesken? Tämä kokemus johti lopulta RAVELin lähestymistapaan, jossa infrastruktuuria orkestroidaan älykkäästi.

Tekoäly on samasta perustavanlaatuisesta haasteesta paljon suurempi versio, johon liittyy huomattavasti enemmän monimutkaisuutta ja pääomaa. Työkuormat ja infrastruktuuri ovat muuttuneet, mutta tarve saada kalliit ja rajalliset resurssit toimimaan yhdessä tehokkaasti on vain kasvanut.

Ennen RAVELia autoit perustamaan konsortion, johon kuului noin 30 Vancouverin studiota, äänilavaa, tuotantoyhtiötä ja visuaalisten tehosteiden yritystä. Ne pystyivät jakamaan suurteholaskentainfrastruktuurin käyttömahdollisuuden. Mitä kokemus opetti sinulle hajautetusta laskennasta, ja mitä yhtäläisyyksiä näet Hollywoodin silloisten renderöintihaasteiden ja tekoälyalan nykyisten infrastruktuurihaasteiden välillä?

Työni visuaalisten tehosteiden alan parissa opetti, että infrastruktuurin rakentaminen ja määrittäminen oli vasta puolet ongelmasta. Kallista laskentakapasiteettia piti jakaa turvallisesti ja käyttää tehokkaasti, ja samalla laajemman infrastruktuurin – mukaan lukien suurten tiedostojen siirtämiseen kykenevän suojatun verkon – oli toimittava saumattomasti. Työkuormat piti aikatauluttaa, kapasiteetti jakaa ja valtavia tietomääriä siirtää, samalla kun tuotantotiimit tavoittelivat yhä kunnianhimoisempia tuloksia tiukkojen budjettien ja määräaikojen puitteissa. Infrastruktuuria piti optimoida jatkuvasti käyttöasteen ja suorituskyvyn parantamiseksi.

Tekoäly on samasta perustavanlaatuisesta haasteesta paljon suurempi versio. Organisaatiot investoivat voimakkaasti infrastruktuuriin, mutta kapasiteetin lisääminen ei yksin takaa, että kalliita resursseja käytetään tehokkaasti. Tekoälyinfrastruktuuri hajautuu yhä useammin eri sijainteihin, palveluntarjoajille ja ympäristöihin sähkönsaannin, kapasiteetin, tietoturvan, talouden, maantieteen, sääntelyn ja suvereniteettivaatimusten vuoksi. Renderöinti ja tekoäly voivat olla hyvin erilaisia työkuormia, mutta niillä on yhteinen, tärkeä infrastruktuuriin ja ekosysteemiin liittyvä haaste: molemmat edellyttävät, että suurteholaskenta, verkkoyhteydet, tietoturva ja tallennus toimivat tehokkaasti yhdessä.

Tekoälyinfrastruktuurin monimutkaistuessa pelkkä laskentakapasiteetin lisääminen ei ratkaise toiminnallista haastetta, joka liittyy kapasiteetin tehokkaaseen hyödyntämiseen. Tässä orkestrointi ja laajempaa infrastruktuuriekosysteemiä ohjaavat käytännöt nousevat ratkaisevaan asemaan. Yhdessä ne auttavat organisaatioita hyödyntämään kalliita ja rajallisia resursseja paremmin sekä koordinoimaan työkuormia yhä hajautetummissa ympäristöissä.

RAVEL kuvailee itseään hajautettujen tekoälytehtaiden orkestrointikerrokseksi. Mitä ”tekoälytehdas” sinulle tarkoittaa, ja mitä infrastruktuuripinosta tällä hetkellä puuttuu, jotta orkestrointikerrosta tarvitaan?

Näen tekoälytehtaan kokonaisuutena, johon kuuluu paljon muutakin kuin grafiikkasuorittimet ja suorituskykyiset klusterit: se on integroitu infrastruktuuriekosysteemi, joka yhdistää laskennan, verkkoyhteydet, tallennuksen, tietoturvan, sähkötehon, jäähdytyksen ja tekoälykuormien suorittamiseen tarvittavat operatiiviset kerrokset. Tekoälytehtaat kehittyvät erillisistä klustereista toisiinsa yhteydessä olevien resurssien ekosysteemeiksi, jotka ulottuvat useisiin toimipaikkoihin ja alueisiin. Tällaista kokonaisuutta on yhä vaikeampi hallita manuaalisesti tai toisistaan irrallisilla erillisratkaisuilla. Orkestrointikerros ratkaisee ongelmaa koordinoimalla pinon monimuotoisia ja monimutkaisia osia sekä piilottamalla osan taustalla olevasta monimutkaisuudesta. Näin infrastruktuuria on operaattoreiden helpompi hallita yhtenä koordinoituna järjestelmänä.

Organisaatiot muokkaavat olemassa olevia datakeskuksia tekoälyn käyttöön, vaikka monia niistä ei alun perin suunniteltu vastaamaan nykyisten tekoälykuormien vaatimuksiin. Tekoälyn infrastruktuurissa on nykyään rakenteellinen ristiriita, joka kiteytyy kolmeen keskeiseen ongelmaan. Ensimmäinen on sähkönsaanti eli sellaisen sijainnin löytäminen, jossa on riittävästi luotettavaa sähköä kuormien suorittamiseen laajassa mittakaavassa. Toinen on ekosysteemin pirstoutuneisuus: tekoälypinot jakautuvat usein erillisiin ympäristöihin, joita ei ole suunniteltu toimimaan yhdessä. Kolmas ongelma on puutteellinen näkyvyys toiminnan ja omistamisen kokonaiskustannuksiin, mikä voi hämärtää tekoälyinfrastruktuurin todellisia kustannuksia. Tämän seurauksena kuormia ei ehkä optimoida, laitteisto voi jäädä vajaakäyttöön ja odottamattomat operatiiviset kulut voivat kasvattaa kokonaisomistuskustannuksia ja lopulta nostaa token-kustannuksia.

Tekoälyinfrastruktuuri jakautuu yhä laajemmalle hyperskaalapilviin, yksityisiin datakeskuksiin, paikallisiin järjestelmiin ja erikoistuneille grafiikkasuoritinpalveluntarjoajille. Mitä suurimpia haasteita organisaatiot kohtaavat yrittäessään hallita tekoälykuormia näissä erilaisissa ympäristöissä?

Tekoälyinfrastruktuurin kilpajuoksua ovat viime vuosina ohjanneet yksinkertaiset oletukset: rakennetaan suurempaa. Suurempia datakeskuksia. Suurempia klustereita. Lisää grafiikkasuorittimia. Lisää kapasiteettia. Suurempaan rakentamiseen perustuva malli törmää kuitenkin yhä useammin fyysisiin, taloudellisiin ja sääntelyyn liittyviin rajoitteisiin.

Sähkönsaanti on rajallista. Sähköverkkoon liittyminen vie aikaa. Taloudelliset tekijät, maantiede ja suvereniteetti vaikuttavat yhä enemmän siihen, minne infrastruktuuria voidaan ja kannattaa rakentaa. Uutena haasteena ei ole pelkästään se, miten tekoälyinfrastruktuuria rakennetaan lisää, vaan se, miten oikeanlaista infrastruktuuria rakennetaan oikeisiin paikkoihin ja saadaan kaikki nämä ympäristöt toimimaan koordinoituna järjestelmänä. Tämä on erityisen vaikeaa, kun kapasiteetti jakautuu hyperskaalapilviin, yksityisiin datakeskuksiin, paikalliseen infrastruktuuriin ja erikoistuneille palveluntarjoajille, joiden järjestelmiä ei välttämättä ole suunniteltu toimimaan yhdessä.

Sähkönsaanti on näistä rajoitteista merkittävin. Sähkön saatavuus ratkaisee yhä useammin sen, minne tekoälyinfrastruktuuria ylipäätään rakennetaan.

Tässä federointi on ratkaisevan tärkeää. Se yhdistää eri ympäristöissä olevan infrastruktuurin yhteiseksi toimintaympäristöksi. Älykäs orkestrointi määrittää sen jälkeen, missä kuormia kannattaa suorittaa kapasiteetin, sähkötehon, suorituskyvyn, kustannusten, käytäntöjen, häiriönsietokyvyn ja suvereniteetin perusteella.

Kun tekoälyinfrastruktuuri leviää yhä laajemmalle eri toimipaikkoihin ja palveluntarjoajille, kilpailuetua ei enää saavuteta pelkästään omistamalla enemmän kapasiteettia. Ratkaisevaa on saada kapasiteetti toimimaan yhdessä. Federointi luo infrastruktuurimallin tätä uutta todellisuutta varten, ja älykäs orkestrointi mahdollistaa mallin käytännön toteutuksen laajassa mittakaavassa.

Tätä mallia yksi asiakkaistamme, RT-One, Latinalaisen Amerikan suurimpien tekoälyteknologiapuistojen ja datakeskusten kehittäjä, toteuttaa suunnitellessaan federoitua infrastruktuuria Amerikan mantereelle: se yhdistää hajautetun kapasiteetin, jotta sitä voidaan lopulta hallita yhtenä koordinoituna ympäristönä.

Grafiikkasuorittimien niukkuus on saanut valtavasti huomiota, mutta kiihdyttimien määrän lisääminen ei välttämättä lisää käyttökelpoista tekoälyn laskentatehoa. Missä näet tämän päivän tekoälyinfrastruktuurin suurimmat tehottomuuden lähteet, ja kuinka paljon lisäkapasiteettia yritykset voisivat saada käyttöönsä paremmalla orkestroinnilla?

Tekoälyinfrastruktuurin kilpajuoksussa on keskitytty voimakkaasti siihen, kuinka monta gigawattia uutta kapasiteettia suunnitellaan rakennettavaksi ja kuinka paljon pääomaa sen rakentamiseen aiotaan sijoittaa. On houkuttelevaa nähdä tekoälyn infrastruktuuriongelma pelkkänä grafiikkasuorittimien tai kapasiteetin puutteena, mutta tällainen tulkinta sivuuttaa sen, missä tehottomuus todella piilee. On tärkeää huomata, ettei suunniteltu kapasiteetti ole sama asia kuin käyttökelpoinen kapasiteetti.

Grafiikkasuoritinklusterit voivat näyttää olevan täyteen varattuja, mutta kalliit grafiikkasuorittimet voivat silti seistä käyttämättöminä, jos suorituskyvyn pullonkauloja ilmenee muualla pinossa. Pullonkauloja voivat aiheuttaa esimerkiksi tallennuksen tiedonsiirtonopeus, datan käsittelyputket, verkon ruuhkautuminen, töiden ajoituksen tehottomuus, tietoturvavaatimukset sekä arkkitehtuurin, sovellusten, ajureiden ja riippuvuuksien yhteensopimattomuus. Grafiikkasuorittimien lisääminen ei aina lisää käyttökelpoista laskentatehoa.

Lisäinfrastruktuuri ei automaattisesti tehosta toimintaa. Monissa tapauksissa se luo lisää siiloja ja kasvattaa samalla kustannuksia.

Organisaatiot tarvitsevat enemmän näkyvyyttä ja hallintamahdollisuuksia, jotta ne voivat parantaa resurssien käyttöastetta, automatisoida infrastruktuuria koskevia päätöksiä ja sovittaa työkuormat paremmin käytettävissä oleviin resursseihin ja liiketoiminnan prioriteetteihin. Parempi näkyvyys ja hallinta voivat auttaa muuttamaan infrastruktuuriresurssien kokoelman koordinoidummaksi toimintaympäristöksi. Orkestroinnilla vapautettavalle kapasiteetille ei ole tarkkaa tai yleispätevää lukua, sillä jokaisella työkuormalla on omat vaatimuksensa. Yksi asia on kuitenkin selvä: käyttämättä jäävään tai vajaakäytössä olevaan kapasiteettiin ei vastata pelkästään ostamalla tai rakentamalla lisää.

RAVEL on painottanut infrastruktuurin, virtualisointiteknologioiden, identiteetinhallintajärjestelmien ja sovellusten yhteentoimivuutta. Miksi yhteentoimivuus on erityisen tärkeää, kun tekoälytyökuormat monimutkaistuvat ja hajautuvat?

Infrastruktuurin monimuotoistuessa organisaatiot tarvitsevat joustavuutta, jotta ne voivat hyödyntää erilaisia teknologioita ja ympäristöjä luomatta uusia erillisiä infrastruktuurisiiloja. Yhteentoimivuuden ansiosta eri toimittajien ja ympäristöjen laskenta-, tallennus- ja verkkoratkaisut sekä sovellukset toimivat yhdessä, mikä säilyttää valinnanvapauden infrastruktuurin kehittyessä. Yhteentoimivuus ei kuitenkaan yksin määritä, miten näitä resursseja tulisi käyttää.

Tässä kuvaan astuu orkestrointi: se koordinoi, missä työkuormat suoritetaan, miten ne siirtyvät ja miten käytäntöjä valvotaan eri ympäristöissä. Tekoälyinfrastruktuurin hajautuessa ja federoituessa yhä enemmän yhteentoimivuus tuo joustavuutta eri teknologioiden käyttöön, kun taas orkestrointi muuttaa nämä resurssit koordinoiduksi toimintaympäristöksi.

RAVEL Orchestrate AI tarjoaa yhteisen orkestrointikerroksen laskenta-, tallennus- ja verkkoratkaisuille sekä muille infrastruktuuriteknologioille. Se koordinoi tekoälytyökuormia pilvi-, paikallisissa ja hybridiympäristöissä.

Datansuvereniteetista on tulossa tärkeä kysymys tekoälyä käyttöön ottaville hallituksille ja yrityksille. Miten suvereenin tekoälyinfrastruktuurin kasvu muuttaa organisaatioiden tapaa ajatella työkuormien sijoittelua, datan siirtämistä, tietoturvaa ja orkestrointia?

Suvereeni tekoäly on nyt strateginen prioriteetti. Sen myötä nousee esiin perustavampi kysymys: mitä suvereenius oikeastaan tarkoittaa? Keskustelussa on keskitytty pitkälti datan sijaintiin, mutta mielestäni tämä määritelmä on liian kapea.

Määrittelen suvereenin tekoälyn valtion, yrityksen, viranomaisen tai muun organisaation kykynä säilyttää käytäntöjen määrittelemä määräysvalta tekoälytyökuormiinsa – mukaan lukien niitä koskevaan dataan, malleihin, laskentainfrastruktuuriin, käyttöoikeuksiin, tietoturvaan, toimintaan ja lainkäyttöalueeseen. Suvereenius ei välttämättä tarkoita, että jokaisen työkuorman on pysyttävä yhdessä datakeskuksessa tai edes yhden organisaation omistamassa infrastruktuurissa. Sen sijaan organisaatio määrittää, missä työkuorma saa toimia, missä sen data saa sijaita tai minne sitä saa siirtää, kenellä on siihen pääsy, millä infrastruktuurilla sitä saa suorittaa sekä mitä tietoturvaan, sääntelyyn, maantieteelliseen sijaintiin, toimintaan ja liiketoimintaan liittyviä käytäntöjä on aina noudatettava. Tämä työkuormakeskeinen määritelmä vastaa alan laajempaa kehityssuuntaa, jossa suvereenius ymmärretään koko tekoälyympäristön hallinnaksi eikä pelkästään datan sijainniksi.

RAVELin lähestymistapa erottuu erityisesti silloin, kun suvereeni tekoäly yhdistyy federaatioon. RAVEL Orchestrate AI voi käsitellä suvereniteettivaatimuksia orkestrointi- ja käytäntökerroksen rajoitteina: työkuorma voi soveltua suoritettavaksi usean toimipisteen, pilvipalvelun, datakeskuksen, reunalaskentakohteen tai muun infrastruktuurin muodostamassa federaatiossa, mutta vain niillä resursseilla, jotka täyttävät kyseisen työkuorman suvereniteettikäytännöt. Näiden hyväksyttyjen rajojen sisällä RAVEL voi valita sopivan infrastruktuurin muun muassa tehonkulutuksen, kustannusten, suorituskyvyn, kapasiteetin, käyttöasteen, verkkoyhteyksien ominaisuuksien, sijainnin ja prioriteetin perusteella. Federaatio ei poista suvereniteettia, vaan voi toimia suvereniteetin määrittämien rajojen sisällä. Arkaluonteinen viranomaiskäyttöön tarkoitettu työkuorma voi esimerkiksi pysyä kokonaan hyväksytyissä Yhdysvaltain toimipisteissä, vaikka sitä orkestroitaisiin dynaamisesti useiden valtuutettujen toimipisteiden välillä. Näin organisaatiot voivat hyödyntää hajautetun tekoälyinfrastruktuurin tuomia käyttöaste- ja vikasietoisuusetuja luopumatta niiden arkaluonteisimpien työkuormien sijainnin ja toiminnan hallinnasta.

RAVEL sai alkunsa esimerkiksi media-, viihde-, peli- ja suunnittelualoilta, joilla työkuormat voivat vaatia erittäin paljon laskentatehoa. Miten generatiivisen tekoälyn vaatimukset ovat muuttaneet alustaa verrattuna niihin infrastruktuurihaasteisiin, joita alun perin ratkoitte luovan alan ammattilaisille?

RAVEL sai alkunsa infrastruktuuriongelmien ratkaisemisesta aloilla, joilla taiteilijat ja insinöörit käyttivät jo valtavasti laskentatehoa, tallennustilaa ja verkkokapasiteettia vaativiin renderöinti-, simulointi- ja sisällöntuotantotyökuormiin. Keskeinen haaste oli tehdä monimuotoisesta infrastruktuurista helpommin saatavilla olevaa ja jaettavaa sekä helpottaa sen orkestrointia samalla, kun käyttöaste ja suorituskyky maksimoidaan.

Generatiivinen tekoäly on kasvattanut saman ongelman mittakaavaa ja monimutkaisuutta huomattavasti. Sen sijaan, että orkestroisimme pääasiassa sovelluksia ja renderöintityökuormia, meidän on nyt otettava huomioon tekoälymallit, moottorit, agentit, koulutus- ja päättelytyökuormat, erilaiset GPU-arkkitehtuurit, nopeasti muuttuvat ohjelmistopinot, valtavat datasiirrot sekä huomattavasti tiukemmat tehoon, kustannuksiin, tietoturvaan ja saatavuuteen liittyvät rajoitteet.

Tämän seurauksena RAVEL on kehittynyt laskentaympäristöjen ensisijaisesta orkestroinnista älykkään ohjaus- ja optimointikerroksen tarjoajaksi tekoälyinfrastruktuurille. Orchestrate AI hyödyntää telemetriatietoja ja käytäntöjä määrittääkseen paitsi sen, onko infrastruktuuri käytettävissä, myös sen, missä ja miten työkuormaa tulisi ajaa kustannusten, nopeuden, energiankulutuksen, suorituskyvyn, käyttöasteen, sijainnin ja suvereniteettivaatimusten kaltaisten tekijöiden perusteella.

Federoinnin merkitys on kasvanut entisestään, koska tekoälyinfrastruktuuria ei voida enää käsitellä erillisten datakeskusten kokoelmana. Organisaatioiden on pystyttävä hyödyntämään eri toimipisteiden kapasiteettia älykkäästi samalla, kun hallinta ja tietoturva säilyvät. Generatiivinen tekoäly ei monella tapaa muuttanut sitä perusongelmaa, jonka RAVEL pyrki ratkaisemaan – se kasvatti ongelman huomattavasti suuremmaksi ja monimutkaisemmaksi, mikä lisäsi älykkään orkestroinnin, optimoinnin ja federoinnin merkitystä entisestään.

Urasi on kulkenut konetekniikasta ja Starbucksilla tehdystä prosessien optimoinnista digitaalisen median, datakeskusten ja virtuaalistudioiden kautta nykyiseen tekoälyinfrastruktuurin parissa tehtävään työhön. Miten insinööritaustasi on vaikuttanut tapaasi rakentaa yrityksiä ja ratkaista infrastruktuuriongelmia?

Insinööritaustani on luultavasti vaikuttanut lähes kaikkeen siinä, miten rakennan yrityksiä. Konetekniikka opettaa tarkastelemaan järjestelmää – ei vain yksittäistä komponenttia – ja kysymään, missä ovat rajoitteet, missä energiaa tai resursseja menee hukkaan ja miten koko järjestelmä voisi toimia paremmin. Starbucksilla sovelsin tätä ajattelutapaa prosessien optimointiin. Myöhemmin digitaalisen median ja visuaalisten tehosteiden parissa järjestelmään kuuluivat laskenta, tallennus, verkkoyhteydet, sovellukset ja lopulta kokonaiset datakeskukset. Teknologia muuttui, mutta tapani lähestyä ongelmaa ei juuri muuttunut. Kysyn aina: Missä on pullonkaula? Mikä on vajaakäytössä? Mitä voimme yksinkertaistaa? Ja miten saamme koko järjestelmän toimimaan paremmin sen sijaan, että optimoisimme vain yhden osan siitä?

Juuri näin rakensimme RAVELin. En usko, että tekoälyinfrastruktuurin ongelma ratkeaa yksinkertaisesti hankkimalla lisää grafiikkasuorittimia tai rakentamalla lisää datakeskuksia. Kyse on järjestelmätekniikan ongelmasta, johon liittyvät laskenta, sähkö, tallennus, verkkoyhteydet, ohjelmistot, työkuormat, ihmiset ja yhä enemmän myös maantieteellinen sijainti ja suvereniteetti. Käytössä voi olla maailman nopein grafiikkasuoritin, mutta jos järjestelmän muita osia ei ole optimoitu, tuloksena on vain erittäin kallis pullonkaula. Siksi pyrimme RAVELissa tekemään itse infrastruktuurista älykkäämmän hyödyntämällä telemetriatietoja, käytäntöjä, orkestrointia ja federointia sen määrittämiseksi jatkuvasti, miten ja missä työkuormia tulisi ajaa. Aloitin urani fyysisten järjestelmien optimoinnilla; nykyään sovellamme samaa insinööritaidon järjestelmällisyyttä tekoälyä käyttävän infrastruktuurin optimointiin.

Miten uskot tekoälyinfrastruktuurin kehittyvän, kun mallit, agentit ja sovellukset tarvitsevat yhä enemmän hajautettua laskentakapasiteettia? Uskotko, että tekoälytehtaista tulee yritysinfrastruktuurin standardoitu kerros samaan tapaan kuin pilvipalveluista tuli kuluneen vuosikymmenen aikana?

Uskon ehdottomasti, että tekoälytehtaista tulee yritysinfrastruktuurin perusta, aivan kuten pilvipalveluista tuli – mutta en usko niiden olevan yhden standardoidun datakeskuksen tai pilven kaltaisia. Kun mallit, agentit ja sovellukset kuluttavat yhä enemmän laskentakapasiteettia, yritykset käyttävät monimuotoista yhdistelmää grafiikkasuorittimia, keskussuorittimia, yksityistä infrastruktuuria, neopilvipalveluja, hyperskaalaajien pilvipalveluja, reunaympäristöjä ja erikoistuneita tekoälyjärjestelmiä.

Sähkön saatavuus ja hinta, suvereniteetti, suorituskyky ja sijainti ovat yhtä tärkeitä kuin laskentakapasiteetin saatavuus. Todellinen haaste ei ole pelkästään lisäinfrastruktuurin rakentaminen, vaan sen varmistaminen, että kaikki hajautettu infrastruktuuri toimii yhtenä älykkäänä järjestelmänä. Tulevaisuuden tekoälytehdas ei ole yksittäinen rakennus, vaan federoitu infrastruktuuriympäristö, joka kattaa laskennan, sähkön, datan ja resurssit, joita tarvitaan tekoälytyökuormien suorittamiseen siellä, missä se on järkevintä.

Uskon, että juuri tästä syntyy seuraava merkittävä infrastruktuurikerros. Pilvipalvelut abstrahoivat palvelimet ja helpottivat laskentakapasiteetin käyttöä; seuraava askel on koko tekoälyinfrastruktuuripinon monimutkaisuuden abstrahointi. Yritysten ei pitäisi joutua määrittämään manuaalisesti, millä grafiikkasuorittimella, missä datakeskuksessa tai pilvessä, millä virtalähteellä tai missä maantieteellisessä sijainnissa kukin malli tai agentti suoritetaan. Infrastruktuurin pitäisi tehdä nämä päätökset yhä useammin itse ja optimoida telemetriatietojen ja käytäntöjen avulla kustannuksia, nopeutta, energiankulutusta, suorituskykyä, käytettävyyttä ja suvereniteettia. Tätä kohti rakennamme RAVELissa: älykästä orkestrointikerrosta, jonka avulla työkuormat voivat siirtyä federoidussa tekoälyinfrastruktuurissa organisaation käytäntöjä ja hallintamekanismeja noudattaen. Pilvipalvelut toivat laskentakapasiteetin saataville tarpeen mukaan. Uskon, että seuraavan sukupolven tekoälyinfrastruktuuri tuo optimoinnin saataville tarpeen mukaan.

Kiitos hienosta haastattelusta. Lukijat, jotka haluavat oppia lisää tekoälytyökuormien orkestroinnista hajautetussa infrastruktuurissa, voivat tutustua palveluun RAVEL.