Mount Thor keräsi 45 miljoonaa dollaria tuodakseen Applen laitteiston tekoälyagenttien infrastruktuurin käyttöön

Mount Thor on kerännyt 45 miljoonaa dollaria osakerahoitusta tehdäkseen Applen laitteistosta saatavilla olevaa pilvi-infrastruktuuria tekoälytutkimukseen ja -käyttöönottoon. San Franciscossa toimiva startup vastaa tietokoneita käyttävien agenttien kasvavaan tarpeeseen saada käyttöönsä kokonaisia macOS-ympäristöjä, joissa ne voivat oppia, suorittaa sovelluksia ja tehdä töitä pitkiä aikoja.

Rahoitukseen kuuluu siemenrahoituskierros ja A-sarjan rahoituskierros. CRV ja Conviction johtivat A-sarjan kierrosta yhdessä, kun taas Chad Byers ja Offline Ventures johtivat siemenrahoituskierrosta yhdessä. Kierroksille osallistuivat myös CSC Leasing, Enea Capital, Long Journey Ventures ja Upper90 sekä strategiset enkelisijoittajat, joilla on yhteyksiä Cognitioniin, Core Automationiin, Daytonaan, Metaan, OpenAIhin, Together AI:hin ja Verceliin.

Mount Thor keräsi erikseen laimentamatonta rahoitusta laitehankintoihin. Yhtiö ei ole kertonut, miten 45 miljoonan dollarin osakerahoitus jakautuu kahden kierroksen kesken, eikä myöskään lisärahoituksen määrää.

Miksi tekoälyagentit tarvitsevat käyttöympäristön

Ohjelmistoissa toimiva agentti tarvitsee muutakin kuin mallin rajapinnan. Se tarvitsee ympäristön, jossa se voi avata sovelluksia, tarkastella niiden tilaa, käsitellä tiedostoja ja jatkaa tehtävää, kun seuraava ohje saapuu. Jos työkuormaan kuuluu Applen sovelluksia tai kehitystyökaluja, ympäristön on ehkä oltava macOS.

Mount Thor rakentaa palveluitaan tähän tarpeeseen. Sen infrastruktuuri palvelee tutkimuslaboratorioita, jotka luovat vahvistusoppimisympäristöjä tietokonetta käyttäville malleille, macOS-hiekkalaatikoita tarjoavia palveluntarjoajia sekä agenttituotteita, jotka tarvitsevat jatkuvasti käytettävissä olevia koneita. Yhtiö mainitsee kohdekäyttökohteinaan myös Applen ohjelmistokehityksen ja yrityskäyttöön tarkoitetun päättelyn.

Näihin käyttötarkoituksiin liittyy erilaisia operatiivisia vaatimuksia. Koulutuskokeessa ympäristö saatetaan nollata toistuvasti, jotta mallia voidaan arvioida hallituissa olosuhteissa. Käyttöön otetun avustajan ympäristön taas on ehkä säilyttävä viikkoja. Ohjelmistokehitysalusta saattaa ottaa koneita käyttöön rinnakkain sovellusten rakentamista ja testaamista varten. Näiden elinkaarien hallinta on merkittävä osa infrastruktuurihaastetta.

„Applen käyttöjärjestelmän ja piiritason teknologian tuominen datakeskusmittakaavassa saataville on valtava, vielä hyödyntämätön mahdollisuus tekoälyinfrastruktuurissa”, sanoi Mount Thorin perustaja ja toimitusjohtaja Peter Voell. Hänen mukaansa Applen panostukset esteettömyyteen ja ihmisen ja tietokoneen väliseen vuorovaikutukseen lisäävät alustan houkuttelevuutta sekä agenteille että niitä valvoville ihmisille.

Erilliset Macit ja macOS-virtuaalikoneet

Mount Thorin laskentainfrastruktuurin dokumentaatiossa kuvataan kaksi käyttöönottotapaa. Bare metal -vaihtoehdossa fyysinen Mac varataan yksinomaan asiakkaan käyttöön. Virtuaalikone tarjoaa eristetyn macOS-ympäristön asiakkaalle varatulla Macilla, ja isännällä on käytettävissä kaksi virtuaalikonepaikkaa.

Ero vaikuttaa myös käyttöoikeuksiin. Dokumentaation mukaan bare metal -käyttäjätili on laajat oikeudet omaava muu kuin pääkäyttäjätili, kun taas virtuaalikoneiden käyttäjillä on järjestelmänvalvojan käyttöoikeudet. Siksi virtuaalikoneet ovat dokumentaation mukaan oikea vaihtoehto työkuormille, jotka edellyttävät järjestelmäasetusten muuttamista. Erillisestä laitteistosta on hyötyä, kun suorituskyvyn mittaaminen vaatii kokonaisen koneen tai kun ohjelmisto ei toimi virtuaaliympäristössä.

Virtuaalikonepalvelu on tällä hetkellä esikatseluvaiheessa. Asiakkaat voivat valita levykuvan, luoda instanssin ja muodostaa siihen yhteyden SSH:n tai etätyöpöydän kautta. Dokumentaatiossa näitä yhteyksiä varten kuvataan yksityiset, todennetut tunnelit, joiden ansiosta vieraskoneiden osoitteet eivät näy julkisessa internetissä.

Näin agenttien kehittäjät voivat käyttää Macia käyttöön otettuna suoritusympäristönä sen sijaan, että jonkun pitäisi määrittää se käsin työasemaksi. Eristyksen ja käyttöoikeuksien hallinnan on silti vastattava kyseisen työkuorman tarpeita, etenkin jos agentti käsittelee käyttäjätilejä, luottamuksellisia tiedostoja tai ulkoisia palveluita.

Applen laitteiston pilvipohjainen hallintakerros

Mount Thor tarjoaa portaalin sekä mthr komentorivityökalun ja rajapintoja laskentainfrastruktuurin hallintaan. Sen Kubernetes-rajapinta tuo virtuaalikoneet ja bare metal -Macit mukautettuina resursseina asiakkaan tenantin nimiavaruuteen, ja niiden toimintoja hallitaan määritettyjen käyttöoikeuksien perusteella.

Rajapinnan avulla infrastruktuuritiimit voivat määritellä halutun konekokoonpanon ja hallita sen elinkaarta tuttujen orkestrointityönkulkujen kautta. Se ei muuta macOS:ää Linux-säiliöksi, vaan Kubernetes toimii hallintakerroksena, jonka kautta taustalla olevaa Applen laskentakapasiteettia jaetaan.

Yhtiö erottaa toisistaan myös Mount Thorin hallinnoimat ja asiakkaiden hallinnoimat laitekannat. Hallinnoidussa palvelussa Mount Thor valmistelee ja valvoo koneita sekä tyhjentää ne. Asiakkaan hallinnoimissa käyttöönotoissa organisaatiot voivat käyttää omia Macejaan Mount Thorin toimipisteessä omilla hallintatyökaluillaan ja tietoturvakäytännöillään.

Applen piirien tarjoama mahdollisuus päättelyyn

Agenttien toimintaympäristöjen lisäksi Mount Thor haluaa tarjota laitteistoa myös mallien suorittamiseen. Yhtiö aikoo perustaa päättelylaboratorion, joka keskittyy Applen piireille optimoituihin avoimen lähdekoodin malleihin ja tarjoaa yrityksille uuden vaihtoehdon työkuormien suorittamiseen.

Se on eri asia kuin etätyöpöydän vuokraaminen. Inferenssi-infrastruktuurissa on tasapainotettava mallien kapasiteetti, vasteviive, läpimeno ja käyttökustannukset. Apple siliconin integroitu arkkitehtuuri tekee siitä arvioimisen arvoisen vaihtoehdon, mutta tiedotteessa ei esitetä vertailukelpoisia suorituskykytestejä tai hintoja, joiden perusteella sen voitaisiin todeta olevan poikkeuksetta muita kiihdyttimiä parempi vaihtoehto.

Asiakkaiden kannalta käytännön mahdollisuus on valita infrastruktuuri todellisen työkuorman mukaan: macOS:stä riippuvainen agentti, Apple-ohjelmistojen tuotantoputki tai mallien tarjoamiseen tarkoitettu käyttöönotto. Menestys yhdellä näistä alueista ei automaattisesti takaa parasta kustannustehokkuutta muilla.

Rahoitus laskentakapasiteetin kasvattamiseen

Mount Thor kertoo ottaneensa ensimmäisen datakeskuksensa käyttöön alle kuudessa kuukaudessa. Sen tiimiin kuuluu henkilöitä, jotka ovat aiemmin rakentaneet infrastruktuuria Cerebrasilla, CoreWeavella, Fluidstackilla, Nebiuksella, OpenAI:lla ja xAI:lla. Rahoituksella tuetaan kapasiteetin laajentamista ja rekrytointeja.

Yhtiön verkkosivustolla kerrotaan konesalien yhteiskäyttöjärjestelyistä Yhdysvaltojen suurilla metropolialueilla; Eurooppa ja Aasia ovat suunnitelmissa. Tämä erottaa yhtiön nykyisen maantieteellisen toiminta-alueen sen laajentumissuunnitelmista.

Laajempi panostus perustuu siihen, että autonominen ohjelmisto synnyttää kysyntää sekä käyttöympäristöille että mallien laskentakapasiteetille. Mount Thor asemoi Apple-infrastruktuurin palveluksi, jonka resursseja kehittäjät voivat kohdentaa ja hallita suuressa mittakaavassa rakentamatta ja ylläpitämättä itse fyysistä laitekantaa.