Tohtori Mike Flaxman, HEAVY.AI:n tuotejohtaja – Haastattelusarja

Tohtori Mike Flaxman on tällä hetkellä HEAVY.AI:n tuotejohtaja, ja hän on aiemmin toiminut tuotepäällikkönä ja johtanut Spatial Data Science -praktiikkaa ammattipalveluissa. Hän on työskennellyt viimeiset 20 vuotta spatiaalisen ympäristösuunnittelun parissa. Ennen HEAVY.AI:ta hän perusti Geodesign Technologies Inc:n ja perusti yhdessä GeoAdaptive LLC:n, kaksi startup-yritystä, jotka soveltavat spatiaalisen analytiikan teknologioita suunnitteluun. Ennen startup-elämää hän oli suunnittelun professori MIT:ssä ja teollisuusjohtaja ESRI:ssä.

HEAVY.AI on laitteistopohjainen alusta reaaliaikaiselle, suuren vaikutuksen datan analytiikalle. Se hyödyntää sekä GPU- että CPU-suorittimia massiivisten tietojoukkojen nopeaan kyselyyn, ja se tukee SQL:ää ja spatiaalista dataa. Alusta sisältää visuaalisen analytiikan työkalut interaktiivisille kojuihin, ristisuodattimelle ja skaalattaville datavisualisoinneille, mikä mahdollistaa tehokkaan suuren datan analytiikan eri aloilla.

Voitko kertoa ammattiurastasi ja siitä, mitä johti sinut liittymään HEAVY.AI:hin?

Ennen liittymistäni HEAVY.AI:hin olin vuosia akatemiassa, ja opetin lopulta spatiaalisen analytiikan MIT:ssä. Olin myös pienen konsulttiryhmän johtaja, jolla oli joukko julkisia asiakkaita. Olen ollut mukana GIS-hankkeissa 17 maassa. Työni on vienyt minut esimerkiksi Inter-Amerikan kehityspankin neuvonantajaksi ja ESRI:n GIS-tekniikan johtajaksi arkkitehtuuriin, insinööritieteisiin ja rakentamiseen.

Muistan selvästi ensimmäisen kohtaamiseni HEAVY.AI:n kanssa, jolloin olin konsulttina vastuussa skenaariosuunnittelusta Floridan rantojen elinympäristönsuojeluohjelmassa. Kollegani ja minä kamppailimme merikilpikonnien elinympäristön mallintamisessa 30 metrin Landsat-tiedoilla, ja ystäväni osoitti minulle uusia, erittäin merkittäviä tietoja – 5 senttimetrin LiDAR-tiedot. Ne olivat tieteellisesti juuri sitä, mitä tarvitsimme, mutta ne olivat noin 3600 kertaa suurempia kuin mitä olimme suunnitelleet käyttävämme. Kukaan ei ollut valmis lisäämään budjettiani edes murto-osalla siitä. Niinpä sinä päivänä lopetin työkalujen käytön, joita olin käyttänyt ja opettanut useita vuosikymmeniä, ja lähdin etsimään uutta.

Eteenpäin nopeasti, ja minä ajattelen, että mitä HEAVY.AI tekee, on edelleen melko ainutlaatuista, ja sen varhainen panostus GPU-analytiikkaan oli juuri siinä, mihin teollisuus edelleen tarvitsee mennä. HEAVY.AI on vahvasti keskittynyt datan demokratisoimiseen. Tämä sisältää tietojen tilavuuden ja prosessointinopeuden osan, mikä antaa jokaiselle omat supertietokoneensa. Mutta yhä tärkeämmäksi osaksi tulee spatiaalisen mallinnuksen saattaminen helpommin saataville monille ihmisille. Nykyään voit aloittaa keskustelun HEAVY.AI:n kanssa valitsemallasi kielellä, ja ohjelma ei ainoastaan luo tarvittavat komennot, vaan esittää myös merkityksellisiä visualisointeja.

Taustalla on tietysti haasteita saavuttaa helppokäyttöisyys. Nykyään, HEAVY.AI:n tuotepäällikkönä, olen vahvasti mukana määrittelemässä, mitkä ominaisuudet ja kyvykkyydet priorisoidaan tuotteissamme. Laaja taustani GIS:ssä antaa minulle mahdollisuuden ymmärtää asiakkaidemme tarpeita ja ohjata kehitysroadmapiamme sen mukaisesti.

Miten aiempi kokemuksesi spatiaalisessa ympäristösuunnittelussa ja startup-yrityksissä on vaikuttanut työhösi HEAVY.AI:ssa?

Ympäristösuunnittelu on erityisen haasteellinen ala, jossa on otettava huomioon sekä erilaiset ihmisten tarpeet että luonnon maailma. Yleinen ratkaisu, jonka opin varhain, oli yhdistää osallistuva suunnittelu etäisyysmittauksen ja GIS-tekniikoiden kanssa. Ennen toimintasuunnitelman vahvistamista, loimme useita skenaarioita ja simuloimme niiden positiiviset ja negatiiviset vaikutukset tietokoneessa visualisoinneilla. Osallistuvien prosessien avulla voimme yhdistää erilaisia asiantuntemuksia ja ratkaista hyvin monimutkaisia ongelmia.

Tätä kaavaa voidaan soveltaa edelleen liiketoimintaympäristössä. Autamme asiakkaitamme luomaan digitaalisia kaksoiskappaleita liiketoimintansa avainosista ja antamme heidän luoda ja arvioida liiketoimintaskenaarioita nopeasti.

Ajattelen, että opettamiskokemukseni on antanut minulle syvän empatian kompleksisten ohjelmistojärjestelmien käyttäjien kohtaan. Kun yksi opiskelija kompastuu jossakin kohdassa, se on satunnainen, mutta kun kymmenet tai sadat ihmiset tekevät samanlaisia virheitä, tiedän, että kyseessä on suunnitteluongelma. Ehkä lempiosuuteni ohjelmistosuunnittelussa on ottaa nämä opit ja soveltaa niitä uusien järjestelmien suunnittelussa.

Voitko selittää, miten HeavyIQ hyödyntää luonnollista kieltä datan tutkimiseen ja visualisointiin?

Nykyään näyttää siltä, että jokainen ja hänen veljensä mainostavat uutta genAI-mallia, ja useimmat niistä ovat unohtuvia klooneja toisistaan. Olemme valinneet erilaisen polun. Uskomme, että tarkkuus, toistettavuus ja yksityisyys ovat olennaisia ominaisuuksia liiketoimintavälineille, mukaan lukien ne, jotka luodaan suurten kielen mallien avulla. Rakensimme nämä ominaisuudet perustasolle tarjoamukseemme. Esimerkiksi rajoitamme mallisyötteitä tiukasti yritysten tietokantoihin ja asiakirjoihin, jotka ovat yrityksen turvallisuuden sisällä. Rajoitamme myös tulosteita viimeisimpiin HeavySQL- ja Charts-tuloksiin. Tämä tarkoittaa, että riippumatta siitä, mitä kysymystä asiakkaamme esittää, yritämme vastata heidän omilla tiedoillaan ja näytämme heille tarkalleen, miten saimme vastauksen.

Näiden takeiden ollessa paikallaan, se ei ole niin tärkeää asiakkaillemme, miten käsittelemme kyselyjä. Mutta taustalla toinen tärkeä ero kuluttaja-genAI:hin on, että meillä on laajasti hiotut mallit erityisesti liiketoimintakäyttäjien kysymyksiin, mukaan lukien spatiaalinen ja aikasarja-liitokset, joita ei ole perinteisissä SQL-benchmarkkeissa, mutta joita käyttäjämme käyttävät päivittäin.

Pakkaamme nämä ydinominaisuudet Notebook-käyttöliittymään, jonka kutsumme HeavyIQ:ksi. IQ on datan tutkimisen ja visualisoinnin tekoa mahdollisimman intuitiiviseksi luonnollisen kielen käsittelyllä. Voit esittää kysymyksen englanniksi – esimerkiksi “Mitkä olivat sääolosuhteet Kaliforniassa viime viikolla?” – ja HeavyIQ kääntää sen SQL-kyselyksi, jonka GPU-kiihdytetty tietokantamme prosessoi nopeasti. Tulokset esitetään ei ainoastaan datana vaan visualisointeina – kartoina, kaavioina, mitä tahansa, mikä on merkityksellisintä. Se on nopean, interaktiivisen kyselyjen mahdollistamista, erityisesti silloin, kun käsitellään suuria tai nopeasti muuttuvia tietoja. Se, mikä on avainasia, on, että usein ei ole ensimmäinen kysymys, jonka esität, vaan ehkä kolmas, joka todella johtaa ydin havaintoon, ja HeavyIQ on suunniteltu helpottamaan syvempää tutkimista.

Mitkä ovat HeavyIQ:n ensisijaiset hyödyt verrattuna perinteisiin BI-työkaluihin tietoliikenne-, energia- ja hallintoviranomaisten osalta?

HeavyIQ erottuu ympäristöissä, joissa käsitellään suuria, nopeita tietoja – juuri sellaisia tietoja, joita tietoliikenne-, energia- ja hallintoviranomaiset käsittelevät. Perinteiset liiketoimintavälineet usein kamppailevat tietojen tilavuuden ja nopeuden kanssa. Esimerkiksi tietoliikenteessä voit olla miljardeja puhelutietoja, mutta se on vain pieni osa puheluita, joihin on kiinnitetty huomiota. HeavyIQ antaa sinun siivilöidä nopeammin tietoja 10-100 kertaa nopeammin kuin perinteiset CPU-pohjaiset liiketoimintavälineet. Tämä nopeus yhdistettynä interaktiiviseen kyselyyn ja visualisointiin tekee siitä arvokkaan riskianalytiikassa energiayhtiöissä tai hallintoviranomaisten reaaliaikaisissa skenaariosuunnitelmissa.

Toinen etu, josta olen jo maininnut, on, että spatiaaliset ja aikasarja-SQL-kyselyt ovat erittäin voimakkaita analytiikassa – mutta ne voivat olla hitaita tai vaikeita kirjoittaa käsin. Kun järjestelmä toimii “uteliaisuuden nopeudella”, käyttäjät voivat esittää sekä enemmän kysymyksiä että monimutkaisempia kysymyksiä. Esimerkiksi tietoliikenneinsinööri saattaa havaita aikasarjapikan laitteiston vioissa valvontajärjestelmästä, ja hänellä on intuition, että jotakin on vikana tietyssä laitoksessa, ja hän tarkistaa sen spatiaalisen kyselyn, joka palauttaa kartan.

Mitkä toimenpiteet on toteutettu estämään metadata-vuoto, kun käytetään HeavyIQ:ta?

Kuten mainittu, olemme rakentaneet HeavyIQ:n yksityisyyden ja turvallisuuden ympärille. Tämä sisältää sekä tiedot että erilaiset metatiedot. Käytämme sarakkeen ja taulukon metatietoja laajasti määrittämään, mitkä taulut ja sarakkeet sisältävät tiedot, joita tarvitaan kyselyn vastaamiseen. Käytämme myös sisäisiä yritysasiakirjoja, joita annetaan, avustamaan niin kutsuttua hakua ja vahvistusta (RAG). Viimeksi mainittujen metatietojen lisäksi itse kielen mallit generoivat metatietoja. Kaikki nämä, mutta erityisesti jälkimmäiset, voivat olla korkean liiketoimintaherkkyyden ominaisia.

Toisin kuin kolmannen osapuolen mallit, joissa tietosi lähetetään ulkoisille palvelimille, HeavyIQ toimii paikallisesti samalla GPU-infrastruktuurilla kuin muu alustamme. Tämä varmistaa, että tietosi ja metatietosi pysyvät hallinnassasi, eikä niiden vuotamisesta ole vaaraa. Organisaatioille, jotka vaativat korkeimman turvallisuuden, HeavyIQ voidaan asentaa täysin eristetympäristöön, jolloin herkillä tiedoilla ei ole vaaraa joutua laitosten ulkopuolelle.

Miten HEAVY.AI saavuttaa suorituskyvyn ja skaalautuvuuden massiivisten tietojoukkojen kanssa käyttäen GPU-infrastruktuuria?

Salaisuus on perustuu välttämään tietojen siirtoa, joka on yleinen muissa järjestelmissä. HEAVY.AI:ssa se alkaa tietokannasta, joka on suunniteltu toimimaan NVIDIA-GPU:illa. Olemme työskennelleet tämän parissa yli 10 vuotta, ja uskomme, että meillä on parhaimmillaan ratkaisu, kun on kyse GPU-kiihdytetystä analytiikasta.

Jopa parhaimmat CPU-pohjaiset järjestelmät eivät pysty kilpailemaan keskitason GPU:n kanssa. Strategia, kun tämä tapahtuu CPU:lla, edellyttää tietojen jakamista useiden ytimien ja useiden järjestelmien (niin kutsuttu “vaakasuoran skaalautuvuus”) välillä. Tämä toimii hyvin joissakin yhteyksissä, joissa asiat eivät ole aikakriittisiä, mutta yleensä se alkaa jumiutua verkon suorituskyvyn vuoksi.

Lisäksi vältämme tietojen siirtoa monissa yleisissä tehtävissä. Ensinnäkin voimme renderöidä grafiikkaa ilman tietojen siirtoa. Toiseksi, jos haluat suorittaa ML-mallin, teemme sen ilman tietojen siirtoa. Ja jos kuulustelet tietoja suurella kielimallilla, teemme sen jälleen ilman tietojen siirtoa. Vaikka olet data- tutkija ja haluat kuulustella tietoja Pythonista, tarjoamme menetelmiä tehdä se GPU:lla ilman tietojen siirtoa.

Mitä tämä tarkoittaa käytännössä, on, että voimme suorittaa sekä kyselyt että renderingin 10-100 kertaa nopeammin kuin perinteiset CPU-pohjaiset tietokannat ja karttapalvelimet. Kun käsittelet massiivisia, nopeita tietoja, kuten säämallit, tietoliikenne- puhelutiedot tai satelliittikuvat, tämänlainen suorituskyvyn lisäys on ehdottoman välttämätön.

Miten HEAVY.AI ylläpitää kilpailukykyään nopeasti kehittyvässä suuren datan analytiikan ja tekoälymaisemassa?

Se on erinomainen kysymys, ja se on jotain, mihin ajattelumme on jatkuvasti kohdistunut. Suuren datan analytiikan ja tekoälyn maisema kehittyy erittäin nopeasti, ja uusia läpimurtoja ja innovaatioita tapahtuu jatkuvasti. Se ei vahingoita, että meillä on 10 vuoden etumatka GPU-tietokantateknologiassa.

Ajattelen, että avainasia meille on pysyä tiukasti keskittyneinä ydinmissioomme – datan demokratisointiin. Se tarkoittaa jatkuvaa työtä GPU-kiihdytetyn analytiikan rajojen venyttämiseksi ja varmistamiseksi, että tuotteemme toimittavat erinomaisen suorituskyvyn ja kyvykkyyden tässä alalla. Suuri osa siitä on jatkuva panostus mukautettujen kielen mallien kehittämiseen, jotka todella ymmärtävät spatiaalisen SQL:n ja geospatiaalisen analytiikan nuansseja.

Olemme rakentaneet laajan kirjaston koulutusdataa, joka ylittää perinteiset benchmarkit, varmistaaksemme, että keskustelumme analytiikkatyökalut voivat keskustella käyttäjien kanssa luonnollisella ja intuitiivisella tavalla. Mutta myös tiedämme, että teknologia yksin ei riitä. Meidän on pysyttävä syvällisesti yhteydessä asiakkaisiimme ja heidän muuttuviin tarpeisiinsa. Lopulta kilpailukykyämme perustuu siihen, että toimitamme muunnoksellista arvoa käyttäjillemme. Emme ainoastaan pysy markkinan tahdissa – me ajamme rajoja siinä, mitä on mahdollista suuressa datassa ja tekoälyssä. Ja jatkamme sitä, riippumatta siitä, kuinka nopeasti maisema kehittyy.

Miten HEAVY.AI tukee hätätilannepyynnöissä HeavyEcon avulla?

Rakensimme HeavyEcon, kun näimme joitakin suurimmista asiakkaistamme käyttävän merkittäviä haasteita yksinkertaisesti nielemällä nykyisten säämallien tulosteita ja visualisoimalla niitä vertailtaviksi. Yhdelle asiakkaalle kesti jopa neljä tuntia aikaa vain ladata tietoja, ja kun olet nopeasti liikkuvien ääritilanteiden, kuten tulipalojen, edessä… se ei ole hyvä.

HeavyEco on suunniteltu tarjoamaan reaaliaikaisia havaintoja kriittisissä tilanteissa, kuten tulipalossa tai tulvassa. Näissä tilanteissa on tehtävä nopeasti päätöksiä ja perustuen parhaimpiin saatavilla oleviin tietoihin. HeavyEco toimii ensisijaisesti ammattimaisena dataputkena viranomaisten malleille, kuten NOAA:lle ja USGS:lle. Sen lisäksi HeavyEco sallii skenaarioiden suorittamisen, rakennuksen vaikutusten mallinnuksen ja tietojen visualisoinnin reaaliajassa. Tämä antaa ensivastejärjestelmille kriittisen tiedon, jota he tarvitsevat, kun se on eniten tarpeen. Se on siinä, että monimutkaiset, laajamittaiset tiedot muutetaan toimintatiedoksi, joka voi ohjata välittömiä päätöksiä.

Lopulta tavoitteemme on antaa käyttäjillemme mahdollisuus tutkia tietoja ajatuksen nopeudella. Riippumatta siitä, onko heillä monimutkaisia spatiaalisia malleja, vertailevatko he sääennusteita tai yrittävätkö he tunnistaa kuviota geospatiaalisissa aikasarjoissa, haluamme antaa heille mahdollisuuden tehdä sen vaivattomasti, ilman teknisiä esteitä.

Mitä erottaa HEAVY.AI:n omistaman LLM:n muista kolmannen osapuolen LLM:stä tarkkuuden ja suorituskyvyn osalta?

Omistamamme LLM on erityisesti säädetty analytiikkaan, kuten teksti-SQL:ään ja teksti-visualisointiin. Aluksi kokeilimme perinteisiä kolmannen osapuolen malleja, mutta havaitsimme, että ne eivät täyttäneet asiakkaidemme korkeita tarkkuusvaatimuksia, jotka usein tekevät kriittisiä päätöksiä. Niinpä me säädimme avoimen lähdekoodin malleja ja testasimme niitä teollisuusbenchmarkkeja vastaan.

LLM:ämme on paljon tarkempi edistyneille SQL-käsitteille, jotka asiakkaidemme tarvitsevat, erityisesti geospatiaalisissa ja aikasarjatiedoissa. Lisäksi, koska se toimii GPU-infrastruktuurillamme, se on myös turvallisempi.

Lisäksi mallin sisäisiin ominaisuuksiin, tarjoamme täydellisen interaktiivisen käyttöliittymän hallinto- ja käyttäjille lisätäksesi toimialaan tai liiketoimintaan liittyvää metatietoa. Esimerkiksi, jos perusmalli ei suorita odotetulla tavalla, voit tuoda tai muokata sarakkeen metatietoja tai lisätä ohjausinformaatiota ja saada välittömästi palautetta.

Miten HEAVY.AI näkee geospatiaalisen ja aikasarjan datan analytiikan roolin eri alojen tulevaisuuden muokkaamisessa?

Uskomme, että geospatiaalinen ja aikasarjan datan analytiikka tulee olemaan kriittinen monille aloille. Se, mihin olemme todella keskittyneitä, on auttamaan asiakkaitamme tekemään parempia päätöksiä nopeammin. Riippumatta siitä, oletko tietoliikenteessä, energiassa, hallinnossa tai muilla aloilla, kyky analyysoida ja visualisoida dataa reaaliajassa voi olla pelinmuuttaja.

Tavoitteemme on tehdä tämänkaltaisen voimakkaan analytiikan saataville kaikille, ei ainoastaan suurille toimijoille, joilla on massiivisia resursseja. Haluamme varmistaa, että asiakkaamme voivat hyödyntää tietoja, joita heillä on, pysyäkseen edellä ja ratkaisemaan ongelmia, kun ne ilmenevät. Kun data jatkaa kasvamistaan ja monimutkaistumistaan, näemme roolemme varmistamaan, että työkalumme kehittyvät rinnan sen kanssa, jotta asiakkaamme ovat aina valmistautuneita seuraavaan. Kiitos tästä haastattelusta, lukijat, jotka haluavat oppia lisää, kannattaa vierailla HEAVY.AI-sivustolla.