Dr. Mike Flaxman, VP of Product hos HEAVY.AI – Intervieuserie

Dr. Mike Flaxman er i øjeblikket VP of Product hos HEAVY.AI, efter tidligere at have været Product Manager og ledet Spatial Data Science-praksis i Professional Services. Han har brugt de sidste 20 år på at arbejde med rumlig miljøplanlægning. Før HEAVY.AI grundlagde han Geodesign Technologies, Inc. og var medstifter af GeoAdaptive LLC, to startups, der anvender rumlige analyse-teknologier til planlægning. Før startup-livet var han professor i planlægning på MIT og Industry Manager hos ESRI.

HEAVY.AI er en hardware-accelereret platform til realtid, høj-impact data-analyse. Den udnytter både GPU- og CPU-behandling til at forespørge massive datasæt hurtigt, med understøttelse af SQL og georumlige data. Platformen inkluderer visuelle analyseværktøjer til interaktive dashboards, krydsfilter og scalable data-visninger, der muliggør effektiv big data-analyse på tværs af forskellige brancher.

Kan du fortælle os om din professionelle baggrund og hvad der førte dig til at tilslutte dig HEAVY.AI?

Før jeg tilsluttede mig HEAVY.AI, tilbragte jeg år i akademiet, hvor jeg underviste i rumlige analyser på MIT. Jeg havde også en lille konsulentvirksomhed med en række offentlige kunder. Jeg har været involveret i GIS-projekter i 17 lande. Mit arbejde har ført mig fra at rådgive organisationer som Inter American Development Bank til at styre GIS-teknologi til arkitektur, ingeniørvidenskab og konstruktion på ESRI, verdens største GIS-udvikler

Jeg husker tydeligt min første møde med, hvad der nu er HEAVY.AI, da jeg som konsulent var ansvarlig for scenarieplanlægning for Florida Beaches Habitat Conservation Program. Mine kolleger og jeg havde svært ved at modellere havskildpadderes habitat ved hjælp af 30m Landsat-data, og en ven pegede mig på nogle brand nye og meget relevante data – 5cm LiDAR. Det var præcis, hvad vi havde brug for videnskabeligt, men noget, der var cirka 3600 gange større end det, vi havde planlagt at bruge. Det var tydeligt, at ingen ville øge min budget med så meget som en brøkdel af det beløb. Så den dag lagde jeg værktøjerne, jeg havde brugt og undervist i i flere årtier, og gik på jagt efter noget nyt. HEAVY.AI gennemskar og visualiserede dataene så glat og uden besvær, at jeg var øjeblikkeligt fanget.

I løbet af få år er jeg stadig overbevist om, at det, HEAVY.AI gør, er ret unikt, og deres tidlige indsats på GPU-analyse var præcis, hvor branchen stadig har brug for at gå. HEAVY.AI er fast fokuseret på at demokratisere adgangen til big data. Dette inkluderer både data-volumen og behandlingshastighed, hvilket grundlæggende giver alle deres egen supercomputer. Men en stadig vigtigere aspekt med introduktionen af store sprogmodeller er at gøre rumlige modeller tilgængelige for mange flere mennesker. I disse dage kan du i stedet for at bruge år på at lære et komplekst interface med tusindvis af værktøjer bare starte en samtale med HEAVY.AI på dit eget sprog. Programmet genererer ikke kun kommandoerne, der er nødvendige, men præsenterer også relevante visualiseringer.

Bag kulisserne er det naturligvis meget svært at levere brugervenlighed. Som VP of Product Management hos HEAVY.AI er jeg meget involveret i at bestemme, hvilke funktioner og muligheder vi prioriterer for vores produkter. Min omfattende baggrund inden for GIS giver mig en god forståelse for vores kunders behov og guider vores udviklingsvejledning derefter.

Hvordan har din tidligere erfaring inden for rumlig miljøplanlægning og startups påvirket dit arbejde hos HEAVY.AI?

Miljøplanlægning er et særligt udfordrende område, hvor man skal tage hensyn til både menneskelige behov og den naturlige verden. Den generelle løsning, jeg lærte tidligt, var at kombinere en metode kendt som deltagende planlægning med teknologierne for fjernsanering og GIS. Før vi fastlagde en handlingsplan, lavede vi flere scenarier og simulerede deres positive og negative virkninger på computeren ved hjælp af visualiseringer. Ved hjælp af deltagende processer kunne vi kombinere forskellige former for ekspertise og løse meget komplekse problemer.

Dette mønster fungerer stadig meget godt i forretningsmæssige sammenhænge. Så vi hjælper kunder med at opbygge digitale tvillinge af nøgleområder i deres forretning og lader dem oprette og evaluere forretnings-scenarier hurtigt.

Jeg tror, at min undervisningserfaring har givet mig dyb empati for software-brugere, især af komplekse software-systemer. Hvor en student snubler på ét punkt, er tilfældigt, men hvor dusinvis eller hundredvis af mennesker begår lignende fejl, ved man, at man har et design-problem. Måske er min yndlingsdel af software-design at tage disse erfaringer og anvende dem i design af nye generationer af systemer.

Kan du forklare, hvordan HeavyIQ udnytter naturlig sprogbehandling til at faciliterer data-udforskning og visualisering?

I disse dage synes det, at alle og deres bror praler af en ny genAI-model, de fleste af dem er glemte kloner af hinanden. Vi har valgt en meget anderledes vej. Vi mener, at nøjagtighed, reproducerbarhed og privatliv er essentielle karakteristika for enhver forretningsanalyseværktøj, herunder dem, der genereres med store sprogmodeller (LLM’er). Så vi har bygget disse ind i vores tilbud på et grundlæggende niveau. For eksempel begrænser vi modelinddata strengt til virksomhedsdatabaser og til at levere dokumenter inden for en virksomhedssikkerhedsperimeter. Vi begrænser også udgangspunkterne til de seneste HeavySQL og Charts. Det betyder, at uanset hvilket spørgsmål du stiller, vil vi prøve at besvare det med dine data, og vi vil vise dig præcis, hvordan vi fik frem den besvarelse.

Med disse garantier på plads, er det mindre vigtigt for vores kunder, præcis hvordan vi behandler forespørgslene. Men bag kulisserne er en anden vigtig forskel i forhold til forbruger-genAI, at vi finjusterer modellerne omfattende mod de specifikke typer af spørgsmål, som forretningsbrugere stiller til forretningsdata, herunder rumlige data. Så for eksempel er vores model fremragende til at udføre rumlige og tidsmæssige sammenføjninger, som ikke er i klassiske SQL-benchmarks, men vores brugere bruger dagligt.

Vi pakker disse kernefunktioner ind i et Notebook-interface, som vi kalder HeavyIQ. IQ handler om at gøre data-udforskning og visualisering så intuitivt som muligt ved hjælp af naturlig sprogbehandling (NLP). Du stiller et spørgsmål på engelsk – som “Hvad var vejrforholdene i Californien sidste uge?” – og HeavyIQ oversætter det til SQL-forespørgsler, som vores GPU-accelererende database behandler hurtigt. Resultaterne præsenteres ikke kun som data, men som visualiseringer – kort, diagrammer, hvad som helst, der er mest relevant. Det handler om at muliggøre hurtig, interaktiv forespørgsel, især når man har at gøre med store eller hurtigt ændrende datasæt. Det vigtigste her er, at det ofte ikke er det første spørgsmål, du stiller, men måske det tredje, der virkelig kommer til kernen af indsigt, og HeavyIQ er designet til at faciliterer denne dybere udforskning.

Hvad er de primære fordele ved at bruge HeavyIQ i stedet for traditionelle BI-værktøjer til telekommunikations-, utilities- og regeringsinstitutioner?

HeavyIQ udmærker sig i miljøer, hvor man har at gøre med store, højhastighedsdata – præcis den type data, som telekommunikations-, utilities- og regeringsinstitutioner behandler. Traditionelle business intelligence-værktøjer kæmper ofte med datavolumen og -hastigheden. For eksempel kan man i telekommunikation have milliarder af opkaldsrekorder, men det er den lille brøkdel af afbrudte opkald, man skal fokusere på. HeavyIQ giver mulighed for at sigte igennem data 10 til 100 gange hurtigere takket være vores GPU-infrastruktur. Denne hastighed kombineret med evnen til interaktivt at forespørge og visualisere data gør det uvurderligt for risikoanalyse i utilities eller realtids-scenarieplanlægning for regeringsinstitutioner.

En anden fordel, som allerede er nævnt ovenfor, er, at rumlige og tidsmæssige SQL-forespørgsler er ekstremt kraftfulde analytisk – men kan være langsomme eller svære at skrive i hånden. Når et system fungerer med, hvad vi kalder “curiositets-hastighed”, kan brugere stille både flere og mere nuancerede spørgsmål. Så for eksempel kan en telekommunikationsingeniør bemærke en tidsmæssig stigning i udstyrsfejl fra et overvågnings-system og have en intuition om, at noget er galt på en bestemt facilitet, og kontrollere dette med en rumlig forespørgsel, der returnerer et kort.

Hvad er der af foranstaltninger for at forhindre metadata-lækage, når man bruger HeavyIQ?

Som beskrevet ovenfor har vi bygget HeavyIQ med privatliv og sikkerhed som kerne. Dette inkluderer ikke kun data, men også flere typer metadata. Vi bruger kolonne- og tabel-niveau-metadata omfattende til at bestemme, hvilke tabeller og kolonner indeholder den information, der er nødvendig for at besvare en forespørgsel. Vi bruger også interne virksomhedsdokumenter, hvor det er muligt, til at hjælpe med, hvad der kaldes retrieval-augmented generation (RAG). Endelig genererer sprogmodellerne selv yderligere metadata. Alle disse, men især de sidste, kan være af høj forretnings-sensitivitet.

Ulig third-party-modeller, hvor dine data typisk sendes til eksterne servere, kører HeavyIQ lokalt på samme GPU-infrastruktur som resten af vores platform. Dette sikrer, at dine data og metadata forbliver under din kontrol, med ingen risiko for lækage. For organisationer, der kræver højeste niveau af sikkerhed, kan HeavyIQ endda installeres i en fuldstændig air-gapped miljø, hvilket sikrer, at følsomme oplysninger aldrig forlader bestemt udstyr.

Hvordan opnår HEAVY.AI høj ydelse og skalerbarhed med massive datasæt ved hjælp af GPU-infrastruktur?

Hemmeligheden er grundlæggende at undgå den data-bevægelse, der er almindelig i andre systemer. Det starter med en formål-bygget database, der er designet fra bunden til at køre på NVIDIA-GPU’er. Vi har arbejdet på dette i over 10 år nu, og vi mener, at vi har den bedste løsning i klassen, når det kommer til GPU-accelereret analyse.

Even the best CPU-baserede systemer løber tør for damp lang tid før en middelmådig GPU. Strategien, når dette sker på CPU, kræver at distribuere data over flere kerner og derefter flere systemer (såkaldt “horisontal skalerbarhed”). Dette fungerer godt i nogle sammenhænge, hvor tingene er mindre tidskritiske, men generelt begynder at blive begrænset af netværkspræstation.

Ud over at undgå all denne data-bevægelse på forespørgsler undgår vi også på mange andre almindelige opgaver. Først kan vi rendre grafik uden at flytte data. Hvis du vil have ML-inferencemodellering, gør vi det igen uden data-bevægelse. Og hvis du afhører data med en stor sprog-model, gør vi det igen uden data-bevægelse. Selv hvis du er en data-videnskabsmand og vil afhøre data fra Python, giver vi metoder til at gøre dette på GPU uden data-bevægelse.

Hvad det betyder i praksis er, at vi kan udføre ikke kun forespørgsler, men også rendering 10 til 100 gange hurtigere end traditionelle CPU-baserede databaser og kort-servere. Når du har at gøre med de massive, højhastighedsdatasæt, som vores kunder arbejder med – som vejrmodeller, telekommunikations-opkaldsrekorder eller satellitbilleder – er denne ydelsesforbedring absolut afgørende.

Hvordan opretholder HEAVY.AI sin konkurrencedygtighed i det hurtigt udviklende landskab af big data-analyse og AI?

Det er et godt spørgsmål, og det er noget, vi tænker over konstant. Landskabet af big data-analyse og AI udvikler sig med en ufattelig hast, med nye gennembrud og innovationer, der sker hele tiden. Det gør bestemt ikke noget skade, at vi har en 10-års føring på GPU-database-teknologi.

Jeg tror, at nøglen for os er at forblive fokuseret på vores kerne-mission – at demokratisere adgangen til store, georumlige data. Det betyder at fortsætte med at skubbe grænserne for, hvad der er muligt med GPU-accelereret analyse, og sikre, at vores produkter leverer enestående ydelse og muligheder i dette domæne. En stor del af det er vores fortsatte investering i udvikling af tilpassede, finjusterede sprogmodeller, der virkelig forstår nuancerne af rumlige SQL og georumlig analyse.

Vi har bygget op en omfattende bibliotek af træningsdata, der går langt ud over generiske benchmarks, for at sikre, at vores konversations-analyseværktøjer kan engagere sig med brugere på en naturlig, intuitiv måde. Men vi ved også, at teknologi alene ikke er nok. Vi må forblive dybt forbundne med vores kunder og deres udviklende behov. Til sidst kommer vores konkurrencedygtighed ned til vores uforbeholdne fokus på at levere transformerende værdi til vores brugere. Vi er ikke bare med til at følge markedet – vi skubber grænserne for, hvad der er muligt med big data og AI. Og vi vil fortsætte med det, uanset hvor hurtigt landskabet udvikler sig.

Hvordan støtter HEAVY.AI redningsindsatsen gennem HeavyEco?

Vi byggede HeavyEco, da vi så, at nogle af vores største utility-kunder havde betydelige udfordringer med at indtaste dagens vejrmodeller og visualisere dem til sammenligning. Det tog en kunde op til fire timer bare at indlæse data, og når man er op imod hurtigt bevægelige ekstreme vejrforhold som brand… det er bare ikke godt nok.

HeavyEco er designet til at give realtids-indsigter i høj-konsekvens-situationer, som under en brand eller oversvømmelse. I sådanne situationer skal man træffe beslutninger hurtigt og baseret på den bedste mulige data. Så HeavyEco fungerer først og fremmest som en professionelt styret data-rørledning for autoritative modeller som dem fra NOAA og USGS. Oven på disse giver HeavyEco mulighed for at køre scenarier, bygge niveau-påvirkninger og visualisere data i realtid. Dette giver førstehjælpere den kritiske information, de har brug for, når det betyder noget. Det handler om at omdanne komplekse, store datasæt til handlebare intelligence, der kan guide øjeblikkelig beslutningstagning.

Til sidst er vores mål at give vores brugere mulighed for at udforske deres data med tanke-hastighed. Uanset om de kører komplekse rumlige modeller, sammenligner vejr-udsigter eller prøver at identificere mønstre i georumlige tids-serier, vil vi have dem til at gøre det uden besvær, uden tekniske barrierer i vejen.

Hvad adskiller HEAVY.AIs proprietære LLM fra andre tredjeparts-LLM’er i forhold til nøjagtighed og ydelse?

Vores proprietære LLM er specifikt tilpasset til den type analyse, vi fokuserer på – som tekst-til-SQL og tekst-til-visualisering. Vi prøvede først traditionelle tredjeparts-modeller, men fandt, at de ikke opfyldte de høje nøjagtigheds-krav, vores brugere havde, som ofte træffer kritiske beslutninger. Så vi finjusterede en række åbne kilde-modeller og testede dem mod branchen-benchmarks.

Vores LLM er langt mere nøjagtig for de avancerede SQL-koncepter, vores brugere har brug for, især i georumlige og tidsmæssige data. Derudover, da det kører på vores GPU-infrastruktur, er det også mere sikret.

Ud over de indbyggede model-kapaciteter giver vi også en fuld interaktiv brugergrænseflade for administratorer og brugere til at tilføje domæne- eller forretnings-relevant metadata. For eksempel, hvis grund-modellen ikke fungerer, som forventet, kan du importere eller justere kolonne-niveau-metadata eller tilføje vejlednings-oplysninger og få øjeblikkelig feedback.

Hvordan ser HEAVY.AI på rollen af georumlige og tidsmæssige data-analyse i at forme fremtiden for forskellige brancher?

Vi mener, at georumlige og tidsmæssige data-analyse vil være afgørende for fremtiden for mange brancher. Det, vi virkelig fokuserer på, er at hjælpe vores kunder med at træffe bedre beslutninger, hurtigere. Uanset om du er i telekommunikation, utilities eller regering, eller andet – har mulighed for at analysere og visualisere data i realtid kan være en game-changer.

Vores mission er at gøre denne type kraftfuld analyse tilgængelig for alle, ikke kun de store spillere med massive ressourcer. Vi vil sikre, at vores kunder kan udnytte de data, de har, for at forblive foran og løse problemer, når de opstår. Da data fortsætter med at vokse og blive mere komplekse, ser vi vores rol som at sikre, at vores værktøjer udvikler sig lige så hurtigt, så vores kunder altid er forberedt på, hvad der kommer herefter.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge HEAVY.AI.