Andrei Kulik, medgründer av XENOM – intervjuserien

Andrei Kulik er medgründer og daglig leder i XENOM. Han bringer med seg erfaring med KI på enheter, distribuerte systemer og maskinlæring til industriell drift. Tidligere var han med på å grunnlegge AIMatter, som ble kjøpt opp av Google, og jobbet med KI-systemer for forbrukerenheter hos Google. Karrieren hans har vært viet til å få avansert KI til å fungere pålitelig innenfor de praktiske begrensningene til virkelig maskinvare og reelle omgivelser.

XENOM utvikler en industriell KI-plattform som kombinerer programvare med smart verneutstyr for å gi operatører sanntidsoversikt over arbeidsstedene sine. Systemet samler posisjonering, kommunikasjon mellom ansatte, miljømålinger og sikkerhetsdata. I dette intervjuet snakker Kulik om kantbasert KI, smarte hjelmer, menneskelig tilsyn, personvern for arbeidstakere og veien fra industriell overvåking til prediktiv beslutningsstøtte.

Du var tidligere med på å grunnlegge AIMatter, som ble kjøpt opp av Google, og brukte flere år på å utvikle KI-systemer som skulle kjøre direkte på forbrukerenheter. Hva inspirerte deg til å være med på å grunnlegge XENOM, og hvordan formet erfaringene dine hos Google visjonen din for å ta KI i bruk i industrien?

Etter oppkjøpet brukte jeg flere år på å jobbe med ett bestemt problem: Hvordan får man avansert KI til å kjøre pålitelig på en enhet som får plass i lommen, med begrenset batterikapasitet, uforutsigbar tilkobling og forhold fra den virkelige verden som ikke kan simuleres fullt ut i et laboratorium? Vi tok denne teknologien i bruk på tvers av telefoner, briller og ørepropper – milliarder av enheter. Etter hvert begynte jeg å spørre meg selv hvor ellers denne arkitekturen kunne være nyttig. Forbrukerenheter er praktiske, men det er på industriområder at kostnaden ved en feil beslutning – eller ved at ingen beslutning blir tatt – måles i menneskeliv og millioner i tapt produktivitet. De fleste industriområder mangler fortsatt sanntidsoversikt over hva som skjer. Dette gapet føltes som akkurat det rette problemet for teknologien vi hadde brukt flere år på å utvikle.

XENOM kombinerer KI-drevet programvare med smart verneutstyr for å gi sanntidsinnsikt i industriell drift. Hva er de største blindsonene i tradisjonelle sikkerhetssystemer for industrien, og hvordan løser plattformen deres utfordringer som konvensjonell overvåkingsteknologi strever med?

Det grunnleggende problemet er at de fleste systemer er utviklet for å registrere det som har skjedd, ikke for å forhindre at det skjer. En arbeidstakers posisjon oppdateres med noen minutters mellomrom. Timelistene fylles ut på slutten av skiftet. Sikkerhetsbrudd loggføres etter at en hendelsesrapport er levert. Når en leder får se dataene, er skiftet over eller ulykken allerede skjedd. Den andre blindsonen er manglende sammenheng: Et selskap kan ha et gassovervåkingssystem, et separat adgangskontrollsystem, en sjekkliste for personlig verneutstyr på papir og en manuell rutine for timelister, uten at noen av systemene kommuniserer med hverandre. XENOM erstatter alt dette med én kontinuerlig datastrøm fra arbeidsstedet, som behandles i sanntid og gir en leder ett helhetlig bilde i stedet for fem usammenhengende.

Mye av karrieren din har vært viet til å optimalisere maskinlæring og inferens med store språkmodeller for enheter med begrensede ressurser. Hvordan bruker dere disse prinsippene i industrielle omgivelser, og hvilke tekniske fordeler gir det å behandle KI-arbeidsoppgaver lokalt ved kanten av nettverket i stedet for å være avhengig av skyinfrastruktur?

Arbeid med enheter med begrensede ressurser lærer deg én ting: Hvert millisekund, hver milliwatt og hver byte må kunne begrunnes. Det er akkurat denne tankegangen som trengs for en industrihjelm, fordi den brukes gjennom et helt skift og må fungere like stabilt i den ellevte timen som i den første. Vi deler bevisst opp oppgavene: Tidskritiske og datakrevende oppgaver, som behandling av talestrømmen og sensorsignalene eller registrering av fall og støt, kjøres på hjelmener NPU ved hjelp av modeller som er komprimert og tilpasset denne maskinvaren. Det samlede bildet av arbeidsstedet og mer omfattende analyser bygges derimot på plattformen.

Kantbehandling gir oss fire praktiske fordeler. Den første er hastighet: Enheten reagerer umiddelbart på en hendelse uten å måtte sende data fram og tilbake til en server. Den andre er pålitelighet: En slank modell som kjører på enheten, oppfører seg forutsigbart, mens hvert ekstra ledd i kjeden er enda et mulig feilpunkt. Den tredje er nettverksbelastning: Hundrevis av hjelmer kan ikke kontinuerlig strømme rå lyd- og sensordata, så hver hjelm sender resultatet av analysen i stedet. Den fjerde er batteritid: Dataoverføring er noe av det mest strømkrevende en enhet gjør, så lokal behandling og mindre datamengder som sendes, forlenger driftstiden.

XENOM har utviklet smarte hjelmer med integrert posisjonering, kommunikasjon, miljømålinger og KI-funksjoner. Hva var de største tekniske utfordringene med å få disse teknologiene til å fungere sammen, særlig i omgivelser der tilkobling, batteritid og pålitelighet kan være uforutsigbare?

Den største utfordringen var ikke én enkelt teknologi, men å få alle teknologiene til å fungere pålitelig sammen i én enhet under forhold som ville ødelegge det meste av forbrukerelektronikk. Industriområder er skitne, fysisk krevende og preget av ekstreme temperaturer. Hjelmen blir mistet i bakken, utsatt for regn og brukt gjennom tolv timer lange skift. Batteritiden blir en reell begrensning når posisjonering, sensorer, kommunikasjon og AI-inferens kjører samtidig. I tillegg kommer tilkoblingsarkitekturen: Vi trengte en sømløs overgang mellom RTK-satellittposisjonering utendørs og vårt proprietære UWB-meshnettverk innendørs, uten tap av nøyaktighet når en arbeidstaker beveger seg mellom de to. Å få denne overgangen til å skje automatisk, pålitelig og i sanntid var noe av det mest teknisk krevende vi har bygget.

Teamet deres har utviklet en stemmebasert AI-modell som kan oppdage tegn på alkoholpåvirkning gjennom tale, og rapporterer om bedre resultater enn tidligere akademiske referanseresultater. Hvilke tekniske gjennombrudd gjorde dette mulig, og hvordan validerer dere systemets pålitelighet på tvers av ulike språk, aksenter, nivåer av bakgrunnsstøy og reelle arbeidsforhold?

Den viktigste innsikten var at rus setter et gjenkjennelig preg på talens mikromønstre – ikke på ordene, men på de akustiske egenskapene: timing, variasjon i tonehøyde og artikulasjonens presisjon. Vi bygget en modell som analyserer disse mønstrene i bakgrunnen under vanlig talekommunikasjon, uten at det kreves en egen test eller at arbeidstakeren foretar seg noe. Nøyaktighetstallet på 86,7 % kommer fra grundige referansetester mot publiserte akademiske datasett. For å validere modellen i virkelige forhold tester vi den på tvers av språk, aksenter og bakgrunnsstøy som gjenspeiler faktiske industriområder – tungt maskineri, vind og flere personer som snakker samtidig. Modellen måtte være robust nok til å fungere under forhold som er helt annerledes enn i en kontrollert studie. Det krevde stor variasjon i treningsdataene og gjentatte forbedringer.

AI-systemer som er utviklet for å oppdage påvirkning eller tretthet hos arbeidstakere, reiser viktige spørsmål om falske positive resultater og ansvarliggjøring. Hvordan balanserer XENOM tidlig risikodeteksjon med behovet for menneskelig verifisering, og hvilke sikkerhetstiltak hindrer at en feilaktig AI-vurdering får urimelige konsekvenser for en arbeidstaker?

Dette var noe vi tenkte svært grundig gjennom helt fra starten. Systemet er laget for å varsle en arbeidsleder om en mulig bekymring, ikke for å handle på egen hånd. En AI-vurdering av mulig påvirkning utløser en menneskelig kontroll – arbeidslederen kan observere arbeidstakeren direkte, stille spørsmål eller be om en fysisk test hvis det er grunnlag for det. AI-systemet fjerner ikke noen fra arbeidsstedet. Det gir et menneske informasjonen som trengs for å kunne vurdere situasjonen raskere enn ellers. Vi følger også med på andelen falske positive resultater under bruk og forbedrer modellen kontinuerlig. Målet er å redusere antallet hendelser som skjer fordi ingen oppdaget faresignalene – ikke å lage et system som straffer arbeidstakere utelukkende på grunnlag av en algoritme.

Før du grunnla XENOM, var du teknologidirektør (CTO) i OneSoil, der du brukte datasyn og maskinlæring til landbruksovervåking og produktivitetsanalyser. Hvilke erfaringer fra bruk av AI i landbruket har vist seg å være mest verdifulle når dere bygger intelligente systemer for byggeplasser, gruver, havner og energianlegg?

Å ta i bruk AI i den fysiske verden er en grunnleggende annen utfordring enn å ta den i bruk i programvare. Du må håndtere variasjon, utstyr som ikke oppfører seg likt fra gang til gang, og operatører som har utført jobben sin i flere tiår og er dypt skeptiske til alt som ber dem gjøre ting annerledes. Industriområder har den samme dynamikken. Teknologien må gjøre seg fortjent til tillit ved å ha rett oftere enn folk forventer, og den må være enkel nok til at en person som leder et arbeidslag på femti, faktisk kan bruke den uten opplæring. En annen lærdom er at datakvaliteten ute i felt nesten alltid er dårligere enn du hadde planlagt for. Du må bygge systemer som tåler støy, databrudd og unntakstilfeller som aldri dukker opp i et ryddig datasett.

Industrielle AI-plattformer kan generere detaljert informasjon om hvor arbeidstakere befinner seg, hva de gjør, hvordan de kommuniserer og hvor produktive de er. Hvordan håndterer dere personvern, arbeidstakernes samtykke og risikoen for overvåking på arbeidsplassen, samtidig som dere sørger for at teknologien faktisk forbedrer sikkerheten og driftseffektiviteten?

Vi ser på dette som et spørsmål om formålsbegrensning. Dataene XENOM samler inn, skal brukes til sikkerhet og oversikt over driften – de er ikke et verktøy for produktivitetsovervåking og bør ikke brukes til det. Før en løsning tas i bruk, samarbeider vi med operatørene om å utarbeide tydelige retningslinjer for datastyring: hva som samles inn, hvor lenge det lagres, hvem som har tilgang, og under hvilke omstendigheter dataene kan brukes i en personalbeslutning. Posisjonsdata om arbeidstakere aggregeres og anonymiseres for produktivitetsanalyser. Individuell sporing er tilgjengelig for sikkerhetsansvarlige ved nødsituasjoner, ikke for arbeidsledere som skal vurdere prestasjoner. Etter hvert som EUs AI-forordning også omfatter industrielle AI-systemer, forventer vi at regelverket vil formalisere mye av dette. Vi vil heller ligge i forkant enn å måtte haste med å etterleve kravene.

Å flytte KI fra kontrollerte laboratoriemiljøer til sikkerhetskritisk industriell drift byr på utfordringer som programvarebaserte KI-selskaper sjelden møter. Hva har overrasket dere mest under XENOMs utrullinger i den virkelige verden, og hvordan måler dere om teknologien gir betydelige forbedringer innen ulykkesforebygging, driftseffektivitet og produktivitet blant de ansatte?

Den største overraskelsen er hvor mye verdi som ligger i å ha et nøyaktig bilde av hvor folk befinner seg, og hvordan tiden brukes. Vi forventet at sikkerhet skulle være det viktigste samtaleemnet med operatørene. Det vi oppdaget, er at oversikt over produktiviteten – forståelse av hvor skiftene taper tid, hvorfor enkelte arbeidslag presterer bedre enn andre, og hvor flaskehalsene er – ofte gir raskere avkastning og gjør at interne pådrivere for plattformen dukker opp mye tidligere. Den andre overraskelsen er hvor store forskjellene er mellom bransjer, og til og med mellom arbeidssteder innenfor samme bransje. Bygg- og anleggsvirksomhet i Tyskland fungerer svært annerledes enn i De forente arabiske emirater. Man kan ikke utvikle ett produkt og anta at det passer overalt uten betydelig videreutvikling.

Fremover ser XENOM for seg en industriell KI-copilot som kan gå lenger enn overvåking, ved å forutsi risikoer og anbefale driftsbeslutninger. Hvordan tror du fysisk KI vil utvikle seg i løpet av de neste fem årene, og hvilke teknologiske gjennombrudd trengs fortsatt før industrielle KI-systemer kan operere mer selvstendig, samtidig som mennesker beholder tilsynet?

Industriell KI handler i dag først og fremst om oversikt – å vite hva som skjer. Neste steg er prediksjon: å identifisere mønstre som går forut for en hendelse eller et produktivitetstap, før noe av dette inntreffer. Det krever at man over tid samler inn strukturerte, merkede data i stor skala, og det er nettopp det XENOM gjør helt fra første dag. Steget etter dette er anbefalinger: Systemet forteller ikke bare hva som sannsynligvis vil skje, men foreslår også hva man bør gjøre – hvordan man bør omdisponere personell, når en operasjon bør settes på pause, og hvilken sammensetning av arbeidslag som gir best resultater for en bestemt oppgave. Det er dette tredje steget vi jobber mot med Industrial AI Copilot. Det teknologiske gjennombruddet som trengs, handler først og fremst ikke om bedre modeller – det handler om data. Man trenger nok operasjonelle data av høy kvalitet fra et tilstrekkelig stort antall ulike arbeidssteder for å trene en modell som generaliserer pålitelig. Selskapene som begynner å samle inn slike data nå, vil få et forsprang som blir svært vanskelig å ta igjen senere.

Takk for et flott intervju. Lesere som ønsker å utforske edge-KI, smart verneutstyr og sanntidsovervåking av industriell sikkerhet, bør besøke XENOM.