Andrei Kulik, medstifter af XENOM – interviewserie

Andrei Kulik er medstifter og administrerende direktør for XENOM. Han bringer erfaring med AI på enheden, distribuerede systemer og maskinlæring ind i industriel drift. Tidligere var han med til at grundlægge AIMatter, som blev opkøbt af Google, og han arbejdede med AI-systemer til forbrugerenheder hos Google. Hans karriere har været fokuseret på at få avanceret AI til at fungere pålideligt inden for de praktiske begrænsninger, som virkelige enheder og omgivelser stiller.

XENOM udvikler en industriel AI-platform, der kombinerer software med intelligent beskyttelsesudstyr, så operatører får et realtidsoverblik over deres arbejdsområder. Systemet samler positionsdata, kommunikation mellem medarbejdere, miljømålinger og sikkerhedsdata. I dette interview taler Kulik om edge-AI, intelligente hjelme, menneskeligt tilsyn, medarbejdernes privatliv og vejen fra industriel overvågning til prædiktiv beslutningsstøtte.

Du var tidligere med til at grundlægge AIMatter, som blev opkøbt af Google, og brugte flere år på at udvikle AI-systemer, der var designet til at køre direkte på forbrugerenheder. Hvad inspirerede dig til at være med til at grundlægge XENOM, og hvordan formede din erfaring hos Google din vision for at bringe AI ind i industrielle miljøer?

Efter opkøbet brugte jeg flere år på at arbejde med et bestemt problem: Hvordan får man avanceret AI til at køre pålideligt på en enhed, der kan være i lommen, med begrænset batterikapacitet, uforudsigelig forbindelse og virkelige forhold, som intet laboratorium kan simulere fuldt ud? Vi udrullede løsningen på tværs af telefoner, briller og øretelefoner – på milliarder af enheder. På et tidspunkt begyndte jeg at spørge mig selv, hvor denne arkitektur ellers kunne gøre en forskel. Forbrugerenheder er praktiske, men på industrielle arbejdspladser måles prisen for en forkert beslutning – eller for slet ikke at træffe en beslutning – i menneskeliv og millioner i tabt produktivitet. De fleste industrielle arbejdspladser har stadig ikke et realtidsoverblik over, hvad der foregår. Det hul føltes som præcis det rigtige problem at løse med den teknologi, vi havde brugt flere år på at udvikle.

XENOM kombinerer AI-baseret software med intelligent beskyttelsesudstyr for at give realtidsindsigt i industriel drift. Hvad er de største blinde vinkler i traditionelle industrielle sikkerhedssystemer, og hvordan håndterer jeres platform udfordringer, som konventionelle overvågningsteknologier har svært ved at løse?

Det grundlæggende problem er, at de fleste systemer er udviklet til at registrere, hvad der er sket, ikke til at forhindre, at det sker. En medarbejders position opdateres med få minutters mellemrum. Timesedler udfyldes ved skiftets afslutning. Sikkerhedsbrud registreres, når en hændelsesrapport er indsendt. Når en leder får dataene at se, er skiftet slut, eller ulykken er allerede sket. Den anden blinde vinkel er fragmentering: En virksomhed har måske et gasovervågningssystem, et separat adgangskontrolsystem, en papirbaseret tjekliste over personlige værnemidler og en manuel proces til timesedler, som ikke kommunikerer med hinanden. XENOM erstatter alt dette med en enkelt, kontinuerlig datastrøm fra arbejdsstedet, som behandles i realtid og giver lederen et samlet overblik i stedet for fem adskilte billeder.

En stor del af din karriere har handlet om at optimere maskinlæring og inferens med store sprogmodeller på enheder med begrænsede ressourcer. Hvordan anvender du disse principper i industrielle miljøer, og hvilke tekniske fordele er der ved at behandle AI-arbejdsopgaver ved kanten af netværket i stedet for at være afhængig af cloudinfrastruktur?

Arbejdet med enheder med begrænsede ressourcer lærer én en bestemt disciplin: Hvert millisekund, hver milliwatt og hver byte skal kunne begrundes. Det er præcis den tankegang, en industrihjelm kræver, fordi den bæres gennem et helt skift og skal fungere lige så stabilt i den ellevte time som i den første. Vi fordeler bevidst opgaverne: Tidskritiske og datatunge opgaver som behandling af talestrømmen og sensorsignalerne eller registrering af fald og slag udføres af NPU’en i hjelmen ved hjælp af modeller, der er komprimeret og tilpasset hardwaren, mens det samlede overblik over arbejdsstedet og de mere dybdegående analyser håndteres på platformen.

Edge-behandling giver os fire praktiske fordele. Den første er hastighed: Enheden reagerer straks på en hændelse uden at skulle sende en forespørgsel til en server og vente på svar. Den anden er pålidelighed: En slank model på enheden opfører sig forudsigeligt, mens hvert ekstra led i kæden er endnu et muligt fejlpunkt. Den tredje er belastningen på netværket: Hundredvis af hjelme kan ikke løbende sende rå lyd- og sensordata, så hver hjelm sender i stedet resultatet af analysen. Den fjerde er batterilevetid: Datatransmission er noget af det mest energikrævende, en enhed udfører, så lokal behandling og færre data sendt over netværket forlænger driftstiden.

XENOM har udviklet intelligente hjelme, der integrerer positionering, kommunikation, miljømålinger og AI-funktioner. Hvad var de største tekniske udfordringer ved at samle disse teknologier, især i miljøer, hvor forbindelsen, batterilevetiden og pålideligheden kan være uforudsigelig?

Den største udfordring var ikke en enkelt teknologi, men at få dem alle til at fungere pålideligt sammen i én enhed under forhold, der ville ødelægge det meste forbrugerelektronik. Industriområder er beskidte, fysisk krævende og præget af ekstreme temperaturer. Hjelmen bliver tabt, udsat for regn og brugt på tolvtimersvagter. Batterilevetiden bliver en reel begrænsning, når positionering, sensorer, kommunikation og AI-beregninger foregår samtidig. Og så er der forbindelsesarkitekturen: Vi havde brug for en problemfri overgang mellem RTK-satellitpositionering udendørs og vores proprietære UWB-meshnetværk indendørs, uden tab af nøjagtighed, når en medarbejder bevæger sig fra det ene område til det andet. At få overgangen til at ske automatisk, pålideligt og i realtid var en af de teknisk mest krævende ting, vi har bygget.

Jeres team har udviklet en stemmebaseret AI-model, der kan registrere tegn på alkoholpåvirkning gennem tale, og som ifølge jer præsterer bedre end tidligere akademiske benchmarks. Hvilke tekniske gennembrud gjorde det muligt, og hvordan validerer I systemets pålidelighed på tværs af forskellige sprog, accenter, niveauer af baggrundsstøj og virkelige arbejdsforhold?

Den afgørende indsigt var, at beruselse efterlader et genkendeligt mønster i talens mikromønstre — ikke i ordene, men i de akustiske egenskaber: timing, variation i tonehøjde og artikulationens præcision. Vi byggede en model, der analyserer disse mønstre i baggrunden under almindelig talekommunikation, uden at der kræves en særskilt test eller nogen handling fra medarbejderen. Nøjagtigheden på 86,7 % stammer fra grundige benchmarktests op mod offentliggjorte akademiske datasæt. For at validere modellen i virkelige situationer tester vi den på tværs af sprog, accenter og baggrundsstøj, der afspejler faktiske industriområder — tungt maskineri, vind og flere personer, der taler samtidig. Modellen skulle være robust nok til at fungere under forhold, der er helt anderledes end i et kontrolleret studie. Det krævede stor variation i træningsdataene og gentagne forbedringer.

AI-systemer, der er udviklet til at identificere påvirkning eller træthed hos medarbejdere, rejser væsentlige spørgsmål om falske positiver og ansvar. Hvordan afvejer XENOM tidlig risikodetektion over for behovet for menneskelig verifikation, og hvilke sikkerhedsforanstaltninger forhindrer, at en fejlagtig AI-vurdering rammer en medarbejder urimeligt?

Det tænkte vi meget grundigt over helt fra begyndelsen. Systemet er designet til at gøre en supervisor opmærksom på en bekymring, ikke til at handle autonomt. En AI-vurdering af mulig påvirkning udløser et menneskeligt eftersyn — supervisoren kan observere medarbejderen direkte, stille spørgsmål eller anmode om en fysisk test, hvis det vurderes nødvendigt. AI’en fjerner ikke nogen fra arbejdspladsen. Den giver et menneske de oplysninger, der skal til for at træffe en vurdering hurtigere, end det ellers ville være muligt. Vi følger også antallet af falske positiver under ibrugtagningen og forbedrer løbende modellen. Målet er at mindske antallet af hændelser, der sker, fordi ingen lagde mærke til noget — ikke at skabe et system, der straffer medarbejdere alene på grundlag af en algoritme.

Før du grundlagde XENOM, var du CTO hos OneSoil, hvor du anvendte computervision og maskinlæring til overvågning af landbruget og produktivitetsanalyser. Hvilke erfaringer fra implementering af AI i landbruget har vist sig at være mest værdifulde, når man udvikler intelligente systemer til byggepladser, miner, havne og energianlæg?

At implementere AI i den fysiske verden er en grundlæggende anderledes udfordring end at implementere den i software. Man skal håndtere variation, udstyr, der ikke opfører sig ens fra gang til gang, og operatører, der har udført deres arbejde i årtier og er dybt skeptiske over for alt, der beder dem gøre tingene anderledes. På industriområder gælder de samme forhold. Teknologien skal gøre sig fortjent til tillid ved pålideligt at have ret oftere, end folk forventer, og den skal være enkel nok til, at en person med ansvar for et hold på 50 faktisk kan bruge den uden oplæring. En anden erfaring er, at datakvaliteten i felten næsten altid er dårligere, end man havde regnet med. Man er nødt til at bygge systemer, der kan håndtere støj, huller i dataene og særlige tilfælde, som aldrig optræder i et rent datasæt.

Industrielle AI-platforme kan generere detaljerede oplysninger om medarbejderes placering, aktiviteter, kommunikation og produktivitet. Hvordan håndterer I databeskyttelse, medarbejdernes samtykke og risikoen for overvågning på arbejdspladsen, samtidig med at I sikrer, at teknologien reelt forbedrer sikkerheden og driftseffektiviteten?

Vi ser på det ud fra princippet om formålsbegrænsning. De data, XENOM indsamler, er til sikkerhed og overblik over driften — det er ikke et værktøj til overvågning af produktivitet og bør ikke bruges sådan. Før implementeringen samarbejder vi med operatørerne om at fastlægge klare politikker for datastyring: Hvad indsamles, hvor længe opbevares det, hvem har adgang, og under hvilke omstændigheder kan det bruges i en personalebeslutning? Medarbejdernes placeringsdata aggregeres og anonymiseres til produktivitetsanalyser — individuelle sporingsdata er tilgængelige for sikkerhedssupervisorer ved nødsituationer, ikke for linjeledere til evaluering af arbejdspræstationer. I takt med at EU’s AI-forordning også kommer til at omfatte industrielle AI-systemer, forventer vi, at de lovgivningsmæssige rammer vil formalisere mange af disse forhold. Vi vil hellere være på forkant end at skulle skynde os at efterleve reglerne.

At flytte AI fra kontrollerede laboratoriemiljøer til sikkerhedskritiske industrielle driftsmiljøer indebærer udfordringer, som softwarebaserede AI-virksomheder sjældent møder. Hvad har overrasket jer mest under XENOMs implementeringer i den virkelige verden, og hvordan måler I, om teknologien skaber mærkbare forbedringer inden for forebyggelse af ulykker, driftseffektivitet og arbejdsstyrkens produktivitet?

Den største overraskelse er, hvor stor værdi der ligger i ganske enkelt at have et præcist overblik over, hvor folk befinder sig, og hvordan tiden bliver brugt. Vi forventede, at sikkerhed ville være det primære samtaleemne med operatørerne. Det viste sig, at indsigt i produktiviteten – forståelsen af, hvor skiftene mister tid, hvorfor nogle hold præsterer bedre end andre, og hvor flaskehalsene er – ofte giver et hurtigere afkast på investeringen og langt hurtigere skaber interne fortalere for platformen. Den anden overraskelse er, hvor stor variationen er mellem brancher og endda mellem arbejdssteder inden for samme branche. Byggebranchen i Tyskland fungerer meget anderledes end byggebranchen i UAE. Man kan ikke udvikle ét produkt og gå ud fra, at det passer overalt uden betydelige tilpasninger.

Fremadrettet ser XENOM for sig en Industrial AI Copilot, der kan gå videre end overvågning ved at forudsige risici og anbefale driftsbeslutninger. Hvordan ser du den fysiske AI udvikle sig i løbet af de næste fem år, og hvilke teknologiske gennembrud er der stadig brug for, før industrielle AI-systemer kan fungere mere selvstændigt og samtidig bevare menneskelig overvågning?

Industriel AI handler i dag mest om overblik – om at vide, hvad der foregår. Næste trin er forudsigelse: at identificere mønstre, der går forud for en hændelse eller et produktivitetstab, før noget af det sker. Det kræver, at man over tid indsamler strukturerede, mærkede data i stor skala, og det er netop, hvad XENOM gør fra dag ét. Trinnet derefter er anbefalinger: Systemet fortæller ikke blot, hvad der sandsynligvis vil ske, men foreslår også, hvad man skal gøre ved det – hvordan man omfordeler medarbejdere, hvornår en operation skal sættes på pause, og hvilken holdsammensætning der giver de bedste resultater på en given opgave. Det er dette tredje trin, vi arbejder hen imod med Industrial AI Copilot. Det teknologiske gennembrud, der kræves, handler først og fremmest ikke om fremskridt inden for modellering – det er et dataproblem. Man skal have tilstrækkeligt med driftsdata af høj kvalitet fra tilstrækkeligt mange forskellige arbejdssteder for at træne en model, der generaliserer pålideligt. De virksomheder, der begynder at indsamle disse data nu, får et forspring, som bliver meget vanskeligt at kopiere senere.

Tak for et godt interview. Læsere, der ønsker at udforske edge-AI, intelligent beskyttelsesudstyr og industriel sikkerhedsovervågning i realtid, bør besøge XENOM.