Andrei Kulik, spoluzakladatel společnosti XENOM – série rozhovorů

Andrei Kulik je spoluzakladatelem a generálním ředitelem společnosti XENOM. Do průmyslového provozu přináší zkušenosti s umělou inteligencí přímo v zařízení, distribuovanými systémy a strojovým učením. Dříve spoluzaložil společnost AIMatter, kterou koupil Google, a v Googlu pracoval na systémech umělé inteligence pro spotřebitelská zařízení. Ve své kariéře se zaměřuje na to, aby pokročilá umělá inteligence spolehlivě fungovala v praktických podmínkách skutečného hardwaru a prostředí.

XENOM vyvíjí průmyslovou platformu umělé inteligence, která propojuje software s chytrými ochrannými prostředky a poskytuje obsluze přehled o pracovištích v reálném čase. Její systém spojuje určování polohy, komunikaci pracovníků, snímání okolního prostředí a bezpečnostní data. V tomto rozhovoru Kulik hovoří o umělé inteligenci na okraji sítě, chytrých přilbách, lidském dohledu, soukromí pracovníků a cestě od průmyslového monitorování k prediktivní podpoře rozhodování.

Dříve jste spoluzaložil společnost AIMatter, kterou koupil Google, a řadu let jste vyvíjel systémy umělé inteligence určené k přímému provozu na spotřebitelských zařízeních. Co vás inspirovalo ke spoluzaložení společnosti XENOM a jak vaše zkušenosti z Googlu ovlivnily vaši představu o využití umělé inteligence v průmyslovém prostředí?

Po akvizici jsem několik let pracoval na jednom konkrétním problému: jak zajistit, aby pokročilá umělá inteligence spolehlivě fungovala na zařízení, které se vejde do kapsy, má omezenou baterii, nepředvídatelné připojení a musí zvládat reálné podmínky, které nelze plně nasimulovat v žádné laboratoři. Tuto technologii jsme nasadili do telefonů, brýlí a sluchátek – celkem do miliard zařízení. Po čase jsem se začal ptát, kde jinde by se tato architektura mohla uplatnit. Spotřebitelská zařízení jsou praktická, ale v průmyslových provozech se cena špatného rozhodnutí – nebo toho, že se nerozhodne vůbec – počítá na lidské životy a miliony ztracené produktivity. Většina průmyslových provozů stále nemá přehled o tom, co se právě děje, v reálném čase. Právě tento problém se zdál být pro technologii, kterou jsme roky vyvíjeli, jako stvořený.

XENOM propojuje software využívající umělou inteligenci s chytrými ochrannými prostředky a poskytuje přehled o průmyslovém provozu v reálném čase. Kde mají tradiční systémy průmyslové bezpečnosti největší slepá místa a jak vaše platforma řeší problémy, se kterými si konvenční monitorovací technologie nedokážou poradit?

Základním problémem je, že většina systémů byla navržena k zaznamenávání toho, co se stalo, nikoli k tomu, aby tomu zabránila. Poloha pracovníka se aktualizuje jednou za několik minut. Pracovní výkazy se vyplňují až na konci směny. Porušení bezpečnostních předpisů se zaznamená teprve po podání hlášení o incidentu. Než se manažer k údajům dostane, směna už skončila nebo k nehodě už došlo. Druhým slepým místem je roztříštěnost – firma může mít systém pro monitorování plynů, samostatný systém kontroly vstupu, kontrolní seznam osobních ochranných prostředků v papírové podobě a ruční evidenci pracovní doby, přičemž žádný z těchto systémů spolu s ostatními nekomunikuje. XENOM to vše nahrazuje jediným nepřetržitým proudem dat z provozu, který se zpracovává v reálném čase a poskytuje manažerovi jeden ucelený přehled místo pěti nesouvislých.

Velkou část své kariéry jste se věnoval optimalizaci strojového učení a inferencí velkých jazykových modelů pro zařízení s omezenými zdroji. Jak tyto principy uplatňujete v průmyslovém prostředí a jaké technické výhody přináší zpracování úloh umělé inteligence na okraji sítě oproti spoléhání na cloudovou infrastrukturu?

Práce se zařízeními s omezenými zdroji učí jedné zásadě: každá milisekunda, každý miliwatt a každý bajt musí mít své opodstatnění. Přesně takový přístup potřebuje průmyslová přilba, protože se nosí po celou směnu a musí fungovat stejně spolehlivě v jedenácté hodině jako v první. Úlohy záměrně rozdělujeme: časově kritické a datově náročné činnosti, jako je zpracování hlasového signálu a signálů ze senzorů nebo detekce pádů a nárazů, běží na NPU v přilbě s využitím modelů komprimovaných a optimalizovaných pro daný hardware. Celkový přehled o provozu a pokročilejší analytika se naproti tomu zpracovávají na platformě.

Zpracování na okraji sítě nám přináší čtyři praktické výhody. První je rychlost: zařízení reaguje na událost okamžitě, aniž by muselo čekat na odpověď ze serveru. Druhou je spolehlivost: úsporný model běžící přímo v zařízení se chová předvídatelně, zatímco každý další článek řetězce představuje další možné místo selhání. Třetí výhodou je nižší zatížení sítě: stovky přileb nemohou nepřetržitě odesílat nezpracovaný zvuk a data ze senzorů, a proto každá z nich posílá až výsledek analýzy. Čtvrtou je výdrž baterie: přenos dat patří k energeticky nejnáročnějším činnostem zařízení, takže místní zpracování a menší objem odesílaných dat prodlužují dobu provozu.

XENOM vyvinul chytré přilby, které propojují určování polohy, komunikaci, snímání okolního prostředí a funkce umělé inteligence. Jaké byly nejobtížnější technické výzvy při propojování těchto technologií, zejména v prostředích, kde mohou být připojení, výdrž baterie a spolehlivost nepředvídatelné?

Největší problém nepředstavovala žádná jednotlivá technologie, ale to, jak zajistit, aby všechny spolehlivě fungovaly společně v jednom zařízení i v podmínkách, které by většinu spotřební elektroniky zničily. Průmyslová pracoviště jsou špinavá, fyzicky náročná a vystavená extrémním teplotám. Helma padá na zem, je vystavená dešti a nosí se během dvanáctihodinových směn. Výdrž baterie se stává skutečným omezením, když současně zajišťujete určování polohy, snímání, komunikaci a inferenci AI. A pak je tu architektura konektivity: potřebovali jsme zajistit plynulé přepínání mezi satelitním určováním polohy RTK venku a naší proprietární vnitřní sítí UWB typu mesh, aniž by při přechodu pracovníka mezi oběma prostředími došlo ke ztrátě přesnosti. Zajistit, aby tento přechod probíhal automaticky, spolehlivě a v reálném čase, patřilo k technicky nejnáročnějším věcem, které jsme vytvořili.

Váš tým vyvinul hlasový model AI, který dokáže z řeči rozpoznat známky ovlivnění alkoholem a jehož výsledky překonávají dosavadní akademické standardy. Jaké technické průlomy to umožnily a jak ověřujete spolehlivost systému v různých jazycích, přízvucích, úrovních hluku v pozadí a reálných pracovních podmínkách?

Klíčovým poznatkem bylo, že intoxikace zanechává rozpoznatelný otisk v drobných vzorcích řeči — nikoli ve slovech, ale v akustických vlastnostech, jako je načasování, kolísání výšky hlasu a přesnost artikulace. Vytvořili jsme model, který tyto vzorce analyzuje na pozadí během běžné hlasové komunikace, aniž by bylo potřeba provádět zvláštní test nebo aby pracovník musel cokoli dělat. Údaj o přesnosti 86,7 % vychází z důkladného testování podle standardů akademických datových sad zveřejněných v odborných publikacích. Při ověřování v reálném prostředí testujeme model v různých jazycích, přízvucích a podmínkách hluku v pozadí, které odpovídají skutečným průmyslovým pracovištím — například v přítomnosti těžkých strojů, větru a několika lidí mluvících současně. Model musel být dostatečně robustní, aby fungoval v podmínkách, které se vůbec nepodobají kontrolované studii. To vyžadovalo značnou rozmanitost trénovacích dat a opakované ladění.

Systémy AI určené k rozpoznávání snížené způsobilosti nebo únavy pracovníků vyvolávají závažné otázky ohledně falešně pozitivních výsledků a odpovědnosti. Jak XENOM vyvažuje včasné rozpoznání rizika s potřebou lidského ověření a jaké záruky brání tomu, aby nepřesné vyhodnocení AI pracovníka nespravedlivě poškodilo?

Od samého začátku jsme se tím velmi důkladně zabývali. Systém je navržen tak, aby upozornil nadřízeného na možný problém, nikoli aby jednal samostatně. Vyhodnotí-li AI možné ovlivnění pracovníka, následuje lidská kontrola — nadřízený může pracovníka přímo pozorovat, klást mu otázky nebo v případě potřeby požádat o fyzický test. AI nikoho z pracoviště neodstraní. Poskytne člověku informace, které potřebuje k rychlejšímu rozhodnutí, než jaké by jinak učinil. Sledujeme také míru falešně pozitivních výsledků při nasazení a model průběžně vylepšujeme. Cílem je snížit počet incidentů, ke kterým dochází proto, že si jich nikdo nevšiml — nikoli vytvořit systém, který pracovníky trestá pouze na základě algoritmu.

Před založením společnosti XENOM jste působil jako technický ředitel společnosti OneSoil, kde jste využíval počítačové vidění a strojové učení ke sledování zemědělství a analýze produktivity. Které zkušenosti s nasazováním AI v zemědělství se ukázaly jako nejcennější při budování inteligentních systémů pro staveniště, doly, přístavy a energetická zařízení?

Nasazovat AI ve fyzickém světě je zásadně odlišné od jejího nasazování v softwaru. Musíte počítat s proměnlivými podmínkami, se zařízením, které se pokaždé chová jinak, i s pracovníky, kteří svou práci vykonávají už desítky let a jsou hluboce skeptičtí vůči všemu, co jim říká, aby ji dělali jinak. V průmyslových provozech je situace stejná. Technologie si musí získat důvěru tím, že se častěji ukáže jako spolehlivě přesná, než lidé očekávají, a zároveň musí být dost jednoduchá na to, aby ji někdo, kdo řídí padesátičlennou skupinu, dokázal používat bez školení. Další poučení: kvalita dat získaných v terénu je téměř vždy horší, než jste předpokládali. Je třeba vytvářet systémy odolné vůči šumu, výpadkům a okrajovým případům, které se v čisté datové sadě nikdy nevyskytují.

Průmyslové platformy AI mohou vytvářet podrobné informace o tom, kde se pracovníci nacházejí, jaké činnosti vykonávají, jak komunikují a jaká je jejich produktivita. Jak přistupujete k ochraně osobních údajů, souhlasu zaměstnanců a možnému sledování na pracovišti, a zároveň zajišťujete, aby tyto technologie skutečně zvyšovaly bezpečnost a provozní efektivitu?

Vycházíme ze zásady omezení účelu. Údaje, které XENOM shromažďuje, slouží k zajištění bezpečnosti a přehledu o provozu — nejde o nástroj ke sledování produktivity a neměl by se tak používat. Před nasazením společně s provozovateli stanovujeme jasná pravidla správy dat: jaké údaje se shromažďují, jak dlouho se uchovávají, kdo k nim má přístup a za jakých okolností je lze použít při rozhodování o zaměstnancích. Údaje o poloze pracovníků se pro analýzu produktivity agregují a anonymizují — jednotlivé pracovníky mohou sledovat bezpečnostní dozorci při řešení mimořádných událostí, nikoli linioví vedoucí při hodnocení pracovního výkonu. Vzhledem k tomu, že se působnost Aktu EU o umělé inteligenci rozšiřuje i na průmyslové systémy AI, očekáváme, že právní rámce řadu těchto pravidel formálně stanoví. Raději budeme připraveni předem, než abychom na poslední chvíli doháněli povinnosti.

Přesun AI z kontrolovaných laboratorních prostředí do bezpečnostně kritických průmyslových provozů přináší výzvy, s nimiž se softwarové společnosti zaměřené na AI setkávají jen zřídka. Jaká největší překvapení přineslo nasazení XENOM v reálném světě a jak měříte, zda tato technologie přináší významná zlepšení v prevenci nehod, provozní efektivitě a produktivitě pracovníků?

Největším překvapením je, jak velkou hodnotu přináší už jen přesný přehled o tom, kde se lidé nacházejí a jak využívají svůj čas. Očekávali jsme, že hlavním tématem rozhovorů s provozovateli bude bezpečnost. Ukázalo se však, že přehled o produktivitě — tedy pochopení toho, kde směny ztrácejí čas, proč některé týmy dosahují lepších výsledků než jiné a kde vznikají úzká místa — často přináší rychlejší návratnost investic a mnohem rychleji získává platformě interní zastánce. Druhým překvapením je, jak výrazně se situace liší mezi odvětvími, a dokonce i mezi provozy v rámci téhož odvětví. Stavebnictví v Německu funguje velmi odlišně od stavebnictví ve Spojených arabských emirátech. Nelze vytvořit jeden produkt a předpokládat, že se všude uplatní, aniž by bylo nutné jej výrazně upravovat.

Do budoucna chce XENOM vyvinout průmyslového kopilota s AI, který dokáže přejít od monitorování k předvídání rizik a doporučování provozních rozhodnutí. Jak podle vás bude fyzická AI v příštích pěti letech postupovat a jaké technologické průlomy jsou ještě zapotřebí, aby průmyslové systémy AI mohly fungovat samostatněji a zároveň zůstal zachován lidský dohled?

Průmyslová AI dnes slouží především k získávání přehledu — umožňuje vědět, co se děje. Další fází je předvídání: rozpoznávání vzorců, které předcházejí incidentu nebo poklesu produktivity, ještě než k jednomu či druhému dojde. To vyžaduje dlouhodobé shromažďování strukturovaných, označených dat ve velkém měřítku, což přesně XENOM dělá od prvního dne. Následuje fáze doporučení: systém nejen sděluje, co se pravděpodobně stane, ale také navrhuje, jak postupovat — jak přemístit pracovníky, kdy přerušit provoz nebo jaké složení týmu přinese při konkrétním úkolu nejlepší výsledky. Právě k této třetí fázi směřujeme s průmyslovým kopilotem s AI. Potřebný technologický průlom nespočívá především ve zdokonalení modelů — problémem jsou data. K trénování modelu, který bude spolehlivě zobecňovat, potřebujete dostatek kvalitních provozních dat z dostatečného počtu různorodých pracovišť. Firmy, které tato data začnou shromažďovat už nyní, získají náskok, který bude později velmi obtížné napodobit.

Děkujeme za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více o umělé inteligenci na okraji sítě, chytrých ochranných pomůckách a monitorování průmyslové bezpečnosti v reálném čase, mohou navštívit XENOM.