Rajan Kohli, CEO společnosti CitiusTech – Interview Series: Návratový rozhovor

Rajan Kohli je generálním ředitelem společnosti CitiusTech a je zodpovědný za globální strategii, růst a misi urychlování inovací v oblasti zdravotnictví a životních věd. Veterán technologického managementu s více než třiceti lety zkušeností vedl velké projekty digitální transformace v oblasti zdravotnictví, inženýrství, modernizace cloudu, datových platforem a umělé inteligence. Od svého příchodu do CitiusTechu se zaměřil na pomoc zdravotnickým organizacím, aby se přesunuly za hranice digitální transformace směrem k modelům inteligentního provozu poháněných umělou inteligencí, interoperabilitou a pokročilou analytikou.

CitiusTech je přední poskytovatel služeb zdravotnické technologie, poradenství a digitálních řešení pro zdravotnické poskytovatele, plátce, společnosti MedTech a organizace z oblasti životních věd po celém světě. Společnost se specializuje na zdravotnické datové platformy, interoperabilitu, modernizaci cloudu, digitální inženýrství, analytiku a umělou inteligenci. Jak se zdravotnické organizace stále více snaží provozovat umělou inteligenci ve velkém měřítku, CitiusTech rozšířil své zaměření na budování inteligentních zdravotnických systémů, které kombinují důvěryhodné datové základy, správu, interoperabilitu a workflow-aware umělou inteligenci. Prostřednictvím řešení, jako je Knewron a jeho širší ekosystém umělé inteligence a dat, CitiusTech pomáhá organizacím transformovat fragmentované zdravotnické operace do propojených, kontextově-aware prostředí, která zlepšují efektivitu, rozhodování a výsledky pacientů.

Tento rozhovor je návazností na náš předchozí rozhovor s Rajanem Kohlim, kde jsme prozkoumali rostoucí roli generativní umělé inteligence, interoperability, modernizace zdravotnických dat a digitální transformace v rámci zdravotnického ekosystému. Od té doby se průmysl rychle posunul od experimentování s umělou inteligencí k jejímu nasazení v produkčních prostředích, což vytvořilo nové výzvy kolem správy, důvěry, vysvětlitelnosti a provozního rozsahu. V tomto nejnovějším rozhovoru Rajan sdílí, jak zdravotnické organizace mohou přesunout za hranice izolovaných pilotních projektů umělé inteligence směrem k inteligentnímu péči, proč kontextový inženýrství vyvstává jako kritický základ pro zdravotnickou umělou inteligenci a co bude potřeba k vybudování důvěryhodných, škálovatelných systémů, které budou schopny podporovat další generaci péče o pacienty.

Vy máte desetiletí zkušeností s vedením velkých projektů digitální transformace. Jak tato cesta formovala váš pohled na to, proč je transformace zdravotnictví jedinečně složitá?

Transformace zdravotnictví je jedinečně obtížná, protože neexistuje jediné definice úspěchu. Klinické výsledky, přesné fakturace a platby, přístup, náklady a zkušenosti často táhnou v různých směrech. Na rozdíl od jiných sektorů je zdravotnictví omezeno klinickým rizikem, regulační kontrolou a etickou odpovědností. Selhání se měří v výsledcích pacientů, nikoli v úniku příjmů.

To je místo, kde kontextový inženýrství se stává základem: disciplína strukturování informačního prostředí, ve kterém umělá inteligence funguje, aby výstupy byly klinicky přesné, workflow-aware a compliance-ready od samého začátku. Škálování vyžaduje systémové myšlení napříč hodnotovými řetězci, nikoli digitalizaci izolovaných funkcí. Zdravotnictví vyžaduje hlubokou kontextualizaci pracovních postupů, datové sémantiky napříč klinickými, pojistnými a zařízeními daty, jakož i složitými compliance cestami. Platformy, jako je Knewron, jsou postaveny na tomto principu, přesahující obecnou umělou inteligenci, aby vložily doménově specifický kontext na architektonické úrovni.

Tato složitost je zesílena fragmentovanými ekosystémy, které zahrnují plátce, poskytovatele, společnosti MedTech a organizace z oblasti životních věd. Každý z těchto hráčů funguje na různých systémech, pobídkách a datových standardech. To, co se na povrchu zdá být technologickým problémem, je téměř vždy problémem kontextu a koherence.

Ultimately, úspěch transformace závisí nejen na technologické modernizaci, ale také na inženýrství důvěry. Musíme aktivně navrhnout vrstvu důvěry do globálního zdravotnického systému umělé inteligence, vytvářet systémy, na které mohou klinici a regulátoři spolehnout v reálných zdravotnických prostředích. Kontextový inženýrství je mechanismem, který činí tuto důvěru možnou. Když umělá inteligence rozumí plnému klinickému a provoznímu kontextu rozhodnutí, získá tuto důvěru systematicky, nikoli náhodou.

Vy jste popsali zdravotnictví jako dosažení inflexního bodu. Jaké konkrétní síly pohání tuto změnu právě teď?

Inflexní bod, kterého jsme právě teď svědky, je poháněn provozním stresem, nikoli technologickou novinkou. Tlak na náklady, vyhoření klinických pracovníků a závažné nedostatky pracovních sil nutí zdravotnické systémy přehodnotit své provozní modely úplně, nikoli jen digitalizovat stávající. Ruční procesy již nejsou škálovatelné, zejména v pojistných, fakturacích a klinických operacích, což je důvod, proč je umělá inteligence agresivně nasazována do produkčních prostředí.

Ale nasazení umělé inteligence do produkčního prostředí je pouze polovina rovnice; druhou polovinou je zajištění, aby umělá inteligence fungovala s pravým kontextem. Bez kontextového inženýrství umělá inteligence v klinických a provozních pracovních postupech riskuje generovat výstupy, které jsou technicky správné, ale klinicky nebo administrativně nesprávné.

Souběžně s tím regulační síly, jako jsou pravidla interoperability CMS, transparentnost cen a digitální měřítka kvality, vyžadují datovou likviditu a urychlují modernizaci. Adopce cloudu překročila práh zralosti, což umožňuje modernizaci a nasazení umělé inteligence na úrovni podniku. Umělá inteligence je nyní plně sladěna s připraveností zdravotnictví, protože konečně máme digitalizované pracovní postupy, bohatší datové aktiva a jasnější rámce odpovědnosti než v předchozích technologických vlnách.

Co bylo dosud chybějící, je spojovací tkáň mezi surovými datovými aktivy a smysluplnou akcí umělé inteligence, a touto spojovací tkání je kontext. Vidíme jasnou poptávku po řešeních, která jsou speciálně navržena pro pomoc zdravotnickým organizacím, aby proměnily tento provozní stres v měřitelnou efektivitu.

Zdravotnictví dlouho zaostávalo v digitalizaci ve srovnání s jinými průmysly. Co se změnilo, aby nasazení umělé inteligence ve velkém měřítku bylo možné dnes?

Umělá inteligence nyní škáluje, protože zdravotnické organizace se učí kodifikovat politiku, klinické pokyny a provozní logiku, spíše než polykat velké množství dat. Základní posun spočívá v přechodu od modelů, které interpretují surová data, k systémům, které provádějí programovatelné znalosti s přísnou kontrolou. To je přesně to, co kontextový inženýrství umožňuje, přesouvající umělou inteligenci z pasivní interpretace na aktivní, řízenou exekuci strukturou znalostního prostředí, ve kterém modely fungují.

Zásadní tření bylo dramaticky sníženo širokou adopcí FHIR, HL7, cloud-nativních datových platforem a event-driven architektur. Zdravotnické organizace stále více rozpoznávají, že umělá inteligence musí být vložena do pracovních postupů, spíše než existovat jako samostatné dashboardy. Workflow-aware umělá inteligence je klíčem k umožnění tohoto, zajišťujícím, aby systémy rozuměly pracovním postupům a povedly k akčním výsledkům.

Nástroje, jako jsou MLOps, DevSecOps a compliance automation, umožnily kontinuální validaci, monitoring a řízené opětovné školení. Vidíme jasný posun od experimentování k hodnotám spojeným s použitím, jako jsou mezery v péči, předchozí autorizace, integrita pojistných nároků, zobrazování a klinická rozhodovací podpora. Tato škála je možná pouze tehdy, když vložíme robustní ochranné prostředky a lidskou kontrolu přímo do těchto provozních pracovních postupů.

Průmysl přidává pracovní místa měsíčně a to pomáhá, protože umělá inteligence není viděna jako odnímání pracovních míst. Škálovatelná umělá inteligence pomáhá směrovat investice pro lepší výsledky pro pacienty a klinické pracovníky.

Mnohé organizace zůstávají uvíznuté v pilotních fázích. Jaké jsou klíčové bariéry, které brání umělé inteligenci v přechodu do skutečného provozního použití ve zdravotnictví?

Umělá inteligence má potíže se škálováním ve zdravotnictví, protože se objevují mnohé strukturální reality najednou. Zdravotnické procesy zřídka fungují směrem k jedinému cíli; klinické výsledky, náklady, přístup, zkušenosti pacientů, přesnost pojistných nároků a dlouhodobá rizika často soutěží, zahrnující poskytovatele, plátce, regulátory a pacienty. Definice úspěchu je složitá, ale nezbytná. Mnohé pilotní projekty selhávají, protože nejsou ukotveny v jasných, sdílených metrikách výsledků. Strukturovaný provozní kontext pomáhá řešit tuto situaci kodifikací cílů, omezení a priorit stakeholderů dopředu, spíše než spoléhat se na modely, aby je odvodily ze surových dat.

Druhou bariérou je náklad a úsilí spojené s anotací a validací. Škálování vyžaduje kontinuální zapojení klinických pracovníků a odborníků z oblasti pojistných nároků, jejichž čas je omezený a drahý a často podceňovaný během pilotních fází.

Třetí, správa a integrační mezery se stávají více viditelnými při škálování. Pilotní projekty často postrádají auditovatelnost, politické kontroly a lidskou kontrolu vyžadovanou pro vysoce rizikové pracovní postupy zahrnující PHI. Kromě toho se chyby objevují pozdě v reálných prostředích, zejména v pojistných nárocích a fakturacích, kde výstupy selhávají u pravidel plátce nebo očekávání interoperability. Fragmentované technologické ekosystémy, včetně systémů legacy, proprietárních platforem a nerovnoměrné adopce HL7/FHIR, činí integrace křehkými a obtížnými pro obecná řešení umělé inteligence.

Škálování se daří pouze tehdy, když umělá inteligence je sladěna s reálnými provozními cíli, je podporována silnými datovými základy a je navržena pro složitější pracovní postupy. Nyní se objevuje posun směrem k zaměřeným, hodnotám spojeným s použitím, MVP, které cílí na vysoce dopadné případy s jasnou obchodní hodnotou a výkonnou sponzoringem, přesouvajícím konverzaci z experimentování s umělou inteligencí na měřitelnou transformaci procesů.

Z hlediska systémů, co vypadá moderní architektura umělé inteligence ve zdravotnictví, zejména v oblasti datových potrubí, interoperability a cloudové infrastruktury?

Architektura připravená pro umělou inteligenci je taková, kde vynucování politik, validace a eskalace jsou vloženy přímo do pracovních postupů, nikoli spravovány externě jako následná myšlenka. Vyžaduje sjednocené cloud-nativní datové platformy, které polykají pojistné nároky, EHR, zobrazování, zařízení a provozní data do vysoce řízených vrstev.

Musíme priorizovat standardy-first interoperabilitu pomocí FHIR, HL7, SMART on FHIR a DICOM, podporované specializovanými validačními motory. Musí existovat jasná separace zájmů napříč ingestí, zpracováním, analytikou, službami umělé inteligence a vrstvami správy. Kontextový inženýrství sedí na průsečíku těchto vrstev; je disciplínou, která spojuje surová ingested data s řízenými, sémanticky obohacenými vstupy, na které služby umělé inteligence mohou jednat s přesností a odpovědností.

Vestavěná bezpečnost je nezbytná, zahrnující RBAC, šifrování, správu souhlasu, stopu a auditní stopy. Úspěch architektury je nakonec měřen tím, zda systémy selhávají bezpečně, nikoli složením součástek. Kódováním rámců, jako je HIPAA a GDPR, přímo do vrstvy provádění, budujeme architektonickou důvěru vyžadovanou pro globální nasazení.

Jak organizace zpracovávají zpracování dat v reálném čase a integraci napříč elektronickými zdravotnickými záznamy (EHR), zdravotnickými zařízeními a pojistnými platformami, aby umožnily rozhodování poháněné umělou inteligencí?

Zpracování v reálném čase má význam pouze tehdy, když se objevují poznatky uvnitř pracovních postupů klinických pracovníků a operátorů, nikoli down-stream v sekundárních dashboardách. Základní výzva spočívá ve správě variability a výjimek, spíše než čistě se zaměřením na datový tok. Organizace řeší tuto výzvu pomocí middleware, které normalizuje a obohacuje data před konzumací umělou inteligencí, spíše než tlačí surová data down-stream.

To je místo, kde kontextový inženýrství hraje kritickou roli. Systém musí strukturovat příchozí data z EHR, zdravotnických zařízení a pojistných platforem do koherentního kontextového základu, zajišťujícím, aby vstupy umělé inteligence byly sémanticky sladěny se specifickým klinickým nebo provozním rozhodnutím. To umožňuje těsnou integraci s pracovními postupy EHR, umožňující poznatky objevit se v okamžiku péče.

Více důležitější je, že tato integrace je smysluplná, nikoli pouze technická, zajišťujícím, aby výstupy odrážely nejen data, ale také klinické pokyny, pojistné pravidla a omezení pracovních postupů relevantní pro každého pacienta a setkání. Zaměření spočívá v tom, aby se workflow zachytil v pravý okamžik a poskytl akční podporu, aniž by narušil stávající provozní rytmy.

Jaké jsou největší technické výzvy při nasazení modelů umělé inteligence v klinických prostředích, zejména kolem validace modelů, monitorování a správy posunu?

Nejobtížnější výzvou není pouze pokles přesnosti, ale také nezjištěné šíření chyb napříč propojenými pracovními postupy. Kontextový inženýrství slouží jako první linie obrany strukturou znalostního prostředí, ve kterém modely fungují. Systém musí validovat vstupy pro klinickou a provozní koherenci, než začne umělá inteligence rozumět.

Validace musí jít za rámec automatických metrik a zahrnovat lidskou reinterpretaci, zajišťujícím, aby výstupy odrážely skutečnou klinickou relevanci, nikoli pouze statistickou výkonnost. Tento přístup zakotvuje hodnocení modelu v reálných klinických a administrativních výsledcích, nikoli v abstraktních benchmarcích.

Posun modelu musí být také aktivně spravován, jak se pacientské populace, klinické pokyny a chování vyvíjejí. To vyžaduje kontinuální monitoring spojený s reálnými zpětnými vazbami, s kontrolními body vloženými pro detekci posunu v klinické relevanci, sladění pravidel plátce a konzistence pracovních postupů.

Ultimately, úspěch závisí na vyvážení adaptability se striktními regulačními očekáváními. Nasazení umělé inteligence v klinických a SaMD prostředích vyžaduje silnou vrstvu důvěry, která vynucuje ochranné prostředky, spouští lidskou kontrolu a zajišťuje řízené opětovné školení, než bude mít jakýkoli dopad na péči o pacienty.

Jak přistupujete k budování vysvětlitelnosti a auditovatelnosti do systémů umělé inteligence používaných v regulovaných zdravotnických prostředích?

Vysvětlitelnost existuje, aby lidé mohli zpochybnit, přepsat a naučit se z výstupů umělé inteligence, nikoli pouze je pochopit. Kontextový inženýrství činí tuto zpochybnitelnost strukturální, nikoli povrchní, kódováním klinických pokynů, pravidel politik a logiky pracovních postupů přímo do prostředí umělé inteligence. Jako výsledek, každý výstup může být vystopován zpět k kontextovým vstupům, které ho formovaly, spíše než být zpětně inženýrován po faktu.

Auditovatelnost, podobně, musí vytvořit institucionální paměť, nikoli sloužit jako dodatečná compliance. To je dosaženo pomocí policy-as-code pro vložení regulačních a organizačních pravidel přímo do toků provádění, zacházení s rámcemi, jako je HIPAA a CMS, jako s vládnoucími vstupy od samého začátku, nikoli externími kontrolami aplikovanými později.

Kromě toho, neměnné protokoly a auditní stopy jsou nezbytné pro podporu regulační kontroly a klinické důvěry. Systém by měl zachytit nejen to, jaké rozhodnutí bylo učiněno, ale také plný kontext, včetně dat, omezení a stavu pracovního postupu, které ho informovaly.

Across all of this, lidská kontrola zůstává nezbytným požadavkem pro vysoké rizikové nebo nezvratné klinické rozhodnutí. Budování této transparentní vrstvy důvěry zajišťuje, že když regulátor nebo klinický pracovník zeptá, proč systém umělé inteligence učinil specifické doporučení, odpověď je okamžitě dostupná a obhajitelná.

S růstem agentních a autonomních systémů, jaké ochranné prostředky jsou potřebné, aby se zajistila spolehlivost a zabránilo neúmyslným výsledkům v klinických pracovních postupech?

Ve zdravotnictví jsou agentní systémy cenné pouze tehdy, když jsou hranice automatizace explicitní a reverzibilní. Kontextový inženýrství pomáhá definovat tyto hranice strukturou provozního rozsahu, klinických omezení a logiky eskalace do prostředí, zajišťujícím, aby autonomie fungovala v rámci řízeného rámce, nikoli spoléhajíc se na modely, aby se samy regulují.

To vyžaduje autonomii s odpovědností, včetně jasných rolí, cest eskalace a deterministických kontrolních bodů vložených do chování agenta. Systém musí zajistit, aby agenti fungovali v rámci klinicky a provozně schválených hranic, které jsou architektonicky vynuceny, nikoli pouze policy-definovány.

To také vyžaduje kontinuální monitoring chování agenta, kvality rozhodnutí a neúmyslných interakcí. Implementujeme policy-driven omezení, která brání agentům v jednání mimo jejich schválený klinický nebo provozní rozsah. Pro klinické pracovní postupy je lidská kontrola fundamentálním designovým principem, nikoli záložním mechanismem.

Jako se pohybujeme směrem k pokročilé orchestraci agenta, musí tyto agenti fungovat striktně v rámci řízených, kodifikovaných rámců, aby se zajistila spolehlivost.

Pohledem do budoucna, co vlastně vypadá inteligentní péče pro pacienty v příštím desetiletí?

Příštích deset let uvidí umělou inteligenci snižující tření, než transformuje péči, začínající s administrativou, koordinací a rozhodovací podporou. Inteligentní péče succeeds, když klinici důvěřují výchozím hodnotám, ale pevně si uchovávají svou autoritu. Umělá inteligence se stává orchestrátorem napříč péčí, předvídajícím potřeby, spíše než reagujícím pouze na události.

Kontextový inženýrství umožňuje tento posun strukturou longitudinálních klinických, pojistných a provozních dat, aby umělá inteligence mohla rozumět napříč celým kontinuem s hloubkou vyžadovanou pro spolehlivé jednání, nikoli pouze prediktivní vhled. To podporuje více personalizované, kontinuální a kontextově-aware péčí napříč prostředím.

Výraz “kontextově-aware” je tím, co je zde klíčové, a není to náhoda. Dodání skutečně personalizovaných cest péče ve velkém měřítku vyžaduje, aby systémy umělé inteligence zdědily hluboké kontextové znalosti o klinické historii pacienta, pojistném prostředí a péči. Klinici budou podporováni kopiloty a rozhodovací inteligencí, což výrazně sníží jejich kognitivní a administrativní zátěž.

V průběhu času se zdravotnické systémy vyvinou do učících se systémů, které se neustále zlepšují, jak se data, modely a reálná zpětná vazba kumulují. Inženýrstvím silné vrstvy důvěry dnes, položíme operační základnu pro tuto bezproblémovou budoucnost.

Děkuji vám za podrobné odpovědi, čtenáři, kteří chtějí se dozvědět více, by měli navštívit CitiusTech.