Vivek Desai, Chief Technology Officer, North America at RLDatix – Intervista di Serie

Vivek Desai è il Chief Technology Officer di North America presso RLDatix, un’azienda di software e servizi per le operazioni sanitarie connesse. RLDatix è impegnata a cambiare il settore sanitario. Aiuta le organizzazioni a fornire cure più sicure e efficienti, offrendo strumenti di governance, rischio e conformità che guidano il miglioramento e la sicurezza complessivi.

Cosa ti ha inizialmente attratto verso l’informatica e la sicurezza informatica?

Sono stato attratto dalle complessità di ciò che l’informatica e la sicurezza informatica stanno cercando di risolvere – c’è sempre una sfida emergente da esplorare. Un ottimo esempio di ciò è quando il cloud ha iniziato a guadagnare popolarità. Ha offerto grandi promesse, ma ha anche sollevato alcune domande sulla sicurezza dei carichi di lavoro. Era molto chiaro fin dall’inizio che i metodi tradizionali erano una soluzione temporanea e che le organizzazioni avrebbero dovuto sviluppare nuovi processi per proteggere efficacemente i carichi di lavoro nel cloud. Navigare in questi nuovi metodi è stata una sfida emozionante per me e per molti altri che lavorano in questo campo. È un settore dinamico e in evoluzione, quindi ogni giorno porta qualcosa di nuovo e emozionante.

Potresti condividere alcune delle tue attuali responsabilità come CTO di RLDatix?

Attualmente, mi sto concentrando sullo sviluppo della nostra strategia di dati e sul trovare modi per creare sinergie tra i nostri prodotti e i dati che essi contengono, per comprendere meglio le tendenze. Molti dei nostri prodotti contengono tipi di dati simili, quindi il mio lavoro è quello di trovare modi per rompere questi silos e rendere più facile per i nostri clienti, sia gli ospedali che i sistemi sanitari, accedere ai dati. Con ciò, sto anche lavorando sulla nostra strategia globale di intelligenza artificiale (AI) per informare l’accesso e l’utilizzo dei dati in tutto l’ecosistema.

Mantenere l’aggiornamento sulle tendenze emergenti in vari settori è un altro aspetto cruciale del mio ruolo, per assicurarmi che stiamo procedendo nella direzione strategica giusta. Sto attualmente seguendo da vicino i grandi modelli linguistici (LLM). Come azienda, stiamo lavorando per trovare modi per integrare gli LLM nella nostra tecnologia, per potenziare e migliorare gli esseri umani, in particolare i fornitori di assistenza sanitaria, ridurre il loro carico cognitivo e consentire loro di concentrarsi sull’assistenza ai pazienti.

Nel tuo post del blog di LinkedIn intitolato “Una riflessione sul mio primo anno come CTO“, hai scritto, “I CTO non lavorano da soli. Fanno parte di un team.” Potresti elaborare su alcune delle sfide che hai affrontato e su come hai affrontato la delega e il lavoro di squadra su progetti che sono intrinsecamente tecnicamente impegnativi?

Il ruolo del CTO è fondamentalmente cambiato negli ultimi dieci anni. Sono passati i giorni in cui si lavorava in una stanza dei server. Ora, il lavoro è molto più collaborativo. Insieme, attraverso le unità aziendali, allineiamo le priorità organizzative e trasformiamo quelle aspirazioni in requisiti tecnici che ci guidano verso il futuro. Gli ospedali e i sistemi sanitari attualmente navigano molte sfide quotidiane, dalla gestione del personale alle limitazioni finanziarie, e l’adozione di nuove tecnologie potrebbe non essere sempre una priorità. Il nostro obiettivo principale è quello di mostrare come la tecnologia possa aiutare a mitigare queste sfide, piuttosto che aggiungervi, e il valore complessivo che essa porta al loro business, ai dipendenti e ai pazienti in generale. Questo sforzo non può essere fatto da solo o anche all’interno del mio team, quindi la collaborazione si estende attraverso unità multidisciplinari per sviluppare una strategia coerente che dimostri quel valore, sia che si tratti di fornire ai clienti l’accesso a insight sui dati sbloccati o di attivare processi che attualmente non sono in grado di eseguire.

Qual è il ruolo dell’intelligenza artificiale nel futuro delle operazioni sanitarie connesse?

Man mano che i dati integrati diventano più disponibili con l’AI, possono essere utilizzati per collegare sistemi disparati e migliorare la sicurezza e l’accuratezza in tutto il continuum di assistenza. Questo concetto di operazioni sanitarie connesse è una categoria su cui ci stiamo concentrando presso RLDatix, poiché sblocca dati e insight azionabili per i responsabili delle decisioni sanitarie – e l’AI è fondamentale per rendere questo una realtà.

Un aspetto non negoziabile di questa integrazione è garantire che l’utilizzo dei dati sia sicuro e conforme, e che i rischi siano compresi. Siamo leader di mercato nella politica, nel rischio e nella sicurezza, il che significa che abbiamo una grande quantità di dati per addestrare LLM fondamentali con maggiore accuratezza e affidabilità. Per raggiungere operazioni sanitarie connesse, il primo passo è fondere le soluzioni disparate, e il secondo è estrarre i dati e normalizzarli attraverso quelle soluzioni. Gli ospedali trarranno grandi benefici da un gruppo di soluzioni interconnesse che possano combinare set di dati e fornire valore azionabile agli utenti, piuttosto che mantenere set di dati separati da singole soluzioni puntuali.

Nel suo recente discorso di apertura, il Chief Product Officer Barbara Staruk ha spiegato come RLDatix stia sfruttando l’intelligenza artificiale generativa e i grandi modelli linguistici per semplificare e automatizzare la segnalazione degli incidenti dei pazienti. Potresti elaborare su come funziona?

Questo è un’iniziativa molto significativa per RLDatix e un ottimo esempio di come stiamo massimizzando il potenziale degli LLM. Quando gli ospedali e i sistemi sanitari completano i rapporti sugli incidenti, ci sono attualmente tre formati standard per determinare il livello di danno indicato nel rapporto: i formati comuni dell’Agenzia per la ricerca e la qualità sanitaria, il Consiglio di coordinamento nazionale per la segnalazione degli errori di medicazione e la classificazione degli eventi di sicurezza dell’Healthcare Performance Improvement (HPI). Attualmente, possiamo facilmente addestrare un LLM a leggere il testo in un rapporto di incidente. Se un paziente muore, ad esempio, l’LLM può facilmente estrarre quelle informazioni. La sfida, tuttavia, risiede nell’addestrare l’LLM a determinare il contesto e a distinguere tra categorie più complesse, come il danno permanente grave, una tassonomia inclusa nella classificazione degli eventi di sicurezza dell’HPI, ad esempio, rispetto al danno temporaneo grave. Se la persona che segnala non include sufficiente contesto, l’LLM non sarà in grado di determinare il livello di categoria di danno appropriato per quel particolare incidente di sicurezza del paziente.

RLDatix sta cercando di implementare una tassonomia più semplice, a livello globale, in tutto il nostro portafoglio, con categorie concrete che possano essere facilmente distinte dall’LLM. Nel tempo, gli utenti saranno in grado di semplicemente scrivere cosa è accaduto e l’LLM gestirà il resto, estraendo tutte le informazioni importanti e precompilando i moduli di incidente. Non solo si tratta di un notevole risparmio di tempo per una forza lavoro già sotto stress, ma man mano che il modello diventa più avanzato, saremo anche in grado di identificare tendenze critiche che consentiranno alle organizzazioni sanitarie di prendere decisioni più sicure in generale.

Quali sono altri modi in cui RLDatix ha iniziato a incorporare gli LLM nelle sue operazioni?

Un altro modo in cui stiamo sfruttando gli LLM internamente è per semplificare il processo di credenziale. Le credenziali di ogni fornitore sono formattate in modo diverso e contengono informazioni uniche. Per metterla in prospettiva, pensa a come il curriculum di ognuno abbia un aspetto diverso – dai caratteri, all’esperienza lavorativa, all’istruzione e al formato complessivo. La credenziale è simile. Dove ha frequentato il college il fornitore? Qual è la sua certificazione? Quali articoli sono stati pubblicati? Ogni professionista sanitario fornirà quelle informazioni a modo suo.

Presso RLDatix, gli LLM ci consentono di leggere attraverso queste credenziali ed estrarre tutti quei dati in un formato standardizzato, in modo che coloro che lavorano nell’inserimento dei dati non debbano cercare estensivamente, consentendo loro di spendere meno tempo sulla componente amministrativa e concentrare il loro tempo su attività significative che aggiungono valore.

La sicurezza informatica è sempre stata impegnativa, soprattutto con il passaggio alle tecnologie basate sul cloud, potresti discutere alcune di queste sfide?

La sicurezza informatica è impegnativa, ed è per questo che è importante lavorare con il partner giusto. Garantire che gli LLM rimangano sicuri e conformi è la considerazione più importante quando si sfrutta questa tecnologia. Se la tua organizzazione non ha personale dedicato in-house per farlo, può essere incredibilmente impegnativo e richiedere molto tempo. È per questo che lavoriamo con Amazon Web Services (AWS) sulla maggior parte delle nostre iniziative di sicurezza informatica. AWS ci aiuta a instillare la sicurezza e la conformità come principi fondamentali all’interno della nostra tecnologia, in modo che RLDatix possa concentrarsi su ciò che facciamo realmente bene – ovvero costruire grandi prodotti per i nostri clienti in tutti i nostri settori verticali.

Quali sono alcune delle nuove minacce di sicurezza che hai visto con l’adozione recente e rapida degli LLM?

Da una prospettiva RLDatix, ci sono diverse considerazioni che stiamo lavorando per superare mentre sviluppiamo e addestriamo gli LLM. Un focus importante per noi è mitigare i pregiudizi e l’ingiustizia. Gli LLM sono solo buoni quanto i dati su cui sono addestrati. Fattori come il genere, la razza e altre demografie possono includere molti pregiudizi inerenti perché il set di dati stesso è distorto. Ad esempio, pensa a come il sud-est degli Stati Uniti usa la parola “y’all” nel linguaggio quotidiano. Questo è un pregiudizio linguistico unico inerente a una specifica popolazione di pazienti che i ricercatori devono considerare quando addestrano l’LLM per distinguere con precisione le sfumature linguistiche rispetto ad altre regioni. Questi tipi di pregiudizi devono essere affrontati su larga scala quando si utilizzano gli LLM nel settore sanitario, poiché addestrare un modello all’interno di una popolazione di pazienti non significa necessariamente che il modello funzionerà in un’altra.

Mantenere la sicurezza, la trasparenza e la responsabilità sono anche punti di grande attenzione per la nostra organizzazione, così come mitigare eventuali opportunità di allucinazioni e disinformazione. Assicurarci di affrontare attivamente eventuali preoccupazioni sulla privacy, capire come un modello abbia raggiunto una determinata risposta e avere un ciclo di sviluppo sicuro in atto sono tutti componenti importanti di un’implementazione e manutenzione efficaci.

Quali sono altri algoritmi di apprendimento automatico utilizzati da RLDatix?

Utilizzare l’apprendimento automatico (ML) per scoprire insight critici sulla pianificazione è stato un caso di utilizzo interessante per la nostra organizzazione. Nel Regno Unito in particolare, abbiamo esplorato come sfruttare l’ML per comprendere meglio come la pianificazione, o la programmazione degli infermieri e dei medici, si verifichi. RLDatix ha accesso a una grande quantità di dati di pianificazione del decennio scorso, ma cosa possiamo fare con tutte quelle informazioni? È qui che entra in gioco l’ML. Stiamo utilizzando un modello ML per analizzare quei dati storici e fornire insight su come potrebbe apparire una situazione di pianificazione due settimane da ora, in un ospedale o in una determinata regione.

Quel caso di utilizzo specifico è un modello ML molto realizzabile, ma stiamo spingendo l’ago della bilancia ancora più in là, collegandolo a eventi reali. Ad esempio, cosa succede se guardassimo ogni calendario di calcio nell’area? Sappiamo per esperienza che gli eventi sportivi portano generalmente a più infortuni e che un ospedale locale avrà probabilmente più pazienti ricoverati il giorno di un evento rispetto a un giorno normale. Stiamo lavorando con AWS e altri partner per esplorare quali set di dati pubblici possiamo seminare per rendere la pianificazione ancora più fluida. Abbiamo già dati che suggeriscono che vedremo un aumento dei pazienti intorno agli eventi sportivi importanti o anche al maltempo, ma il modello ML può andare oltre, prendendo quei dati e identificando tendenze critiche che aiuteranno a garantire che gli ospedali siano adeguatamente dotati di personale, riducendo ulteriormente lo stress sulla nostra forza lavoro e portando il nostro settore un passo più avanti nel raggiungimento di cure più sicure per tutti.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare RLDatix.