Vivek Desai, Chief Technology Officer, North America at RLDatix – Interview Series

Vivek Desai ist der Chief Technology Officer von Nordamerika bei RLDatix, einem Unternehmen für vernetzte Gesundheitsoperations-Software und -Dienstleistungen. RLDatix ist auf eine Mission, die Gesundheitsversorgung zu verändern. Sie helfen Organisationen dabei, sicherere und effizientere Pflege zu ermöglichen, indem sie Tools für Governance, Risiko und Compliance bereitstellen, die die Gesamtsicherheit und -verbesserung vorantreiben.

Was hat Sie ursprünglich zur Informatik und Cybersicherheit hingezogen?

Ich wurde von den Komplexitäten angezogen, die die Informatik und Cybersicherheit zu lösen versuchen – es gibt immer eine neue Herausforderung zu erkunden. Ein gutes Beispiel dafür ist, als die Cloud zum ersten Mal an Fahrt gewann. Sie versprach viel, aber auch einige Fragen around die Workload-Sicherheit aufwarf. Es war von Anfang an klar, dass traditionelle Methoden nur eine vorläufige Lösung waren und dass Organisationen auf breiter Front neue Prozesse entwickeln mussten, um Workloads in der Cloud effektiv zu sichern. Die Navigation durch diese neuen Methoden war für mich und viele andere, die in diesem Bereich arbeiten, ein besonders aufregendes Abenteuer. Es ist eine dynamische und sich entwickelnde Branche, also bringt jeder Tag etwas Neues und Aufregendes.

Können Sie einige der aktuellen Verantwortlichkeiten teilen, die Sie als CTO von RLDatix haben?

Derzeit konzentriere ich mich darauf, unsere Datenstrategie zu leiten und Synergien zwischen unseren Produkten und den Daten, die sie enthalten, zu schaffen, um Trends besser zu verstehen. Viele unserer Produkte enthalten ähnliche Arten von Daten, also ist meine Aufgabe, diese Silos zu durchbrechen und es unseren Kunden, sowohl Krankenhäusern als auch Gesundheitssystemen, zu ermöglichen, einfacher auf die Daten zuzugreifen. Dazu arbeite ich auch an unserer globalen KI-Strategie, um den Zugang zu und die Nutzung dieser Daten im gesamten Ökosystem zu unterstützen.

Ein weiterer wichtiger Aspekt meiner Rolle ist es, auf dem Laufenden zu bleiben, was die aktuellen Trends in verschiedenen Branchen angeht, um sicherzustellen, dass wir in die richtige strategische Richtung gehen. Ich halte derzeit ein Auge auf Large Language Models (LLMs). Als Unternehmen arbeiten wir daran, LLMs in unsere Technologie zu integrieren, um Menschen, insbesondere Gesundheitsdienstleister, zu befähigen, ihre kognitive Belastung zu reduzieren und sich auf die Pflege von Patienten zu konzentrieren.

In Ihrem LinkedIn-Beitrag mit dem Titel “Eine Reflexion über mein 1. Jahr als CTO” schrieben Sie: “CTOs arbeiten nicht alleine. Sie sind Teil eines Teams.” Können Sie einige der Herausforderungen erläutern, mit denen Sie konfrontiert waren, und wie Sie Delegation und Teamarbeit bei technisch anspruchsvollen Projekten angegangen sind?

Die Rolle des CTO hat sich in den letzten zehn Jahren grundlegend verändert. Die Zeiten, in denen man in einem Serverraum arbeitete, sind vorbei. Jetzt ist die Arbeit viel mehr kollaborativ. Gemeinsam, über Geschäftseinheiten hinweg, stimmen wir die organisatorischen Prioritäten ab und verwandeln diese Aspirationen in technische Anforderungen, die uns vorantreiben. Krankenhäuser und Gesundheitssysteme navigieren derzeit durch viele tägliche Herausforderungen, von der Personalverwaltung bis hin zu finanziellen Einschränkungen, und die Einführung neuer Technologien mag nicht immer eine Priorität sein. Unser größtes Ziel ist es, zu zeigen, wie Technologie dazu beitragen kann, diese Herausforderungen zu mindern, anstatt sie zu verschärfen, und welchen Gesamtwert sie für ihr Geschäft, ihre Mitarbeiter und Patienten bringt. Dieser Einsatz kann nicht allein oder sogar innerhalb meines Teams geleistet werden, daher umfasst die Zusammenarbeit mehrere multidisziplinäre Einheiten, um eine kohärente Strategie zu entwickeln, die diesen Wert zeigt, sei es, indem Kunden Zugang zu entsperrten Dateninformationen gewährt wird oder indem Prozesse aktiviert werden, die derzeit nicht durchgeführt werden können.

Was ist die Rolle der künstlichen Intelligenz in der Zukunft der vernetzten Gesundheitsoperationen?

Wenn integrierte Daten mit KI verfügbar werden, können sie verwendet werden, um disparate Systeme zu verbinden und Sicherheit und Genauigkeit entlang des gesamten Pflegespektrums zu verbessern. Dieses Konzept der vernetzten Gesundheitsoperationen ist eine Kategorie, auf die wir uns bei RLDatix konzentrieren, da es handlungsfähige Daten und Erkenntnisse für Gesundheitsentscheidungsträger freischaltet – und KI ist integraler Bestandteil, um dies zu verwirklichen.

Ein unverhandelbarer Aspekt dieser Integration ist die Sicherstellung, dass die Datenverwendung sicher und konform ist und Risiken verstanden werden. Wir sind der Marktführer in der Politik, im Risiko und in der Sicherheit, was bedeutet, dass wir eine große Menge an Daten haben, um grundlegende LLMs mit höherer Genauigkeit und Zuverlässigkeit zu trainieren. Um eine echte vernetzte Gesundheitsoperation zu erreichen, ist der erste Schritt, die disparaten Lösungen zu kombinieren, und der zweite, die Daten zu extrahieren und über diese Lösungen zu normalisieren. Krankenhäuser werden von einer Gruppe vernetzter Lösungen, die Datenmengen kombinieren und handlungsfähigen Wert für die Benutzer bieten können, anstatt separate Datensätze von einzelnen Punktlösungen beizubehalten, erheblich profitieren.

In einer kürzlichen Keynote teilte Chief Product Officer Barbara Staruk mit, wie RLDatix generative KI und Large Language Models nutzt, um die Patientensicherheitsvorfallberichterstattung zu straffen und zu automatisieren. Können Sie erläutern, wie dies funktioniert?

Dies ist eine sehr bedeutende Initiative für RLDatix und ein großartiges Beispiel dafür, wie wir das Potenzial von LLMs maximieren. Wenn Krankenhäuser und Gesundheitssysteme Vorfälle melden, gibt es derzeit drei Standardformate, um das Ausmaß des in der Meldung angegebenen Schadens zu bestimmen: die Common Formats der Agency for Healthcare Research and Quality, der National Coordinating Council for Medication Error Reporting and Prevention und die Healthcare Performance Improvement (HPI) Safety Event Classification (SEC). Derzeit können wir leicht ein LLM trainieren, um durch Text in einem Vorfalbericht zu lesen. Wenn beispielsweise ein Patient verstorben ist, kann das LLM diese Information nahtlos erkennen. Die Herausforderung liegt jedoch darin, das LLM so zu trainieren, dass es den Kontext erkennen und zwischen komplexeren Kategorien unterscheiden kann, wie z. B. schweren dauerhaften Schäden, einer Taxonomie, die im HPI-SEC für ein bestimmtes Patientensicherheitsereignis enthalten ist, im Vergleich zu schweren vorübergehenden Schäden. Wenn die meldende Person nicht genügend Kontext bereitstellt, kann das LLM den entsprechenden Kategorie-Schadensgrad für das bestimmte Patientensicherheitsereignis nicht bestimmen.

RLDatix zielt darauf ab, eine einfachere Taxonomie global, über unser gesamtes Portfolio hinweg, mit konkreten Kategorien zu implementieren, die vom LLM leicht unterschieden werden können. Im Laufe der Zeit werden Benutzer in der Lage sein, einfach zu schreiben, was passiert ist, und das LLM wird den Rest übernehmen, indem es alle wichtigen Informationen extrahiert und Vorfalformulare vorbelegt. Dies ist nicht nur ein erheblicher Zeitgewinn für eine bereits belastete Belegschaft, sondern auch, da das Modell fortschreitet, werden wir in der Lage sein, kritische Trends zu erkennen, die es Gesundheitseinrichtungen ermöglichen, sicherere Entscheidungen zu treffen.

Wie hat RLDatix auf andere Weise begonnen, LLMs in seine Betriebe zu integrieren?

Ein weiterer Weg, auf dem wir LLMs intern nutzen, ist die Vereinfachung des Zertifizierungsprozesses. Jedes Anbieterzertifikat ist anders formatiert und enthält einzigartige Informationen. Um es in den richtigen Kontext zu setzen, denken Sie daran, wie jedes Lebenslauf anders aussieht – von Schriftarten, Berufserfahrung, Ausbildung und allgemeiner Formatierung. Die Zertifizierung ist ähnlich. Wo hat der Anbieter das College besucht? Was ist seine Zertifizierung? In welchen Artikeln wurde er veröffentlicht? Jeder Gesundheitsfachmann wird diese Informationen auf seine eigene Weise bereitstellen.

Bei RLDatix ermöglichen LLMs es uns, diese Zertifikate zu lesen und alle diese Daten in ein standardisiertes Format zu extrahieren, sodass diejenigen, die in der Dateneingabe arbeiten, nicht umfangreich danach suchen müssen, sodass sie weniger Zeit auf die administrative Komponente verwenden und ihre Zeit auf sinnvolle Aufgaben konzentrieren können, die Wert hinzufügen.

Cybersicherheit war immer herausfordernd, insbesondere mit dem Wechsel zu cloudbasierten Technologien, können Sie einige dieser Herausforderungen diskutieren?

Die Cybersicherheit ist herausfordernd, was es wichtig macht, mit dem richtigen Partner zusammenzuarbeiten. Die Sicherstellung, dass LLMs sicher und konform bleiben, ist die wichtigste Überlegung, wenn diese Technologie genutzt wird. Wenn Ihre Organisation nicht über das erforderliche Personal verfügt, um dies intern zu erledigen, kann es sehr herausfordernd und zeitaufwändig sein. Deshalb arbeiten wir mit Amazon Web Services (AWS) bei den meisten unserer Cybersicherheitsinitiativen zusammen. AWS hilft uns, Sicherheit und Konformität als Kernprinzipien in unsere Technologie zu integrieren, sodass RLDatix sich auf das konzentrieren kann, was wir wirklich gut machen – nämlich großartige Produkte für unsere Kunden in all unseren jeweiligen Vertikalen zu bauen.

Welche neuen Sicherheitsbedrohungen haben Sie im Zusammenhang mit der jüngsten schnellen Einführung von LLMs gesehen?

Aus der Perspektive von RLDatix gibt es mehrere Aspekte, die wir bei der Entwicklung und dem Training von LLMs berücksichtigen. Ein wichtiger Schwerpunkt für uns ist die Minderung von Voreingenommenheit und Ungerechtigkeit. LLMs sind nur so gut wie die Daten, mit denen sie trainiert werden. Faktoren wie Geschlecht, Rasse und andere Demografien können viele inhärente Voreingenommenheiten enthalten, weil die Datensammlung selbst voreingenommen ist. Zum Beispiel denken Sie daran, wie die südöstlichen Vereinigten Staaten das Wort “y’all” in der Alltagssprache verwenden. Dies ist eine einzigartige sprachliche Voreingenommenheit, die für eine bestimmte Patientenpopulation inhärent ist und die Forscher bei der Ausbildung des LLMs berücksichtigen müssen, um sprachliche Nuancen im Vergleich zu anderen Regionen genau zu unterscheiden. Diese Arten von Voreingenommenheiten müssen im großen Maßstab bei der Nutzung von LLMs im Gesundheitswesen berücksichtigt werden, da das Training eines Modells in einer Patientenpopulation nicht unbedingt bedeutet, dass das Modell in einer anderen funktioniert.

Die Wahrung von Sicherheit, Transparenz und Rechenschaftspflicht sind auch wichtige Schwerpunkte für unsere Organisation, sowie die Minderung von Halluzinationen und Fehlinformationen. Die Sicherstellung, dass wir aktiv alle Datenschutzbedenken angehen, dass wir verstehen, wie ein Modell zu einer bestimmten Antwort gelangt ist und dass wir einen sicheren Entwicklungszyklus haben, sind alles wichtige Komponenten einer effektiven Implementierung und Wartung.

Welche anderen maschinellen Lernalgorithmen werden bei RLDatix eingesetzt?

Die Verwendung von maschinellem Lernen, um kritische Erkenntnisse zur Terminplanung zu gewinnen, war ein interessantes Anwendungsbeispiel für unsere Organisation. Im Vereinigten Königreich haben wir uns damit beschäftigt, wie wir maschinelles Lernen nutzen können, um die Terminplanung von Krankenpflegern und Ärzten besser zu verstehen. RLDatix hat Zugang zu einer riesigen Menge an Terminplanungsdaten aus dem letzten Jahrzehnt, aber was können wir mit all diesen Informationen anfangen? Genau hier kommt maschinelles Lernen ins Spiel. Wir nutzen ein maschinelles Lernmodell, um diese historischen Daten zu analysieren und Einblicke in die Frage zu geben, wie eine Personalsituation in zwei Wochen in einem bestimmten Krankenhaus oder einer bestimmten Region aussehen könnte.

Dieses spezifische Anwendungsbeispiel ist ein sehr erreichbares maschinelles Lernmodell, aber wir treiben den Nagel noch weiter, indem wir es mit realen Ereignissen verbinden. Was, wenn wir uns beispielsweise jeden Fußballspielplan in der Gegend ansehen? Wir wissen aus erster Hand, dass Sportereignisse typischerweise zu mehr Verletzungen führen und dass ein lokales Krankenhaus wahrscheinlich mehr Patienten an einem Tag eines solchen Ereignisses hat als an einem normalen Tag. Wir arbeiten mit AWS und anderen Partnern daran, zu erkunden, welche öffentlichen Datensätze wir nutzen können, um die Terminplanung noch weiter zu straffen. Wir haben bereits Daten, die darauf hindeuten, dass wir anlässlich großer Sportereignisse oder sogar bei schlechtem Wetter einen Anstieg der Patientenzahlen sehen werden, aber das maschinelle Lernmodell kann dies noch weiter treiben, indem es diese Daten nimmt und kritische Trends identifiziert, die dazu beitragen werden, dass Krankenhäuser angemessen mit Personal besetzt sind, letztendlich die Belastung unserer Belegschaft reduzieren und unsere Branche einen Schritt weiter in Richtung sichererer Pflege für alle bringen.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten RLDatix besuchen.