Vivek Desai, Chief Technology Officer, Nordamerika bei RLDatix – Interview-Serie

Vivek Desai ist der Chief Technology Officer von Nordamerika bei RLDatix, einem Unternehmen für vernetzte Gesundheitsoperationen-Software und -Dienstleistungen. RLDatix ist auf eine Mission, die Gesundheitsversorgung zu verändern. Sie helfen Organisationen, sicherere und effizientere Pflege zu ermöglichen, indem sie Tools für Governance, Risiko und Compliance bereitstellen, die die Gesamtsituation und Sicherheit verbessern.

Was hat Sie ursprünglich zur Informatik und Cybersicherheit hingezogen?

Ich wurde von den Komplexitäten angezogen, die die Informatik und Cybersicherheit zu lösen versuchen – es gibt immer eine neue Herausforderung, die erforscht werden kann. Ein gutes Beispiel dafür ist, als die Cloud erstmalig an Popularität gewann. Sie versprach viel, aber auch einige Fragen bezüglich der Sicherheit von Workloads. Es war sehr klar, dass traditionelle Methoden nur eine vorübergehende Lösung waren und dass Organisationen auf breiter Front neue Prozesse entwickeln mussten, um Workloads in der Cloud effektiv zu sichern. Die Navigation durch diese neuen Methoden war für mich und viele andere in diesem Bereich eine sehr spannende Reise. Es ist ein dynamischer und sich entwickelnder Bereich, also bringt jeder Tag etwas Neues und Aufregendes.

Können Sie einige der aktuellen Aufgaben beschreiben, die Sie als CTO von RLDatix haben?  

Aktuell konzentriere ich mich darauf, unsere Datenstrategie zu leiten und Synergien zwischen unseren Produkten und den Daten, die sie enthalten, zu finden, um Trends besser zu verstehen. Viele unserer Produkte enthalten ähnliche Arten von Daten, also ist meine Aufgabe, diese Silos zu durchbrechen und es unseren Kunden, sowohl Krankenhäusern als auch Gesundheitssystemen, zu ermöglichen, auf diese Daten zuzugreifen. Dazu arbeite ich auch an unserer globalen KI-Strategie, um diesen Datenzugang und die Nutzung über das gesamte Ökosystem zu informieren.

Ein weiterer wichtiger Aspekt meiner Rolle ist es, auf dem Laufenden zu bleiben, was die neuesten Trends in verschiedenen Branchen angeht, um sicherzustellen, dass wir in die richtige strategische Richtung gehen. Ich halte derzeit ein Auge auf große Sprachmodelle (LLMs). Als Unternehmen arbeiten wir daran, LLMs in unsere Technologie zu integrieren, um Menschen, insbesondere Gesundheitsdienstleister, zu stärken und ihre kognitive Belastung zu reduzieren, damit sie sich auf die Patientenversorgung konzentrieren können.

In Ihrem LinkedIn-Beitrag mit dem Titel “Ein Rückblick auf mein erstes Jahr als CTO” schrieben Sie, “CTOs arbeiten nicht allein. Sie sind Teil eines Teams.” Können Sie einige der Herausforderungen beschreiben, mit denen Sie konfrontiert waren, und wie Sie Delegation und Teamarbeit bei technisch anspruchsvollen Projekten angegangen sind?

Die Rolle des CTO hat sich in den letzten zehn Jahren grundlegend verändert. Die Zeiten, in denen man in einem Serverraum arbeitete, sind vorbei. Jetzt ist die Arbeit viel mehr kollaborativ. Zusammen mit den Geschäftseinheiten stimmen wir die organisatorischen Prioritäten ab und verwandeln diese Aspirationen in technische Anforderungen, die uns voranbringen. Krankenhäuser und Gesundheitssysteme navigieren derzeit durch viele tägliche Herausforderungen, von der Personalverwaltung bis hin zu finanziellen Einschränkungen, und die Einführung neuer Technologien mag nicht immer eine Priorität sein. Unser größtes Ziel ist es, zu zeigen, wie Technologie diese Herausforderungen mildern kann, anstatt sie zu verschärfen, und welchen Wert sie für ihr Geschäft, ihre Mitarbeiter und Patienten bringt. Dieser Einsatz kann nicht allein oder nur innerhalb meines Teams geleistet werden, also umfasst die Zusammenarbeit mehrere Disziplinen, um eine kohärente Strategie zu entwickeln, die diesen Wert zeigt, sei es durch die Bereitstellung von Dateninsights für Kunden oder die Aktivierung von Prozessen, die sie derzeit nicht ausführen können.

Was ist die Rolle der künstlichen Intelligenz in der Zukunft der vernetzten Gesundheitsoperationen?

Wenn integrierte Daten mit KI verfügbar werden, können sie verwendet werden, um disparate Systeme zu verbinden und die Sicherheit und Genauigkeit über den gesamten Pflegeweg zu verbessern. Dieses Konzept der vernetzten Gesundheitsoperationen ist eine Kategorie, auf die wir uns bei RLDatix konzentrieren, da es handlungsfähige Daten und Erkenntnisse für Gesundheitsentscheider freischaltet – und KI ist integraler Bestandteil dieser Realisierung.

Ein unverhandelbarer Aspekt dieser Integration ist die Sicherstellung, dass die Datennutzung sicher und konform ist und Risiken verstanden werden. Wir sind Marktführer in Politik, Risiko und Sicherheit, was bedeutet, dass wir eine große Menge an Daten haben, um grundlegende LLMs mit höherer Genauigkeit und Zuverlässigkeit zu trainieren. Um eine wahre vernetzte Gesundheitsoperation zu erreichen, ist der erste Schritt, die disparaten Lösungen zu verbinden, und der zweite, die Daten zu extrahieren und über diese Lösungen zu normalisieren. Krankenhäuser werden sehr von einer Gruppe vernetzter Lösungen profitieren, die Datenmengen kombinieren und handlungsfähigen Wert für Benutzer bieten können, anstatt separate Datensätze von einzelnen Punkt-Lösungen zu unterhalten.

In einer kürzlichen Keynote erläuterte Chief Product Officer Barbara Staruk, wie RLDatix generative KI und große Sprachmodelle nutzt, um die Patientensicherheits-Vorfallberichterstattung zu straffen und zu automatisieren. Können Sie dies genauer erklären?

Dies ist eine sehr bedeutende Initiative für RLDatix und ein gutes Beispiel dafür, wie wir das Potenzial von LLMs maximieren. Wenn Krankenhäuser und Gesundheitssysteme Vorfallberichte ausfüllen, gibt es derzeit drei Standardformate für die Bestimmung des Schadensgrades, der im Bericht angegeben ist: die Common Formats der Agency for Healthcare Research and Quality, der National Coordinating Council for Medication Error Reporting and Prevention und die Healthcare Performance Improvement (HPI) Safety Event Classification (SEC). Derzeit können wir leicht ein LLM trainieren, um durch Text in einem Vorfallbericht zu lesen. Wenn beispielsweise ein Patient stirbt, kann das LLM diese Information nahtlos erkennen. Die Herausforderung liegt jedoch darin, das LLM so zu trainieren, dass es den Kontext erkennt und zwischen komplexeren Kategorien unterscheiden kann, wie z.B. schwerem dauerhaftem Schaden, einer Taxonomie, die im HPI-SEC enthalten ist, versus schwerem vorübergehendem Schaden. Wenn die Person, die den Bericht erstellt, nicht genug Kontext liefert, kann das LLM den entsprechenden Kategorie-Level des Schadens für diesen spezifischen Patientensicherheits-Vorfall nicht bestimmen.

RLDatix zielt darauf ab, eine einfachere Taxonomie global über unser Portfolio hinweg umzusetzen, mit konkreten Kategorien, die vom LLM leicht unterschieden werden können. Im Laufe der Zeit werden Benutzer in der Lage sein, einfach zu schreiben, was passiert ist, und das LLM wird den Rest übernehmen, indem es alle wichtigen Informationen extrahiert und Vorfallformulare vorbefüllt. Dies ist nicht nur ein erheblicher Zeitgewinn für ein bereits belastetes Personal, sondern auch, da das Modell fortschreitet, werden wir in der Lage sein, kritische Trends zu identifizieren, die es Gesundheitsorganisationen ermöglichen, sicherere Entscheidungen zu treffen.

Wie hat RLDatix auf andere Weise begonnen, LLMs in seine Betriebe einzubinden?

Ein weiterer Weg, auf dem wir LLMs intern nutzen, ist die Vereinfachung des Zulassungsprozesses. Jedes Anbieter-Zertifikat ist anders formatiert und enthält einzigartige Informationen. Um es zu verdeutlichen, denken Sie daran, wie jedes Lebenslauf anders aussieht – von Schriftarten bis zu Berufserfahrung, Ausbildung und allgemeiner Formatierung. Die Zulassung ist ähnlich. Wo hat der Anbieter das College besucht? Was ist seine Zertifizierung? Welche Artikel sind veröffentlicht? Jeder Gesundheitsfachmann wird diese Informationen auf seine eigene Weise bereitstellen.

Bei RLDatix ermöglichen uns LLMs, diese Zulassungen zu lesen und alle Daten in ein standardisiertes Format zu extrahieren, sodass diejenigen, die in der Dateneingabe arbeiten, nicht umfangreich danach suchen müssen, sodass sie weniger Zeit auf administrative Komponenten und mehr auf sinnvolle Aufgaben verwenden können, die Mehrwert bieten.

Cybersicherheit war immer herausfordernd, insbesondere mit dem Wechsel zu cloudbasierten Technologien. Können Sie einige dieser Herausforderungen diskutieren?

Cybersicherheit ist herausfordernd, was es wichtig macht, mit dem richtigen Partner zusammenzuarbeiten. Die Sicherstellung, dass LLMs sicher und konform bleiben, ist die wichtigste Überlegung, wenn diese Technologie genutzt wird. Wenn Ihre Organisation nicht das erforderliche Personal vor Ort hat, um dies zu tun, kann es sehr herausfordernd und zeitaufwändig sein. Deshalb arbeiten wir mit Amazon Web Services (AWS) an den meisten unserer Cybersicherheitsinitiativen. AWS hilft uns, Sicherheit und Konformität als Kernprinzipien in unsere Technologie zu integrieren, sodass RLDatix sich auf das konzentrieren kann, was wir wirklich gut machen – nämlich großartige Produkte für unsere Kunden in all unseren jeweiligen Branchen zu entwickeln.

Welche neuen Sicherheitsbedrohungen haben Sie im Zusammenhang mit der jüngsten schnellen Einführung von LLMs gesehen?

Aus der Perspektive von RLDatix gibt es mehrere Aspekte, die wir bei der Entwicklung und dem Training von LLMs berücksichtigen. Ein wichtiger Schwerpunkt für uns ist die Minderung von Voreingenommenheit und Ungerechtigkeit. LLMs sind nur so gut wie die Daten, auf denen sie trainiert werden. Faktoren wie Geschlecht, Rasse und andere demografische Merkmale können viele inhärente Voreingenommenheiten enthalten, weil die Datensammlung selbst voreingenommen ist. Zum Beispiel denken Sie daran, wie der Südosten der Vereinigten Staaten das Wort “y’all” in der Alltagssprache verwendet. Dies ist eine einzigartige sprachliche Voreingenommenheit, die in einer bestimmten Patientenpopulation inhärent ist und die Forscher bei der Ausbildung des LLMs berücksichtigen müssen, um sprachliche Nuancen im Vergleich zu anderen Regionen genau zu unterscheiden. Diese Arten von Voreingenommenheiten müssen im großen Maßstab bei der Nutzung von LLMs im Gesundheitswesen berücksichtigt werden, da das Training eines Modells in einer Patientenpopulation nicht unbedingt bedeutet, dass das Modell in einer anderen Population funktioniert.

Die Wahrung von Sicherheit, Transparenz und Rechenschaftspflicht sind auch wichtige Schwerpunkte für unsere Organisation, sowie die Minderung von Halluzinationen und Fehlinformationen. Es ist wichtig, dass wir aktiv alle Datenschutzbedenken ansprechen, verstehen, wie ein Modell zu einer bestimmten Antwort gelangt ist, und dass wir einen sicheren Entwicklungszyklus haben. All dies sind wichtige Komponenten einer effektiven Implementierung und Wartung.

Welche anderen maschinellen Lernalgorithmen werden bei RLDatix verwendet?

Die Verwendung von maschinellem Lernen, um kritische Planungserkenntnisse aufzudecken, war ein interessanter Anwendungsfall für unsere Organisation. Im Vereinigten Königreich haben wir uns damit beschäftigt, wie wir maschinelles Lernen nutzen können, um besser zu verstehen, wie die Erstellung von Dienstplänen, oder die Planung von Schichten für Krankenhauspersonal, funktioniert. RLDatix hat Zugang zu einer riesigen Menge an Planungsdaten aus dem letzten Jahrzehnt, aber was können wir mit all diesen Informationen anfangen? Genau hier kommt maschinelles Lernen ins Spiel. Wir nutzen ein maschinelles Lernmodell, um diese historischen Daten zu analysieren und Einblicke in die Frage zu geben, wie eine Personalsituation in zwei Wochen in einem bestimmten Krankenhaus oder einer bestimmten Region aussehen könnte.

Dieser spezifische Anwendungsfall ist ein sehr erreichbarer maschineller Lernalgorithmus, aber wir drücken den Nagel noch weiter, indem wir ihn mit realen Ereignissen verbinden. Was, wenn wir uns jeden Fußballspielplan in der Umgebung ansehen? Wir wissen aus erster Hand, dass Sportereignisse typischerweise zu mehr Verletzungen führen und dass ein lokales Krankenhaus wahrscheinlich mehr Patienten an dem Tag eines Ereignisses hat als an einem normalen Tag. Wir arbeiten mit AWS und anderen Partnern daran, zu erkunden, welche öffentlichen Datensätze wir verwenden können, um die Planung noch weiter zu straffen. Wir haben bereits Daten, die darauf hindeuten, dass wir einen Anstieg der Patientenzahlen um große Sportereignisse oder sogar schlechtes Wetter herum sehen werden, aber das maschinelle Lernmodell kann dies noch weiter treiben, indem es diese Daten nimmt und kritische Trends identifiziert, die dazu beitragen, dass Krankenhäuser angemessen besetzt sind, letztendlich die Belastung unserer Belegschaft reduzieren und unsere Branche einen Schritt weiter in Richtung sichererer Pflege für alle bringen.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten RLDatix besuchen.