Вивек Десай, главен технологичен директор, Северна Америка в RLDatix – Серия от интервюта

Вивек Десай е Директор по производството на Северна Америка при RLDatix, а свързана компания за софтуер и услуги за здравни операции. RLDatix е на мисия да промени здравеопазването. Те помагат на организациите да управляват по-безопасни и по-ефективни грижи, като предоставят инструменти за управление, риск и съответствие, които стимулират цялостното подобрение и безопасност.

Какво първоначално ви привлече към компютърните науки и киберсигурността?

Бях привлечен от сложността на това, което компютърните науки и киберсигурността се опитват да решат – винаги има възникващо предизвикателство за изследване. Чудесен пример за това е, когато облакът за първи път започна да набира сцепление. Беше много обещаващо, но също така повдигна някои въпроси относно сигурността на натоварването. В началото беше много ясно, че традиционните методи са временно средство и че организациите в целия свят ще трябва да разработят нови процеси за ефективно осигуряване на работни натоварвания в облака. Навигирането в тези нови методи беше особено вълнуващо пътуване за мен и много други, работещи в тази област. Това е динамична и развиваща се индустрия, така че всеки ден носи нещо ново и вълнуващо.

Бихте ли споделили някои от текущите отговорности, които имате като технически директор на RLDatix?  

В момента съм съсредоточен върху ръководенето на нашата стратегия за данни и намирането на начини за създаване на взаимодействие между нашите продукти и данните, които те съхраняват, за да разберем по-добре тенденциите. Много от нашите продукти съдържат подобни типове данни, така че моята работа е да намеря начини да разбия тези силози и да улесня достъпа на нашите клиенти, както болници, така и здравни системи, до данните. С това работя и върху нашата глобална стратегия за изкуствен интелект (AI), за да информирам този достъп и използване на данни в цялата екосистема.

Да остана в крак с нововъзникващите тенденции в различни индустрии е друг решаващ аспект от моята роля, за да гарантирам, че се движим в правилната стратегическа посока. В момента следя отблизо големите езикови модели (LLM). Като компания, ние работим за намиране на начини за интегриране на LLMs в нашата технология, за да овластим и подобрим хората, по-специално доставчиците на здравни услуги, да намалим тяхното когнитивно натоварване и да им позволим да се съсредоточат върху грижите за пациентите.

Във вашата публикация в блога на LinkedIn, озаглавена „Размисъл върху първата ми година като технически директор”, написахте, „техническите директори не работят сами. Те са част от екип.” Бихте ли разяснили някои от предизвикателствата, с които сте се сблъскали, и как сте се справили с делегирането и работата в екип по проекти, които по своята същност са технически предизвикателни?

Ролята на техническия директор се промени фундаментално през последното десетилетие. Отминаха дните на работа в сървърно помещение. Сега работата е много по-съвместна. Заедно, в бизнес звената, ние подреждаме организационните приоритети и превръщаме тези стремежи в технически изисквания, които ни водят напред. Болниците и здравните системи понастоящем се справят с толкова много ежедневни предизвикателства, от управление на работната сила до финансови ограничения, и приемането на нови технологии може да не винаги е основен приоритет. Нашата най-голяма цел е да покажем как технологията може да помогне за смекчаване на тези предизвикателства, а не да ги добави към тях, и общата стойност, която тя носи за техния бизнес, служители и пациенти като цяло. Това усилие не може да бъде направено самостоятелно или дори в рамките на моя екип, така че сътрудничеството обхваща мултидисциплинарни звена за разработване на сплотена стратегия, която ще демонстрира тази стойност, независимо дали това произтича от предоставяне на достъп на клиентите до отключени прозрения за данни или активиране на процеси, които те в момента не могат да изпълняват .

Каква е ролята на изкуствения интелект в бъдещето на свързаните операции в здравеопазването?

Тъй като интегрираните данни стават все по-достъпни с AI, те могат да се използват за свързване на различни системи и подобряване на безопасността и точността в целия континуум на грижите. Тази концепция за свързани операции в здравеопазването е категория, върху която се фокусираме в RLDatix, тъй като отключва приложими данни и прозрения за вземащите решения в здравеопазването – и AI е неразделна част от това да стане реалност.

Неподлежащ на обсъждане аспект на тази интеграция е да се гарантира, че използването на данни е сигурно и съвместимо и рисковете са разбрани. Ние сме пазарен лидер в политиката, риска и безопасността, което означава, че разполагаме с достатъчно количество данни, за да обучаваме основните LLM с повече точност и надеждност. За постигане на истински свързани операции в здравеопазването, първата стъпка е обединяването на различни решения, а втората е извличането на данни и нормализирането им в тези решения. Болниците ще имат голяма полза от група взаимосвързани решения, които могат да комбинират набори от данни и да осигурят приложима стойност за потребителите, вместо да поддържат отделни набори от данни от индивидуални точкови решения.

В скорошна основна бележка главният продуктов директор Барбара Старук сподели как RLDatix използва генеративен AI и големи езикови модели, за да рационализира и автоматизира докладването на инциденти, свързани с безопасността на пациентите. Бихте ли разяснили как работи това?

Това е наистина значима инициатива за RLDatix и чудесен пример за това как максимизираме потенциала на LLM. Когато болниците и здравните системи попълват доклади за инциденти, понастоящем има три стандартни формата за определяне на нивото на вреда, посочено в доклада: Общите формати на Агенцията за изследване на здравеопазването и качеството, Националния координационен съвет за докладване и превенция на грешки при лекарствата и ефективността на здравеопазването Подобрение (HPI) Класификация на събитията за безопасност (SEC). В момента можем лесно да обучим LLM да чете текст в доклад за инцидент. Ако пациент почине, например, LLM може безпроблемно да избере тази информация. Предизвикателството обаче се крие в обучението на LLM да определя контекста и да прави разлика между по-сложни категории, като тежки постоянни щети, таксономия, включена в HPI SEC например, срещу тежки временни щети. Ако докладващото лице не включва достатъчно контекст, LLM няма да може да определи подходящото ниво на категория на вреда за този конкретен инцидент, свързан с безопасността на пациента.

RLDatix се стреми да приложи по-опростена таксономия, глобално, в нашето портфолио, с конкретни категории, които могат лесно да бъдат разграничени от LLM. С течение на времето потребителите ще могат просто да напишат какво се е случило и LLM ще се справи оттам, като извлече цялата важна информация и предварително попълни формулярите за инциденти. Това не само значително спестява време за вече напрегната работна сила, но тъй като моделът става още по-напреднал, ние също ще можем да идентифицираме критични тенденции, които ще позволят на здравните организации да вземат по-безопасни решения навсякъде.

Какви са някои други начини, по които RLDatix е започнала да включва LLM в своите операции?

Друг начин, по който използваме LLM вътрешно, е да рационализираме процеса на удостоверяване. Идентификационните данни на всеки доставчик са форматирани по различен начин и съдържат уникална информация. За да го поставите в перспектива, помислете как автобиографията на всеки изглежда различно – от шрифтове, до трудов опит, до образование и цялостно форматиране. Удостоверяването е подобно. Къде е учил доставчикът? Каква е сертификацията им? В какви статии са публикувани? Всеки здравен специалист ще предостави тази информация по свой начин.

В RLDatix LLMs ни позволяват да прочетем тези идентификационни данни и да извлечем всички тези данни в стандартизиран формат, така че работещите във въвеждането на данни да не се налага да ги търсят обстойно, което им позволява да отделят по-малко време за административния компонент и да съсредоточат своите време за смислени задачи, които добавят стойност.

Киберсигурността винаги е била предизвикателство, особено с преминаването към облачни технологии, бихте ли обсъдили някои от тези предизвикателства?

Кибер защита is предизвикателство, поради което е важно да работите с правилния партньор. Гарантирането, че LLM остават сигурни и съвместими е най-важното съображение при използването на тази технология. Ако вашата организация няма специализиран вътрешен персонал, който да направи това, може да бъде невероятно предизвикателство и да отнеме много време. Ето защо работим с Amazon Web Services (AWS) по повечето от нашите инициативи за киберсигурност. AWS ни помага да внедрим сигурността и съответствието като основни принципи в нашата технология, така че RLDatix да може да се съсредоточи върху това, което наистина правим добре – а именно изграждането на страхотни продукти за нашите клиенти във всички наши съответни вертикали.

Какви са някои от новите заплахи за сигурността, които видяхте с неотдавнашното бързо приемане на LLM?

От гледна точка на RLDatix, има няколко съображения, върху които работим, докато разработваме и обучаваме LLM. Важен фокус за нас е смекчаването на пристрастието и несправедливостта. LLM са толкова добри, колкото и данните, върху които се обучават. Фактори като пол, раса и други демографски данни могат да включват много присъщи пристрастия, тъй като самият набор от данни е пристрастен. Например, помислете как югоизточните Съединени щати използват думата „y'all“ в ежедневния език. Това е уникално езиково пристрастие, присъщо на конкретна популация пациенти, което изследователите трябва да имат предвид, когато обучават LLM да разграничават точно езиковите нюанси в сравнение с други региони. Тези видове пристрастия трябва да се разглеждат в мащаб, когато става въпрос за използване на LLMS в рамките на здравеопазването, тъй като обучението на модел в рамките на една популация пациенти не означава непременно, че този модел ще работи в друга.

Поддържането на сигурност, прозрачност и отчетност също са големи фокусни точки за нашата организация, както и смекчаването на всякакви възможности за халюцинации и дезинформация. Гарантирането, че активно се занимаваме с всякакви опасения относно поверителността, че разбираме как даден модел е достигнал до определен отговор и че разполагаме със сигурен цикъл на разработка, са важни компоненти на ефективното внедряване и поддръжка.

Какви са някои други алгоритми за машинно обучение, които се използват в RLDatix?

Използването на машинно обучение (ML) за разкриване на критични прозрения за планиране е интересен случай на използване за нашата организация. По-конкретно в Обединеното кралство ние проучваме как да използваме машинното обучение, за да разберем по-добре как се извършва съставянето на график или планирането на медицински сестри и лекари. RLDatix има достъп до огромно количество данни за планиране от последното десетилетие, но какво можем да направим с цялата тази информация? Тук се намесва ML. Ние използваме ML модел, за да анализираме тези исторически данни и да предоставим представа как може да изглежда ситуацията с персонала след две седмици в конкретна болница или определен регион.

Този конкретен случай на използване е много постижим ML модел, но ние натискаме иглата още повече, като го свързваме със събития от реалния живот. Например, какво ще стане, ако разгледаме всеки футболен график в района? Знаем от първа ръка, че спортните събития обикновено водят до повече наранявания и че местната болница вероятно ще има повече хоспитализирани пациенти в деня на събитието в сравнение с типичния ден. Работим с AWS и други партньори, за да проучим какви публични набори от данни можем да заредим, за да направим планирането още по-рационализирано. Вече разполагаме с данни, които предполагат, че ще видим прилив на пациенти около големи спортни събития или дори лошо време, но моделът ML може да направи крачка напред, като вземе тези данни и идентифицира критични тенденции, които ще помогнат да се гарантира, че болниците са адекватно персонал, като в крайна сметка намалява напрежението върху нашата работна сила и прави нашата индустрия крачка напред в постигането на по-безопасни грижи за всички.

Благодаря ви за страхотното интервю, читателите, които искат да научат повече, трябва да го посетят RLDatix.