Vivek Desai, Chief Technology Officer, North America di RLDatix – Seri Wawancara

Vivek Desai adalah Chief Technology Officer di RLDatix, sebuah perusahaan perangkat lunak dan layanan operasi kesehatan terhubung. RLDatix berada pada misi untuk mengubah kesehatan. Mereka membantu organisasi mengemudi perawatan yang lebih aman dan efisien dengan menyediakan alat tata kelola, risiko, dan kepatuhan yang mengemudi perbaikan dan keselamatan secara keseluruhan.

Apa yang awalnya menarik Anda ke ilmu komputer dan keamanan siber?

Saya tertarik dengan kompleksitas apa yang ilmu komputer dan keamanan siber coba selesaikan – selalu ada tantangan baru untuk dijelajahi. Contoh yang baik adalah ketika awan pertama kali mulai mendapatkan traksi. Ini menjanjikan banyak hal, tetapi juga menimbulkan beberapa pertanyaan seputar keamanan beban kerja. Jelas dari awal bahwa metode tradisional adalah solusi sementara, dan bahwa organisasi di seluruh papan akan perlu mengembangkan proses baru untuk mengamankan beban kerja di awan. Menavigasi metode baru ini adalah perjalanan yang sangat menarik bagi saya dan banyak orang lain yang bekerja di bidang ini. Ini adalah industri yang dinamis dan berkembang, sehingga setiap hari membawa sesuatu yang baru dan menarik.

Apakah Anda bisa berbagi beberapa tanggung jawab saat ini yang Anda miliki sebagai CTO di RLDatix?

Saat ini, saya fokus pada memimpin strategi data kami dan menemukan cara untuk menciptakan sinergi antara produk kami dan data yang mereka miliki, untuk lebih memahami tren. Banyak produk kami memiliki rumah data yang sama, sehingga tugas saya adalah menemukan cara untuk menghancurkan silo-silo itu dan membuatnya lebih mudah bagi pelanggan kami, baik rumah sakit maupun sistem kesehatan, untuk mengakses data. Dengan ini, saya juga bekerja pada strategi kecerdasan buatan (AI) global kami untuk menginformasikan akses data dan pemanfaatan di seluruh ekosistem.

Mengikuti tren yang muncul di berbagai industri adalah aspek penting lain dari peran saya, untuk memastikan kami berada di arah strategis yang tepat. Saya saat ini memantau model bahasa besar (LLM). Sebagai perusahaan, kami bekerja untuk menemukan cara untuk mengintegrasikan LLM ke dalam teknologi kami, untuk memberdayakan dan meningkatkan kemampuan manusia, khususnya penyedia kesehatan, mengurangi beban kognitif mereka dan memungkinkan mereka untuk fokus pada merawat pasien.

Dalam posting blog LinkedIn Anda yang berjudul “A Reflection on My 1st Year as a CTO,” Anda menulis, “CTO tidak bekerja sendirian. Mereka adalah bagian dari tim.” Apakah Anda bisa menjelaskan beberapa tantangan yang Anda hadapi dan bagaimana Anda menangani delegasi dan kerja tim pada proyek yang secara teknis menantang?

Peran CTO telah berubah secara fundamental selama dekade terakhir. Hari-hari bekerja di ruang server telah berlalu. Sekarang, pekerjaan ini jauh lebih kolaboratif. Bersama, di seluruh unit bisnis, kami selaras pada prioritas organisasi dan mengubah aspirasi tersebut menjadi persyaratan teknis yang mengemudi kami maju. Rumah sakit dan sistem kesehatan saat ini menavigasi banyak tantangan sehari-hari, dari manajemen tenaga kerja hingga kendala keuangan, dan adopsi teknologi baru mungkin tidak selalu menjadi prioritas utama. Tujuan utama kami adalah menunjukkan bagaimana teknologi dapat membantu mengurangi tantangan tersebut, bukan menambahinya, dan nilai keseluruhan yang dibawa ke bisnis, karyawan, dan pasien mereka. Upaya ini tidak dapat dilakukan sendiri atau bahkan dalam tim saya, sehingga kolaborasi melintasi unit multidisiplin untuk mengembangkan strategi yang kohesif yang akan menunjukkan nilai tersebut, apakah itu berasal dari memberikan akses pelanggan ke wawasan data yang tidak terkunci atau mengaktifkan proses yang mereka tidak dapat lakukan sebelumnya.

Apa peran kecerdasan buatan dalam masa depan operasi kesehatan terhubung?

Sebagai data terintegrasi menjadi lebih tersedia dengan AI, itu dapat digunakan untuk menghubungkan sistem yang berbeda dan meningkatkan keselamatan dan akurasi di seluruh kontinum perawatan. Konsep operasi kesehatan terhubung ini adalah kategori yang kami fokuskan di RLDatix karena itu membuka kunci data dan wawasan yang dapat ditindaklanjuti untuk pengambil keputusan kesehatan – dan AI adalah integral untuk membuat itu menjadi kenyataan.

Aspek yang tidak dapat dinegosiasikan dari integrasi ini adalah memastikan bahwa penggunaan data adalah aman dan patuh, dan risiko dipahami. Kami adalah pemimpin pasar dalam kebijakan, risiko, dan keselamatan, yang berarti kami memiliki sejumlah besar data untuk melatih LLM dasar dengan lebih akurat dan andal. Untuk mencapai operasi kesehatan terhubung yang sebenarnya, langkah pertama adalah menggabungkan solusi yang berbeda, dan langkah kedua adalah mengekstrak data dan menormalkannya di seluruh solusi tersebut. Rumah sakit akan sangat diuntungkan dari sekumpulan solusi yang terhubung yang dapat menggabungkan set data dan memberikan nilai yang dapat ditindaklanjuti kepada pengguna, bukan memelihara set data terpisah dari solusi titik individual.

Dalam sebuah keynote baru-baru ini, Chief Product Officer Barbara Staruk berbagi tentang bagaimana RLDatix menggunakan kecerdasan buatan generatif dan model bahasa besar untuk mempermudah dan mengotomatisasi pelaporan insiden keselamatan pasien. Apakah Anda bisa menjelaskan bagaimana ini bekerja?

Ini adalah inisiatif yang sangat signifikan untuk RLDatix dan contoh yang baik tentang bagaimana kami memaksimalkan potensi LLM. Ketika rumah sakit dan sistem kesehatan menyelesaikan laporan insiden, ada tiga format standar untuk menentukan tingkat kerusakan yang ditunjukkan dalam laporan: Format Umum Badan Penelitian dan Kualitas Kesehatan, Dewan Koordinasi Nasional untuk Pelaporan Kesalahan Obat dan Pencegahan, dan Klasifikasi Kejadian Keselamatan Kinerja Kesehatan (HPI). Sekarang, kami dapat dengan mudah melatih LLM untuk membaca teks dalam laporan insiden. Jika pasien meninggal, misalnya, LLM dapat dengan mudah mengambil informasi tersebut. Tantangan, bagaimanapun, terletak pada melatih LLM untuk menentukan konteks dan membedakan antara kategori yang lebih kompleks, seperti kerusakan permanen parah, taksonomi yang termasuk dalam Klasifikasi Kejadian Keselamatan HPI, versus kerusakan sementara parah. Jika orang yang melaporkan tidak menyertakan konteks yang cukup, LLM tidak akan dapat menentukan kategori tingkat kerusakan yang tepat untuk insiden keselamatan pasien tersebut.

RLDatix bertujuan untuk mengimplementasikan taksonomi yang lebih sederhana, secara global, di seluruh portofolio kami, dengan kategori yang dapat dengan mudah dibedakan oleh LLM. Dalam waktu, pengguna akan dapat hanya menulis apa yang terjadi dan LLM akan menangani sisanya dengan mengekstrak semua informasi penting dan mengisi formulir insiden sebelumnya. Ini tidak hanya menghemat waktu yang signifikan untuk tenaga kerja yang sudah terlalu berat, tetapi ketika model menjadi lebih maju, kami juga akan dapat mengidentifikasi tren kritis yang akan memungkinkan organisasi kesehatan untuk membuat keputusan yang lebih aman di seluruh papan.

Apakah ada cara lain yang RLDatix telah mulai mengintegrasikan LLM ke dalam operasionalnya?

Cara lain kami menggunakan LLM secara internal adalah untuk mempermudah proses kredensial. Setiap kredensial penyedia memiliki format yang berbeda dan berisi informasi unik. Untuk memahami hal ini, pikirkan bagaimana setiap resume terlihat berbeda – dari font, pengalaman kerja, pendidikan, dan format keseluruhan. Kredensial adalah sama. Di mana penyedia menghadiri kuliah? Apa sertifikatnya? Apa artikel yang dipublikasikan? Setiap profesional kesehatan akan menyediakan informasi tersebut dengan caranya sendiri.

Di RLDatix, LLM memungkinkan kami untuk membaca kredensial tersebut dan mengekstrak semua data ke dalam format standar sehingga mereka yang bekerja di entri data tidak perlu mencari secara ekstensif, memungkinkan mereka untuk menghabiskan lebih sedikit waktu pada komponen administratif dan fokus waktunya pada tugas yang berarti yang menambah nilai.

Keamanan siber selalu menantang, terutama dengan peralihan ke teknologi berbasis awan, apakah Anda bisa membahas beberapa tantangan ini?

Keamanan siber adalah menantang, yang membuatnya penting untuk bekerja dengan mitra yang tepat. Memastikan LLM tetap aman dan patuh adalah pertimbangan yang paling penting ketika menggunakan teknologi ini. Jika organisasi Anda tidak memiliki staf khusus di dalam untuk melakukan ini, itu bisa sangat menantang dan memakan waktu. Ini adalah alasan kami bekerja dengan Amazon Web Services (AWS) pada sebagian besar inisiatif keamanan siber kami. AWS membantu kami memasukkan keamanan dan kepatuhan sebagai prinsip inti dalam teknologi kami sehingga RLDatix dapat fokus pada apa yang kami lakukan dengan baik – yang membangun produk hebat untuk pelanggan kami di semua vertikal kami.

Apakah ada ancaman keamanan baru yang Anda lihat dengan adopsi LLM yang cepat baru-baru ini?

Dari perspektif RLDatix, ada beberapa pertimbangan yang kami kerjakan saat mengembangkan dan melatih LLM. Fokus penting bagi kami adalah mengurangi bias dan ketidakadilan. LLM hanya sebaik data yang mereka latih. Faktor seperti jenis kelamin, ras, dan demografi lainnya dapat memiliki bias bawaan karena dataset itu sendiri bias. Misalnya, pikirkan bagaimana bagian tenggara Amerika Serikat menggunakan kata “y’all” dalam bahasa sehari-hari. Ini adalah bias bahasa unik yang melekat pada populasi pasien tertentu yang peneliti harus pertimbangkan saat melatih LLM untuk mengenali nuansa bahasa dengan akurat dibandingkan dengan wilayah lain. Bias seperti itu harus ditangani dengan skala ketika menggunakan LLM dalam kesehatan, karena melatih model dalam satu populasi pasien tidak berarti model itu akan bekerja di populasi lain.

Mempertahankan keamanan, transparansi, dan akuntabilitas juga merupakan fokus besar bagi organisasi kami, serta mengurangi kesempatan untuk halusinasi dan informasi yang salah. Memastikan bahwa kami secara aktif menangani kekhawatiran privasi, bahwa kami memahami bagaimana model mencapai jawaban tertentu, dan bahwa kami memiliki siklus pengembangan yang aman di tempat adalah komponen penting dari implementasi dan pemeliharaan yang efektif.

Apakah ada algoritma pembelajaran mesin lain yang digunakan di RLDatix?

Menggunakan pembelajaran mesin (ML) untuk mengungkap wawasan penjadwalan kritis telah menjadi studi kasus yang menarik bagi organisasi kami. Di Inggris secara khusus, kami telah mengeksplorasi bagaimana menggunakan ML untuk lebih memahami bagaimana rostering, atau penjadwalan perawat dan dokter, terjadi. RLDatix memiliki akses ke sejumlah besar data penjadwalan dari dekade terakhir, tetapi apa yang bisa kami lakukan dengan semua informasi itu? Itulah di mana ML masuk. Kami menggunakan model ML untuk menganalisis data historis tersebut dan memberikan wawasan tentang bagaimana situasi penjadwalan mungkin terlihat dua minggu dari sekarang, di rumah sakit tertentu atau wilayah tertentu.

Studi kasus tertentu ini adalah model ML yang sangat dapat dicapai, tetapi kami mendorong batas lebih jauh dengan menghubungkannya dengan peristiwa nyata. Misalnya, apa jika kami melihat jadwal sepak bola di daerah tersebut? Kami tahu dari pengalaman bahwa acara olahraga biasanya menyebabkan lebih banyak cedera dan bahwa rumah sakit setempat kemungkinan akan memiliki lebih banyak pasien rawat inap pada hari acara tersebut dibandingkan dengan hari biasa. Kami bekerja dengan AWS dan mitra lain untuk mengeksplorasi apa dataset publik yang dapat kami tanam untuk membuat penjadwalan lebih lancar. Kami sudah memiliki data yang menunjukkan bahwa kami akan melihat peningkatan pasien sekitar acara olahraga besar atau bahkan cuaca buruk, tetapi model ML dapat membawa itu lebih jauh dengan mengambil data tersebut dan mengidentifikasi tren kritis yang akan membantu memastikan rumah sakit memiliki staf yang memadai, pada akhirnya mengurangi beban pada tenaga kerja kami dan membawa industri kami lebih jauh dalam mencapai perawatan yang lebih aman bagi semua.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi RLDatix.