Vivek Desai, Giám đốc Công nghệ, Bắc Mỹ tại RLDatix – Chuỗi phỏng vấn

Vivek Desai là Giám đốc Công nghệ của Bắc Mỹ tại RLDatix, Một công ty dịch vụ và phần mềm hoạt động chăm sóc sức khỏe được kết nối. RLDatix đang thực hiện sứ mệnh thay đổi hoạt động chăm sóc sức khỏe. Chúng giúp các tổ chức thúc đẩy hoạt động chăm sóc an toàn hơn, hiệu quả hơn bằng cách cung cấp các công cụ quản trị, rủi ro và tuân thủ nhằm thúc đẩy sự cải thiện và an toàn tổng thể.

Điều gì ban đầu thu hút bạn đến với khoa học máy tính và an ninh mạng?

Tôi bị thu hút bởi sự phức tạp mà khoa học máy tính và an ninh mạng đang cố gắng giải quyết – luôn có một thách thức mới nổi cần khám phá. Một ví dụ điển hình về điều này là khi đám mây lần đầu tiên bắt đầu thu hút được sự chú ý. Nó hứa hẹn rất nhiều nhưng cũng đặt ra một số câu hỏi xung quanh vấn đề bảo mật khối lượng công việc. Rõ ràng ngay từ đầu rằng các phương pháp truyền thống chỉ là giải pháp thay thế và các tổ chức sẽ cần phát triển các quy trình mới để đảm bảo khối lượng công việc trên đám mây một cách hiệu quả. Việc khám phá những phương pháp mới này là một hành trình đặc biệt thú vị đối với tôi và rất nhiều người khác đang làm việc trong lĩnh vực này. Đó là một ngành năng động và đang phát triển, vì vậy mỗi ngày đều mang đến những điều mới mẻ và thú vị.

Bạn có thể chia sẻ một số trách nhiệm hiện tại mà bạn có với tư cách là CTO của RLDatix không?  

Hiện tại, tôi đang tập trung vào việc dẫn dắt chiến lược dữ liệu của chúng tôi và tìm cách tạo ra sự phối hợp giữa các sản phẩm của chúng tôi và dữ liệu trong đó để hiểu rõ hơn về xu hướng. Nhiều sản phẩm của chúng tôi chứa các loại dữ liệu tương tự nhau, vì vậy công việc của tôi là tìm cách phá bỏ những ngăn cách đó và giúp khách hàng của chúng tôi, cả bệnh viện và hệ thống y tế, truy cập dữ liệu dễ dàng hơn. Với điều này, tôi cũng đang thực hiện chiến lược trí tuệ nhân tạo (AI) toàn cầu của mình để cung cấp thông tin cho việc truy cập và sử dụng dữ liệu này trên toàn hệ sinh thái.

Luôn cập nhật các xu hướng mới nổi trong các ngành khác nhau là một khía cạnh quan trọng khác trong vai trò của tôi, để đảm bảo chúng tôi đang đi đúng hướng chiến lược. Tôi hiện đang theo dõi chặt chẽ các mô hình ngôn ngữ lớn (LLM). Với tư cách là một công ty, chúng tôi đang nỗ lực tìm cách tích hợp LLM vào công nghệ của mình để trao quyền và nâng cao con người, đặc biệt là các nhà cung cấp dịch vụ chăm sóc sức khỏe, giảm tải nhận thức của họ và cho phép họ tập trung vào việc chăm sóc bệnh nhân.

Trong bài đăng trên blog LinkedIn của bạn có tiêu đề “Suy ngẫm về năm đầu tiên làm CTO của tôi,” bạn viết, “CTO không làm việc một mình. Họ là một phần của một đội.” Bạn có thể giải thích chi tiết hơn về một số thách thức bạn gặp phải và cách bạn giải quyết vấn đề ủy thác và làm việc nhóm trong các dự án vốn có thách thức về mặt kỹ thuật không?

Vai trò của CTO đã thay đổi căn bản trong thập kỷ qua. Đã qua rồi cái thời làm việc trong phòng máy chủ. Bây giờ, công việc mang tính hợp tác hơn nhiều. Cùng nhau, trong các đơn vị kinh doanh, chúng tôi thống nhất các ưu tiên của tổ chức và biến những khát vọng đó thành các yêu cầu kỹ thuật thúc đẩy chúng tôi tiến lên. Các bệnh viện và hệ thống y tế hiện đang phải đối mặt với rất nhiều thách thức hàng ngày, từ quản lý lực lượng lao động đến hạn chế tài chính và việc áp dụng công nghệ mới có thể không phải lúc nào cũng là ưu tiên hàng đầu. Mục tiêu lớn nhất của chúng tôi là giới thiệu cách công nghệ có thể giúp giảm thiểu những thách thức này, thay vì làm tăng thêm chúng và giá trị tổng thể mà nó mang lại cho doanh nghiệp, nhân viên và bệnh nhân của họ nói chung. Nỗ lực này không thể được thực hiện một mình hoặc thậm chí trong nhóm của tôi, do đó, sự hợp tác trải rộng trên các đơn vị đa ngành để phát triển một chiến lược gắn kết nhằm thể hiện giá trị đó, cho dù điều đó bắt nguồn từ việc cấp cho khách hàng quyền truy cập vào thông tin chi tiết về dữ liệu đã được mở khóa hay kích hoạt các quy trình mà họ hiện không thể thực hiện .

Vai trò của trí tuệ nhân tạo trong tương lai của các hoạt động chăm sóc sức khỏe được kết nối là gì?

Khi dữ liệu tích hợp trở nên sẵn có hơn với AI, nó có thể được sử dụng để kết nối các hệ thống khác nhau và cải thiện độ an toàn và độ chính xác trong quá trình chăm sóc liên tục. Khái niệm về hoạt động chăm sóc sức khỏe được kết nối này là một hạng mục mà chúng tôi tập trung vào tại RLDatix vì nó mở khóa dữ liệu hữu ích và thông tin chi tiết cho những người ra quyết định về chăm sóc sức khỏe – và AI là một phần không thể thiếu để biến điều đó thành hiện thực.

Một khía cạnh không thể thương lượng của việc tích hợp này là đảm bảo rằng việc sử dụng dữ liệu được an toàn và tuân thủ, đồng thời hiểu rõ các rủi ro. Chúng tôi là công ty dẫn đầu thị trường về chính sách, rủi ro và an toàn, điều đó có nghĩa là chúng tôi có lượng dữ liệu dồi dào để đào tạo LLM cơ bản với độ chính xác và độ tin cậy cao hơn. Để đạt được các hoạt động chăm sóc sức khỏe được kết nối thực sự, bước đầu tiên là hợp nhất các giải pháp khác nhau và bước thứ hai là trích xuất dữ liệu và chuẩn hóa dữ liệu trên các giải pháp đó. Các bệnh viện sẽ được hưởng lợi rất nhiều từ một nhóm giải pháp được kết nối với nhau có thể kết hợp các tập dữ liệu và cung cấp giá trị hữu ích cho người dùng, thay vì duy trì các tập dữ liệu riêng biệt từ các giải pháp điểm riêng lẻ.

Trong bài phát biểu quan trọng gần đây, Giám đốc Sản phẩm Barbara Staruk đã chia sẻ cách RLDatix đang tận dụng AI tổng quát và các mô hình ngôn ngữ lớn để hợp lý hóa và tự động hóa việc báo cáo sự cố về an toàn bệnh nhân. Bạn có thể giải thích thêm về cách thức hoạt động của nó?

Đây là một sáng kiến ​​thực sự quan trọng đối với RLDatix và là một ví dụ tuyệt vời về cách chúng tôi tối đa hóa tiềm năng của LLM. Khi các bệnh viện và hệ thống y tế hoàn thành các báo cáo sự cố, hiện có ba định dạng tiêu chuẩn để xác định mức độ tác hại được chỉ ra trong báo cáo: Các định dạng chung của Cơ quan Nghiên cứu Y tế và Chất lượng, Hội đồng Điều phối Quốc gia về Báo cáo và Phòng ngừa Sai sót Thuốc và Hiệu quả Chăm sóc Sức khỏe. Cải thiện (HPI) Phân loại sự kiện an toàn (SEC). Hiện tại, chúng ta có thể dễ dàng đào tạo LLM để đọc qua văn bản trong báo cáo sự cố. Ví dụ: nếu một bệnh nhân qua đời, LLM có thể chọn thông tin đó một cách liền mạch. Tuy nhiên, thách thức nằm ở việc đào tạo LLM để xác định bối cảnh và phân biệt giữa các danh mục phức tạp hơn, chẳng hạn như tổn hại vĩnh viễn nghiêm trọng, chẳng hạn như phân loại được đưa vào HPI SEC, với tổn hại tạm thời nghiêm trọng. Nếu người báo cáo không đưa ra đủ ngữ cảnh thì LLM sẽ không thể xác định mức độ tổn hại thuộc loại phù hợp đối với sự cố an toàn bệnh nhân cụ thể đó.

RLDatix đang hướng tới việc triển khai một hệ thống phân loại đơn giản hơn trên toàn cầu trong danh mục đầu tư của chúng tôi, với các danh mục cụ thể mà LLM có thể dễ dàng phân biệt. Theo thời gian, người dùng sẽ có thể chỉ cần viết những gì đã xảy ra và LLM sẽ xử lý nó từ đó bằng cách trích xuất tất cả thông tin quan trọng và điền trước các biểu mẫu sự cố. Đây không chỉ là cách tiết kiệm thời gian đáng kể cho lực lượng lao động vốn đã căng thẳng mà khi mô hình này càng trở nên tiên tiến hơn, chúng tôi còn có thể xác định các xu hướng quan trọng giúp các tổ chức chăm sóc sức khỏe đưa ra quyết định an toàn hơn trên diện rộng.

Một số cách khác mà RLDatix đã bắt đầu kết hợp LLM vào hoạt động của mình là gì?

Một cách khác mà chúng tôi đang tận dụng LLM trong nội bộ là hợp lý hóa quy trình cấp chứng chỉ. Thông tin xác thực của mỗi nhà cung cấp được định dạng khác nhau và chứa thông tin duy nhất. Để dễ hình dung hơn, hãy nghĩ xem sơ yếu lý lịch của mọi người trông khác nhau như thế nào – từ phông chữ, kinh nghiệm làm việc, trình độ học vấn và định dạng tổng thể. Việc xác thực cũng tương tự. Nhà cung cấp đã học đại học ở đâu? Chứng nhận của họ là gì? Họ đã đăng những bài báo nào? Mỗi chuyên gia chăm sóc sức khỏe sẽ cung cấp thông tin đó theo cách riêng của họ.

Tại RLDatix, LLM cho phép chúng tôi đọc qua các thông tin xác thực này và trích xuất tất cả dữ liệu đó thành định dạng chuẩn hóa để những người làm việc trong lĩnh vực nhập dữ liệu không phải tìm kiếm rộng rãi, giúp họ dành ít thời gian hơn cho thành phần quản trị và tập trung thời gian cho những nhiệm vụ có ý nghĩa mang lại giá trị.

An ninh mạng luôn là thách thức, đặc biệt là với việc chuyển đổi sang công nghệ dựa trên đám mây, bạn có thể thảo luận về một số thách thức này không?

An ninh mạng is đầy thách thức, đó là lý do tại sao việc hợp tác với đối tác phù hợp lại quan trọng. Đảm bảo LLM vẫn an toàn và tuân thủ là điều quan trọng nhất cần cân nhắc khi tận dụng công nghệ này. Nếu tổ chức của bạn không có đội ngũ nhân viên tận tâm để thực hiện việc này thì việc này có thể vô cùng khó khăn và tốn thời gian. Đây là lý do tại sao chúng tôi hợp tác với Amazon Web Services (AWS) trên hầu hết các sáng kiến ​​an ninh mạng của mình. AWS giúp chúng tôi áp dụng tính bảo mật và tuân thủ làm nguyên tắc cốt lõi trong công nghệ của mình để RLDatix có thể tập trung vào những gì chúng tôi thực sự làm tốt – tức là xây dựng những sản phẩm tuyệt vời cho khách hàng ở tất cả các ngành dọc tương ứng.

Một số mối đe dọa bảo mật mới mà bạn đã thấy với việc áp dụng LLM nhanh chóng gần đây là gì?

Từ góc độ RLDatix, có một số cân nhắc mà chúng tôi đang cân nhắc khi phát triển và đào tạo LLM. Trọng tâm quan trọng của chúng tôi là giảm thiểu sự thiên vị và bất công. LLM chỉ tốt khi có dữ liệu mà chúng được đào tạo. Các yếu tố như giới tính, chủng tộc và nhân khẩu học khác có thể bao gồm nhiều thành kiến ​​cố hữu vì bản thân tập dữ liệu đã có thành kiến. Ví dụ, hãy nghĩ đến cách miền đông nam Hoa Kỳ sử dụng từ “y'all” trong ngôn ngữ hàng ngày. Đây là khuynh hướng ngôn ngữ đặc biệt vốn có của một nhóm bệnh nhân cụ thể mà các nhà nghiên cứu phải xem xét khi đào tạo LLM để phân biệt chính xác các sắc thái ngôn ngữ so với các khu vực khác. Những loại thành kiến ​​​​này phải được giải quyết trên quy mô lớn khi tận dụng LLMS trong lĩnh vực chăm sóc sức khỏe, vì việc đào tạo một mô hình trong một nhóm bệnh nhân không nhất thiết có nghĩa là mô hình đó sẽ hoạt động ở một nhóm bệnh nhân khác.

Duy trì tính bảo mật, tính minh bạch và trách nhiệm giải trình cũng là những điểm trọng tâm lớn đối với tổ chức của chúng tôi, cũng như giảm thiểu mọi cơ hội gây ra ảo giác và thông tin sai lệch. Việc đảm bảo rằng chúng tôi đang tích cực giải quyết mọi lo ngại về quyền riêng tư, rằng chúng tôi hiểu cách một mô hình đạt được một câu trả lời nhất định và rằng chúng tôi có sẵn một chu trình phát triển an toàn đều là những thành phần quan trọng của việc triển khai và duy trì hiệu quả.

Một số thuật toán học máy khác được sử dụng tại RLDatix là gì?

Sử dụng máy học (ML) để khám phá những hiểu biết quan trọng về lập kế hoạch là một trường hợp sử dụng thú vị đối với tổ chức của chúng tôi. Cụ thể là ở Vương quốc Anh, chúng tôi đang khám phá cách tận dụng ML để hiểu rõ hơn cách thức phân công hoặc lập lịch trình của các y tá và bác sĩ. RLDatix có quyền truy cập vào một lượng lớn dữ liệu lập kế hoạch từ thập kỷ qua, nhưng chúng ta có thể làm gì với tất cả thông tin đó? Đó là lúc ML xuất hiện. Chúng tôi đang sử dụng mô hình ML để phân tích dữ liệu lịch sử đó và cung cấp cái nhìn sâu sắc về tình hình nhân sự có thể trông như thế nào trong hai tuần kể từ bây giờ, tại một bệnh viện cụ thể hoặc một khu vực nhất định.

Trường hợp sử dụng cụ thể đó là một mô hình ML rất khả thi, nhưng chúng tôi đang đẩy mạnh hơn nữa bằng cách kết nối nó với các sự kiện trong đời thực. Ví dụ: điều gì sẽ xảy ra nếu chúng ta xem xét mọi lịch thi đấu bóng đá trong khu vực? Chúng tôi biết trước rằng các sự kiện thể thao thường dẫn đến nhiều chấn thương hơn và bệnh viện địa phương có thể sẽ có nhiều bệnh nhân nội trú hơn vào ngày diễn ra sự kiện so với một ngày thông thường. Chúng tôi đang làm việc với AWS và các đối tác khác để khám phá những tập dữ liệu công khai nào mà chúng tôi có thể tạo ra nhằm giúp việc lập kế hoạch trở nên hợp lý hơn nữa. Chúng tôi đã có dữ liệu cho thấy chúng tôi sẽ thấy sự gia tăng bệnh nhân xung quanh các sự kiện thể thao lớn hoặc thậm chí thời tiết khắc nghiệt, nhưng mô hình ML có thể tiến thêm một bước bằng cách lấy dữ liệu đó và xác định các xu hướng quan trọng sẽ giúp đảm bảo các bệnh viện hoạt động đầy đủ. được bố trí nhân viên, cuối cùng là giảm bớt căng thẳng cho lực lượng lao động của chúng tôi và đưa ngành của chúng tôi tiến thêm một bước nữa trong việc đạt được sự chăm sóc an toàn hơn cho tất cả mọi người.

Cảm ơn bạn về cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm hãy truy cập RLDatix.