Vivek Desai, Giám đốc công nghệ, Bắc Mỹ tại RLDatix – Loạt phỏng vấn

Vivek Desai là Giám đốc công nghệ của Bắc Mỹ tại RLDatix, một công ty phần mềm và dịch vụ vận hành chăm sóc sức khỏe kết nối. RLDatix đang trên một sứ mệnh thay đổi chăm sóc sức khỏe. Họ giúp các tổ chức thúc đẩy chăm sóc an toàn hơn, hiệu quả hơn bằng cách cung cấp các công cụ quản trị, rủi ro và tuân thủ để thúc đẩy cải thiện và an toàn tổng thể.

Điều gì ban đầu thu hút bạn đến với khoa học máy tính và an ninh mạng?

Tôi bị thu hút bởi sự phức tạp của những gì khoa học máy tính và an ninh mạng đang cố gắng giải quyết – luôn có một thách thức mới nổi lên. Một ví dụ tuyệt vời về điều này là khi đám mây đầu tiên bắt đầu thu hút sự chú ý. Nó giữ nhiều hứa hẹn, nhưng cũng đặt ra một số câu hỏi xung quanh bảo mật workload. Rất rõ ràng từ sớm rằng các phương pháp truyền thống là một giải pháp tạm thời, và các tổ chức trên toàn bộ sẽ cần phải phát triển các quy trình mới để bảo mật hiệu quả workload trên đám mây. Điều hướng các phương pháp mới này là một hành trình rất thú vị đối với tôi và nhiều người khác làm việc trong lĩnh vực này. Đó là một ngành công nghiệp năng động và phát triển, vì vậy mỗi ngày mang lại điều gì đó mới và thú vị.

Có thể bạn chia sẻ một số trách nhiệm hiện tại mà bạn có với tư cách là CTO của RLDatix?

Hiện tại, tôi tập trung vào việc lãnh đạo chiến lược dữ liệu của chúng tôi và tìm cách tạo ra sự tương tác giữa các sản phẩm và dữ liệu mà chúng chứa, để hiểu rõ hơn về xu hướng. Nhiều sản phẩm của chúng tôi chứa các loại dữ liệu tương tự, vì vậy công việc của tôi là tìm cách phá vỡ các silo đó và làm cho nó dễ dàng hơn cho khách hàng của chúng tôi, cả bệnh viện và hệ thống y tế, để truy cập dữ liệu. Với điều này, tôi cũng đang làm việc trên chiến lược trí tuệ nhân tạo (AI) toàn cầu của chúng tôi để thông tin về việc truy cập và sử dụng dữ liệu trên toàn hệ thống.

Giữ cho mình cập nhật về các xu hướng mới nổi trong các ngành công nghiệp khác nhau là một khía cạnh quan trọng khác của vai trò của tôi, để đảm bảo rằng chúng tôi đang đi đúng hướng chiến lược. Tôi hiện đang theo dõi chặt chẽ các mô hình ngôn ngữ lớn (LLM). Với tư cách là một công ty, chúng tôi đang làm việc để tìm cách tích hợp LLM vào công nghệ của chúng tôi, để trao quyền và nâng cao con người, đặc biệt là các nhà cung cấp chăm sóc sức khỏe, giảm tải nhận thức và cho phép họ tập trung vào việc chăm sóc bệnh nhân.

Trong bài đăng trên LinkedIn của bạn có tiêu đề “Suy ngẫm về 1 năm đầu tiên của tôi với tư cách là CTO,” bạn đã viết, “CTO không làm việc một mình. Họ là một phần của một đội.” Bạn có thể giải thích về một số thách thức mà bạn đã đối mặt và cách bạn đã giải quyết việc ủy quyền và làm việc nhóm trên các dự án vốn có tính kỹ thuật thách thức?

Vai trò của một CTO đã thay đổi cơ bản trong thập kỷ qua. Những ngày làm việc trong phòng máy chủ đã qua đi. Bây giờ, công việc nhiều hơn là hợp tác. Cùng nhau, trên các đơn vị kinh doanh, chúng tôi thống nhất về các ưu tiên của tổ chức và biến những khát vọng đó thành các yêu cầu kỹ thuật thúc đẩy chúng tôi tiến về phía trước. Các bệnh viện và hệ thống y tế hiện đang phải đối mặt với nhiều thách thức hàng ngày, từ quản lý lực lượng lao động đến các hạn chế tài chính, và việc áp dụng công nghệ mới có thể không phải lúc nào cũng là ưu tiên hàng đầu. Mục tiêu lớn nhất của chúng tôi là展示 cách công nghệ có thể giúp giảm thiểu những thách thức đó, chứ không phải thêm vào chúng, và giá trị tổng thể mà nó mang lại cho doanh nghiệp, nhân viên và bệnh nhân của họ. Nỗ lực này không thể được thực hiện một mình hoặc thậm chí trong đội của tôi, vì vậy sự hợp tác mở rộng trên các đơn vị đa ngành để phát triển một chiến lược thống nhất sẽ展示 giá trị đó, cho dù đó là cung cấp cho khách hàng quyền truy cập vào các thông tin dữ liệu chưa được mở khóa hay kích hoạt các quy trình mà họ hiện không thể thực hiện.

Vai trò của trí tuệ nhân tạo trong tương lai của các hoạt động chăm sóc sức khỏe kết nối là gì?

Khi dữ liệu tích hợp trở nên có sẵn với AI, nó có thể được sử dụng để kết nối các hệ thống riêng biệt và cải thiện an toàn và chính xác trên toàn bộ quá trình chăm sóc. Khái niệm về các hoạt động chăm sóc sức khỏe kết nối là một danh mục mà chúng tôi tập trung tại RLDatix vì nó mở khóa dữ liệu và thông tin hành động cho các nhà quyết định chăm sóc sức khỏe – và AI là một phần không thể thiếu để biến điều đó thành hiện thực.

Một khía cạnh không thể thương lượng của việc tích hợp này là đảm bảo rằng việc sử dụng dữ liệu là an toàn và tuân thủ, và các rủi ro được hiểu. Chúng tôi là người dẫn đầu thị trường về chính sách, rủi ro và an toàn, điều này có nghĩa là chúng tôi có một lượng lớn dữ liệu để đào tạo các LLM cơ bản với độ chính xác và tin cậy cao hơn. Để đạt được các hoạt động chăm sóc sức khỏe kết nối thực sự, bước đầu tiên là hợp nhất các giải pháp riêng biệt, và bước thứ hai là trích xuất dữ liệu và chuẩn hóa nó trên các giải pháp đó. Các bệnh viện sẽ được hưởng lợi rất nhiều từ một nhóm các giải pháp kết nối có thể kết hợp các tập dữ liệu và cung cấp giá trị hành động cho người dùng, thay vì duy trì các tập dữ liệu riêng biệt từ các giải pháp điểm riêng lẻ.

Trong một bài phát biểu gần đây, Giám đốc sản phẩm Barbara Staruk đã chia sẻ cách RLDatix đang tận dụng AI tạo và các mô hình ngôn ngữ lớn để tự động hóa và tối ưu hóa việc báo cáo sự cố an toàn cho bệnh nhân. Bạn có thể giải thích cách nó hoạt động?

Đây là một sáng kiến rất quan trọng đối với RLDatix và là một ví dụ tuyệt vời về cách chúng tôi đang tối đa hóa tiềm năng của LLM. Khi các bệnh viện và hệ thống y tế hoàn thành các báo cáo sự cố, hiện có ba định dạng tiêu chuẩn để xác định mức độ tổn hại được chỉ định trong báo cáo: Các định dạng chung của Cơ quan Nghiên cứu và Chất lượng Chăm sóc Sức khỏe, Hội đồng Điều phối Quốc gia về Báo cáo Lỗi Thuốc và Phòng ngừa, và Phân loại Sự kiện An toàn của Healthcare Performance Improvement (HPI). Hiện tại, chúng tôi có thể dễ dàng đào tạo một LLM để đọc qua văn bản trong một báo cáo sự cố. Nếu một bệnh nhân qua đời, ví dụ, LLM có thể dễ dàng chọn thông tin đó. Thách thức, tuy nhiên, nằm ở việc đào tạo LLM để xác định ngữ cảnh và phân biệt giữa các danh mục phức tạp hơn, chẳng hạn như tổn hại vĩnh viễn nghiêm trọng, một phân loại được bao gồm trong HPI SEC, ví dụ, so với tổn hại tạm thời nghiêm trọng. Nếu người báo cáo không bao gồm đủ ngữ cảnh, LLM sẽ không thể xác định mức độ tổn hại phù hợp cho sự cố an toàn cho bệnh nhân đó.

RLDatix đang nhằm mục đích thực hiện một phân loại đơn giản hơn, toàn cầu, trên toàn bộ danh mục của chúng tôi, với các danh mục cụ thể có thể dễ dàng phân biệt bởi LLM. Theo thời gian, người dùng sẽ có thể chỉ cần viết những gì đã xảy ra và LLM sẽ xử lý từ đó bằng cách trích xuất tất cả thông tin quan trọng và tiền điền vào các biểu mẫu sự cố. Không chỉ đây là một tiết kiệm thời gian đáng kể cho một lực lượng lao động đã bị căng thẳng, mà khi mô hình trở nên tiên tiến hơn, chúng tôi cũng sẽ có thể xác định các xu hướng quan trọng sẽ cho phép các tổ chức chăm sóc sức khỏe đưa ra quyết định an toàn hơn trên toàn bộ.

Có những cách nào khác mà RLDatix đã bắt đầu tích hợp LLM vào hoạt động của mình?

Một cách khác chúng tôi đang tận dụng LLM là để tối ưu hóa quá trình chứng nhận. Mỗi chứng chỉ của nhà cung cấp được định dạng khác nhau và chứa thông tin duy nhất. Để đặt nó vào перспектив, hãy nghĩ về cách mỗi sơ yếu lý lịch trông khác nhau – từ phông chữ, kinh nghiệm làm việc, giáo dục và định dạng tổng thể. Chứng nhận tương tự. Ở đâu nhà cung cấp đã tham dự đại học? Chứng chỉ của họ là gì? Những bài báo nào họ đã xuất bản? Mỗi chuyên gia y tế sẽ cung cấp thông tin đó theo cách riêng của họ.

Tại RLDatix, LLM cho phép chúng tôi đọc qua các chứng chỉ và trích xuất tất cả dữ liệu đó vào một định dạng tiêu chuẩn để những người làm việc trong nhập dữ liệu không phải tìm kiếm rộng rãi để tìm nó, cho phép họ dành ít thời gian hơn cho thành phần hành chính và tập trung thời gian của họ vào các nhiệm vụ có ý nghĩa mang lại giá trị.

An ninh mạng luôn là một thách thức, đặc biệt là với sự chuyển đổi sang các công nghệ dựa trên đám mây, bạn có thể thảo luận về một số thách thức này?

An ninh mạng là thách thức, đó là lý do tại sao việc làm việc với đúng đối tác là rất quan trọng. Đảm bảo LLM vẫn an toàn và tuân thủ là yếu tố quan trọng nhất khi tận dụng công nghệ này. Nếu tổ chức của bạn không có nhân viên chuyên dụng trong nhà để làm điều này, nó có thể rất thách thức và tốn thời gian. Đó là lý do tại sao chúng tôi làm việc với Amazon Web Services (AWS) trên hầu hết các sáng kiến an ninh mạng của chúng tôi. AWS giúp chúng tôi thiết lập an ninh và tuân thủ như các nguyên tắc cốt lõi trong công nghệ của chúng tôi để RLDatix có thể tập trung vào những gì chúng tôi thực sự làm tốt – đó là xây dựng các sản phẩm tuyệt vời cho khách hàng của chúng tôi trong tất cả các lĩnh vực tương ứng.

Có những mối đe dọa an ninh mới nào mà bạn đã thấy với việc áp dụng nhanh chóng các LLM gần đây?

Từ quan điểm của RLDatix, có một số yếu tố chúng tôi đang làm việc. Một điểm tập trung quan trọng cho chúng tôi là giảm thiểu thiên vị và bất công. LLM chỉ tốt như dữ liệu chúng được đào tạo. Các yếu tố như giới tính, chủng tộc và các dân tộc khác có thể bao gồm nhiều thiên vị vốn có vì tập dữ liệu bản thân bị thiên vị. Ví dụ, hãy nghĩ về cách miền đông nam Hoa Kỳ sử dụng từ “y’all” trong ngôn ngữ hàng ngày. Đây là một thiên vị ngôn ngữ duy nhất vốn có trong một quần thể bệnh nhân cụ thể mà các nhà nghiên cứu phải xem xét khi đào tạo LLM để phân biệt chính xác các sắc thái ngôn ngữ so với các khu vực khác. Những thiên vị như vậy phải được giải quyết ở quy mô khi tận dụng LLM trong chăm sóc sức khỏe, vì đào tạo một mô hình trong một quần thể bệnh nhân không nhất thiết có nghĩa là mô hình đó sẽ hoạt động trong một quần thể khác.

Giữ an ninh, minh bạch và trách nhiệm là những điểm tập trung lớn khác cho tổ chức của chúng tôi, cũng như giảm thiểu mọi cơ hội cho ảo giác và thông tin sai lệch. Đảm bảo rằng chúng tôi đang tích cực giải quyết mọi lo ngại về quyền riêng tư, rằng chúng tôi hiểu làm thế nào một mô hình đạt được một câu trả lời nhất định và rằng chúng tôi có một chu kỳ phát triển an toàn là tất cả các thành phần quan trọng của việc triển khai và bảo trì hiệu quả.

Có những thuật toán học máy nào khác được sử dụng tại RLDatix?

Sử dụng học máy (ML) để khám phá các thông tin lịch trình quan trọng đã là một trường hợp sử dụng thú vị cho tổ chức của chúng tôi. Tại Anh, chúng tôi đã khám phá cách tận dụng ML để hiểu rõ hơn về cách xếp lịch, hoặc lịch trình của các y tá và bác sĩ, xảy ra. RLDatix có quyền truy cập vào một lượng lớn dữ liệu lịch trình từ thập kỷ trước, nhưng chúng tôi có thể làm gì với tất cả thông tin đó? Đó là nơi ML đến. Chúng tôi đang sử dụng một mô hình ML để phân tích dữ liệu lịch sử đó và cung cấp thông tin về cách một tình huống nhân sự có thể trông như thế nào hai tuần từ bây giờ, trong một bệnh viện cụ thể hoặc một khu vực nhất định.

Trường hợp sử dụng cụ thể đó là một mô hình ML rất có thể đạt được, nhưng chúng tôi đang đẩy ranh giới thậm chí còn xa hơn bằng cách kết nối nó với các sự kiện trong thế giới thực. Ví dụ, nếu chúng tôi xem xét lịch thi đấu bóng đá trong khu vực? Chúng tôi biết từ kinh nghiệm rằng các sự kiện thể thao thường dẫn đến nhiều chấn thương hơn và một bệnh viện địa phương có khả năng có nhiều bệnh nhân nội trú hơn vào ngày của một sự kiện so với một ngày thông thường. Chúng tôi đang làm việc với AWS và các đối tác khác để khám phá những tập dữ liệu công khai nào chúng tôi có thể gieo để làm cho lịch trình thậm chí còn suôn sẻ hơn. Chúng tôi đã có dữ liệu cho thấy chúng tôi sẽ thấy sự gia tăng bệnh nhân xung quanh các sự kiện thể thao lớn hoặc thậm chí thời tiết khắc nghiệt, nhưng mô hình ML có thể đưa nó một bước xa hơn bằng cách lấy dữ liệu đó và xác định các xu hướng quan trọng sẽ giúp đảm bảo rằng các bệnh viện được nhân viên đầy đủ, cuối cùng giảm gánh nặng cho lực lượng lao động của chúng tôi và đưa ngành công nghiệp của chúng tôi một bước tiến xa hơn trong việc đạt được chăm sóc an toàn hơn cho tất cả. Thank bạn cho cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập RLDatix.