Ittai Dayan, MD, Đồng sáng lập & Giám đốc điều hành của Rhino Health – Loạt phỏng vấn

Ittai Dayan, MD là đồng sáng lập và Giám đốc điều hành của Rhino Health. Ông có nền tảng về phát triển trí tuệ nhân tạo và chẩn đoán, cũng như y học lâm sàng và nghiên cứu. Ông từng là thành viên cốt lõi của bộ phận chăm sóc sức khỏe của BCG và giám đốc bệnh viện. Hiện tại, ông tập trung vào việc đóng góp cho sự phát triển của Trí tuệ nhân tạo an toàn, công bằng và có tác động trong ngành chăm sóc sức khỏe và khoa học đời sống. Tại Rhino Health, họ đang sử dụng tính toán phân tán và Học tập Liên bang như một phương tiện để duy trì quyền riêng tư của bệnh nhân và thúc đẩy hợp tác trên toàn cảnh quan chăm sóc sức khỏe phân mảnh.

Ông từng phục vụ trong Lực lượng Đặc nhiệm IDF, lãnh đạo Trung tâm Trí tuệ nhân tạo Dịch thuật Học thuật lớn nhất thế giới. Ông là chuyên gia về phát triển và thương mại hóa Trí tuệ nhân tạo, và là một vận động viên chạy đường dài.

Bạn có thể chia sẻ câu chuyện về sự ra đời của Rhino Health?

Chuyến đi của tôi vào Trí tuệ nhân tạo bắt đầu khi tôi là một nhà lâm sàng và nhà nghiên cứu, sử dụng một dạng sớm của ‘dấu ấn sinh học số’ để đo lường phản ứng điều trị trong các rối loạn tâm thần. Sau đó, tôi đã lãnh đạo Trung tâm Khoa học Dữ liệu Lâm sàng (CCDS) tại Mass General Brigham. Tại đó, tôi đã giám sát việc phát triển hàng chục ứng dụng Trí tuệ nhân tạo lâm sàng, và chứng kiến tận mắt những thách thức cơ bản liên quan đến việc truy cập và ‘kích hoạt’ dữ liệu cần thiết để phát triển và đào tạo sản phẩm Trí tuệ nhân tạo đạt tiêu chuẩn quy định.

Mặc dù có nhiều tiến bộ trong Trí tuệ nhân tạo chăm sóc sức khỏe, con đường từ phát triển đến ra mắt sản phẩm trên thị trường là dài và thường khó khăn. Các giải pháp bị sập (hoặc chỉ thất vọng) khi được triển khai lâm sàng, và việc hỗ trợ toàn bộ vòng đời Trí tuệ nhân tạo gần như không thể nếu không có quyền truy cập liên tục vào một lượng lớn dữ liệu lâm sàng. Thách thức đã chuyển từ tạo ra mô hình, sang duy trì chúng. Để trả lời thách thức này, tôi đã thuyết phục hệ thống Mass General Brigham về giá trị của việc có ‘Tổ chức Nghiên cứu Lâm sàng chuyên dụng cho Trí tuệ nhân tạo’ (CRO = Tổ chức Nghiên cứu Lâm sàng), để kiểm tra các thuật toán từ nhiều nhà phát triển thương mại.

Tuy nhiên, vấn đề vẫn còn – dữ liệu chăm sóc sức khỏe vẫn rất bị phân mảnh, và thậm chí một lượng lớn dữ liệu từ một mạng không đủ để chống lại các mục tiêu hẹp của Trí tuệ nhân tạo y tế. Vào mùa hè năm 2020, tôi đã khởi xướng và lãnh đạo (cùng với Dr. Mona Flores từ NVIDIA (NVDA )), nghiên cứu Học tập Liên bang (FL) lớn nhất thế giới về chăm sóc sức khỏe tại thời điểm đó, EXAM. Chúng tôi đã sử dụng FL để tạo ra một mô hình dự đoán kết quả COVID, tận dụng dữ liệu từ khắp thế giới, mà không chia sẻ bất kỳ dữ liệu nào.. Sau đó được xuất bản trên Nature Medicine, nghiên cứu này đã chứng minh tác động tích cực của việc tận dụng các tập dữ liệu đa dạng và khác biệt, và nhấn mạnh tiềm năng cho việc sử dụng rộng rãi hơn Học tập Liên bang trong chăm sóc sức khỏe.

Trải nghiệm này, tuy nhiên, đã làm rõ một số thách thức. Những thách thức này bao gồm việc điều phối dữ liệu trên các trang web hợp tác, đảm bảo tính khả dụng của dữ liệu và đặc trưng hóa đúng, cũng như gánh nặng đặt lên các bộ phận CNTT từ mỗi tổ chức, những người phải học các công nghệ tiên tiến mà họ không quen thuộc. Điều này đòi hỏi một nền tảng mới sẽ hỗ trợ các ‘hợp tác dữ liệu phân tán’ mới này. Tôi đã quyết định hợp tác với người đồng sáng lập của tôi, Yuval Baror, để tạo ra một nền tảng từ đầu đến cuối cho việc hỗ trợ hợp tác bảo vệ quyền riêng tư. Nền tảng đó là ‘Nền tảng Rhino Health’, tận dụng FL và tính toán biên.

Bạn tin rằng tại sao các mô hình Trí tuệ nhân tạo thường không mang lại kết quả như mong đợi trong môi trường chăm sóc sức khỏe?

Trí tuệ nhân tạo y tế thường được đào tạo trên các tập dữ liệu nhỏ, hẹp, chẳng hạn như dữ liệu từ một tổ chức hoặc khu vực địa lý duy nhất, dẫn đến mô hình chỉ hoạt động tốt trên loại dữ liệu mà nó đã thấy. Khi thuật toán được áp dụng cho bệnh nhân hoặc tình huống khác với tập dữ liệu đào tạo hẹp, hiệu suất bị ảnh hưởng nghiêm trọng.

Andrew Ng đã nắm bắt được khái niệm này khi ông tuyên bố, “Thực tế là khi chúng tôi thu thập dữ liệu từ Bệnh viện Stanford… chúng tôi có thể xuất bản các bài báo cho thấy [các thuật toán] tương đương với các bác sĩ X quang trong việc phát hiện các tình trạng nhất định. … [Khi] bạn đưa mô hình đó, hệ thống Trí tuệ nhân tạo đó, đến một bệnh viện cũ hơn trên đường, với một máy cũ hơn, và kỹ thuật viên sử dụng một giao thức hình ảnh slightly khác, dữ liệu trôi đi để làm giảm hiệu suất của hệ thống Trí tuệ nhân tạo đáng kể.”³

Đơn giản nói, hầu hết các mô hình Trí tuệ nhân tạo không được đào tạo trên dữ liệu đủ đa dạng và chất lượng cao, dẫn đến hiệu suất ‘thế giới thực’ kém. Vấn đề này đã được ghi lại trong cả các vòng tròn khoa học và chủ đạo, chẳng hạn như trong Science và Politico.

Làm thế nào quan trọng để kiểm tra trên các nhóm bệnh nhân đa dạng?

Việc kiểm tra trên các nhóm bệnh nhân đa dạng là rất quan trọng để đảm bảo rằng sản phẩm Trí tuệ nhân tạo cuối cùng không chỉ hiệu quả và hoạt động tốt, mà còn an toàn. Các thuật toán không được đào tạo hoặc kiểm tra trên các nhóm bệnh nhân đủ đa dạng có thể gặp phải sự thiên vị thuật toán, một vấn đề nghiêm trọng trong chăm sóc sức khỏe và công nghệ chăm sóc sức khỏe. Không chỉ các thuật toán như vậy sẽ phản ánh sự thiên vị có trong dữ liệu đào tạo, mà còn làm trầm trọng thêm sự thiên vị đó và làm tăng các bất bình đẳng về chủng tộc, dân tộc, tôn giáo, giới tính, v.v. trong chăm sóc sức khỏe. Việc không kiểm tra trên các nhóm bệnh nhân đa dạng có thể dẫn đến sản phẩm nguy hiểm.

Một nghiên cứu gần đây⁵, tận dụng Nền tảng Rhino Health, đã điều tra hiệu suất của một thuật toán Trí tuệ nhân tạo phát hiện phình động mạch não được phát triển tại một trang web trên bốn trang web khác nhau với các loại máy quét khác nhau. Kết quả cho thấy sự biến đổi hiệu suất đáng kể trên các trang web với các loại máy quét khác nhau, nhấn mạnh tầm quan trọng của việc đào tạo và kiểm tra trên các tập dữ liệu đa dạng.

Bạn có thể mô tả Học tập Liên bang là gì và làm thế nào nó giải quyết một số vấn đề này?

Học tập Liên bang (FL) có thể được định nghĩa rộng là quá trình trong đó các mô hình Trí tuệ nhân tạo được đào tạo và tiếp tục cải thiện theo thời gian, sử dụng dữ liệu khác biệt, mà không cần chia sẻ hoặc tập trung dữ liệu. Đây là một bước tiến lớn trong phát triển Trí tuệ nhân tạo. Lịch sử, bất kỳ người dùng nào muốn hợp tác với nhiều trang web phải tập hợp dữ liệu đó lại với nhau, gây ra một loạt các vấn đề pháp lý, rủi ro và tuân thủ tốn kém và tốn thời gian.

Hôm nay, với phần mềm như Nền tảng Rhino Health, FL đang trở thành một thực tế hàng ngày trong chăm sóc sức khỏe và khoa học đời sống. Học tập Liên bang cho phép người dùng khám phá, thu thập và xác thực dữ liệu trong khi dữ liệu vẫn còn trên máy chủ địa phương của các cộng tác viên. Mã chứa, chẳng hạn như một thuật toán Trí tuệ nhân tạo / Học máy hoặc một ứng dụng phân tích, được gửi đến máy chủ địa phương nơi mã đó được thực hiện ‘địa phương’. Dữ liệu do đó vẫn với ‘người giám sát dữ liệu’ mọi lúc.

Bạn có thể chia sẻ tầm nhìn của Rhino Health về việc cho phép tạo mô hình nhanh chóng bằng cách sử dụng dữ liệu đa dạng hơn?

Chúng tôi hình dung một hệ sinh thái của các nhà phát triển và người dùng Trí tuệ nhân tạo, hợp tác mà không sợ hãi hoặc hạn chế, trong khi tôn trọng các ranh giới của quy định.. Các cộng tác viên có thể nhanh chóng xác định dữ liệu đào tạo và kiểm tra cần thiết từ khắp các khu vực địa lý, truy cập và tương tác với dữ liệu đó, và lặp lại việc phát triển mô hình để đảm bảo tính tổng quát, hiệu suất và an toàn.

Ở trung tâm của điều này là Nền tảng Rhino Health, cung cấp một ‘cửa hàng một điểm dừng’ cho các nhà phát triển Trí tuệ nhân tạo để xây dựng các tập dữ liệu lớn và đa dạng, đào tạo và xác thực các thuật toán Trí tuệ nhân tạo, và liên tục theo dõi và duy trì các sản phẩm Trí tuệ nhân tạo đã triển khai.

Bạn có thể mô tả cách Nền tảng Rhino Health ngăn chặn sự thiên vị Trí tuệ nhân tạo và cung cấp khả năng giải thích Trí tuệ nhân tạo?

Bằng cách mở khóa và tối ưu hóa các hợp tác dữ liệu, các nhà phát triển Trí tuệ nhân tạo có thể tận dụng các tập dữ liệu lớn hơn và đa dạng hơn trong việc đào tạo và kiểm tra các ứng dụng của họ. Kết quả của các tập dữ liệu mạnh mẽ hơn là một sản phẩm tổng quát hơn không bị ảnh hưởng bởi sự thiên vị của một tổ chức hoặc tập dữ liệu hẹp. Để hỗ trợ khả năng giải thích Trí tuệ nhân tạo, nền tảng của chúng tôi cung cấp một cái nhìn rõ ràng vào dữ liệu được sử dụng trong suốt quá trình phát triển, với khả năng phân tích nguồn gốc dữ liệu, phân phối giá trị và các chỉ số quan trọng khác để đảm bảo đa dạng và chất lượng dữ liệu.

Bạn phản hồi như thế nào với các bác sĩ lo lắng rằng việc phụ thuộc quá nhiều vào Trí tuệ nhân tạo có thể dẫn đến kết quả thiên vị không được xác thực độc lập?

Chúng tôi đồng cảm với mối quan ngại này và nhận ra rằng một số ứng dụng trên thị trường hiện nay có thể thực sự bị thiên vị. Câu trả lời của chúng tôi là chúng tôi phải cùng nhau như một ngành, như một cộng đồng chăm sóc sức khỏe trước hết quan tâm đến an toàn cho bệnh nhân, để định nghĩa các chính sách và thủ tục để ngăn chặn những thiên vị như vậy và đảm bảo các ứng dụng Trí tuệ nhân tạo an toàn và hiệu quả. Các nhà phát triển Trí tuệ nhân tạo có trách nhiệm đảm bảo rằng các sản phẩm Trí tuệ nhân tạo của họ được xác thực độc lập để đạt được sự tin tưởng của cả chuyên gia chăm sóc sức khỏe và bệnh nhân. Rhino Health cam kết hỗ trợ các sản phẩm Trí tuệ nhân tạo an toàn và đáng tin cậy, và đang làm việc với các đối tác để cho phép và tối ưu hóa việc xác thực độc lập các ứng dụng Trí tuệ nhân tạo trước khi triển khai trong các môi trường lâm sàng bằng cách mở khóa các rào cản đối với dữ liệu xác thực cần thiết.

Tầm nhìn của bạn cho tương lai của Trí tuệ nhân tạo trong chăm sóc sức khỏe là gì?

Tầm nhìn của Rhino Health là một thế giới nơi Trí tuệ nhân tạo đã đạt được tiềm năng đầy đủ trong chăm sóc sức khỏe. Chúng tôi đang nỗ lực không ngừng để tạo ra sự minh bạch và thúc đẩy hợp tác bằng cách khẳng định quyền riêng tư để cho phép thế giới này. Chúng tôi hình dung một chăm sóc sức khỏe Trí tuệ nhân tạo không bị giới hạn bởi tường lửa, địa lý hoặc hạn chế quy định. Các nhà phát triển Trí tuệ nhân tạo sẽ có quyền truy cập được kiểm soát vào tất cả dữ liệu họ cần để xây dựng các mô hình tổng quát và mạnh mẽ – và để theo dõi và cải thiện liên tục với dòng dữ liệu trong thời gian thực. Các nhà cung cấp và bệnh nhân sẽ có sự tự tin khi biết rằng họ không mất quyền kiểm soát dữ liệu của mình và có thể đảm bảo rằng nó được sử dụng vì lợi ích chung. Các tổ chức quản lý sẽ có thể theo dõi hiệu quả của các mô hình được sử dụng trong phát triển dược phẩm và thiết bị trong thời gian thực. Các tổ chức y tế công cộng sẽ được hưởng lợi từ những tiến bộ trong Trí tuệ nhân tạo trong khi bệnh nhân và nhà cung cấp yên tâm khi biết rằng quyền riêng tư được bảo vệ.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm có thể truy cập Rhino Health.