Josh Miller, Giám đốc điều hành của Gradient Health – Loạt phỏng vấn

Josh Miller là Giám đốc điều hành của Gradient Health, một công ty được thành lập trên ý tưởng rằng chẩn đoán tự động phải tồn tại để chăm sóc sức khỏe có thể công bằng và доступ được với mọi người. Gradient Health nhằm mục đích tăng tốc chẩn đoán tự động A.I. với dữ liệu được tổ chức, gắn nhãn và có sẵn.

Bạn có thể chia sẻ câu chuyện về sự ra đời của Gradient Health?

Người đồng sáng lập của tôi, Ouwen và tôi vừa rời khỏi công ty khởi nghiệp đầu tiên của chúng tôi, FarmShots, đã sử dụng tầm nhìn máy tính để giúp giảm lượng thuốc trừ sâu sử dụng trong nông nghiệp, và chúng tôi đang tìm kiếm thử thách tiếp theo.

Chúng tôi luôn được thúc đẩy bởi mong muốn tìm ra một vấn đề khó khăn để giải quyết với công nghệ mà a) có cơ hội làm rất nhiều điều tốt đẹp trên thế giới, và b) dẫn đến một doanh nghiệp vững chắc. Ouwen đang làm việc trên bằng y khoa của mình, và với kinh nghiệm của chúng tôi trong tầm nhìn máy tính, hình ảnh y tế là một lựa chọn tự nhiên cho chúng tôi. Vì tác động tàn phá của ung thư vú, chúng tôi đã chọn chụp mammography như một ứng dụng đầu tiên tiềm năng. Vì vậy, chúng tôi nói: “Ok, chúng ta bắt đầu từ đâu? Chúng ta cần dữ liệu. Chúng ta cần một nghìn hình ảnh mammography. Ở đâu có thể có được quy mô dữ liệu như vậy?” và câu trả lời là “Không nơi nào”. Chúng tôi nhận ra ngay lập tức, thật khó để tìm được dữ liệu. Sau nhiều tháng, sự thất vọng này đã trở thành một vấn đề triết học đối với chúng tôi, chúng tôi nghĩ: “Bất kỳ ai đang cố gắng làm điều tốt đẹp trong không gian này không nên phải chiến đấu và đấu tranh để có được dữ liệu họ cần để xây dựng các thuật toán cứu sống”. Và vì vậy, chúng tôi nói: “Hey, có thể đó thực sự là vấn đề mà chúng tôi cần giải quyết”.

Những rủi ro hiện tại trong thị trường với dữ liệu không đại diện là gì?

Từ vô số nghiên cứu và ví dụ thực tế, chúng tôi biết rằng nếu chúng tôi xây dựng một thuật toán, sử dụng chỉ dữ liệu từ bờ tây, và bạn mang nó đến đông nam, nó sẽ không hoạt động. Lần lượt, chúng tôi nghe thấy những câu chuyện về A.I. hoạt động tuyệt vời trong bệnh viện đông bắc mà nó được tạo ra, và sau đó khi họ triển khai nó ở nơi khác, độ chính xác giảm xuống dưới 50%.

Tôi tin rằng mục đích cơ bản của A.I., trên mức độ đạo đức, là nó nên giảm thiểu sự chênh lệch về sức khỏe. Mục tiêu là làm cho chăm sóc chất lượng trở nên phải chăng và có thể tiếp cận được với mọi người. Nhưng vấn đề là khi bạn có nó được xây dựng trên dữ liệu kém, bạn thực sự tăng sự chênh lệch. Chúng tôi đang thất bại trong nhiệm vụ của A.I. chăm sóc sức khỏe nếu chúng tôi để nó chỉ hoạt động cho những người đàn ông da trắng từ bờ biển. Những người từ các nền tảng dưới đại diện sẽ thực sự phải chịu đựng sự phân biệt đối xử nhiều hơn như một kết quả, không ít hơn.

Bạn có thể thảo luận về cách Gradient Health thu thập dữ liệu?

Tất nhiên, chúng tôi hợp tác với tất cả các loại hệ thống y tế trên toàn thế giới mà dữ liệu của họ được lưu trữ cách khác, tốn tiền, và không mang lại lợi ích cho bất kỳ ai. Chúng tôi loại bỏ danh tính của dữ liệu tại nguồn và sau đó chúng tôi tổ chức nó cẩn thận cho các nhà nghiên cứu.

Làm thế nào Gradient Health đảm bảo rằng dữ liệu là không thiên vị và đa dạng nhất có thể?

Có nhiều cách. Ví dụ, khi chúng tôi thu thập dữ liệu, chúng tôi đảm bảo rằng chúng tôi bao gồm nhiều phòng khám cộng đồng, nơi bạn thường có dữ liệu đại diện hơn, cũng như các bệnh viện lớn. Chúng tôi cũng thu thập dữ liệu từ một số lượng lớn các trang web lâm sàng. Chúng tôi cố gắng có được càng nhiều trang web càng tốt từ càng nhiều dân số càng tốt. Vì vậy, không chỉ có số lượng trang web cao, mà còn có sự đa dạng về mặt địa lý và kinh tế – xã hội. Bởi vì nếu tất cả các trang web của bạn đều từ các bệnh viện trung tâm thành phố, thì đó vẫn không phải là dữ liệu đại diện, đúng không?

Để xác nhận tất cả những điều này, chúng tôi chạy thống kê trên tất cả các tập dữ liệu này, và chúng tôi tùy chỉnh nó cho khách hàng, để đảm bảo rằng họ nhận được dữ liệu đa dạng về mặt công nghệ và dân số.

Tại sao mức độ kiểm soát dữ liệu này lại quan trọng để thiết kế các thuật toán A.I. mạnh mẽ?

Có nhiều biến số mà một A.I. có thể gặp phải trong thế giới thực, và mục tiêu của chúng tôi là đảm bảo rằng thuật toán là mạnh mẽ nhất có thể. Để đơn giản hóa, chúng tôi nghĩ về năm biến số chính trong dữ liệu của chúng tôi. Biến số đầu tiên chúng tôi nghĩ về là “nhà sản xuất thiết bị”. Điều này rõ ràng, nhưng nếu bạn xây dựng một thuật toán chỉ sử dụng dữ liệu từ máy quét của GE, nó sẽ không hoạt động tốt trên máy quét của Hitachi.

Theo cùng một hướng là biến số “mẫu thiết bị”. Điều này thực sự thú vị từ góc độ bất bình đẳng về sức khỏe. Chúng tôi biết rằng các bệnh viện nghiên cứu lớn và được tài trợ tốt có xu hướng có các phiên bản mới nhất và tốt nhất của máy quét. Và, nếu họ chỉ đào tạo A.I. của mình trên các mô hình năm 2022 của họ, nó sẽ không hoạt động tốt trên một mô hình cũ hơn năm 2010. Những hệ thống cũ hơn này chính xác là những hệ thống được tìm thấy ở các khu vực ít được tài trợ và nông thôn. Vì vậy, bằng cách chỉ sử dụng dữ liệu từ các mô hình mới hơn, họ vô tình giới thiệu thêm sự thiên vị chống lại những người từ các cộng đồng này.

Các biến số quan trọng khác là giới tính, chủng tộc và tuổi tác, và chúng tôi đi đến rất nhiều lengths để đảm bảo rằng dữ liệu của chúng tôi được cân bằng theo tỷ lệ trên tất cả các biến số này.

Những rào cản pháp lý mà các công ty MedTech phải đối mặt là gì?

Chúng tôi đang bắt đầu thấy FDA thực sự điều tra sự thiên vị trong các tập dữ liệu. Chúng tôi đã có các nhà nghiên cứu đến và nói với chúng tôi: “FDA đã từ chối thuật toán của chúng tôi vì nó thiếu một dân số 15% người Mỹ gốc Phi” (khoảng tỷ lệ người Mỹ gốc Phi trong dân số Hoa Kỳ). Chúng tôi cũng đã nghe về một nhà phát triển được thông báo rằng họ cần phải bao gồm 1% người Hawaii Thái Bình Dương trong dữ liệu đào tạo của họ.

Vì vậy, FDA đang bắt đầu nhận ra rằng những thuật toán này, được đào tạo chỉ tại một bệnh viện, không hoạt động trong thế giới thực. Thực tế là, nếu bạn muốn có dấu CE và FDA, bạn phải đến với một tập dữ liệu đại diện cho dân số. Điều này, đúng, không còn được chấp nhận nếu bạn đào tạo một A.I. trên một nhóm nhỏ hoặc không đại diện.

Rủi ro đối với MedTech là họ đầu tư hàng triệu đô la để đưa công nghệ của họ đến một nơi mà họ nghĩ họ đã sẵn sàng cho sự chấp thuận của quy định, và sau đó nếu họ không thể đưa nó qua, họ sẽ không bao giờ nhận được bồi thường hoặc doanh thu. Cuối cùng, con đường đến thương mại hóa và con đường đến việc có tác động có lợi cho chăm sóc sức khỏe mà họ muốn có đòi hỏi họ phải quan tâm đến sự thiên vị của dữ liệu.

Những lựa chọn để vượt qua những rào cản này từ góc độ dữ liệu là gì?

Trong những năm gần đây, các phương pháp quản lý dữ liệu đã phát triển, và các nhà phát triển A.I. hiện có nhiều lựa chọn hơn bao giờ hết. Từ các trung gian dữ liệu và đối tác đến học tập phân tán và dữ liệu tổng hợp, có những cách tiếp cận mới đối với những rào cản này. Bất kể phương pháp nào họ chọn, chúng tôi luôn khuyến khích các nhà phát triển xem xét liệu dữ liệu của họ có thực sự đại diện cho dân số sẽ sử dụng sản phẩm hay không. Đây là khía cạnh khó khăn nhất của việc thu thập dữ liệu.

Giải pháp mà Gradient Health cung cấp là Gradient Label, giải pháp này là gì và làm thế nào nó cho phép gắn nhãn dữ liệu trên quy mô lớn?

A.I. hình ảnh y tế không chỉ yêu cầu dữ liệu, mà còn yêu cầu các chú thích của chuyên gia. Và chúng tôi giúp các công ty có được những chú thích của chuyên gia, bao gồm cả từ các bác sĩ X quang.

Tầm nhìn của bạn cho tương lai của A.I. và dữ liệu trong chăm sóc sức khỏe là gì?

Đã có hàng nghìn công cụ A.I. đang xem xét mọi thứ từ ngón tay đến ngón chân, và tôi nghĩ điều này sẽ tiếp tục. Tôi nghĩ sẽ có ít nhất 10 thuật toán cho mỗi tình trạng trong một cuốn sách y khoa. Mỗi thuật toán sẽ có nhiều công cụ cạnh tranh để giúp các bác sĩ cung cấp chăm sóc tốt nhất.

Tôi không nghĩ chúng ta sẽ thấy một thiết bị Tricorder kiểu Star Trek quét một người và giải quyết mọi vấn đề có thể từ đầu đến chân. Thay vào đó, chúng ta sẽ có các ứng dụng chuyên gia cho mỗi tập hợp con.

Có điều gì khác bạn muốn chia sẻ về Gradient Health?

Tôi rất hào hứng về tương lai. Tôi nghĩ chúng ta đang di chuyển đến một nơi mà chăm sóc sức khỏe sẽ rẻ, công bằng và có thể tiếp cận được với tất cả, và tôi rất muốn Gradient có cơ hội đóng vai trò cơ bản trong việc thực hiện điều này. Toàn bộ đội ngũ ở đây thực sự tin vào sứ mệnh này, và có một niềm đam mê thống nhất trên toàn đội mà bạn không tìm thấy ở mọi công ty. Và tôi yêu thích điều đó!

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm có thể truy cập Gradient Health.