Ittai Dayan, MD, Rhino Health-ის თანადამფუძნებელი და აღმასრულებელი დირექტორი - ინტერვიუს სერია

Ittai Dayan, MD არის თანადამფუძნებელი და აღმასრულებელი დირექტორი მარტორქის ჯანმრთელობა. მისი გამოცდილება არის ხელოვნური ინტელექტისა და დიაგნოსტიკის განვითარება, ასევე კლინიკური მედიცინა და კვლევა. ის არის BCG-ის ჯანდაცვის პრაქტიკის ყოფილი ძირითადი წევრი და საავადმყოფოს აღმასრულებელი. ის ამჟამად ორიენტირებულია ჯანდაცვისა და სიცოცხლის მეცნიერებების ინდუსტრიაში უსაფრთხო, სამართლიანი და გავლენიანი ხელოვნური ინტელექტის განვითარებაზე წვლილის შეტანაზე. Rhino Health-ში, ისინი იყენებენ განაწილებულ გამოთვლებს და ფედერაციულ სწავლებას, როგორც საშუალება პაციენტების კონფიდენციალურობის შესანარჩუნებლად და თანამშრომლობის ხელშეწყობისთვის ფრაგმენტულ ჯანდაცვის ლანდშაფტში.

ის მსახურობდა IDF-ს სპეცრაზმში, ხელმძღვანელობდა მსოფლიოში ყველაზე დიდ აკადემიურ-სამედიცინო-ცენტრზე დაფუძნებულ მთარგმნელობითი ხელოვნური ხელოვნური ცენტრს. ის არის ხელოვნური ინტელექტის განვითარებისა და კომერციალიზაციის ექსპერტი და გრძელ დისტანციებზე მორბენალი.

შეგიძლიათ გაგიზიაროთ Rhino Health-ის წარმოშობის ისტორია?

ჩემი მოგზაურობა AI-ში დაიწყო, როდესაც მე ვიყავი კლინიცისტი და მკვლევარი, ვიყენებდი "ციფრული ბიომარკერის" ადრეულ ფორმას ფსიქიკური აშლილობების მკურნალობაზე პასუხის გასაზომად. მოგვიანებით, მე გავაგრძელე ხელმძღვანელობა კლინიკური მონაცემების მეცნიერების ცენტრს (CCDS) Mass General Brigham-ში. იქ მე თვალყურს ვადევნებდი ათობით კლინიკური ხელოვნური ინტელექტის აპლიკაციის განვითარებას და უშუალოდ შევესწარი იმ გამოწვევებს, რომლებიც დაკავშირებულია წვდომასთან და „გააქტიურებასთან“ დაკავშირებული მონაცემებისთვის, რომლებიც აუცილებელია მარეგულირებელი ხარისხის ხელოვნური ინტელექტის პროდუქტების შემუშავებისა და მომზადებისთვის.

ჯანდაცვის ხელოვნური ინტელექტის სფეროში მრავალი წინსვლის მიუხედავად, გზა განვითარებადან ბაზარზე პროდუქტის გამოშვებამდე გრძელი და ხშირად უხეშია. გადაწყვეტილებები იშლება (ან უბრალოდ იმედგაცრუებულია) კლინიკურად გამოყენების შემდეგ და ხელოვნური ინტელექტის სრული სასიცოცხლო ციკლის მხარდაჭერა თითქმის შეუძლებელია კლინიკურ მონაცემებზე მუდმივი წვდომის გარეშე. გამოწვევა გადავიდა შექმნის მოდელები, რათა შენარჩუნების მათ. ამ გამოწვევაზე პასუხის გასაცემად, მე დავარწმუნე Mass General Brigham სისტემა, რომ აქვს საკუთარი 'სპეციალიზებული CRO AI-სთვის' (CRO = კლინიკური კვლევის ორგანიზაცია), რათა გამოეცადა ალგორითმები მრავალი კომერციული დეველოპერისგან.

თუმცა, პრობლემა რჩებოდა – ჯანმრთელობის მონაცემები ჯერ კიდევ ძალზედ არის მოცული და ერთი ქსელის მონაცემებიც კი არ არის საკმარისი სამედიცინო ხელოვნური ხელოვნური ინტელექტის სულ უფრო ვიწრო მიზნებთან საბრძოლველად. 2020 წლის ზაფხულში, მე წამოვიწყე და გავუძღვე (D. Mona Flores-თან ერთად NVIDIA-დან), მსოფლიოში ყველაზე დიდი ჯანდაცვის ფედერალური სწავლების (FL) კვლევა იმ დროისთვის, EXAM. ჩვენ გამოვიყენეთ FL, რათა შეგვექმნა COVID-ის შედეგების პროგნოზირებადი მოდელი, გამოვიყენეთ მონაცემები მთელი მსოფლიოდან, ყოველგვარი მონაცემების გაზიარების გარეშე.. შემდგომში გამოქვეყნდა ბუნება მედიცინის, ამ კვლევამ აჩვენა მრავალფეროვანი და განსხვავებული მონაცემთა ნაკრების გამოყენების დადებითი გავლენა და ხაზი გაუსვა ჯანდაცვის სფეროში ფედერირებული სწავლების უფრო ფართო გამოყენების პოტენციალს.

თუმცა, ამ გამოცდილებამ გამოავლინა მთელი რიგი გამოწვევები. ეს მოიცავდა მონაცემთა ორკესტრირებას კოლაბორაციულ საიტებზე, მონაცემთა მიკვლევადობისა და სათანადო დახასიათების უზრუნველყოფას, ისევე როგორც ტვირთს, რომელიც ეკისრებოდა თითოეული დაწესებულების IT განყოფილებებს, რომლებსაც უნდა ესწავლათ უახლესი ტექნოლოგიები, რომლებსაც არ იყო მიჩვეული. ამან მოითხოვა ახალი პლატფორმის შექმნა, რომელიც მხარს დაუჭერდა ამ რომანის "განაწილებული მონაცემების" თანამშრომლობას. გადავწყვიტე, გავერთიანდე ჩემს თანადამფუძნებელთან, იუვალ ბარორთან, რათა შევქმნა პლატფორმა კონფიდენციალურობის დასაცავად თანამშრომლობის მხარდასაჭერად. ეს პლატფორმა არის "Rhino Health Platform", რომელიც იყენებს FL და edge-compute-ს.

რატომ გჯერათ, რომ ხელოვნური ინტელექტის მოდელები ხშირად ვერ აძლევენ მოსალოდნელ შედეგებს ჯანდაცვის გარემოში?

სამედიცინო AI ხშირად ივარჯიშება მცირე, ვიწრო მონაცემთა ნაკრებებზე, როგორიცაა მონაცემთა ნაკრები ერთი დაწესებულებიდან ან გეოგრაფიული რეგიონიდან, რაც განაპირობებს იმას, რომ შედეგად მიღებული მოდელი კარგად მუშაობს მხოლოდ იმ ტიპის მონაცემებზე, რომლებიც მან ნახა. მას შემდეგ, რაც ალგორითმი გამოიყენება პაციენტებზე ან სცენარებზე, რომლებიც განსხვავდებიან ვიწრო ტრენინგის მონაცემთა ნაკრებისგან, ეფექტურობაზე ძლიერ გავლენას მოახდენს.

ენდრიუ ნგმა კარგად გაიაზრა ეს ცნება, როდესაც თქვა: „როდესაც ჩვენ ვაგროვებთ მონაცემებს სტენფორდის საავადმყოფოდან... ჩვენ შეგვიძლია გამოვაქვეყნოთ ნაშრომები, რომლებიც აჩვენებენ, რომ [ალგორითმები] შედარებულია ადამიანის რადიოლოგებთან გარკვეული პირობების გამოვლენაში. … [როდესაც] იმავე მოდელს, იგივე ხელოვნური ინტელექტის სისტემას მიიყვანთ ძველ საავადმყოფოში, ქუჩაში, ძველი აპარატით, და ტექნიკოსი იყენებს ოდნავ განსხვავებულ გამოსახულების პროტოკოლს, ეს მონაცემები მოძრაობს და იწვევს ხელოვნური ინტელექტის სისტემის მუშაობის დეგრადაციას. მნიშვნელოვნად.”³

მარტივად რომ ვთქვათ, ხელოვნური ინტელექტის მოდელების უმეტესობა არ არის გაწვრთნილი საკმარისად მრავალფეროვანი და მაღალი ხარისხის მონაცემებზე, რაც იწვევს „რეალურ სამყაროში“ ცუდ შესრულებას. ეს საკითხი კარგად არის დადასტურებული როგორც სამეცნიერო, ისე მეინსტრიმ წრეებში, როგორიცაა მეცნიერება მდე პოლიტიკური.

რამდენად მნიშვნელოვანია ტესტირება პაციენტების სხვადასხვა ჯგუფზე?

პაციენტების სხვადასხვა ჯგუფზე ტესტირება გადამწყვეტია იმის უზრუნველსაყოფად, რომ მიღებული AI პროდუქტი არა მხოლოდ ეფექტური და ეფექტური, არამედ უსაფრთხოა. ალგორითმები, რომლებიც არ არის მომზადებული ან გამოცდილი პაციენტების საკმარისად მრავალფეროვან ჯგუფებზე, შეიძლება განიცადონ ალგორითმული მიკერძოება, სერიოზული პრობლემა ჯანდაცვისა და ჯანდაცვის ტექნოლოგიაში. ასეთი ალგორითმები არა მხოლოდ ასახავს მიკერძოებას, რომელიც იყო ტრენინგის მონაცემებში, არამედ ამძაფრებს ამ მიკერძოებას და ართულებს არსებულ რასობრივ, ეთნიკურ, რელიგიურ, გენდერულ და ა.შ. უთანასწორობას ჯანდაცვის სფეროში. სხვადასხვა პაციენტთა ჯგუფზე ტესტის წარუმატებლობამ შეიძლება გამოიწვიოს საშიში პროდუქტები.

ახლახან გამოქვეყნებული კვლევა⁵Rhino Health პლატფორმის გამოყენებით, გამოიკვლია AI ალგორითმის მოქმედება, რომელიც აღმოაჩენს თავის ტვინის ანევრიზმებს, რომელიც განვითარებულია ოთხ სხვადასხვა ადგილას, სხვადასხვა ტიპის სკანერებით. შედეგებმა აჩვენა მუშაობის მნიშვნელოვანი ცვალებადობა საიტებზე სხვადასხვა ტიპის სკანერებით, რაც ხაზს უსვამს ტრენინგისა და ტესტირების მნიშვნელობას სხვადასხვა მონაცემთა ნაკრებებზე.

როგორ ამოვიცნოთ, თუ სუბპოპულაცია არ არის წარმოდგენილი?

საერთო მიდგომაა ცვლადების განაწილების ანალიზი სხვადასხვა მონაცემთა ნაკრებში, ინდივიდუალურად და კომბინირებულად. ამან შეიძლება აცნობოს დეველოპერებს როგორც "სავარჯიშო" მონაცემთა ნაკრების მომზადებისას, ასევე დადასტურების მონაცემთა ნაკრების დროს. Rhino Health პლატფორმა საშუალებას გაძლევთ ამის გაკეთება და უფრო მეტიც, მომხმარებლებს შეუძლიათ დაინახონ, თუ როგორ მუშაობს მოდელი სხვადასხვა კოჰორტაზე, რათა უზრუნველყოს განზოგადება და მდგრადი შესრულება ქვეპოპულაციებში.

შეგიძლიათ აღწეროთ რა არის ფედერირებული სწავლება და როგორ წყვეტს ის ზოგიერთ პრობლემას?

ფედერირებული სწავლება (FL) შეიძლება ფართოდ განისაზღვროს, როგორც პროცესი, რომლის დროსაც AI მოდელები სწავლობენ და შემდეგ აგრძელებენ გაუმჯობესებას დროთა განმავლობაში, განსხვავებული მონაცემების გამოყენებით, მონაცემთა გაზიარების ან ცენტრალიზაციის გარეშე. ეს არის უზარმაზარი წინსვლა ხელოვნური ინტელექტის განვითარებაში. ისტორიულად, ნებისმიერმა მომხმარებელმა, რომელიც ეძებს მრავალ საიტთან თანამშრომლობას, უნდა გააერთიანოს ეს მონაცემები ერთად, რაც იწვევს უამრავ მძიმე, ძვირადღირებულ და შრომატევად იურიდიულ, რისკსა და შესაბამისობას.

დღეს, ისეთი პროგრამული უზრუნველყოფით, როგორიცაა Rhino Health Platform, FL ხდება ყოველდღიური რეალობა ჯანდაცვისა და სიცოცხლის მეცნიერებებში. ფედერაციული სწავლება მომხმარებლებს საშუალებას აძლევს გამოიკვლიონ, მოაწესრიგონ და დაადასტურონ მონაცემები, სანამ ეს მონაცემები რჩება თანამშრომლების ლოკალურ სერვერებზე. კონტეინერირებული კოდი, როგორიცაა AI/ML ალგორითმი ან ანალიტიკური აპლიკაცია, იგზავნება ლოკალურ სერვერზე, სადაც ამ კოდის შესრულება, როგორიცაა AI/ML ალგორითმის სწავლება ან ვალიდაცია, შესრულებულია „ლოკალურად“. ამრიგად, მონაცემები ყოველთვის რჩება „მონაცემთა მცველთან“.

საავადმყოფოები, განსაკუთრებით, შეშფოთებულნი არიან იმ რისკებით, რომლებიც დაკავშირებულია პაციენტების სენსიტიური მონაცემების გაერთიანებასთან. ამან უკვე გამოიწვია უხერხული სიტუაციები, სადაც ცხადი გახდა, რომ ჯანდაცვის ორგანიზაციები თანამშრომლობდნენ ინდუსტრიასთან მათი მონაცემების გამოყენების ზუსტად გაგების გარეშე. თავის მხრივ, ისინი ზღუდავენ თანამშრომლობის რაოდენობას, რომელსაც შეუძლია გააკეთონ როგორც ინდუსტრიის, ისე აკადემიური მკვლევარები, ანელებენ R&D-ს და გავლენას ახდენენ პროდუქტის ხარისხზე ჯანდაცვის ინდუსტრიაში. FL-ს შეუძლია შეამსუბუქოს ეს და ჩართოს მონაცემთა თანამშრომლობა ისე, როგორც არასდროს, ამავდროულად აკონტროლებს ამ თანამშრომლობასთან დაკავშირებულ რისკს.

შეგიძლიათ გაიზიაროთ Rhino Health-ის ხედვა უფრო მრავალფეროვანი მონაცემების გამოყენებით სწრაფი მოდელის შესაქმნელად?

ჩვენ წარმოვიდგენთ ხელოვნური ინტელექტის დეველოპერებისა და მომხმარებლების ეკოსისტემას, რომლებიც თანამშრომლობენ შიშის ან შეზღუდვის გარეშე, რეგულაციების საზღვრების დაცვით. კოლაბორატორებს შეუძლიათ სწრაფად დაადგინონ საჭირო ტრენინგი და ტესტირება მონაცემები სხვადასხვა გეოგრაფიიდან, წვდომა და ურთიერთქმედება ამ მონაცემებთან და იმეორებენ მოდელს. განვითარება საკმარისი განზოგადების, შესრულების და უსაფრთხოების უზრუნველსაყოფად.

ამის საფუძველში დგას Rhino Health პლატფორმა, რომელიც უზრუნველყოფს ხელოვნური ინტელექტის დეველოპერებს „ერთ ფანჯრის“ საშუალებას, რათა ააშენონ მასიური და მრავალფეროვანი მონაცემთა ნაკრები, მოამზადონ და დაადასტურონ AI ალგორითმები და მუდმივად გააკონტროლონ და შეინარჩუნონ განლაგებული AI პროდუქტები.

როგორ აფერხებს Rhino Health პლატფორმა ხელოვნური ინტელექტის მიკერძოებას და გთავაზობთ AI-ს ახსნადობას?

მონაცემთა თანამშრომლობის განბლოკვით და გამარტივებით, AI დეველოპერებს შეუძლიათ გამოიყენონ უფრო დიდი, მრავალფეროვანი მონაცემთა ნაკრები მათი აპლიკაციების ტრენინგისა და ტესტირებისას. უფრო ძლიერი მონაცემთა ნაკრების შედეგი არის უფრო განზოგადებული პროდუქტი, რომელიც არ არის დამძიმებული ერთი ინსტიტუტის ან ვიწრო მონაცემთა მიკერძოებით. ხელოვნური ინტელექტის ახსნადობის მხარდასაჭერად, ჩვენი პლატფორმა უზრუნველყოფს მკაფიო ხედვას განვითარების პროცესში გამოყენებული მონაცემების შესახებ, მონაცემთა წარმოშობის, მნიშვნელობების განაწილებისა და სხვა ძირითადი მეტრიკის ანალიზის შესაძლებლობით, რათა უზრუნველყოს მონაცემთა ადეკვატური მრავალფეროვნება და ხარისხი. გარდა ამისა, ჩვენი პლატფორმა საშუალებას აძლევს ფუნქციონირებას, რომელიც შეუძლებელია, თუ მონაცემები უბრალოდ გაერთიანებულია, მათ შორის, საშუალებას აძლევს მომხმარებლებს გააძლიერონ თავიანთი მონაცემთა ნაკრები დამატებითი ცვლადებით, როგორიცაა არსებული მონაცემთა წერტილებიდან გამოთვლილი, რათა გამოიკვლიონ მიზეზობრივი დასკვნა და შეარბილონ დამაბნეველი.

როგორ უპასუხებთ ექიმებს, რომლებიც შიშობენ, რომ ხელოვნური ინტელექტის გადაჭარბებულმა დამოკიდებულებამ შეიძლება გამოიწვიოს მიკერძოებული შედეგები, რომლებიც დამოუკიდებლად არ არის დადასტურებული?

ჩვენ თანაუგრძნობთ ამ შეშფოთებას და ვაღიარებთ, რომ დღეს ბაზარზე არსებული რიგი აპლიკაციები შეიძლება რეალურად იყოს მიკერძოებული. ჩვენი პასუხი არის ის, რომ ჩვენ უნდა გავერთიანდეთ, როგორც ინდუსტრია, როგორც ჯანდაცვის საზოგადოება, რომელიც პირველ რიგში ზრუნავს პაციენტის უსაფრთხოებაზე, რათა განვსაზღვროთ პოლიტიკა და პროცედურები ამგვარი მიკერძოების თავიდან ასაცილებლად და უსაფრთხო, ეფექტური AI აპლიკაციების უზრუნველსაყოფად. ხელოვნური ინტელექტის დეველოპერებს ეკისრებათ პასუხისმგებლობა, უზრუნველყონ მათი გაყიდული AI პროდუქტების დამოუკიდებლად ვალიდაცია, რათა მიაღწიონ როგორც ჯანდაცვის პროფესიონალების, ასევე პაციენტების ნდობას. Rhino Health ეძღვნება უსაფრთხო, სანდო ხელოვნური ინტელექტის პროდუქტების მხარდაჭერას და მუშაობს პარტნიორებთან, რათა ჩართოს და გაამარტივოს ხელოვნური ინტელექტის აპლიკაციების დამოუკიდებელი ვალიდაცია კლინიკურ პარამეტრებში განთავსებამდე, ბარიერების გახსნით საჭირო ვალიდაციის მონაცემებზე.

როგორია თქვენი ხედვა ჯანდაცვის სფეროში ხელოვნური ინტელექტის მომავლის შესახებ?

Rhino Health-ის ხედვა არის სამყარო, სადაც AI-მ მიაღწია თავის სრულ პოტენციალს ჯანდაცვის სფეროში. ჩვენ გულმოდგინედ ვმუშაობთ გამჭვირვალობის შესაქმნელად და თანამშრომლობის გაღრმავებაზე, კონფიდენციალურობის დამტკიცებით, რათა ამ სამყაროს მივცეთ საშუალება. ჩვენ წარმოვიდგენთ ჯანდაცვის AI-ს, რომელიც არ შემოიფარგლება ფეიერვოლებით, გეოგრაფიებით ან მარეგულირებელი შეზღუდვებით. ხელოვნური ინტელექტის დეველოპერებს ექნებათ კონტროლირებადი წვდომა ყველა მონაცემზე, რომელიც მათ სჭირდებათ მძლავრი, განზოგადებული მოდელების შესაქმნელად – და მუდმივად აკვირდებიან და გააუმჯობესებენ მათ მონაცემთა ნაკადის რეალურ დროში. პროვაიდერებსა და პაციენტებს ექნებათ ნდობა, რომ იცოდნენ, რომ არ კარგავენ კონტროლს თავიანთ მონაცემებზე და შეუძლიათ უზრუნველყონ მათი კარგი გამოყენება. მარეგულირებლებს შეეძლებათ რეალურ დროში გააკონტროლონ ფარმაცევტული და მოწყობილობების განვითარებაში გამოყენებული მოდელების ეფექტურობა. საზოგადოებრივი ჯანდაცვის ორგანიზაციები ისარგებლებენ ხელოვნური ინტელექტის ამ მიღწევებით, ხოლო პაციენტები და პროვაიდერები მშვიდად არიან იმის ცოდნა, რომ კონფიდენციალურობა დაცულია.

გმადლობთ შესანიშნავი ინტერვიუსთვის, მკითხველს, ვისაც სურს მეტი გაიგოს, უნდა ეწვიოს მარტორქის ჯანმრთელობა.