Studie zkoumá, jak snížit rizika používání umělé inteligence v medicíně

Programy umělé inteligence jsou schopny zlepšit zdravotní péči mnoha různými způsoby. Například aplikace umělé inteligence mohou pomocí počítačového vidění pomoci lékařům diagnostikovat podmínky z rentgenových snímků a snímků z magnetické rezonance. Algoritmy strojového učení lze také použít k pomoci snížit počet falešně pozitivních výsledků extrahováním jemných vzorců z dat, které lidé nemusí být schopni najít v medicínských datech. Nicméně, s možnostmi přicházejí nové výzvy a nedávno byla publikována nová studie v časopise Science, která zkoumá možné rizika a regulační strategie pro lékařské techniky strojového učení s cílem minimalizovat možné negativní vedlejší účinky používání umělé inteligence v lékařském kontextu.

Rozšiřující se aplikace umělé inteligence ve zdravotnictví

Umělá inteligence nachází své aplikace ve zdravotnictví velmi rychle. Nedávné vývoj ve zdravotnictví, poháněný umělou inteligencí, zahrnuje vytvoření nové farmaceutické společnosti, která má za cíl používat umělou inteligenci k vytvoření nových léků, vytvoření vzdálených zdravotních senzorů poháněných umělou inteligencí a aplikací počítačového vidění, které analyzují CT snímky a rentgenové snímky.

Genesis Therapeutics je startup, který má za cíl používat umělou inteligenci k urychlení procesu objevování nových léků, s cílem vytvořit léky, které mohou snížit závažnost devastujících onemocnění. Genesis Therapeutics je pouze jedna ze skoro 170 různých firem, které používají umělou inteligenci k výzkumu nových lékových formulací. Mezitím, co se týče zdravotních monitorovacích zařízení, iRhythm (IRTC ) a francouzský startup Cardiologs používají algoritmy umělé inteligence k analýze EEG dat a monitorování zdraví lidí, kteří mají srdeční onemocnění a jsou v ohrožení komplikací. Software navrženými společnostmi může detekovat srdeční šelesty, stav způsobený turbulentním průtokem krve.

Nakonec, nedávná studie zkoumající, jak lze počítačové vidění aplikovat na medicínské snímky, zjistila, že systémy počítačového vidění fungují alespoň stejně dobře nebo lépe než expertní radiologové při zkoumání CT snímků pro nalezení malých krvácení. Algoritmy použité ve studii byly schopny učinit předpovědi po prozkoumání CT snímků po dobu pouhého jednoho sekundy. Systémy počítačového vidění byly také schopny lokalizovat krvácení v mozku.

Takže zatímco potenciální výhody používání umělé inteligence ve zdravotnictví jsou zřejmé, méně zřejmé je, jaké nové výzvy a rizika vzniknou jako vedlejší účinek používání umělé inteligence ve zdravotnictví.

Regulace rozšiřujícího se odvětví

Jak TechXplore oznámil, aby bylo možné posoudit potenciální nevýhody používání umělé inteligence ve zdravotnictví, skupina výzkumníků nedávno publikovala článek v časopise Science, jehož cílem bylo získat odpovědi na otázky, jaké potenciální problémy mohou nastat s umělou inteligencí a prozkoumat potenciální řešení těchto problémů. Problémy, které mohou nastat z používání umělé inteligence ve zdravotnictví, zahrnují nevhodné doporučení léčby, které mohou vést k úrazu, obavy o soukromí a algoritmickou předpojatost/nerovnost.

Úřad pro kontrolu potravin a léčiv (FDA) schválil pouze lékařskou umělou inteligenci, která používá „zamčené algoritmy“, algoritmy, které spolehlivě produkují stejné výsledky pokaždé, když jsou spuštěny. Nicméně, většina potenciálu umělé inteligence spočívá v její schopnosti učit se a reagovat na nové typy vstupů. Aby bylo možné umožnit „adaptivní algoritmy“ vidět více použití a získat schválení od FDA, autoři článku provedli podrobnou analýzu toho, jak lze rizika související s aktualizacemi algoritmů zmírnit.

Autoři doporučují, že inženýři a výzkumníci strojového učení by se měli soustředit na nepřetržité monitorování modelů po celou dobu jejich nasazení. Mezi navrhované nástroje pro monitorování systémů umělé inteligence patřila sama umělá inteligence, která by mohla pomoci poskytovat automatické zprávy o chování umělé inteligence. Je také možné, že několik zařízení umělé inteligence by mohlo monitorovat navzájem.

“Abyste spravovali rizika, regulátoři by se měli soustředit zejména na nepřetržité monitorování a hodnocení rizik a méně na plánování budoucích změn algoritmů,” řekli autoři článku.

Autoři článku také doporučují, že regulátoři by se měli soustředit na vývoj nových metod identifikace, monitorování, hodnocení a řízení rizik. Článek uplatňuje mnoho technik, které FDA použila k regulaci jiných forem lékařské techniky.

Jak autoři článku vysvětlili:

“Naším cílem je zdůraznit rizika, která mohou nastat z neočekávaných změn v tom, jak systémy umělé inteligence a strojového učení reagují nebo přizpůsobují se svému prostředí. Jemné, často nerozpoznané parametrické aktualizace nebo nové typy dat mohou způsobit velké a nákladné chyby.”