Přetvořit zdravotnictví a životní vědy, umělá inteligence musí být důvěryhodná

Umělá inteligence (AI) se rychle stává nedílnou součástí zdravotnických a životních věd. Přesto většina organizací ji využívá pouze v omezeném rozsahu, místo aby ji využívala k podstatnému zlepšení výkonu napříč celou firmou. Mezi výzvy patří: AI v těchto odvětvích musí splňovat nejvyšší standardy kvality, ochrany soukromí a spolehlivosti, a musí být důvěryhodná.

Nástroje AI založené na velkém jazykovém modelu (LLM) jsou mocné, ale většina LLM není navržena pro potřeby zdravotnických a životních věd. Mohou produkovat nesrovnalost výstupů, a jejich výkon se může měnit s měnícími se informacemi a kontextem. Obecné účely AI jsou zejména školeny na širokých, veřejných datech – s omezenou lékařskou kurací – a nejsou postaveny tak, aby splňovaly lékařské, vědecké nebo regulační požadavky.

Tyto problémy jsou nepřijatelné v operacích, kde rozhodnutí mají nejen finanční, ale také klinické, vědecké, právní a nakonec lidské důsledky.

Podstatou je: Je zapotřebí vyšší standard AI.

Pokud zdravotnické a životní vědy chtějí využít AI k transformaci svých komerčních a regulovaných operací, potřebují AI, která je důvěryhodná.

Co je zapotřebí k vytvoření důvěryhodné AI

Důvěryhodná AI produkuje spolehlivé výsledky, funguje konzistentně, jak se mění data, a je kompatibilní a obhajitelná.

Dosažení tohoto cíle vyžaduje jak vědeckou, tak technickou odbornost, stejně jako přísný přístup, který zvažuje každý aspekt odpovědného návrhu, použití a monitorování AI. Jak vypadá tento přístup v praxi?

Prvním krokem je pochopit cílový stav: Jaký je požadavek koncového uživatele, který musí být řešen AI řešením, a co znamená úspěch? To zahrnuje pochopení rolí těch, kteří budou používat AI řešení, jejich potřeb a pracovních postupů, a buď komerčních cílů, kterých chtějí dosáhnout, nebo regulačních požadavků, které musí splňovat.

Tyto podrobnosti pomohou informovat klíčová technická rozhodnutí, jako je výběr vhodných modelů pro AI řešení, návrh validačních rámců a stanovení metrik, podle kterých bude řešení měřeno.

Důvěryhodné systémy také zvažují odborníka v rámci od samého počátku návrhového procesu, ne jako následnou úvahu. To zahrnuje použití lidských odborníků – včetně klinických, vědeckých, regulačních a komerčních odborníků – k zajištění toho, že AI řešení je navrženo a nasazeno správně a k zohlednění toho, jak řešení ovlivňuje práci koncového uživatele.

Samozřejmě, důvěra není pouze vydělávána ve fázi návrhu – musí být udržována po celou dobu životnosti AI řešení. Mechanismy, jako jsou datové smyčky AI, nebo učení smyček, které nepřetržitě aktualizují modely novými daty, aby zůstaly aktuální, pomáhají AI řešením zůstat relevantní, přesné a důvěryhodné. Učení posílení a zábrany naprogramované do AI řešení mohou také pomoci udržet jejich výkon na správné cestě v rámci stanoveného souboru pravidel.

Reálné aplikace

AI je již přijímána a důvěřována a má dopad v reálných případech pro některé z největších životních věd na světě.

V jednom případě hledala vedoucí farmaceutická společnost, jak zlepšit komunikaci se zdravotnickými profesionály (HCP) napříč několika značkami a trhy. Společnost byla omezena problémy, jako jsou problémy s řízením dat, nedostatek informací na úrovni zákazníků a obtíže s adaptací.

Společnost implementovala řešení pro komunikaci napříč všemi kanály. Kombinovala předpovědní signály pro komunikaci se zdravotnickými profesionály s doporučeními “nejlepších dalších kroků”, které pomohly týmům rozhodnout, jak tempovat komunikaci a jaké následné kroky podniknout. Společnost zaznamenala čtyřnásobné zlepšení schopnosti identifikovat vysoce hodnotné pacienty, spolu se 20% a 36% zvýšením nových zahájení pacientů pro dvě ze svých značek.

Jedním z dalších příkladů jsou literární recenze požadované pro vývoj léků. Provádění těchto recenzí může trvat měsíce a vyžaduje hlubokou odbornou znalost, pečlivé plánování, značné manuální úsilí a další. Mohou být také obtížně škálovatelné a náchylné k chybám.

Řešení AI mohou automatizovat významné části literárních recenzí, od vývoje protokolu až po vyhledávání a filtrování, extrakci dat a analýzu a reporting. Pro jakoukoli práci, kterou řešení AI provede, mohou výzkumníci nebo jiní zkontrolovat logiku za každým rozhodnutím.

Nyní s AI mohou recenze, které dříve trvaly měsíce, být dokončeny za pouhé dny a s menšími chybami. V jednom případě pomohlo řešení AI velké farmaceutické společnosti dosáhnout počáteční obrazovky pro vědeckou literární recenzi sedmkrát rychleji než tradiční manuální proces. To zkrátilo odhadovanou dobu screeningu z 20 dnů na méně než tři dny.

AI také vytváří nové možnosti v tomto oboru. Například umožnila společnostem vytvářet “živé” recenze, které lze nepřetržitě aktualizovat s nejnovějšími zveřejněnými daty.

Spolupráce je nezbytná

Vytvoření důvěryhodných AI řešení pro zdravotnictví a životní vědy vyžaduje kombinaci odborných znalostí, které žádná organizace nemůže poskytnout sama. To je důvod, proč se podobně smýšlející společnosti sdružují, spojují technickou a odbornou znalost a schopnosti potřebné k vytvoření kompletních, ověřených AI systémů, které mohou škálovat napříč regulovanými i komerčními pracovními postupy.

Právní technický partner, například, přináší inženýrskou hloubku a rozsáhlé zkušenosti s nasazením a provozem AI na podnikové úrovni. Mohou dodávat otevřené modely, aby poskytly transparentnost, kterou důvěryhodná AI potřebuje, a softwarové komponenty, které umožňují rychlejší stavbu AI řešení. A jejich zkušenosti s vytvářením důvěryhodných podnikových AI řešení pro jiná odvětví mohou pomoci jim předvídat výzvy a posílit návrhy.

Na straně domény efektivní spolupracovník přináší nejen hlubokou klinickou a komerční odbornost, ale také prokázanou historii vývoje důvěryhodných AI řešení. Mají základní ingredience potřebné k vytvoření těchto řešení, jako je odborná znalost dat, regulační znalosti a historie bezpečného a zodpovědného používání dat. Ale mohou také nabídnout více k podpoře nasazení AI, od ochoty zpochybnit veřejné benchmarky, aby se zajistilo, že AI řešení funguje tak, jak se očekává, až po zdroje, jako jsou inženýři, kteří mohou pomoci integrovat AI řešení do pracovních postupů koncových uživatelů, s přihlédnutím k jedinečným konfiguracím IT systému a politik koncového uživatele.

Změna způsobu práce

AI není pouze dalším nástrojem pro zdravotnické a životní vědy. Správně provedená, mění způsob, jakým se práce provádí a jak se řeší problémy. Důvěryhodná AI zejména již prokazuje, že může zkrátit časové rámce, zlepšit přesnost a pomoci týmům lépe zvládat složité výzvy, přepracovávající pracovní postupy pro éru AI.

Jak se AI posouvá od generování přehledů k rozhodování a provádění složitých pracovních postupů, organizace, které přijmou tuto evoluci, budou moci uvolnit nové provozní modely, které je učiní efektivnějšími, informovanějšími a více reaktivními na rychle se měnící požadavky ve zdravotnictví a životních vědách.