Lucrarea examinează cum să reduceți riscul utilizării inteligenței artificiale în medicină

Programele de inteligență artificială sunt capabile să îmbunătățească asistența medicală într-o varietate de moduri diferite. De exemplu, aplicațiile AI pot folosi vederea computerizată pentru a ajuta medicii să diagnosticheze afecțiunile din raze X și FMRI. Algoritmii de învățare automată pot fi, de asemenea, utilizați pentru a ajuta la reducerea ratelor fals-pozitive prin extragerea tiparelor subtile din datele pe care oamenii ar putea să nu le poată găsi în datele medicale. Cu toate acestea, odată cu posibilitățile vin și noi provocări, iar recent a fost publicat un nou articol în Science that a examinat posibilele riscuri și strategii de reglementare pentru tehnici de învățare automată medicală, într-un efort de a minimiza orice posibile efecte secundare negative ale utilizării AI într-un context medical.

Extinderea aplicațiilor pentru AI în domeniul sănătății

AI își vede aplicațiile în domeniul medical se extind rapid. Evoluțiile recente în domeniul asistenței medicale, conduse de inteligența artificială, includ crearea unei noi companii farmaceutice care își propune să folosească inteligența artificială pentru a crea noi medicamente, crearea de senzori de sănătate de la distanță cu AI și aplicații de viziune computerizată care analizează scanările CT și X. -razele.

Pentru a fi mai precis, Genesis Therapeutics este un startup care își propune să folosească AI pentru a accelera procesul de descoperire a medicamentelor, sperând să creeze medicamente care pot reduce severitatea bolilor debilitante. Genesis Therapeutics este doar una dintre cele aproape 170 de firme diferite care folosesc AI pentru a cerceta noi formulări de medicamente. Între timp, în ceea ce privește dispozitivele de monitorizare a sănătății, iRhythm și startup-ul francez AI Cardiologs folosesc algoritmi AI pentru a analiza datele EEG și monitorizează starea de sănătate dintre cei care au boli cardiace sunt expuși riscului de complicații. Software-ul conceput de companii poate detecta suflul cardiac, o afecțiune cauzată de fluxul sanguin turbulent.

În cele din urmă, un studiu recent care investighează modul în care viziunea computerizată poate fi aplicată imaginilor medicale a constatat că sistemele de viziune computerizată performanță cel puțin la fel de bine sau mai bine decât radiologii experți atunci când examinează tomografii pentru a găsi mici hemoragii. Algoritmii utilizați în studiu au putut face predicții după examinarea scanărilor CT pentru doar o secundă. Sistemele de viziune computerizată au putut, de asemenea, să localizeze hemoragia în creier.

Deci, deși beneficiile potențiale ale utilizării AI în asistența medicală sunt clare, ceea ce este mai puțin clar este ce noi provocări și riscuri vor apărea ca efect secundar al utilizării AI în domeniul sănătății.

Reglarea unui câmp în expansiune

După cum a raportat TechXplore, pentru a evalua potențialele dezavantaje ale utilizării AI în asistența medicală, un grup de cercetări a publicat recent o lucrare în Science, care urmărește să obțină răspunsuri pentru a anticipa potențialele probleme cu AI și a explora potențialele soluții la aceste probleme. Probleme care pot apărea de la utilizarea AI în domeniul sănătății includ recomandarea inadecvată a tratamentelor care au ca rezultat vătămare, preocupări legate de confidențialitate și părtinire/inegalitate algoritmică.

FDA a aprobat doar IA medicală care utilizează „algoritmi blocați”, algoritmi care produc în mod fiabil același rezultat de fiecare dată când sunt executați. Cu toate acestea, mare parte din potențialul AI constă în capacitatea sa de a învăța și de a răspunde la noile tipuri de intrări. Pentru a permite „algoritmilor adaptabili” să fie mai folosiți și să obțină aprobarea FDA, autorii lucrării au analizat în profunzime modul în care riscurile legate de actualizarea algoritmilor pot fi atenuate.

Autorii susțin că inginerii și cercetătorii de învățare automată ar trebui să se concentreze pe monitorizarea continuă a modelelor pe durata de viață a implementării lor. Printre instrumentele sugerate pentru monitorizarea sistemelor AI a fost AI în sine, care ar putea ajuta la furnizarea de rapoarte automate despre modul în care se comportă IA. De asemenea, este posibil ca mai multe dispozitive AI să se monitorizeze reciproc.

„Pentru a gestiona riscurile, autoritățile de reglementare ar trebui să se concentreze în special pe monitorizarea continuă și evaluarea riscurilor și mai puțin pe planificarea viitoarelor modificări ale algoritmului”,ajuta autorii lucrării.

Autorii lucrării recomandă, de asemenea, ca autoritățile de reglementare să se concentreze pe dezvoltarea de noi metode de identificare, monitorizare, evaluare și gestionare a riscurilor. Lucrarea aplică multe dintre tehnicile pe care FDA le-a folosit pentru a reglementa alte forme de tehnologie medicală.

După cum au explicat autorii lucrării:

„Scopul nostru este de a sublinia riscurile care pot apărea din schimbări neprevăzute în modul în care sistemele medicale AI/ML reacționează sau se adaptează la mediile lor. Actualizările parametrice subtile, adesea nerecunoscute sau noi tipuri de date pot cauza greșeli mari și costisitoare.”