Studiu examină modul de reducere a riscului utilizării inteligenței artificiale în medicină

Programele de inteligență artificială sunt capabile să îmbunătățească îngrijirea sănătății în multe moduri diferite. De exemplu, aplicațiile de inteligență artificială pot utiliza viziunea computerizată pentru a ajuta medicii să diagnosticheze afecțiuni din radiografii și imagini RMN. Algoritmii de învățare automată pot fi, de asemenea, utilizați pentru a ajuta la reducerea ratelor de fals pozitiv prin extragerea unor modele subtile din date care oamenii nu ar putea găsi în datele medicale. Cu toate acestea, odată cu posibilitățile vin și noi provocări, și recent a fost publicat un articol în Science care a examinat posibilele riscuri și strategii de reglementare pentru tehnici de învățare automată medicală într-un efort de a minimiza orice efecte negative posibile ale utilizării inteligenței artificiale într-un context medical.

Extinderea aplicațiilor pentru inteligența artificială în sănătate

Inteligența artificială își extinde rapid aplicațiile în domeniul medical. Printre dezvoltările recente în domeniul sănătății, conduse de inteligența artificială, se numără crearea unei noi companii farmaceutice care urmărește să utilizeze inteligența artificială pentru a crea noi medicamente, crearea de senzori de sănătate la distanță cu inteligență artificială și aplicații de viziune computerizată care analizează tomografii computerizate și radiografii.

Mai exact, Genesis Therapeutics este o companie startup care urmărește să utilizeze inteligența artificială pentru a accelera procesul de descoperire a medicamentelor, sperând să creeze medicamente care pot reduce gravitatea unor boli debilitante. Genesis Therapeutics este doar una dintre cele aproape 170 de companii care utilizează inteligența artificială pentru a cerceta noi formule de medicamente. Între timp, în ceea ce privește dispozitivele de monitorizare a sănătății, iRhythm (IRTC ) și startup-ul francez de inteligență artificială Cardiologs utilizează algoritmi de inteligență artificială pentru a analiza datele ECG și a monitoriza starea de sănătate a persoanelor cu boli cardiace care sunt expuse la complicații. Software-ul proiectat de companii poate detecta murmuri cardiace, o afecțiune cauzată de curgerea turbulentă a sângelui.

În cele din urmă, un studiu recent care a examinat modul în care viziunea computerizată poate fi aplicată la imagini medicale a constatat că sistemele de viziune computerizată performă cel puțin la fel de bine sau mai bine decât radiologii experți atunci când examinează tomografii computerizate pentru a găsi hemoragii mici. Algoritmii utilizați în studiu au putut face previziuni după ce au examinat tomografii computerizate timp de doar o secundă. Sistemele de viziune computerizată au putut, de asemenea, să localizeze hemoragia în creier.

Așadar, în timp ce beneficiile potențiale ale utilizării inteligenței artificiale în sănătate sunt clare, ceea ce este mai puțin clar este ce noi provocări și riscuri vor apărea ca urmare a utilizării inteligenței artificiale în domeniul sănătății.

Reglementarea unui domeniu în expansiune

După cum a raportat TechXplore, pentru a evalua posibilele dezavantaje ale utilizării inteligenței artificiale în sănătate, un grup de cercetători a publicat recent un articol în Science, având ca scop derivarea unor răspunsuri pentru a anticipa posibilele probleme cu inteligența artificială și a explora soluții potențiale pentru aceste probleme. Problemele care pot apărea din utilizarea inteligenței artificiale în domeniul sănătății includ recomandarea inadecvată a tratamentelor care pot duce la leziuni, preocupări legate de confidențialitate și bias/inegalitate algoritmilor.

FDA a aprobat doar inteligența artificială medicală care utilizează “algoritmi blocați”, algoritmi care produc în mod fiabil același rezultat de fiecare dată când sunt rulați. Cu toate acestea, mult din potențialul inteligenței artificiale se află în capacitatea sa de a învăța și de a răspunde la noi tipuri de intrări. Pentru a permite “algoritmilor adaptați” să fie utilizați mai mult și să obțină aprobarea FDA, autorii articolului au examinat în detaliu modul în care pot fi mitigate riscurile legate de actualizarea algoritmilor.

Autorii susțin că inginerii și cercetătorii de învățare automată ar trebui să se concentreze pe monitorizarea continuă a modelelor pe durata de viață a implementării lor. Printre instrumentele sugerate pentru monitorizarea sistemelor de inteligență artificială s-a numărat și inteligența artificială însăși, care ar putea ajuta la furnizarea de rapoarte automate despre modul în care funcționează un sistem de inteligență artificială. De asemenea, este posibil ca mai multe dispozitive de inteligență artificială să se monitorizeze reciproc.

“Pentru a gestiona riscurile, regulatorii ar trebui să se concentreze în special pe monitorizarea continuă și evaluarea riscurilor, și mai puțin pe planificarea schimbărilor viitoare ale algoritmilor”, au declarat autorii articolului.

Autorii articolului recomandă, de asemenea, ca regulatorii să se concentreze pe dezvoltarea unor metode noi de identificare, monitorizare, evaluare și gestionare a riscurilor. Articolul aplică multe dintre tehnicile pe care FDA le-a utilizat pentru a reglementa alte forme de tehnologie medicală.

După cum au explicat autorii articolului:

“Scopul nostru este de a sublinia riscurile care pot apărea din schimbări neașteptate în modul în care sistemele de inteligență artificială/învățare automată medicală reacționează sau se adaptează la mediile lor. Actualizări parametrice subtile, adesea nerecunoscute, sau noi tipuri de date pot cauza greșeli mari și costisitoare.”