Quando Evitare l’Intelligenza Artificiale nel Settore Sanitario

Ogni volta che un nuovo progresso tecnologico si fa strada in un settore, può esserci la tentazione di considerare quel nuovo giocattolo come una soluzione a tutti i problemi del settore. L’intelligenza artificiale nel settore sanitario è un ottimo esempio. Man mano che la tecnologia continua ad avanzare, è stata adottata per utilizzi come lo sviluppo di farmaci, la coordinazione delle cure e il rimborso, per citarne alcuni. Ci sono molti utilizzi legittimi dell’intelligenza artificiale nel settore sanitario, dove la tecnologia è molto più efficace di qualsiasi alternativa attualmente disponibile.

Tuttavia, l’intelligenza artificiale – come si presenta oggi – eccelle solo in determinati compiti, come comprendere grandi quantità di dati e prendere decisioni in base a regole ben definite. Altre situazioni, in particolare quelle in cui è essenziale aggiungere contesto per prendere la decisione giusta, non sono ben adatte all’intelligenza artificiale. Esploriamo alcuni esempi.

Negare Richieste e Cure

Indipendentemente dal fatto che si tratti di una richiesta o di una cura, le negazioni sono decisioni complesse e troppo importanti per essere gestite dall’intelligenza artificiale da sola. Quando si nega una richiesta o una cura, c’è un’evidente imperativo morale a farlo con la massima cautela, e in base alle capacità dell’intelligenza artificiale di oggi, ciò richiede un input umano.

Oltre all’aspetto morale, i piani sanitari si mettono a rischio quando si affidano troppo all’intelligenza artificiale per prendere decisioni di negazione. I piani possono, e sono, soggetti a cause legali per l’uso improprio dell’intelligenza artificiale per negare le richieste, con azioni legali che accusano i piani di non aver soddisfatto i requisiti minimi per la revisione medica perché è stata utilizzata l’intelligenza artificiale al posto della revisione umana.

Affidarsi a Decisioni Precedenti

Affidarsi all’intelligenza artificiale per prendere decisioni basate solo su come ha preso una decisione precedente ha un ovvio difetto: una decisione errata del passato continuerà a influenzare le altre. Inoltre, poiché le regole di politica che informano l’intelligenza artificiale sono spesso distribuite tra sistemi o codificate in modo imperfetto dagli esseri umani, i sistemi di intelligenza artificiale possono finire per adottare e poi perpetuare una comprensione inesatta di queste politiche. Per evitare ciò, le organizzazioni devono creare un’unica fonte di verità politica, in modo che l’intelligenza artificiale possa fare riferimento e imparare da un set di dati affidabile.

Costruire su Sistemi Legacy

In quanto tecnologia relativamente nuova, l’intelligenza artificiale porta con sé una sensazione di possibilità, e molti team di data science dei piani sanitari sono ansiosi di sfruttare questa possibilità in fretta utilizzando strumenti di intelligenza artificiale già integrati nelle piattaforme aziendali esistenti. Il problema è che i processi di gestione delle richieste di assistenza sanitaria sono estremamente complessi e le piattaforme aziendali spesso non comprendono le sfumature. Applicare l’intelligenza artificiale su queste piattaforme legacy come soluzione universale (che non tiene conto di tutti i fattori che influenzano la valutazione delle richieste) finisce per creare confusione e inesattezza, piuttosto che creare processi più efficienti.

Appoggiarsi a Dati Obsoleti

Uno dei maggiori vantaggi dell’intelligenza artificiale è che diventa sempre più brava a orchestrare compiti man mano che impara, ma questo apprendimento può avvenire solo se c’è un feedback costante che aiuta l’intelligenza artificiale a capire cosa ha fatto male in modo che possa adattarsi di conseguenza. Quel feedback non deve essere solo costante, ma anche basato su dati puliti e precisi. Dopo tutto, l’intelligenza artificiale è solo buona quanto i dati da cui impara.

Quando l’Intelligenza Artificiale nel Settore Sanitario è Benefica

L’utilizzo dell’intelligenza artificiale in un settore in cui le uscite sono così conseguenziali come la sanità richiede certamente cautela, ma ciò non significa che non ci siano utilizzi in cui l’intelligenza artificiale abbia senso.

Per esempio, non c’è carenza di dati nel settore sanitario (considera che la cartella clinica di una persona potrebbe essere di migliaia di pagine), e i modelli all’interno di quei dati possono dirci molto sulla diagnosi di malattie, sulla valutazione corretta delle richieste e altro ancora. È qui che l’intelligenza artificiale eccelle, cercando modelli e suggerendo azioni in base a quei modelli che i revisori umani possono seguire.

Un’altra area in cui l’intelligenza artificiale eccelle è nella catalogazione e nell’ingestione di politiche e regole che governano il pagamento delle richieste. L’intelligenza artificiale generativa (GenAI) può essere utilizzata per trasformare il contenuto di politica da vari formati in codice leggibile da macchina che può essere applicato in modo coerente a tutte le richieste dei pazienti. La GenAI può anche essere utilizzata per riassumere le informazioni e visualizzarle in un formato facile da leggere per un revisore umano.

Il filo conduttore attraverso tutti questi utilizzi è che l’intelligenza artificiale viene utilizzata come copilota per gli esseri umani che la supervisionano, non come sistema di controllo autonomo. Finché le organizzazioni possono tenere presente questa idea mentre implementano l’intelligenza artificiale, saranno in una posizione di successo durante questo periodo in cui la sanità sta essere trasformata dall’intelligenza artificiale.