¿Quién es responsable si la inteligencia artificial en la atención médica falla?

¿Quién es responsable cuando los errores de la inteligencia artificial en la atención médica causan accidentes, lesiones o algo peor? Dependiendo de la situación, podría ser el desarrollador de la inteligencia artificial, un profesional de la salud o incluso el paciente. La responsabilidad es una preocupación cada vez más compleja y grave a medida que la inteligencia artificial se vuelve más común en la atención médica. ¿Quién es responsable de la inteligencia artificial que falla y cómo se pueden prevenir los accidentes?

El riesgo de errores de la inteligencia artificial en la atención médica

Hay muchos beneficios increíbles de la inteligencia artificial en la atención médica, desde una mayor precisión y exactitud hasta tiempos de recuperación más rápidos. La inteligencia artificial está ayudando a los médicos a hacer diagnósticos, realizar cirugías y brindar la mejor atención posible a sus pacientes. Desafortunadamente, los errores de la inteligencia artificial siempre son una posibilidad.

Hay una amplia gama de escenarios de inteligencia artificial que falla en la atención médica. Los médicos y los pacientes pueden utilizar la inteligencia artificial como una herramienta de toma de decisiones basada en software o la inteligencia artificial puede ser el cerebro de dispositivos físicos como robots. Ambas categorías tienen sus riesgos.

Por ejemplo, ¿qué sucede si un robot de cirugía impulsado por inteligencia artificial se avería durante un procedimiento? Esto podría causar una lesión grave o incluso matar al paciente. De manera similar, ¿qué sucede si un algoritmo de diagnóstico de medicamentos recomienda el medicamento incorrecto para un paciente y sufre un efecto secundario negativo? Incluso si el medicamento no lastima al paciente, un diagnóstico incorrecto podría retrasar el tratamiento adecuado.

En la raíz de los errores de la inteligencia artificial como estos se encuentra la naturaleza de los modelos de inteligencia artificial en sí. La mayoría de la inteligencia artificial de hoy en día utiliza una lógica de “caja negra”, lo que significa que nadie puede ver cómo el algoritmo toma decisiones. La inteligencia artificial de caja negra carece de transparencia, lo que lleva a riesgos como el sesgo lógico, la discriminación y los resultados inexactos. Desafortunadamente, es difícil detectar estos factores de riesgo hasta que ya han causado problemas.

La inteligencia artificial que falla: ¿Quién es el culpable?

¿Qué sucede cuando ocurre un accidente en un procedimiento médico impulsado por inteligencia artificial? La posibilidad de que la inteligencia artificial falle siempre estará en cierta medida. Si alguien resulta herido o algo peor, ¿es la inteligencia artificial la culpable? No necesariamente.

Cuando el desarrollador de la inteligencia artificial es el culpable

Es importante recordar que la inteligencia artificial no es más que un programa de computadora. Es un programa de computadora muy avanzado, pero sigue siendo código, al igual que cualquier otro software. Dado que la inteligencia artificial no es sensible ni independiente como un ser humano, no puede ser considerada responsable de accidentes. Una inteligencia artificial no puede ir a la corte ni ser sentenciada a prisión.

Los errores de la inteligencia artificial en la atención médica probablemente serían responsabilidad del desarrollador de la inteligencia artificial o del profesional de la salud que supervisa el procedimiento. La parte responsable de un accidente podría variar de caso en caso.

Por ejemplo, el desarrollador probablemente sería el culpable si el sesgo de datos causara que la inteligencia artificial tome decisiones injustas, inexactas o discriminatorias. El desarrollador es responsable de garantizar que la inteligencia artificial funcione como se promete y brinde a todos los pacientes el mejor tratamiento posible. Si la inteligencia artificial se avería debido a la negligencia, la falta de supervisión o los errores del desarrollador, el médico no sería responsable.

Cuando el médico o el profesional de la salud es el culpable

Sin embargo, también es posible que el médico o incluso el paciente sean responsables de la inteligencia artificial que falla. Por ejemplo, el desarrollador podría hacer todo correctamente, dar al médico instrucciones detalladas y describir todos los posibles riesgos. Cuando llega el momento del procedimiento, el médico podría estar distraído, cansado, olvidadizo o simplemente negligente.

Las encuestas muestran que más del 40% de los médicos experimentan agotamiento en el trabajo, lo que puede llevar a la falta de atención, reflejos lentos y mala memoria. Si el médico no aborda sus propias necesidades físicas y psicológicas y su condición causa un accidente, eso es culpa del médico.

Dependiendo de las circunstancias, el empleador del médico podría ser finalmente culpado de los errores de la inteligencia artificial en la atención médica. Por ejemplo, ¿qué sucede si un gerente en un hospital amenaza con negarle a un médico una promoción si no acepta trabajar horas extras? Esto obliga al médico a trabajar demasiado, lo que lleva al agotamiento. El empleador del médico probablemente sería considerado responsable en una situación única como esta.

Cuando el paciente es el culpable

¿Qué sucede si tanto el desarrollador de la inteligencia artificial como el médico hacen todo correctamente? Cuando el paciente utiliza una herramienta de inteligencia artificial de forma independiente, un accidente puede ser culpa del paciente. La inteligencia artificial que falla no siempre se debe a un error técnico. También puede ser el resultado de un uso pobre o inadecuado.

Por ejemplo, tal vez un médico explique detalladamente una herramienta de inteligencia artificial a su paciente, pero el paciente ignora las instrucciones de seguridad o ingresa datos incorrectos. Si este uso descuidado o inadecuado resulta en un accidente, es culpa del paciente. En este caso, el paciente era responsable de utilizar la inteligencia artificial correctamente o de proporcionar datos precisos y no lo hizo.

Incluso cuando los pacientes conocen sus necesidades médicas, pueden no seguir las instrucciones de un médico por una variedad de razones. Por ejemplo, el 24% de los estadounidenses que toman medicamentos con receta informan que les resulta difícil pagar sus medicamentos. Un paciente puede saltarse un medicamento o mentir a una inteligencia artificial sobre tomar uno porque se siente avergonzado por no poder pagar su receta.

Si el uso inadecuado del paciente se debió a la falta de orientación del médico o del desarrollador de la inteligencia artificial, la culpa podría ser de otro. En última instancia, depende de dónde ocurrió el accidente o el error.

Regulaciones y soluciones potenciales

¿Hay alguna manera de prevenir los errores de la inteligencia artificial en la atención médica? Si bien ningún procedimiento médico es completamente libre de riesgos, hay formas de minimizar la probabilidad de resultados adversos.

Las regulaciones sobre el uso de la inteligencia artificial en la atención médica pueden proteger a los pacientes de herramientas y procedimientos impulsados por inteligencia artificial de alto riesgo. La FDA ya tiene marcos regulatorios para dispositivos médicos de inteligencia artificial, que describen los requisitos de prueba y seguridad y el proceso de revisión. Las principales organizaciones de supervisión médica también pueden intervenir para regular el uso de datos de pacientes con algoritmos de inteligencia artificial en los próximos años.

Además de regulaciones estrictas, razonables y exhaustivas, los desarrolladores deben tomar medidas para prevenir escenarios de inteligencia artificial que falla. La inteligencia artificial explicativa, también conocida como inteligencia artificial de caja blanca, puede resolver las preocupaciones de transparencia y sesgo de datos. Los modelos de inteligencia artificial explicativa son algoritmos emergentes que permiten a los desarrolladores y usuarios acceder a la lógica del modelo.

Cuando los desarrolladores de inteligencia artificial, los médicos y los pacientes pueden ver cómo una inteligencia artificial llega a sus conclusiones, es mucho más fácil identificar el sesgo de datos. Los médicos también pueden detectar inexactitudes o información faltante más rápidamente. Al utilizar inteligencia artificial explicativa en lugar de inteligencia artificial de caja negra, los desarrolladores y los proveedores de atención médica pueden aumentar la confiabilidad y la eficacia de la inteligencia artificial médica.

Inteligencia artificial de atención médica segura y eficaz

La inteligencia artificial puede hacer cosas increíbles en el campo de la atención médica, potencialmente incluso salvar vidas. Siempre habrá alguna incertidumbre asociada con la inteligencia artificial, pero los desarrolladores y las organizaciones de atención médica pueden tomar medidas para minimizar esos riesgos. Cuando los errores de la inteligencia artificial en la atención médica ocurren, los asesores legales probablemente determinarán la responsabilidad basada en el error raíz del accidente.