Исследование рисков использования ИИ в медицине

Программы искусственного интеллекта способны улучшать здравоохранение различными способами. Например, приложения ИИ могут использовать компьютерное зрение, чтобы помочь врачам диагностировать состояния по рентгеновским снимкам и МРТ. Алгоритмы машинного обучения также могут быть использованы, чтобы помочь снизить количество ложноположительных результатов, извлекая тонкие закономерности из данных, которые люди могут не обнаружить в медицинских данных. Однако вместе с возможностями появляются новые проблемы, и недавно в журнале Science была опубликована статья, в которой рассматриваются возможные риски и стратегии регулирования медицинских методов машинного обучения в попытке минимизировать возможные негативные последствия использования ИИ в медицинском контексте.

Расширение применения ИИ в здравоохранении

ИИ быстро находит применение в медицинской области. Недавние разработки в области здравоохранения, обусловленные ИИ, включают создание новой фармацевтической компании, целью которой является использование ИИ для создания новых лекарств, разработку дистанционных датчиков здоровья на основе ИИ и компьютерных приложений, анализирующих КТ и рентгеновские снимки.

Более точно, Genesis Therapeutics – это стартап, целью которого является использование ИИ для ускорения процесса открытия новых лекарств, с целью создания лекарств, которые могут снизить тяжесть дебилирующих заболеваний. Genesis Therapeutics – это только одна из почти 170 компаний, которые используют ИИ для исследования новых формул лекарств. Тем временем, в области мониторинга здоровья компании iRhythm (IRTC ) и французский стартап Cardiologs используют алгоритмы ИИ для анализа данных ЭКГ и мониторинга здоровья людей с сердечными заболеваниями, которые подвержены риску осложнений. Программное обеспечение, разработанное компаниями, может обнаруживать сердечные шумы, состояние, вызванное турбулентным потоком крови.

Наконец, недавнее исследование, изучающее, как компьютерное зрение может быть применено к медицинским изображениям, показало, что системы компьютерного зрения работают не хуже, а часто лучше, чем опытные радиологи при осмотре КТ для обнаружения небольших кровоизлияний. Алгоритмы, использованные в исследовании, могли делать прогнозы после осмотра КТ всего за одну секунду. Системы компьютерного зрения также могли локализовать кровоизлияние в мозге.

Итак, хотя потенциальные выгоды от использования ИИ в здравоохранении очевидны, менее ясно, какие новые проблемы и риски возникнут в результате использования ИИ в медицинской области.

Регулирование расширяющейся области

Как сообщает TechXplore, для оценки потенциальных недостатков использования ИИ в здравоохранении группа исследователей недавно опубликовала статью в Science, целью которой является поиск ответов на потенциальные проблемы с ИИ и изучение возможных решений этих проблем. Проблемы, которые могут возникнуть при использовании ИИ в здравоохранении, включают неправильную рекомендацию методов лечения, приводящую к травмам, проблемы с конфиденциальностью и алгоритмическую предвзятость/неравенство.

Управление по контролю за продуктами и лекарствами США одобрило только медицинский ИИ, использующий “замкнутые алгоритмы”, алгоритмы, которые надежно производят один и тот же результат каждый раз, когда они запускаются. Однако большая часть потенциала ИИ заключается в его способности учиться и реагировать на новые типы входных данных. Чтобы сделать “адаптивные алгоритмы” более широко используемыми и получить одобрение Управления по контролю за продуктами и лекарствами США, авторы статьи подробно изучили, как можно смягчить риски, связанные с обновлением алгоритмов.

Авторы статьи рекомендуют, чтобы инженеры и исследователи по машинному обучению сосредоточились на непрерывном мониторинге моделей на протяжении всего срока их эксплуатации. Среди предложенных инструментов для мониторинга систем ИИ был сам ИИ, который мог бы помочь в автоматической генерации отчетов о поведении ИИ. Также возможно, что несколько устройств ИИ могли бы мониторить друг друга.

“Чтобы управлять рисками, регулирующие органы должны сосредоточиться в первую очередь на непрерывном мониторинге и оценке рисков, а не на планировании будущих изменений алгоритмов”, – сказали авторы статьи.

Авторы статьи также рекомендуют, чтобы регулирующие органы сосредоточились на разработке новых методов выявления, мониторинга, оценки и управления рисками. Статья применяет многие из техник, которые Управление по контролю за продуктами и лекарствами США использовало для регулирования других форм медицинской техники.

Как объяснили авторы статьи:

“Наша цель – подчеркнуть риски, которые могут возникнуть из-за непредвиденных изменений в том, как системы ИИ/МО в медицине реагируют или адаптируются к своей среде. Незначительные, часто не распознаваемые обновления параметров или новые типы данных могут привести к большим и дорогостоящим ошибкам.”