Искусственный Интеллект В Здравоохранении Может Принести Риски Вместе С Возможностями

ИИ имеет огромный потенциал в области здравоохранения, способный улучшить диагностику и найти новые, более эффективные лекарства. Однако, как обсуждается в статье Scientific American, скорость, с которой ИИ проникает в область здравоохранения, также открывает многие новые проблемы и риски.

За последние пять лет Управление по контролю за продуктами и лекарствами США одобрило более 40 различных продуктов ИИ. Однако, как сообщает Scientific American, ни один из продуктов, одобренных для продажи в США, не прошел оценку своей эффективности в рандомизированных контролируемых клинических испытаниях. Многие инструменты ИИ для медицины даже не требуют одобрения FDA.

Иван Тополь, автор книги “Глубокая медицина: Как искусственный интеллект может сделать здравоохранение более человечным”, заявил Scientific American, что многие продукты ИИ, которые утверждают, что они эффективны в задачах, таких как диагностика заболеваний, на самом деле были тщательно протестированы, а первое крупное рандомизированное испытание инструмента ИИ для обнаружения и диагностики было проведено в прошлом октябре. Кроме того, очень немногие стартапы публикуют свои исследовательские работы в рецензируемых журналах, где их работа будет проанализирована учеными.

Когда они правильно протестированы и контролируются, системы ИИ могут быть мощными инструментами, которые могут помочь медицинским специалистам обнаружить незаметные симптомы, улучшая результаты лечения.

Например, инструмент ИИ для обнаружения диабетической глазной болезни был протестирован на сотнях пациентов и показал себя надежным. Компания, ответственная за тест, работала вместе с FDA более восьми лет, чтобы усовершенствовать продукт. Тест IDx-DR направляется в первичные медицинские клиники, где он может потенциально помочь обнаружить ранние признаки диабетической ретинопатии, направляя пациентов к специалистам по глазам, если подозреваются симптомы.

Если не протестировать тщательно, системы ИИ, которые медицинские специалисты могут использовать для руководства своей диагностикой и лечением, имеют потенциал создать вред вместо его предотвращения.

Статья в Scientific American описывает одну потенциальную проблему с использованием ИИ для диагностики заболеваний, указывая на пример ИИ, предназначенного для анализа рентгеновских снимков грудной клетки и обнаружения пациентов, которые могут развить пневмонию. Хотя система показала себя точной при тестировании в больнице Маунт-Синай в Нью-Йорке, она не прошла тестирование на изображениях, сделанных в других больницах. Исследователи обнаружили, что ИИ различал изображения, созданные портативными рентгеновскими системами, и те, которые были созданы в радиологическом отделении. Врачи используют портативные рентгеновские системы для пациентов, которые часто слишком больны, чтобы покинуть свои кровати, и эти пациенты находятся в группе повышенного риска развития пневмонии.

Ложные тревоги также вызывают беспокойство. DeepMind создал мобильное приложение ИИ, которое может предсказать острое повреждение почек у госпитализированных пациентов за 48 часов до этого. Однако система, как сообщается, также дала две ложные тревоги на каждый случай успешно предсказанного повреждения почек. Ложные положительные результаты могут быть вредными, поскольку они могут побудить врачей тратить ненужное время и ресурсы на заказ дополнительных тестов или изменение назначенных методов лечения.

В другом инциденте одна система ИИ неправильно заключила, что пациенты, у которых была пневмония, с большей вероятностью выживут, если у них также есть астма, что может заставить врачей изменить методы лечения пациентов с астмой.

Системы ИИ, разработанные для одной больницы, часто показывают худшие результаты, когда они используются в другой больнице. Существует несколько причин для этого. Во-первых, системы ИИ часто обучаются на электронных медицинских записях, но многие электронные медицинские записи часто неполны или неверны, поскольку их основная цель часто заключается в выставлении счетов, а не в уходе за пациентами. Например, одно расследование, проведенное KHN, показало, что иногда в медицинских записях пациентов встречались опасные для жизни ошибки, такие как списки лекарств, содержащие неправильные лекарства. Кроме того, заболевания часто более сложны, а система здравоохранения более сложна, чем можно часто предвидеть инженерам и ученым ИИ.

По мере того, как ИИ становится все более распространенным, будет важно, чтобы разработчики ИИ работали вместе с органами здравоохранения, чтобы обеспечить тщательное тестирование своих систем ИИ, и чтобы регулирующие органы обеспечили установление и соблюдение стандартов для надежности инструментов диагностики ИИ.