Когда следует избегать использования ИИ в здравоохранении

Когда новое технологическое достижение появляется в какой-либо отрасли, может возникнуть соблазн объявить это новое блестящее средство лекарством от всех проблем отрасли. ИИ в здравоохранении – отличный пример. По мере того, как технология продолжает развиваться, она была принята для использования в таких областях, как разработка лекарств, координация ухода и возмещение, чтобы назвать несколько. Существует множество законных случаев использования ИИ в здравоохранении, где технология намного лучше, чем любой в настоящее время доступный аналог.

Однако ИИ, как он есть сегодня, превосходно справляется только с определенными задачами, такими как понимание больших объемов данных и принятие решений на основе хорошо определенных правил. Другие ситуации, особенно когда добавленный контекст необходим для принятия правильного решения, не подходят для ИИ. Давайте рассмотрим некоторые примеры.

Отказ в заявках и уходе

Независимо от того, идет ли речь о заявке или уходе, отказы – это сложные решения, и слишком важно, чтобы они были приняты ИИ самостоятельно. Когда отказывается в заявке или уходе, есть очевидная моральная необходимость сделать это с наибольшей осторожностью и на основе способностей ИИ сегодня, это требует человеческого участия.

За пределами морального элемента, медицинские планы подвергают себя риску, когда они слишком сильно полагаются на ИИ для принятия решений об отказе. Планы могут и подвергаются судебным искам за неправильное использование ИИ для отказа в заявках, с судебными исками, обвиняющими планы в том, что они не соответствуют минимальным требованиям для обзора врачей, поскольку ИИ использовался вместо этого.

Полагаясь на прошлые решения

Доверие ИИ для принятия решений, основанных только на том, как он принимал решение ранее, имеет очевидный недостаток: одна неправильная quyếtение из прошлого будет влиять на другие. Кроме того, поскольку правила политики, которые информируют ИИ, часто распределены по системам или несовершенно закодированы людьми, системы ИИ могут оказаться принимающими и затем распространяющими неточное понимание этих политик. Чтобы избежать этого, организации должны создать единую истину политики, чтобы ИИ мог ссылаться и учиться на надежном наборе данных.

Строить на наследственных системах

Как относительно новая технология, ИИ приносит чувство возможности, и многие команды данных медицинских планов с нетерпением ждут, чтобы быстро использовать эту возможность, используя инструменты ИИ, уже построенные в существующие корпоративные платформы. Проблема заключается в том, что процессы медицинских заявок чрезвычайно сложны, и корпоративные платформы часто не понимают нюансов. Прикрепление ИИ к этим наследственным платформам как универсальное решение (которое не учитывает все различные факторы, влияющие на рассмотрение заявок) приводит к путанице и неточности, а не к созданию более эффективных процессов.

Полагаясь на старые данные

Одним из самых больших преимуществ ИИ является то, что он становится все лучше и лучше в управлении задачами, когда он учится, но это обучение может происходить только в том случае, если есть постоянная обратная связь, которая помогает ИИ понять, что он сделал неправильно, чтобы он мог скорректировать себя соответственно. Эта обратная связь должна быть не только постоянной, но и основанной на чистых, точных данных. Ведь ИИ так хорош, как и данные, которые он учит.

Когда ИИ в здравоохранении является полезным

Использование ИИ в секторе, где выходы так же значимы, как и здравоохранение, конечно же, требует осторожности, но это не значит, что нет случаев, когда ИИ имеет смысл.

Во-первых, в здравоохранении нет недостатка в данных (рассмотрим, что одна медицинская карта человека может состоять из тысяч страниц), и закономерности в этих данных могут рассказать нам многое о диагностике заболеваний, правильном рассмотрении заявок и многом другом. Это то, где ИИ превосходно справляется, находя закономерности и предлагая действия на основе этих закономерностей, которые человеческие обозреватели могут использовать.

Другой областью, где ИИ превосходно справляется, является каталогизация и усвоение политик и правил, которые регулируют, как заявки оплачиваются. Генеративный ИИ (GenAI) может быть использован для преобразования этого содержания политики из различных форматов в машинно-читаемый код, который может быть применен последовательно ко всем заявкам пациентов. GenAI также может быть использован для суммирования информации и отображения ее в легко читаемом формате для человеческого обозревателя.

Ключевым моментом во всех этих случаях является то, что ИИ используется как ко-пилот для людей, которые его контролируют, а не как руководящая сила сама по себе. Пока организации могут сохранить эту идею в mente при реализации ИИ, они будут в позиции, чтобы добиться успеха в эту эпоху, когда здравоохранение преобразуется ИИ.