Смягчение рисков от моделей искусственного интеллекта на переднем крае в организациях здравоохранения

Появление моделей искусственного интеллекта на переднем крае и автономных моделей нападения, таких как Mythos, представляет собой не просто очередную эволюцию киберугроз. Для организаций здравоохранения эти новые модели на переднем крае представляют собой фундаментальный сдвиг в том, как киберриски могут повлиять на оказание медицинской помощи.

Здравоохранение является одной из самых сложных и строго регулируемых цифровых экосистем. Электронные медицинские записи, подключенные медицинские устройства, системы изображений, лабораторные платформы, автоматизация аптек, услуги телемедицины, облачные приложения, сторонние поставщики и подключенный персонал должны работать вместе, чтобы поддерживать врачей и пациентов, обеспечивая при этом их конфиденциальность и безопасность. И хотя модели на переднем крае не влияют напрямую на эту сложность, их использование в качестве средства нападения существенно ускоряет скорость, с которой противники могут обнаружить, расставить приоритеты и использовать уязвимости в системах безопасности.

Искусственный интеллект меняет экономику киберрисков

Кибератака на организацию здравоохранения имеет последствия, которые выходят далеко за рамки финансовых показателей. Успешные атаки против здравоохранения могут напрямую нарушить клинические рабочие процессы, задержать оказание медицинской помощи, перенаправить машины скорой помощи, отложить операции, прервать диагностические услуги и подорвать общественное доверие к учреждениям, на которые общества полагаются в моменты уязвимости. Поэтому основной задачей для лидеров здравоохранения является не просто защита данных, а защита непрерывности оказания медицинской помощи.

Автономные модели нападения способны непрерывно обнаруживать уязвимости, коррелировать идентификаторы, картографировать взаимосвязанные системы и объединять, казалось бы, не связанные между собой уязвимости в жизнеспособные пути нападения – и они делают это с скоростью машины. По мере того, как эти возможности созревают и распространяются, организации здравоохранения больше не могут полагаться на реактивные модели безопасности, построенные вокруг периодических сканирований уязвимостей, ежемесячных циклов исправлений или изолированных контролей безопасности. Необходима гораздо более прочная и основанная на искусственном интеллекте возможность управления уязвимостями, чтобы поддерживать защиту на протяжении всей сети.

Расширяющаяся поверхность нападения в здравоохранении

Цифровая трансформация здравоохранения, которая теперь стала быстро расширяющейся трансформацией, основанной на искусственном интеллекте, будет продолжать улучшать результаты лечения пациентов. Но она также одновременно расширяет поверхность нападения.

Искусственный интеллект теперь поддерживает клиническую документацию, помощь в диагностике, интерпретацию изображений, оптимизацию планирования, операции цикла доходов и административное принятие решений. Больницы также продолжают десятилетнюю работу по подключению тысяч устройств Интернета медицинских вещей (IoMT), облачных клинических приложений, API, носимых технологий и платформ удаленного ухода. По мере того, как эти системы общаются напрямую друг с другом через взаимодействия машина-машина, теперь основанные на искусственном интеллекте и агентах, существует проблема видимости и контроля, которую необходимо решить по мере продолжения развертывания этих технологий в новых формах.

Потому что, хотя каждое новое подключение создает возможность для инноваций, эффективности и улучшения результатов лечения пациентов, оно также создает еще один потенциальный путь нападения. По мере того, как агенты искусственного интеллекта начинают извлекать информацию о пациентах, делать рекомендации, запускать рабочие процессы и взаимодействовать автономно с клиническими системами, лидеры здравоохранения должны расширить безопасность за пределы традиционных пользователей, чтобы охватить каждый идентификатор, участвующий в уходе за пациентами.

Управление уязвимостями становится необходимым

Модели на переднем крае дают нападениям возможность выявить и использовать сложные пути нападения быстрее, чем традиционные программы безопасности были разработаны для реагирования. Момент требует переосмысления того, что может остановить безопасность – и как быстро – и какие инструменты необходимо добавить в стеки безопасности, построенные на устаревших представлениях о обнаружении и исправлении.

Традиционное управление уязвимостями задает вопрос: “Какие уязвимости существуют?”

Управление уязвимостями задает фундаментально другой вопрос: “Какие уязвимости способны стать оперативными нападениями на уход за пациентами?”

Организации здравоохранения не снижают риски, исправляя большинство уязвимостей. Они снижают риски, устраняя уязвимости, которые наиболее вероятно нарушают оказание медицинской помощи. Цель не состоит в том, чтобы исправить все; это прерывание путей нападения, которые имеют наибольшее значение для ухода за пациентами.

Почему виртуальное исправление имеет значение в здравоохранении

Здравоохранение представляет собой уникальную оперативную проблему для понимания полной поверхности нападения. Многие медицинские устройства остаются в эксплуатации в течение лет, часто работая на устаревших операционных системах, которые не могут быть немедленно исправлены из-за нормативных требований, процессов проверки поставщиков или необходимости избежать нарушения ухода за пациентами.

Ожидание традиционных циклов исправлений становится все более несовместимым с угрозами, действующими на скорости машины.

Именно здесь управление уязвимостями и виртуальное исправление становятся взаимодополняющими возможностями. Управление уязвимостями выявляет пути нападения, представляющие наибольший оперативный риск. А виртуальное исправление помогает прервать эти пути нападения, защищая уязвимые системы, пока организации работают над оперативными реалиями исправления.

Вместо того, чтобы заставлять организации здравоохранения выбирать между безопасностью и непрерывным уходом за пациентами, эти возможности работают вместе, чтобы снизить эксплуатируемую уязвимость, сохраняя при этом клинические операции.

Нулевое доверие должно эволюционировать за пределы человеческих пользователей

По мере того, как медицинские устройства, учетные записи служб, API и автономные агенты искусственного интеллекта присоединяются к врачам и поставщикам в доступе к чувствительным системам здравоохранения, нулевое доверие должно распространиться за пределы идентификации рабочей силы, чтобы регулировать как человеческий, так и нечеловеческий доступ.Для искусственного интеллекта, встроенного в клинические рабочие процессы, это означает регулирование доступа к защищенной информации о здоровье, обеспечивая при этом, что действия и рекомендации остаются прозрачными, аудиторными и подлежат соответствующему человеческому надзору.

Безопасность, поддерживаемая искусственным интеллектом

Операции безопасности в здравоохранении должны эволюционировать с той же скоростью, что и угрозы, с которыми они сталкиваются. По мере того, как противники используют автономный искусственный интеллект, защитники будут требовать возможностей расследования, расстановки приоритетов и реагирования, поддерживаемых искусственным интеллектом, способных работать на скорости машины.

Суждение человека остается важным, особенно там, где безопасность пациентов и клиническое принятие решений пересекаются, и автоматизация может существенно улучшить скорость, с которой организации выявляют, расследуют и сдерживают возникающие угрозы.

Цель не состоит в том, чтобы достичь автономной безопасности ради нее самой; это обеспечение того, чтобы команды безопасности могли реагировать достаточно быстро, чтобы сохранить клиническую работоспособность, обеспечивая при этом безопасность ухода.

Управление должно защищать больше, чем данные

Лидеры здравоохранения должны понимать, как модели искусственного интеллекта получают доступ к защищенной информации о здоровье, как чувствительная информация используется для обучения и вывода, как рекомендации искусственного интеллекта проверяются, и как поддерживается подотчетность, когда автономные системы участвуют в клинических рабочих процессах.

Успешное внедрение искусственного интеллекта будет зависеть от рамок управления, которые балансируют инновации с прозрачностью, безопасностью, конфиденциальностью, клиническим надзором и оперативной устойчивостью.

Советы все чаще спрашивают не просто о том, улучшает ли искусственный интеллект производительность, но о том, как искусственный интеллект меняет организационный риск, институциональную устойчивость и, в конечном итоге, доверие пациентов.

Обеспечение безопасной инновации искусственного интеллекта

Организации принимают искусственный интеллект быстрее, чем эволюционируют рамки управления. Медицинские устройства остаются одной из крупнейших неуправляемых поверхностей нападения в отрасли, поскольку многие из них не могут быть исправлены на традиционных графиках из-за нормативных требований, процессов проверки поставщиков или необходимости избежать нарушения ухода за пациентами. Команды безопасности перегружены объемом уязвимостей и все чаще признают, что серьезность не определяет оперативный риск. И, наблюдая за всем этим, советы здравоохранения смещают свое внимание с технических метрик в сторону устойчивости, непрерывности и способности организации поддерживать уход за пациентами во время кибернарушений.

Каждая инвестиция в безопасность в здравоохранении в конечном итоге должна оцениваться по одному вопросу: Помогает ли она обеспечить безопасный, непрерывный уход за пациентами и сообществами, которых мы обслуживаем?

Управление уязвимостями, интеллектуальная расстановка приоритетов и возможности, такие как виртуальное исправление, не являются просто техническими возможностями. Они являются оперативными мерами безопасности, которые укрепляют клиническую устойчивость, сохраняют непрерывность ухода и защищают доверие, которое связывает организации здравоохранения с сообществами, которых они обслуживают.

Потому что в здравоохранении доверие не является просто частью опыта пациента. Это часть лечения.