Кто несет ответственность, если искусственный интеллект в здравоохранении дает сбой?

Кто несет ответственность, когда ошибки искусственного интеллекта в здравоохранении вызывают аварии, травмы или хуже? В зависимости от ситуации, это может быть разработчик искусственного интеллекта, медицинский работник или даже пациент. Ответственность – это все более сложная и серьезная проблема, поскольку искусственный интеллект становится более распространенным в здравоохранении. Кто несет ответственность за ошибки искусственного интеллекта и как можно предотвратить аварии?

Риск ошибок искусственного интеллекта в здравоохранении

Существует много удивительных преимуществ искусственного интеллекта в здравоохранении, от повышения точности и точности до более быстрого выздоровления. Искусственный интеллект помогает врачам делать диагнозы, проводить операции и обеспечивать лучшую возможную помощь пациентам. К сожалению, ошибки искусственного интеллекта всегда возможны.

Существует широкий спектр сценариев, когда искусственный интеллект дает сбой в здравоохранении. Врачи и пациенты могут использовать искусственный интеллект как программный инструмент для принятия решений или искусственный интеллект может быть мозгом физических устройств, таких как роботы. Обе категории имеют риски.

Например, что происходит, если робот, управляемый искусственным интеллектом, выходит из строя во время операции? Это может вызвать серьезную травму или даже убить пациента. Аналогично, что если алгоритм диагностики препаратов рекомендует неправильное лекарство пациенту и он испытывает негативную реакцию? Даже если лекарство не повредит пациенту, неправильный диагноз может задержать надлежащее лечение.

В основе ошибок искусственного интеллекта, таких как эти, лежит природа моделей искусственного интеллекта. Большинство современных искусственных интеллектов используют “черный ящик” логики, то есть никто не может увидеть, как алгоритм принимает решения. “Черный ящик” искусственного интеллекта не имеет прозрачности, что приводит к рискам, таким как предвзятость логики, дискриминация и неточные результаты. К сожалению, трудно обнаружить эти факторы риска, пока они не вызовут проблем.

Искусственный интеллект дает сбой: кто виноват?

Что происходит, когда происходит авария во время медицинской процедуры, управляемой искусственным интеллектом? Возможность ошибок искусственного интеллекта всегда присутствует в определенной степени. Если кто-то получает травму или хуже, виноват ли искусственный интеллект? Не обязательно.

Когда разработчик искусственного интеллекта виноват

Важно помнить, что искусственный интеллект – это не более чем компьютерная программа. Это высокоразвитая компьютерная программа, но это все равно код, как и любая другая программа. Поскольку искусственный интеллект не является разумным или независимым, как человек, он не может быть привлечен к ответственности за аварии. Искусственный интеллект не может быть привлечен к суду или приговорен к тюремному заключению.

Ошибки искусственного интеллекта в здравоохранении, скорее всего, будут ответственностью разработчика искусственного интеллекта или медицинского работника, контролирующего процедуру. Та сторона, которая виновата в аварии, может варьироваться от случая к случаю.

Например, разработчик, скорее всего, будет виноват, если предвзятость данных вызвала ошибки искусственного интеллекта, несправедливые или дискриминационные решения или лечение. Разработчик отвечает за обеспечение того, чтобы искусственный интеллект функционировал так, как обещано, и давал всем пациентам лучшее возможное лечение. Если искусственный интеллект выходит из строя из-за халатности, небрежности или ошибок с стороны разработчика, врач не будет привлечен к ответственности.

Когда врач или врач-терапевт виноват

Однако также возможно, что врач или даже пациент могут быть ответственными за ошибки искусственного интеллекта. Например, разработчик может сделать все правильно, дать врачу подробные инструкции и изложить все возможные риски. Когда приходит время процедуры, врач может быть отвлечен, уставшим, забывчивым или просто халатным.

Опросы показывают, что более 40% врачей испытывают выгорание на работе, что может привести к невнимательности, медленным рефлексам и плохой памяти. Если врач не решает свои физические и психологические потребности и его состояние вызывает аварию, это вина врача.

В зависимости от обстоятельств, работодатель врача может быть в конечном итоге обвинен в ошибках искусственного интеллекта в здравоохранении. Например, что если менеджер в больнице угрожает отказать врачу в повышении, если он не согласится работать сверхурочно? Это заставляет его работать сверхурочно, что приводит к выгоранию. Работодатель врача, скорее всего, будет привлечен к ответственности в таком уникальном случае.

Когда пациент виноват

Что если и разработчик искусственного интеллекта, и врач сделали все правильно, хотя? Когда пациент самостоятельно использует инструмент искусственного интеллекта, авария может быть его виной. Ошибки искусственного интеллекта не всегда являются результатом технической ошибки. Они могут быть результатом плохого или неправильного использования.

Например, может быть, врач тщательно объяснил пациенту инструмент искусственного интеллекта, но он проигнорировал инструкции по безопасности или ввел неверные данные. Если это безрассудное или неправильное использование приводит к аварии, это вина пациента. В этом случае он был ответственен за правильное использование искусственного интеллекта или предоставление точных данных и не сделал этого.

Даже когда пациенты знают свои медицинские потребности, они могут не следовать инструкциям врача по разным причинам. Например, 24% американцев, принимающих лекарства по рецепту, сообщают, что у них есть трудности с оплатой лекарств. Пациент может пропустить прием лекарства или солгать искусственному интеллекту о приеме лекарства, потому что он стесняется не иметь возможности оплатить свой рецепт.

Если неправильное использование пациента было вызвано отсутствием руководства со стороны врача или разработчика искусственного интеллекта, вина может лежать где-то еще. Это в конечном итоге зависит от того, где произошла первоначальная авария или ошибка.

Регуляции и потенциальные решения

Существует ли способ предотвратить ошибки искусственного интеллекта в здравоохранении? Хотя ни одна медицинская процедура не является полностью безрисковой, есть способы минимизировать вероятность неблагоприятных исходов.

Регуляции использования искусственного интеллекта в здравоохранении могут защитить пациентов от инструментов и процедур, управляемых искусственным интеллектом, с высоким риском. FDA уже имеет регуляторные рамки для медицинских устройств, управляемых искусственным интеллектом, излагающие требования к тестированию и безопасности, а также процесс рассмотрения. Ведущие медицинские организации могут также вмешаться, чтобы регулировать использование данных пациентов с алгоритмами искусственного интеллекта в ближайшие годы.

Помимо строгих, разумных и тщательных регуляций, разработчики должны предпринять шаги, чтобы предотвратить сценарии, когда искусственный интеллект дает сбой. Объяснимый искусственный интеллект – также известный как “белый ящик” искусственный интеллект – может решить проблемы прозрачности и предвзятости данных. Модели объяснимого искусственного интеллекта – это появляющиеся алгоритмы, которые позволяют разработчикам и пользователям получить доступ к логике модели.

Когда разработчики искусственного интеллекта, врачи и пациенты могут видеть, как искусственный интеллект приходит к своим выводам, это намного легче выявить предвзятость данных. Врачи также могут обнаружить фактические неточности или отсутствие информации быстрее. Используя объяснимый искусственный интеллект вместо “черного ящика” искусственного интеллекта, разработчики и поставщики медицинских услуг могут повысить достоверность и эффективность медицинского искусственного интеллекта.

Безопасный и эффективный искусственный интеллект в здравоохранении

Искусственный интеллект может делать удивительные вещи в медицинской области, потенциально даже спасая жизни. Всегда будет некоторая неопределенность, связанная с искусственным интеллектом, но разработчики и организации здравоохранения могут предпринять шаги, чтобы минимизировать эти риски. Когда ошибки искусственного интеллекта в здравоохранении происходят, юристы, скорее всего, определят ответственность на основе первоначальной ошибки аварии.