研究论文探讨如何降低在医学领域使用人工智能的风险

人工智能程序能够以多种方式改善医疗保健。例如，人工智能应用程序可以使用计算机视觉帮助医生从X光片和功能性磁共振成像（FMRI）中诊断疾病。机器学习算法也可以帮助减少假阳性率，通过从医疗数据中提取人类可能无法发现的微妙模式。然而，随着这些可能性而来的还有新的挑战，最近，一篇新文章在《科学》杂志上发表，研究了医疗机器学习技术的可能风险和监管策略，旨在尽量减少使用人工智能在医疗背景下的任何负面影响。

人工智能在医疗保健领域的应用正在迅速扩展

人工智能在医疗领域的应用正在迅速扩展。最近在医疗保健领域的发展，由人工智能驱动，包括创建了一家新的制药公司，旨在使用人工智能创建新药物、创建人工智能驱动的远程健康传感器和计算机视觉应用程序，用于分析CT扫描和X光片。

更具体地说，Genesis Therapeutics是一家初创公司，旨在使用人工智能加速药物发现的过程，希望创建可以减少残疾性疾病严重程度的药物。Genesis Therapeutics只是使用人工智能研究新药物公式的近170家公司之一。与此同时，在健康监测设备方面，iRhythm (IRTC ) 和法国人工智能初创公司Cardiologs正在使用人工智能算法分析脑电图（EEG）数据和监测那些有心脏病的人的健康状况。这些公司设计的软件可以检测心杂音，一种由血液流动紊乱引起的疾病。

最后，一项最近的研究调查了计算机视觉如何应用于医疗图像，发现计算机视觉系统在检查CT扫描以找到小出血时，至少与专家放射科医生表现一样好，甚至更好。该研究使用的算法可以在检查CT扫描仅一秒钟后就做出预测。计算机视觉系统还可以在大脑中定位出血。

因此，虽然使用人工智能在医疗保健中的潜在益处是明显的，但尚不清楚将出现什么新的挑战和风险作为使用人工智能在医疗保健领域的副作用。

监管一个不断扩大的领域

正如TechXplore报道，为了评估使用人工智能在医疗保健中的潜在缺点，一组研究人员最近在《科学》杂志上发表了一篇论文，旨在找出人工智能和探索这些问题的潜在解决方案的潜在问题。使用人工智能在医疗保健领域可能出现的问题包括不当的治疗建议导致受伤、隐私问题和算法偏见/不平等。

美国食品和药物管理局（FDA）只批准使用“锁定算法”的医疗人工智能，即每次运行都可靠地产生相同结果的算法。然而，人工智能的许多潜力在于其学习和响应新输入的能力。为了使“自适应算法”得到更多的应用和获得FDA的批准，论文的作者对更新算法相关的风险进行了深入研究，以减轻这些风险。

作者主张机器学习工程师和研究人员应该专注于在整个部署生命周期中持续监测模型。建议用于监测人工智能系统的工具包括人工智能本身，可以帮助提供人工智能行为的自动报告。也有可能是多个人工智能设备相互监测。

“为了管理风险，监管机构应该专注于持续的监测和风险评估，而不是关注未来算法的变化，”论文的作者说。

论文的作者还建议监管机构应该专注于开发新的方法来识别、监测、评估和管理风险。该论文应用了FDA用于监管其他形式的医疗技术的许多技术。

正如论文的作者所解释的：

“我们的目标是强调可能由于医疗人工智能/机器学习系统对其环境的反应或适应方式发生意外变化而产生的风险。微妙的、往往未被识别的参数更新或新类型的数据可以导致大规模和昂贵的错误。”