【患者安全】患者安全需要创新

Patient safety needs innovation

编译自：Editorial ，Nature Me volume  28, 2022  

在医疗卫生领域，人工智能和其他技术的应用发展，促使我们重新思考患者安全意义。

今年9月17日，第四个世界病人安全日，其口号是“药无伤害”。 这项活动的重点是针对已获得有关法规和标准的准入的“传统”化合物药物，确保它们在给病人治疗是安全的。 然而，最近医学研究的进展出现了一系列在技术上有可行性治疗的疗法，如细胞和基因治疗，以及基于数字和人工智能(AI)的医疗设备，这些设备不遵从现有标准的研发或监管途径，故而促使人们需要对安全标准有更广泛的认识。

在人工智能的具体案例中，监管机构已经开始采取措施指导临床前期开发，要求AI干预措施被证明对患者是有效而安全的，以便正式批准程序和潜在的市场应用更加一致。为了验证人工智能在现实中潜在的实用性和安全性，人工智能和机器学习转化研究，建议按照美国食品药品监督管理局(FDA)《医疗装备开发良好机器学习实践指导原则》执行。规范要求具有在年龄、性别、种族和民族代表性的预期患者人群中开发和测试模型，以及需要独立的培训和测试数据集。此外，基于人工智能或机器学习的模型被FDA定义为“医疗设备软件”(Software as a Medical Device，SaMD)，并被认为这是复杂的干预措施，可能会使患者遭受意外伤害。在这些情况下，安全性并不局限于仅与诊断或预后相关的错误算法，而是需要从在提供医疗服务时从杜绝认知偏差的角度来考虑。

在“可变”迭代干预治疗的背景下，如何对患者中出现不良事件并进行评估需要再思考。尽管FDA批准的人工智能算法在进入市场之前已经被锁定，但一旦接触到真实世界的人群，就必须对不断学习和发展的模型其应用进行不同于“静态”干预的监管。FDA发布的SaMD行动计划介绍了如何促进和控制人工智能的“迭代改进能力”，方法是要求制造商概述上市前审查的预期修改，如那些与性能或使用的输入有关的修改，这些修改将涉及用新的数据集和/或算法架构的更改来重新训练SaMD。还需要具体说明如何以管理患者风险的方式实施这些措施。有关利益相关者和FDA正在讨论修改类型和实施方法，这些修改和实施方法应该包括在这个预先确定的变更控制计划中。很明显，在推出后，制造商可能需要不断监测和更新监管机构确保SaMD安全。这种对性能和不良事件的真实监控需要制造商的最高水平的参与、透明度和承诺。如何实现这一目标还有待确定。除了确保软件的用户友好性，以防止在提供医疗服务时出现错误之外，制造商还必须建立患者对SaMDS的信任，并适当提高最终用户（包括医疗保健人员和患者）的技能，才可能监测到更大范围内变得明显的独特的安全信号。然而，需要明确最终用户将在多大程度上参与SaMDS的上市后监测。为了限制最终用户承担报告和监测不良事件的负担，用户友好性和安全监测系统应该考虑到SaMDS的临床前开发中。

SaMDS也有可能加剧现实世界中现有的健康不平等和系统性偏差，对患者安全构成大规模风险。例如，如果没有足够的人群验证，基于人工智能的胸部X光预测模型更有可能错误地预测患者是健康的。在发布前对不同人群的SaMDS进行培训和测试，对于防止此类结果以及避免在SaMDS中使用社会属性如种族的类别是至关重要的。上面的例子也显示了当使用SaMDS作为临床决策的单一工具时，对患者诊断存在不够准确的显著风险。由来自广泛的SaMD利益相关者的专家起草，包括研究人员、编辑和制造商，基于共识的“Decision-AI”指南，建议研究人员描述如何在他们的研究中识别和最小化对患者安全或造成的伤害的风险。为了进一步降低患者的风险，社会公平等价值观必须在人工智能支持的临床决策中得到维护和考虑。此外，行业参与和模型的专有地位不能损害公开发布前的透明度和独立评估，就像“Epic败血症模型”一样，这是一个预测模型，导致发布后现实的表现不佳。使用可穿戴技术大规模收集患者数据可能会使代表系统性偏差的安全信号被拾取，前提是未来可以限制基于假阳性信号造成患者不必要的焦虑，或放大系统性偏差等风险。

在基于人工智能和其他医疗创新的背景下确保患者安全是一项持续的挑战，需要所有利益相关者的参与，包括研究人员、监管机构、制造商、医疗保健提供商以及患者及其倡导者。值此世界患者安全日之际，我们呼吁在不断发展的医疗技术背景下，对安全和伤害意味着什么进行更广泛的社会讨论。

【原文】 Patient safety needs innovation | Nature Medicine

翻译:   廖方彤 重庆医科大学附属第一医院泌尿外科

审校：肖明朝 重庆医科大学附属第一医院泌尿外科