世卫组织发布最新人工智能伦理指南，确保AI在医疗领域的恰当应

世界卫生组织（WHO）发布了多模态大模型人工智能伦理和管理问题指导文件。

（图源：世界卫生组织官网截图）

多模态大模型可以接受一种或多种输入数据（如文本、视频和图像）并生成多种产出。产出不限于所输入的数据类型。多模态大模型的独特之处在于它们能够模仿人类交流方式，并能够执行未予明确编程的任务。多模态大模型的应用速度超过历史上供消费者使用的任何应用软件。2023年，ChatGPT、Bard和Bert等一些平台进入公共视野。

指导文件列出了供政府、技术公司和卫生保健机构考虑的40多项建议，以确保适当使用多模态大模型增进和维护人民健康。

世卫组织新指导文件概述了多模态大模型在卫生领域的五种广泛应用方式：

· 诊断和临床保健，例如回答患者书面询问

· 指导患者使用，例如咨询症状和治疗方法

· 文书和行政任务，如在电子健康档案中记录和概述病历

· 医疗和护理教育，包括为学员提供模拟诊疗患者练习

· 科学研究和药物开发，包括发现新化合物

部分主体已开始为特定健康相关目的使用多模态大模型，但存在产生虚假、不准确、有偏见或不完整信息的风险，这可能会对使用此类信息做出健康问题决定的人造成伤害。

此外，多模态大模型可能会使用质量差或者在种族、民族、血统、性别、性别认同以及在年龄方面存在偏见的数据进行培训。

指南文件还详细说明了卫生系统面临的较广泛风险，例如性能最佳的多模态大模型的可及性和可负担性问题。多模态大模型还可能会助长医疗保健专业人员和患者的“自动化系统误差”，忽略本可识别的错误，或不适当交由多模态大模型作出困难的抉择。与其他形式的人工智能一样，多模态大模型也容易受到网络安全风险的影响，这可能会影响患者信息或算法的可信度以及广泛的卫生保健服务。

世卫组织强调指出，为创建安全有效的多模态大模型，各国政府、技术公司、医疗机构和人员、患者以及民间社团等各利益攸关方需要参与此类技术的开发和部署各阶段工作，包括参与监督和监管工作。

世卫组织科学部门数字卫生保健与创新司司长Alain Labrique博士指出，“各国政府必须努力合作，指导如何有效监管多模态大模型等人工智能技术的开发和使用”。

世卫组织新指导文件提出了对各国政府的建议。各国政府负有主要责任，它们需为开发和部署多模态大模型制定标准，规定如何整合和将其用于公共卫生和医疗目的。

例如，各国政府应：

· 投资于或提供非营利或公共基础设施，包括提供公共、私营和非营利部门的开发人员可以使用的计算能力和公共数据集，并要求用户在获得使用权后遵守道德原则和符合价值观

· 落实有关法律、政策和法规，确保卫生保健服务和医学中使用的多模态大模型和应用程序，无论与人工智能技术相关的风险或收益如何，均应符合道德义务和人权标准，尊重个人尊严、自主权或隐私

· 在资源允许的情况下，指定现有的或新的监管机构评估和批准用于卫生保健或医学的多模态大模型和应用程序

· 在大规模部署多模态大模型时，由独立第三方进行发布后强制性审计和影响评估，以保护数据和人权。应公布审计和影响评估结果，其中应列明按用户类型（例如按年龄、种族或残疾）分列的结果和影响

指南文件还包括以下针对多模态大模型开发人员的主要建议，确保：

· 不应仅由科学家和工程师设计多模态大模型。潜在用户以及所有直接和间接的利益攸关方，包括医务人员、科学研究人员、卫生保健专业人员和患者在内，均应从人工智能开发的早期阶段就参与有系统的、包容性和透明的设计工作，并应有机会提出伦理问题，表达担忧，并针对所考虑采用的人工智能应用程序发表意见

· 必须适当设计多模态大模型，使其能以必要的准确性和可靠性执行明确的任务，以提高卫生系统的能力，并增进患者权益。开发人员还应该能够预测和理解潜在的次生结果

此前，2023年10月19日，世界卫生组织发布了一份文件，呼吁加强对医疗行业使用人工智能的监管，防止人工智能遭到滥用。

该文件强调，必须建立安全有效的人工智能系统，迅速向有需要的人群提供适当的系统，并促进利益攸关方，包括开发人员、监管机构、制造商、卫生工作者和患者之间的对话。

随着可用的医疗数据不断增加以及分析技术快速发展，世卫组织认识到人工智能有潜力通过加强临床试验改善健康结果；改近医疗诊断、治疗、自我保健和以人为本的护理；并补充卫生保健专业人员的知识、技能和能力。