会员精选 | 人工智能介入诊疗的合规路径
2025-04-25
｜目 录｜ 前言 一. 人工智能在医疗服务领域的机遇与挑战 (一) 人工智能在医疗服务领域的机遇: 应用场景的全面覆盖 (二) 人工智能在医疗服务中面临的挑战: 介入诊疗的风险与监管 二. 人工智能介入诊疗的路径及其具体应用场景 (一) 诊疗活动的含义 1. 诊疗活动的法律定义 2. 诊疗活动的一般含义 3. 诊疗活动的综合理解 (二) 人工智能介入诊断 1. 医学影像智能辅助诊断 2. 中医经络智能检测 (三) 人工智能介入治疗 1. 临床专病智能辅助决策 2. 医学影像智能辅助治疗 3. 手术智能辅助规划 4. 放射治疗靶区智能辅助勾画 5. 处方前置审核智能辅助(含中药审方) 6. 临床用药智能辅助 7. 患者用药指导智能辅助 8. 手术机器人 9. 针灸推拿机器人 (四) 人工智能介入诊断和治疗 1. 基层全科医生智能辅助决策 2. 中医临床智能辅助诊疗 三. 人工智能介入诊疗的产品风险与监管 (一) 产品风险 1. 医疗器械一般风险 2. 人工智能医疗器械特有风险 (二) 产品监管: 人工智能医疗器械 1. 人工智能的医疗器械管理属性与类别 2. 人工智能医疗器械的软件审查要求 四. 人工智能介入诊疗的行为风险与监管 (一) 行为风险 1. 违规替代医生诊疗 2. 违规自动生成处方 3. 知情同意缺失 4. 违规收费风险 (二) 行为风险的行政监管 1. 诊疗资质监管 2. 诊疗规范监管 结语 随着人工智能技术的迅猛发展, 其在医疗服务领域的应用正以前所未有的速度渗透至预防、诊断、治疗及康复的全链条环节。2024年11月, 国家卫生健康委、国家中医药局、国家疾控局联合发布的《卫生健康行业人工智能应用场景参考指引》(以下简称《应用指引》)明确列举了84种具体应用场景, 涵盖从智能影像诊断到手术机器人辅助操作的多维度创新实践。这一政策文件的出台, 标志着我国医疗行业正式迈入“人工智能+”的智能化转型新阶段。然而, 技术红利背后暗藏的风险亦不容忽视, 人工智能介入诊疗活动可能引发的产品和行为风险, 不仅考验着现有医疗监管体系的韧性, 更直接关系到患者的生命健康权益。 本文旨在系统剖析人工智能介入诊疗活动的行政风险, 梳理其监管框架, 为推动人工智能技术在医疗领域的安全应用提供合规指引和实践参考。 人工智能在医疗服务领域的机遇与挑战 (一) 人工智能在医疗服务领域的机遇: 应用场景的全面覆盖 《应用指引》列举了多达84种人工智能在卫生健康行业的应用, 并描述了每一种应用的概念和场景。[1] 卫生健康行业人工智能应用场景参考指引全景图 (图源自《卫生健康行业人工智能应用场景参考指引》) 整体上, 人工智能在卫生健康行业的布局已覆盖了医疗服务管理, 基层公卫服务, 健康产业发展和医学教学科研等多个领域。其中, 尤其以在医疗服务领域的应用场景最为丰富, 这不仅意味着医疗产业生态的创新与升级, 也预示着人工智能将充分赋能医疗服务, 造福广大患者。 (二) 人工智能在医疗服务中面临的挑战: 介入诊疗的风险与监管 机遇往往与挑战并存, 人工智能在医疗领域的广泛应用也衍生了各种风险。尤其当其介入诊疗活动, 对患者生命健康权益产生直接影响时, 必然面临更为严格的监管。 传统的诊疗活动由医生主导和控制, 而现如今, “人工智能+医疗服务”的应用场景覆盖了从“就医咨询”到“患者院后管理”的全过程, “人工智能+医药服务”也包含了从“处方前置审核”到“患者用药指导”的完整阶段, 这固然给传统诊疗活动带来了显著的效率提升, 但同时也不禁令人忧虑, 人工智能介入诊疗活动是否足够安全?是否会剥夺医生在诊疗活动中的主导权, 导致患者生命健康沦为人工智能的试验品? 考虑人工智能介入诊疗活动带来的风险并寻找监管路径, 是保障人工智能在医疗服务中健康可持续发展的有益思考, 也是保护患者生命健康安全的必然要求。 人工智能介入诊疗的路径及其具体应用场景 为准确理解“人工智能介入诊疗活动”, 首先需明确“诊疗活动”的含义, 分析“介入诊疗活动”的介入路径及其具体应用场景, 再确定“介入诊疗活动”的监管边界。 (一) 诊疗活动的含义 “诊疗活动”的含义既要紧扣其法律含义, 也不能脱离其词义的一般理解, 综合二者才能得出合法且合理的结论。 1. 诊疗活动的法律定义 《医疗机构管理条例实施细则》第八十八条“诊疗活动指通过各种检查, 使用药物、器械及手术等方法, 对疾病作出判断和消除疾病、缓解病情、减轻痛苦、改善功能、延长生命、帮助患者恢复健康的活动。”[2] 据此, 可将“诊疗活动”的法定要件概括为: (1)行为要件: 通过各种检查, 使用药物、器械及手术等方法; (2)目的要件: 对疾病作出诊断或治疗。 2. 诊疗活动的一般含义 根据《辞海》对“诊断”和“治疗”的解释, “诊断”是指医生对患者病情诊察后所作的结论, 须根据对病史的了解和各种医学检查的结果, 判断患者所患疾病及其病因、部位、性质和功能损害程度等。“治疗”是指消除疾病, 减少患者痛苦并促使其恢复健康的医疗措施, 主要包括去除病因、消除症状、改善功能的不平衡状态、恢复机体的生理功能、增强患者的一般健康等。[3] 一般理解而言, 诊断是医生通过系统性信息处理得出疾病结论的认知过程, 而治疗是针对疾病本质的系统性干预方案。诊断包括: (1)诊断依据: 病史采集(如主诉/现病史) + 检查数据(如影像/实验室/基因检测数据); (2)推理路径: 病因推断 → 病灶定位 → 病性判断 → 病程评估; (3)诊断结论: 明确的疾病和/或病理状态描述(如“HER2阳性乳腺癌”)。治疗包含五阶干预逻辑: (1)靶点控制: 直接消除病因(如抗生素杀菌); (2)症状管理: 缓解痛苦体征(如止痛药降压); (3)功能修复: 逆转病理损伤(如干细胞治疗); (4)生理调节: 恢复内环境稳态(如胰岛素调节血糖); (5)健康促进: 增强抗病能力(如疫苗/营养支持)。 3. 诊疗活动的综合理解 结合诊疗的法律定义和一般理解, 诊疗活动由行为要件和目的要件共同构成。行为要件: 通过各种检查, 使用药物、器械及手术等医学方法; 目的要件: 以疾病的诊断或治疗为目的。其中, 目的要件中的“诊断或治疗”可作如下理解: (1)诊断: 核心在于对疾病的认知和判断, 依据是患者病史和检查数据, 结论是所患疾病和状态, 中间的推理过程包括病因、部位、性质和功能损害程度等属于诊断中的过程性认知和判断, 不构成完整的诊断, 但若得出诊断结论, 则该过程构成对结论的补充, 与结论整体构成完整的诊断。(2)治疗: 核心在于对医治疾病的决策和干预, 依据是诊断结果, 目的包括消除病因、缓解症状、修复损伤、恢复稳态、促进健康等。 需注意的是, 上述诊断结论并不必然要求得出医学上以通用名称表达的疾病结论, 也可以仅是功能/抵抗力下降或内环境稳态紊乱等相关的患病状态。例如, 原卫生部在有关隐形血栓的检测的批复中明确, 通过静脉采血进行隐性血栓检测, 是一种通过检查对疾病作出判断的行为, 属于诊疗活动。[4]并且, 在复杂的生理和病理过程中, 某疾病或某状态并不总是诊断结论, 其可能在另一诊断中构成另一疾病或另一状态的原因, 其角色处于原因和结论的动态变化中, 需要结合具体的诊断场景具体判断。 “诊疗活动”包括诊断或治疗, 人工智能介入诊疗也主要通过介入诊断或治疗环节。本文围绕前述“诊疗活动”的定义及人工智能介入诊疗活动的不同路径, 从《应用指引》中筛选以下几类较为典型的直接介入诊疗的应用场景, 并分析其对诊疗活动产生的相关影响。 (二) 人工智能介入诊断 1. 医学影像智能辅助诊断 作用: 针对医学影像数据进行智能分析、快速读片、报告生成, 实现高效精准的医学影像辅助诊断。(详见《应用指引》第3页) 影响: 介入病因推断和病灶定位环节, 影响诊断。 2. 中医经络智能检测 作用: 以中医经络、现代全息理论为基础, 应用人工智能技术模拟中医临床诊断过程, 准确提供经络、脏腑、体质、气血、情志等 5 个维度功能性检测结果, 反馈人体经络功能状态, 为临床诊疗提供辅助参考。(详见《应用指引》第14页) 影响: 介入检查环节, 影响诊断。 (三) 人工智能介入治疗 1. 临床专病智能辅助决策 作用: 智能清洗处理临床专科疾病数据, 构建决策模型和算法, 智能生成临床专病诊疗方案, 实现各类专病智能化、规范化、精准化全流程临床诊疗辅助, 提供辅助决策支持。(详见《应用指引》第4页) 影响: 介入决策环节, 影响治疗。 2. 医学影像智能辅助治疗 作用: 利用人工智能、虚拟增强现实和三维建模等技术, 智能分析医学影像数据, 为临床提供智能辅助治疗方案。(详见《应用指引》第5页) 影响: 介入决策环节, 影响治疗。 3. 手术智能辅助规划 作用: 智能分析医学影像、病理、检验等临床多模态数据, 明确手术关键部位、推荐最佳手术方案、评估手术风险、辅助医生提高手术精准性、减低术中风险及术后并发症。(详见《应用指引》第6页) 影响: 介入决策环节, 影响治疗。 4. 放射治疗靶区智能辅助勾画 作用: 实现 CT、MR 等医学影像中肿瘤及其周围重要组织轮廓自动勾画, 为临床精准放疗提供智能靶区定位。(详见《应用指引》第6-7页) 影响: 介入决策和干预环节, 影响治疗。 5. 处方前置审核智能辅助(含中药审方) 作用: 结合审方规则或中医药配伍规则, 辅助专业药师对处方进行合理性审查、追溯或提醒医生合理遣方用药, 预警不合理处方, 保障临床合理用药。(详见《应用指引》第11页) 影响: 介入决策和干预环节, 影响治疗。 6. 临床用药智能辅助 作用: 以药物和疾病的知识图谱为基础, 根据临床指征和药理学理论等, 对用药行为作出决策建议。(详见《应用指引》第11-12页) 影响: 介入决策环节, 影响治疗。 7. 患者用药指导智能辅助 作用: 通过机器学习、自然语言处理等技术为患者提供个性化的用药提醒和指导辅助。(详见《应用指引》第12页) 影响: 介入干预环节, 影响治疗。 8. 手术机器人 作用: 整合先进机械设备、智能导航系统、传感器技术和实时影像反馈技术, 建立辅助医生开展手术的智能机器人, 辅助医生开展精准、微创、远程手术。(详见《应用指引》第34页) 影响: 介入干预环节, 影响治疗。 9. 针灸推拿机器人 作用: 应用人工智能技术建立针灸推拿机器人, 实现中医针灸、推拿等传统非药物疗法的智能诊疗。(详见《应用指引》第35-36页) 影响: 介入干预环节, 影响治疗。 (四) 人工智能介入诊断和治疗 1. 基层全科医生智能辅助决策 作用: 应用人工智能技术结合基层医疗卫生机构常见病、慢性病诊疗规范, 构建基层全科诊疗辅助决策应用, 为基层全科医生提供智能诊断推荐, 检验检查和用药等诊疗处置建议, 并开展基层门诊处方和电子病历规范审核。(详见《应用指引》第5页) 影响: 介入诊断和决策, 影响诊断和治疗。 2. 中医临床智能辅助诊疗 作用: 应用中医四诊智能诊断设备采集全过程中医临床四诊数据, 基于中医药知识库, 建立中医大数据诊疗模型, 针对患者症状、诊断和相关病史自动推荐中医诊疗方案。(详见《应用指引》第13-14页) 影响: 介入诊断和决策, 影响诊断和治疗。 人工智能介入诊疗的产品风险与监管 人工智能介入诊疗领域并产生重要影响, 其风险也无处不在, 本文基于产品和行为两方面对其可能存在的风险进行简单梳理。 (一) 产品风险 1. 医疗器械一般风险 医疗器械是指直接或者间接用于人体的仪器、设备、器具、体外诊断试剂及校准物、材料以及其他类似或者相关的物品, 包括所需要的计算机软件; 其效用主要通过物理等方式获得, 不是通过药理学、免疫学或者代谢的方式获得, 或者虽然有这些方式参与但是只起辅助作用; 其目的是: (一)疾病的诊断、预防、监护、治疗或者缓解; (二)损伤的诊断、监护、治疗、缓解或者功能补偿; (三)生理结构或者生理过程的检验、替代、调节或者支持; (四)生命的支持或者维持; (五)妊娠控制; (六)通过对来自人体的样本进行检查, 为医疗或者诊断目的提供信息。[5] 人工智能在诊疗领域的应用包括设备(硬件)和系统(软件)及其相结合的方式, 结合上述医疗器械定义和前文所述应用场景, 人工智能介入诊疗的应用产品可能构成医疗器械, 须遵守医疗器械的监管规定, 包括医疗器械注册与备案, 生产, 经营与使用, 不良事件处理与召回等一系列规定, 否则将面临行政处罚风险。 例如, 邵阳学院附属第一医院(简称“当事人”)涉嫌使用未依法注册的医疗器械行政处罚案中, 当事人医学影像科影像诊断终端的分级诊疗平台系统机身未加贴医疗器械标签, 并使用湖南博铖科技开发有限公司提供的红医疗远程医疗与信息化服务平台(简称“红医疗服务平台”), 通过AI算法实现医学影像(DR/CT)的传输、存储、三维重建、密度测量及疾病诊断支持。经调查发现, 红医疗服务平台在技术原理、作用方式、预期目的、目标人群等方面, 与远程医疗系统(辽食药监械(准)字2014第2700198号)、远程会诊系统(京药监械(准)字2013第2700452号)等影像处理软件并无实质差别, 且经向湖南省药品监督管理局申请认定, 红医疗服务平台应按照二类医疗器械管理。而当事人未对湖南博铖科技开发有限公司的二类医疗器械经营备案凭证、分级诊疗平台影像处理软件的医疗器械注册证、医疗器械生产许可证等医疗器械合格证明文件进行进货查验。经调查, 湖南博铖科技开发有限公司至今未取得《二类医疗器械经营备案凭证》或《医疗器械经营许可证》。最终, 邵阳市市场监督管理局认定当事人构成涉嫌使用未依法注册的医疗器械, 并责令其停止使用。[6] 2. 人工智能医疗器械特有风险 因人工智能介入诊疗的产品包含软件, 除医疗器械相关风险外, 还须识别并控制软件的特有风险。 (1) 算法性能风险 假阴性与假阳性风险: 人工智能可能因算法缺陷导致漏诊(假阴性)或误诊(假阳性), 尤其是算法成熟度低时, 可能延误治疗或引发不必要的诊疗活动。 算法黑箱风险: 部分算法(如黑盒算法)可能缺乏可解释性, 影响临床决策的可信度和监管审查。 (2) 数据质量风险 数据污染与偏倚: 医疗器械数据可能存在扩增错误、标注偏差或非医疗器械数据(如患者主诉)的不当使用, 导致模型训练结果不可靠。 数据多样性不足: 若训练数据缺乏多病种、多模态或跨人种覆盖, 可能影响算法在不同场景下的泛化能力。 (3) 软件更新风险 重大更新风险: 算法或功能的重大更新可能改变软件安全性或有效性, 需申请变更注册, 否则其得出的结论将给患者带来重大安全隐患。 (4) 网络安全风险 数据泄露与攻击: 医疗器械联网后可能面临数据窃取、篡改或勒索攻击, 威胁患者隐私和系统稳定性。 (二) 产品监管: 人工智能医疗器械 如前文所述, 人工智能介入诊疗领域的应用产品可能构成医疗器械, 应当遵守《医疗器械监督管理条例》(2024年修订)及其配套的一系列监管规定, 但目前其产品风险主要集中在医疗器械注册与审查上。一系列人工智能在医疗器械领域的相关监管原则也围绕这一环节展开, 如《医疗器械软件注册审查指导原则》(2022年修订)、《人工智能医用软件产品分类界定指导原则》、《人工智能医疗器械注册审查指导原则》、《深度学习辅助决策医疗器械软件审评要点》、《医疗器械网络安全注册审查指导原则》和《移动医疗器械注册技术审查指导原则》。 1. 人工智能的医疗器械管理属性与类别 我国对医疗器械按照风险程度实行分类管理, 按照风险程度依次递增的顺序将医疗器械分为第一类医疗器械(以下简称Ⅰ类), 第二类医疗器械(以下简称Ⅱ类)和第三类医疗器械(以下简称Ⅲ类)。[7]Ⅰ类医疗器械实行产品备案管理, Ⅱ类和Ⅲ类医疗器械实行产品注册管理。[8] (1) 医疗器械管理属性 《人工智能医疗器械注册审查指导原则》明确了“人工智能医疗器械”的含义是指基于“医疗器械数据”, 采用人工智能技术实现其预期用途(即医疗用途)的医疗器械, 包括作为医疗器械的人工智能独立软件和含有人工智能软件组件的医疗器械。“医疗器械数据”是指医疗器械产生的用于医疗用途的客观数据, 基于医疗器械数据包括医疗器械数据的生成、使用等情况, 其中使用情况含单独使用医疗器械数据, 或者以医疗器械数据为主联合使用非医疗器械数据(如患者主诉信息、检验检查报告结论、电子病历、医学文献等)。 《医疗器械软件注册审查指导原则》规定, 独立软件(SaMD)是指具有一个或多个医疗目的/用途, 无需医疗器械硬件即可完成自身预期用途, 运行于通用计算平台的软件, 可分为通用型独立软件和专用型独立软件。前者如医学图像处理软件、患者监护软件等, 后者有动态心电数据分析软件、眼科显微镜图像处理软件等。软件组件(SiMD)是指具有一个或多个医疗目的/用途, 控制/驱动医疗器械硬件或运行于医用计算平台的软件, 如心电图机、脑电图机所含嵌入式软件(即固件)、CT、MRI图像采集工作站软件等。独立软件作为医疗器械或医疗器械附件, 通常单独注册, 特殊情况可随医疗器械进行注册, 此时虽不控制/驱动医疗器械硬件但从产品角度运行于医用计算平台, 故视为软件组件, 如基于通用、专用数据接口与特定医疗器械联合使用的专用型独立软件可作为附件随医疗器械进行注册。软件组件作为医疗器械或医疗器械部件、附件的组成部分, 不宜单独注册, 需随医疗器械进行整体注册。 《人工智能医用软件产品分类界定指导原则》提出了“人工智能医用软件”的概念, 即基于医疗器械数据, 采用人工智能技术实现其医疗用途的独立软件。 《人工智能医用软件产品分类界定指导原则》第三条“管理属性界定”进一步明确, 人工智能医用软件产品的管理属性界定应基于其预期用途, 结合其处理对象、核心功能等因素进行综合判定。若软件产品的处理对象为医疗器械数据, 且核心功能是对医疗器械数据的处理、测量、模型计算、分析等, 并用于医疗用途的, 符合《医疗器械监督管理条例》有关医疗器械定义, 作为医疗器械管理。 综上, 可将以上概念的关系总结为: 人工智能医疗器械包括作为医疗器械的人工智能独立软件和含有人工智能软件组件的医疗器械, 人工智能医用软件专指独立软件。一般而言, 作为医疗器械管理的人工智能软件均需满足的条件包括: ①处理对象: 医疗器械数据, 即医疗器械产生的用于医疗用途的客观数据; ②作用方式: 生成和使用等, 包括处理、测量、模型计算、分析, 使用方式包括单独和联合使用; ③软件用途: 医疗用途。特别地, 人工智能医用软件还需具备功能独立性, 即无需医疗器械硬件即可完成自身预期目的。另外, 独立软件和软件组件的注册要求上有所不同, 通用型独立软件须单独注册, 专用型独立软件和软件组件可作为附件随医疗器械进行注册, 软件组件作为医疗器械或医疗器械部件、附件的组成部分, 不宜单独注册, 需随医疗器械进行整体注册。 (2) 医疗器械管理类别 由于软件组件作为医疗器械的附件或部件, 不进行单独注册, 因此其也不单独确定管理类别, 而独立软件尤其是通用型独立软件需要进行单独注册, 并涉及单独确定管理类别的问题。 《医疗器械分类规则》依据影响医疗器械风险程度的因素中不同的结构特征和是否接触人体, 将医疗器械的使用形式分为无源接触人体器械, 无源非接触人体器械, 有源接触人体器械和有源非接触人体器械, 其中独立软件属于“有源非接触人体器械”。[9] 再根据对医疗效果的影响程度, 可将有源非接触人体器械分为基本不影响、轻微影响、重要影响。[10] 根据《医疗器械分类判定表》, 对医疗效果有轻微影响的独立软件按Ⅱ类医疗器械管理, 对医疗效果有重要影响的独立软件按Ⅲ类医疗器械管理, 不涉及按照Ⅰ类医疗器械的监管情形。 《人工智能医用软件产品分类界定指导原则》进一步明确人工智能医用软件的医疗器械管理类别应结合产品的预期用途、算法成熟度等因素综合判定。一、对于算法在医疗应用中成熟度高(指安全有效性已得到充分证实)的人工智能医用软件, 其管理类别按照现行的《医疗器械分类目录》和分类界定文件等执行。二、对于算法在医疗应用中成熟度低(指未上市或安全有效性尚未得到充分证实)的人工智能医用软件, 依据其功能又可分为两类管理。若用于辅助决策, 如提供病灶特征识别、病变性质判定、用药指导、治疗计划制定等临床诊疗建议, 按照第三类医疗器械管理; 若用于非辅助决策, 如进行数据处理和测量等提供临床参考信息, 按照第二类医疗器械管理。 而关于预期用途和算法成熟度的认定, 《人工智能医疗器械注册审查指导原则》规定, 辅助决策是指通过提供诊疗活动建议辅助用户(如医务人员、患者)进行医疗决策, 如通过病灶特征识别、病灶性质判定、用药指导、治疗计划制定进行辅助分诊、辅助检测、辅助诊断、辅助治疗等, 相当于用户的“助手”。反之, 仅提供医疗参考信息而不进行医疗决策即为非辅助决策, 包括流程优化、诊疗驱动, 前者如成像流程简化、诊疗流程简化等, 后者如成像质量改善、成像速度提高、自动测量、自动分割、三维重建等, 相当于用户的“工具”。至于算法成熟度, 成熟是指安全有效性已在医疗实践中得到充分证实的情形, 全新是指未上市或安全有效性尚未在医疗实践中得到充分证实的情形。人工智能医疗器械的算法、功能、用途若有一项为全新则属于全新类型, 反之属于成熟类型。 综上, 人工智能独立软件尤其是通用型独立软件的医疗器械管理类别需要根据其预期用途、算法成熟度等因素综合确定。整体上, 独立软件只涉及Ⅱ类和Ⅲ类医疗器械, 不存在Ⅰ类医疗器械的管理情形; 具体而言, 须遵守《人工智能医疗器械注册审查指导原则》和《人工智能医用软件产品分类界定指导原则》的分类原则规定。 2. 人工智能医疗器械的软件审查要求 人工智能医疗器械的特殊监管要求体现在医疗器械的注册审查上, 具体而言是体现在软件审查要求上。本文基于人工智能医疗器械的软件属性, 从生存周期质控, 风险管理开展要求, 重大更新变更注册和网络安全建设与控制四个方面的要求依次梳理其监管框架。 (1) 软件生存周期质控 根据《医疗器械软件注册审查指导原则》, 软件生存周期指软件系统从概念定义至停止使用的时间周期, 包括软件开发策划、软件需求分析、软件设计、软件编码、软件测试、软件发布、软件部署、软件维护、软件停运等阶段。前文所述软件风险中的算法性能和数据质量风险应当在软件生存周期的质控要求中予以考虑。 人工智能算法的类型不同, 根据学习策略可分为有监督学习和无监督学习, 根据学习方法可分为基于模型的算法和基于数据的算法, 根据可解释性可分为白盒算法和黑盒算法。不同算法的特性、适用场景各不相同, 评价重点亦有所侧重, 同时, 不同类型的人工智能算法可组合使用, 需结合各算法特性和算法组合形式进行整体评价。 《人工智能医疗器械注册审查指导原则》以有监督深度学习为例详述人工智能医疗器械生存周期过程质控要求, 并明确其他类型的人工智能算法可参照执行。《深度学习辅助决策医疗器械软件审评要点》把软件设计开发概括为需求分析、数据收集、算法设计、验证与确认等过程, 并规定了深度学习辅助决策软件开发过程的质控要求。随着人工智能在医疗领域应用的深入发展, 医疗细分领域的算法和数据监管要求也将日渐精细化。例如, 2025年初, 国家药监局经公开征求意见和组织专家论证, 确定了《采用脑机接口技术的医疗器械 用于人工智能算法的脑电数据集质量要求与评价方法》推荐性医疗器械行业标准制订计划。 (2) 风险管理开展要求 《人工智能医疗器械注册审查指导原则》明确注册申请人应结合人工智能医疗器械的预期用途、使用场景、核心功能开展风险管理活动, 采取风险控制措施将风险降至可接受水平, 并贯穿于人工智能医疗器械全生命周期过程, 形成记录以供体系核查。若发生算法更新、软件更新, 也应将风险管理贯穿于更新全程, 形成记录以供体系核查。具体而言, 风险管理要求包括: (1)明确算法的软件安全性级别(轻微、中等、严重)并详述判定理由。(2)提供算法风险管理资料, 明确过拟合与欠拟合、假阴性与假阳性、数据污染与数据偏倚(如数据扩增)等风险的控制措施。若无单独文档可提供软件风险管理资料, 并注明算法风险管理所在位置。 根据《医疗器械软件注册审查指导原则》的补充, 对于由风险管理所确定的风险等级判定的初始软件安全性级别, 后续可通过外部风险控制措施(含软件措施、硬件措施)降低。另外, 软件组件需与所属医疗器械整体开展风险管理工作。对于医疗器械软件运行环境的组成部分即外部软件环境, 主要为成品软件, 涉及系统软件、通用应用软件、通用中间件、支持软件, 虽非监管对象, 但需从风险管理角度考虑其对医疗器械软件的影响。 另外, 《移动医疗器械注册技术审查指导原则》要求移动医疗设备的风险管理应当综合考虑其等效的传统医疗器械的风险(如电气安全、生物相容性等)以及所用移动计算终端的风险, 移动独立软件的风险管理应当综合考虑传统独立软件的风险以及所用移动计算终端的风险, 控制型移动医疗附件的风险管理应当结合医疗器械产品进行整体考虑, 数据型移动医疗附件的风险管理应当参照移动医疗设备或移动独立软件的情况。患者使用(特别是在家庭环境使用)的移动医疗器械还应考虑使用环节的风险。 (3) 重大更新变更注册 根据《医疗器械软件注册审查指导原则》, 软件更新是指注册申请人在软件生存周期全过程对软件所做的任一修改, 亦称软件变更、软件维护。软件维护通常与软件更新含义相同, 但可特指发布后软件更新。《人工智能医疗器械注册审查指导原则》规定, 人工智能算法更新属于软件更新范畴, 故算法更新也应遵循软件更新的基本原则及要求。 软件更新从不同角度出发有不同分类方法。从更新内容角度可分为增强类更新和纠正类更新(即软件缺陷修复)。增强类更新又可分为完善型更新和适应型更新, 纠正类更新又可分为修正型更新和预防型更新。从更新结果角度可分为重大更新和轻微更新。 重大软件更新指影响到医疗器械安全性或有效性的增强类更新, 即重大增强类软件更新, 应申请变更注册。轻微软件更新指不影响医疗器械安全性与有效性的增强类更新、纠正类更新, 包括轻微增强类软件更新、纠正类软件更新, 通过质量管理体系进行控制, 无需申请变更注册, 待下次变更注册时提交相应注册申报资料。 (4) 网络安全建设与控制 医疗器械网络安全是指保护医疗器械产品自身和相关数据不受未授权活动影响的状态, 其保密性(Confidentiality)、完整性(Integrity)、可得性(Availability)相关风险在全生命周期均处于可接受水平。 《医疗器械网络安全注册审查指导原则》(2022年修订版)旨在指导注册申请人规范医疗器械网络安全生存周期过程和准备医疗器械网络安全注册申报资料, 同时规范医疗器械网络安全的技术审评要求, 为医疗器械软件、质量管理软件的体系核查提供参考。该原则从医疗器械安全有效性评价角度出发, 对信息安全、网络安全、数据安全不做严格区分, 统一采用网络安全进行表述, 即从网络安全角度综合考虑医疗器械的信息安全和数据安全。《深度学习辅助决策医疗器械软件审评要点》规定, 除考虑软件自身网络安全能力建设外, 还应当在软件全生命周期过程中考虑网络与数据安全过程控制要求, 包括上市前设计开发阶段和上市后使用阶段。 综上, 人工智能在诊疗领域的应用产品风险主要通过人工智能医疗器械相关规定加以监管, 其中包括医疗器械分类监管的一般原则和人工智能医疗器械的特殊监管要求。另外, 国务院办公厅于2024年12月发布《国务院办公厅关于全面深化药品医疗器械监管改革促进医药产业高质量发展的意见》, 明确优化医疗器械标准体系, 研究组建人工智能、医用机器人等前沿医疗器械标准化技术组织。[11]未来, 人工智能医疗器械的技术监管将持续走向精细化, 生产者, 经营者与使用者也将面临更大的挑战。 人工智能介入诊疗的行为风险与监管 (一) 行为风险 1. 违规替代医生诊疗 人工智能虽在医疗活动中可以充当助手和工具的角色, 如在影像初步筛查环节帮助医生快速定位可疑区域, 或是通过大数据分析为疾病流行趋势提供参考。但在针对患者展开实际的诊断与治疗工作时, 尤其是面对罕见病、复杂疑难病症以及个体差异极为显著的病例时, 人工智能缺乏独立、主动的思考能力, 难以依据患者的独特生活背景、过往病史以及细微的身体变化进行全面综合的判断。倘若将患者的生命健康全然托付给人工智能, 鉴于人工智能目前存在算法性能不稳定、数据质量参差不齐、软件更新不及时以及网络安全漏洞等一系列风险, 这必然会对患者的生命健康安全造成难以估量的威胁。 2. 违规自动生成处方 若人工智能自动生成处方, 使患者的生命健康安全完全交由人工智能, 而由于人工智能尚存在包括但不限于算法性能, 数据质量, 软件更新和网络安全等一系列的风险, 势必对患者生命健康安全造成不可预估的威胁, 也严重违反当下医疗常规。例如若算法若存在偏差, 可能会错误评估药物剂量, 导致患者用药不足影响治疗效果, 或用药过量引发严重不良反应。数据质量欠佳则可能因错误数据的输入, 推荐不适合患者体质或过敏史的药物。 3. 知情同意缺失 若医疗机构将人工智能应用于诊疗活动中, 若未充分向患者告知技术存在的局限性以及数据来源情况, 未能让患者清楚了解其中的诊疗风险, 那么就可能违反知情同意这一重要原则。技术局限性方面, 人工智能可能无法准确解读一些特殊症状背后的深层病因, 而数据来源若涉及多方采集且未经严格筛选, 其准确性和安全性都存疑。此外, 若人工智能辅助诊疗属于特殊检查或特殊治疗项目, 按照规定, 必须取得患者或其近亲属的明确同意。如在一些基因检测结合人工智能分析的诊疗项目中, 涉及患者基因数据等敏感信息, 风险性高且收费也较高, 若未经同意擅自开展, 构成侵犯患者的知情同意权。 4. 违规收费风险 当前, 我国的医保体系尚未明确将人工智能医疗产品纳入报销范围。医保报销有着严格的准入标准, 需考量产品的临床有效性、安全性以及成本效益等多方面因素。若医疗机构违规对这类产品进行收费, 极有可能涉及医疗欺诈行为, 或者违反市场监督管理相关规定。 (二) 行为风险的行政监管 在人工智能的法律主体地位尚未得到普遍认同的当下, 其并不能作为法律意义上的行为主体, 所谓有关人工智能的行为风险, 是指人工智能提供者和使用者的行为带来的法律风险。《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》分别对深度合成和生成式人工智能服务的提供和使用行为提供了规范指引。人工智能在诊疗领域的应用若涉及到以上技术或服务, 自然应当遵守相关规定, 本文重点讨论其在医疗领域的特殊行为需遵守的规范, 即介入诊疗活动的严格监管。 1. 诊疗资质监管 《中华人民共和国医师法》(以下简称《医师法》)规定, 医师经注册后, 可以在医疗卫生机构中按照注册的执业地点、执业类别、执业范围执业, 从事相应的医疗卫生服务。[12]医师是指依法取得医师资格, 经注册在医疗卫生机构中执业的专业医务人员, 包括执业医师和执业助理医师。[13]其次, 《医疗机构管理条例》规定, 任何单位或者个人, 未取得《医疗机构执业许可证》或者未经备案, 不得开展诊疗活动。[14]医疗机构必须按照核准登记或者备案的诊疗科目开展诊疗活动。[15]另外, 《互联网诊疗监管细则(试行)》明确规定, 医师接诊前需进行实名认证, 确保由本人提供诊疗服务。其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务。[16]以上规定限制了诊疗活动的主导者只能是取得资质和医疗卫生机构及医师。 如前文所述, 人工智能介入诊疗活动的应用场景日益丰富, 大幅提高了诊疗效率和准确率, 但也引发了人工智能从“工具”到“替代”的忧思。若放任人工智能肆意扩大其在诊疗活动中的影响, 取代医师对疾病作出判断和决策, 患者生命健康权益将受到严重威胁, 故限制人工智能对诊疗活动的介入边界尤为重要, 防止完全依赖人工智能实施独立的诊断或治疗活动。 由于诊疗活动含义的丰富性, 人工智能在其中发挥作用的过程复杂性, 以及科技公司与医疗机构合作模式的多元性, 判断人工智能的提供或使用行为是否构成独立的诊断或治疗活动, 需要根据对诊疗活动的理解, 逐一分析每个环节的行为性质, 并从单独和整体两个维度, 分别判断其是否符合诊疗活动的构成要件。本文以“临床用药智能辅助”这一应用场景为例, 分析从数据采集, 数据分析到药物推荐一系列过程的性质。 就诊断而言, 其核心在于“认知和判断”。单独来看, 单纯的检测以及比对, 行为上采用了检查的医学手段, 但目的只为得到客观的检查数据和比对结果, 不涉及判断过程, 不具有诊断意义。但若继续对客观结果进行医学解读, 作出对患者所患疾病及其病因、部位、性质、功能损害程度等医学判断, 且面向患者提供这一结论, 则构成诊断, 若面向医生提供, 则主导判断的仍然是医生, 作出最终诊断的也是医生。另外, 检查固然是诊断的前提, 但诊断的核心在于判断, 不论是基于外界提供的数据进行判断, 还是基于自己检测得到的数据进行判断, 都不影响诊断行为的成立。整体来看, 只要涉及客观数据的医学解读和判断, 则在此之前的检查属于诊断的前置环节, 将构成诊断的一部分。就治疗而言, 其核心在于“决策和干预”。因此, 若使用人工智能直接面向患者推荐药物, 则取代了医生的决策, 类似于处方行为, 属于治疗, 若面向医生, 医生将对报告结论进行审查, 并主导最终决策, 该报告的目的是提供临床用药指导或建议, 而非治疗。 综上, 我国对诊疗资质采取“单位+个人”的双重监管, 单位须取得《医疗机构执业许可证》, 个人须取得医师执业证书, 否则不得从事医师执业活动。[17]并且, 取得执业证书的医师只能在取得执业许可的医疗机构中按照注册的执业地点、执业类别、执业范围执业, 从事相应的诊疗服务。人工智能介入诊疗活动, 提高效率和准确率的同时, 仍须遵守诊疗资质的相关监管规定, 不得代替医师独立实施诊疗活动, 不得以技术美名掩盖非法行医的实质。 2. 诊疗规范监管 我国对诊疗活动的监管不仅体现在资质要求上, 还落实到了具体诊疗规范中。即便利用人工智能辅助诊疗的医疗机构已经取得执业许可, 仍要保证在人工智能介入诊疗活动的过程中遵守诊疗规范, 不因人工智能的介入导致诊疗质量的下降。 一、遵守诊疗技术规范。《医师法》规定, 医师在执业活动中应遵循临床诊疗指南, 遵守临床技术操作规范和医学伦理规范等。[18]医师应当使用经依法批准或者备案的药品、消毒药剂、医疗器械, 采用合法、合规、科学的诊疗方法。[19]另外, 确保诊疗安全有效、经济合理。《医师法》规定医师应当坚持安全有效、经济合理的用药原则, 遵循药品临床应用指导原则、临床诊疗指南和药品说明书等合理用药。[20] 二、禁止使用人工智能自动生成处方。根据《互联网诊疗监管细则(试行)》明确规定, 医疗机构开展互联网诊疗活动应当严格遵守《处方管理办法》等规定, 加强药品管理。处方应由接诊医师本人开具, 严禁使用人工智能等自动生成处方。[21]以上规定虽然是在互联网诊疗监管细则中得以明确, 但人工智能不得代替医生实施独立诊疗的原则在前文所述的《医师法》、《医疗机构管理条例》等上位法诊疗资质相关条文中皆有体现。2007年施行的《处方管理办法》所称处方是指由注册的执业医师和执业助理医师(以下简称医师)在诊疗活动中为患者开具的、由取得药学专业技术职务任职资格的药学专业技术人员(以下简称药师)审核、调配、核对, 并作为患者用药凭证的医疗文书。[22]《处方管理办法》还规定医疗机构使用未取得处方权的人员、被取消处方权的医师开具处方, 情节严重的, 吊销其《医疗机构执业许可证》; 医师未按照本办法规定开具药品处方, 情节严重的, 吊销其执业证书。以上都呈现了处方权的严格监管, 禁止使用人工智能等自动生成处方。 三、遵从知情同意原则。《医疗机构管理条例》规定医务人员在诊疗活动中应当向患者说明病情和医疗措施。需要实施手术、特殊检查、特殊治疗的, 医务人员应当及时向患者具体说明医疗风险、替代医疗方案等情况, 并取得其明确同意; 不能或者不宜向患者说明的, 应当向患者的近亲属说明, 并取得其明确同意。因抢救生命垂危的患者等紧急情况, 不能取得患者或者其近亲属意见的, 经医疗机构负责人或者授权的负责人批准, 可以立即实施相应的医疗措施。[23]《医疗机构管理条例实施细则》进一步明确, 特殊检查、特殊治疗: 是指具有下列情形之一的诊断、治疗活动: (一)有一定危险性, 可能产生不良后果的检查和治疗; (二)由于患者体质特殊或者病情危笃, 可能对患者产生不良后果和危险的检查和治疗;(三)临床试验性检查和治疗; (四)收费可能对患者造成较大经济负担的检查和治疗。若人工智能辅助诊疗服务项目构成特殊检查或治疗, 医务人员须根据法律规定, 履行告知义务, 取得患者或其近亲属的明确同意。 四、不得违规收费。人工智能对诊疗活动中的介入会增加或降低诊疗成本不能一概而论, 但可以明确的是, 目前国家医保尚未明确纳入任何人工智能医疗产品。例如, 2024年11月《放射检查类医疗服务价格项目立项指南(试行)》发布时, 国家医保局特别注明其中涉及的“人工智能辅助诊断”扩展项不得与主项目同时收费。未来, 人工智能医疗产品是否会像一般药品或医疗服务项目一样纳入医保范围, 有待技术发展和实践检验。当下而言, 应本着安全有效和经济合理的原则, 站在有益于患者健康和减轻经济负担的立场, 理性选择和使用人工智能辅助诊疗。 结语 人工智能技术与医疗服务的深度融合, 正在重塑现代医学的实践范式。本文研究表明, 人工智能介入诊疗活动在提升效率、优化决策的同时, 也因其技术复杂性衍生出产品风险、行为失范等多重挑战。要实现人工智能与医疗服务的良性互动, 必须构建起覆盖产品全生命周期、贯穿诊疗行为全过程的立体化监管体系: 既要依托《医疗器械监督管理条例》的系列配套技术法规强化产品风险管控, 也要通过完善诊疗资质认证、规范诊疗规范来守住行为监管底线。未来, 随着生成式人工智能、脑机接口等技术的加速渗透, 医疗监管需持续强化跨学科协同机制, 既要保持对技术创新的包容审慎态度, 更要坚守保障患者安全的价值立场。唯有通过法律规制、技术治理与伦理规范的协同发力, 才能真正实现人工智能赋能医疗健康的美好愿景, 让科技真正成为守护人民生命健康的可靠力量。 通力合规团队运用其全面的能力和经验, 为国内外企业客户提供覆盖他们经营所涉及的各项合规法律服务, 除反垄断、反不正当竞争、反腐败反商业贿赂、白领犯罪等传统合规业务之外, 也包括数据安全和隐私保护、出口管制与贸易制裁以及安全健康环保等新兴合规业务。通力合规团队不仅擅长帮助企业建设合规制度体系以降低风险, 而且能为企业应对行政检查等突发事件提供务实有效服务。 本文转载自“通力律师” END
下一条：暂无
