今年政府工作报告多次提及人工智能（AI）应用，并部署“深化拓展‘人工智能+’，促进新一代智能终端和智能体加快推广”。
AI赋能医疗是我国卫生健康事业换道超车、引领国际的必争之地，当前，从疾病筛查、诊断、治疗，到药物研发、健康管理、医疗资源配置，AI已深刻重塑医疗健康生态。
全国政协委员，中国科学院院士、浙江大学医学院附属第二医院院长王建安认为，我国以公立医院为主体的医疗服务体系具备鲜明的体制机制优势，且在单点应用领域基础扎实，有望在AI加持下向“领跑”跃升。
AI医疗既要“跑得快”，也要“行得稳”。今年全国两会上，王建安特别关注加强人工智能医疗健康应用安全保障体系建设的问题。
他向《中国经营报》记者表示，医疗领域具有高专业性、高风险性与强伦理属性，由于当前我国在制度设计、技术标准、持续监管、主动防御等方面尚未形成系统完备的安全保障体系，因此，需坚持以患者为中心，为AI医疗高质量发展筑牢底座。
与传统医疗器械不同，AI系统具有算法迭代性、数据依赖性、模型漂移性和“黑箱”特征，这也使得其安全风险呈现隐蔽化、动态化、复杂化趋势。
王建安指出，通过大量调研发现，算法可解释性不足、数据隐私保护压力大、模型运行缺乏持续监测、网络新型安全威胁日益凸显等问题，已成为当前AI医疗面临的主要安全隐患。
他举例称，当前部分基于大模型的医疗AI产品决策过程不透明，系统通常只给出风险评分或概率区间，导致医生难以判断AI算法及结论是否符合临床实际，出现结果偏差时也难以追溯原因。尤其在肿瘤辅助诊断、心脑血管事件预警等高风险领域，算法“黑箱化”问题已成为AI推广应用的关键瓶颈。
临床上AI“犯错”的案例并不鲜见。记者注意到，此前有报道称，某三甲医院出具的一份活检报告显示“良性特征”，但电脑中的AI诊断却提示“恶性肿瘤概率87%”。
此外，由于医疗AI系统依赖海量敏感数据进行训练与推理，数据在采集、传输、存储、标注、共享全链条中存在多重安全隐患，在实际运行中，存在“重准入、轻运行”的监管盲区，并已成为网络攻击的高价值目标，一旦AI诊断输出遭受恶意干扰，将直接危及患者生命安全。
安全是AI医疗的生命线，针对上述问题，王建安建议，建立医疗AI安全可追溯性强制标准，将“可解释性、可追溯性、可审核性”作为高风险医疗AI产品准入的核心要求，强制引入“人在回路”安全机制，特别是对高风险决策场景，要确保临床医生始终掌握最终决策权。
同时，要强化医疗数据全链条安全治理，他建议完善数据分类分级管理制度，明确用于算法训练与验证的数据脱敏标准和最小必要原则，严格界定科研、教学与商业应用的边界，建立数据使用负面清单管理制度，让数据在安全的轨道上有序流动。
王建安强调，要构建医疗AI全生命周期安全监管体系，建立准入前安全压力测试机制，强化运行阶段持续监测，推动医疗机构建立AI系统运行监测平台，构建“国家—省—医疗机构”三级联动监测网络，实现重大安全事件的快速上报和协同处置。
他特别提到，可以建立强制复评与熔断机制，一旦监测到已上线模型在关键安全指标上出现显著下降或发生严重安全事件，自动触发熔断机制暂停应用。
他指出，要从根本上加强网络安全与系统防护能力建设，并建议将医疗AI系统纳入基础设施重点保护范围，探索医疗AI系统安全隔离机制，独立部署高风险AI模块，通过建立国家级医疗AI安全应急响应中心，实现在国家层面从被动应对向主动防御的转变。
星速优配提示：文章来自网络，不代表本站观点。
