咨询健康问题、分析体检报告和获取用药指南。然而,这一趋势也带来了一些新的挑战。近期,有媒体对10款AI健康助手进行了测试,发现虽然大部分AI能够识别并纠正健康谣言,但部分AI未能有效识别夸大宣传的“特效药”,甚至将其作为分析依据。
对于年轻人而言,这些AI健康助手是随时可查的“健康百科”;对于老年人来说,它们则是跨越数字鸿沟的“医疗翻译官”。AI健康助手能够帮助用户分析体检报告、提醒用药时间、解读专业术语以及推荐养生方法等,为许多老人带来了科技带来的健康关怀。这种低成本、易操作的健康管理方式,已被越来越多的人接受。
然而,此次测评暴露出一个关键风险点,那就是部分AI工具未能有效识别夸大宣传的“特效药”。有些因夸大宣传被处罚过的所谓“特效药”,部分通用大模型不仅未提示风险,反而将产品宣传广告作为分析依据,甚至暗示其可替代正规治疗。这种“只照着广告念”的回答方式,其实是将虚假信息经过技术包装后使其二次传播。
为了防止AI健康助手成为虚假宣传的“帮凶”,必须从技术和管理两端发力。在技术层面,建立医疗信息核验系统,强制要求AI在提供药品建议时,必须交叉验证信息来源,对曾经受过处罚的产品自动标注风险提示。如果出现多人举报AI健康助手推送误导信息现象,则应暂停提供相关内容,并迅速开展技术升级改造。
在管AG真人官方入口理层面,需明确AI医疗应用的责任边界,要求应用管理方完善内容审核机制,对涉及药品推荐的功能进行专项备案,避免AI助手随口一说、事后不管。当前市面上这类AI产品品类丰富,既有通用大模型工具,也有专业医疗工具。这些产品在健康科普、慢性病管理等方面已展现出实用价值,其超强的功能让人惊叹。
正如合格的医生既要会看病,更要能辨别伪科学一样,AI健康助手的基本功里,也要包含对虚假信息的快速识别与拦截能力。唯有如此,AI不会成为健康风险的放大器,而是真正服务于健康与医疗。你认为如何才能进一步提升AI健康助手的可靠性?