AG(中国官方网站)真人-控股有限公司

『新闻中心』 获取AG真人最新动态,包括公司战略、行业合作等,实时更新健康产业趋势,为企业及用户提供前沿资讯。

AI健康助手需加强虚假信息拦截保障老年人用药安全

2025-07-20  

  

AI健康助手需加强虚假信息拦截保障老年人用药安全(图1)

  咨询健康问题、分析体检报告和获取用药指南。然而,这一趋势也带来了一些新的挑战。近期,有媒体对10款AI健康助手进行了测试,发现虽然大部分AI能够识别并纠正健康谣言,但部分AI未能有效识别夸大宣传的“特效药”,甚至将其作为分析依据。

  对于年轻人而言,这些AI健康助手是随时可查的“健康百科”;对于老年人来说,它们则是跨越数字鸿沟的“医疗翻译官”。AI健康助手能够帮助用户分析体检报告、提醒用药时间、解读专业术语以及推荐养生方法等,为许多老人带来了科技带来的健康关怀。这种低成本、易操作的健康管理方式,已被越来越多的人接受。

  然而,此次测评暴露出一个关键风险点,那就是部分AI工具未能有效识别夸大宣传的“特效药”。有些因夸大宣传被处罚过的所谓“特效药”,部分通用大模型不仅未提示风险,反而将产品宣传广告作为分析依据,甚至暗示其可替代正规治疗。这种“只照着广告念”的回答方式,其实是将虚假信息经过技术包装后使其二次传播。

  为了防止AI健康助手成为虚假宣传的“帮凶”,必须从技术和管理两端发力。在技术层面,建立医疗信息核验系统,强制要求AI在提供药品建议时,必须交叉验证信息来源,对曾经受过处罚的产品自动标注风险提示。如果出现多人举报AI健康助手推送误导信息现象,则应暂停提供相关内容,并迅速开展技术升级改造。

  在管AG真人官方入口理层面,需明确AI医疗应用的责任边界,要求应用管理方完善内容审核机制,对涉及药品推荐的功能进行专项备案,避免AI助手随口一说、事后不管。当前市面上这类AI产品品类丰富,既有通用大模型工具,也有专业医疗工具。这些产品在健康科普、慢性病管理等方面已展现出实用价值,其超强的功能让人惊叹。

  正如合格的医生既要会看病,更要能辨别伪科学一样,AI健康助手的基本功里,也要包含对虚假信息的快速识别与拦截能力。唯有如此,AI不会成为健康风险的放大器,而是真正服务于健康与医疗。你认为如何才能进一步提升AI健康助手的可靠性?

上一篇:AI健身助手官方版 v102
上一篇:湖南医疗界首次“人机对战”精彩上演 探索“AI+医疗”未来图

猜你喜欢

  • 警惕!AI助手的“阴暗面”!

    警惕!AI助手的“阴暗面”!

         数字化时代,人工智能(AI)正逐渐渗透到千行百业和日常生活中,推动经济社会高质量发展。值得注意的是,AI工具若被不法分子利用,会对我关键数据、基础设施、社会秩序造成损害,成为威胁国家安全的“隐形武器”。   AI技术中...
  • 独家|字节首款AI医疗助手App“小荷AI医生”上线大厂竞逐

    独家|字节首款AI医疗助手App“小荷AI医生”上线大厂竞逐

      Tech星球独家获悉,字节首个AI医疗助手独立App“小荷AI医生”已于近日上线,从产品定位看,这是一个健康管家,能够实现健康问题咨询和报告解读等服务。   Tech星球实测发现,通过手机注册登录“小荷AI医生”后,会直接进入到对话界面,使用模式类似于市面上的AI助手,用户可以向其询问相关的医...
  • AI赋能健康专业大模型、智能体多场景应用

    AI赋能健康专业大模型、智能体多场景应用

      中新网上海6月2日电 (记者 陈静)记者2日获悉,随着人工智能的发展,在上海,AI在多个疾病诊疗领域不仅成为临床医生的得力助手,还将成为学校、社区、家庭开展健康科普的好帮手。   专注于儿童脑健康的AI大模型“启智”在上海启动。复旦大学、复旦大学附属儿科医院与相关科技企业共同取得的创新成果让儿童脑健康...
  • AI化身“助手”人類學習能力會變弱嗎?

    AI化身“助手”人類學習能力會變弱嗎?

      今年6月10日,美國麻省理工學院媒體實驗室科學家發布一項研究稱,過度依賴ChatGPT等人工智能(AI)助手可能削弱批判性思維能力。腦電圖顯示,使用AI助手完成論文的學生,其大腦活躍度顯著低於通過搜索引擎或自主思考完成任務的參與者。研究發現,AI助手使用者在神經反應、語言表達和行為表現上均呈現弱勢,具體表現...

手机扫一扫添加微信