别让AI健康助手成为药品夸大宣传的帮凶
创始人
2025-07-17 19:16:07
0

如今,越来越多的老年人开始用AI健康助手咨询健康问题、分析体检报告、获取用药指南,但与此同时,他们也成为各类健康谣言的主要受害者。近期,有媒体对10款AI健康助手进行了测试,发现被测试的AI基本上能对谣言进行识别纠偏,但部分未能识别网传“特效药”的夸大宣传风险。从内容上看,大部分对“特效药”的效果分析仅基于宣传广告,无法为用户提供合理建议。

AI健康助手已成为民众求医问药的重要工具。对年轻人而言,它们是随时可查的“健康百科”;对老年人来说,它们是跨越数字鸿沟的“医疗翻译官”。分析体检报告、提醒用药时间、解读专业术语、推荐养生方法等,AI健康助手让许多老人感受到科技带来的健康关怀。这种低成本、易操作的健康管理方式,已被越来越多的人接受。

然而,此次测评暴露出一个关键风险点,那就是部分AI工具未能有效识别夸大宣传的“特效药”。有些因夸大宣传被处罚过的所谓“特效药”,部分通用大模型不仅未提示风险,反而将产品宣传广告作为分析依据,甚至暗示其可替代正规治疗。这种“只照着广告念”的回答方式,其实是将虚假信息经过技术包装后使其二次传播。一旦AI成为医药广告的“智能复读机”,其公信力必然大打折扣。

若AI健康助手持续充当虚假宣传的“帮凶”,后果不堪设想。老年群体本就是健康谣言的主要受害者,他们更容易相信“一吃就灵”“彻底根治”等话术。当AI用看似专业的语气复述虚假信息时,不少老年人很难分辨这是广告还是科学建议。尤其是,一些AI虽然在对话的末尾加上“请遵医嘱”等提醒,但是在前文用大量篇幅渲染产品功效,这种“先误导再甩锅”的操作,更容易混淆视听。

拦截误导信息应成为AI健康助手的基本功,为此需从技术和管理两端发力。技术层面,建立医疗信息核验系统,强制要求AI在提供药品建议时,必须交叉验证信息来源,对曾经受过处罚的产品自动标注风险提示。如果出现多人举报AI健康助手推送误导信息现象,则应暂停提供相关内容,并迅速开展技术升级改造。管理层面,需明确AI医疗应用的责任边界,要求应用管理方完善内容审核机制,对涉及药品推荐的功能进行专项备案,避免AI助手随口一说、事后不管。

当前市面上这类AI产品品类丰富,既有通用大模型工具,也有专业医疗工具。这些产品在健康科普、慢性病管理等方面已展现出实用价值,其超强的功能让人惊叹。但正如合格的医生既要会看病,更要能辨别伪科学一样,AI健康助手的基本功里,也要包含对虚假信息的快速识别与拦截能力。唯有如此,AI不会成为健康风险的放大器,而是真正服务于健康与医疗。(唐传艳)

来源:北京青年报

相关内容

名雕股份成立科技新公司,含...
企查查APP显示,近日,深圳市鲸跃云科科技有限公司成立,注册资本1...
2026-05-27 21:47:16
AI时代,大厂重回PC战场
文|识礁Farsight 随着AI技术应用驶入深水区,曾一度被视...
2026-05-27 21:33:49
绿源集团控股与深开鸿建立战...
记者从绿源集团控股(02451.HK)获悉,该公司与深圳开鸿数字产...
2026-05-27 20:39:37
淮北矿业涨9.96%,开源...
今日淮北矿业(600985)涨9.96%,收盘报14.13元。 2...
2026-05-26 02:00:56
安克创新:首款AI音频芯片...
大河财立方5月24日消息,安克创新(300866.SZ)发布投资者...
2026-05-25 04:38:17
信德新材涨6.48%,开源...
今日信德新材(301349)涨6.48%,收盘报52.58元。 2...
2026-05-23 22:26:35

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯(记者魏蔚)9月20日,阿里云无影AI云电脑在2024云栖大会上展出,该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电,2025世界移动通信大会(MWC 2025)上,荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息,摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息,作为国产GPU的杰出代表,摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
谷歌打磨 Gemini AI ... IT之家 8 月 31 日消息,谷歌于 8 月 27 日发布博文,宣布旗下 Gemini AI 支持...
微软 Azure AI 语音服... IT之家 8 月 23 日消息,微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
青云QingCloud Kub... 日前,青云科技宣布开源 Thanos 的企业级发行版 Whizard,为企业带来真正高可用、可扩展、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
Macos系统上一款强大的卸载... App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具,以帮助您完全卸载...