7月10日,北京协和医院发布严正声明称,网传该院多名护士十年间为患者垫付医药费等不实情节为AI生成的虚假内容。
这并非个例。一段时间以来,本应服务人民健康、赋能医疗事业发展的AI技术,正被一些人异化为批量制造谣言、蹭流量谋利的工具,不仅误导公众认知,加剧安全隐患,更损害行业公信力,破坏医患关系。
医疗领域AI造假形式多样,乱象频发:
——移花接木伪造权威,AI换脸冒名专家带货牟利。不法分子利用人工智能,将公开视频中的知名专家形象和声音移花接木到新视频中为商品“背书”,普通人难以分辨真伪。北京协和医院临床营养科主任医师于康的形象曾被AI技术盗用,在多个减重科普视频中“出镜”推销产品,经本人核实,他从未参与录制此类视频,相关形象和声音均为AI伪造。
——滥竽充数批量生产,利用AI生成虚假科普内容。部分账号利用AI工具批量生成医疗科普内容,看似专业实则漏洞百出、互相矛盾。日前上海警方破获一起自媒体案件,无医学背景的运营者用AI批量生成虚假医疗科普文章,目的是招揽病人线下就医。
面对此类乱象,多方共治已成为遏制医疗领域AI造假的必然趋势,亟待各方协同发力,向AI造假行为亮出“红牌”。
市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
来源:市场资讯