杭州宣判“AI幻觉”案:AI不是内容失实的“免责金牌”
创始人
2026-02-03 21:50:02
0次

中新网杭州2月3日电(郭其钰)一篇由AI自动生成的文章,将无关公司包装成知名企业的“重要子公司”,引发不正当竞争纠纷。博主却认为内容是AI写的,其不应该负责。

记者3日从杭州市滨江区人民法院了解到,该院审结了这起因传播AI幻觉内容引发的不正当竞争纠纷案,明确生成式人工智能的使用者必须扛起“内容审核”与“显著标识”的双重责任,为AI时代的内容创作与传播划定清晰的责任边界。

案件庭审现场视频截图。滨江法院 供图

据了解,原告是在电商领域具有极高知名度的公司。被告李某是百度百家号某账号的运营者,该账号被认证为电商推广号,拥有数万粉丝,通过商业推广、带货等方式营利。

2023年12月30日,李某使用某AI平台生成一篇题为《某数字控股有限公司是真的吗》的文章,称某数字控股(深圳)有限公司是原告公司的重要子公司,是其在数字化转型过程中的重要布局。随后,李某自行添加带有原告公司标识的配图,并将文章发布在自己的百家号上。实际上,文中公司与原告公司没有任何关联。

原告公司认为文内含有严重失实信息,容易误导公众,损害其商业信誉与竞争利益,遂以不正当竞争为由,将李某诉至法院,要求其消除影响、赔偿损失。

法庭上,李某辩称,涉案文章完全由AI生成,自己未作修改,且在后台标注了“由某AI平台生成”,主观上没有侵权故意。

法院认为,生成式人工智能作为内容生产工具,“AI幻觉”现象在现阶段难以避免,但这恰恰要求使用者必须承担起最终的把关责任。特别是像李某这样拥有数万粉丝、通过商业推广营利的自媒体运营者,更不能以内容为AI生成作为推卸责任的理由。

法院最终认定,被告行为违背了诚信原则和商业道德,扰乱了公平的市场竞争秩序,损害了原告公司的商业信誉,构成不正当竞争行为。综合考虑原告知名度、被告过错、行为后果及维权成本等因素,判决被告在其账号内连续3日发布声明消除影响,并赔偿3万元。

“当前,生成式人工智能的‘幻觉’现象难以避免,它可能流畅地输出看似合理却并不真实的信息。但技术的局限,不应成为使用者规避责任的‘避风港’。法律所关注和规制的,始终是人的行为。”杭州市滨江区人民法院白马湖人民法庭(数据知识产权法庭)庭长倪晓花表示。

浙江大学光华法学院教授、博导张伟君认为,在当前难以完全避免“AI幻觉”现象的技术条件下,此案判决适时和恰当地确立了因人工智能生成内容存在信息错误而导致侵权损害的司法裁量标准,为自媒体内容提供者发布人工智能生成内容提供了清晰和准确的司法指引。(完)

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...