“我家里人都分不清是不是真是我了。”近日，因本人形象被盗用于广告宣传，演员王劲松下场“打假”。

随着AI（人工智能）发展，这种“把我AI了”问题已不新鲜。此前，周星驰工作室也公开表示周星驰人脸存在被滥用的风险。

从假冒图片到AI换脸、换口型，AI“魔改”内容的仿真感越来越强。当人们沉浸在视频生成AI带来的视觉盛宴时，乱象监管同样被推至台前：AI篡改图片、视频的法律边界在哪？AI假图如何系统治理、从源头规范？

【代表委员圆桌】

钟铮 全国人大代表、美的集团副总裁

高洁 全国政协委员、陕西省人民检察院副检察长

齐向东 全国政协委员、奇安信集团董事长

AI造假，本质是技术红利碰撞版权规则

高洁：随着人工智能快速发展与广泛应用，AI生成图片在电商领域普及应用，显著提升了商品展示效率与行业运营效能。与此同时，AI生成虚假图片乱象日益突出，扰乱了市场秩序、侵害消费者合法权益。

在电商领域，AI生成虚假图片的乱象影响了市场秩序、侵害消费者合法权益，部分不良商家利用AI制作虚假宣传图、过度渲染效果图，引发“图文不符”“货不对板”等消费纠纷；少数不法分子通过AI伪造商品瑕疵图，恶意退款、实施诈骗，给正规商家造成经济损失。

齐向东：AI“魔改”视频的现象，本质是技术红利和版权规则的碰撞。一方面，AI技术快速迭代，让普通人也能轻松实现内容创作、二次改编；另一方面，有人借着AI肆意篡改、盗用、恶搞，严重侵犯原创的合法权益。久而久之，没人愿意再做原创，最终伤害的是整个行业的活力。

法律责任界定较为模糊，电商平台应承担“打假”责任

钟铮：数字人乱象首先是因为我们的法律法规体系不完善，另外这背后涉及肖像权、知识产权、著作权等方面，如何对人工智能合成内容进行定义需要明确。

加强数字人直播管理，应压实多方主体责任，加强跨部门协同监管与公众监督。督促商家、平台、AI工具提供方履行各自主体责任，明确各方在内容审核、标识合规、权益保护等方面的义务；畅通用户举报渠道，鼓励公众参与监督；建立网信、广电、市场监管等部门间的常态化协同监管机制，统一规则，共享数据，联合执法，形成监管合力。

“眼见为实”彻底终结，AI生成内容要戴上紧箍

高洁：由工信部门牵头，加大技术研发支持力度，支持科研机构与企业开展联合攻关，研发具有自主知识产权的AI生成内容标识、检测、溯源技术，建设统一的AI生成内容标识核验公共平台。

由网信、工信、市场监管等部门联合制定电商领域AI生成内容管理细化规定，明确AI图像显式、隐式标识要求，对重点品类强制使用不可篡改标识，界定AI“假图”违法违规情形，建立阶梯式处罚机制，强化法律刚性约束。

钟铮：加快推进人工智能法等相关立法进程，设立数字人直播专项管理条款；推行数字人注册备案制度，强制公示其技术生成属性和背后运营主体信息，做到“数字形象可标识、责任主体可追溯”。修订《消费者权益保护法》《广告法》等，明确将数字人直播纳入监管范畴，严厉打击虚假宣传、仿冒名人等消费欺诈行为。同时，完善知识产权与人格权相关法律法规，明确数字人制作中真人肖像、声音、个人信息等的授权使用边界，加大对无授权使用行为的处罚力度，保障权利人合法权益。

齐向东：在深度伪造技术面前，“眼见为实”彻底终结，普通人要做到“一看二查三防四维权”，简单实用。

一是看细节，找破绽。在观看视频时，可以留意平台提示，或者自己仔细甄别一些蛛丝马迹。比如光影是不是自然，人物面部的口型与声音是不是完美同步、眼神僵不僵硬，背景是否清晰合理等。

二是查源头，信权威。增强信息免疫力，不轻信非官方、无信源的“爆料”“内幕”“名人喊话”，对于诱导投资、转账等内容，更要提高警惕，通过官方渠道进行二次核实，不要被牵着鼻子走。

三是防泄露，护隐私。不随意公开高清正面照、原声视频，关闭不必要的人脸以及声音采集权限，减少个人信息被用于AI训练与伪造的风险，避免卷入诈骗案件。

四是会维权，快处置。当发现自己被AI伪造侵权，要第一时间截图录屏固定证据，向平台投诉下架，向网信、公安部门举报；当自己遭受名誉损害、诈骗、敲诈勒索，更要果断报警并提起法律诉讼。

新京报贝壳财经记者/张晓慧 罗亦丹 陈维城 徐雨婷 编辑/王进雨 制图/师春雷 校对/刘军