近期,网信部门针对利用AI(人工智能)仿冒公众人物直播营销乱象展开专项整治行动,严厉处置“百货超市小店”“娜娜好物联盟”“环球护肤美妆甄选”等一批违法违规网络账号,累计清理相关违规信息8700余条,处置仿冒公众人物账号1.1万余个。
近年来,在AI技术驱动下,虚拟数字人实现了由静态向动态、拟人化向真人化、单向功能向交互功能的跨越式发展,并在新闻报道、影视制作等多个领域大放异彩。然而,随之出现的AI仿冒乱象也对社会伦理秩序与法律规制体系提出了严峻挑战。利用AI仿冒公众人物直播营销,是指借助深度伪造、语音合成、形象模拟等AI技术,在未经授权的情况下,擅自对公众人物的外貌、声音、行为等特征进行高精度模拟,生成与该公众人物高度仿真的虚拟数字人,进而开展直播营销活动,其目的是利用公众人物的社会声誉、粉丝信任关系实现商业流量的不当攫取。
与传统虚假宣传相比,AI仿冒具有两个显著新特征:一是能够近乎1:1精准复刻公众人物的静态形象与动态行为,迷惑性更强;二是实施成本低,加之网络直播具有实时性和广泛传播性,相关营销视频内容能在短时间内快速扩散,造成规模化负面影响,危害性更大。例如,某平台今年10月启动“仿冒名人宣传”专项治理行动,仅一个多月就处置违规账号1.1万个;而在此前央视曝光的多起利用AI技术仿冒奥运冠军全红婵、孙颖莎、王楚钦等名人推销农产品的事件中,某账号仿冒全红婵的视频点赞数高达1.1万,相关商品销量更是突破4.7万件,其危害程度可见一斑,这也愈发凸显出法律规制的必要性和紧迫性。
利用AI仿冒公众人物直播营销涉及人格权侵害、平台责任、消费者权益以及反不正当竞争等多个法律领域,法律规制需多管齐下:
在人格权保护方面,未经公众人物同意而擅自使用其姓名、肖像、声音等人格要素生成虚拟数字人牟利,符合民法典中姓名权、肖像权以及声音权益侵权的构成要件;若该行为导致公众人物社会评价降低,还可能构成名誉权侵权。被侵权人有权追究行为人的侵权责任。
在平台责任方面,电商平台作为网络服务提供者负有相应的注意义务。电商平台接到消费者或公众人物本人的侵权通知后,应履行核实义务并采取下架、清退等必要措施处置涉事商家。电商平台具有足够的技术手段进行真伪识别,且这种定点清查不会造成不合理负担。同时,考虑到AI仿冒行为低成本、高频发的特点,单纯依靠被侵权人定点反馈无法形成有效防范机制,而要求平台全时段无缝监测又不切实际,因此平台“事前主动巡查+事后及时处置”是较为可行的做法。
在消费者权益保护以及反不正当竞争方面,不法商家通过AI仿冒公众人物进行直播带货,恶意隐瞒“带货主播”的虚拟属性,误导消费者将虚拟形象等同于公众人物本人,在商品与公众人物之间制造虚假关联诱导交易,既侵害了消费者知情权,也违反广告法、反不正当竞争法中关于禁止虚假宣传、混淆行为的规定,情节严重的还可能触犯刑法中的虚假广告罪、诈骗罪。
当然,要从根本上遏制此类乱象,需构建更为完善的源头预防与事中监管机制。在源头预防阶段,关键是保障AI生成内容合法合规。这就要求技术研发者在开发具备深度合成功能的AI工具时,嵌入敏感素材筛查程序,严格履行AI标识义务,让消费者能在交互界面直观识别直播主体的虚拟属性。在事中监管阶段,应鼓励研发针对AI深度仿造内容的识别技术,同时在消费者、电商平台、行业协会以及监管部门等多方主体之间建立畅通高效的协同共治格局。
每一项技术创新都伴随着机遇与挑战。作为数字社会的核心引擎,AI技术的健康发展离不开正向的社会伦理引导与完善的法律规制体系。AI技术赋能下的虚拟数字人直播本是电商销售的创新模式,却被不法商家滥用而变得乱象丛生,这不得不让人警醒。技术本身并无对错,关键在于使用者的行为善恶。随着AI技术不断迭代升级,未来我们可能会面对比利用AI仿冒公众人物直播营销更为复杂的乱象,但只要始终坚守“以人为本,技术向善”的基本原则,便不会在纷杂的科技丛林中迷失方向。
(李昊,中南财经政法大学法学院教授)
来源:法治日报