新华每日电讯:防止“AI伴侣”脱离法律和伦理的轨道
创始人
2024-08-08 07:38:21
0

随着人工智能技术的不断发展,人与AI对话已经从理想走向现实。当前,各类AI聊天应用在互联网上风靡,应用里诞生了大量被称为“AI伴侣”的虚拟聊天对话人物。它们能够24小时随时响应,与用户长期自然地“聊天”,且拟人化程度不断加深,深受年轻群体的喜爱。但值得警惕的是,一些不法分子为非法牟利,借“AI伴侣”向用户输出色情聊天内容,让用户沉迷其中。

有的案件中,不法分子利用境外大语言模型开发虚拟恋人互动软件,利用创作者生态功能和对私人聊天内容不予监管进行宣传,吸引用户创作“AI伴侣”,并让它们与其他用户进行一对一淫秽文字聊天互动。有的AI色情聊天软件用户超过50万个,里面的“AI伴侣”虚拟人物有上万个,而大量注册用户是大学生。

当前,AI已经日益深入人们生活。“AI角色”不仅可以成为个人助理、教师助教,还能参与部分医疗患者的康复咨询。对于生活中感到孤独或存在社交障碍的人群来说,AI陪伴可以提供及时的情感反馈和心理安慰,帮助用户舒缓压力、排解孤独。但与此同时,AI技术应用发展的底线和边界不能模糊。

从法律层面看,提供AI色情聊天服务,无疑是涉嫌传播淫秽物品的违法犯罪。从道德规范和伦理准则层面看,AI色情破坏了社会的公序良俗,可能导致使用者过度依赖虚拟色情交流,引发身体和精神领域的健康问题。

打击AI色情,监管要毫不手软。应当进一步对AI产品中涉及打擦边球、色情等内容加强整治和清理,防范不法分子违法违规接入境外AI大模型,通过技术手段让AI不受控制地向用户输出色情内容。

剔除AI色情,企业要警钟长鸣。对于AI开发和运营企业而言,运营和发展必须要以遵纪守法为前提。AI领域并非法外之地,容不下任何侥幸心理和灰色空间。企图用淫秽色情牟利,必将遭到法律惩处。

治理AI色情,行业要共治。近年来,除了AI生成文字色情内容外,AI“换脸”色情、AI生成色情图片等手法层出不穷。针对AI商业化过程中出现的违法和滥用,行业要防范“走错路”“走歪路”,加强信息技术共享,及时将解决方案嵌入技术运转的机制、程序、代码之中,并强化对特殊人群的保护。

AI技术的发展,不能脱离法律和伦理的轨道。有必要在AI数据保护、AI伦理规范、AI安全标准等方面更有作为,构建适应AI时代的法律法规体系,确保AI技术真正做到科技向善、以人为本,更好地服务于社会。

相关内容

AI短剧女主“方桃子”代言...
近期AI短剧《被裁掉的女孩》女主角“方桃子”,因在短视频平台账号主...
2026-08-11 19:48:02
中文在线携手火山引擎探索A...
观点网讯:8月10日,中文在线宣布与火山引擎达成深度业务合作。双方...
2026-08-11 19:44:25
据The Informat...
据The Information:法律AI初创公司Harvey正洽...
2026-08-09 03:52:17
智联招聘AI创新产品“职悟...
近日,由南方都市报主办的“AI破局消费·体验驱动增长”2026高品...
2026-08-07 19:45:17
中国开源大模型海外救场,国...
近日,“中国开源大模型海外救场”话题持续火热引发高度关注。全球多模...
2026-08-07 19:30:11
AI不可造虚景,“种草”更...
今年暑期,大连湾海底隧道“全透明玻璃穹顶、鱼群环绕”的AI生成“种...
2026-08-07 19:28:24

热门资讯

全新开源项目公布,让PC Ga... IT之家 8 月 11 日消息,据外媒 TechPowerup 报道,一批曾参与开发 Heroic ...
Flova 接入 Seedan... 最近AI视频行业,有三件事值得展开说说。 第一件:安徽卫视7月22日起在晚间时段首播全AI流程制作的...
AI短剧女主“方桃子”代言美瞳... 近期AI短剧《被裁掉的女孩》女主角“方桃子”,因在短视频平台账号主页发布的作品中植入某美瞳产品广告,...
中文在线携手火山引擎探索AI与... 观点网讯:8月10日,中文在线宣布与火山引擎达成深度业务合作。双方将围绕视频生成模型Seedance...
AI安全测试正在成为新的安全隐... 在过去几个月里,正在接受网络安全评估的AI智能体相继突破限制、访问互联网,甚至在某些情况下入侵了真实...
汤臣倍健(300146)新增【... 证券之星消息,根据市场公开信息整理,8月10日汤臣倍健(300146)新增【AI智能体】概念。 新增...
近200家硅谷初创企业反对限制... 钛媒体App 8月10日,美国一些高级官员公开表示拟对中国人工智能企业开展调查并实施制裁,引起美国业...
国家机构预警Sorry勒索病毒... IT时代网8月10日消息,国家计算机病毒应急处理中心10日通报,依托国家计算机病毒协同分析平台,该中...
每周股票复盘:乐鑫科技(688... 截至2026年8月7日收盘,乐鑫科技(688018)报收于112.06元,较上周的102.7元上涨9...