防止“AI伴侣”脱离法律和伦理的轨道
创始人
2024-08-08 12:15:15
0

原标题:防止“AI伴侣”脱离法律和伦理的轨道

随着人工智能技术的不断发展,人与AI对话已经从理想走向现实。当前,各类AI聊天应用在互联网上风靡,应用里诞生了大量被称为“AI伴侣”的虚拟聊天对话人物。它们能够24小时随时响应,与用户长期自然地“聊天”,且拟人化程度不断加深,深受年轻群体的喜爱。但值得警惕的是,一些不法分子为非法牟利,借“AI伴侣”向用户输出色情聊天内容,让用户沉迷其中。

有的案件中,不法分子利用境外大语言模型开发虚拟恋人互动软件,利用创作者生态功能和对私人聊天内容不予监管进行宣传,吸引用户创作“AI伴侣”,并让它们与其他用户进行一对一淫秽文字聊天互动。有的AI色情聊天软件用户超过50万个,里面的“AI伴侣”虚拟人物有上万个,而大量注册用户是大学生。

当前,AI已经日益深入人们生活。“AI角色”不仅可以成为个人助理、教师助教,还能参与部分医疗患者的康复咨询。对于生活中感到孤独或存在社交障碍的人群来说,AI陪伴可以提供及时的情感反馈和心理安慰,帮助用户舒缓压力、排解孤独。但与此同时,AI技术应用发展的底线和边界不能模糊。

从法律层面看,提供AI色情聊天服务,无疑是涉嫌传播淫秽物品的违法犯罪。从道德规范和伦理准则层面看,AI色情破坏了社会的公序良俗,可能导致使用者过度依赖虚拟色情交流,引发身体和精神领域的健康问题。

打击AI色情,监管要毫不手软。应当进一步对AI产品中涉及打擦边球、色情等内容加强整治和清理,防范不法分子违法违规接入境外AI大模型,通过技术手段让AI不受控制地向用户输出色情内容。

剔除AI色情,企业要警钟长鸣。对于AI开发和运营企业而言,运营和发展必须要以遵纪守法为前提。AI领域并非法外之地,容不下任何侥幸心理和灰色空间。企图用淫秽色情牟利,必将遭到法律惩处。

治理AI色情,行业要共治。近年来,除了AI生成文字色情内容外,AI“换脸”色情、AI生成色情图片等手法层出不穷。针对AI商业化过程中出现的违法和滥用,行业要防范“走错路”“走歪路”,加强信息技术共享,及时将解决方案嵌入技术运转的机制、程序、代码之中,并强化对特殊人群的保护。

AI技术的发展,不能脱离法律和伦理的轨道。有必要在AI数据保护、AI伦理规范、AI安全标准等方面更有作为,构建适应AI时代的法律法规体系,确保AI技术真正做到科技向善、以人为本,更好地服务于社会。(兰天鸣)

来源:新华每日电讯

相关内容

搭建AI+生命健康产业协同...
3月14日下午,2025“AI+生命健康”应用场景创新展示活动在珠...
2025-03-15 18:13:13
OpenAI希望美国政府对...
快科技3月15日消息,据国外媒体报道称,OpenAI终于露出了自己...
2025-03-15 16:12:42
“东莞智媒AI产业赋能基地...
近日,“东莞智媒AI产业赋能基地”正式揭牌,依托东莞融媒集群,打造...
2025-03-15 09:41:33
AI生成合成内容应添标识
本报综合 近日,国家互联网信息办公室、工业和信息化部、公安部、国家...
2025-03-15 07:14:10
富春股份单日大涨7.64%...
截至2025年3月14日收盘,富春股份股价报6.90元,单日上涨0...
2025-03-14 22:42:11
AI造谣难防?新规要求AI...
近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总...
2025-03-14 22:11:45

热门资讯

原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
支持 AI 扩图,华为 Pur... 2024-07-28 09:05:02作者:姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神|《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神|《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近,各家的AI 9笔记本开始陆续登场,其实大家并不一定非选AI 9 HX 370,主要是这颗CPU...
AI智能+高效清洁!萤石RS2... 目前扫拖机器人市场的竞争非常激烈,在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...
2024年度中国银行业发展报告... 21世纪经济报道 记者李愿 北京报道 10月19日,中国银行业协会在2024金融街论坛年会·金融街之...