被AI定位,夸克用户没有隐私权?
创始人
2024-08-19 13:13:08
0次

文|市象

最近,一位网友在小红书发布了一则帖子,描述了他因一时兴起在夸克APP搜索自己的名字所遭遇的情况。他惊讶地发现,自己的大学信息被毫无保留地展示出来,包括学校、专业和学号等详细信息。

“是搜名字后AI直接整合了一大篇信息,准确定位到本人了。”

这并非孤例,另一位用户也在社交平台上,表达了对个人信息泄露的不满和困惑:“被泄露个人信息是什么好笑的事吗……还有就是@夸克APP,你们什么意思啊,AI信息整合都可以直接准确定位到我本人了。”

虽然这两起事件可能并不常见。但一些夸克用户指出,拥有常见姓名的搜索结果往往不会显示,或者显示错误的信息,“但对于稍微少见一些的名字,结果的准确性简直如同裸奔一般,暴露无遗。”

目前,上述两位当事人已通过联系夸克客服解决了问题,处理后结果是,AI整合的个人信息已被移除,搜索结果仅显示存在于各网站上的同名同姓的信息。

7月10日,阿里智能信息事业群旗下的夸克升级“超级搜索框”,集纳了智能回答、智能创作和智能总结三大能力。

此次引发争议的主要是“超级搜索框”的“智能回答”功能。官方对该功能的描述是:它能更深入地洞察用户的搜索意图,整合全网的优质内容,以更精准、直接和高效的方式提供图文和视频等信息。

也就是说,随着“AI超级搜索框”的推出,用户在夸克新版本的App中输入任何查询,系统都将利用大模型的能力,自动整合搜索结果,并生成一份完整的AI驱动的回答。

但显然,“聚合全网优质内容”功能在方便用户的同时,也带来了一些潜在的问题。正如小红书上的用户所指出的,这项功能可能导致夸克搜索引擎暴露用户的个人详细信息。

这引发了广泛的质疑和担忧。

客观来看,夸克APP及其他搜索引擎的功能本质是信息检索工具,它们通过算法索引网页内容,帮助用户找到相关信息。理想情况下,从技术角度出发,搜索引擎展示的信息都是已经公开的数据。

如果某个用户的大学信息、学号等个人数据可以通过搜索名字被找到,这意味着这些信息已经在某个公共领域被公开。从这个角度来看,搜索引擎并没有“泄露”信息,而是在执行它们的基本职能:组织和检索公开信息。

正因此,有相当一部分用户在上述当事人帖子下替平台发言,“这也不算这些浏览器泄露你们的信息,是别人公示过你们的信息,浏览器本就是收录整合别人发的东西。”

但真是如此吗?当这种技术能力被用来聚合原本零散,且难以获取的个人信息时,其实已经构成了对个人隐私的侵犯。就像一个有能力偷窥每个角落的监视器,即使信息原本就公开存在,聚合后的信息却产生了新的隐私问题,这是技术发展必须直面的伦理问题。

专门从事网络相关法律业务的律师凌逸凡对「市象」表示,“应用这样的技术时,责任不应只停留在‘技术上可行’这一层面,更应关注‘伦理上是否恰当’。”

当前,许多技术企业依托“用户已同意隐私政策”这一点操作边界模糊的授权,实行对个人数据的无限搜集和使用。这种行为,实际上是在利用用户对技术的依赖和对隐私政策的不理解,将责任推脱给了用户自身,这种做法是对权力的滥用。

上述情况也并非是夸克AI的独有事件。有用户留言称,“使用kimi、智普清言等AI搜索工具也能找到我的名字和个人信息”,这表明隐私信息在AI工具上“裸奔”的问题可能更为普遍。

“企业和开发者需要重新审视他们对技术的态度和责任。不是所有技术上能做到的事情都应该去做。开发者和企业不仅应负责其产品能做什么,更要负责它们不应该做什么。就像在拥有大规模监控能力的今天,最大的挑战不是如何监控更多,而是如何在尊重个体隐私的前提下,合理使用这些能力。”从事AI应用创业的开发者镀铬,在与「市象」的交流中分享了自己的观点。

去年11月,阿里集团CEO吴泳铭将夸克与闲鱼、钉钉和1688一同定位为战略级创新业务,誉之为“阿里四小龙”,千亿级别参数的夸克大模型也首次亮相。

正是基于这一大模型,夸克推出了“超级搜索框”。阿里智能信息事业群总裁吴嘉描述它能够进行回答、创作和总结,称其为对AI搜索的重新定义。

但在夸克对AI搜索的定义中,确实应当更加重视信息安全的元素。

毕竟,百度公司董事长兼CEO李彦宏早已用“中国人愿用隐私换便利” 之说,引出了大众的共识——信息自由流通是互联网的基石,但这种自由不应以牺牲个人隐私为代价。

(文中镀铬为化名)

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...