AI生成内容鉴别技术取得新突破
创始人
2025-04-20 06:46:12
0次
人民网杭州电 (记者窦瀚洋)随着AI技术的广泛应用，如何鉴别AI生成内容成为社会关注焦点。近日，浙江西湖大学自然语言处理实验室研发的Fast—DetectGPT技术，为解决这一问题提供了新方案。该程序对GPT3.5、GPT4生成文本的识别率分别达到96%和90%，检测速度较此前技术提升340倍。该团队关于Fast—DetectGPT的私有大模型扩展Glimpse的论文已被今年4月将在新加坡举行的2025国际表征学习大会收录，Glimpse可以检测26种语言的文本，并有更高的识别准确率。
团队研发成员、西湖大学工学院副院长张岳介绍，当前AI生成内容的识别主要有监督分类器法、零样本分类器法、水印法3种方式。监督分类器法要收集大量已知数据作分类学习，对未见过的模型生成文本识别率有所下降；水印法则是在生成文本时打上“记号”，但存在标记被人为弱化或移除的风险；Fast—DetectGPT属于零样本分类法，无需依赖训练数据，适用性更广。
团队研发成员、西湖大学博士生鲍光胜介绍，所谓“生成”文本，就是机器通过上文来选择下文，选择依据是词汇、句式等在数据集中的使用概率。基于AI与人类文本生成差异的原理，AI倾向于选择高频词句，而人类写作更具多样性和逻辑泛化性，程序通过分析文本的“条件概率曲率”分布实现鉴别，“简单地说，AI更懂AI，Fast—DetectGPT‘认出’了同类。”
《 人民日报 》( 2025年04月19日 06 版)
相关内容
热门资讯
开源证券：维持陆家嘴“买入”评...
开源 证券研报指出， 陆家嘴中期业绩大幅增长，租赁现金流入稳中有增。公司2026H1实现归母净利润1...
韩国启动全民AI成长阶梯项目，...
2026年8月3日，韩国科学技术信息通信部正式启动全民AI成长阶梯项目，项目整合全民AI学习馆、全民...
从全民AI入门到创业孵化，韩国...
8月3日，财闻海外资讯消息，韩国科学技术信息通信部正式启动全民AI成长阶梯项目，整合全民AI学习馆、...
AI赋能包 | 产品介绍⑪——...
产品介绍 短视频AI剪辑与碰一碰批量发布系统是一套面向企业短视频矩阵营销的“AI剪辑+碰一碰发布”系...
PandaAI李昱琦：AI交易...
上证报中国证券网讯（记者 胡尧）8月1日，在上海虹口举行的PandaAI第三届因子大赛颁奖典礼暨AI...
真人短剧被AI“抢饭碗”？从业...
“去年下半年AI短剧开始兴起，过完年真人短剧行情跌到谷底。真人短剧拍摄量锐减，大量专门承接平台真人剧...
Genspark 发布 Gen...
用 Al-Native 的方式，打造一款新时代的 Office。 8 月 3 日，在 AGI Pla...
原生统一多模态进阶！Sense...
今年4月，商汤科技发布了SenseNova U1，首次完整展示了基于NEO-Unify架构的原生统一...
开放通用智能，MiniMax ...
8月3日，据MiniMax消息，MiniMax正式开源新一代通用视频模型MiniMax H3。据介绍...
商汤科技开源多模态模型Sens...
IT之家 8 月 3 日消息，商汤科技今日宣布，面向社区开源轻量级统一多模态模型的预览版本 Sens...