AI检测工具引争议:原创论文被误判为由AI生成
创始人
2024-10-24 12:01:16
0

多知10月24日消息,近日,《彭博商业周刊》报道称,用于检查学生论文的人工智能工具越来越多地误判论文,误认为论文是抄袭的。即使学生能证明论文不是由人工智能撰写的,他们也会得到不及格的成绩和留校察看的处罚。

今年秋季学期,美国中央卫理公会大学在线课程的学生 Olmsted(奥姆斯特德)在给老师提交了一份作业后,不久后收到成绩:0分。她去找老师,老师告知她人工智能检测工具已经确定她的作品很可能是由人工智能生成的。老师还说,她的作品之前至少被标记过一次。

这项指控对于24岁的Olmsted 来说是“当头一棒”,她为没有做过的事情而被剥夺成绩资格感到委屈与愤怒。Olmsted向老师和一名学生协调员反驳了老师的指控,强调她患有自闭症谱系障碍,写作方式公式化,可能会被误认为是人工智能生成的。

好消息是成绩最终被更改。但同时Olmsted收到了警告:如果她的作业再次被标记,老师将以对待抄袭的方式处理,将不会再进行第二次审查。

此前,北乔治亚大学的一名学生因使用拼写检查器 Grammarly 而被剥夺了奖学金。

由于AI技术的蓬勃发展,学校教育必须迎头赶上并适应新的现实。根据民主与技术中心3月份发布的一项对450多名教师的调查,约三分之二的教师表示他们经常使用基于AI的检测工具。

但事实是,最好的人工智能拼写检测器非常准确,但并非万无一失。《彭博商业周刊》在 2022 年夏天(即 ChatGPT 发布前不久)随机抽取了提交给德克萨斯农工大学的 500 篇大学申请论文样本,对两项领先的服务——GPTZero 和 Copyleaks 进行了测试,这些论文是通过公共记录请求获得的,这意味着它们不属于人工智能工具训练的数据集。而这些AI检测工具却错误地将2%的论文标记为可能是人工智能撰写的。

今年7月,ChatGPT 的开发商 OpenAI 关闭了自己的 AI 检测工具,原因是“其准确率太低”。

尽管如此,市面上的AI检测工具依然受到资本的青睐,各个AI检测公司初创公司都有大量的融资。如GPTZero融资总额已超过1350万美元,投资方包括Reach Capital、Uncork、Neo、Alt Capital以及路透社等;Copyleaks融资总额已超过840万美元,投资方包括以色列风投公司日航风投(JAL Ventures)、Connecticut Innovations(康涅狄格创新)以及ICONYC 实验室等。

GPTZero于2023年1月推出了第一个商业上可行的 AI 检测解决方案,并继续与数千名客户(包括记者、政府机构、教育机构和财富 500 强公司)一起开发最先进、最易用的AI可解释性工具。

Copyleaks成立于2015年,以一家基于AI的抄袭和AI内容检测平台。Copyleaks可快速检测抄袭和AI生成内容,确保内容原创性。

美国还有一家老牌的学术检测机构Turnitin,也有自己的AI检测工具。

Turnitin是一家致力于确保教育诚信和有效改善学习成果的全球性公司,是 Advance Publications(先进出版公司)的子公司。25 年来,Turnitin一直与教育机构合作,在所有学科领域和评估类型中促进诚实、一致和公平。Turnitin产品被教育机构和认证及许可用于维护诚信和提高学习成绩,并被学生和专业人士用于创作出他们最好的原创作品。

Turnitin推出的 AI 释义检测功能可以识别出可能使用 AI 释义来修改提交内容中 AI 生成的文本的情况,从而帮助出版商和教育工作者维护研究写作的完整性并为学生提供真实的学习体验。Turnitin声称的其AI检测工具的准确率为98.8%。

对于AI检测工具,教师们也有自己的判断,有的人会依赖AI工具,有的人凭直觉。不论如何,在AI盛行的当下,AI工具对教师和学生带来了便利,也带来了新的挑战。

相关内容

华为仓颉编程语言首个 LT...
IT之家 7 月 1 日消息,华为仓颉编程语言首个 LTS 版本 ...
2025-07-01 21:12:49
魔搭社区:坚持定位非盈利机...
7月1日,模型开源社区魔搭表示,将坚持非盈利机构的定位,立足公益性...
2025-07-01 20:40:59
龙虎榜 |雪迪龙上涨9.9...
7月1日,雪迪龙上涨9.96%登上龙虎榜,连续三个交易日内,涨幅偏...
2025-07-01 18:12:43
振华股份涨7.15%,开源...
今日振华股份(603067)涨7.15%,收盘报16.33元。 2...
2025-07-01 16:40:36
瞭望 | AI进高校 治理...
全天候解答疑难问题、辅助查找资料、收集文献、分析数据……“Deep...
2025-07-01 15:42:18
捷众科技:6月27日接受机...
证券之星消息,2025年6月30日捷众科技(873690)发布公告...
2025-07-01 12:43:15

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...