深度伪造无处遁形!这项新技术轻松识破AI生成图像和视频
创始人
2024-09-13 16:21:29
0

随着人工智能技术的不断进步,伪造图像和视频的难度越来越低,深度伪造(deepfake)现象愈发严重,如何识别这些虚假内容成了一个亟待解决的问题。近期,宾汉姆顿大学的研究团队对此进行了深入探讨,他们利用频域分析技术,揭示了 AI 生成图像的特征,从而帮助人们识别虚假信息。

图源备注:图片由AI生成,图片授权服务商Midjourney

这项研究由电气与计算机工程系的教授 Yu Chen 以及博士生 Nihal Poredi 和 Deeraj Nagothu 主导,另外还包括来自维吉尼亚州立大学的硕士生 Monica Sudarsan 和教授 Enoch Solomon 的参与。

研究团队创造了成千上万张使用流行的生成 AI 工具制作的图像,比如 Adobe Firefly、PIXLR、DALL-E 和 Google Deep Dream。然后,他们采用信号处理技术分析这些图像的频域特征,从而找出真实图像与 AI 生成图像之间的差异。

通过使用名为生成对抗网络图像认证(GANIA)的工具,研究人员能够识别出 AI 生成图像中出现的伪影。这些伪影是因为 AI 在生成图像时使用的上采样技术留下的,简单来说就是通过克隆像素来放大文件,但这样会在频域中留下 “指纹”。Chen 教授表示:“真实相机拍摄的照片包含来自整个环境的所有信息,而 AI 生成的图像则更多集中于用户的请求,因此无法准确捕捉背景环境的细微变化。”

除了识别图像外,团队还开发了一款名为 “DeFakePro” 的工具,用于检测伪造的音频和视频。这个工具利用了电网频率(ENF)信号,这种信号是在记录过程中,由电力的微小波动而产生的。通过分析这些信号,DeFakePro 可以判断出一段记录是否被篡改,进一步对抗深度伪造的威胁。

Poredi 强调,识别 AI 生成内容的 “指纹” 非常重要,这将帮助建立一个认证平台,确保视觉内容的真实性,从而减少虚假信息带来的负面影响。他指出,社交媒体的广泛使用使得虚假信息问题更加严峻,因此确保在线共享数据的真实性至关重要。

在这项研究中,团队希望为公众提供更多工具,以便让大家更容易区分真实与虚假内容,提升信息的可信度。

相关内容

“上岗”即用的AI客服、A...
目前,随着AI的大范围应用,各类AI Agent产品如雨后春笋般出...
2025-07-10 11:13:02
中国电信刘桂清:拥抱AI,...
瑞士时间7月9日,人工智能向善全球峰会(AI for Good S...
2025-07-10 11:12:36
美年健康:借助AI技术赋能...
证券之星消息,美年健康(002044)07月08日在投资者关系平台...
2025-07-09 22:13:52
原创 ...
国行苹果的AI功能要凉了!这可能是最近这两天听到讨论最多的内容。至...
2025-07-09 22:13:44
大丰实业创60日新高,开源...
今日大丰实业(603081)创60日新高,收盘报11.98元。 2...
2025-07-09 16:41:46
昆仑万维开源最强多模态推理...
智东西(公众号:zhidxcom) 作者| 程茜 编辑| 漠影 智...
2025-07-09 12:41:09

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...