远程开门,换脸换声?AI时代,如何保障安全?
创始人
2024-09-12 08:23:16
0次

网络安全,事关生产生活多个方面,近年来备受瞩目的人工智能技术为人们带来诸多便利的同时,也为网络安全带来了许多新的挑战。

一个漏洞就可能成为黑客的“钥匙”

如今,无人驾驶不再是科幻小说里的场景,在我国多地已经变为现实。不过,如果一辆智能汽车遭受网络攻击会有什么后果呢?网络安全专家为我们模拟了这一场景。

网络安全专家 邓钦洋:黑客通过网络入侵到我们车辆之后,进而进行横向移动,对零部件的相关漏洞进行利用。现在就是用户正在正常驾驶车辆,然后我这里就可以模拟黑客对我们的车门(系统)进行远程的攻击,实现远程开门的一个操作,现在就是我们系统检测到了行车过程中(遭到)远程开门的一个指令,那么在真实的驾驶过程中,我们的车门被打开是非常危险的事情。

专家介绍,如果安全漏洞只是针对应用层面的话,造成的威胁局限于个体。然而,如果黑客针对驾驶、通信等底层系统进行攻击的话,所带来的破坏性则会更加广泛。

筑牢“安全底座” 系好网络“安全带”

数据显示,2023年,针对国内车联网服务平台等的攻击达805万次,同比增长25.5%。筑牢智能网联汽车的“安全底座”已是刻不容缓。对此,我国已出台了多项相关法规,并发布实施了多项车端安全标准和十余项平台安全标准。

AI时代 如何保障安全·辨别真伪

除了无人驾驶领域,许多不法分子还利用AI进行换脸、换声等操作,侵害公民个人隐私。一张“人像照片”、一段近距离的人物视频都有可能成为犯罪分子的新工具。

"换脸"伪造不雅照 不法分子敲诈勒索

前不久,深圳的吴先生突然收到一个陌生手机号码发来的彩信,点开一看竟然是他和一名陌生女子在酒店房间内的不雅照片。

当事人 吴先生:他当时威胁我,在几点之前要跟他联系给他转钱,我当时一想不对劲,就报警了。

警方接到报案后,立即进行侦查。通过梳理报案记录,警方发现有同样遭遇的不止吴先生一人。随着调查的深入,警方发现这是一个分工明确的犯罪团伙。有人负责修图,有人负责寻找目标,有人负责敲诈勒索。随后,警方展开统一收网行动,成功抓获以王某为首的10多名犯罪嫌疑人。

广东省深圳市公安局坪山分局民警 张威:从嫌疑人电脑里面提取的相关证据,这些图片是嫌疑人从网上等各种渠道收集的被害人图片信息,然后他们进行合成处理,这就是嫌疑人合成的不雅照片,用来敲诈被害人。

只需一张照片 就能以假乱真

那么这些伪造的照片是如何做到以假乱真的呢?网络安全专家为我们演示了“AI换脸”技术,仅需一张目标人物的静态照片,就能让照片中的人物动起来。

中国网络空间安全协会人工智能安全治理专业委员会委员 张博:本身最右边是一张不会动的静态图片,那么通过我们的(演示者)他做一些动作之后,那么它(AI换脸软件)采集到了(演示者)面部动起来的特征,把这个特征融合到一个静态图片当中,就让这个图片照着我们(演示者)的动作动了起来。当前,AI换脸技术还是比较成熟,也能支持视频通话的实时换脸,如果再结合着换背景环境,换声音等等,那样逼真度就会更高,更加难以分辨。

加快相关反制技术的开发和应用

针对“AI换脸”等技术被滥用,日前,全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版,提出相应技术应对和综合防治措施,以及人工智能安全开发应用指引。对此,网络安全专家建议应加快相关反制技术的开发和应用,用AI来治理AI。

AI时代 如何保障安全·个人隐私

防范AI带来的威胁,除了在技术方面升级努力,我们普通人在日常生活中又该注意些什么呢?

避免人脸 指纹等信息过度公开

专家介绍,导致AI换脸等违法行为的最关键原因是个人隐私信息的泄露,因此,我们在日常上网过程中,要尽量避免人脸、指纹等个人生物信息的过度公开和分享。如果接到貌似“家人”“领导”等转账、汇款的视频,一定要用心甄别。

警惕!这三类照片千万不要随便发

此外专家提示,以下这几种照片千万不要随便发在网上。

第一,不要公布手持身份证或手持白纸照,这些照片中会包含个人姓名、身份证号码、住址等敏感信息。

第二,不要发布各种票据类的照片,很多人出差、旅游都喜欢拍火车票或飞机登机牌,发到自己的朋友圈分享。这些票据上不仅会包含姓名、出发地、目的地等信息,而且在条纹码或者二维码中也会含有乘客的个人信息,存在被不法分子破解并窃取的可能。

第三,不要晒家门钥匙、车牌等照片,不法者通过大数据等技术手段,通过这些照片会分析出发布者特定时间所处的特定位置,也会获取发布者相关的生活习惯。

(央视网)

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...