Deepfake（深度伪造技术）犯罪，成为近日韩国舆论的风暴眼。

据媒体报道，一些犯罪分子滥用Deepfake，将个人的声音、面部表情及身体动作拼接合成，制造了涉及包括女明星、女学生在内的色情图片及影像。韩国全国涉及深度伪造犯罪的人数可能达到22万（包含可能重复的情况），引发了无数女性恐慌。

人工智能技术作为21世纪最具变革力的科技之一，在新科技变革带来机遇的同时，也带来了风险与挑战。如何应对AI技术滥用造成的困境？

9月5日，2024外滩大会在上海正式开幕，在外滩大会展馆，南方+记者注意到“用AI打败AI”的品牌ZOLOZ。据了解，早在2019年，ZOLOZ就已经上线了Deepfake的防控能力，当时主要应对一些简单的人脸攻击，比如把图片、视频、面具等虚假内容呈现在摄像头前面，攻破人脸识别系统。今年4月，ZOLOZ正式发布专门针对Deepfake的综合防控产品ZOLOZ Deeper，用于在刷脸场景中防范“AI换脸”风险。ZOLOZ Deeper搭建了端云一体的全链路技术体系，以应对系统、服务器、应用等多环节的Deepfake安全威胁。

ZOLOZ展台 南方+ 张晋 拍摄

在展馆，记者还留意到，蚂蚁“蚁天鉴2.0”的“AI鉴真”功能，该产品针对Deepfake和多模态内容真实性检测而开发，能够快速精准鉴别图像、视频、音频、文本内容的真伪，有效应对AI换脸、声音模拟、证件伪造等各类深度伪造风险场景。

AI发展还带来了另外一些问题：在就业市场上，人类如何跟AI竞争？未来AI是否可能获得意识，甚至建立AI文明？生成式AI会让人类的思考能力退化吗？开幕前，致力于推动金融科技和前沿科技探索的外滩大会，发布了包含以上问题在内的2024科技人文十大热点问题。据了解，在本届外滩大会上，不仅有来自100个全球顶尖科技公司和学术机构带来的最前沿的人工智能实践，还能看到人们如何让 AI向善、AI为人的种种尝试，及来自哲学、历史学、未来学、社会学等背景的中外院士、学者与业界共同探讨科技人文十问的前沿新观点和解题新思路。

南方+记者探馆发现，本届外滩大会聚焦关键领域、前沿科技，尤其关注当下火热的AI产业应用。今年，除了蚂蚁集团、阿里云、百度、钉钉等大型科技公司之外，国内AI大模型创业赛道的10余家头部厂商将齐聚外滩，讨论人工智能落地产业等话题。大会还首次推出了“AI参会助手”，提供全方位的智能化服务，确保每位观众都能享受到无缝的参会体验。

9月5日，2024外滩大会正式开幕 南方+ 张晋 拍摄

据悉，本届外滩大会，精心策划了一系列精彩活动，包括1场开幕主论坛、36场开放见解论坛、10多场创新者舞台、2场AI创新赛事、1场10000平方米的展览以及1个绿色生活节和1场科技人才招聘会等。

南方+记者 张晋 朱红鲜

【作者】 张晋；朱红鲜

长三角观察