人工智能安全治理框架发布，AI安全迎来新标杆
创始人
2024-09-10 11:22:12
0次
全国网络安全标准化技术委员会近日正式发布《人工智能安全治理框架》1.0版，针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险，提出相应技术应对和综合防治措施，以及人工智能安全开发应用指引。为促进人工智能健康发展和规范应用，提供了基础性、框架性技术指南。
业内人士表示，生成式大模型特有的预训练微调、上下文、提示、思维链COT等新的学习范式，使其具有与传统AI安全不同的许多新特点，传统安全的方法、经验、工具很难发挥效能。大模型安全风险的成因既可以是来自各类训练数据的缺陷或算法的局限性等模型内因，也可以是利用这些新型学习范式的恶意使用或蓄意攻击等外因。这使得大模型在数据准备。预训练、微调对齐、推理以及应用阶段都会存在各种潜在的风险。
永信至诚已发布“春秋”靶场构建大模型、“春秋”安全竞赛大模型和“春秋”人才测评大模型三款安全垂直领域大模型产品;绿盟科技多年来持续进行AI安全研究投入，在AI系统安全防护、AI应用安全、AI系统的安全性评估与测试等创新技术领域研究储备。
来源：金融界
相关内容
热门资讯
韩国启动全民AI成长阶梯项目，...
2026年8月3日，韩国科学技术信息通信部正式启动全民AI成长阶梯项目，项目整合全民AI学习馆、全民...
从全民AI入门到创业孵化，韩国...
8月3日，财闻海外资讯消息，韩国科学技术信息通信部正式启动全民AI成长阶梯项目，整合全民AI学习馆、...
AI赋能包 | 产品介绍⑪——...
产品介绍 短视频AI剪辑与碰一碰批量发布系统是一套面向企业短视频矩阵营销的“AI剪辑+碰一碰发布”系...
PandaAI李昱琦：AI交易...
上证报中国证券网讯（记者 胡尧）8月1日，在上海虹口举行的PandaAI第三届因子大赛颁奖典礼暨AI...
真人短剧被AI“抢饭碗”？从业...
“去年下半年AI短剧开始兴起，过完年真人短剧行情跌到谷底。真人短剧拍摄量锐减，大量专门承接平台真人剧...
Genspark 发布 Gen...
用 Al-Native 的方式，打造一款新时代的 Office。 8 月 3 日，在 AGI Pla...
原生统一多模态进阶！Sense...
今年4月，商汤科技发布了SenseNova U1，首次完整展示了基于NEO-Unify架构的原生统一...
开放通用智能，MiniMax ...
8月3日，据MiniMax消息，MiniMax正式开源新一代通用视频模型MiniMax H3。据介绍...
商汤科技开源多模态模型Sens...
IT之家 8 月 3 日消息，商汤科技今日宣布，面向社区开源轻量级统一多模态模型的预览版本 Sens...
MiniMax开源H3，视频模...
长期封闭的视频模型赛道，出现了一个开源旗舰。 7月31日，MiniMax发布视频旗舰模型H3，并在8...