填补AI安全空白:谷歌上线安全人工智能框架风险评估工具
创始人
2024-10-26 12:50:48
0

10 月 26 日消息,谷歌公司于 10 月 24 日发布博文,宣布推出 SAIF 风险评估工具,旨在帮助人工智能开发者和组织评估其安全态势,识别潜在风险,并实施更强的安全措施。

SAIF 简介

IT之家注:谷歌去年发布了安全人工智能框架(SAIF),旨在帮助用户安全、负责任地部署 AI 模型,SAIF 不仅分享了最佳实践,还为行业提供了一个安全设计的框架。

为了推广这一框架,谷歌与行业伙伴共同成立了安全人工智能联盟(CoSAI),以推动关键的 AI 安全措施。

SAIF 风险评估工具

谷歌目前已经在新网站 SAIF.Google 上提供 SAIF 风险评估工具,该工具以问卷形式运行,用户回答后会生成定制化的检查清单,指导他们确保 AI 系统的安全。

工具涵盖多个主题,包括:

AI 系统的训练、调优和评估

对模型和数据集的访问控制

防止攻击和对抗性输入

生成性 AI 的安全设计与编码框架

用户在回答问题后,工具会立即生成一份报告,突出 AI 系统面临的具体风险,如数据中毒、提示注入和模型源篡改等。

每个风险都附有详细解释及建议的缓解措施,此外用户还可以通过互动 SAIF 风险地图了解在 AI 开发过程中如何引入与缓解不同的安全风险。

【来源:IT之家】

相关内容

“苏小保维权助手”来啦!江...
扬子晚报网3月15日讯(记者 薛玲 马燕)在刚刚结束的两会中,政府...
2025-03-15 18:40:58
龙坤智慧取得基于 AI 大...
金融界 2025 年 3 月 15 日消息,国家知识产权局信息显示...
2025-03-15 17:11:47
智谱AI密集披露融资细节,...
图片来源:界面图库 界面新闻记者 | 伍洋宇 界面新闻编辑 ...
2025-03-15 16:14:16
驯服AI,更懂物理!何恺明...
新智元报道 编辑:英智 【新智元导读】何恺明团队提出的去噪哈密顿...
2025-03-15 16:13:49
Siri升级推迟 苹果高管...
苹果公司负责智能助手Siri的高管对员工表示,关键功能的发布延迟“...
2025-03-15 11:14:12
“东莞智媒AI产业赋能基地...
近日,“东莞智媒AI产业赋能基地”正式揭牌,依托东莞融媒集群,打造...
2025-03-15 09:41:33

热门资讯

原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
支持 AI 扩图,华为 Pur... 2024-07-28 09:05:02作者:姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神|《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神|《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近,各家的AI 9笔记本开始陆续登场,其实大家并不一定非选AI 9 HX 370,主要是这颗CPU...
AI智能+高效清洁!萤石RS2... 目前扫拖机器人市场的竞争非常激烈,在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...
2024年度中国银行业发展报告... 21世纪经济报道 记者李愿 北京报道 10月19日,中国银行业协会在2024金融街论坛年会·金融街之...