linux办公网
OpenAI 发布 GPT-4o 模型卡：概述 AI 安全和风险缓解措施
创始人
2024-08-10 13:10:50
0次

IT之家 8 月 10 日消息，OpenAI 公司于 8 月 8 日发布报告，概述了 GPT-4o 模型的系统卡（System Card），介绍了包括外部红队（模拟敌人攻击）、准备框架（Preparedness Framework）在内的诸多细节。

OpenAI 表示 GPT-4o 模型的核心就是准备框架（Preparedness Framework），这是一种评估和降低人工智能系统相关风险的系统方法。IT之家从报道中获悉，该框架主要用于识别网络安全、生物威胁、说服和模型自主性等领域的潜在危险。

除了针对 GPT-4 和 GPT-4V 进行的安全评估和缓解措施外，OpenAI 还针对 GPT-4o 的音频功能开展了更多安全工作。

评估的风险包括扬声器识别、未经授权的语音生成、受版权保护内容的潜在生成、无根据推断以及不允许的内容。基于这些评估结果，OpenAI 在模型和系统层面都实施了保障措施。

OpenAI 还与 100 多名外部红队人员合作，在向公众发布模型之前对其进行评估。红队人员将进行探索性的能力发现，评估模型带来的新的潜在风险，并对缓解措施进行压力测试。

进行 识别 模型 风险 OpenAI 系统 框架 评估 Card 措施 红队 IT之家

上一篇：还敢开车打电话、超速吗？闵行“AI老司机”上路！

下一篇：仙女礼服细节真的好美！AI果然是懂“仙”的，人美衣服也美！

相关内容

杰恩设计：AI系统LINK...
有投资者在互动平台向杰恩设计提问：“请问贵公司自研 AI 系统LI...
2026-01-16 22:47:12
开源证券给予优优绿能“买入...
每经AI快讯，开源证券1月16日发布研报称，给予优优绿能（3015...
2026-01-16 18:46:56
AI“行不行”？华强北说了...
深圳商报·读创客户端首席记者 袁静娴 文/图 AI陪伴机器人、AI...
2026-01-16 18:18:09
AI 医疗还在比进度，百川...
近一年来，AI 医疗正在进入一个明显不同于以往的新阶段。无论在国内...
2026-01-16 17:45:53
政务大模型应用提速 “AI...
中新网北京1月16日电 (记者 尹倩芸)随着人工智能加快赋能千行百...
2026-01-16 13:46:50
原创 ...
“AI时代的未来之战”打响了。 15日，千问App宣布全面接入淘宝...
2026-01-16 13:17:25

热门资讯

原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
2024云栖大会|阿里云升级无... 北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案，以下是几款备受推崇的工具： 触站AI：强烈推荐！...
骁龙本这么猛？联想YOGA A... 在人人都是自媒体的时代，一部手机可以解决出镜拍摄问题，而商务出差、大量码字、图像处理等需求用笔记本则...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域，CentOS与Ubuntu...
MWC2025荣耀多款AI技术... 人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
苹果macOS 15.1：允许... 苹果公司在其最新的macOS 15.1版本中，推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上，一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻，随着生成式AI的流行，各家手机厂商都在积极备战AI手机...