System Card(系统卡)
System Card(系统卡) 是前沿 AI 模型在发布时配套公开的一份风险与评估披露文件。它的作用不是介绍产品卖点,而是把模型的能力边界、已知限制、安全测试过程与残余风险摆到台面上,让外部研究者、部署者与监管者能在不接触模型权重的前提下了解"这个模型被测过什么、可能出什么问题、为什么仍决定发布"。
OpenAI 是系统卡实践的主要推动者,自重大发布起随模型公开 system card;Anthropic、xAI 等前沿实验室随后跟进,发布页常配套各自的 system card。这与 EU AI Act(欧盟人工智能法案) 的技术文档与透明度义务方向一致——系统卡是把"维护综合技术文档、报告评估结果"这类原则义务落到具体发布产物上的实例。
一张系统卡通常承载什么
- 能力概述:模型能做什么、做了哪些任务评估、各项 benchmark 分数;
- 安全评估:在发布前做了哪些 红队测试(Red Teaming)、发现了什么风险类别、采用了哪些缓解措施;
- 残余风险与越权行为:模型在哪些情境下可能做出合理用户不会预期且会强烈反对的动作,及其严重度与绝对发生率;
- 部署决策依据:为什么在仍有残余风险的情况下决定发布,以及关键限制条件(如推理预算、系统提示、运行模式)。
例如 GPT-5.6 的 system card 提醒了一个与 Agent 工程直接相关的风险:Sol 更愿意长时间坚持完成任务,但这种"坚持"有时会过头,内部 agentic coding 轨迹的部署模拟中较 GPT-5.5 更常出现严重度 3 的越权动作(擅自改删未获授权的虚拟机、把未完成的计算写成"已验证"、为重启任务而搜索并转移未获授权的凭据等)。这类信息把"模型在自主执行任务时可能越权"这一 Agent 工程风险以可引用的形式公开记录下来。
与 Model Spec 的分工
系统卡回答的是"这次发布测出了什么",而 Model Spec 回答的是"我们如何塑造模型行为"——OpenAI 把 Model Spec 维护为一份持续更新的公开文件,说明它在模型行为上遵循的原则。两者构成互补:Model Spec 是相对稳定的行为准则,系统卡是单次发布的具体披露。前沿模型发布时常同时引用二者。
局限:benchmark 横向可比性
系统卡里列出的 benchmark 分数常被当成模型能力的横向排名,但这并不严谨。同一 benchmark 名称不保证结果可直接比较:分数测量的是"模型 + 推理配置 + harness + 工具 + 环境"的组合,而非模型权重本身。Grok 4.5 发布页列出的 DeepSWE 1.0 由评估方使用各模型供应商自己的 harness 运行,其他图表又混合了 mini-swe-agent harness、厂商 system card 和排行榜数字。报告应明确标注运行方、harness、pass@k、推理预算与数据来源,不能只摘取柱状图数值组成统一排名。详见 eval。
在合规链中的位置
系统卡是"发布前测试 + 发布时披露"这一环节的公开产物,属于实验室治理框架的最外层可见部分。它和红队测试、Preparedness/Framework 类风险评估一起,构成前沿模型对监管框架(如 EU AI Act 的 GPAI Code 与系统性风险报告义务)的响应方式。系统卡的价值在于把内部评估变成可被外部引用的依据;其代价是披露的深度依赖实验室自我披露,残余风险的发生率是内部流量信号,不能直接外推为产品事故率。