OWASP LLM Top 10
OWASP LLM Top 10(官方名 OWASP Top 10 for LLM & GenAI Applications)是 OWASP 面向大语言模型及生成式 AI 应用发布的十大安全风险清单,覆盖提示注入、敏感信息泄露、不安全的输出处理、供应链、过度代理等一系列风险。它面向的更多是"被动的 LLM 应用"(接受输入、生成输出),是构建 Agent 应用时安全清单的基线。
它与 OWASP Agentic AI Top 10 是演进关系:Agent 应用增加了自主行动、工具调用、记忆读写和 Agent 间通信,OWASP 据此在 LLM Top 10 之上扩展出 Agentic 版本。两者共同构成从"被动 GenAI"到"主动 Agent"的风险全景。
与相关概念的关系
- OWASP Agentic AI Top 10 — Agentic Top 10 是其 LLM 场景的演进与超集,本文描述了二者的关系
- AI 受限层与确定性系统分工 — 风险清单对应"AI 层仍须有人/系统把关"的设计约束