青蛙小白

DeepSeek-OCR 本地部署:使用 vLLM 构建 OCR API 服务

本文记录了使用 vLLM 部署 DeepSeek-OCR 的完整过程。 DeepSeek-OCR 简介 DeepSeek-OCR 是 DeepSeek 于 2025 年 10 月发布的开源 OCR 模型,主要特点包括: 多分辨率支持:从 512x512 (Tiny) 到 1280x1280 (Large) 多种分辨率模式 动态分辨率:支持 “Gundam” 模式,组合多个 640x640 patches 和 1024x1024 patch Grounding 能力:可以定位和引用图像中的特定元素 文档转换:将文档转换为 Markdown 格式,保留布局结构 高性能:在 A100-40G GPU 上可达约 2500 tokens/秒 模型已在 2025 年 10 月 23 日被 vLLM 官方支持,可以直接使用 vLLM 部署为 OpenAI 兼容的 API 服务。