vLLM 又整新活：集成小红书 OCR 神器 dots.ocr，文档解析一条龙搞定

引言

vLLM 最近又搞了个大新闻：现在直接支持小红书 HI Lab 开源的 OCR 模型 dots.ocr 了。这意味着，以后用 vLLM 做文档解析，会变得超级简单。

这篇文章不废话，直接告诉你 dots.ocr 有多牛，然后两行命令教你把它跑起来。

💡 想给自己的项目加上一个又快又准的 OCR 功能？往下看就对了。

dots.ocr 有多强？

dots.ocr 是小红书 HI Lab 搞出来的一个多语言 VLM，专门用来干文档理解的活，亮点如下：

• 📝 一条龙解析：不管是普通文本、HTML 表格、LaTeX 公式还是 Markdown 布局，它都能一把梭哈，直接给你整明白。
• 🌍 100 多种语言通吃：就算是一些小语种的文档，它也能轻松拿下，性能杠杠的。
• 🚀 性能天花板：模型只有 1.7B，但在 OmniDocBench 和 dots.ocr-bench 这些榜单上都是 SOTA 水平，小身材有大能量。
• 💼 免费商用，随便用：代码开源，还能免费商用，简直是开发者的福音。

两步把它跑起来

部署 dots.ocr 非常简单，总共就两步。

步骤 1：安装 vLLM

第一步，装最新的 vLLM。官方推荐用 nightly 版，直接用 uv 或者 pip 一行命令搞定：

uv pip install vllm --extra-index-url https://wheels.vllm.ai/nightly

💡 用 uv 装起来飞快，当然你用 pip 也行。

步骤 2：启动服务

装好之后，直接用下面这行命令把 dots.ocr 服务启动起来：

vllm serve rednote-hilab/dots.ocr --trust-remote-code

服务跑起来之后，你就可以对着它疯狂发请求了。

总结

总的来说，vLLM 这波集成了 dots.ocr，给开发者们提供了一个超赞的文档解析工具，不仅功能强大，而且部署简单，还不要钱。不管你是要处理多语言文档，还是从图片里抠表格、扒公式，它都能帮你搞定。

赶紧动手试试吧！

参考资源

• vLLM 官方 X 账号
• vLLM GitHub 仓库