马力AI和商业思维
26-07-03 15:10 微博认证:知群 CEO 微博新知博主

把一本几百页的扫描书、或者一份特别长的 PDF 转成能编辑、能检索的文字,你多半干过这活。

做法通常也差不多:先切成几十段,一段一段丢进 OCR(光学字符识别)跑,跑完再一段一段拼回去。麻烦全在接缝处,表格从中间断开、页码和页眉混进了正文、前后顺序还错了位。拼完还得人肉再校一遍,一下午就搭进去了。

百度最近开源了一个专门治这个的文档 OCR 模型,叫 Unlimited-OCR。它最大的不同是,几十页能一次读完,最多能到40多页,中间不用切、也不用拼。

想让 AI 读懂一份长资料、帮你总结或者问答,很多人的第一反应是模型不够聪明,于是忙着换更强的大模型、改提示词。卡点常常在更靠前那道:几百页的东西,压根没被完整、按顺序地变成文字。

地基没打好,上面盖什么都是歪的。

那长文档为什么难一次读完呢?问题出在传统办法的两条路上,两条都别扭。

一条是一页页独立 OCR,每页各读各的。跨页的表格被从中间劈成两半,上一页的话和下一页接不上,读出来是一地碎片。另一条是让模型像人那样从头读到尾、边读边往外写。这条听着对,可模型边读边得把已经读过、写过的东西都攥在手里(技术上叫 KV cache,你把它理解成模型的短期记忆就行)。文档越长,它要记的越堆越多,内存越吃越紧、速度越拖越慢,读到后半程就顶不住了。这就是长文档最头疼的「内存墙」。撞了墙,就只能退回去切成小段再拼,绕一圈又回到老地方。

Unlimited-OCR 做的事,是让模型「要记住的东西」始终保持在一个恒定的量,不随文档变长而膨胀。于是它能一口气读几十页,不用切。

它读长文档的样子,很像一个人安静地抄书。原件始终摊在桌上,随时能抬头看(这一头它永远看得见);但脑子里并不需要记住已经抄下的每一句,只要记着刚写完的最后一句、好接上下一句就够了。原件常看,自己写过的只留最近一点点,这样一个人就能匀速地一直抄下去,不会越抄越晕、越抄越慢。百度团队自己的说法,是让模型有了点像人抄写时的那种工作记忆。

这套路子的源头,是 DeepSeek-OCR 那条「光学压缩」的思路。就是让模型「看」文字,而不是一个字一个字地「读」——把一页纸当成一张图来看,用少得多的信息量装下同样多的内容。DeepSeek-OCR 能把一页纸压成原来十几分之一的信息量,还能保住90%以上的识别准确率。百度是顺着这条路又往前推了一步,专门解决长文档一次读不完的卡点。

跟老式 OCR 比,这类「看图」的模型还有一个好处:它读出来的不只是一堆字,而是带着版面结构的文字——表格还是表格,标题、正文、阅读顺序都尽量保住,而不是把一页纸拍扁成一行行零散的字符。多栏排版的论文、带表格和公式的资料、扫描得歪歪扭扭的旧页,都是它想啃下来的对象。对下游想拿这些文字去喂 AI 的场景来说,结构这一层很关键。

它在 GitHub 上开源没多久,已经攒了约1.2万颗 star。在一个常用的文档解析评测榜 OmniDocBench 上,它的成绩从基座 DeepSeek-OCR 的约87分提到了约93分,高出6分多;在长文档这种最吃内存的场景里,它还比 DeepSeek-OCR 快了约35%,而且一口气读下来,出错的地方也不算多。有意思的是它本身并不大,总共约30亿参数,真正干活时激活的只有约5亿——不是靠堆大取胜,是架构上想了个巧办法。

把整本教材、一沓合同、几十页的研报或论文喂给 AI 之前,得先把它们变成干净、连贯的文字;自己搭知识库、让 AI 翻着资料回答问题,第一步也是这个。这一步稳了,后面 AI 答得准不准,地基才算打牢。

比如手上有本300页的扫描版行业报告,想做成随时能问答的资料库。老办法是先切成几十份分别识别,跨页的表格、图表底下的注解,最容易在拼接的时候错位,光校对就得耗掉大半天。换成能一次吃下几十页的模型,跑几趟,整本书就成了顺序不乱、表格还在的文字,省下的正是中间来回切、来回拼那道功夫。反过来,要是只有一两页的短东西,真用不着它这套,普通 OCR 或者直接把 PDF 交给能读文档的大模型就够了;它值钱的地方,就在能对付又长又难的整本资料。

怎么上手?开源没几天,vLLM、SGLang 这些主流推理框架就先后支持了它,手上有 GPU(显卡)的,用它们几行命令就能把模型跑起来。嫌麻烦、只想先看看效果的,官方还挂了个免登录的在线 demo,丢一份文件进去,就能看它读成什么样。

当然,它不是万能的。它是一个要跑起来的模型,不是打开就能用的 App,电脑上没有 GPU 就自己跑不了,所以现在主要还是开发者、有卡的人在用。所谓「一次读完」,上限也就是几十页,名字里那个 Unlimited(无限)更多是个愿景,别真拿1000页去为难它。它也才开源没多久(6月下旬的事),面对各种脏乱的扫描件、手写体到底稳不稳,社区还在验证,我自己也没在所有场景里都试过,心里有个数就好。

长文档的「内存墙」是这类工具一直卡在那儿的一道坎,能有人正面把它啃下来,对天天要把大部头资料喂给 AI 的人来说,是件好事。

这东西是百度开源的,GitHub 上就叫 Unlimited-OCR。

说实话,我挺愿意看到有人在这种地基上使劲的。

#马力的AI知识分享#
#马力的AI开源项目分享#马力的AI知识分享#

发布于 北京