感知

KV Cache被压成常数!OCR开源新王:页数没上限,缓存砍96%

2026-10-27qbitai.com
★★★★★

开源OCR新模型将KV Cache压缩为常数,支持无限页数,缓存降低96%。

值得记下

缓存从随页数线性增长变为常数,长文档解析的显存瓶颈被绕开,96%的降幅直接改变了单机可处理的文档长度上限。

阅读原文↗

内容来源:qbitai.com,版权归原作者所有