感知
KV Cache被压成常数!OCR开源新王:页数没上限,缓存砍96%
2026-10-27qbitai.com
★★★★★
开源OCR新模型将KV Cache压缩为常数,支持无限页数,缓存降低96%。
值得记下
阅读原文↗缓存从随页数线性增长变为常数,长文档解析的显存瓶颈被绕开,96%的降幅直接改变了单机可处理的文档长度上限。
内容来源:qbitai.com,版权归原作者所有
开源OCR新模型将KV Cache压缩为常数,支持无限页数,缓存降低96%。
缓存从随页数线性增长变为常数,长文档解析的显存瓶颈被绕开,96%的降幅直接改变了单机可处理的文档长度上限。
内容来源:qbitai.com,版权归原作者所有