工具
SchemaWeaver: Accelerating On-Device Mobile Agentic AI via Schema-Guided Parallel LLM Decoding
2026-10-15arxiv.org
★★★★★
SchemaWeaver 提出用模式引导的并行解码方案,加速端侧移动 Agent 的 LLM 工具调用。
值得记下
阅读原文↗端侧 Agent 的延迟瓶颈常被归因于模型体积,这里指向了工具调用解码本身的串行结构。
内容来源:arxiv.org,版权归原作者所有