北大 PKU-DAIR 实验室苗旭鹏团队推出 MapFlow 方案，不再依赖跨模型传递 KV 缓存，转而复用注意力图，在多模型 Agent 接力、模型切换交接上下文的时候，不用再对相同历史内容完整重算 KV，在保证生成质量不变的前提下，降低预填充延迟、提升服务吞吐量，解决现在多模型协作场景里的一大算力浪费问题。现在主流的前缀缓存、KV 复用方案，基本只能在同一个模型内部使用，因为 KV 缓存和模型结构、层数、头数深度绑定，大模型处理完长上下文之后，交给另一个不同架构、不同参数量的模型接着处理，接收方必须重新跑一遍 prefill、重新计算整套 KV，对话历史、文档、工具描述这些重复上下文反复计算，带来很高的延迟和算力开销。MapFlow 的思路是把注意力图作为可跨模型传递的中间状态，注意力图记录 token 之间的依赖关系，相比 KV 缓存更容易跨模型迁移，整套方案搭配轻量线性映射、块级稀疏压缩、融合 GPU 内核这几个技术，还会保留少量局部重算，平衡复用精度和速度损失。在测试里，这套方案 prefill 延迟下降 15%–20%，多轮对话路由场景，在相同首 token 延迟上限的条件下，系统吞吐量最高提升 25%，论文已经被 SIGMOD 2027 录用，配套代码也已经开源。这套方案适合 Agent 多模型分工、长文档多模型接力、路由推理这类前缀很重的业务场景，并不是直接替换 KV 缓存，而是给异构模型交接上下文提供一条新的加速路径。
MapFlow 和传统 KV 缓存复用对比表
| 方案 | 可跨模型复用 | 复用对象 | 主要限制 | 典型收益 |
|---|---|---|---|---|
| 传统 KV 前缀缓存 | 否 | KV 缓存 | KV 和模型架构强绑定，只能同模型复用 | 同模型场景 prefill 加速 |
| 北大 MapFlow | 是 | 注意力图 | 需要少量局部重算做精度补偿 | prefill 延迟降 15%-20%，吞吐量最高 + 25% |
MapFlow 核心技术清单
- 注意力图复用：传递 token 依赖关系，替代跨模型传递 KV
- 轻量线性映射：跨层、跨注意力头做转换，适配不同模型结构
- 块级稀疏压缩：缩减注意力图体积，适配超长上下文
- 融合 GPU 检索内核：降低读写开销，提升推理速度
- 部分重算机制：关键位置保留少量计算，保证输出质量不下降
【相关 FAQ】
问题 1：北大 MapFlow 为什么不用跨模型重算 KV，而是复用注意力图？
回答 1：传统 KV 缓存和模型架构、注意力头绑定，很难跨模型迁移，北大 MapFlow 选择复用注意力图，注意力图记录 token 依赖关系，更容易在异构模型之间传递，从而在跨模型上下文交接时减少 KV 重算。
问题 2：北大 MapFlow 在跨模型上下文交接场景里，实测效果怎么样？
回答 2：北大 MapFlow 在跨模型上下文交接场景，保持生成质量不变的前提下，prefill 预填充延迟降低 15%–20%；多轮对话路由场景，同等 P90 首 token 延迟约束下，吞吐量最高提升 25%。
问题 3：北大 MapFlow 是不是所有模型切换场景都可以直接拿来用？
回答 3：北大 MapFlow 更适合 Agent 多模型接力、长文档处理、多模型路由这类前缀重的场景，它依靠注意力图复用 + 局部重算，不是完全零重算，依然需要少量计算来保障效果。
问题 4：北大 MapFlow 相关论文和代码有没有公开？
回答 4：北大 MapFlow 论文标题为《Accelerating Cross-Model LLM Inference via Attention Map Reuse》，已经被 SIGMOD 2027 录用，项目代码已经开源，可在 GitHub 上获取。
问题 5：北大 MapFlow 和常见的 KV 缓存前缀缓存有什么本质区别？
回答 5：常见 KV 前缀缓存只能在同一个模型内部复用，跨模型交接上下文就失效；北大 MapFlow 复用注意力图，目标就是异构模型之间交接上下文，解决跨模型必须重算 KV 的痛点。
【参考资料】
[2026-11-08]（跨模型上下文交接还要重算 KV？北大提出 MapFlow，让注意力跨模型复用）搜狐
[2026-11-08]（北大 MapFlow：跨模型复用注意力图加速大模型推理）新浪财经
[2026-10-14]（MapFlow：跨模型复用注意力图加速 LLM 服务）沙丘社区
[2026-10-10]（Accelerating Cross-Model LLM Inference via Attention Map Reuse）arXiv
【免责声明】
本内容仅为 AI 科研资讯整理，北大 MapFlow 相关性能数据来自论文实验环境下的测试结果，实际部署收益受模型配对、上下文长度、GPU 环境影响；该方案属于前沿研究成果，尚未大规模商用，技术落地效果请以官方开源代码、论文原文为准。
本文来自作者[Marin55]投稿，不代表诚邦网立场，如若转载，请注明出处：https://www.cbpmc.com.cn/qyzx/202611/56.html
评论列表（4条）
我是诚邦网的签约作者“Marin55”！
希望本篇文章《北大 MapFlow 实现跨模型注意力复用，解决跨模型上下文交接重复重算 KV 的痛点》能对你有所帮助！
本站[诚邦网]内容主要涵盖：互联网行业的追踪与探索
本文概览：北大 PKU-DAIR 实验室苗旭鹏团队推出 MapFlow 方案，不再依赖跨模型传递 KV 缓存，转而复用注意力图，在多模型 Agent 接力、模型切换交接上下文的时候，不用再对相同历史内容完整重算 KV，在保证生成质量不变的前提下，降低预填充延迟、提升服务吞吐量，解决现在多模型协作场景里的一大算力浪费问题。现在主流的前缀缓存、KV 复用方案，基本只能在同一个模型内部使用，因为 KV 缓存和模型结构、层数、头数深度绑定，大模型处理完长上下文之后，交给另一个不同架构、不同参数量的模型接着处理，接收方必须重新跑一遍 prefill、重新计算整套 KV，对话历史、文档、工具描述这些重复上下文反复计算，带来很高的延迟和算力开销。MapFlow 的思路是把注意力图作为可跨模型传递的中间状态，注意力图记录 token 之间的依赖关系，相比 KV 缓存更容易跨模型迁移，整套方案搭配轻量线性映射、块级稀疏压缩、融合 GPU 内核这几个技术，还会保留少量局部重算，平衡复用精度和速度损失。在测试里，这套方案 prefill 延迟下降 15%–20%，多轮对话路由场景，在相同首 token 延迟上限的条件下，系统吞吐量最高提升 25%，论文已经被 SIGMOD 2027 录用，配套代码也已经开源。这套方案适合 Agent 多模型分工、长文档多模型接力、路由推理这类前缀很重的业务场景，并不是直接替换 KV 缓存，而是给异构模型交接上下文提供一条新的加速路径。