arXiv cs.AI / cs.LG 最新· Huawei Lin·· 1 天前AI 评分59
LatComm 用可复用上下文压缩实现大模型间隐空间通信
LatComm: Reusable Context Compression for Latent Communication between Large Language Models
AI 导读
Huawei Lin 提出 LatComm，一种把上下文编码与读取分离的隐空间通信接口，让同一段长上下文在多个问题之间复用。冻结的编码模型先把上下文压成固定大小的数据包，另一个冻结的接收模型通过 cross-attention 读取，门控由自身提示词计算。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。