由北京大学软件工程研究所孵化的 AI 编程公司 aiXcoder 近日开源了 4B 参数的上下文压缩模型 aiXcompact-4B,面向编程智能体(Coding Agent)的长程任务场景。该模型主打“在有限算力下压缩并保留长上下文”,支持单张 A100-40GB 显卡完成私有化部署。
在编程智能体里,长程任务往往要携带大量历史对话、代码库片段与工具返回结果,上下文越长,推理成本越高。aiXcompact-4B 的思路是把这些历史上下文压缩后再喂给大模型:官方称接入 OpenCode 后,其在 Terminal-Bench 上的准确率与 DeepSeek-V4-Pro 持平,而在私有化部署下,针对特定任务的单次 GPU 推理成本较 DeepSeek-V4-Pro 降低约 78%。
成本优势同样体现在 API 侧。aiXcoder 给出的单次压缩费用约为 0.019 元,较 DeepSeek-V4-Pro、GLM-5.3 与 Qwen3.8-Max 降低 97% 以上;历史上下文平均被压缩至原长度的约 25.89%。对于需要反复调用大模型的企业开发流水线,这种“以小模型做前置压缩、以大模型做主推理”的分层架构,有可观的降本空间。
对国内企业而言,aiXcompact-4B 这类轻量、可私有化、面向具体工程场景的开源模型,正好契合“既能用起来、又能控住成本与数据”的诉求,也体现了国产 AI 从堆参数走向拼工程效率的务实转向。