孵化自北大软件工程研究所的硅心科技 aiXcoder,正式开源专为编程 Agent 打造的 aiXcompact-4B 上下文压缩模型,参数量为 4B,测试数据显示私有化部署场景下推理成本相比 DeepSeek-V4-Pro 下降 78%,走 API 调用模式时成本降幅可达 97%,并且在 Terminal-Bench 测试里,接入 OpenCode 做任务,整体完成准确率和对比的大模型基本持平,它专门用来处理编程智能体不断堆积的历史对话、工具返回信息,自动剔除无效重复内容,保留代码、报错、文件路径这些关键信息,生成结构化摘要,减少每一轮传给大模型的 Token 数量,单张 A100-40GB 显卡就能本地部署,源码和模型权重已经在 GitHub 开放,适合开发团队、AI 编程服务商用来降低长上下文 Agent 的运行开销。
专门开发这款 4B 上下文压缩模型的原因
- 编程 Agent 多轮运行时,会不断叠加文件读取、命令输出、日志等大量冗余内容,Token 量持续暴涨,直接拉高 API 费用和推理耗时。
- 过去行业常用通用大模型做上下文压缩,通用大模型本身算力、调用成本很高,压缩带来的省钱效果被抵消。
- 代码场景有特殊性,普通文本压缩容易弄丢变量名、文件路径、报错信息,会导致后续代码任务出错。
- 4B 小模型体量轻,硬件门槛低,企业可以私有化部署,不用频繁调用第三方 API,数据也不用对外流出。
- 长上下文是现在 AI 编程落地的一大卡点,低成本专用压缩模型,能让 Agent 稳定跑更长的开发会话,提升实用性。
模型信息清单
- 模型名称:aiXcompact-4B
- 开发主体:硅心科技 aiXcoder(北大软件工程研究所孵化)
- 模型定位:编程 Agent 专用上下文压缩模型
- 参数量:4B
- 部署硬件门槛:单张 A100-40GB 显卡可私有化部署
- 测试基准:Terminal-Bench,接入 OpenCode 验证
- 对比基准模型:DeepSeek-V4-Pro
- 私有化推理成本降幅:78%
- API 调用成本降幅:约 97%
- 核心能力:清理重复工具输出、保留代码关键信息、输出结构化任务摘要
- 开源地址:GitHub aixcoder-plugin/aiXcompact-4B
- 适用场景:代码智能体、自动化编程、长会话开发任务
- 许可证:开源协议随仓库公示
效果说明
aiXcompact-4B 不是用来写代码的主模型,它属于前置辅助模型,先把长长的历史上下文精简之后,再交给主大模型执行编码任务。它的优势是在不明显降低任务成功率的前提下砍 Token 开销,不过它只针对编程 Agent 场景优化,通用对话、文档总结场景的压缩效果没有经过专项验证。
【相关 FAQ】
问题 1:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,模型名字叫什么?
回答 1:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,这款模型名称是 aiXcompact-4B,由硅心科技 aiXcoder 推出。
问题 2:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,它主要用来做什么?
回答 2:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,专门给编程 Agent 压缩长上下文,剔除冗余日志、重复返回信息,保留代码、报错、文件路径等关键内容,减少 Token 消耗。
问题 3:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,部署需要什么显卡?
回答 3:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,aiXcompact-4B 支持单张 A100-40GB 显卡完成私有化本地部署。
问题 4:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,压缩之后会不会降低编程任务成功率?
回答 4:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,在 Terminal-Bench 测试中,接入 OpenCode 后任务完成准确率和 DeepSeek-V4-Pro 基本持平。
【参考资料】
[2026-11-11](推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型)智东西
[2026-11-11](推理成本直降 78%!aiXcoder 开源 aiXcompact-4B 模型,接手 Agent 上下文压缩任务)投资界
[2026-11-11](aiXcoder 开源 aiXcompact-4B,面向编程 Agent 长上下文压缩)界面新闻
【免责声明】
本内容信息来源于 aiXcoder 开源公告、科技媒体公开报道,aiXcompact-4B 压缩效果、成本节省数据来自官方基准测试,实际使用效果受 Agent 流程、任务类型、上下文内容影响,模型开源协议、更新维护以 GitHub 仓库最新公示为准,本内容仅为技术资讯科普,不构成 AI 项目选型、采购落地建议。
本文来自作者[光涡寻路者]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/rgzn/202611/1663.html
评论列表(4条)
我是乌兰科技网的签约作者“光涡寻路者”!
希望本篇文章《推理成本降 78%、API 成本降 97%,北大孵化硅心科技开源 4B 上下文压缩模型 aiXcompact-4B》能对你有所帮助!
本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索
本文概览:孵化自北大软件工程研究所的硅心科技 aiXcoder,正式开源专为编程 Agent 打造的 aiXcompact-4B 上下文压缩模型,参数量为 4B,测试数据显示私有化部署场景下推理成本相比 DeepSeek-V4-Pro 下降 78%,走 API 调用模式时成本降幅可达 97%,并且在 Terminal-Bench 测试里,接入 OpenCode 做任务,整体完成准确率和对比的大模型基本持平,它专门用来处理编程智能体不断堆积的历史对话、工具返回信息,自动剔除无效重复内容,保留代码、报错、文件路径这些关键信息,生成结构化摘要,减少每一轮传给大模型的 Token 数量,单张 A100-40GB 显卡就能本地部署,源码和模型权重已经在 GitHub 开放,适合开发团队、AI 编程服务商用来降低长上下文 Agent 的运行开销。