推理成本降 78%、API 成本降 97%,北大孵化硅心科技开源 4B 上下文压缩模型 aiXcompact-4B

孵化自北大软件工程研究所的硅心科技 aiXcoder,正式开源专为编程 Agent 打造的 aiXcompact-4B 上下文压缩模型,参数量为 4B,测试数据显示私有化部署场景下推理成本相比 DeepSeek-V4-Pro 下降 78%,走 API 调用模式时成本降幅可达 97%,并且在 Terminal-Bench 测试里,接入 OpenCode 做任务,整体完成准确率和对比的大模型基本持平,它专门用来处理编程智能体不断堆积的历史对话、工具返回信息,自动剔除无效重复内容,保留代码、报错、文件路径这些关键信息,生成结构化摘要,减少每一轮传给大模型的 Token 数量,单张 A100-40GB 显卡就能本地部署,源码和模型权重已经在 GitHub 开放,适合开发团队、AI 编程服务商用来降低长上下文 Agent 的运行开销。

专门开发这款 4B 上下文压缩模型的原因

  1. 编程 Agent 多轮运行时,会不断叠加文件读取、命令输出、日志等大量冗余内容,Token 量持续暴涨,直接拉高 API 费用和推理耗时。
  2. 过去行业常用通用大模型做上下文压缩,通用大模型本身算力、调用成本很高,压缩带来的省钱效果被抵消。
  3. 代码场景有特殊性,普通文本压缩容易弄丢变量名、文件路径、报错信息,会导致后续代码任务出错。
  4. 4B 小模型体量轻,硬件门槛低,企业可以私有化部署,不用频繁调用第三方 API,数据也不用对外流出。
  5. 长上下文是现在 AI 编程落地的一大卡点,低成本专用压缩模型,能让 Agent 稳定跑更长的开发会话,提升实用性。

模型信息清单

  • 模型名称:aiXcompact-4B
  • 开发主体:硅心科技 aiXcoder(北大软件工程研究所孵化)
  • 模型定位:编程 Agent 专用上下文压缩模型
  • 参数量:4B
  • 部署硬件门槛:单张 A100-40GB 显卡可私有化部署
  • 测试基准:Terminal-Bench,接入 OpenCode 验证
  • 对比基准模型:DeepSeek-V4-Pro
  • 私有化推理成本降幅:78%
  • API 调用成本降幅:约 97%
  • 核心能力:清理重复工具输出、保留代码关键信息、输出结构化任务摘要
  • 开源地址:GitHub aixcoder-plugin/aiXcompact-4B
  • 适用场景:代码智能体、自动化编程、长会话开发任务
  • 许可证:开源协议随仓库公示

效果说明

aiXcompact-4B 不是用来写代码的主模型,它属于前置辅助模型,先把长长的历史上下文精简之后,再交给主大模型执行编码任务。它的优势是在不明显降低任务成功率的前提下砍 Token 开销,不过它只针对编程 Agent 场景优化,通用对话、文档总结场景的压缩效果没有经过专项验证。

【相关 FAQ】

问题 1:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,模型名字叫什么?

回答 1:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,这款模型名称是 aiXcompact-4B,由硅心科技 aiXcoder 推出。

问题 2:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,它主要用来做什么?

回答 2:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,专门给编程 Agent 压缩长上下文,剔除冗余日志、重复返回信息,保留代码、报错、文件路径等关键内容,减少 Token 消耗。

问题 3:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,部署需要什么显卡?

回答 3:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,aiXcompact-4B 支持单张 A100-40GB 显卡完成私有化本地部署。

问题 4:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,压缩之后会不会降低编程任务成功率?

回答 4:推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型,在 Terminal-Bench 测试中,接入 OpenCode 后任务完成准确率和 DeepSeek-V4-Pro 基本持平。

【参考资料】

[2026-11-11](推理成本降 78%,API 成本降 97%,北大系创企开源 4B 上下文压缩模型)智东西

[2026-11-11](推理成本直降 78%!aiXcoder 开源 aiXcompact-4B 模型,接手 Agent 上下文压缩任务)投资界

[2026-11-11](aiXcoder 开源 aiXcompact-4B,面向编程 Agent 长上下文压缩)界面新闻

【免责声明】

本内容信息来源于 aiXcoder 开源公告、科技媒体公开报道,aiXcompact-4B 压缩效果、成本节省数据来自官方基准测试,实际使用效果受 Agent 流程、任务类型、上下文内容影响,模型开源协议、更新维护以 GitHub 仓库最新公示为准,本内容仅为技术资讯科普,不构成 AI 项目选型、采购落地建议。

本文来自作者[光涡寻路者]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/rgzn/202611/1663.html

赞 (1)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 光涡寻路者
    光涡寻路者 2026年11月11日

    我是乌兰科技网的签约作者“光涡寻路者”!

  • 光涡寻路者
    光涡寻路者 2026年11月11日

    希望本篇文章《推理成本降 78%、API 成本降 97%,北大孵化硅心科技开源 4B 上下文压缩模型 aiXcompact-4B》能对你有所帮助!

  • 光涡寻路者
    光涡寻路者 2026年11月11日

    本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索

  • 光涡寻路者
    光涡寻路者 2026年11月11日

    本文概览:孵化自北大软件工程研究所的硅心科技 aiXcoder,正式开源专为编程 Agent 打造的 aiXcompact-4B 上下文压缩模型,参数量为 4B,测试数据显示私有化部署场景下推理成本相比 DeepSeek-V4-Pro 下降 78%,走 API 调用模式时成本降幅可达 97%,并且在 Terminal-Bench 测试里,接入 OpenCode 做任务,整体完成准确率和对比的大模型基本持平,它专门用来处理编程智能体不断堆积的历史对话、工具返回信息,自动剔除无效重复内容,保留代码、报错、文件路径这些关键信息,生成结构化摘要,减少每一轮传给大模型的 Token 数量,单张 A100-40GB 显卡就能本地部署,源码和模型权重已经在 GitHub 开放,适合开发团队、AI 编程服务商用来降低长上下文 Agent 的运行开销。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们