商汤日日新 SenseNova Loop-9B 大模型在 11 月 17 日正式开源发布,昆仑芯同步完成 Day 0 首日适配,依托自家自研 AI 软件栈打通整套推理链路,开发者拿到模型权重之后就可以直接在昆仑芯加速卡上部署跑通,不用长时间等待算子开发和调优,进一步补齐国产算力和国产大模型协同落地的生态。SenseNova Loop-9B 是一款循环架构的多模态大模型,只有 9B 物理参数,依靠复用中间层权重,把 32 个物理解码层做到 56 次计算,搭配双流 mHC 流形约束超连接技术,在 Agent 智能体、代码编写、数据分析、长文本推理任务上可以对标更大参数模型,这个特殊的循环执行结构对算力芯片算子调度、内存管理要求很高,也是本次适配里面最大的难点。昆仑芯团队针对循环层重复计算逻辑、mHC 双流路由、混合注意力算子做专项优化,同时兼容官方 AWQ 4bit 量化版本,压低显存占用,让这款模型在国产加速硬件上更容易做私有化部署。整套适配完成之后,企业用户可以基于昆仑芯硬件快速搭建本地推理服务,用来做文档解析、代码助手、智能体工具调用这类业务场景。
SenseNova Loop-9B 模型核心参数清单
- 物理参数量:约 9B
- 架构特点:Loop 循环 Transformer + 双流 mHC 流形约束超连接
- 上下文上限:最高 512K tokens
- 输入输出:图文输入、文本输出
- 量化方案:官方 AWQ 4bit 量化,权重约 4.9GB
- 优势场景:Agent 智能体、代码生成、数据分析、长文档理解
昆仑芯适配优化重点
- 循环计算调度:对重复执行的共享中间层做计算复用优化,减少重复权重读取开销
- mHC 双流算子适配:完成双残差流信息交互算子开发,保证模型原始逻辑精度不损失
- 量化链路打通:原生支持 AWQ 4bit 量化权重加载,降低运行显存门槛
- 推理框架兼容:对接昆仑芯自研软件栈,支持单机部署、多卡集群扩展
部署显存参考表
| 版本 | 显存需求 | 适合场景 |
|---|---|---|
| FP16 原版 | 约 18GB+ | 追求最高精度,高性能推理服务 |
| AWQ 4bit 量化版 | 10GB 以内 | 私有化本地部署、边缘推理 |
| 4bit 量化 + 8bit KV 缓存 | 约 15GB | 256K 长上下文推理 |
【相关 FAQ】
问题 1:昆仑芯科技完成商汤日日新 SenseNova Loop-9B 大模型适配,Day 0 适配是什么意思?
回答 1:昆仑芯科技对商汤日日新 SenseNova Loop-9B 大模型是 Day 0 适配,意思就是商汤这款大模型发布开源当天,昆仑芯就完成算子调优和推理验证,模型权重放出即可直接在昆仑芯硬件部署。
问题 2:商汤日日新 SenseNova Loop-9B 大模型采用什么架构,能力特点是什么?
回答 2:商汤日日新 SenseNova Loop-9B 大模型采用 Loop 循环 Transformer 架构,9B 物理参数,通过层复用提升有效计算深度,擅长 Agent 智能体、代码、数据分析、512K 超长上下文任务。
问题 3:昆仑芯科技适配商汤日日新 SenseNova Loop-9B 大模型主要攻克哪些难点?
回答 3:昆仑芯科技适配商汤日日新 SenseNova Loop-9B 大模型,重点攻克循环层重复计算调度、双流 mHC 路由算子、混合注意力适配,同时打通 4bit 量化推理链路。
问题 4:昆仑芯适配后的商汤日日新 SenseNova Loop-9B 大模型适合哪些落地场景?
回答 4:昆仑芯适配后的商汤日日新 SenseNova Loop-9B 大模型适合私有化本地部署,用来搭建长文档解析、代码助手、智能体工具调用、数据分析类 AI 业务。
【参考资料】
[2026-11-19](昆仑芯完成商汤 SenseNova Loop-9B 模型 Day 0 适配,持续推动芯模协同发展)昆仑芯官网
[2026-11-18](SenseNova Loop-9B 正式版:让更少的参数走更深的计算路径)IT 之家
[2026-11-18](商汤日日新 SenseNova Loop-9B 开源,多家国产芯片完成首日适配)36 氪
[2026-11-17](商汤正式发布 SenseNova Loop-9B 循环架构大模型)新浪科技
[2026-11-17](商汤 SenseNova Loop-9B:9B 参数实现近似 27B 模型效果)财联社
【免责声明】
本文仅整理昆仑芯适配商汤日日新 SenseNova Loop-9B 大模型的公开资讯;模型性能、显存占用、推理吞吐会受硬件规格、量化策略、输入长度影响;Day 0 适配仅代表功能跑通,后续还会持续迭代性能优化;本文内容不构成硬件采购、模型二次开发投资建议。
本文来自作者[雾粒编组使]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/bdt/202611/4611.html
评论列表(4条)
我是乌兰科技网的签约作者“雾粒编组使”!
希望本篇文章《昆仑芯科技 Day 0 完成商汤日日新 SenseNova Loop-9B 大模型适配》能对你有所帮助!
本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索
本文概览:商汤日日新 SenseNova Loop-9B 大模型在 11 月 17 日正式开源发布,昆仑芯同步完成 Day 0 首日适配,依托自家自研 AI 软件栈打通整套推理链路,开发者拿到模型权重之后就可以直接在昆仑芯加速卡上部署跑通,不用长时间等待算子开发和调优,进一步补齐国产算力和国产大模型协同落地的生态。SenseNova Loop-9B 是一款循环架构的多模态大模型,只有 9B 物理参数,依靠复用中间层权重,把 32 个物理解码层做到 56 次计算,搭配双流 mHC 流形约束超连接技术,在 Agent 智能体、代码编写、数据分析、长文本推理任务上可以对标更大参数模型,这个特殊的循环执行结构对算力芯片算子调度、内存管理要求很高,也是本次适配里面最大的难点。昆仑芯团队针对循环层重复计算逻辑、mHC 双流路由、混合注意力算子做专项优化,同时兼容官方 AWQ 4bit 量化版本,压低显存占用,让这款模型在国产加速硬件上更容易做私有化部署。整套适配完成之后,企业用户可以基于昆仑芯硬件快速搭建本地推理服务,用来做文档解析、代码助手、智能体工具调用这类业务场景。