商汤科技在 11 月 17 日正式推出日日新 SenseNova Loop-9B 模型,它采用 Loop 循环 Transformer 搭配流形约束超连接 mHC 技术,总参数量只有 9B,依靠参数复用提升有效计算深度,4bit 量化之后权重仅 4.9GB,整体部署显存需求可以压到 10GB 以内,小显存消费级显卡、边缘硬件都能跑起来,在 Agent 智能体、代码编写、数据分析、图文多模态任务上,能力对标 27B 级别的大模型,打破想要强推理能力就必须堆高参数、高显存的固有思路。传统大模型想要提升能力大多是直接增加参数规模,带来显存占用飙升、硬件门槛变高、推理成本上涨的问题,Loop-9B 不走堆参数路线,它只有 32 个物理解码层,中间共享层会重复运算一次,最终实现 56 次层计算,拉长计算深度;同时支持图文输入、文本输出,上下文窗口最高 512K tokens,适合超长文档解析、长代码处理、复杂智能体任务。本次发布的是正式版,对比之前 Preview 预览版,优化了 Agent、代码、数据分析的效果,发布当天寒武纪也完成了这个模型的首日适配,扩大硬件适配生态,方便开发者在本地、边缘设备私有化部署。
SenseNova Loop-9B 核心参数清单
- 模型名称:SenseNova Loop-9B(日日新系列)
- 总参数量:约 9B
- 架构:Looped Transformer + mHC 流形约束超连接
- 物理解码层:32 层,循环执行后等效 56 次层计算
- 4bit 量化权重大小:约 4.9GB
- 部署显存门槛:≤10GB
- 模态:文本 + 图像输入,文本输出
- 最大上下文:512K tokens
- 优势对标:综合能力对标 Qwen3.8-27B
- 适配进展:发布当日寒武纪完成适配
部署落地操作步骤
- 获取模型权重、推理代码,在 Hugging Face 或者商汤开放平台下载资源包。
- 选择推理框架,支持 vLLM、SGLang、LightLLM 等主流推理引擎。
- 根据显卡显存情况,选择 4bit 量化版本,降低显存占用。
- 加载模型,配置上下文长度,调试长文本、代码、多模态输入。
- 对接业务系统,搭建 Agent 工作流、本地知识库、代码助手等应用。
优势与短板对照
✅ 优势:显存门槛低,普通消费显卡就能本地部署;9B 小参数达到 27B 级别推理性能;支持 512K 超长上下文,适合长文档;支持图文多模态;推理硬件选择更广,边缘端、私有化部署成本更低
⚠️ 短板:循环计算会拉高单轮 token 的推理耗时;图像理解能力属于配套能力,不是主打图像生成;自评 benchmark 表现优秀,复杂真实场景效果需要开发者自行实测
整体来看,Loop-9B 代表商汤探索的新路线:不靠疯狂堆参数,靠循环计算深度来提升模型能力,核心价值就是把接近 27B 模型的能力下放给 10GB 显存以内的硬件,降低本地私有化部署、端侧 AI 应用的门槛。
【相关 FAQ】
问题 1:商汤发布 Loop-9B 模型,显存需求低至 10GB 内,Loop-9B 是什么架构,原理是什么?
回答 1:商汤发布 Loop-9B 模型,显存需求低至 10GB 内,Loop-9B 使用 Looped Transformer 循环架构加上 mHC 流形约束超连接,复用中间层参数,32 个物理解码层循环运算实现 56 次层计算,用 9B 参数实现接近 27B 模型的推理水平。
问题 2:商汤发布 Loop-9B 模型,显存需求低至 10GB 内,它支持什么输入,上下文能到多长?
回答 2:商汤发布 Loop-9B 模型,显存需求低至 10GB 内,支持文本、图片输入,输出文本,最大上下文窗口达到 512K tokens,可以处理超长文档、长代码、复杂智能体任务。
问题 3:商汤发布 Loop-9B 模型,显存需求低至 10GB 内,和之前的 Preview 预览版差别在哪?
回答 3:商汤发布 Loop-9B 模型,显存需求低至 10GB 内,正式版延续循环架构,重点优化 Agent 智能体、代码生成、数据分析任务的表现,同时推进硬件生态适配,寒武纪在发布当天就完成了适配。
【参考资料】
[2026-11-17](商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内)IT 之家
[2026-11-17](SenseNova Loop-9B 正式版:让更少的参数走更深的计算路径)同花顺财经
[2026-11-17](寒武纪 完成 商汤 sense nova loop - 9b 适配)界面快讯
[2026-10-30](商汤开源 SenseNova Loop-9B-Preview)新浪财经
【免责声明】
本文仅整理商汤官方发布内容、媒体评测信息,不构成技术选型或者商用落地的建议;模型实际推理速度、效果受显卡、量化方式、业务场景影响,基准评测结果为厂商自评,正式商用前建议自行充分测试。
本文来自作者[光波寻址]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/rgzn/202611/3892.html
评论列表(4条)
我是乌兰科技网的签约作者“光波寻址”!
希望本篇文章《商汤正式发布 SenseNova Loop-9B 大模型,创新循环架构,部署显存需求控制在 10GB 以内》能对你有所帮助!
本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索
本文概览:商汤科技在 11 月 17 日正式推出日日新 SenseNova Loop-9B 模型,它采用 Loop 循环 Transformer 搭配流形约束超连接 mHC 技术,总参数量只有 9B,依靠参数复用提升有效计算深度,4bit 量化之后权重仅 4.9GB,整体部署显存需求可以压到 10GB 以内,小显存消费级显卡、边缘硬件都能跑起来,在 Agent 智能体、代码编写、数据分析、图文多模态任务上,能力对标 27B 级别的大模型,打破想要强推理能力就必须堆高参数、高显存的固有思路。传统大模型想要提升能力大多是直接增加参数规模,带来显存占用飙升、硬件门槛变高、推理成本上涨的问题,Loop-9B 不走堆参数路线,它只有 32 个物理解码层,中间共享层会重复运算一次,最终实现 56 次层计算,拉长计算深度;同时支持图文输入、文本输出,上下文窗口最高 512K tokens,适合超长文档解析、长代码处理、复杂智能体任务。本次发布的是正式版,对比之前 Preview 预览版,优化了 Agent、代码、数据分析的效果,发布当天寒武纪也完成了这个模型的首日适配,扩大硬件适配生态,方便开发者在本地、边缘设备私有化部署。