TML Inkling 2 Mini 开源模型解读循环 Transformer 架构,笔记本本地可跑

TML(Thinking Machines Lab)最新开源的 Inkling 2 Mini 是一款采用循环 Transformer+MoE 混合专家的多模态模型,权重约 20GB,内存充足的笔记本就能离线本地跑,总参数 26B,激活参数仅 3.4B,最大上下文支持 100 万 Token,主打代码、Agent 智能体任务,用共享中间层循环计算的方式,在不暴涨权重体积的前提下提升推理深度,许可证是 Apache 2.0,开发者可以直接下载权重、本地部署、微调,适合想要在个人电脑离线跑复杂智能体、写代码的玩家和独立开发者。

一、基础参数清单

  • 模型名称:Inkling 2 Mini
  • 开发团队:Thinking Machines Lab(TML)
  • 架构:循环 Transformer(Looped Transformer)+ 稀疏 MoE
  • 总参数:26B,激活参数 3.4B,循环计算后等效激活 5.4B
  • 层数:24 层 Decoder-only,首尾各 6 层单次运行,中间 12 层循环跑 3 次
  • 输入:文本 + 图像,原生多模态
  • 上下文窗口:100 万 Token
  • 权重大小:约 20GB
  • 开源协议:Apache 2.0
  • 部署门槛:笔记本≥32GB 内存,推荐 48GB 内存 MacBook Pro 这类机型
  • 配套工具:Tinker 推理框架,HuggingFace 可获取权重

二、循环 Transformer 核心原理

普通 Transformer 每生成一个 token,每层只跑一次;而 Inkling 2 Mini 把中间 12 层设置成循环复用:

  1. 前 6 层:输入处理,只执行一轮
  2. 中间 12 层:共享权重,循环迭代 3 轮,每一轮接收上一轮输出继续推理
  3. 后 6 层:输出映射,只执行一轮

好处是权重文件不会变大,靠多次迭代计算强化逻辑推导,很适合 Agent、代码规划这类需要多步思考的任务,不用为了强推理堆超大权重。

三、能力亮点

  1. 离线 Agent 能力:官方演示在飞机上断网,MacBook Pro 本地运行,几分钟写出可玩飞行模拟器
  2. 代码表现突出:在 DeepSWE、Vals Index 等代码、Agent 基准上,在同量级模型里排名靠前
  3. 超长上下文:100 万 Token 窗口,适合读整套代码库、长文档
  4. 配套可变循环研究版 TML-d24-varloop-research,推理时自由调整循环次数,方便科研
  5. 低权重体积,20GB 左右,不用高端多卡 GPU,消费级笔记本就能承载

四、适用场景

  • 本地离线 Agent 开发:个人电脑跑多步骤自主任务、模拟智能体小镇
  • 代码工程:写项目、调试、代码审查、生成小游戏 Demo
  • 长文档研读:整本文档、整套代码库本地解析,不上传云端
  • 科研实验:循环 Transformer 架构相关消融实验、对比不同循环次数的效果
  • 隐私优先场景:所有数据留在本地,不经过第三方 API

五、短板说明

  • 多轮闲聊对话表现一般,模型定位不是通用聊天模型
  • 对内存要求偏高,16GB 内存笔记本很难流畅运行
  • 循环计算会拉高单 token 推理耗时,速度比同参数普通 Transformer 慢一点

六、部署方式

  1. HuggingFace 下载权重,用 Tinker 框架加载推理
  2. 支持本地离线运行,不需要联网
  3. 支持低精度量化,进一步降低内存占用(量化后性能会小幅下降)

【相关 FAQ】

问题 1:TML Inkling 2 Mini 循环 Transformer 架构和普通 Transformer 有什么不一样?

回答 1:TML Inkling 2 Mini 循环 Transformer 会复用中间 12 层权重循环计算 3 次,普通 Transformer 每层只跑一次,它用一套权重实现更多轮推理,控制模型文件大小。

问题 2:TML Inkling 2 Mini 真的可以在笔记本上跑吗?需要什么配置?

回答 2:TML Inkling 2 Mini 权重约 20GB,笔记本内存至少 32GB,48GB 内存的 MacBook Pro 可以流畅离线跑,16GB 内存机型很难正常加载。

问题 3:TML Inkling 2 Mini 开源协议是什么,能不能商用?

回答 3:TML Inkling 2 Mini 采用 Apache 2.0 协议开源,开发者可以下载权重、本地部署、微调,在协议范围内商用。

问题 4:TML Inkling 2 Mini 循环 Transformer 模型主要擅长什么任务?

回答 4:TML Inkling 2 Mini 循环 Transformer 模型主打代码编写、Agent 智能体、长文档分析,适合多步推理类任务,不是优先面向日常闲聊。

问题 5:TML 除了 Inkling 2 Mini 还有配套的循环 Transformer 研究模型吗?

回答 5:有的,TML 同步放出 TML-d24-varloop-research 可变循环研究版,推理时可以自由修改循环次数,用来研究循环 Transformer 的效果。

【参考资料】

[2026-11-21](TML 开源新模型,循环 Transformer 架构,笔记本就能跑)机器之心

[2026-11-21](27B!穆拉蒂开源 “循环脑” 模型:笔记本跑 Agent 起飞)智东西

[2026-11-20](Introducing Inkling 2 Mini)Thinking Machines Lab 官网

[2026-11-21](TML releases Inkling 2 Mini, an open-weights 26.4B-parameter looped transformer)CURATED

[2026-11-21](TML Inkling 2 Mini: Open-Weights AI Model For Your Laptop)GPTOnline.ai

【免责声明】

本文是 TML Inkling 2 Mini 循环 Transformer 模型资讯整理,模型实际运行速度、内存占用受量化方案、硬件、推理框架影响;循环 Transformer 的推理效果在不同任务上存在差异,Apache 2.0 协议的使用约束请自行查阅官方协议原文,本文不构成商用部署建议。

本文来自作者[空域镜像使]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/jqr/202611/5145.html

赞 (4)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 空域镜像使
    空域镜像使 2026年11月21日

    我是乌兰科技网的签约作者“空域镜像使”!

  • 空域镜像使
    空域镜像使 2026年11月21日

    希望本篇文章《TML Inkling 2 Mini 开源模型解读循环 Transformer 架构,笔记本本地可跑》能对你有所帮助!

  • 空域镜像使
    空域镜像使 2026年11月21日

    本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索

  • 空域镜像使
    空域镜像使 2026年11月21日

    本文概览:TML(Thinking Machines Lab)最新开源的 Inkling 2 Mini 是一款采用循环 Transformer+MoE 混合专家的多模态模型,权重约 20GB,内存充足的笔记本就能离线本地跑,总参数 26B,激活参数仅 3.4B,最大上下文支持 100 万 Token,主打代码、Agent 智能体任务,用共享中间层循环计算的方式,在不暴涨权重体积的前提下提升推理深度,许可证是 Apache 2.0,开发者可以直接下载权重、本地部署、微调,适合想要在个人电脑离线跑复杂智能体、写代码的玩家和独立开发者。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们