TML(Thinking Machines Lab)发布开源多模态模型 Inkling 2 Mini,依靠循环 Transformer(looped/recurrent Transformer)搭配 MoE 混合专家设计,实现了大模型推理轻量化,满足笔记本本地离线运行条件。这个模型总参数约 26.4B,权重文件大约 20GB,采用 Apache 2.0 协议开放,支持图文输入、最长 100 万 token 上下文;它的核心技巧是重复循环中间层计算,每一个 token 会把中间层循环执行三次,不用堆更多独立层就能提升推理和编码智能体能力,激活参数控制在较低水平,硬件门槛被明显压低。官方演示里在 48GB 统一内存的 MacBook Pro 上离线跑通,飞机断网状态下直接写出可玩飞行模拟器,还能用单台笔记本驱动多个智能体交互;当然它也有门槛,基础要求设备拥有至少 32GB 统一内存或者显存,普通低配轻薄本很难流畅跑满,同时它在部分复杂约束任务、多轮对话场景还有短板。开发者可以通过 Tinker、Ollama、vLLM 等工具做推理、微调或者二次量化,适合个人开发者、小型团队在本地做智能体、代码生成、长文档处理这类工作。
一、模型基础参数表
| 项目 | 详情 |
|---|---|
| 模型名称 | Inkling 2 Mini |
| 架构 | 循环 Transformer + MoE 混合专家 |
| 总参数 | 约 26.4B |
| 权重大小 | 约 20GB |
| 上下文窗口 | 最高 100 万 token |
| 输入能力 | 文本 + 图像输入 |
| 开源协议 | Apache 2.0 |
| 基础硬件门槛 | ≥32GB 统一内存 / 显存 |
二、循环 Transformer 架构原理
- 权重复用:只保留 24 层基础权重,依靠循环重复运算,等效获得更深网络的推理效果,不用成倍增加存储压力。
- 单 Token 循环计算:每个 token 经过中间层重复三次运算,强化思考推理,在编码、自主智能体任务上优势突出。
- 稀疏激活:MoE 设计只激活部分专家参数,平均推理开销远低于同总参数的稠密大模型,适配消费级硬件。
三、笔记本部署相关要点
- 推荐设备:Apple 硅 Mac(32GB+ 统一内存)、带 32GB 以上显存的 NVIDIA 笔记本;高配机型效果更好。
- 运行方式:支持原生精度推理,也可以使用 GGUF 量化包进一步降低内存占用,换取更高速度。
- 可用工具:Ollama、Tinker、SGLang、vLLM、llama.cpp 等,支持推理和自定义微调。
- 适用场景:本地代码智能体、长文档阅读、离线多模态问答、小型多智能体演示。
四、模型优势与短板
✅ 优势
- 开源开放,商用门槛低
- 超长上下文,长文本处理能力强
- 离线本地运行,不需要稳定云端网络
- 智能体、代码生成基准表现处于同参数梯队前列
❌ 短板
- 低配笔记本无法稳定运行
- 在复杂约束、多轮对话等任务测评结果一般
- 循环计算会拉长单 token 推理耗时
【相关 FAQ】
问题 1:TML 循环 Transformer 开源模型,是不是随便一台笔记本都能跑?
回答 1:不是,这款循环 Transformer 开源模型 Inkling 2 Mini 基础要求至少 32GB 内存或者显存,普通轻薄本内存不够,很难正常加载运行,官方演示用的是高配 Mac 设备。
问题 2:循环 Transformer 架构和普通 Transformer 相比,核心差别是什么?
回答 2:循环 Transformer 架构依靠重复循环中间层权重计算,用少量固定层数重复运算提升推理深度,普通 Transformer 一般堆叠更多独立层,同等效果下循环方案更省存储空间,更容易放到笔记本本地运行。
问题 3:TML 的这款循环 Transformer 开源模型可以拿来商用吗?
回答 3:模型使用 Apache 2.0 开源协议,权重开放,在协议规范范围内可以商用、推理以及微调改造,使用时需要遵守协议条款。
问题 4:这款循环 Transformer 开源模型在笔记本上离线运行,适合用来做什么?
回答 4:适合离线写代码、长文档分析、图文问答、搭建小型智能体演示;TML 官方演示中,笔记本离线运行它生成了飞行模拟器,还驱动多个虚拟角色互动。
【参考资料】
[2026-11-21](TML's New Open-Source Model Uses a Recurrent Transformer Architecture and Can Run on a Laptop)C114Pro
[2026-11-21](TML 开源新模型,循环 Transformer 架构,笔记本就能跑)腾讯新闻 - 机器之心
[2026-11-21](27B! 穆拉蒂开源 “循环脑” 模型:笔记本跑 Agent 起飞!)智东西
[2026-11-20](Introducing Inkling 2 Mini)Thinking Machines Lab 官方博客
【免责声明】
本文仅为 AI 模型行业资讯科普,不代表模型性能承诺;循环 Transformer 模型在笔记本上的实际速度、稳定性受内存、驱动、量化方案影响;部署、商用前请仔细阅读模型卡与开源协议,自行评估硬件适配与合规风险。
