您的位置首页 >人工智能 >

TML开源新模型,循环Transformer架构,笔记本就能跑

TML(Thinking Machines Lab)发布开源多模态模型 Inkling 2 Mini,依靠循环 Transformer(looped/recurrent Transformer)搭配 MoE 混合专家设计,实现了大模型推理轻量化,满足笔记本本地离线运行条件。这个模型总参数约 26.4B,权重文件大约 20GB,采用 Apache 2.0 协议开放,支持图文输入、最长 100 万 token 上下文;它的核心技巧是重复循环中间层计算,每一个 token 会把中间层循环执行三次,不用堆更多独立层就能提升推理和编码智能体能力,激活参数控制在较低水平,硬件门槛被明显压低。官方演示里在 48GB 统一内存的 MacBook Pro 上离线跑通,飞机断网状态下直接写出可玩飞行模拟器,还能用单台笔记本驱动多个智能体交互;当然它也有门槛,基础要求设备拥有至少 32GB 统一内存或者显存,普通低配轻薄本很难流畅跑满,同时它在部分复杂约束任务、多轮对话场景还有短板。开发者可以通过 Tinker、Ollama、vLLM 等工具做推理、微调或者二次量化,适合个人开发者、小型团队在本地做智能体、代码生成、长文档处理这类工作。

一、模型基础参数表

项目详情
模型名称Inkling 2 Mini
架构循环 Transformer + MoE 混合专家
总参数约 26.4B
权重大小约 20GB
上下文窗口最高 100 万 token
输入能力文本 + 图像输入
开源协议Apache 2.0
基础硬件门槛≥32GB 统一内存 / 显存

二、循环 Transformer 架构原理

  1. 权重复用:只保留 24 层基础权重,依靠循环重复运算,等效获得更深网络的推理效果,不用成倍增加存储压力。
  2. 单 Token 循环计算:每个 token 经过中间层重复三次运算,强化思考推理,在编码、自主智能体任务上优势突出。
  3. 稀疏激活:MoE 设计只激活部分专家参数,平均推理开销远低于同总参数的稠密大模型,适配消费级硬件。

三、笔记本部署相关要点

  • 推荐设备:Apple 硅 Mac(32GB+ 统一内存)、带 32GB 以上显存的 NVIDIA 笔记本;高配机型效果更好。
  • 运行方式:支持原生精度推理,也可以使用 GGUF 量化包进一步降低内存占用,换取更高速度。
  • 可用工具:Ollama、Tinker、SGLang、vLLM、llama.cpp 等,支持推理和自定义微调。
  • 适用场景:本地代码智能体、长文档阅读、离线多模态问答、小型多智能体演示。

四、模型优势与短板

✅ 优势

  • 开源开放,商用门槛低
  • 超长上下文,长文本处理能力强
  • 离线本地运行,不需要稳定云端网络
  • 智能体、代码生成基准表现处于同参数梯队前列

❌ 短板

  • 低配笔记本无法稳定运行
  • 在复杂约束、多轮对话等任务测评结果一般
  • 循环计算会拉长单 token 推理耗时

【相关 FAQ】

问题 1:TML 循环 Transformer 开源模型,是不是随便一台笔记本都能跑?

回答 1:不是,这款循环 Transformer 开源模型 Inkling 2 Mini 基础要求至少 32GB 内存或者显存,普通轻薄本内存不够,很难正常加载运行,官方演示用的是高配 Mac 设备。

问题 2:循环 Transformer 架构和普通 Transformer 相比,核心差别是什么?

回答 2:循环 Transformer 架构依靠重复循环中间层权重计算,用少量固定层数重复运算提升推理深度,普通 Transformer 一般堆叠更多独立层,同等效果下循环方案更省存储空间,更容易放到笔记本本地运行。

问题 3:TML 的这款循环 Transformer 开源模型可以拿来商用吗?

回答 3:模型使用 Apache 2.0 开源协议,权重开放,在协议规范范围内可以商用、推理以及微调改造,使用时需要遵守协议条款。

问题 4:这款循环 Transformer 开源模型在笔记本上离线运行,适合用来做什么?

回答 4:适合离线写代码、长文档分析、图文问答、搭建小型智能体演示;TML 官方演示中,笔记本离线运行它生成了飞行模拟器,还驱动多个虚拟角色互动。

【参考资料】

[2026-11-21](TML's New Open-Source Model Uses a Recurrent Transformer Architecture and Can Run on a Laptop)C114Pro

[2026-11-21](TML 开源新模型,循环 Transformer 架构,笔记本就能跑)腾讯新闻 - 机器之心

[2026-11-21](27B! 穆拉蒂开源 “循环脑” 模型:笔记本跑 Agent 起飞!)智东西

[2026-11-20](Introducing Inkling 2 Mini)Thinking Machines Lab 官方博客

【免责声明】

本文仅为 AI 模型行业资讯科普,不代表模型性能承诺;循环 Transformer 模型在笔记本上的实际速度、稳定性受内存、驱动、量化方案影响;部署、商用前请仔细阅读模型卡与开源协议,自行评估硬件适配与合规风险。