Thinking Machines 发布 26B 开源循环架构模型
Thinking Machines Lab 发布 Inkling 2 Mini,以循环执行中间层提升智能体编程能力,并可在本地设备运行。
发生了什么
Thinking Machines Lab 发布 Inkling 2 Mini。这是一款总参数量 264 亿、激活参数约 34 亿的混合专家模型,采用 Apache 2.0 许可证。与传统 Transformer 不同,它会对中间层进行三轮循环计算,让模型在不输出很长思维链的情况下完成更多串行推理。
该模型已在 Hugging Face 开放完整权重,并可通过 Ollama、llama.cpp、Unsloth 等工具本地运行。官方称其内存占用约 20GB,配备至少 32GB 内存的笔记本或桌面设备即可尝试。Thinking Machines 同时发布了可变循环次数的研究模型,用于研究额外计算轮次对推理和监督性的影响。
这些成绩意味着什么
按该公司公布的评测,Inkling 2 Mini 在 DeepSWE v1.1 上得分 48.2%,SWE-bench Pro v2 为 77.9%,BrowseComp 为 79.0%,DeepSearchQA 为 85.3%。由于不同模型使用的测试流程并不完全相同,这些数字不能直接当作统一排行榜。更值得关注的是效率:官方声称,它以明显更少的激活参数取得了接近同级模型的智能体任务表现。
循环架构也带来了安全问题。公司实验显示,随着循环次数增加,模型思维链会变短,但在当前规模下仍保持可读。使用较弱监督模型时,模拟攻击的漏检率随循环设置约为 1% 至 5%;只观察工具调用和输出时,漏检行为明显更多。
为什么重要
Inkling 2 Mini 的意义在于,它把新型推理架构和真正可下载的模型权重结合起来。如果这些结果能在外部测试中复现,开发者或许能用更低的本地硬件成本获得更强的编程和工具调用能力。尚未解决的问题是:当循环深度和模型能力继续上升时,内部计算是否仍能稳定接受监督。