⚡ 猫叔的AI资讯雷达
模型开源Agent

蚂蚁发布稀疏小模型 Ling 3.0 Tiny

Ling 3.0 Tiny 总参数量为 79 亿、每个 token 仅激活 13 亿参数,瞄准低成本本地部署与高频智能体任务。

用稀疏激活压低推理门槛

蚂蚁集团 InclusionAI 团队发布开放权重模型 Ling 3.0 Tiny。该模型总参数量为 79 亿,但处理每个 token 时只激活约 13 亿参数,试图借助混合专家架构,在保留较强能力的同时降低推理所需的计算量和内存带宽,更适合资源受限的部署环境。

第三方评测机构 Artificial Analysis 在 4.1.1 版 Intelligence Index 中给出 25 分。按该机构的结果,Ling 3.0 Tiny 已进入较强的小型开放权重模型行列,但绝对能力与前沿大模型仍有明显距离。在用于考察模型是否会自信编造答案的 Omniscience Index 上,它得到负 19 分;对于这一体量的模型,评测方认为表现相对不错。

不过,它的实际效率并不能只看激活参数量。Artificial Analysis 统计发现,Ling 3.0 Tiny 完成每项 Intelligence Index 任务平均会生成约 5.1 万个输出 token,高于 Ling 3.0 Flash 的约 3.6 万个,也比 Nemotron 3.5 Lightning 和同类 Qwen 模型等高效选手多约 65%。每个 token 的计算成本虽然较低,但如果推理链明显更长,节省下来的算力可能被更高的总 token 消耗、延迟和服务时间部分抵消。

为何重要

Ling 3.0 Tiny 为竞争迅速升温的百亿参数以下市场增加了一个中国选手。这类模型的主要价值并非争夺旗舰聊天机器人榜首,而是进入本地助手、高并发智能体和垂直系统:在这些场景中,延迟、隐私和运营成本通常比极限能力更重要。它偏长的推理轨迹也再次说明,企业选型不能只比较参数规模或单 token 价格,还应衡量完成整项任务所需的总成本。后续在不同硬件上的延迟、显存占用和单任务成本测试,将决定其稀疏架构能否转化为真实优势。

信源