⚡ 猫叔的AI资讯雷达
模型开源Agent

vLLM开源多模态决策模型Decision 3.0

vLLM Semantic Router发布0.6B至26.09B参数的Decision 3.0模型,用结构化概率直接做选择,而非生成长文本。

vLLM Semantic Router团队发布Decision 3.0开源权重模型家族,可处理文本、JSON、图像和视频,并回答带有明确结构的问题。模型不再先生成一段解释,而是直接返回选项、是非判断或评分及其概率。

模型开始承担“判断”

此次发布覆盖从0.6B到26.09B参数的多个规格,面向请求路由、内容审核、工具选择和策略门控等场景。模型采用Apache-2.0许可,开发者可以检查、修改并部署权重。

模型卡显示,旗舰d3包含约260.9亿参数,其中包括约4.6亿参数的视觉编码器;它基于Qwen3.8-27B构建,并使用AMD Instinct MI325X GPU训练。由于不需要生成文本再由下游程序解析,系统有望降低延迟,也能减少格式错误带来的故障。

为什么值得关注

Decision 3.0代表了AI基础设施的一种分化趋势:生产系统并不总需要一个通用聊天模型。一个轻量、快速且可检查的决策模型,可以决定请求是否交给昂贵的前沿模型、智能体能调用哪个工具,或某段内容是否需要人工复核。

但它也有明确边界。概率经过校准,并不等于后续行动一定成功;基准分数也无法证明模型在政策变化或对抗性输入下仍然可靠。因此,Decision 3.0最重要的意义,是成为开放的模型编排组件,而不是取代通用推理模型。

信源