微软完成2.8万亿参数MAI-Base-2预训练
微软称,新型混合专家基础模型每次激活800亿参数,未来或通过Azure AI Foundry向可信合作伙伴提供授权。
微软人工智能部门发布更新称,已完成混合专家基础模型MAI-Base-2的预训练。该模型总参数规模达到2.8万亿,每次处理词元时激活约800亿参数。微软表示,模型训练数据具备较强来源可追溯性,并计划通过Azure AI Foundry向可信合作伙伴授权。
这是平台布局,不是公开发布
目前,MAI-Base-2并不是可下载模型,也不是已经面向所有用户开放的API。微软此次披露的是完成预训练和规划商业化渠道,尚未公布完整评测、价格、上下文长度或明确的客户可用时间。因此,它的现实战略意义首先来自微软对部署、算力和企业接入渠道的控制。
模型采用大规模稀疏架构,也符合行业继续扩大模型容量、同时控制推理成本的趋势。与每次都调用全部参数的稠密模型相比,混合专家模型只需激活部分参数即可处理单个请求。微软尚未说明MAI-Base-2在不同任务上的实际表现,参数规模本身不能替代公开基准。
为什么重要
微软过去长期依赖外部模型合作,同时也在持续建设自有模型家族。MAI-Base-2表明,公司希望获得更强的议价能力:既能继续提供第三方模型,也能通过企业客户熟悉的Foundry渠道分发自有基础模型。
真正值得关注的不是2.8万亿这个数字,而是微软能否把预训练成果转化成稳定、便宜且有差异化的企业服务。在公开评测和接入条款出现之前,关于其是否处于前沿水平的判断仍然缺乏证据。