AMD公布万亿参数AI原型工作站详细配置
Threadripper Halo Station原型机采用96核Threadripper PRO处理器、四块Instinct加速卡和最高约2.6TB综合内存,计划于2027年推出。
本地AI工作站迈入更大体量
AMD在柏林IFA 2026开幕主题演讲中发布Threadripper Halo Station。AMD目前将其定义为一款桌边式原型工作站,面向本地训练、微调和运行前沿规模AI模型,包括参数量超过一万亿的模型。公司称该设备将于2027年推出,但尚未公布售价和更具体的上市日期。
AMD公布的参考配置采用96核、192线程的锐龙Threadripper PRO 9995WX处理器,并配备四块Instinct MI350P加速卡。每块加速卡拥有144GB HBM3e内存,合计最高提供576GB GPU内存和每秒16TB的GPU综合内存带宽。加上最高2TB的RDIMM系统内存,整机综合内存约为2.6TB,标称总内存带宽最高达到每秒16.4TB。
这些数据解释了AMD打算如何让设备容纳万亿参数级负载,但目前仍属于容量和峰值带宽规格,并非模型实测性能。参数量无法直接说明生成速度、可用上下文长度,也不能反映量化和稀疏混合专家架构带来的影响。AMD尚未公布这款原型机运行具体模型时的词元吞吐量、整机功耗或价格。
本地推理开始向高端市场延伸
拥有如此大内存容量的工作站,可能吸引研究机构、受严格监管的企业以及不愿把敏感素材上传云端的制作团队。开发者也可能在本地检查、定制和评估大型开放权重模型,不必为每次实验单独租用云端集群。AMD还把本机训练、微调以及同时运行数百个智能体工作流列为目标用途。
不过,模型“装得下”与“跑得实用”是两道不同门槛。四块源自数据中心产品线的加速卡,使Halo Station与紧凑型AI电脑处于不同类别;它最终的功耗、散热和价格,将决定它是较易采用的工作站,还是服务器基础设施的桌边式替代方案。软件兼容性和实测吞吐量也会与容量数字同样重要。
这项发布的重要性在于,本地AI硬件正开始按照任务规模分层,而不再只是比较设备大小。若AMD能在2027年以工作站级经济性提供可用性能,一部分推理和模型开发支出可能从按量计费的云端GPU转向本地设备。目前,这款原型机的架构和推出年份已经更加明确,但其商业优势仍需等待基准测试和价格验证。