技术 · 产品技术
2026 年 10 月 15 日
来源:AIBase
10月15日,蚂蚁集团旗下百灵大模型宣布开源Ling-3.1-flash,权重在Hugging Face与ModelScope开放下载。该模型延续混合线性架构,总参数约560B、每个Token激活约25B,最高支持1M上下文,面向办公、医疗、软件工程、终端操作等真实工作流做了能力升级:在办公任务评测GDPVal-AA V2.1中取得1673 ELO,在HealthBench Professional医疗评测中得分65.35,公开评测智能指数41、输出速度约每秒210 Token,混合调用价格约每百万Token 0.19美元。为降低本地部署门槛,团队对路由专家采用MXFP4量化、稠密层保留block-FP8,权重体积从约534GB压缩至292GB,在对应的Hopper GPU测试配置下,服务部署由8卡降至4卡,让具备服务器级GPU的企业以更少卡数、更低成本运行这一模型。
万有知兴点评
开源大模型的竞争焦点,正从“参数有多大”转向“企业到底能不能便宜、省卡地跑起来”——这才是私有化落地真正关心的命题。
- 1.对企业落地意味着什么:通过量化把560B模型的部署门槛从8卡压到4卡、价格做到每百万Token 0.19美元,直接回应了企业最在意的“算力成本”这道坎。对预算有限、又想自持模型做私有化部署的中型企业,这是一条把前沿能力落到自有环境、数据不出域的现实路径。
- 2.可借鉴的启示:“智效比”(智能指数与生成效率、价格的平衡)正成为选型的新标准。企业在评估大模型时,不应只盯着榜单分数,而要结合自身调用频率、延迟容忍度和预算,算清楚“单位成本能换来多少可用的智能”,这才是能真正落地的判断依据。
- 3.它同时给出一个技术信号:混合线性注意力+稀疏MoE+分层量化已成为“大而省”的主流配方。自建或微调模型的技术团队可以借鉴这套组合拳,在几乎不牺牲关键任务表现的前提下,显著压缩显存占用与所需卡数,摊薄长期的推理成本。
原文:AIBase ↗
点评为万有知兴原创观点,转载需注明出处。