技术 · 产品技术
2026 年 10 月 15 日
来源：太平洋科技
在第26届中国国际工业博览会工业自动化展上，华硕展示了多套基于迷你主机的“AI Agency”端侧方案，把过去依赖大型服务器集群的智能体能力下沉到端侧。其中一套方案用4台华硕Ascent GX10迷你桌面超算搭配芯途异构E1001交换机搭建轻量化本地算力集群，部署GLM 5.3 Flash大模型，通过多机协同分摊推理负载，单并发可达30-35 Token、8-10并发下整体稳定输出100-110 Token；另一套方案以NUC 16 Pro为终端底座，本地部署Qwen3.6-35B-A3B MoE模型并预装多类工业Skill插件，依托WorkBuddy智能体编排框架实现本地算力与云端算力协同——文档解析、本地知识库检索等常规任务本地推理不耗云端Token，只有深度复杂推理才按需调用远程算力，面向工厂工位智能助手、现场运维Agent等场景。
万有知兴点评
智能体落地正在走出机房——用桌面级设备组集群，意味着“数据不出厂”的本地化AI有了轻量、低门槛的硬件解法。
- 1.对企业落地意味着什么：工业现场对数据不出厂、低延迟、高稳定有硬性要求，迷你主机集群用“桌面级成本”提供了本地大模型推理的可能，把私有化AI从重资产机房降到车间可承受的尺度，尤其适合预算有限、又对数据安全敏感的中小制造企业。
- 2.可借鉴的启示：端云协同是关键设计——常规任务本地跑、复杂任务才上云，既保住隐私又省下云端Token。这种“能本地就本地、该上云才上云”的分层调度思路，值得所有做混合部署的企业直接照搬，能明显压低长期的推理成本。
- 3.对硬件选型的提示：它证明大模型推理不一定非要用昂贵的GPU服务器，通过多机协同分摊负载，桌面级设备也能撑起工业知识库、业务Agent等场景。企业规划AI底座时，不妨先量化真实的并发与延迟需求，再决定是上集群还是一体机，避免为用不上的算力过度采购。
原文：太平洋科技 ↗
点评为万有知兴原创观点，转载需注明出处。