智能体AI PC将至:本地就能跑大模型,为飙升的Token账单"降火"
作者: CBINEWS
责任编辑: 邹大斌
来源: 电脑商情在线
时间: 2026-09-30 09:50
又一类AI PC正走向市场,声称能让企业省下Token开销——这类性能强劲的笔记本把AI工作放在本地完成,而不是送往云端昂贵的大语言模型,从而削减令牌成本。
本地跑模型,给云账单"降火"
惠普新发布的ZBook Ultra G3a移动工作站,以及其他PC厂商即将推出的笔记本,都配备了面向AI与图形处理的强大GPU和大容量内存池。ZBook Ultra G3a采用AMD的Ryzen AI Max Pro处理器,而其他PC厂商的笔记本将搭载英伟达的RTX Spark超级芯片。
英伟达的Blackwell GPU此前主导了数据中心,如今该公司正通过RTX Spark(内含一款Blackwell RTX GPU)瞄准更大的PC市场份额。来自华硕、戴尔、联想等厂商的第一波RTX Spark笔记本面向消费市场,企业版机型计划稍后推出。相比之下,惠普的ZBook Ultra直接面向企业。
在不连接互联网的情况下,这些PC可以运行智能体与聊天机器人、生成视频,并在拥有数十亿参数的AI模型上编写代码。
英伟达产品管理高级总监Gerardo Delgado表示:"这是唯一一类PC——你有足够的内存来运行大型模型,有足够的算力把它们跑得很快,同时你多年以来被我们加速过的所有工具……全都可用。"
需要说明的是,云端AI模型更强大、能力更全面。但云端AI价格高昂,而这些PC可以为这些账单分担一部分压力。
惠普全球Z工作站产品经理Brian Allen表示:"当人们开始收到自己的Token账单时,他们要么被烫到,要么真的开始担心。"
J. Gold Research首席分析师Jack Gold表示,未来两到三年,至少20%至25%的高端AI工作负载将在AI PC上运行,而不是完全放在云端。
Gold说,这类智能体AI机器并不便宜,但它们能削减经常性的云成本;在需要产出同一项目多个版本的研究与工程工作中,这一点尤其重要。
Gold说:"未来六个月,我们会在这个领域看到更多产品,尤其是随着更多厂商推出专门面向这一领域的芯片。"
一颗芯片装下CPU、内存与GPU
早期的AI PC——尤其是带有微软Copilot+标识的Windows机器——只是卸载了一些基础助手任务,而ZBook Ultra G3a是一台面向高端企业级工作负载的AI移动工作站。
Allen说:"我实际上是在构建大型语言AI模型,我在做微调,我在做推理。"
举例来说,设计师可以在没有网络连接的机场里,使用Autodesk Revit三维建模软件中的AI。这得益于Perplexity的Portable Computer方案。随后,设计师可以连接到云端的各类前沿模型来推进项目。Perplexity会在约19个前沿模型中甄选合适的组合。
模型上下文协议(MCP)服务器则在用户授权下,把AI模型与PC上的应用打通。PC上的AI可以让敏感数据留在公司边界之内。
惠普已就Revit与Perplexity合作,但Allen说:"你会看到这些MCP连接器真正开始增长,并接入更多软件应用。"
惠普这款笔记本预计10月上市,它把CPU、内存和AMD的GPU紧密封装在一颗芯片上,使数据能在各组件之间快速流动。这对AI很重要,也有别于内存可升级的常规PC设计。
惠普尚未公布这款移动工作站的定价,但Gold表示,它会比普通AI PC贵得多——例如微软近期升级的13英寸Surface Laptop和12英寸Surface Pro,搭载高通Snapdragon X2 Plus芯片,起售价分别为1199美元和1149美元。
惠普提供了一个"投资回报率计算器",让感兴趣的买家试算本地运行AI与云端方案的成本差异。Allen说:"你可以大致说,'嘿,按这种使用方式,这台PC九个月就能回本。'"
分析师Gold表示,像惠普这样的ROI计算器"内置了不少假设,未必适用于每个工作场所"。"但这类计算器对公司做高层次的方案评估仍然有价值。"他说,在某些情况下,对于复杂工作负载、以及为了更快把产品推向市场,承担高昂的云端令牌成本也可能是值得的。
混合架构是终局,推理路由器成新看点
在超越Opus 4.6的模型于编码任务上表现出色、震动AI界之后,英伟达收到了一波密集的移动工作站客户需求。英伟达的Delgado说:"在开发团队、编码团队里,这目前是最典型的场景,他们正非常迅速地转向本地硬件。"
Delgado说,AI PC上的智能体正在驱动AutoCAD等工程应用。"这个思路不是要取代建筑师。"
Delgado说,企业将采取混合方式来做AI:部分工作放在PC上、部分放在边缘、部分放在云端。"任何告诉你一切都本地化的人,只是在回避一个事实——云模型正以指数级速度提升。"
大部分工作并不需要云端级别的智能,很多都可以在本地完成。英伟达拥有的工具可以把推理重定向到网络上空闲的PC——例如装有英伟达GPU的Mac和Windows PC——从而让数据留在企业内部。必要时,也可以重定向到云端。
Delgado说:"智能体的下一个大事件是推理路由器:在本地硬件够用时把任务指向本地,在需要更大模型时指向云端硬件。"
硬件再强,也替代不了"对的人"
Gartner高级总监分析师Deepak Seth表示,参数漂亮的新硬件固然好,但如果AI工程师不够聪明,它也很难带来多少产出。他说:"你可以给他们最好的工具,他们照样会做出蠢东西。"
Seth说,解决一切问题的关键不只是拥有更强的算力,而是"更强的算力配上对的人,才会带来更好的结果"。
