推理芯片初创公司Groq融资6.5亿美元，加速云平台扩张

在与英伟达签署200亿美元芯片授权协议七个月后，Groq公司今日宣布完成6.5亿美元融资。

本轮由成长型投资机构Disruptive和对冲基金Infinitum联合领投。

Groq开发了一款名为LPU的芯片设计，专门针对AI推理工作负载进行了优化。去年12月，英伟达同意授权该处理器的基础技术，并同时聘用了Groq多名核心员工，包括其创始CEO。

这笔交易催生了英伟达Grok LPU 3推理处理器，于今年3月正式亮相。该芯片随一款名为LPQ的机架级液冷设备一同出货，系统包含32个托盘，每个托盘搭载三颗Groq LPU 3单元、一颗CPU及网络设备。

推理集群中的每颗加速器都包含一个名为"时钟"的石英晶体，用于调节处理速度。在协调芯片间数据流时，时钟同样扮演着至关重要的角色。当不同加速器的时钟失去同步时，数据流量会放缓，进而拖累AI模型的响应时间。

LPU 3内置了自动修复时钟漂移的功能，以避免数据流量瓶颈。据英伟达介绍，该芯片配备92个通道，每个通道可以112Gbps的速度向其他处理器传输数据，相当于2.5Tbps的双向带宽。

加速芯片间数据流并非LPU 3提升推理工作负载的唯一手段。该处理器搭载了500MB板载SRAM，这是一种高速内存类型。相比其他AI加速器用于存储数据的片外RAM，SRAM性能更优，从而带来更快的推理速度。

Groq运营着一个基于LPU的云平台，企业可在此平台上运行推理工作负载。公司今日披露，该平台目前每周为500万开发者处理数万亿个token。

Groq云覆盖了横跨多个大洲的13个数据中心。公司将利用本轮融资所得扩展其推理容量，目标是到2027年达到200兆瓦。据Groq称，部分新增算力将由英伟达3月发布的液冷LPU 3设备LPX提供。

理论上，其他云运营商也可以构建自己的LPQ推理服务。Groq与这类潜在竞争对手实现差异化的一个途径是，在平台上拓展托管数据库等新服务。其他专注于AI的云提供商——尤其是CoreWeave——也已将业务重心从基础设施扩展到更高层次的服务。