英伟达斥资200亿美元牵手AI芯片公司Groq，旨在补上推理短板。Groq的LPU（语言处理单元）采用片上SRAM而非HBM显存，在推理decode阶段速度比GPU快100倍，单芯片可实现每秒300-500个token的吞吐量。
GPU在推理场景面临架构困境：prefill阶段适合并行计算，但decode阶段需串行生成token，GPU需频繁从HBM读取数据导致算力闲置。相比之下，LPU的片上SRAM无需数据搬运，能始终保持满负荷运转。
但LPU代价是内存容量极小（仅230MB），需数百颗芯片集群才能运行大模型，而GPU仅需2-4张卡即可部署70B参数模型。
英伟达此举是为了应对谷歌TPU等新芯片范式的威胁，通过收购Groq补齐低延迟推理能力，避免重蹈当年被其他竞争者颠覆的覆辙。
本文为博主原创文章，遵循 CC BY-NC-SA 4.0 许可协议。 转载请注明出处：http://localhost/blogs/ai-daily-2025-12-29
初创公司Taalas发布HC1芯片，推理速度达17000token/s，超越Cerebras和英伟达。团队仅24人，采用模型直接刻在硅片上的创新架构，成本仅为GPU方案1/10，功耗降至250W。
OpenAI完成超1000亿美元融资，估值超8500亿美元，成为AI圈最高估值企业，是Anthropic估值的2.2倍。主要投资者包括亚马逊、软银、英伟达和微软。
国产AI芯片企业太初元碁发布首个高兼容性虚拟指令集PCX及高性能工业级编译器PCXAC，可实现跨硬件平台低成本迁移，PCXAC性能超越LLVM，充分释放国产算力。
百度AI芯片公司昆仑芯已向港交所提交上市申请，最新估值210亿元。百度持股59.45%，投资方包括比亚迪等。昆仑芯2021年独立运营，致力于AI芯片研发，出货量位居国产第二。