美媒The Information报道称,英伟达和AI芯片创业公司d-Matrix宣布联合推出AI芯片系统。d-Matrix主打推理,核心方向是低延迟、低功耗的推理加速。d-Matrix的技术路线是以记忆体为中心的计算,用3DIMC减少资料搬运。AI推理现在最耗钱的地方,是海量请求、KVcache(上下文快取)、长文本和Agent(能自主拆解并执行任务的AI)连续调用,所以把单次调用成本压下来,就能吃到更高频的AI应用场景。 定制芯片市场正在被模型公司集体关注。智谱今天被曝评估自研芯片,DeepSeek同期被曝自研推理芯片,OpenAI已经和Broadcom做Jalapeño(LLM推理芯片),Anthropic也被曝和三星讨论自研芯片。模型公司现在都在算同一笔帐:训练继续依赖顶级GPU,推理要用ASIC(专用芯片)把成本、延迟和能耗压下去。英伟达这次合作代表开始把推理ASIC接进自己的系统里。Etched、Cerebras、Groq、d-Matrix这类公司本来都在抢推理负载,英伟达如果能把它们变成异构计算(GPU、CPU、ASIC混合协同)的一部分,让GPU负责通用算力和生态控制,

2026-07-08

美媒The Information报道称,英伟达和AI芯片创业公司d-Matrix宣布联合推出AI芯片系统。d-Matrix主打推理,核心方向是低延迟、低功耗的推理加速。d-Matrix的技术路线是以记忆体为中心的计算,用3DIMC减少资料搬运。AI推理现在最耗钱的地方,是海量请求、KVcache(上下文快取)、长文本和Agent(能自主拆解并执行任务的AI)连续调用,所以把单次调用成本压下来,就能吃到更高频的AI应用场景。 定制芯片市场正在被模型公司集体关注。智谱今天被曝评估自研芯片,DeepSeek同期被曝自研推理芯片,OpenAI已经和Broadcom做Jalapeño(LLM推理芯片),Anthropic也被曝和三星讨论自研芯片。模型公司现在都在算同一笔帐:训练继续依赖顶级GPU,推理要用ASIC(专用芯片)把成本、延迟和能耗压下去。英伟达这次合作代表开始把推理ASIC接进自己的系统里。Etched、Cerebras、Groq、d-Matrix这类公司本来都在抢推理负载,英伟达如果能把它们变成异构计算(GPU、CPU、ASIC混合协同)的一部分,让GPU负责通用算力和生态控制,专用芯片负责部分推理加速,平台黏性会变强。 相关标的:英伟达是主线,代表GPU、CUDA和AI系统平台;另外d-Matrix目前未上市,可关注博通、迈威尔科技,代表定制ASIC和高速互连映射。值得注意的风险:合作细节还没有完全公开,d-Matrix的量产交付、客户验证和软体适配还要继续看。推理ASIC如果成本优势跑不出来,需求会继续回到英伟达GPU;如果跑出来,英伟达要证明自己能在异构推理系统里继续掌握利润分配权。