木鱼的AI大厂情报
26-04-29 01:08

黄仁勋这次真的有点急了,播客主持人 Dwarkesh 问了一个问题,大意是,你看 Anthropic 用 TPU,Google 用 TPU,OpenAI 在自研加速器,顶级 AI 公司好像都在离开 CUDA,你怎么看?

黄仁勋直接打断说“不,你的前提就是错的。”,然后连说两遍“让我先纠正这个假设。”

Dwarkesh 想换个问题,他说“不,听我说,因为这对 AI 太重要了,对科学的未来太重要了。”

。。。很少看到他这么激动。

那这个“错误的前提”到底错在哪里?

黄仁勋的逻辑是这样的,Anthropic 用 TPU,不是一个行业趋势,是一个历史遗留问题。

他原话是“Anthropic 是一个特殊案例,不是一个趋势。如果没有 Anthropic,TPU 还会有增长吗?完全靠 Anthropic 支撑。如果没有 Anthropic,Trainium 会有增长吗?完全也是靠 Anthropic。”

这话听着有点刺耳,但我觉得他说的是事实。

为什么 Anthropic 会跑到谷歌和 AWS 那边去?黄仁勋后来自己承认了,是英伟达当年没能力做战略投资。谷歌和 AWS 在 Anthropic 还小的时候砸了巨额资金进去,几十亿美元,英伟达那时候根本拿不出这种规模的钱来做这种事。

“我的失误在于没有深刻认识到 AI 实验室别无选择,风险投资公司永远不会向一个实验室投资五十亿到一百亿美元。”,他这么说的。

所以 Anthropic 用 TPU,不是因为 TPU 更好,是因为谁出了钱,就用谁的算力,这是交易结构的结果,不是技术选型的结果。

然后黄仁勋还补了一刀,专门聊到 ASIC 利润率。

很多人以为,不用英伟达、自己搞 ASIC,就是在省钱,因为英伟达的毛利率接近 70%,太贵了。

但他说“即使是 ASIC,利润率也非常高。假设英伟达的利润率是 70%,ASIC 的利润率也接近 65%。你到底省了多少?”

他问的这个问题,我觉得确实挺扎心的。

你折腾半天,自研一套芯片,结果你还是得给博通这种公司支付高利润,只是换了一个收税的对象而已。而且还搭进去了大量工程资源和时间成本。

回到 CUDA 本身,黄仁勋在这次访谈里反复强调的一个词是「安装基础」。

全球部署了数亿张英伟达 GPU,每家云厂商上面都有,A10、A100、H100、H200,各种型号。你今天在 CUDA 上写的代码,理论上可以在世界上任何地方跑,这种普及度是任何一个 ASIC 或者 TPU 根本给不了的。

更关键的是,他说 CUDA 的核心价值不是「做矩阵乘法」,而是可编程性。

“如果你想发明一种全新的注意力机制,或者混合 SSM 架构,或者融合扩散模型和自回归模型,你就需要一个通用可编程的架构。发明新算法的能力,才是推动 AI 快速进步的真正原因。”

这个角度有点意思。TPU 针对现在的 AI 计算优化,但现在的 AI 计算方式,五年后可能已经完全不同了。而 GPU 的灵活性,恰恰是为了那些还没被发明出来的算法留着的。

坦率的讲,这不是说 CUDA 永远赢、ASIC 永远没机会,行业里总会有针对特定场景的优化空间。

但「顶级 AI 厂商都在去 CUDA」这个判断,确实是把 Anthropic 的特殊历史包装成了行业共识,把一个交易结构的结果误读成了技术趋势。

这种信息差,值得磨一下。

发布于 上海