GPU和TPU之间有什么区别？这个问题虽然略显技术化，但在AI军备竞赛中有着广泛的应用价值，各公司都在争夺硬件和基础设施领域的主导地位。这场竞赛涉及巨额资金，风险极高。

让我们先从市场背景说起。英伟达凭借专为AI系统设计的GPU成为市场顶级供应商，并在美国股市总市值方面跃居榜首，超越了苹果和微软。这些蓝筹股眼看着英伟达如流星般飞速超越。原因何在？因为GPU已成为AI数据中心的核心硬件。

但现在，谷歌的TPU（张量处理单元）成了强有力的竞争对手，这是一种完全不同的芯片。有何不同？这需要深入了解这两种竞争硬件的设计理念和语义差异。

GPU与TPU的区别

通过大量研究，我发现可以用相对直接的方式来描述GPU和TPU这两种方案的差异。

GPU基于并行处理工作，能够处理多样化的任务。从某种意义上说，它们是超强版的CPU，更加专注于图形渲染等高端任务，这正是它们最初的设计目的。

相比之下，TPU则是专业化芯片，只专注于特定的处理过程。你无法用TPU运行计算机系统：这些芯片专门用于快速张量/矩阵运算。它们不追求高效运行通用程序，而是专注于处理特定的机器学习操作，如矩阵乘法和卷积运算。

TPU与RISC架构的联系

从宏观角度来看，TPU源自"精简指令集"的概念。还记得RISC模型吗？这是一种CPU设计方法，使用更小、更简单的指令集，使每条指令能够运行得非常快，通常在单个时钟周期内完成。

我认为这很像TPU的构建方式。TPU只专注于矩阵运算，所以在这方面表现更优秀。

但我对这个类比并不完全确定，于是我询问了ChatGPT："TPU是否有点像具有限制指令集的RISC？"

ChatGPT回答："作为一个宽泛的类比，有些相似，但在CPU意义上并非如此。两者都通过'限制'灵活性来获得速度/效率，但TPU更接近ASIC数学引擎而非RISC CPU。"

于是我必须弄清楚什么是ASIC数学引擎。根据大语言模型的定义："ASIC数学引擎是一种定制芯片模块，专门设计用于极快且高效地执行一组狭窄的数学运算。与处理多种通用指令的CPU不同，它针对特定工作负载进行了优化——比如AI的矩阵乘法——使用专门的数据路径、内存布局和并行处理。"

因此，你可以参考ASIC或RISC来讨论TPU的"设计理念"……但这在实践中意味着什么？

这意味着谷歌正在冲击英伟达的神圣护城河。

市场动向

最近几天，科技媒体纷纷报道Meta可能从2027年开始购买价值数十亿美元的谷歌TPU芯片——这只是TPU崛起的部分证据，而这一消息导致英伟达股价大跌。

Observer网站的维克多·戴于12月5日写道："TPU生态系统正在获得发展动力，尽管实际应用仍然有限。据报道，韩国半导体巨头三星和SK海力士正在扩大其作为谷歌芯片组件制造商和封装合作伙伴的角色。10月，Anthropic宣布计划从2026年开始从谷歌云获得多达100万个TPU的使用权（不是购买，而是实际租用），以训练和运行其Claude模型的未来版本。该公司将在内部部署这些设备，作为其多样化计算策略的一部分，同时使用亚马逊的Trainium定制ASIC和英伟达GPU。"

关于戴所说的"实际应用仍然有限"，Meta的消息并不是英伟达面临的唯一威胁，大公司对TPU的大规模投资正在兴起。Anthropic也在这方面制造了新闻，他们早在10月就在讨论这个话题。

Anthropic发言人在10月23日写道："今天，我们宣布计划扩大对谷歌云技术的使用，包括多达100万个TPU，大幅增加我们的计算资源，继续推动AI研究和产品开发的边界。这次扩张价值数百亿美元，预计将在2026年带来超过1千兆瓦的容量上线。"

这并非小数目，应该很快会渗透到"现实世界"中。

关注基于这一巨变的重大市场变化：GPU不再是王者。

Q&A

Q1：TPU和GPU的主要区别是什么？

A：GPU基于并行处理，能够处理多样化任务，是超强版的CPU，专注于图形渲染等高端任务。而TPU是专业化芯片，只专注于特定的处理过程，专门用于快速张量/矩阵运算，不追求运行通用程序，而是专门处理机器学习操作。

Q2：为什么说TPU威胁到了英伟达的市场地位？

A：因为大型科技公司开始大规模投资TPU。Meta可能从2027年开始购买价值数十亿美元的谷歌TPU芯片，Anthropic也宣布计划从2026年开始使用多达100万个TPU，价值数百亿美元。这些投资表明TPU生态系统正在获得发展动力。

Q3：TPU的设计理念类似于什么架构？

A：TPU的设计理念类似于RISC的"精简指令集"概念，通过限制功能来获得速度和效率。但更准确地说，TPU更接近ASIC数学引擎，是专门针对特定工作负载优化的定制芯片，使用专门的数据路径、内存布局和并行处理来执行矩阵运算