近期，科技界巨头们纷纷加大对AI推理业务的布局力度，这一现象引起了业界的广泛关注。摩根士丹利发布的一份深度报告，更是揭示了AI推理业务背后隐藏的惊人利润。报告显示，采用不同的AI GPU芯片，其利润率差异显著。
尽管选择各异，但一个标准的“AI推理工厂”若运用任何一家科技巨头的芯片，其利润率普遍都能超过50%。这一数据无疑为AI推理业务的盈利能力提供了有力证明。
为了更科学地评估不同技术路径的AI解决方案，摩根士丹利创新性地构建了一套名为“100MW AI工厂模型”的标准化分析框架。该框架将各种AI方案置于同一商业维度下，进行量化对比。
在这一框架下，NVIDIA的GB200 NVL72凭借其卓越的计算性能和CUDA软件生态的深厚积累，以近78%的利润率独占鳌头，彰显了其市场领导者的地位。
紧随其后的是谷歌自研的TPU v6e pod，其利润率为74.9%，位居第二。亚马逊云（AWS）的Trn2 UltraServer则以62.5%的利润率位列第三。华为的昇腾CloudMatrix 384平台也取得了不俗的成绩，利润率为47.9%。
然而，并非所有参与者都能在这场盛宴中分得一杯羹。AMD的MI300X和MI355X芯片便遭遇了滑铁卢，其利润率分别为-28.2%和-64%，均为负值。报告指出，尽管AMD在前期投入巨大，但其token产出效率所带来的收入，远不足以覆盖高昂的成本。
