巨头围攻英伟达CUDA：用安卓形式冲破算力霸权
以前一年多，硅谷掀翻的生成式 AI 立异席卷寰球，并愈演愈烈。而在这场立异有中两条相等显着的干线：
一是基础本领的进化，以 GPT、Gemini 为代表的大模子持续向着 AGI（通用东说念主工智能）迭代；
二是征象级应用的涌现，生成式 AI 在不同畛域、不同场景下的应用怒潮在冉冉转变东说念主类的生涯和责任边幅，比如雷科技尤其怜惜的AI硬件畛域，就出现了AI手机、AI PC、AI电视、AI家电、AI清洁等新应用。
在两条干线下，还有一条对于算力的「暗线」。
对 AI 的发展来说，算力穷乏仍是不是一天两天的问题，时于本日各大公司皆还在持续抢购 GPU，更实在地说，是英伟达的高端 GPU：
如果说《沙丘》是「得香料者得天地」，那 AI 行业等于「得英伟达 GPU 者得天地」。
图/英伟达
这也让统共这个词行业对于英伟达 GPU 又爱又恨，一方面是基于 CUDA 平台的英伟达高端 GPU 不错简便、高效地进行东说念主工智能进修，另一方面是统共东说念主皆过于依赖英伟达这一家公司。
CUDA是英伟达AI的基石
对于英伟达 GPU 得手原因的分析仍是许多了，其中枢主要如故英伟达 GPU 自身的高性能（包括互连性能），加上 CUDA 平台带来的软硬件协同效应。英伟达在硬件自身上的上风并不难跨越，问题瑕玷在于软件，在于 CUDA 平台。
在前段时分的GTC 2024开幕演讲上，老黄也转头了英伟达的发展史。
2014年，黄仁勋初次强调机器学习的伏击性，其时AlphaGo尚未驯服李世石，深度学习并未激发寰宇级怜惜。不过其时英伟达已提议CUDA（通用筹画平台）的想法，在许多东说念主还在把英伟达行动「游戏显卡」的制造商时，其走在了 AI 变革前沿。
不过起先，CUDA的应用场景主若是科学筹画，等于肖似于征象模拟、物理模拟、生物信息学等专科推敲，应用场景很有价值，但却褊狭。正因为此，英伟达的CUDA一直莫得开放阛阓，带给英伟达的报酬无法与对应的巨量研发干与匹配。黄仁勋每年皆需要向董事会解释，为什么英伟达要坚执作念CUDA？
其实其时老黄也不知说念，英伟达的CUDA会在畴昔几年，先后迎来区块链“挖矿”、AI大模子筹画等筹画场景，真实泼天荣华。
（图源：英伟达）
短短两年时分，英伟达通过H100、H200 芯片，成就了万亿AI帝国，市值已超过亚马逊等传统豪强，按照这么的势头，在可见的畴昔，超过苹果、微软成为寰宇头号巨头也不是莫得可能。
面前，英伟达的“卡”供不应求，不仅仅字节、百度等中国科技巨头在抢着囤卡以应酬顶点情况，硅谷科技巨头如微软、Meta，也完全在找老黄买卡。
在被称为AI应用元年的2024，英伟达的CUDA（通用筹画平台）正如其名，变得通用起来，从谎言语模子、对话式AI、边际筹画等底层本领，到智能座舱、自动驾驶、东说念主形机器东说念主等应用场景，再到AI手机、AI PC、AI家电、AI搜索、AI画图等应用，以及畴昔的征象预测、筹画光刻与6G集会，AI正无处不在，英伟达的筹画也无处不在，成为“通用筹画”。
当英伟达的卡以及CUDA平台越来越伏击时，其他科技巨头看到了“制霸”危境：
一方面，英伟达的卡价钱时髦，且领有绝对订价权，厂商们囤积GPU卡要给英伟达无数资金，终结等于：作念AI的不一定赢利（现时险些皆不赢利），英伟达却赚爆了。
另一方面，科技巨头被英伟达卡了脖子。英伟达不错决定最顶尖的卡先给谁，给若干，给不给。此外，英伟达也依托GPU的筹画资源进取层业务拓展，涉足云等业务，与科技巨头酿成一定的竞争。
事实上从 2023 年驱动，许多芯片厂商和大模子厂商皆坚贞到了这些问题，纷繁但愿通过另建一套软件平台招架英伟达的 CUDA。不可说统共尝试皆失败了，只可说面前还莫得出现信得过的挑战者。
如今，一个新定约和开源平台，可能会透澈转变英伟达 CUDA 一家独大的时局——如同当初谷歌振臂高呼组建的OHA定约以及开源的安卓招架苹果一般。缘分际会的是，在这一轮冲破CUDA霸权的干戈中，谷歌依然饰演了至关伏击的变装，安卓阵营的高通、ARM们也在阐发各自的瑕玷作用。
日光之下，无新事。
巨头组建定约不屈CUDA
「统共这个词行业皆但愿颖异掉 CUDA，包括谷歌、OpenAI 等公司皆在思方设法让东说念主工智能进修愈加开放。咱们以为 CUDA 的护城河既浅又窄。」在昨年年底的一场步履上，个股期权英特尔 CEO 帕特·基辛格（Pat Gelsinger）语出惊东说念主地指出了对于英伟达 CUDA 平台的看法。
但即便基辛格以为 CUDA 的护城河「既窄又浅」，他也理解挑战在东说念主工智能进修上挑战英伟达，绝非易事。
字据路透社报说念，Linux 基金会合资英特尔、谷歌、高通、ARM 以及三星等公司培植了和洽加快基金会（UXL），以英特尔的 oneAPI 为起头，正在引诱一套开源软件套件，允许东说念主工智能引诱者在职何 AI 芯片上运行他们的代码。
图/ UXL
这里需要简便先容下，oneAPI 是英特尔的和洽编程模子和软件引诱框架，不错闪引诱者无需对代码进行首要修改，就能借助 oneAPI 竣事跨硬件架构（包括英特尔的 CPU、GPU 和 FPGA）的智力引诱。
简便来说，UXL 等于在 oneAPI 的基础上更进一步，要竣事更正常的跨架构跨平台维持，撤废芯片硬件与软件的强绑定磋议。
而纠合了芯片厂商、大模子厂商以及晶圆代工场的 UXL，无疑是思取代英伟达 CUDA 平台，成为寰球东说念主工智能引诱者的首选引诱平台。高通东说念主工智能和机器学习专揽 Vinesh Sukumar 就明确默示：
「咱们履行上是在向引诱者展示怎么从英伟达平台迁徙出来。」
以至，UXL 最终也将维持英伟达的硬件和代码。
而除了起先参与的首创成员，UXL 还眩惑了包括亚马逊 AWS、微软 Azure 以及多家芯片厂商。同期字据运筹帷幄，UXL 瞻望在本年上半年详情本领次第，在年底前将本领细节完善纯熟。
至于 UXL 能不可得手替代掉 CUDA，成为寰球东说念主工智能引诱者的首选平台，显著还需要一系列的阐述，毕竟超过 CUDA：
果然很难。
招架 CUDA，到底难在何处？
起先咱们需要理解，CUDA 既是一种编程话语，亦然一种编译器。
作为编程话语，CUDA 是引诱者通过 CUDA 与底层硬件（GPU）相通、调用算力的一种边幅，新建一套新的编程话语并不难。作为编译器，CUDA 无疑有很高的性能，这意味着引诱者不错通过 CUDA 在 GPU 上更高效地扩充智力，用更容易融会的话说：
CUDA 不错高效地讹诈 GPU 的峰值算力。
CUDA，图/英伟达
斟酌到今天东说念主工智能进修对于大算力、高性能的追求，也无怪乎引诱者对于 CUDA 的偏疼。
但履行上英伟达在这两个层面上绝非天地无敌，尤其是 OpenAI 开源的 Triton，不仅能在英伟达的 GPU 上竣事接近 CUDA 的推积恶果，还在吞并 AMD ROCm（对标 CUDA）等平台的代码，兼容更多的 GPU。
CUDA 难以被撼动的瑕玷在于，它如故一种生态。
昨年台北电脑展上，老黄泄露有 400 万引诱者正在使用 CUDA 筹画平台。况且在以前十几年间（CUDA 推出于 2007 年），CUDA 仍是积蓄了大量的高性能智力库以及框架代码。这亦然为什么尽管连 OpenAI 皆吐槽用 CUDA 为 GPU 编程的难度，但更多引诱者如故基于 CUDA，而不是 Triton 进行引诱。
另一方面，英伟达的软硬件协同联想也让这种上风愈加安如磐石。
要知说念，Triton 不错兼容英伟达的 GPU，其他 GPU 也不错兼容 CUDA，以至在恶果上其后居上也并非不可能。但软件适配硬件需要时分，尤其是在 GPU 上需要更长的时分。
这意味着英伟达一朝发布新的 GPU 和 CUDA 版块，岂论是兼容 CUDA 如故兼容英伟达的 GPU，就需要再行追逐英伟达的脚步。
（老黄最新发布的 Blackwell，图/英伟达）
是以某种经过上，能击败英伟达的唯有接收软硬件协同联想的战术，同期领有强大的芯片才略和软件才略。
用“安卓形式”，冲破英伟达算力霸权
谷歌领有我方的 TPU、XLA 筹画平台，还有我方的大模子和一系列算力「出口」。但谷歌这套并不过卖，是以包括 Authropic（Claude 母公司）、Midjourney 皆是通过谷歌云使用这一套算力经管决议，而莫得选择购买英伟达的 GPU。
从这角度来看，UXL 天然聚合了从晶圆代工场到芯片厂商，再到云筹画和大模子厂商，涵盖了 AI 芯片的主要险峻游，但信得过的挑战还在于不同成员之间的协同，这亦然 UXL 能不可得手的瑕玷。
如果莫得饱和的利益紧缚，每一个“定约”皆难成征象，聚合得多高调，涣散就有多迅猛。安卓生态能得手的瑕玷在于，系统平台、半导体、硬件、引诱者等等参与者能各取所需，沿路将蛋糕作念大。UXL 是否能酿成相似的正轮回效应？当下，咱们不知说念谜底。
年头，OpenAI Sam Altman 语不惊东说念主死不断，曝出主义筹集 7 万亿好意思元经管 AI 面临的算力问题。天然这个数字惊掉了统共东说念主的下巴，但也再一次地阐发了，以 OpenAI 为代表的东说念主工智能行业对于算力的绝顶渴求——在微软维持下，OpenAI也在布局自有芯片体系。
一言以蔽之，英伟达不可得志统共东说念主，统共东说念主也不得志于唯有一家英伟达。换句话说，岂论 UXL 能不可得手，谷歌会不会转变战术，统共东说念主皆会持续挑战英伟达：
直到冲破算力霸权。