文 | 极客公园
2024 是大模子供给侧出清的一年?
伊隆·马斯克:我还没亮底牌,赢家怎样就能定了呢?
刚刚,马斯克的 xAI 晓喻了本年最大的一笔风险投资,以跳动 240 亿好意思元估值得回 60 亿好意思元 B 轮融资。至此,硅谷大模子第一梯队的玩家再多一位,酿成包括 OpenAI、、Anthropic 和 xAI 的四巨头。
融到 60 亿好意思金,就意味着能作念出并排 OpenAI 的大模子吗?
因为他是马斯克。能诱骗到最优秀的 AI 东说念主才,能处分大算力和大笔融资作念 Scaling Law(缩放定律,被视为大模子的窍门),除了他,你很难思到还有第二个东说念主。并且,背靠自动驾驶这个被视为大模子最大的哄骗场景、X.com ToC 流量进口,以及当作也曾的 OpenAI 筹谋创举东说念主身份,马斯克的入场,例必冲击大模子的制高点。
01 马斯克:钱和卡,我搞得定
2023 年 2 月,向 OpenAI 投资了 100 亿好意思元,你大要以为这笔钱应该能花好一阵子。
但在今天,100 亿好意思金险些才是 2024 年作念大模子的起平线。撇开现款流充足的谷歌,OpenAI、Anthropic 和 xAI 分裂得回了约 130 亿好意思元、70 亿好意思元、60 亿好意思元融资额,来「卷」新一代大模子。
这主若是由于作念大模子所需要的算力一再延迟,尤其是跟着多模态交融成为新的 AGI 大模子阶梯。如果说昨年作念大模子的算力门槛是 1 万张英伟达 H100 的算力集群,那么,本年这个数字变成了至少 10 万张 H100,这是马斯克筹集 60 亿好意思元资金的主要用途。
据 The Information 采访的一位投资者,马斯克在最近与潜在和现存 xAI 投资者的通话中泄漏,公司将把大部分资金用于租用 AI 芯片,并匡助其在 2025 年下半年达到 10 万个 GPU,以便改良 Grok 背后的模子。
这位东说念主士说,马斯克默示,他是仅有的几位能筹集到饱胀资金与率先的东说念主工智能公司竞争的高管之一。
上个月,马斯克在 X.com 上的现场音频聊天中泄漏,xAI 将需要 10 万个 Nvidia H100 GPU 来历练 Grok 3.0。他泄漏,该公司目下正在大要 20,000 个 H100 芯片上历练 Grok 2.0。
英伟达莫得公布过其芯片的资本,但商酌公司 SemiAnalysis 的首席分析师 Dylan Patel 泄漏,租用 10 万台 H100 每年可能破耗约 17 亿好意思元;行将推出的被称为 GB200 的 Nvidia AI 芯片可能比前代居品贵 50%。
能不行「借」到钱买算力是一方面,有了钱能不行买到算力又是另一方面。现时,英伟达最高端的 GPU 系列仍旧供不应求,云厂商能用来历练大模子的算力集群有限。
马斯克将眼神锁定在了三大云厂商以外的另一家——甲骨文 Oracle。
与亚马逊云 AWS、谷歌云、微软云 Azure 不同,甲骨文与 OpenAI 或 Anthropic 莫得业务往来,这可能使其对马斯克当作合营伙伴更具诱骗力。
同期,马斯克亦然甲骨文筹谋创举东说念主埃里森的老一又友,埃里森此前曾担任马斯克的另一家公司特斯拉的董事会董事,并出资匡助马斯克领受了其时还被称为 Twitter 的 X。据平直知情东说念主士涌现,XAI 还是是 Oracle 最大的 H100 客户,使用了跳动 15000 个芯片。
当今,马斯克还是明确 xAI 将需要多达 10 万个专用半导体来历练和出手下一代 Grok。他告诉投资者,xAI 蓄意将悉数这些芯片串联成一台大型蓄意机,他称之为「算力超等工场」(gigafactory of compute)。马斯克但愿在 2025 年秋天之前让这台超等蓄意机插足出手,并将躬行满责定期请托。他称,这些讨好起来的 H100 集群,建成后的范围将至少是目下最大 GPU 集群的四倍。
在「算力超等工场」的蓄意下,XAI 可能与甲骨文公司合营开拓超等蓄意机,也可能遴选其他合营方或合营容颜。一个细节体当今本轮融资的出资方包括红杉、A16Z 等基金,只有莫得甲骨文的身影。比拟之下,其他三大云厂商和大模子公司之间的合营则通过投资来「锁定」云客户。
无论如何,「算力超等工场」给了 Grok 上一线牌桌的伊始,这场 AI 背后的算力竞赛,还将持续加码。
此前,扎克伯格泄漏,到 2024 年底,Meta 将领有 35 万台 H100,其中一些将用于历练公司的 Llama 开源大模子。微软蓄意在本年和来岁为 OpenAI 提供容纳数十万个 GPU 的就业器。OpenAI 和微软还是在商讨到 2028 年开拓一台价值 1000 亿好意思元的超等蓄意机。
02 Grok,马斯克买卖 疆域不可或缺的一环
马斯克曾于 2015 年筹谋创办了非渔利机构——OpenAI,2018 年 2 月,马斯克辞去了 OpenAI 董事会席位,原理是与他当作特斯拉 CEO 的脚色存在「潜在的改日利益冲破」。
昨年,马斯克创办了 xAI,再度下场作念大模子,以开拓一种他认为与谷歌和 OpenAI 比拟不那么「融会(woke)」,不那么容易受到政事正确或其他审查轨制影响的替代决策。在今天融资官宣的博客里,xAI 再次重申了这少量,称 xAI 专注于开拓真正、有才调且对全东说念主类最大利益的先进 AI 系统,公司职责是了解天地的真正实质。
昔日一年,xAI 从 2023 年 7 月公司发布,到 11 月在 X 上发布 Grok-1,再到最近晓喻的具有长高下文才调的改良型 Grok-1.5 模子,再到具有图像讨好功能的 Grok-1.5V,xAI 的模子才调得到了快速擢升。
在马斯克的构思中,Grok 对语音的结束比 OpenAI 和谷歌的 AI 助手要少。马斯克泄漏,该公司目下正在 2 万个 GPU 上历练 Grok 2,最近的一个版块不错处理文档、图表和试验宇宙中的物体。马斯克蓄意将该模子扩展到音频和视频鸿沟。
马斯克在向潜在投资者推介时说,xAI 比 Anthropic 和 OpenAI 更有上风,因为这两家公司莫得平直向客户销售其模子的明确门路,而是依赖云提供商转售其工夫。
他称,xAI 将通过包括特斯拉在内的其他公司销售 Grok,从而更平直地构兵用户。而自动驾驶也被视为大模子最大的哄骗场景。
融资音信官宣后,马斯克在 X.com 为 xAI 招聘东说念主才。|截图起原:X.com
xAI 官网中,该公司正在招聘数据、多模态、模子历练的东说念主才。|图片起原:xAI
值得贵重的是,xAI 大要有 50 名职工,其职工关系资本仅是敌手的一小部分。今天,xai 也在官网寻求更多 AI 东说念主才,开释了一众招聘岗亭。
一边狂裁特斯拉,一边浪漫为 xAI 招东说念主,马斯克的 AI 之路,走的依然是他我方的作风。