人工智能计算市场可能会在 2025 年发生转变,为小公司带来机遇。 英伟达在人工智能计算领域占据主导地位。不断变化的工作负载可以使竞争对手受益。 Groq、Positron 和 SambaNova 等公司专注于推理,以挑战 Nvidia 的市场地位。 到 2025 年,对于希望在人工智能计算领域与价值 3 万亿美元的大猩猩竞争的公司来说,潮流可能会发生转变。 Nvidia估计占据人工智能计算 90% 的市场份额。尽管如此,随着人工智能使用的增长, 工作负载预计会发生变化,这种演变可能会给拥有有竞争力的硬件的公司带来机会。 芯片初创公司 Positron AI 首席执行官 Thomas Sohmers 告诉 BI,到 2024 年,大部分人工智能计算支出将转向推理。他补充说,这将“继续沿着指数曲线增长”。 在人工智能中,推理是产生对用户查询或请求的响应所需的计算。向模型传授回答所需的知识所需的计算称为“训练”。例如,创建OpenAI 的图像生成平台Sora就代表着训练。每个指示其创建图像的用户都代表一个推理工作负载。 OpenAI 的其他模型让 Sohmers 和其他人对 2025 年计算需求的增长感到兴奋。 OpenAI 的 o1 和 o3、Google 的 Gemini 2.0 Flash Thinking以及一些其他 AI 模型使用 更多计算密集型策略来提高训练后的结果。这些策略通常称为推理时间计算、思维链、推理链或推理模型。 简而言之,如果模型在回答之前思考得更多,那么答案就会更好。这种想法是以时间和金钱为代价的。 争夺英伟达部分市场份额的初创公司正在尝试优化其中一项或两项。 Nvidia首席执行官黄仁勋在公司 11 月份的财报电话会议上表示,Nvidia 已经从这些创新中受益。黄的潜在竞争对手押注,到 2025 年,新的人工智能训练后策略将使所有推理芯片供应商受益。 《商业内幕》采访了三位挑战者,讲述了他们对 2025 年的希望和期望。以下是他们的新年决心。 在您的控制范围内,有哪一件事可以让2025年成为替代芯片的重要一年? Groq 首席技术传播者 Mark Heaps: “执行、执行、执行。现在,Groq的每个人都决定今年不再休假。每个人都在执行和构建系统。我们都确保抓住我们所拥有的机会,因为在我们的掌控之中。 我告诉大家我们的漏斗现在充满了碳酸并且冒着气泡。客户的兴趣之大令人难以置信。我们必须建立更多的系统,并且必须维护这些系统,以便我们能够满足我们的需求。我们希望为所有这些客户提供服务。我们希望提高每个人的费率限制。” SambaNova Systems 首席执行官梁罗德里戈: “对于SambaNova来说,最关键的因素是执行从训练到推理的转变。行业正在快速向实时应用发展,推理工作负载正在成为人工智能需求的最大份额。我们的重点是确保我们的技术能够为企业提供支持有效且可持续地扩大规模。” Positron 首席执行官托马斯·索默斯 (Thomas Sohmers): “我的信念是,如果我们实际上能够部署足够的计算——值得庆幸的是,我认为从供应链的角度来看我们可以——通过部署更多的特定于推理的计算,我们将能够提高‘思想链’的采用率‘以及其他附加推理计算。” 2025 年,有哪一件事是你所希望但无法控制的? Heaps:“这是关于客户认识到相对于现有技术有新颖的进步。有很多人告诉我们,‘我们喜欢你所拥有的东西,但用一句古老的格言来说,重新表述一下:没有人因为从以下地方购买而被解雇——现任插入。 但我们知道它已经开始沸腾了。人们意识到他们很难从现任者那里获得芯片,而且它的性能也不如 Groq。所以我希望人们愿意抓住这个机会并实际研究其中的一些新技术。” 梁:“如果我有一根魔杖,我就能解决部署人工智能的功耗挑战。如今,大多数市场都在使用高耗电的硬件,而这些硬件并不是为大规模推理而设计的。结果是一种不可持续的方法——经济上和环保。 在 SambaNova,我们已经证明有更好的方法。我们的架构消耗的电量减少了 10 倍,使企业能够部署实现其目标的人工智能系统,而不会超出其电力预算或碳目标。我希望看到市场更快地采用优先考虑效率和可持续性的技术,因为这就是我们如何确保人工智能能够在全球范围内扩展而不压倒支持它的基础设施。” Sohmers:“我希望人们能够以最快的速度真正采用这些思想链能力。我认为从能力的角度来看,这是一个巨大的转变。你拥有 80 亿个参数模型,超过 700 亿个参数模型。所以我试图尽我所能来实现这一目标。” 你的新年决心是什么? Heaps:“在过去的六个月里,我参加了许多黑客马拉松,并会见了开发人员。这非常鼓舞人心。因此,我的新年决心是努力放大人们利用人工智能所做的善事的信号。” 梁:“腾出时间听音乐。弹吉他是我一直喜欢的事情,我很想重新开始。音乐有这种令人难以置信的方式来理清思绪并激发创造力,我发现这在我们努力将 SambaNova 的人工智能引入时非常宝贵。到地球的新角落。” Sohmers:我想做同样多的事情来鼓励使用这些新工具来帮助我的妈妈。我进入技术领域的部分原因是因为我希望看到这些工具帮助人们能够利用他们的时间做更多的事情——学习他们想要的一切,而不仅仅是他们从事的工作。我认为降低这些东西的成本将会促进这种扩散。 我个人也希望在我的工作环境之外看到并尝试使用更多这些东西,因为过去几周我一直痴迷于使用o1 Pro 模型,它对我的个人工作来说非常棒。但当我允许我妈妈做一些事情时,她会用它做的事情非常有趣——那些正常的、日常的人的任务,真正是作为一个助手。” 本文转载自微信公众号“半导体产业洞察”,智通财经编辑:徐文强。
发表评论
2024-12-30 01:36:33回复
2024-12-30 03:37:47回复
2024-12-30 05:56:46回复