Neoclouds 解释：为什么人工智能需要以 GPU 为中心的云计算

人工智能工作负载几乎正在成为每个行业的主流。但随着人工智能需求的增长，基础设施的压力也随之增加。不幸的是，访问高性能计算的传统选项已经不足，导致企业寻求替代方案。一些人开始转向 neoclouds，这是一种以 GPU 为中心的新型计算服务提供商。

由于计算技术的转变，这些新的提供商正在引起人们的兴趣；其特点是 AI 越来越依赖 GPU。虽然 GPU 非常适合处理人工智能训练和推理的并行处理需求，但众所周知，它们价格昂贵且供应短缺。一款高端 GPU 可能要花费数万美元，而且前提是公司能够找到一款。采购周期漫长，交付周期难以预测，企业 IT 团队经常难以获得足够的能力来满足需求。

AWS、Google Cloud 和 Azure 等超大规模云提供商一直在寻求通过提供 GPU 实例和 GPU 即服务来填补这一空白。对于许多组织来说，这种模式是有效的，但仅限于一定程度。

基于云的 GPU 实例提供灵活性、可扩展性和快速部署。但随着使用量的增加，账单也随之增加。按量付费模式很快就会变得成本高昂，尤其是对于大型语言模型 (LLM) 训练、微调或跨企业应用程序的实时推理等持续工作负载。

因此，许多组织发现自己陷入困境（稀缺且昂贵的本地基础设施）和困境（公有云 GPU 成本高昂）。

进入 Neoclouds

在这种环境下，一种新的计算提供商类别正在出现：neocloud 提供商。 Neocloud 基础设施提供商以更实惠的价格提供以 GPU 为中心的高性能计算（至少根据他们的说法）。他们通过利用非传统起源、新经济模式和不同的基础设施战略来实现这一目标。

例如，一些新云的根源可以追溯到加密货币挖掘。在过去十年的加密货币繁荣期间，全球成千上万的矿工建立了配备了针对采矿作业进行优化的 GPU 服务器的数据中心。随着加密货币市场降温和挖矿利润下降，这些运营商发现自己拥有大量闲置 GPU 容量。有些人没有让这些硬件在仓库中贬值，而是将其设备重新用于人工智能工作负载，因此，neocloud 诞生了。

该领域的其他公司是专门建立的初创公司，它们看到了通过优化性价比和绕过传统云运营的开销来为超大规模提供商提供更具成本效益的替代方案的机会。一些基于开源软件堆栈构建并托管在低成本数据中心；另一些则通过去中心化网络聚合过剩的 GPU 容量，形成一种企业可以以更低的成本进入的“GPU 现货市场”。

Neoclouds 模型的优点

对于寻求人工智能计算能力而不需要高昂成本的企业来说，neocloud 提供商声称他们可以提供多种好处，包括：

降低每 GPU 小时的成本 ：Neocloud 的收费通常只是超大规模提供商针对类似 GPU 实例收取的费用的一小部分。他们声称，他们的精益运营模式和硬件重用策略可以转化为真正的节省。

专用访问 ：在许多情况下，neocloud 提供商提供对 GPU 的专用裸机访问，减少争用并确保可预测的性能。

快速可用 ：凭借灵活的采购和配置流程，neocloud 提供商声称他们通常可以比传统供应商更快地交付容量，帮助团队毫不拖延地迭代和部署 AI 模型。

去中心化和弹性 ：一些 Neocloud 在分布式模型上运行，从地理位置不同的数据中心或独立运营商的网络获取计算。

可持续性 ：重新利用现有硬件，尤其是加密货币行业的硬件，可以减少电子垃圾并促进更可持续的 IT 实践。一些新云还位于可再生能源供电的设施中，进一步降低了碳足迹。

另请参阅： GPU 市场转变：利用加密货币挖矿的衰退

GPU 即服务，重新构想

从本质上讲，neocloud 代表了 GPU 即服务模型的全新呈现。被认为是 Neocloud 提供商的公司包括 CoreWeave、Crusoe、Lambda Labs、Nebius、Vast.ai 等。

他们不太关注将 GPU 与专有服务捆绑在一起，而更感兴趣的是以让大规模人工智能适用于更多企业的价格点提供原始的高性能计算。

Neocloud 提供商相信，通过实现价格实惠的 GPU 的民主化，他们可以降低寻求构建或扩展人工智能应用程序的公司的进入门槛。小型初创公司可以训练定制模型，而无需消耗种子资金。企业可以根据其专有数据对法学硕士进行微调，而无需放弃控制权或超支。研究机构可以不受预算限制进行模拟和实验。

尽管有这些优势，neocloud 提供商在不久的将来可能会在 GPU 即服务市场上与超大规模提供商展开竞争。据财富商业洞察 (Fortune Business Insights) 称，2023 年该市场估值为 32.3 亿美元，预计到 2032 年将增长至 498.4 亿美元，增长率为 36%。 （该估计包括超大规模和新云。）

最终想法

人工智能的计算需求持续增长。 Neocloud 提供商是新一代专注于 AI 的云基础设施提供商，旨在满足这些需求。它们与传统超大规模提供商（例如 AWS、Azure 和 GCP）的区别在于，它们专注于优化 GPU 可用性、灵活的定价以及针对 AI/ML 工作负载的专业性能以及其他关键功能。