Kubernetes 赋能 AI 初创企业：可扩展的容器化解决方案
Carmine Rimi，Canonical（Ubuntu 背后的团队）AI 产品经理，分享 AI 与 Kubernetes 交汇的见解。
斯坦福大学研究显示，自 2000 年以来 AI 初创企业激增 14 倍，而英国 AI 开发者去年风投资金激增 200%。这些数字凸显对可靠、可扩展 AI 基础设施的日益增长的需求。
构建 AI 应用本质复杂。开发者在编写一行 ML 代码前，必须兼顾特征提取、数据收集验证、统计分析和资源编排。持续维护是保持模型最新和安全的必要条件。
容器化自我
为此，行业转向 Kubernetes——一个免费开源平台，自动化容器化工作负载的部署和管理，包括 AI 和机器学习流水线。通过抽象基础设施细节，Kubernetes 让团队专注于模型开发而非运维开销。
Forrester 近期称“Kubernetes 已赢得容器编排统治权，应成为微服务计划的核心。”容器提供轻量、可移植的环境，可轻松跨本地或云资源扩展，将单体 AI 服务拆解为模块化、可维护的微服务。
云原生计算基金会调查显示，大多数开发者已在 AI 生命周期的多个阶段（从训练到推理）利用 Kubernetes。Kubernetes 擅长扩展计算密集型深度学习模型，并在商用服务器上管理大规模数据集。
除了训练，Kubernetes 还支持跨边缘设备和中央数据中心的分布式推理，简化原本需要定制非容器化解决方案的部署场景。
转变焦点
随着企业采用 AI 降低成本、增强决策、提供个性化体验，基于 Kubernetes 的容器已成为首选平台。2020 年 12 月，Kubernetes 项目推出 Kubeflow，一个在 Kubernetes 上简化机器学习工作流的框架。
最初为无状态服务设计，Kubernetes 现凭借丰富的 API、可靠性和性能，支持复杂的有状态 AI 工作负载。2017 年仅 Google Cloud Platform 的 Google Kubernetes Engine (GKE) 支持该平台；如今，每大云厂商——微软 Azure 的 AKS、亚马逊的 EKS 等——均提供托管 Kubernetes 服务。
企业和云提供商对 Kubernetes 的快速采用，证明其在为 AI 应用提供可重复性、容错性和可扩展性方面的有效性。Kubernetes 已成为管理容器化 AI 工作负载的事实标准，其优势将随 AI 采用持续增长。
作者为 Carmine Rimi，Canonical AI 产品经理。
物联网技术