Groq TSP AI 芯片现通过 Nimbix 赋能云工作负载
Groq 张量流处理器 (TSP) 硅片已上云，使客户能按需加速 AI 工作负载。Nimbix 现向选定客户独家提供基于 TSP 的机器学习加速。
云端 AI 加速器格局
在数据中心 AI 硅竞争中，Groq 与 Graphcore 并列为仅有的两家将商用加速器集成到云服务的初创公司。Graphcore 芯片已通过 Microsoft Azure 提供。
“Groq 简化的处理架构独一无二，为计算密集型工作负载提供前所未有的确定性性能，是我们云端 AI 和深度学习平台的激动人心补充，”Nimbix CEO Steve Hebert 说。
Groq 仅是第二家将硬件上云的 AI 加速器初创公司 (图片: Groq)
性能基准突破
去年秋季发布，Groq TSP 芯片提供惊人 1,000 TOPS (1 peta ops/秒)。近期基准测试中，芯片实现 21,700 ResNet-50 v2 推理/秒——是当代 GPU 系统两倍以上——凸显其作为最快商用神经网络处理器之一的地位。
“这些 ResNet-50 结果验证了 Groq 独特架构和机器学习加速方法提供的推理性能远超竞争对手，”Groq 联合创始人兼 CEO Jonathan Ross 说。“基于行业标准基准而非模拟或硬件仿真的现实证明点，确认了 Groq 技术为机器学习和 AI 应用带来的可衡量性能增益。”
架构优势：确定性与批次无关性
Groq 设计在无需 CPU/GPU 典型同步开销的情况下实现深度学习所需大规模并行。通过将控制逻辑卸载给编译器——Groq 软件驱动策略标志——公司提供完全确定性、可预测性能，可在编译时量化。突出优势：Groq 性能增益不依赖批次处理 (数据中心常用提升吞吐的策略)。TSP 芯片在 batch=1 时达到峰值性能，适配实时推理流。大批次时对 GPU 延迟优势 2.5×，batch=1 时攀升至 17×。
嵌入式
- GE 发布 Predix Cloud：面向工业数据与分析的专用云平台
- 网购生鲜消费者愿为极速付费——但有上限
- Bluetooth Mesh设计抉择：模组还是离散器件？
- Nucleus SE信号量：概览、配置与API要点
- Cadence推出Cloud Passport合作伙伴计划 加速芯片设计云迁移
- 超小型 u-blox BMD-380 蓝牙 5.0 模组：内置陶瓷天线
- MIT突破：1.6 mm²加密ID芯片利用太赫兹后向散射打击假冒
- 云服务SLA必备要素：保护您的业务
- 云资源标签策略：驾驭云管理的基石
- 基于共享责任模型的云迁移安全实战指南
- Azure 云服务解码：IaaS、PaaS、SaaS 对您的业务意味着什么
- IoT 成本分析：服务提供商与企业能从云定价中学到什么