什么是GMI Cloud?
GMI Cloud是一个AI原生云平台,专为生产AI推理和训练而构建。它提供统一的技术栈,涵盖serverless推理、基于Kubernetes的集群编排和裸机GPU计算——全部基于NVIDIA H100、H200和即将推出的Blackwell GPU。该平台旨在消除超大规模云提供商的典型开销,恢复因虚拟化而损失的10-15%GPU性能,同时提供透明的按需付费定价,无配额或长期承诺限制。作为NVIDIA云合作伙伴,GMI Cloud提供对尖端GPU硬件的优先访问,具备企业级安全性和覆盖美国、欧盟和亚太地区的全球可用性。
主要功能
Serverless推理引擎
即时部署AI模型,具备自动扩缩容、内置请求批处理和延迟感知调度功能——包括缩放至零以消除空闲成本。
专用GPU集群引擎
基于Kubernetes的编排环境,用于管理可扩展的GPU工作负载,具备实时监控、容器管理和安全的多租户隔离功能。
高性能GPU计算
按需访问配备InfiniBand网络的NVIDIA H100和H200 GPU,提供接近裸机的性能,无配额限制,无等待队列。
按请求推理定价
100+预部署模型,按请求计费,费用从$0.000001到$0.50/请求不等,无需长期合同即可实现成本高效的推理。
企业级安全与合规
部署在Tier-4数据中心,具备SOC 2 Type 1和ISO 27001:2022认证,确保高可用性、数据安全和监管合规。
1. 什么是GMI Cloud?⌄
GMI Cloud是一个推理优先的GPU云平台,基于NVIDIA H100、H200和Blackwell硬件,提供serverless推理、GPU集群编排和裸机计算服务。
2. GMI Cloud上的serverless推理是如何工作的?⌄
模型即时部署,具备自动扩缩容、请求批处理和延迟感知调度功能。空闲时缩放至零,因此您无需为未使用的容量付费。
3. 有哪些GPU可用?⌄
NVIDIA H100(从$2.00/GPU小时起)、H200(从$2.60/GPU小时起)和Blackwell(预订中)可按需使用,无配额限制。
4. 什么是集群引擎?⌄
基于Kubernetes的环境,用于管理可扩展的GPU工作负载——它处理容器编排、实时监控、访问控制和多节点集群管理。
5. GMI Cloud如何定价?⌄
按需付费,无长期合同。推理按请求计费(100+模型的费用为$0.000001–$0.50/请求);GPU计算按GPU小时计费。企业可享受基于承诺的折扣。
6. GMI Cloud与AWS、GCP或Azure相比如何?⌄
GMI Cloud恢复了超大规模云提供商虚拟化开销导致的10-15%GPU性能损失,提供更低的单GPU定价,并提供无配额的按需访问——更适合推理密集型AI工作负载。
7. GMI Cloud安全且合规吗?⌄
是的。该平台具备SOC 2 Type 1和ISO 27001:2022认证,托管在Tier-4数据中心,具有多租户隔离,确保可预测的安全性能。
