产品概述

GPU云主机是基于 NVIDIA GPU 卡的高性能计算服务,可应用于深度学习、科学计算、图像视频渲染等多种场景。GPU云主机采用和云主机一致的管理方式,可以灵活配置、按需使用,让您可以更高效率、低成本地使用到高性能计算能力。

架构介绍

美团GPU云主机是基于 KVM(Kernel-based Virtual Machine)的虚拟化技术实现的虚拟云主机。其中 GPU 卡采用 passthrough 模式,VM拥有完整的 GPU 卡的计算能力,不同的VM间不会共享GPU 卡,因此 GPU 卡不会有性能损失。

GPU架构

产品可用性

美团云承诺GPU云主机的服务可用性为99.95%,即用户每月服务可用时间应为30天*24小时*60分钟*99.95%=43178.4分钟。如果服务可用性没有达到承诺,将按照服务赔偿条款进行赔付。

实例类型

美团GPU云主机支持以下实例类型:

GPU Tesla M60(1核)/Tesla M40(1核)/Tesla P40(1核)
CPU 四核 八核 十六核 三十二核
内存(GB) 4/8/16/32 8/16/32/64 16/32/64  32/64

支持以下操作系统:

系统类型 发行版 版本
Linux CentOS 7.0(64位)
Linux Ubuntu 16.04(64位)
Windows Server 2012R2(64位)

硬盘:提供本地SSD硬盘,大小自定义,最大可创建1T

产品性能

GPU类型 单精度浮点运算性能 双精度浮点运算性能 显存
Tesla M40(1核) 7 Tflops 0.21 Tflops 12GB
Tesla M60(1核) 4.85 Tflops 0.15 Tflops 8GB
Tesla P40(1核) 12 Tflops  -  24GB

三者均可用于深度学习、科学计算、图像视频渲染

特性与优势

弹性

可以根据业务需要,在需要的时候快速创建一台GPU云主机,只需几分钟时间即可轻松获取一个可自定义配置的GPU云主机,也可随时根据自身业务需求情况调整GPU云主机的CPU、内存、硬盘大小等配置,最大限度满足用户的弹性需求。尤其适合于像 深度学习、图形渲染 这种对资源的使用波动较大的任务。

灵活

GPU云主机跟普通云主机类似,可以跟美团云上的其它产品如 浮动IP、云硬盘、云主机、对象存储等 组合使用,通过跟不同产品的组合来满足不同场景的使用,最大限度满足用户的各种复杂场景需求。

稳定可靠

美团云专业的运维团队提供 7×24 小时的运维服务,无需关心硬件故障,承诺99.95% 的服务可用性,数据可靠性不低于 99.9999%。

超高性能存储

GPU云主机的存储不但支持挂在云端3副本云硬盘,还提供本地高性能PCIE SSD存储,可提供160000的读/写IOPS性能,最大 1430MBps 的读带宽、1220MBps写带宽,读写延迟可稳定在 200us 左右。

简单易用

GPU云主机可与美团云主机、云硬盘、对象存储等多种云产品无缝接入,和云主机采用一致的管理方式,预装NVIDIA显卡驱动,也可预装各主流深度学习框架,免去高学习成本和使用门槛。

节约成本

GPU云主机的计费方式为按需计费,随时使用随时购买,无需大量资金购置物理服务器,也无需负担运维成本,以最低的成本使用高性能计算服务。同时 GPU 云主机采用秒级计费,让用户的成本最大限度的贴合实际的资源使用情况。

安全保障

通过用户之间GPU、CPU、IO、网络的相互隔离及用户之间 100% 的完全网络隔离,有效防止用户间由于资源侵占而产生的性能干扰,实现故障和安全性的隔离。同时,默认支持 SSH Key 的登录方式(Linux 系统)、提供网络防火墙功能,降低用户潜在损失,为用户的安全使用保驾护航。

应用场景

深度学习离线训练:您可以使用一台 GPU 云主机搭建一台简单的深度学习训练系统,也可以使用多台 GPU 云主机搭建一套多机并行计算的深度学习训练系统,同时结合美团云对象存储提供的云存储服务、MySQL数据库提供的在线数据库服务、云主机提供的计算服务,来进行数据的存储和辅助计算,完成图片识别、人脸识别、语音识别、机器翻译、自然语言处理等多种场景下的深度学习训练。

深度学习在线预测:利用 GPU 云主机强大的计算能力,结合美团云对象存储提供的云存储服务、MySQL数据库提供的在线数据库服务、云主机提供的计算服务、Memcached 提供的缓存服务、负载均衡提供的流量分发服务,可以搭建一个功能强大、高效的深度学习在线预测系统,高效完成图片识别、人脸识别、语音识别、机器翻译、自然语言处理等多种场景下的在线预测任务。

云端离线渲染:凭借 GPU 云主机强大的图形加速计算能力,结合 Maya、3ds max 等渲染软件,您可以使用一台或多台 GPU 云主机搭建一套单机或多机并行的在线渲染系统,完成影视动画、建筑表现、CG广告等领域的图像、视频的渲染工作。