什么事GPU服务器，适用于那些应用场景？

Posted 2022-03-24 zdc博客-小白上云

阿里云GPU云服务器是基于GPU与CPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势，特别是在浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。GPU的功能特性如下：

• 拥有大量擅长处理大规模并发计算的算术运算单元（ALU）。
• 能够支持多线程并行的高吞吐量运算。
• 逻辑控制单元相对简单。

GPU云服务器与自建GPU服务器的区别

对比项	GPU云服务器	GPU自建服务器
灵活性	能够快速开通一台或多台GPU云服务器实例。 实例规格支持灵活变更，并且支持在线升降配。 带宽升降自由。	服务器购买周期长。 服务器规格固定，无法灵活变更。 带宽一次性购买，无法自由升降。
易用性	Web在线管理，简单方便。 内置主流的操作系统，Windows正版激活，且支持在线更换操作系统。 GPU驱动可以在购买时一并安装，方便快捷。	没有在线管理工具，维护困难。 需用户自备操作系统，自行安装及更换。 GPU驱动需要自行购买安装。
容灾备份	三副本数据设计，单份损坏可在短时间内快速恢复。 硬件故障事故中可快速自动恢复。	用户自行搭建，使用普通存储设备，价格高昂。 数据损坏需用户修复。
安全性	能够有效阻止MAC欺骗和ARP攻击。 并防护DDoS攻击，可进行流量清洗和黑洞。 享有端口入侵扫描、挂马扫描、漏洞扫描等附加服务。	很难阻止MAC欺骗和ARP攻击。 清洗和黑洞设备需要另外购买，价格昂贵。 普遍存在漏洞挂马和端口扫描等问题。
成本	支持包年包月及按量付费两种购买方式，可灵活选择适合您业务场景的付费方式。 按需购买，无需一次性大量投入。	无法按需购买，必须为业务峰值满配。 一次性投入巨大，闲置浪费严重。

产品优势

• 高弹性

  提供系列化的规格族，分钟级创建GPU实例，支持水平扩容和垂直变配。

• 高性能高安全性

  支持GPUDirect，GPU之间点对点通信。GPU可以直接通过NVLink总线互联通信，具备高带宽低时延的特点，无需CPU干预。多租户间弹性GPU安全隔离 ，并通过Hypervisor授权和管理。允许灵活配置多块GPU实现互相高速通信的同时，还具备隔离带来的安全性。

• 易部署

  和阿里云生态深度融合，您可以轻松搭配其他阿里云产品构建应用，例如搭配OSS、NAS等产品满足存储要求，搭配EMR进行深度学习数据预处理等。支持云原生（阿里云Kubernetes），交付更加便捷。

• 易监控

  提供全面的GPU监控数据，包括GPU、实例和分组维度，免去您的运维压力。

应用场景

GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景。

直播实时视频转码

阿里云异构GPU和FPGA服务器重点支持2019年天猫双11狂欢夜直播的实时视频转码，以高画质、低带宽、高分辨率、实时的综合优势服务天猫双11狂欢夜当天直播业务4K、2K、1080P等各个分辨率的转码。其中FPGA H.265高清编码、720P节省带宽21.6%，GPU云服务器支持高并发实时视频流5000路以上，并逐步上升到峰值6200路每分钟，且顺利度过流量洪峰。异构GPU云服务器还参与实时家居渲染图片生成等业务，首次提供了大量算力强劲的ebmgn6v裸金属实例，支持淘宝渲染方提升几十倍的渲染性能，第一次实现秒级实时渲染，完成总计超过5000张大型家居渲染图。异构FPGA图片转码业务则以3K+片的超大集群，为淘宝图片空间提供高达数百万QPS的处理能力，承担了双十一淘宝图片85%的流量，预计节省计算成本3亿。

AI训练

gn6v和gn6e具有优异的通用GPU计算加速能力，适合为深度学习提供加速引擎。

gn6v和gn6e实例分别配备具有16 GB显存和32 GB显存的NVIDIA V100 GPU计算卡，单节点可提供高达1000TFLOPS的混合精度计算能力。与弹性计算生态的完美结合，为在线和离线场景提供了通用的解决方案。搭配容器服务使用，可以简化部署和运维的复杂度，并提供资源调度服务。

AI推理

gn6i具有优异的AI推理能力。

gn6i实例基于配备NVIDIA Tesla T4 GPU计算卡，单精度浮点计算能力最高可达8.1 TFLOPS，int8定点运算处理能力最高可达130 TOPS，支持混合精度，满足了深度学习（尤其是推理）场景下的算力需求。同时单卡功耗仅75 W，具有极高的性能功耗比。与弹性计算生态的完美结合，为在线和离线场景提供了通用的解决方案。搭配容器服务使用，可以简化部署和运维的复杂度，并提供资源调度服务。镜像市场提供预装NVIDIA GPU驱动和深度学习框架的镜像，简化您的部署操作。

云游戏、云网吧和云端图形工作站

vgn6i和gn6i均采用基于Turing架构的NVIDIA Tesla T4 GPU加速器，具有极佳的图形计算能力。vgn6i提供分片虚拟化后的虚拟GPU，支持T4 GPU计算能力的1/2、1/4、1/8，并提供极佳的3D图像渲染能力，适用于云游戏、云网吧等场景。vgn6i和gn6i实例可以结合云桌面产品提供云端图形工作站服务，应用于影视动画设计、工业设计、医疗成像、高性能计算的结果呈现等场景。

阿里云热门GPU服务器配置表

配置表参考：阿里云GPU云服务器

实例规格	vCPU	内存(GB)	按量(小时)	标准目录月价	优惠月价	年付月价	3年付月价	5年付月价
GPU计算型 ecs.gn7-c12g1.3xlarge	12	95	31.583	15160.0	15160.0	15160.00	15160.00	15160.00
GPU计算型 ecs.gn7-c13g1.13xlarge	52	380	126.333	60640.0	60640.0	60640.00	60640.00	60640.00
GPU计算型 ecs.gn7-c13g1.26xlarge	104	760	252.667	121280.0	121280.0	121280.00	121280.00	121280.00
GPU计算型 ecs.gn7i-c8g1.2xlarge	8	30	12.71	6100.88	6100.88	6100.88	6100.88	6100.88
GPU计算型 ecs.gn7i-c16g1.4xlarge	16	60	13.458	6459.75	6459.75	6459.75	6459.75	6459.75
GPU计算型 ecs.gn7i-c32g1.8xlarge	32	188	14.953	7177.5	7177.5	7177.50	7177.50	7177.50
GPU计算型 ecs.gn7i-c32g1.16xlarge	64	376	29.906	14355.0	14355.0	14355.00	14355.00	14355.00
GPU计算型 ecs.gn7i-c32g1.32xlarge	128	752	59.813	28710.0	28710.0	28710.00	28710.00	28710.00
GPU计算型 ecs.gn6e-c12g1.3xlarge	12	92	19.739	9475.0	5779.75	4737.50	3979.50	3979.50
GPU计算型 ecs.gn6e-c12g1.12xlarge	48	368	78.958	37900.0	23119.0	18950.00	15918.00	15918.00
GPU计算型 ecs.gn6e-c12g1.24xlarge	96	736	157.916	75800.0	46238.0	37900.00	31836.00	31836.00
GPU计算型 ecs.gn6v-c8g1.2xlarge	8	32	26.46	7620.0	4648.2	3810.00	3200.40	3200.40
GPU计算型 ecs.gn6v-c8g1.8xlarge	32	128	105.84	30480.0	18592.8	15240.00	12801.60	12801.60
GPU计算型 ecs.gn6v-c8g1.16xlarge	64	256	211.68	60960.0	37185.6	30480.00	25603.20	25603.20
GPU计算型 ecs.gn6v-c10g1.20xlarge	82	336	219.64	63255.0	38585.55	31627.50	26567.10	26567.10
GPU计算型 ecs.gn6i-c4g1.xlarge	4	15	11.63	3348.0	3348.0	2845.80	1841.40	1272.24
GPU计算型 ecs.gn6i-c8g1.2xlarge	8	31	14.0	4032.0	4032.0	3427.20	2217.60	1532.16
GPU计算型 ecs.gn6i-c16g1.4xlarge	16	62	16.41	4725.0	4725.0	4016.25	2598.75	1795.50
GPU计算型 ecs.gn6i-c24g1.6xlarge	24	93	17.19	4950.0	4950.0	4207.50	2722.50	1881.00
GPU计算型 ecs.gn6i-c24g1.12xlarge	48	186	34.38	9900.0	9900.0	8415.00	5445.00	3762.00
GPU计算型 ecs.gn6i-c24g1.24xlarge	96	372	68.75	19800.0	19800.0	16830.00	10890.00	7524.00
GPU可视化计算型 ecs.vgn6i-m4.xlarge	4	23	2.445	1173.65	1173.65	1173.65	1173.65	1173.65
GPU可视化计算型 ecs.vgn6i-m8.2xlarge	10	46	5.053	2425.56	2425.56	2425.55	2425.55	2425.55
GPU可视化计算型 ecs.vgn5i-m1.large	2	6	1.95	562.5	562.5	478.13	309.38	213.75
GPU可视化计算型 ecs.vgn5i-m2.xlarge	4	12	3.91	1125.0	1125.0	956.25	618.75	427.50
GPU可视化计算型 ecs.vgn5i-m8.4xlarge	16	48	15.63	4500.0	4500.0	3825.00	2475.00	1710.00
GPU计算型 ecs.gn5-c4g1.xlarge	4	30	12.78	3681.0	3681.0	3128.85	1914.12	1288.35
GPU计算型 ecs.gn5-c8g1.2xlarge	8	60	15.39	4433.0	4433.0	3768.05	2305.16	1551.55
GPU计算型 ecs.gn5-c4g1.2xlarge	8	60	25.57	7363.0	7363.0	6258.55	3828.76	2577.05
GPU计算型 ecs.gn5-c8g1.4xlarge	16	120	30.78	8866.0	8866.0	7536.10	4610.32	3103.10
GPU计算型 ecs.gn5-c28g1.7xlarge	28	112	23.88	6877.0	6877.0	5845.45	3576.04	2406.95
GPU计算型 ecs.gn5-c8g1.8xlarge	32	240	61.57	17731.0	17731.0	15071.35	9220.12	6205.85
GPU计算型 ecs.gn5-c28g1.14xlarge	56	224	47.75	13753.0	13753.0	11690.05	7151.56	4813.55
GPU计算型 ecs.gn5-c8g1.14xlarge	54	480	123.13	35462.0	35462.0	30142.70	18440.24	12411.70
GPU计算型 ecs.gn5i-c2g1.large	2	8	8.68	2500.0	2375.0	1875.00	1125.00	750.00
GPU计算型 ecs.gn5i-c4g1.xlarge	4	16	9.69	2790.0	2650.5	2092.50	1255.50	837.00
GPU计算型 ecs.gn5i-c8g1.2xlarge	8	32	11.67	3360.0	3192.0	2520.00	1512.00	1008.00
GPU计算型 ecs.gn5i-c16g1.4xlarge	16	64	15.63	4500.0	4275.0	3375.00	2025.00	1350.00
GPU计算型 ecs.gn5i-c28g1.14xlarge	56	224	43.06	12400.0	11780.0	9300.00	5580.00	3720.00
GPU计算型弹性裸金属服务器 ecs.ebmgn7i.32xlarge	128	768	59.813	28710.0	28710.0	28710.00	28710.00	28710.00
GPU计算型弹性裸金属服务器 ecs.ebmgn7.26xlarge	104	768	252.667	121280.0	121280.0	121280.00	121280.00	121280.00
GPU计算型弹性裸金属服务器 ecs.ebmgn6e.24xlarge	96	768	157.92	75800.0	46238.0	37900.00	31836.00	31836.00
GPU计算型弹性裸金属服务器 ecs.ebmgn6v.24xlarge	96	384	237.125	68292.0	41658.12	34146.00	28682.64	28682.64
GPU计算型弹性裸金属服务器 ecs.ebmgn6i.24xlarge	96	384	68.75	19800.0	19800.0	16830.00	10890.00	7524.00