系统硬件英伟达安培卡 vs 老推理卡硬件参数对比
Posted 极智视界
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了系统硬件英伟达安培卡 vs 老推理卡硬件参数对比相关的知识,希望对你有一定的参考价值。
欢迎关注我的公众号 [极智视界],回复001获取Google编程规范
O_o
>_<
o_O
O_o
~_~
o_O
本文分享一下英伟达安培卡 vs 老推理卡硬件参数对比。
其中安培卡主要包括 A100、A40、A30、A16、A10、A2,老推理卡主要包括 T4、P4、P40、V100,本文主要用于从老推理卡迁移到新安培卡时应该会用到的参数对比调研,属于人肉汇总型,若数据有误,欢迎指正。
我们都知道,推理卡的发展速度很快,具有里程碑意义的是英伟达于 2018年9月3日发布了革命性的专为人工智能设计的 GPU 高性能推理产品 Tesla T4,特别是其中的 Turing Tensor Core 矩阵运算单元;当时除了这个新的芯片之外,英伟达还推出了一款专用于加速深度学习推理的框架,也就是现在大家熟知的 TensorRT,这两者的配合,在后面很长一段时间给深度学习的部署插上了一双飞翔的翅膀,也催生了很多的深度学习落地项目。以至现在国产 GPGPU 的创业之火,在推理板卡端大都会对标 T4。而英伟达总是快人一步两步三步,现在安培卡来了,带着更大的带宽、更大的显存、更强的算力、更强的编解码能力向我们走来,所以我们有必要了解一些安培卡的特性及参数。历史总在进步,迁移永不停止。都说到这个份上了,那就来张图渲染一下氛围。
好了,话不多说,上才艺:
以上给出了数据,我就不分析了,有需要自己对比、查阅。
本文属于人肉汇总型,如有误,一定要帮我指出哈,希望我的分享能对你的学习有一点帮助。
【公众号传送】
扫描下方二维码即可关注我的微信公众号【极智视界】,获取更多AI经验分享,让我们用极致+极客的心态来迎接AI !
以上是关于系统硬件英伟达安培卡 vs 老推理卡硬件参数对比的主要内容,如果未能解决你的问题,请参考以下文章
推理加速 GPT-3 超越英伟达方案50%,开源方案打通大模型落地关键路径