首先,要知道GPU主要分为三种类型的接口。目前市场上可以提供传统的总线接口、PCIe接口和NV-Link接口。
NVIDIA Link Interface Type GPU的典型代表是使用SXM2接口的NVIDIA V100。SXM3到DGX-2的接口。NV-Link总线标准GPU服务器可分为NVIDIA NVX超级计算机和合作伙伴提供NV-Link接口的服务器两种。DGX超级计算机不仅提供硬件,还提供相关软件和服务。
具有传统总线接口的GPU目前是主流产品,如V100、P40(P指上一代PASCAL体系结构)和PCI-e接口的P4以及最新的图灵体系结构T4。P4和T4只有一个插槽,通常用于会议。
传统PCI e总线的GPU服务器也可以分为两类:曙光、浪潮、华为等OEM服务器;其他类型是服务器,包括许多类型,而不是OEM。除了分类之外,在选择服务器时还应考虑性能指标,如精度、视频存储类型、视频存储容量和功耗。与此同时,一些服务器需要特殊的服务器,这是因为需要对水冷、降噪或温度、移动性等有特殊要求。
如何选择GPU服务器(GPU服务器怎么选择)时,首先要考虑业务需求,选择合适的GPU型号。HPC高性能计算需要选择精度。例如,某些高性能计算需要两倍的精度。如果不适用P40或P4,则可使用V100或P100。同时还要求视频存储容量。例如,石油或石油化学勘探的计算应用对视频存储的要求非常高。由于总线标准也有要求,因此GPU型号的选择取决于业务需求。
GPU服务器在人工智能领域也有广泛的应用。在培训方案中,对GPU虚拟化的要求相对较高。根据班级数量,教师必须在GPU服务器上创建30或60个虚拟GPU。因此,大量培训需要高GPU。V100通常用于GPU培训。模型训练后需要验证,因此通常使用P4或T4,有时使用V100。
如何选择GPU服务器(GPU服务器怎么选择)型号,然后考虑要使用的GPU服务器。此时应考虑以下事项:
1、边缘服务器必须根据数量选择合适的服务器,如T4或P4,还要考虑服务器使用场景,如车站检查站、机场检查站或公共安全检查站。中央可能需要V100服务器来执行推理、吞吐量、场景和数量。必须考虑。
2、需要考虑自己的用户和it运营和维护能力。对于BAT等大企业,由于自身运营能力相对较强,将选择通用PCI-e服务器。一些IT运营和维护薄弱的客户更关注数字和数据注释。我们称他们为数据科学家,选择GPU服务器的标准会有所不同。
3、考虑支持软件和服务的价值。
4、考虑整个GPU集群系统的成熟度和工程效率。例如,DGX等GPU集成的超级计算机拥有非常成熟的系统,可以将Docker从较低的操作系统驱动到其他坚固、优化的部分。此时效率相对较高。
针对如何选择GPU服务器(GPU服务器怎么选择)的问题,基本上就这么多了,如果需要GPU服务器产品的详细资料、案例可以留言或者在网站内进行搜索。