1、GPT模型需要什么计算能力？
ChatGPT使用单一的大模型路径，对基础算力的需求主要体现在训练和推理两个方面。训练包括使用大量数据集来重复计算模型。事故包括使用模型处理输入信息并提供结果。根据IDC数据，2021中国人工智能服务器使用量的57.6%用于演示，42.4%用于模型培训。特别是当需要计算能力时，包括微调和日常工作在内的预培训。根据我们的计算，GPT-3 175B模型需要大约3640 PFlap/s天，ChatGPT工作每月需要大约7034.7 PFlap/s，每月至少需要1350.4 PFlap/s。
2、GPT模型需要什么服务器？
我认为，服务器类型的演变是由计算机架构的变化驱动的。从服务器行业的发展历史来看，计算架构已经从单一计算机演变为C-S、C-E-S、PC和云计算。随着边缘计算和其他服务器类型的发展，人工智能训练时代C-S架构的回归和对大规模并行计算的需求导致了人工智能服务器的扩张。人工智能服务器比现有服务器使用GPU和其他加速器卡，因此它们更擅长向量和张量计算，更擅长人工智能训练和演示场景。由于处理能力更好，使用多芯片复合架构，单个服务器芯片的成本更高。
3、GPT模型需要什么计算芯片？
GPT模型的训练和演示计算主要在AI服务器上进行，基本计算芯片包括CPU、GPU、FPGA、ASIC等。8xGPU+2x CPU、4xGPU+2x-CPU、8xFPGA+1x-CPU、4xFPGA+1x CPU等通用计算芯片的组合。据IDC称，2022年，国内人工智能芯片市场的GPU芯片占GPU芯片主要市场份额的89.0%。目前，国外主要的AI GPU芯片包括英伟达H100、A100和V100。
4、美国对高端计算机芯片的出口限制将对GPT行业产生什么影响？
由于美国对高端计算芯片的出口限制，目前只能在国内购买A100以下的人工智能GPU，例如NVIDIA A800系列。此外，性能较低的NVIDIA A和T系列的早期版本仍然没有受到影响。在FP16浮点算力方面，华为Lifting等部分国产AI GPU已被NVIDIA A100取代。考虑到加速追赶的实现，预计未来将通过国产产品的环境打磨，加快国产AI GPU的替代。
