2021年10月11日，国际数据公司（IDC）发布了最新的《中国半年度加速计算市场（2021上半年）跟踪》报告。报告显示，2021年上半年加速服务器市场规模达到23.8亿美元，同比增长85.1%。其中GPU服务器依然占主导地位，占据91.9%的市场份额，达到21.9亿美元，同比增长82.2%。同时NPU、ASIC 和 FPGA等非GPU加速服务器以127.1%的增速占有了8.1%的市场份额，达到1.9亿美元。
人工智能在各行各业的渗透不断提高，应用场景更加广泛，已经成为企业寻求业务增长点、改善用户体验、保持竞争力的主要话题。ASIC、NPU及FPGA等AI芯片，无论部署在云端还是边缘端，随着应用场景的逐渐成熟，各种特殊功能将更加清晰，市场需求将越来越大。此外，它易于开发、低成本、高性能和低功耗优势随着人工智能应用场景的落地将逐渐凸显。IDC预测，到2025年中国加速服务器市场规模将达到108.6亿美元。其中GPU和非GPU服务器市场规模分别为82.9亿美元和25.6亿美元。
2021年上半年，从厂商销售额角度看，浪潮、宁畅、华为位居前三，占据了70%的市场份额；从服务器出货量角度看，浪潮、宁畅、安擎位居前三名，占有60%以上的市场份额；从行业的角度看，互联网依然是最大的采购行业，占整体加速服务器市场60%以上的份额，同比2020年有90%以上的增长，此外金融、服务、电信、制造和能源行业均有超过50%的上涨；从加速卡的角度看，2020年的采购主要集中在搭载V100、V100S、A100和T4的加速服务器上，同时Nvidia发布了A10、A30、A40等新型号加速卡部分领域已经开始使用。IDC调研发现，2021上半年，用于推理工作负载的加速服务器已经达到53.5%，预计到2025年将超过60%。
IDC中国AI基础架构分析师杜昀龙认为：“各行业与人工智能技术的深度结合及应用场景的不断成熟与落地，使人工智能芯片朝着多元化的方向发展，为了迎合芯片的多元化，服务器的类型也将越来越丰富，并适用越来越多的行业应用场景。建议人工智能服务器厂商，提升硬件服务，优化服务器设计，给客户提供低延迟低功耗的算力的同时，还能满足用户对不同芯片和服务器的选择，以支持多样化、细分化的场景应用需求，支持训练模型和行业开发套件在企业中的实际落地。”
