服务器:计算产业链及竞争格局

来源:华体会手机    发布时间:2024-03-22 04:01:29

  ”,详细的介绍了服务器构成及市场情况、AIGC带来服务器变革、训练&推理带来服务器增量需求、AI服务器市场迎来快速地发展机遇、AI服务器产业链解析、AI服务器竞争格局。

  详细技术内容参考“高性能计算知识汇总”及“OpenMP编译原理及实现”,高性能计算应用特征剖析、深度报告:GPU研究框架、《高性能计算和超算专题》。及人工智能之火点燃算力需求,AI服务器市场拆解。

  服务器主要硬件包括处理器、内存、芯片组、I/O (RAID卡、网卡、HBA卡)、硬盘、机箱(电源、风扇)。以一台普通的服务器生产所带来的成本为例,CPU及芯片组大致占比50%左右,内存大致占比15%左右,外部存储大致占比10%左右,其他硬件占比25%左右。

  服务器的逻辑架构和普通计算机类似。但是由于需要出示高性能计算,因此在解决能力、稳定性、可靠性、安全性、可扩展性、可管理性等方面要求较高。

  逻辑架构中,最重要的部分是CPU和内存。CPU对数据来进行逻辑运算,内存进行数据存储管理。

  根据Counterpoint的全球服务器销售跟踪报告,服务器市场规模持续增长。2022年,全球服务器出货量将同比增长6%,达到1380万台。收入将同比增长17%,达到1117亿美元。根据IDC、中商产业研究院,我国服务器市场规模由2019年的182亿美元增长至2022年的273.4亿美元,复合年均增长率达14.5%,预计2023年我国服务器市场规模将增至308亿美元。

  竞争格局:根据IDC发布的《2022年第四季度中国服务器市场跟踪报告Prelim》,浪潮份额国内领先,新华三次之,超聚变排行第三,中兴通讯进入前五。

  目前,AIGC产业生态体系的雏形已现,呈现为上中下三层架构:①第一层为上游基础层,也就是由预训练模型为基础搭建的AIGC技术基础设施层。②第二层为中间层,即垂直化、场景化、个性化的模型和应用工具。③第三层为应用层,即面向C端用户的文字、图片、音视频等内容生成服务。

  回顾GPT的发展,GPT家族与BERT模型都是知名的NLP模型,都基于Transformer技术。GPT,是一种生成式的预训练模型,由OpenAI团队最早发布于2018年,GPT-1只有12个Transformer层,而到了GPT-3,则增加到96层。其中,GPT-1使用无监督预训练与有监督微调相结合的方式,GPT-2与GPT-3则都是纯无监督预训练的方式,GPT-3相比GPT-2的进化主要是数据量、参数量的数量级提升。

  异构计算(Heterogeneous Computing)是指使用不相同类型指令集和体系架构的计算单元组成系统的计算方式,目前最重要的包含GPU云服务器、FPGA云服务器和弹性加速计算实例EAIS等。让最适合的专用硬件去服务最适合的业务场景。

  在CPU+GPU的异构计算架构中,GPU与CPU通过PCle总线连接协同工作,CPU所在位置称为主机端(host),而GPU所在位置称为设备端(device)。基于CPU+GPU的异构计算平台可以优势互补,CPU负责处理逻辑复杂的串行程序,而GPU重点处理数据密集型的并行计算程序,从而发挥最大功效。

  阿里第一代计算型GPU实例,2017年对外发布GN4,搭载Nvidia M40加速器.,在万兆网络下面向人工智能深度学习场景,相比同时代的CPU服务器性能有近7倍的提升。

  CPU适用于一系列广泛的工作负载,特别是那些对于延迟和单位内核性能要求比较高的工作负载。作为强大的执行引擎,CPU将它数量相对较少的内核集中用于处理单个任务,并快速将其完成。这使它尤其适合用于处理从串行计算到数据库运行等类型的工作。

  GPU最初是作为专门用于加速特定3D渲染任务的ASIC开发而成的。跟着时间的推移,这些功能固定的引擎变得更可编程化、灵活性更好。尽管图形处理和当下视觉效果越来越真实的顶级游戏仍是GPU的基本功能,但同时,它也已经演化为用途更普遍的并行处理器,可处理慢慢的变多的应用程序。

  AI服务器作为算力基础设备,其需求有望受益于AI时代下对于算力不断的提高的需求而迅速增加。根据TrendForce,截至2022年为止,预估搭载GPGPU(General Purpose GPU)的AI服务器年出货量占整体服务器比重近1%,预估在ChatBot相关应用加持下,有望再度推动AI相关领域的发展,预估出货量年成长可达8%;2022~2026年复合成长率将达10.8%。

  AI服务器是异构服务器,能够准确的通过应用场景范围采用不一样的组合方式,如CPU + GPU、CPU + TPU、CPU +其他加速卡等。IDC预计,中国AI服务器2021年的市场规模为57亿美元,同比增长61.6%,到2025年市场规模将增长到109亿美元,CAGR为17.5%。

  AI服务器核心组件包括GPU(图形处理器)、DRAM(动态随机存取存储器)、SSD(固态硬盘)和RAID卡、CPU(中央处理器)、网卡、PCB、高速互联芯片(板内)和散热模组等。

  CPU主要供货厂商为Intel、GPU目前领先厂商为国际巨头英伟达,以及国内厂商如寒武纪、海光信息等。

  IDC发布了《2022年第四季度中国服务器市场跟踪报告Prelim》。从报告能够正常的看到,前两名浪潮与新华三的变化较小,第三名为超聚变,从3.2%份额一跃而至10.1%,增幅远超其他服务器厂商。Top8服务器厂商中,浪潮、戴尔、联想均出现显著下滑,超聚变和中兴则取得明显增长。其中,浪潮份额从30.8%下降至28.1%;新华三份额从17.5%下降至17.2%;中兴通讯从3.1%提升至5.3%,位居国内第5。

  据TrendForce集邦咨询统计,2022年AI服务器采购占比以北美四大云端业者Google、AWS、Meta、Microsoft合计占66.2%为最,而中国近年来随着国产化力道加剧,AI建设浪潮随之增温,以ByteDance的采购力道最显著,年采购占比达6.2%,其次紧接在后的则是Tencent、Alibaba与Baidu,分别约为2.3%、1.5%与1.5%。

  文章出处:【微信号:架构师技术联盟,微信公众号:架构师技术联盟】欢迎添加关注!文章转载请注明出处。

  商会主动帮忙设置好的,在这之后更换了的端口记得要加进防火墙策略哦, 不会操作的话可以联系

  行业市场规模将持续快速地增长,其原因主要在于:1. 国家绿色能源和可持续发展扶持政策,推动液冷

  分析 /

  专业投资的人对华秋未来发展前途的持续看好。 华秋自2011年成立以来,始终致力于为电子

  专业投资的人对华秋未来发展前途的持续看好。 华秋自2011年成立以来,始终致力于为电子

  愈发频繁,多品种小批量混线生产模式呈现出快速的提升态势。 华秋通过“ 方案开发、DFM分析、PCB制造,元器件电商及SMT/PCBA加工 “一站式柔性供应

  的未来如何? /

  主要硬件包括处理器、内存、芯片组、I/O (RAID卡、网卡、HBA卡) 、硬盘、机箱 (电源、风扇)。以一台普通的

  生产成本为例,CPU及芯片组大致占比50% 左右,内存大致占比 15% 左右,外部存储大致占比10%左右,其他硬件占比25%左右。

  生态体系的雏形已现,呈现为上中下三层架构:①第一层为上游基础层,也就是由预训练模型为基础搭建的AIGC技术基础设施层。②第二层为中间层,即垂直化、场景化、个性化的模型和应用工具。③第三层为应用层,即面向C端用户的文字、图片、音视频等内容生成

  (2023) /

  的组成大致可区分为感知层、应用层。(1)感知层:基本功能是感知识别物体或环境状态,并且实时采集、捕获信息。构成要素包括RFID标签、传感

  【紫光同创盘古PGX-Lite 7K教程】——(盘古PGX-Lite 7K开发板/PGC7KD-6IMBG256第二章)LED 流水灯实验例程

  飞凌ElfBoard ELF 1板卡-如何在ELF 1开发板上实现对java的支持