开yun体育网数万亿模子参数、搀杂群众（MoE）、局部激活下-开云官网kaiyun皇马赞助商 (中国)官方网站 登录入口

（本文作家为 海豚探讨开yun体育网，钛媒体经授权发布）

文 | 海豚探讨

22 年底 ChatGPT 横空出世以来，从算力（GPU）、存力（存储），提醒支持力（CPU）……AI 仍是带动了一个又一个的半导体超等产业契机、一个又一个的万亿好意思金市值公司。

如果说在 AI 基建中，还有一个板块尚待出现一个万亿市值 “待爆帝” 的话，海豚君接下来最为看好的便是 AI 期间的超等流畅了。如果说算力处置了 AI“智力” 问题，存力处置了 AI“挂念力” 问题，那么运力要处置的便是若何将长、短期挂念 “坐上火箭般的速率” 高速相差脑力中心。

或者借用 AI 教皇黄仁勋的说法，跟着算力、内存瓶颈的简陋缓解，动力又是一个十年龄的不竭难度，下一个中枢卡点是 AI 期间网罗的高速互联，因为传统云期间的网罗基建完竣无法匹配 Agentic AI 期间下，数万亿模子参数、搀杂群众（MoE）、局部激活下，对网罗带宽的传输需求。

本篇，就接着 AI 网罗传输速率下简陋切换的光电传输时刻标的——CPO 来探索一下 AI 期间的网罗传输。海豚君关于 CPO 的计差异为：

一、什么是 CPO，它真的能替代传统的铜流畅吗？

二、它是否又能完竣替代现时主流的可插拔光模块？

二、在此趋势下，产业内高低游公司的竞争形态又将若何变化？

在本篇著作中，咱们领先对产业链的基本问题作念一个梳理。

正文：

一、什么是 CPO？

在传统数据中心架构当中，有一个紧要的部件即 “光模块”，它的作用是将光辉传输过来的光信号鬈曲为电信号传递给数据中心，或者将数据中心内产生的电信号鬈曲为光信号况兼传递给光纤，在数据传输中起到 “桥梁” 和 “翻译” 的作用。

从作用上讲，CPO（即共封装光学）架构当中，包含了传统光模块的功能，但有以下两个彰着各异：

1、结构不同

传统的光模块是可插拔的，名义看起来就像家里网线端口上的水晶头，但 CPO 完竣不同，它将肃肃光电改变的光引擎，和芯片（这里主若是交换机的 ASIC 芯片）径直集成在并吞封装基板或者中介层上。

2、哄骗场景不同

光模块经常哄骗于机柜间（即 Scale-out）；而 CPO 既不错哄骗于机柜间，也不错哄骗于机柜内（Scale-up），哄骗于机柜间，替代的是传统的光模块，哄骗于机柜内，替代的则是现在主流的铜流畅。

图：传统可插拔模式与 CPO 有策动暗示

府上开始：GTC 2025，Dolphin Research

咱们不错看到，近期不管是$英伟达(NVDA.US) ，照旧$博通(AVGO.US) ，齐在积极推动他们 CPO 交换机有策动。

那么 CPO 时刻为什么会获取如斯风趣呢？因为数据中心对算力需求不竭晋升，数据中心对数据传输的带宽需求也呈爆发式增长，且数据中心正在往超大范围算力集群的标的发展，那么在此历程中，旧有的传统数据传输时刻会形成诸多阻碍：

1、带宽瓶颈

关于机柜间场景，由于传统交换机面板空间有限，而传统可插拔光模块尺寸又难以松开，导致单台交换机大要提供的端口受限，无法补助越来越高的带宽条目。

现在可插拔模块最高可补助 1.6Tbps 单模块带宽，单个交换机面板最多可补助 51.2Tbps 带宽，将来有可能推出 3.2Tbps 模块，交换机最高补助 102.4Tbps，这险些仍是达到可插拔光模块的极限。

2、信号齐全性瓶颈

在机柜内场景，跟着传输速率晋升，如果使用传统的铜缆，那么电信号在长距离传输时会面对严重信号衰减和失真，况兼传输距离也会越来越受限。

现在铜缆最高可补助 1.8TB/s 带宽（如英伟达的 NVLink 铜缆），且距离被严格甩手在 2 米以内，但单 GPU 对带宽需求正在向 3.6TB/s 迈进。

3、散热和功耗瓶颈

跟着传输速率提高，传统通讯链路的功耗大幅高潮，同期散热也越来越面对谬误。咱们知说念现在好意思国数据中心建设面对极大的动力贫乏，是以功耗问题会带来权臣的老本压力。

CPO 表面上不错较好地处置上述几项问题，凭据英伟达，哄骗 CPO 后功率效果不错晋升 3.5 倍。

二、具体而言，数据中心的数据传输场景有哪些？

这里咱们对数据中心在不同场景和不同局势中的数据传输时刻道路进行拆分：

图：Scale-out 和 Scale-up 示例

府上开始：NADDOD，Dolphin Research

1、Scale-up，主要波及机柜内互联

主要波及机柜内，尤其是就业器内的硬件互连，包括但不限于 CPU、GPU、网卡、DDR 内存以及硬盘之间的互连。

现在这部分流畅主要以铜为主要流畅介质，包括用来流畅 CPU、GPU 以及网卡的 PCle 插槽以及内存插槽（PCB 铜走线），SATA 线等种种铜缆等。而 CPO 有可能颠覆现在的主流有策动。

2、Scale-out，主要波及机柜间互联

主要波及机柜或者就业器以及交换机之间的互连。

这部分流畅就需要以光算作流畅介质了，现在主要以光纤和可插拔光模块为主要有策动。一样，CPO 是紧要发展趋势，且比机柜内场景进展更快。

3、更进一步地，还少见据中心之间以及数据中心与外部的互连，这部分不是本文的探讨要点。

从巨头布局来看，CPO 现阶段在场景上主要面向机柜间，但将来可能面向机柜内场景。

三、CPO 现在还处在初步的推论阶段，面对的主要瓶颈是什么？

1、先进封装时刻的锻练

从底层时刻来看，CPO 与诸如可插拔光模块这类传统有策动比较完竣不同。传统光电子零部件从坐蓐时刻上与广义的光电子元器件及模组各异不大，但 CPO 需要将光引擎封装到基板或中介层，主要依靠的却是先进封装时刻如 CoWoS。

与此同期，相关于咱们经常所透露的先进封装，CPO 也有所不同，因为它不单要集成电子集成电路，同期还要集成光子集成电路，那么这种异质集成需要通过诸如$台积电(TSM.US) COUPE 时刻进行搀杂键合。

问题在于，一方面，上述先进封装时刻工艺难度极大，不管是英伟达照旧博通，齐依赖台积电产能，但产能是有限的，除此以外，包括所需的光耦和设备、搀杂键合设备、测试设备，以及 ABF 基板等材料的供应也可能存在贫乏；

况兼，现阶段上述先进封装时刻，尤其是异质集成的坐蓐良率还存在很大晋腾飞间，导致老本远高于可插拔有策动。现在台积电正起劲晋升先进封装良率，但仍需要一定的时期。

2、考验和爱戴问题

关于传统可插拔有策动而言，由于它们是 “可插拔” 的，是以考验和爱戴很疏忽。但 CPO 完竣不同，它的光电模块与基板、中介层致使芯片径直封装在沿路，那么考验和爱戴难度会权臣大于传统有策动。

但以上问题亦然不错处置的，比如从假想上提高一定的容错率，或者在运营层面布局一定的冗余等等。

3、热管制问题

光引擎与芯片进行高密度封装，在运行时会导致局部升温彰着，致使杰出激光器的耐受极限，是以热管制亦然一个大问题。为了处置以上问题，需要引入更高效的散热有策动，但这一样会波及老本。

4、范例化问题

现在英伟达、博通等为了霸占阛阓先机，积极推出我方齐全的独处的 CPO 交换机有策动。但与此同期，行业范例（接口范例、封装范例等）还暂未形成，如斯一来，高低游难以基于融合范例进行研发、坐蓐和建立，这亦然买卖化推论的难点方位。

总之，不错看到，以上问题均存在处置有策动，只不外要依靠时刻的锻练、范例的制定等，但这齐需要时期。

另一方面，从压根上讲，CPO 时刻在详尽老本上需要形成上风。

那么这就延迟出一个问题：不管何种有策动，老本老是中枢考量身分，但除 CPO 外，也有其他更先进，或者更保守的道路在鼓舞当中，它们之间呈现何如的关系呢？这里咱们先区分下不同时刻道路的各异。

四、时刻道路比较

1、CPO

咱们探讨的 CPO，也便是共封装光学（Co-Packaged Optics），如上文所述，指的是将光引擎和芯片封装在并吞基板上，这里的芯片既不错是交换芯片（Asic），也不错是 GPU 等谋划芯片，但经常指的是交换芯片。

2、NPO

NPO 是近封装光学（Near-Packaged Optics），比 CPO 低级少量，还莫得打到封装在并吞基板致使中介层这样的圭臬，而仅仅封装在并吞块 PCB 母板上。

中国国内包括$阿里巴巴(BABA.US) 、华为等齐在推动 NPO 有策动，这更多可看作是枯竭先进封装产能下的一种调和有策动，但可能在一段时期内成为中国阛阓的主流有策动，这一定进度上会影响到英伟达有策动在中国阛阓的浸透。

图：不同集成表情展示:(从上到下分别为可插拔表情、NPO、CPO（集成在封装基板）、CPO（集成在中介层），以及底下要说的 OIO)

府上开始：ASE，Dolphin Research

3、OIO

OIO（Optical I/O）可看作是 CPO 的进阶，这里就莫得交换芯片的事情了，主要跟谋划芯片相关，指的是将光引擎与谋划芯片封装在沿路，致使是径直在芯片层面上搭伙在沿路，这面向的完竣是机柜内场景。

图：不同集成表情展示：可插拔、CPO、OIO

府上开始：台积电，Openlight，Dolphin Research

谈到这里，咱们再来明确一下数据中心的架构：

数据中心，不错看作是以下几个部分相互流畅：

就业器专注于谋划任务，里面装载 GPU、CPU 等谋划芯片，内存、硬盘等；

交换机则肃肃就业器之间以及就业器向外部的网罗通讯，通过 ASIC 芯片结束数据交换；

除此以外还有存储系统，在现在主流数据中心架构当中，存储器主要分漫步置在就业器节点，并舍弃于在就业器里面，与就业器搭伙在沿路。

基于上述架构，咱们就能不错思象 CPO 的哄骗场景。那么在此基础上，咱们探讨下，为什么 CPO 率先从交换芯片运行？

这里咱们对交换机的作用作念个类比——交换机不错看作是数据中心里面的立交桥，那么不错思象，交换机所承担的数据传输带宽压力、端口密度以及与之相随同的功耗瓶颈是最大的，那么天然对 CPO 的需求更谬误。

4、CPC

CPC，是共封装铜互联（Co-Packaged Copper），指的是把高速铜流畅器径直集成在封装基板上。

这种时刻道路的老本上风长短常彰着的，但仍然处置不了铜介质的带宽瓶颈和衰减问题，是以哄骗场景比较受限，不错部分哄骗在机柜里面的 GPU/CPU 节点与交换机及存储芯片之间的流畅。现在英伟达机柜内有策动仍采用铜流畅，但将来可能将向光互连切换。

5、LPO

LPO，则是线性驱动可插拔光学（Linear-Drive Pluggable Optics），是一种瘦身版的可插拔光学，通往时除里面的 DSP/CDR 芯片，仅保留并强化模拟芯片 Driver 和 TIA（这些部件的作用咱们后头会讲），结束信号直驱。

说白了，便是在光模块中径直踢掉功耗大的 DSP 芯片，烧毁信号纠错；同期强化模拟芯片，不管信号准确与否，通过模拟放大，径直让交换机 ASIC 的电信号来冲进来驱动激光器。

图：传统模式与 LPO 结构对比暗示

府上开始：Bryon Moyer，Semiconductor Engineering，Dolphin Research

但这里一样存在问题，由于 PCB 走线并莫得不祥（会酿成信号衰减），同期对信号质地条目又更高，于是长距离传输照旧受限，况兼当速率迈向更高维度（1.6T 以上）时，信号齐全性问题会荒谬突显。也便是说，简化结构的同期，性能上也会有所就义。

综上咱们不错看到，尽管存在 NPO、CPC、LPO 等折中道路，但跟着数据中心迈向更高速率和更大集群，这些折中有策动总归会面对瓶颈，CPO 是将来必须要破损的下一代有策动。

6、光电路交换机（OCS）又是什么，会抑遏到 CPO 的地位吗？

谈到这里，无可规避地会波及到 OCS（Optical Circuit Switch）。OCS 这种交换机的中枢性情是全历程莫得光电交换，通过光开关矩阵，径直在光域内建立物理光路。

图：OCS 暗示

府上开始：Orbray，Dolphin Research

不错直不雅地思象，它就像是由一瞥排反射镜（微镜阵列）组成，不错凭据指示调整反射镜的角度，向不同的角度反射光辉。

名义上看起来，OCS 是径直转发光信号，替代传统交换机光 - 电和电 - 光改变历程，似乎用这种时刻道路，就不需要 CPO 了（至少不需要交换机局势的 CPO）。但内容并不是这样的。

这里咱们梳理下，在数据中心当中，交换机的架构是若何构建的：

（1）主板内：领先咱们知说念数据中心内最中枢的谋划是通过 GPU 结束的，GPU 谋划结束后，需要将数据传递给 CPU，CPU 经过处理后再传递给网卡（内含 ASIC），或者也不错由 GPU 径直传输给网卡。

那么以上局势不错在一块主板上结束，或者至少不错在一台就业器内结束。

（2）机柜内：之后，数据就要从就业器传递到机柜的交换机上。一个机柜内不错有多台就业器高速互联，但机柜顶上必须有一个交换机，用来与外部通讯，将机柜内的数据与外部的数据作念交换。这里这个交换机叫作念 ToR（Top of Rack）交换机。

而以上局势是在并吞机柜内结束的。

（3）机柜间：数据中心是由多个机柜组成的集群，机柜和机柜间的通讯若何支持呢？这里就需要 Spine 交换机阐扬作用了。Spine 交换机肃肃管制统共 Leaf 交换机之间，以及向数据中心外部的高速流畅，它是数据中心内通盘交换机网罗的要道。

图：在数据中心中，Spine 交换机和 Leaf 交换机暗示

府上开始：Bryon Moyer，Semiconductor Engineering，Dolphin Research

而 OCS 主要用来替代的是 Spine 交换机。

领先，Spine 交换机价钱高且功耗高，替代有策动的需求最谬误。

其次，OCS 作用是有限的，它只可转发信号（反射光辉），就像反光镜。但传统交换机功能更齐全，它需要拆数据包，看 IP 地址，然后决定往那儿转。是以说，由于 OCS 只可推论指示，莫得判断智力，那么在这种情况下，它只被用来充任 Spine 交换机是可行的，但若是思把 Leaf 交换机也替代了，那就需要新增别的部件来推论 “封包处理” 功能，比如智能网卡（SmartNIC），那么这个架构就复杂了，它不一定是最佳的有策动。

这样看下来，架构就很明晰了：

天然现阶段，英伟达推出的 Quantum X800-Q3450、博通等推出的 Tomahawk 6 - Davisson 等 CPO 道路的交换机，齐是 Spine 交换机，而$谷歌-C(GOOG.US) 推动 OCS 交换机，替代的亦然传统 Spine 交换机，两者之间果真存在径直竞争关系。

但结尾来看，天然 OCS 有契机替代 Spine 交换机，但再往下，关于用量更大的，Leaf 交换机上光引擎与 ASIC 芯片之间的电光改变，到就业器内主板与主板之间的流畅（通过网卡 ASIC 或 NVSwitch 等），再到主板上谋划芯片与谋划芯片之间&谋划芯片与网卡 ASIC 之间的流畅，仍然需要使用 CPO。是以将来两者更多是相反相成的关系。

五、波及到的产业链局势有哪些？

（一）领先咱们知道下 CPO 的旨趣和架构

CPO 可看作是升级版的光引擎，而光引擎的作用是进行光电改变，它主要包括以下几个部分：

1、光子电路部分

（1）调制器：通过适度光的强弱和信号，把电信号（0/1 数字）写成光信号。

（2）探伤器：是 PD（Photodiode，光电二极管），把光信号改变成电信号。

（3）波导：不错透露为芯片里面印上去的袖珍光纤。

2、电子电路部分

（1）Driver（驱动器）：将交换机或者就业器传来的眇小电信号放大成能精准适度激光器发光的电信号，是以 Driver 的下一个局势便是调制器。

（2）TIA（跨阻放大器）：将 PD 产生的极其眇小的电信号，放大并改变成可供后续电路处理的电压信号，是以 TIA 是 PD 的下一个局势。

3、光源，也便是激光器

调制器我方是不可发光的，但它能适度光，是以这里就需要一个发光的部件与之合作，也便是激光器。

府上：光引擎结构暗示

府上开始：宗泽国等，《400G FR4 硅光收发模块的探讨》，Dolphin Research

另外还有两个部件：

4、DSP 和 CDR，它们齐是用来开发电信号的。一个用来赔偿电信号的物理毁伤，一个用来从受损信号中索要精准时钟，并重整数据时序，其中 DSP 芯良晌常集成 CDR 功能。

CPO 与 LPO 访佛的少量是，它们齐将高功耗、高老本，延迟源的 DSP 从光引擎中移除。但 CPO 有策动下，DSP 部分功能集成到了交换 ASIC 中，而 LPO 是用模拟芯片放大硬刚的有策动），另外 CPO 会将 CDR 集成到高速 SerDes。

而什么是高速 SerDes呢？高速 SerDes 包括 Ser 串行器和 Des 解串器，它们位于 Asic 芯片里面，分别用来将芯片里面并行数据打包成高速串行数据流，或者将高速串行数据流解包规复成多路低速并行数据。

（二）再看通盘 CPO 产业链波及到哪些局势：

1、领先是 CPO 举座

CPO 中的光引擎包含了上述提到的光子电路部分和电子电路部分，然后光引擎与 ASIC 芯片组成 CPO 交换机主体部分。这里先说一个中枢问题谁来作念这个 CPO？

传统的光模块算作由光学组件、分立器件等组成的独处模块，不错由专科性坐蓐厂商来齐全提供，比如咱们近朱者赤的$中际旭创(300308.SZ) 、$新易盛(300502.SZ) 、Coherent，那么 CPO 呢？较着不可能再由它们来主导了。

咱们倾向于合计，CPO 下的产业价值走向会是这样的：

（1）掌捏中枢时刻的交换厂商和平台商：掌捏英伟达/Google/博通/$迈威尔科技(MRVL.US) 这样的数据中心系统平台方&交换芯片厂商来界说架构和范例 + 卖整套家具；

（2）代工场：台积电/$日蟾光半导体(ASX.US) /$艾克尔科技(AMKR.US) 这些 Fab 厂/封测厂来进行晶圆制造/光电集成/先进封装代工；

（3）上游供应商：$Coherent Corp.(COHR.US) /$Lumentum控股(LITE.US) 这些器件厂链接进行光电器件的坐蓐和供应。

（4）传统光模块厂商：中际旭创/新易盛等过渡期内提供 NPO、LPO 等中间道路，以及基于可儿戴性考量的折中 CPO 假想有策动下，链接提供光引擎模块。

2、除了 CPO 的中枢光引擎以外，还有几个组件需要热心

（1）激光器

CPO 只大要集成光电改变部件，径直集成激光器还存在难度，因此仍然需要外置激光器。与此同期，CPO 对激光器的功率条目大幅加多（至少加多 3-4 倍），对应性能和可靠性条目也大幅提高，因此价值量也会大幅加多。

不外，这里存在时刻道路的采用：

1）EML 激光器：传统道路，它将激光器和调制器集成在沿路，上风是合乎 200G 以上高带宽和长距离通讯。这个道路被 Lumentum、II-VI(Coherent)、住友等巨头独揽。

2）CW 激光器：新兴道路，它把激光器完竣独处，在老本和功耗上有上风，也更匹配将来的 CPO 道路。CW 激光器供应相对天真，中国的源杰科技、仕佳光子、长光华芯等厂商已结束 70mW/100mW 家具量产并获大额订单。

图：EML 和 CW 激光器的区别暗示

府上开始：住友电工，Dolphin Research

接着是四大光纤组件，这些组件在传统可插拔光模块道路下很少用到：

（2）光纤阵列单位（FAU，Fiber Array Unit）：用来将光纤精准地装配，以结束光纤与波导之间的高精度瞄准。

图：Fiber Array Unit

府上开始：Corning，Dolphin Research

（3）保偏光纤（PMF，Polarization Maintaining Fiber）：是一种出奇的光纤，用来使得光波的偏振态保持不变。

（4）光纤分派盒（Fiber Shuffle）：用来胪列光纤，不错将复杂的高密度设备里的光纤的位置端正再行胪列。

图：Fiber Shuffle 暗示

府上开始：Hyoptic，Dolphin Research

（5）光纤流畅器（MPO，Multi-Fiber Push On）：用于多芯光纤之间的相互流畅。

图：MPO 端口暗示

府上开始：Senko，US Conec，Dolphin Research

为什么传统光模块很少用到上述组件？

（1）传统模式下，光纤径直插入范例化接口，但在 CPO 下，光纤需要与光芯片名义的波导进行高精度耦合，是以需要用到 FAU；

（2）传统模式是径直调制，对光波的偏振态不敏锐，且此前保偏光纤（PMF）老本又极高，不太合乎产业化哄骗，但 CPO 通过外部激光器供给光源，激光偏振态会导致庞大能量损耗，是以必须用到 PMF；

（3）传统模式经常独一 1 发 1 收两路光纤，莫得那么复杂的光纤需要流畅到背板，是以东说念主工操作就不错，不需要 Fiber Shuffle，但 CPO 下必须使用 Fiber Shuffle；

（4）一样，传统模块也不需要许多接口，但 CPO 下如果达到 400G 以上，需要 8 根致使 16 跟光纤并行传输，而面板空间又有限，是以需要 MPO 这种多芯流畅器。

那么关于阛阓空间开yun体育网，以及 CPO 所波及到的产业局势投资契机，咱们会不才篇中进行分析。