八一中文

手机浏览器扫描二维码访问

本站弹窗广告每日仅弹出一次
尽可能不去影响用户体验
为了生存请广大读者理解

一文看懂光模块:从“数据快递员”到ai时代的“基建核心”(第4页)

2. AI推理:需要光模块“不卡顿”

AI训练完后,要用来“干活”,比如你用AI写文案、生成图片、做语音翻译,这个过程叫“推理”。推理虽然不需要像训练那样多的GPU,但需要“实时响应”——你发出一个请求,希望几秒钟内就能收到AI的回复,这就需要光模块“快速传数据”。

比如你用AI生成一张“未来城市”的图片:你在手机上点击“生成”,请求会先传到AI数据中心的服务器,服务器里的GPU算出图片后,再通过光模块把图片数据传回到你的手机。如果光模块速度慢,比如用100G光模块,这个过程可能要5秒;用800G光模块,1秒内就能完成,你感觉不到任何延迟。

而且现在AI推理的“并发量”越来越大——比如某AI绘画工具,同时有10万人在用,每秒要处理几十万次请求,这就需要光模块能“同时传很多数据”,不能堵车。中际旭创的800G光模块支持“8通道并行传输”,就像一条8车道的高速路,能同时走8路数据,不会因为并发量高而卡顿。

3. AI集群:需要光模块“连得密”

本小章还未完,请点击下一页继续阅读后面精彩内容!

AI数据中心里的GPU不是零散分布的,而是组成“集群”——比如一个集群有1024台GPU,这些GPU要通过光模块连接成一个“网络”,才能协同工作。这个网络的“密度”(每台GPU连接的光模块数量)直接影响AI的算力。

以前的GPU集群,每台GPU可能只连1个光模块,能和几十台其他GPU通信;现在的AI集群,每台GPU要连4个甚至8个光模块,能和几千台其他GPU通信,这样才能处理更复杂的模型。比如英伟达的DGX H100集群,每台服务器装8块GPU,每块GPU连2个800G光模块,整个集群能支持几千台GPU协同工作,这背后就是光模块的“高密度连接”在支撑。

中际旭创为AI集群设计的“光模块阵列”,能把多个800G光模块集成到一个“盒子”里,每台GPU只需要插一个“盒子”,就能实现和几千台GPU的连接,大大简化了集群的布线,还提高了连接的稳定性。

五、光模块的“技术升级”:从传统到CPO,未来还能怎么进化?

光模块不是一成不变的,为了跟上数据量和AI算力的增长,它的技术也在不断升级。从早期的“可插拔光模块”到现在热门的“CPO技术”,每一次升级都在解决“速度更快、成本更低、功耗更小”的问题。

1. 传统可插拔光模块:灵活但有瓶颈

我们之前讲的100G、400G、800G光模块,大多是“可插拔式”的——就像U盘一样,能插进服务器或交换机的接口,坏了可以直接拔下来换,灵活性很高。

这种模块的优点很明显:安装方便、维护简单,比如数据中心里某个光模块坏了,工程师不用拆服务器,直接换个新的就行,不影响其他设备工作。但随着速度提升到800G、1.6T,它的瓶颈也越来越明显:

- 功耗高:可插拔模块需要独立的电源和信号接口,速度越快,功耗越高。比如800G可插拔模块的功耗约12-15瓦,1.6T可能达到20瓦以上,成千上万的模块一起工作,总功耗会非常惊人。

- 延迟略高:信号要从服务器芯片传到可插拔模块的接口,再转换成光信号,这个过程会有微小的延迟。对普通数据传输来说没问题,但AI训练需要“零延迟”,这点延迟就可能影响效率。

- 成本高:高速可插拔模块的芯片和光学组件成本高,比如1.6T可插拔模块的价格目前还是800G的2倍多,对中小企业来说负担较重。

2. CPO技术:把光模块“焊”在芯片上,突破瓶颈

为了解决传统可插拔模块的瓶颈,行业里出现了“CPO技术”(共封装光学,Co-packaged Optics),简单说就是“把光模块和服务器/交换机的芯片直接封装在一起”,不用再做可插拔的接口。

热门小说推荐
奸臣宠妻日常

奸臣宠妻日常

《奸臣宠妻日常》奸臣宠妻日常目录全文阅读,主角是陆夷光陆见深小说章节完整质量高,包含结局、番外。?  书名:奸臣宠妻日常作者:缓归矣文案腹黑尚书爹,彪悍公主娘,秉文兼武好兄长陆夷光打小过的就是要风得风要雨得雨的舒心日子长到十六岁,晴天降霹雳她竟然不是陆家亲生女儿陆夷光傻了眼...

扶明录

扶明录

穿越到了明末一太监身上又怎么了?尸山血海的战场尔虞我诈的朝堂腥风血雨的江湖,尽览大明风华.......

梦逍遥

梦逍遥

梦逍遥情节跌宕起伏、扣人心弦,是一本情节与文笔俱佳的武侠修真小说,梦逍遥-随波逐流的鱼-小说旗免费提供梦逍遥最新清爽干净的文字章节在线阅读和TXT下载。...

温柔缠绵

温柔缠绵

《温柔缠绵》温柔缠绵小说全文番外_季砚书季烟说温柔缠绵,  《温柔缠绵》作者:俞览文案先谈情后说爱追妻火葬场高冷禁欲x独立清醒投行大佬x投行精英一次部门年会,季烟和王隽有了偶然的交集。两人默契地维持着不清不楚的关系,长达两年。他们,白天形同陌路,夜晚亲密无间。...

[综]昭如日月

[综]昭如日月

谭昭系列第二部。 清空时间,重新出发,依然无CP,一人仗剑走江湖。 第一部不看,并不影响阅读。 Tips: 1、第一部《[综武侠]吾命将休》已完结,男主为同一个人,叫谭昭,外号苟红红,有个存在感不太强的系统,武侠技能满点,包括剑术、医术、铸造、阵法和酿酒,擅长短命,某种意义上是个不太要脸皮的满级大号。 2、这本,可能也叫《满级大号进修课》。 3、红红课堂很快就会开课,这里不会只局限于武侠,但不会写英美剧和动漫,唔,主要是考虑画风问题。 4、挖坑必填,坑品保障,喜欢请点我收藏,不喜请悄悄离开,作者玻璃心。...

分身流的乌合之众

分身流的乌合之众

我们分化万千;我们在不同的世界;我们的力量不能共享;我们出生于世界的最底层;我们都只是最平凡的普通人;我们的起点卑微到了尘土里;我们只有在生与死才会相见;我们是最可悲的是乌合之众……我们……想要走出泥潭。我们……想要掌控自己的命运。世界:魁拔;永生;尸兄;灵笼;诡秘之主;犬夜叉;ro:0;骨王;七大罪;道诡异仙;我有一座恐怖屋;我的治愈系游戏;龙珠;游戏人生zero;我叫mt;咒术回战;降世神通;无限恐怖;……(无海贼,无火影,无死神。民工漫同人作者君看多了,烦~)【注意:非爽文,非爽文,非爽文,没有人可以凭借金手指一步登天,所有人都可能会死,哪怕戏份再多的主角,都有可能会因为种种原因死,不喜勿喷】【注意:内部存在大量原创情节,想要单纯看原著剧情的误入】...