IBM发布全新光电共封装工艺：AI模型训练速度将提升5倍
发布时间：2024-12-24 11:10:31 作者：玩站小弟 
我要评论
我要评论12月12日消息，据报道，IBM在光学技术方面获得新进展，有望提升数据中心训练和运行生成式AI模型的效率。IBM推出了新一代光电共封装CPO）工艺。该技术利用光学连接，实现了数据中心内部的光速数据传输
。
12月12日消息，发封装据报道，布全IBM在光学技术方面获得新进展，新光训练有望提升数据中心训练和运行生成式AI模型的电共效率。
IBM推出了新一代光电共封装（CPO）工艺。工艺该技术利用光学连接，模型实现了数据中心内部的速度升倍光速数据传输，完美补充了现有的将提短距离光缆系统。
研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、发封装电路板和服务器之间的布全高带宽数据传输。最大限度地减少GPU停机时间，新光训练同时大幅加快AI工作速度。电共
具体而言，工艺这一新技术带来了三大方面的模型显著优势：
首先，它极大地降低了规模化应用生成式AI的速度升倍成本。与中距离电气互连装置相比，光电共封装技术的能耗降低了五倍以上，同时，数据中心互连电缆的长度也从传统的1米扩展至数百米，进一步提升了数据中心的灵活性和扩展性。
其次，该技术显著提高了AI模型的训练速度。与传统的电线相比，使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。
这意味着，原本需要三个月才能训练完成的标准大语言模型，现在仅需三周即可完成。对于更大的模型和更多的GPU，性能的提升将更为显著。
最后，光电共封装技术还显著提升了数据中心的能效。据估算，每训练一个AI模型所节省的电量，竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。
相关文章
[流言板]NBA官方：马祖拉因对裁判使用不当言辞被罚款3万5美元
[流言板]NBA官方：马祖拉因对裁判使用不当言辞被罚款3万5美元由篮球资讯发表在篮球资讯 50212月22日讯 NBA更新官方社媒，宣布波士顿凯尔特人队主教练乔-马祖拉因在比赛中追逐并对裁判使用不当言2024-12-24
9月2日讯 由于遭遇伤病，米兰前锋莫拉塔无缘本期西班牙国家队大名单。不过，作为国家队队长，莫拉塔心系全队，他前往国家队训练基地和教练团队进行了交流，同时也和队友一一拥抱并亲切交流。2024-12-24
[流言板]皇马内部认为，即使32岁阿拉巴复出也难适应顶级联赛的节奏
[流言板]皇马内部认为，即使32岁阿拉巴复出也难适应顶级联赛的节奏由足球资讯发表在国际足球资讯 48212月07日讯 据西班牙媒体Relevo的消息，该媒体撰写专栏报道了皇马后卫阿拉巴的恢复情况。据悉2024-12-24
12月5日，联想开天携手飞腾正式发布联想开天M90f G1s AI PC元启版，该产品搭载飞腾最新一代桌面CPU 飞腾腾锐D3000 ，是飞腾平台首款内置大模型的AI PC产品。联想开天科技有限公司C2024-12-24
[流言板]阿德托昆博本赛季篮下命中率67.5%，高于其61%的罚球命中率
[流言板]阿德托昆博本赛季篮下命中率67.5%，高于其61%的罚球命中率由篮球资讯发表在篮球资讯 50212月05日讯 今日常规赛雄鹿104-119不敌老鹰，阿德托昆博全场砍下31分11篮板5助攻。本2024-12-24
扣子 AI 挑战赛圆满落幕 探索 AI 与大消费行业的深度结合
2024年11月30日，在北京方恒时尚中心B座B1报告厅，成功举办了1024 Show Me扣子智能挑战赛·大消费行业专场活动。此次活动由扣子携手NVIDIA、火山引擎开发者社区、通往A2024-12-24
最新评论