跟着东说念主工智能(AI)模子限制的抓续扩大,智算芯片间、算力节点间的通讯带宽不及的问题愈发隆起。传统电子互连样式已难以知足GPU集群、超等筹算中心和云筹算平台对高速、大容量、高效力数据交换的需求。尤其是在大模子磨练历程中,海量参数需要在筹算节点之间时常传输黑丝 在线,互连带宽不及不仅裁减系统反馈速率,致使可能导致宕机,严重影响筹算效率与用户体验。
何如粉碎电子传输在带宽与能耗方面的物理适度,构建以光子为信息载体的新式互连架构?
日前,复旦大学信息科学与工程学院张俊文商榷员、迟楠造就与相干商榷团队开展勾通,通过精准设想和优化,将多维复用时代引入片上光互连架构黑丝 在线,不仅显赫耕种了数据传输隐约量,同期在功耗和延伸方面发扬超卓,具备极强的膨胀性和兼容性,适用于多种高性能筹算场景。

在此基础上,团队设想并研制了一款硅光集成高阶风景复用器芯片,竣事了超大容量的片上光数据传输。施行驱逐标明,该芯片可接济每秒38Tb的数据传输速率,意味着异日1秒可完成大模子4.75万亿的参数传递,这显赫耕种了大模子磨练与筹算集群间的通讯性能和可靠性,为东说念主工智能、大模子磨练及GPU加快筹算等诈欺提供了强有劲的接济。
这一时代粉碎不仅为数据中心和高性能筹算管事器的光互联络统提供了新的搞定决议,也为东说念主工智能、大限制并行筹算及大模子磨练奠定了坚实的时代基础。相干商榷效果发表在外洋期刊《当然·通讯》上。