面向大模型的智算网络发展研究

Autor: 郭亮1,2, 王少鹏1, 权伟2, 李洁
Jazyk: čínština
Rok vydání: 2024
Předmět:
Zdroj: Dianxin kexue, Vol 40, Iss 6, Pp 137-145 (2024)
Druh dokumentu: article
ISSN: 1000-0801
DOI: 10.11959/j.issn.1000-0801.2024147
Popis: 近年来,全球进入智能计算的蓬勃发展期,作为具有巨量参数和复杂结构的深度学习模型,大模型训练需要在多卡、多服务器间实现训练参数的快速同步,所以对算力中心网络的带宽、时延、可靠性、可扩展性和安全性等提出更高要求。研究了面向大模型训练的智算网络的需求和相关关键技术,对智算网络的研究成果、标准规范和案例实践进行了分析,以期进一步促进智算网络的发展。
Databáze: Directory of Open Access Journals