Zobrazeno 1 - 10
of 41
pro vyhledávání: '"Ng, T. S. Eugene"'
Distributed training is the de facto standard to scale up the training of Deep Neural Networks (DNNs) with multiple GPUs. The performance bottleneck of distributed training lies in communications for gradient synchronization. Recently, practitioners
Externí odkaz:
http://arxiv.org/abs/2309.13254
Gradient compression (GC) is a promising approach to addressing the communication bottleneck in distributed deep learning (DDL). However, it is challenging to find the optimal compression strategy for applying GC to DDL because of the intricate inter
Externí odkaz:
http://arxiv.org/abs/2205.14465
Distributed applications, such as database queries and distributed training, consist of both compute and network tasks. DAG-based abstraction primarily targets compute tasks and has no explicit network-level scheduling. In contrast, Coflow abstractio
Externí odkaz:
http://arxiv.org/abs/2107.07442
Autor:
Das, Sushovan, Rahbar, Afsaneh, Wu, Xinyu Crystal, Wang, Zhuang, Wang, Weitao, Chen, Ang, Ng, T. S. Eugene
An optical circuit-switched network core has the potential to overcome the inherent challenges of a conventional electrical packet-switched core of today's compute clusters. As optical circuit switches (OCS) directly handle the photon beams without a
Externí odkaz:
http://arxiv.org/abs/2104.09680
Large-scale distributed training is increasingly becoming communication bound. Many gradient compression algorithms have been proposed to reduce the communication overhead and improve scalability. However, it has been observed that in some cases grad
Externí odkaz:
http://arxiv.org/abs/2103.15195
Autor:
Wu, Xinyu Crystal, Ng, T. S. Eugene
Recent data center applications rely on lossless networks to achieve high network performance. Lossless networks, however, can suffer from in-network deadlocks induced by hop-by-hop flow control protocols like PFC. Once deadlocks occur, large parts o
Externí odkaz:
http://arxiv.org/abs/2009.13446
Akademický článek
Tento výsledek nelze pro nepřihlášené uživatele zobrazit.
K zobrazení výsledku je třeba se přihlásit.
K zobrazení výsledku je třeba se přihlásit.
Akademický článek
Tento výsledek nelze pro nepřihlášené uživatele zobrazit.
K zobrazení výsledku je třeba se přihlásit.
K zobrazení výsledku je třeba se přihlásit.
Akademický článek
Tento výsledek nelze pro nepřihlášené uživatele zobrazit.
K zobrazení výsledku je třeba se přihlásit.
K zobrazení výsledku je třeba se přihlásit.
Publikováno v:
2015 IEEE Conference on Computer Communications (INFOCOM); 2015, p1930-1938, 9p