Zobrazeno 1 - 10
of 119
pro vyhledávání: '"Ozaki, Katsuhisa"'
This study was aimed at simultaneously achieving sufficient accuracy and high performance for general matrix multiplications. Recent architectures, such as NVIDIA GPUs, feature high-performance units designed for low-precision matrix multiplications
Externí odkaz:
http://arxiv.org/abs/2409.13313
The abundant demand for deep learning compute resources has created a renaissance in low precision hardware. Going forward, it will be essential for simulation software to run on this new generation of machines without sacrificing scientific fidelity
Externí odkaz:
http://arxiv.org/abs/2407.13299
Autor:
Terao, Takeshi, Ozaki, Katsuhisa
This paper proposes a verification method for sparse linear systems $Ax=b$ with general and nonsingular coefficients. A verification method produces the error bound for a given approximate solution. Conventional methods use one of two approaches. One
Externí odkaz:
http://arxiv.org/abs/2406.02033
Deep learning hardware achieves high throughput and low power consumption by reducing computing precision and specializing in matrix multiplication. For machine learning inference, fixed-point value computation is commonplace, where the input and out
Externí odkaz:
http://arxiv.org/abs/2306.11975
Akademický článek
Tento výsledek nelze pro nepřihlášené uživatele zobrazit.
K zobrazení výsledku je třeba se přihlásit.
K zobrazení výsledku je třeba se přihlásit.
Publikováno v:
J. Comp. Appl. Math. 376, 112830/1-13 (2020)
An a posteriori verification method is proposed for the generalized real-symmetric eigenvalue problem and is applied to densely clustered eigenvalue problems in large-scale electronic state calculations. The proposed method is realized by a two-stage
Externí odkaz:
http://arxiv.org/abs/1904.06461
Akademický článek
Tento výsledek nelze pro nepřihlášené uživatele zobrazit.
K zobrazení výsledku je třeba se přihlásit.
K zobrazení výsledku je třeba se přihlásit.
Publikováno v:
In Journal of Computational and Applied Mathematics 1 October 2020 376
Publikováno v:
In Parallel Computing April 2020 92