Zobrazeno 1 - 10
of 21
pro vyhledávání: '"Schoenholz, S. S."'
Autor:
Cubuk, E. D., Ivancic, R. J. S., Schoenholz, S. S., Strickland, D. J., Basu, A., Davidson, Z. S., Fontaine, J., Hor, J. L., Huang, Y.-R., Jiang, Y., Keim, N. C., Koshigan, K. D., Lefever, J. A., Liu, T., Ma, X.-G., Magagnosc, D. J., Morrow, E., Ortiz, C. P., Rieser, J. M., Shavit, A., Still, T., Xu, Y., Zhang, Y., Nordstrom, K. N., Arratia, P. E., Carpick, R. W., Durian, D. J., Fakhraai, Z., Jerolmack, D. J., Lee, Daeyeon, Li, Ju, Riggleman, R., Turner, K. T., Yodh, A. G., Gianola, D. S., Liu, Andrea J.
Publikováno v:
Science, 2017 Nov . 358(6366), 1033-1037.
Externí odkaz:
https://www.jstor.org/stable/26400922
Akademický článek
Tento výsledek nelze pro nepřihlášené uživatele zobrazit.
K zobrazení výsledku je třeba se přihlásit.
K zobrazení výsledku je třeba se přihlásit.
Publikováno v:
Scopus-Elsevier
Recent work has shown that tight concentration of the entire spectrum of singular values of a deep network's input-output Jacobian around one at initialization can speed up learning by orders of magnitude. Therefore, to guide important design choices
Externí odkaz:
https://explore.openaire.eu/search/publication?articleId=doi_dedup___::054e1f73437f08238e0ed73042fc01d4
Akademický článek
Tento výsledek nelze pro nepřihlášené uživatele zobrazit.
K zobrazení výsledku je třeba se přihlásit.
K zobrazení výsledku je třeba se přihlásit.
Publikováno v:
Scopus-Elsevier
It is well known that the initialization of weights in deep neural networks can have a dramatic impact on learning speed. For example, ensuring the mean squared singular value of a network's input-output Jacobian is $O(1)$ is essential for avoiding t
Externí odkaz:
https://explore.openaire.eu/search/publication?articleId=doi_dedup___::627ff283e969432cd11707fd78003b4a
Publikováno v:
Scopus-Elsevier
We study the behavior of untrained neural networks whose weights and biases are randomly distributed using mean field theory. We show the existence of depth scales that naturally limit the maximum depth of signal propagation through these random netw
Externí odkaz:
https://explore.openaire.eu/search/publication?articleId=doi_dedup___::df2f244b99a5aa8570b5658b912c8b47
Akademický článek
Tento výsledek nelze pro nepřihlášené uživatele zobrazit.
K zobrazení výsledku je třeba se přihlásit.
K zobrazení výsledku je třeba se přihlásit.
Akademický článek
Tento výsledek nelze pro nepřihlášené uživatele zobrazit.
K zobrazení výsledku je třeba se přihlásit.
K zobrazení výsledku je třeba se přihlásit.
Akademický článek
Tento výsledek nelze pro nepřihlášené uživatele zobrazit.
K zobrazení výsledku je třeba se přihlásit.
K zobrazení výsledku je třeba se přihlásit.
Autor:
Bapst, V., Keck, T., Grabska-Barwińska, A., Donner, C., Cubuk, E. D., Schoenholz, S. S., Obika, A., Nelson, A. W. R., Back, T., Hassabis, D., Kohli, P.
Publikováno v:
Nature Physics; June 2020, Vol. 16 Issue: 6 p702-702, 1p