Scaling Properties of Spiking Neural Networks on the Digital Neuromorphic Hardware SpiNNaker : An analysis of how increasing the number of neurons and the number of connections between them affects the performance of spiking neural networks on the SpiNNaker architecture
| Autor: | Widén, Lukas, Blomqvist, Gustaf |
|---|---|
| Jazyk: | angličtina |
| Rok vydání: | 2020 |
| Předmět: | |
| Druh dokumentu: | Text |
| Popis: | SpiNNaker is a neuromorphic hardware devised to simulate SNNs effectively.This paper examines how the performance of an SNN simulated on SpiNNaker is affected by its ratio of number of neurons to number of connections between neurons, as the SNN grows in size. The scope of this paper is limited to the SpiNNaker system SpiNN-3. The performance was measured by running Vogels-Abbott benchmark networks, varying the neuron count and connection probability, and noting which configurations the hardware was able to handle. In total, 3; 498 different configurations were examined. The discussion suggests an improvement to the method that is not dependent upon an underlying assumption to be true. Regardless of whether this assumption is true or not, it is concluded there is a non-proportional relationship between the number of neurons and the connection probability. As the connection probability decreases, the number of neurons that can be simulated increases at a faster rate. Secondly, it is found that SpiNN-3 can simulate up to 12; 000 neurons without issues at a relatively high connection probability compared to the sparsely connected human brain. Thus it is concluded that SpiNN-3 lives up to its promise of being able to simulate ~10; 000 neurons. The scaling properties of SNNs on SpiNNaker are thereby determined to be promising. SpiNNaker2 is the planned sequel to the SpiNNaker version that has been investigated. The results of this study suggest, and most importantly, do not contradict, the possibility of a machine such as SpiNNaker2. It is the authors’ perception that SpiNNaker2 is a good candidate for leading the way into a sustainable future with brain-sized SNN-simulations. Several suggestions for future research are made. SpiNNaker är en neuromorfisk hårdvara utformad för att simulera pulserande neuronnät effektivt. Den här rapporten undersöker hur prestandan för ett pulserande neuronnät simulerat på SpiNNaker påverkas av dess förhållande mellan antal neuroner och antal anslutningar mellan neuroner, när det pulserande neuronnätet växer i storlek. Omfånget av denna rapport är begränsat till SpiNNaker-systemet SpiNN-3. Prestandan mättes genom att köra Vogels- Abbott benchmark-nätverk, där neuronantalet och anslutningssannolikheten varierade och det noterades vilka konfigurationer hårdvaran kunde hantera. Totalt undersöktes 3 498 olika konfigurationer. Diskussionen föreslår en förbättring av metoden som inte är beroende av att ett underliggande antagande är sant. Oavsett om detta antagande är sant eller inte, dras slutsatsen att det finns ett icke-proportionellt förhållande mellan antalet neuroner och anslutningssannolikheten. När anslutningssannolikheten minskar ökar antalet neuroner som kan simuleras snabbare. För det andra har det visat sig att SpiNN- 3 kan simulera upp till 12 000 neuroner utan problem med en relativt hög anslutningssannolikhet jämfört med den glest anslutna mänskliga hjärnans. Således dras slutsatsen att SpiNN-3 lever upp till sitt löfte om att kunna simulera ~10 000 neuroner. Skalningsegenskaperna för pulserande neuronnät på SpiNNaker fastställs därmed lovande. SpiNNaker2 är den planerade uppföljaren till den SpiNNakerversion som har undersökts. Resultaten av denna studie antyder, och viktigast av allt, motsäger inte möjligheten till en maskin som SpiNNaker2. Det är författarnas uppfattning att SpiNNaker2 är en bra kandidat för att leda vägen in i en hållbar framtid med pulserande neuronnätssimuleringar i hjärnstorlek. Flera förslag för framtida forskning görs. ISBN 978-91-7873-587-7 |
| Databáze: | Networked Digital Library of Theses & Dissertations |
| Externí odkaz: |
|