Associative memories in infinite dimensional spaces

Autor: Segura, Enrique Carlos
Přispěvatelé: Perazzo, Roberto P. J.
Jazyk: Spanish; Castilian
Rok vydání: 1999
Předmět:
Zdroj: Biblioteca Digital (UBA-FCEN)
Universidad Nacional de Buenos Aires. Facultad de Ciencias Exactas y Naturales
instacron:UBA-FCEN
Popis: Se presenta una generalización del modelo de red neuronal de Little-Hopfield paramemorias asociativas que considera el caso de un continuo de unidades de procesamiento. El espacio de estados corresponde a un espacio euclideo de dimensión infinita. Se proponeuna dinámica que minimiza una funcional de energia que es una extensión natural del casodiscreto. Se analiza el caso en que la matriz de pesos sinápticos es definida mediante la reglade autocorrelación (regla de Hebb) con memorias ortogonales, incluyendo estabilidad de lasmemorias, tamaño de sus cuencas de atracción y estados espurios. También se considera elcaso en que las memorias no son ortogonales, demostrando que es posible imponer “resoluciónfinita” a las memorias almacenables con una limitación del tamaño minimo de las áreas o “patches” de actividad; también indicamos dos formas posibles de hacerlo. Finalmente, sediscute la generalización de la dinámica no deterministica con temperatura finita no nula,mostrando que el modelo continuo puede ser extendido al caso en que la ley de evolución noes deterministice, del mismo modo que el modelo discreto de Hopfield se extiende de manerade incluir los efectos de temperatura finita a través de la dinámica de Glauber. A generalization of the Little-Hopfield neural network model for associative memoriesis presented that considers the case of a continuum of processing units. The state space correspondsto an infinite dimensional euclidean space. A dynamics is proposed that minimizesan energy functional that is a natural extension of the discrete case. The case in which thesynaptic weight matrix is defined through the autocorrelation rule (Hebb rule) with orthogonalmemories is analyzed, including stability of memories, size of basins of attraction andspurious states. We also consider the case of the memories that are not orthogonal, provingthat it is possible to impose a “finite resolution” to the storable memories by limiting theminimum size of the activity patches; we also indicate two possible ways of doing this. Finally,we discuss the generalization of the non deterministic, finite temperature dynamics,showing that the continuous model can be extended to the case in which the evolution lawis non deterministic, in the same way as the Hopfield, discrete model is extended to includefinite temperature effects through the Glauber dynamics. Fil: Segura, Enrique Carlos. Universidad de Buenos Aires. Facultad de Ciencias Exactas y Naturales; Argentina.
Databáze: OpenAIRE