Redes neurais recorrentes hipercomplexas e suas aplicações em reconstrução de imagens e classificação de padrões

Autor: Lobo Carrasco, Rodolfo Anibal, 1989
Přispěvatelé: Mesquita, Marcos Eduardo Ribeiro do Valle, 1979, Barreto, Guilherme de Alencar, Sussner, Peter, Lavor, Carlile Campos, Paula Neto, Fernando Maciano de, Universidade Estadual de Campinas. Instituto de Matemática, Estatística e Computação Científica, Programa de Pós-Graduação em Matemática Aplicada, UNIVERSIDADE ESTADUAL DE CAMPINAS
Rok vydání: 2021
Předmět:
Zdroj: Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
Universidade Estadual de Campinas (UNICAMP)
instacron:UNICAMP
Popis: Orientador: Marcos Eduardo Ribeiro do Valle Mesquita Tese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática, Estatística e Computação Científica Resumo: As redes neurais hipercomplexas, incluindo redes neurais complexas, quaterniônicas e octoniônicas, podem tratar dados multidimensionais como uma única entidade. Em particular, as versões hipercomplexas do modelo de Hopfield foram extensivamente estudadas nos últimos anos. Esses modelos podem apresentar baixa capacidade de armazenamento e efeito de interferência cruzada quando são implementados usando a regra de Hebb. As redes recorrentes por correlação (RCNNs) e suas generalizações para sistemas hipercomplexos são modelos alternativos, que podem ser usados para implementar memórias associativas de alta capacidade de armazenamento. Nesta tese de doutorado, analisamos a estabilidade das redes recorrentes por correlação, usando uma ampla classe de sistemas numéricos hipercomplexos (HRCNNs). Em seguida, fornecemos as condições necessárias para garantir que uma RCNN hipercomplexa sempre estabiliza-se em um ponto de equilíbrio usando os modos de atualização síncrono ou assíncrono. Exemplos com RCNNs bipolares, complexas, hiperbólicas, quaterniônicas e octoniônicas são dados para ilustrar os resultados teóricos. Apresentamos também as redes neurais de projeção recorrente quaterniônicas (QRPNNs). Resumidamente, as QRPNNs são obtidas combinando o aprendizado por projeção (QHPNNs) com a rede recorrente por correlação quaterniônica (QRCNNs). Mostramos que as QRPNNs superam o problema de interferência cruzada das QRCNNs. Assim, elas são apropriadas para implementar memórias associativas. Para validar os resultados teóricos, implementamos memórias associativas para realizar o armazenamento e recuperação de padrões sintéticos, bem como imagens coloridas. Experimentos computacionais revelam que as QRPNNs exibem maior capacidade de armazenamento e tolerância a ruídos do que os modelos QRCNN correspondentes. Também exploramos computacionalmente a extenção dos modelos RPNNs para serem utilizados em uma ampla classe de números hipercomplexos (HRPNNS). Implementamos experimentos computacionais para analisar e comparar o comportamento da dinâmica destes novos modelos com os modelos HRCNNs. Finalmente, apresentamos um novo meta-algoritmo utilizando RCNNs como instância de votação em um ensemble de classificadores para resolver problemas de classificação, fornecendo uma ponte entre as RCNNs e ensemble de classificadores, mostrando com exemplos computacionais o potêncial de aplicação. Em particular, o modelo exponencial RCNN superou aos classificadores tradicionais AdaBoost, gradient boosting e random forest em problemas de classificação binária. Abstract: Hypercomplex-valued neural networks, including complex, quaternion and octonion-valued neural networks, can treat multi-dimensional data as a single entity. In particular, hypercomplex-valued versions of the Hopfield model have been extensively studied in the past years. These models might be affected by low storage capacity and cross-talk effect when they are implemented using the Hebbian rule. Another important model is the recurrent correlation neural networks (RCNNs) and their generalizations to hypercomplex systems. They are alternative models, which can be used to implement high capacity associative memories. In this doctoral thesis, we study two discrete recurrent hypercomplex-valued models. First, we analyze the stability of the recurrent correlation neural network defined on a broad class of hypercomplex number systems. Then, we provide the necessary conditions which ensure that a hypercomplex-valued RCNN (HRCNNs) always settles at an equilibrium using either synchronous or asynchronous update modes. Examples with bipolar, complex, hyperbolic, quaternion and octonion-valued RCNNs are given to illustrate the theoretical results. Besides, we introduce the quaternion-valued recurrent projection neural networks (QRPNNs). Briefly, QRPNNs are obtained by combining the non-local projection learning with the quaternion-valued recurrent correlation neural networks (QRCNNs). We show that QRPNNs overcome the cross-talk problem of QRCNNs. Thus, they are appropriate to implement associative memories. To validate the theoretical results, we implement associative memories for the storage and recall of synthetic patterns as well as real color images. Computational experiments reveal that QRPNNs exhibit greater storage capacity and noise tolerance than their corresponding QRCNNs. Besides, we explore the extension of the RPNN models into a broad class of hypercomplex numbers (HRPNNs), implementing computational experiments to analyze and compare the dynamical behavior of these new models with the HRCNNs. Finally, we present a new meta-algorithm using the RCNNs as a voting step for classification problems, providing a bridge between RCNNs and ensemble classifiers. Computational experiment confirm the potential application of the new ensemble classifiers. In particular, the exponential RCNN-based ensemble outperformed the traditional AdaBoost, gradient boosting, and random forest classifiers for binary classification tasks. Doutorado Matemática Aplicada Doutor em Matemática Aplicada CAPES 001
Databáze: OpenAIRE
Externí odkaz: