Redes de neurônios com interações sinápticas hierárquicas - Idiart, Marco Aurelio Pires (1991)
Na primeira etapa investigamos detalhadamente as propriedades de armazenamento de um modelo de redes de neurônios que apresenta uma organização em aglomerados semelhante àquela existente no Modelo Hierárquico de Dyson para ferromagnetismo. As memórias, neste modelo, são armazenadas através da Regra de Aprendizagem de Hebb, superposta à estrutura hieráquica. No caso de um número finito de padrões, mostramos que, junto com os padrões originais ou "ancestrais", o sistema é capaz de recuperar uma hierarquia de padrões "descendentes". Estes padrões diferem dos "ancestrais" nos sinais relativos das magnetizações nos diferentes blocos, e o número destas soluções cresce exponencialmente com o número de blocos, n(t) e0451, para grande. Para um número extensivo de padrões armazenados p = aN , onde N é o tamanho do sistema, nós investigamos a capacidade crítica de armazenamento do modelo tanto para "ancestrais" como para "descendentes". Usando dois métodos distintos, uma formulação de mecânica estatística de equilíbrio (campo médio) e uma análise de sinal-ruído, nós obtemos uma sucessão de capacidades de armazenamento que são sempre menores que o valor correspondente ao modelo de Hopfield. Usamos as razões entre estas capacidades e a do modelo de Hopfield para comparar os resultados dos dois métodos. Nós apresentamos o diagrama de fases no plano a — T para o caso especial de dois blocos e um único "descendente". A segunda parte é relacionada com o estudo do espaço de interações dos modelos de redes de neurônios. Neste caso nós buscamos determinar a máxima capacidade crítica de armazenamento para modelos que apresentem, de alguma forma, a mesma estrutura de blocos que discutimos antes. Para ter em conta esta estrutura foi preciso modificar o problema de Gardner. Para o armazenamento de padrões "ancestrais", obtivemos um valor de anc i". sempre menor que 2, o qual corresponde ao caso de modelos sem estrutura predefinida. Este resultado combina com aquele que encontramos anteriormente na análise de sinal-ruído. Por outro lado, mostramos que no caso especial de dois blocos esta estrutura pouco afeta a armazenagem conjunta de "ancestrais" e "descendentes".