Export Ready — 

Exploring Stochastic Computing applied to Artificial Perception - A Convolutional Neural Network implementation on Reconfigurable Logic

Bibliographic Details
Main Author: Cruz, Virgílio Manuel Henriques da
Publication Date: 2022
Format: Master thesis
Language: eng
Source: Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)
Download full: https://hdl.handle.net/10316/102054
Summary: Dissertação de Mestrado em Engenharia Eletrotécnica e de Computadores apresentada à Faculdade de Ciências e Tecnologia
id RCAP_c0e3eac2447db5384fba3c06a777a92d
oai_identifier_str oai:estudogeral.uc.pt:10316/102054
network_acronym_str RCAP
network_name_str Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)
repository_id_str https://opendoar.ac.uk/repository/7160
spelling Exploring Stochastic Computing applied to Artificial Perception - A Convolutional Neural Network implementation on Reconfigurable LogicExploração da Computação Estocástica aplicada à Percepção Artificial - Implementação de uma Rede Neuronal Convolucional em Lógica ReconfigurávelComputação EstocásticaRedes Neuronais ConvolucionaisAprendizagem de máquinaLógica ReconfigurávelStochastic ComputingConvolutional Neural NetworksMachine LearningReconfigurable LogicDissertação de Mestrado em Engenharia Eletrotécnica e de Computadores apresentada à Faculdade de Ciências e TecnologiaA Computação Estocástica é um método de computação que realiza operações baseadas em probabilidade, permitindo circuitos simples com baixo consumo de energia e significativa tolerância a falhas. As Redes Neurais Convolucionais requerem essencialmente somas ponderadas, apesar do enorme peso computacional associado a esses algoritmos. Devido à simplicidade dos cálculos realizados por estes algoritmos, propomos a aplicação de Computação Estocástica a Redes Neurais Convolucionais para implementar classificadores de tecnologia de ponta mais eficientes. Esta dissertação pretende contextualizar este problema e rever a literatura nas áreas correspondentes para fundamentar o trabalho realizado posteriormente. Foram realizadas breves revisões de possíveis metodologias de implementação para dar uma compreensão de como a Computação Estocástica pode ser usada na classificação de imagens em CNNs. Propomos a rede LeNet-5 Modificada baseada na rede LeNet-5 original, onde as modificações servem para dividir a rede em blocos facilmente substituíveis por blocos de Computação Estocástica. A rede LeNet-5 modificada alcançou um desempenho de treino de 97% no Tensorflow. Após o treino, implementámos a rede LeNet-5 Modificada em hardware reconfigurável personalizado para a classificação de imagens do conjunto de dados MNIST. No final do nosso trabalho, obtivemos uma implementação RTL modelo completa da CNN à qual pode ser adicionada a computação estocástica. O pipeline está totalmente implementado e funcional, no entanto carece de debug futuro.Stochastic Computing is a computing method that performs probability-based operations, allowing simple circuits with low energy consumption and significant fault tolerance. Convolutional Neural Networks are a class of machine learning algorithms that essentially require weighted sums, despite the huge computational weight associated with these algorithms. Due to the simplicity of operations calculated by these algorithms, we propose applying Stochastic Computing to Convolutional Neural Networks to implement more efficient edge computing classifiers. This dissertation intends to contextualize this problem and review the literature in the corresponding areas to base the work carried out later. Brief reviews of possible implementation methodologies have been carried out, to give an understanding of how to use Stochastic Computing in CNN image classification. We propose the Modified LeNet-5 based on the original LeNet-5, where the modifications serve to divide the network into blocks that can be easily exchangeable with Stochastic Computing blocks. The modified LeNet-5 achieved a training performance of 97% on Tensorflow, maintaining a good accuracy on classification, with similar values as the original LeNet-5. After training, we implemented the Modified LeNet-5 on custom reconfigurable hardware for the classification of images from the MNIST dataset. At the end of our work, we have a CNN baseline full RTL implementation on which Stochastic Computing can be added. The pipeline is fully implemented and working but not fully debugged.2022-07-28info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesishttps://hdl.handle.net/10316/102054https://hdl.handle.net/10316/102054TID:203061918engCruz, Virgílio Manuel Henriques dainfo:eu-repo/semantics/openAccessreponame:Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)instname:FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologiainstacron:RCAAP2022-09-23T20:43:05Zoai:estudogeral.uc.pt:10316/102054Portal AgregadorONGhttps://www.rcaap.pt/oai/openaireinfo@rcaap.ptopendoar:https://opendoar.ac.uk/repository/71602025-05-29T05:51:22.393992Repositórios Científicos de Acesso Aberto de Portugal (RCAAP) - FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologiafalse
dc.title.none.fl_str_mv Exploring Stochastic Computing applied to Artificial Perception - A Convolutional Neural Network implementation on Reconfigurable Logic
Exploração da Computação Estocástica aplicada à Percepção Artificial - Implementação de uma Rede Neuronal Convolucional em Lógica Reconfigurável
title Exploring Stochastic Computing applied to Artificial Perception - A Convolutional Neural Network implementation on Reconfigurable Logic
spellingShingle Exploring Stochastic Computing applied to Artificial Perception - A Convolutional Neural Network implementation on Reconfigurable Logic
Cruz, Virgílio Manuel Henriques da
Computação Estocástica
Redes Neuronais Convolucionais
Aprendizagem de máquina
Lógica Reconfigurável
Stochastic Computing
Convolutional Neural Networks
Machine Learning
Reconfigurable Logic
title_short Exploring Stochastic Computing applied to Artificial Perception - A Convolutional Neural Network implementation on Reconfigurable Logic
title_full Exploring Stochastic Computing applied to Artificial Perception - A Convolutional Neural Network implementation on Reconfigurable Logic
title_fullStr Exploring Stochastic Computing applied to Artificial Perception - A Convolutional Neural Network implementation on Reconfigurable Logic
title_full_unstemmed Exploring Stochastic Computing applied to Artificial Perception - A Convolutional Neural Network implementation on Reconfigurable Logic
title_sort Exploring Stochastic Computing applied to Artificial Perception - A Convolutional Neural Network implementation on Reconfigurable Logic
author Cruz, Virgílio Manuel Henriques da
author_facet Cruz, Virgílio Manuel Henriques da
author_role author
dc.contributor.author.fl_str_mv Cruz, Virgílio Manuel Henriques da
dc.subject.por.fl_str_mv Computação Estocástica
Redes Neuronais Convolucionais
Aprendizagem de máquina
Lógica Reconfigurável
Stochastic Computing
Convolutional Neural Networks
Machine Learning
Reconfigurable Logic
topic Computação Estocástica
Redes Neuronais Convolucionais
Aprendizagem de máquina
Lógica Reconfigurável
Stochastic Computing
Convolutional Neural Networks
Machine Learning
Reconfigurable Logic
description Dissertação de Mestrado em Engenharia Eletrotécnica e de Computadores apresentada à Faculdade de Ciências e Tecnologia
publishDate 2022
dc.date.none.fl_str_mv 2022-07-28
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://hdl.handle.net/10316/102054
https://hdl.handle.net/10316/102054
TID:203061918
url https://hdl.handle.net/10316/102054
identifier_str_mv TID:203061918
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.source.none.fl_str_mv reponame:Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)
instname:FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologia
instacron:RCAAP
instname_str FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologia
instacron_str RCAAP
institution RCAAP
reponame_str Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)
collection Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)
repository.name.fl_str_mv Repositórios Científicos de Acesso Aberto de Portugal (RCAAP) - FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologia
repository.mail.fl_str_mv info@rcaap.pt
_version_ 1833602496328630272