Exploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUs

Bibliographic Details
Main Author: Ribeiro, Pedro José Carrinho
Publication Date: 2021
Format: Master thesis
Language: eng
Source: Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)
Download full: https://hdl.handle.net/10316/98268
Summary: Dissertação de Mestrado Integrado em Engenharia Electrotécnica e de Computadores apresentada à Faculdade de Ciências e Tecnologia
id RCAP_3396d160903cbe0f30448d3207463d2c
oai_identifier_str oai:estudogeral.uc.pt:10316/98268
network_acronym_str RCAP
network_name_str Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)
repository_id_str https://opendoar.ac.uk/repository/7160
spelling Exploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUsExploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUsDeteção de póliposImagiologia médicaCancro ColorretalConvolutional Neural NetworksQuantizaçãoPolyp DetectionMedical ImagingColorectal CancerConvolutional Neural NetworksQuantizationDissertação de Mestrado Integrado em Engenharia Electrotécnica e de Computadores apresentada à Faculdade de Ciências e TecnologiaO cancro colorretal (CRC) é um dos cancros mais mortíferos à escala mundial, com cerca de 881 000 mortes em 2018, e a incidência deste tipo de cancro é maior em países desenvolvidos devido aos hábitos alimentares modernos. A norma de referência para rastreamento de cancro colorretal é a colonoscopia, com estudos a concluir que a colonoscopias reduzem significativamente a mortalidade por CRC.Demonstrou-se na literatura que sistemas CAD podem melhorar a deteção de adenomas. Particularmente, modelos de AI Deep Learning demonstram resultados promissores ajudando a comunidade médica durante colonoscopias em tempo real reduzindo o número de lesões que ficaram por detetar durante uma colonoscopia. Devido à natureza em tempo real das colonoscopias, a inferência das frames tem que ocorrer também em tempo real.Neste trabalho a CNN YOLOv4 é utilizada para realizar deteção de pólipos. Diferentes métodos de regularização, pré-processamento de dados e data augmentation foram testados. De modo a aumentar a velocidade de inferência do modelo para atingir resultados em tempo-real, e para tornar o modelo mais pequeno, este foi lançado no NVIDIA TensoRT, que executa quantização e otimização do modelo. Para treino, teste e validação do modelo foram usados datasets disponíveis para uso público facilitando a comparação com outros estudos. Para avaliar a velocidade de inferência do modelo, um dataset público contendo vídeos foi utilizado.Valores de 0.82 para mAP, 0.82 para precisão e 0.75 para recall, foram obtidos para o dataset de uso público, Etis-Larib, e foram obtidos valores de 0.92 para mAP, 0.89 para precisão e 0.86 para recall, no CVC-ClinicDB. Uma GPU NVIDIA RTX 2080TI foi utilizada e uma velocidade de 100 FPS foi obtida em vídeos do Colonoscopic Dataset.Para a versão quantizada da implementação a velocidade de inferência foi de 165 FPS causando um ligeiro decréscimo das métricas de avaliação de accuracy. Um decréscimo de 2% em mAP, 6% em precision e 3% em recall foi observado no Etis-Larib dataset. Para o CVC-ClinicDB um decréscimo de 1% em mAP foi registado, mantendo-se o valor das restantes métricas.Colorectal cancer (CRC) is one of the most deadly cancers worldwide, with about 881 000 deaths in 2018, and with developed countries possessing a higher incidence ofthis type of cancer due to modern dietary habits. The gold standard for colorectal cancerscreening is the colonoscopy, with studies concluding that colonoscopies significantlyreduce mortality from CRC. It has been shown in the literature that computer-aided detection (CAD) systems can improve adenoma detection. In particular, artificial intelligence (AI) Deep Learning models have shown promising results helping physicians during real-time colonoscopies by reducing the number of missed lesions during the colonoscopy. Due to the real-time constraints of colonoscopies, the inference of the frames must happen in real-time. In this work we use the You Only Look Once (YOLO)v4 convolutional neural net-work (CNN) to perform polyp detection. Different methods of regularization, data pre-processing, and data augmentation were tested. To further increase the inference speed of the model to achieve real-time performance and make the model smaller, we deployed the model on NVIDIA TensorRT, which quantizes and optimizes the model.We used the publicly available datasets to train, test, and validate our model to facilitate comparison to other studies. To evaluate the inference speed of the model, a publicly available dataset containing videos was used.We achieved values of 0.82 for mAP, 0.82 for precision, and 0.75 for recall in the publicly available dataset Etis-Larib, and values of 0.92 for mAP, 0.89 for precision and 0.86 for recall using CVC-ClinicDB dataset. An NVIDIA RTX 2080TI GPU was used, and a speed of approximately 100 FPS was achieved in videos of the Colonoscopic dataset.For the quantized version of the implementation, the inference speed was increased to approximately 165 FPS at the cost of a slight decrease in the accuracy metrics. A decrease of 2% in mAP, 6% in precision, and 3% in recall was observed for Etis-Larib dataset. For the CVC-ClinicDB, a decrease of 1% in mAP was registered while the remaining metrics remained the same.2021-11-23info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesishttps://hdl.handle.net/10316/98268https://hdl.handle.net/10316/98268TID:202920542engRibeiro, Pedro José Carrinhoinfo:eu-repo/semantics/openAccessreponame:Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)instname:FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologiainstacron:RCAAP2022-02-03T22:00:56Zoai:estudogeral.uc.pt:10316/98268Portal AgregadorONGhttps://www.rcaap.pt/oai/openaireinfo@rcaap.ptopendoar:https://opendoar.ac.uk/repository/71602025-05-29T05:47:05.456169Repositórios Científicos de Acesso Aberto de Portugal (RCAAP) - FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologiafalse
dc.title.none.fl_str_mv Exploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUs
Exploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUs
title Exploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUs
spellingShingle Exploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUs
Ribeiro, Pedro José Carrinho
Deteção de pólipos
Imagiologia médica
Cancro Colorretal
Convolutional Neural Networks
Quantização
Polyp Detection
Medical Imaging
Colorectal Cancer
Convolutional Neural Networks
Quantization
title_short Exploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUs
title_full Exploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUs
title_fullStr Exploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUs
title_full_unstemmed Exploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUs
title_sort Exploiting Quantization in Convolutional Neural Networks for Polyp Detection on GPUs
author Ribeiro, Pedro José Carrinho
author_facet Ribeiro, Pedro José Carrinho
author_role author
dc.contributor.author.fl_str_mv Ribeiro, Pedro José Carrinho
dc.subject.por.fl_str_mv Deteção de pólipos
Imagiologia médica
Cancro Colorretal
Convolutional Neural Networks
Quantização
Polyp Detection
Medical Imaging
Colorectal Cancer
Convolutional Neural Networks
Quantization
topic Deteção de pólipos
Imagiologia médica
Cancro Colorretal
Convolutional Neural Networks
Quantização
Polyp Detection
Medical Imaging
Colorectal Cancer
Convolutional Neural Networks
Quantization
description Dissertação de Mestrado Integrado em Engenharia Electrotécnica e de Computadores apresentada à Faculdade de Ciências e Tecnologia
publishDate 2021
dc.date.none.fl_str_mv 2021-11-23
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://hdl.handle.net/10316/98268
https://hdl.handle.net/10316/98268
TID:202920542
url https://hdl.handle.net/10316/98268
identifier_str_mv TID:202920542
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.source.none.fl_str_mv reponame:Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)
instname:FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologia
instacron:RCAAP
instname_str FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologia
instacron_str RCAAP
institution RCAAP
reponame_str Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)
collection Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)
repository.name.fl_str_mv Repositórios Científicos de Acesso Aberto de Portugal (RCAAP) - FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologia
repository.mail.fl_str_mv info@rcaap.pt
_version_ 1833602471182729216