Using AI for forecasting and trading in markets : a study of deep learning and deep reinforcement learning in finance
Saved in:
| Main Author: | |
|---|---|
| Publication Date: | 2025 |
| Format: | Master thesis |
| Language: | eng |
| Source: | Repositório Institucional da UnB |
| Download full: | http://repositorio.unb.br/handle/10482/53204 |
Summary: | Dissertação (mestrado)—Universidade de Brasília, Instituto de Ciências Exatas, Departamento de Ciência da Computação, Programa de Pós-Graduação em Informática, 2025. |
| _version_ | 1871442470381813760 |
|---|---|
| author | Souza, João Paulo Costa e |
| author_browse | Souza, João Paulo Costa e |
| author_facet | Souza, João Paulo Costa e |
| author_role | author |
| bitstream.checksum.fl_str_mv | 300fc2844502406eb2c02f99a6e0ad71 |
| bitstream.checksumAlgorithm.fl_str_mv | MD5 |
| bitstream.url.fl_str_mv | http://repositorio.unb.br/bitstream/10482/53204/1/JoaoPauloCostaESouza_DISSERT.pdf |
| collection | Repositório Institucional da UnB |
| contributor_str_mv | Rocha Filho, Geraldo Pereira |
| dc.contributor.advisor1.fl_str_mv | Rocha Filho, Geraldo Pereira |
| dc.contributor.author.fl_str_mv | Souza, João Paulo Costa e |
| dc.date.accessioned.fl_str_mv | 2025-11-24T16:52:29Z |
| dc.date.available.fl_str_mv | 2025-11-24T16:52:29Z |
| dc.date.issued.fl_str_mv | 2025-11-24 |
| dc.date.submitted.none.fl_str_mv | 2025-02-28 |
| dc.identifier.citation.fl_str_mv | SOUZA, João Paulo Costa e. Using AI for Forecasting and Trading in Markets: a Study of Deep Learning and Deep Reinforcement Learning in Finance. 2025. 133 f. Dissertação (Mestrado em Informática) — Universidade de Brasília, Brasília, 2025. |
| dc.identifier.uri.fl_str_mv | http://repositorio.unb.br/handle/10482/53204 |
| dc.language.iso.fl_str_mv | eng |
| dc.rights.driver.fl_str_mv | info:eu-repo/semantics/openAccess |
| dc.source.none.fl_str_mv | reponame:Repositório Institucional da UnB instname:Universidade de Brasília (UnB) instacron:UNB |
| dc.subject.keyword.pt_BR.fl_str_mv | Rainbow DQN Aprendizado por reforço Aprendizado por reforço profundo Previsão de preço Criptomoedas Finanças |
| dc.title.alternative.pt_BR.fl_str_mv | Usando IA para previsão e negociação em mercados : um estudo de aprendizagem profunda e aprendizagem por reforço profundo em finanças |
| dc.title.pt_BR.fl_str_mv | Using AI for forecasting and trading in markets : a study of deep learning and deep reinforcement learning in finance |
| dc.type.driver.fl_str_mv | info:eu-repo/semantics/masterThesis |
| dc.type.status.fl_str_mv | info:eu-repo/semantics/publishedVersion |
| description | Dissertação (mestrado)—Universidade de Brasília, Instituto de Ciências Exatas, Departamento de Ciência da Computação, Programa de Pós-Graduação em Informática, 2025. |
| eu_rights_str_mv | openAccess |
| format | masterThesis |
| id | UNB_b6f1993db0e3cfbdc4e8ba37cd6bea42 |
| identifier_str_mv | SOUZA, João Paulo Costa e. Using AI for Forecasting and Trading in Markets: a Study of Deep Learning and Deep Reinforcement Learning in Finance. 2025. 133 f. Dissertação (Mestrado em Informática) — Universidade de Brasília, Brasília, 2025. |
| instacron_str | UNB |
| institution | UNB |
| instname_str | Universidade de Brasília (UnB) |
| language | eng |
| network_acronym_str | UNB |
| network_name_str | Repositório Institucional da UnB |
| oai_identifier_str | oai:repositorio.unb.br:10482/53204 |
| publishDate | 2025 |
| publishDateSort | 2025 |
| reponame_str | Repositório Institucional da UnB |
| repository.mail.fl_str_mv | repositorio@unb.br |
| repository.name.fl_str_mv | Repositório Institucional da UnB - Universidade de Brasília (UnB) |
| repository_id_str | |
| spelling | Souza, João Paulo Costa eRocha Filho, Geraldo Pereira2025-11-24T16:52:29Z2025-11-24T16:52:29Z2025-11-242025-02-28SOUZA, João Paulo Costa e. Using AI for Forecasting and Trading in Markets: a Study of Deep Learning and Deep Reinforcement Learning in Finance. 2025. 133 f. Dissertação (Mestrado em Informática) — Universidade de Brasília, Brasília, 2025.http://repositorio.unb.br/handle/10482/53204Dissertação (mestrado)—Universidade de Brasília, Instituto de Ciências Exatas, Departamento de Ciência da Computação, Programa de Pós-Graduação em Informática, 2025.No contexto de negociação financeira, a identificação de tendências e estratégias de tomada de decisão são componentes cruciais para atingir lucratividade consistente e minimizar riscos. Dada a importância desses dois desafios, este projeto propõe uma solução que combina várias técnicas avançadas para aprimorar a precisão preditiva e o desempenho de negociação. A abordagem proposta incorpora Autoencoders para engenharia de recursos, permitindo redução efetiva de dimensionalidade e extração de padrões significativos de indicadores técnicos. Para identificação de tendências, o modelo alavanca uma combinação de Redes Neurais Convolucionais (CNNs) e Redes de Memória de Longo e Curto Prazo Bidirecionais (BiLSTMs), juntamente com rotulagem baseada em regressão linear para definir tendências de mercado com maior precisão. Na fase de tomada de decisão, o sistema emprega o algoritmo Rainbow DQN, aprimorado com um buffer de memória, para otimizar estratégias de negociação e maximizar a lucratividade no mercado de criptomoedas. Para avaliar rigorosamente a eficácia da estrutura proposta, o desempenho de identificação de tendências é avaliado usando as métricas precision, recall e acurácia, enquanto o desempenho de negociação é medido por meio do retorno, sua média e desvio padrão. Os resultados experimentais demonstram que o modelo supera supera a perspectiva aleatória na previsão de tendências, validando a eficácia dos componentes de engenharia de características e aprendizado profundo. Além disso, apesar de experimentar flutuações significativas nos retornos de negociação, o agente obteve um lucro médio positivo, destacando o potencial da abordagem proposta no desenvolvimento de uma estratégia de negociação adaptável e orientada a dados.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES).In the context of financial trading, trend identification and decision-making strategies are crucial components for achieving consistent profitability and minimizing risk. Given the importance of these two challenges, this project proposes a solution that combines multiple advanced techniques to enhance both predictive accuracy and trading performance. The proposed approach incorporates Autoencoders for feature engineering, enabling effective dimensionality reduction and the extraction of meaningful patterns from technical indicators. For trend identification, the model leverages a combination of Convolutional Neural Networks (CNNs) and Bidirectional Long Short-Term Memory Networks (BiLSTMs), alongside linear regression-based labeling to define market trends with greater precision. In the decision-making phase, the system employs the Rainbow DQN algorithm, enhanced with a memory buffer, to optimize trading strategies and maximize profitability in the cryptocurrency market. To rigorously evaluate the effectiveness of the proposed framework, trend identification performance is assessed using accuracy, precision, and recall, while trading performance is measured through return, its mean, and standard deviation. The experimental results demonstrate that the model outperforms a random baseline in trend prediction, validating the effectiveness of the feature engineering and deep learning components. Additionally, despite experiencing significant fluctuations in trading returns, the agent achieved a positive average profit, highlighting the potential of the proposed approach in developing an adaptive and data-driven trading strategy.Instituto de Ciências Exatas (IE)Departamento de Ciência da Computação (IE CIC)Programa de Pós-Graduação em InformáticaengA concessão da licença deste item refere-se ao termo de autorização impresso assinado pelo autor com as seguintes condições: Na qualidade de titular dos direitos de autor da publicação, autorizo a Universidade de Brasília e o IBICT a disponibilizar por meio dos sites www.unb.br, www.ibict.br, www.ndltd.org sem ressarcimento dos direitos autorais, de acordo com a Lei nº 9610/98, o texto integral da obra supracitada, conforme permissões assinaladas, para fins de leitura, impressão e/ou download, a título de divulgação da produção científica brasileira, a partir desta data.info:eu-repo/semantics/openAccessUsing AI for forecasting and trading in markets : a study of deep learning and deep reinforcement learning in financeUsando IA para previsão e negociação em mercados : um estudo de aprendizagem profunda e aprendizagem por reforço profundo em finançasinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisRainbow DQNAprendizado por reforçoAprendizado por reforço profundoPrevisão de preçoCriptomoedasFinançasreponame:Repositório Institucional da UnBinstname:Universidade de Brasília (UnB)instacron:UNBORIGINALJoaoPauloCostaESouza_DISSERT.pdfapplication/pdf7929609http://repositorio.unb.br/bitstream/10482/53204/1/JoaoPauloCostaESouza_DISSERT.pdf300fc2844502406eb2c02f99a6e0ad71MD51open access10482/532042025-11-24 13:52:29.4open accessoai:repositorio.unb.br:10482/53204Repositório InstitucionalPUBhttps://repositorio.unb.br/oai/requestrepositorio@unb.bropendoar:2025-11-24T16:52:29Repositório Institucional da UnB - Universidade de Brasília (UnB) |
| spellingShingle | Using AI for forecasting and trading in markets : a study of deep learning and deep reinforcement learning in finance Souza, João Paulo Costa e Rainbow DQN Aprendizado por reforço Aprendizado por reforço profundo Previsão de preço Criptomoedas Finanças |
| status_str | publishedVersion |
| title | Using AI for forecasting and trading in markets : a study of deep learning and deep reinforcement learning in finance |
| title_full | Using AI for forecasting and trading in markets : a study of deep learning and deep reinforcement learning in finance |
| title_fullStr | Using AI for forecasting and trading in markets : a study of deep learning and deep reinforcement learning in finance |
| title_full_unstemmed | Using AI for forecasting and trading in markets : a study of deep learning and deep reinforcement learning in finance |
| title_short | Using AI for forecasting and trading in markets : a study of deep learning and deep reinforcement learning in finance |
| title_sort | Using AI for forecasting and trading in markets : a study of deep learning and deep reinforcement learning in finance |
| topic | Rainbow DQN Aprendizado por reforço Aprendizado por reforço profundo Previsão de preço Criptomoedas Finanças |
| url | http://repositorio.unb.br/handle/10482/53204 |