Plataforma de agregação de dados heterogéneos na Altice Labs
Main Author: | |
---|---|
Publication Date: | 2024 |
Format: | Master thesis |
Language: | por |
Source: | Repositórios Científicos de Acesso Aberto de Portugal (RCAAP) |
Download full: | http://hdl.handle.net/10773/43001 |
Summary: | A quantidade de informação atualmente produzida pelas diversas fontes de dados tem criado problemas que causam um impacto cada vez maior nas organizações. O desafio de recolher, processar e armazenar grandes volumes de dados de forma eficiente, sem perder a qualidade, continua a ser um desafio para as organizações. Este trabalho resultou de um estágio na Altice Labs, uma empresa de tecnologia que desenvolve soluções para o setor de telecomunicações e tecnologia da informação. Durante este estágio, foi realizado um estudo sobre soluções para armazenamento de dados, considerando os requisitos propostos pela empresa. Após este estudo, foi proposta uma solução para o problema em questão, utilizando Elasticsearch como base. Esta solução foi validada em um ambiente de testes com geradores de dados fictícios. Além disso, por se tratar de dados de IoT, foi também proposto um componente de alertas para identificar anomalias nos dados recolhidos. |
id |
RCAP_5a8a200d615f5ab3dbd4dbeabd0e3b52 |
---|---|
oai_identifier_str |
oai:ria.ua.pt:10773/43001 |
network_acronym_str |
RCAP |
network_name_str |
Repositórios Científicos de Acesso Aberto de Portugal (RCAAP) |
repository_id_str |
https://opendoar.ac.uk/repository/7160 |
spelling |
Plataforma de agregação de dados heterogéneos na Altice LabsArmazenamento de dadosElasticsearchETLIngestão de dadosIoTA quantidade de informação atualmente produzida pelas diversas fontes de dados tem criado problemas que causam um impacto cada vez maior nas organizações. O desafio de recolher, processar e armazenar grandes volumes de dados de forma eficiente, sem perder a qualidade, continua a ser um desafio para as organizações. Este trabalho resultou de um estágio na Altice Labs, uma empresa de tecnologia que desenvolve soluções para o setor de telecomunicações e tecnologia da informação. Durante este estágio, foi realizado um estudo sobre soluções para armazenamento de dados, considerando os requisitos propostos pela empresa. Após este estudo, foi proposta uma solução para o problema em questão, utilizando Elasticsearch como base. Esta solução foi validada em um ambiente de testes com geradores de dados fictícios. Além disso, por se tratar de dados de IoT, foi também proposto um componente de alertas para identificar anomalias nos dados recolhidos.The vast amount of information generated by diverse data sources today poses significant challenges for organizations. Efficiently collecting, processing, and storing large volumes of data without compromising quality remains a major hurdle for IT departments. This work presents results from an internship at Altice Labs, a technology company specializing in telecommunications and IT solutions. During the internship, a comprehensive study was conducted on data storage solutions, aligned with the company’s specific needs. A solution was proposed to handle IoT data, using Elasticsearch as its core. The proposed solution was validated in a test environment using synthetic data. Additionally, an alert component was introduced to detect anomalies in the collected data.2024-12-02T11:36:07Z2024-07-11T00:00:00Z2024-07-11info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttp://hdl.handle.net/10773/43001porSantos, Tiago Alvim Paiva Guimarães dosinfo:eu-repo/semantics/openAccessreponame:Repositórios Científicos de Acesso Aberto de Portugal (RCAAP)instname:FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologiainstacron:RCAAP2024-12-09T01:47:26Zoai:ria.ua.pt:10773/43001Portal AgregadorONGhttps://www.rcaap.pt/oai/openaireinfo@rcaap.ptopendoar:https://opendoar.ac.uk/repository/71602025-05-28T19:18:00.065592Repositórios Científicos de Acesso Aberto de Portugal (RCAAP) - FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologiafalse |
dc.title.none.fl_str_mv |
Plataforma de agregação de dados heterogéneos na Altice Labs |
title |
Plataforma de agregação de dados heterogéneos na Altice Labs |
spellingShingle |
Plataforma de agregação de dados heterogéneos na Altice Labs Santos, Tiago Alvim Paiva Guimarães dos Armazenamento de dados Elasticsearch ETL Ingestão de dados IoT |
title_short |
Plataforma de agregação de dados heterogéneos na Altice Labs |
title_full |
Plataforma de agregação de dados heterogéneos na Altice Labs |
title_fullStr |
Plataforma de agregação de dados heterogéneos na Altice Labs |
title_full_unstemmed |
Plataforma de agregação de dados heterogéneos na Altice Labs |
title_sort |
Plataforma de agregação de dados heterogéneos na Altice Labs |
author |
Santos, Tiago Alvim Paiva Guimarães dos |
author_facet |
Santos, Tiago Alvim Paiva Guimarães dos |
author_role |
author |
dc.contributor.author.fl_str_mv |
Santos, Tiago Alvim Paiva Guimarães dos |
dc.subject.por.fl_str_mv |
Armazenamento de dados Elasticsearch ETL Ingestão de dados IoT |
topic |
Armazenamento de dados Elasticsearch ETL Ingestão de dados IoT |
description |
A quantidade de informação atualmente produzida pelas diversas fontes de dados tem criado problemas que causam um impacto cada vez maior nas organizações. O desafio de recolher, processar e armazenar grandes volumes de dados de forma eficiente, sem perder a qualidade, continua a ser um desafio para as organizações. Este trabalho resultou de um estágio na Altice Labs, uma empresa de tecnologia que desenvolve soluções para o setor de telecomunicações e tecnologia da informação. Durante este estágio, foi realizado um estudo sobre soluções para armazenamento de dados, considerando os requisitos propostos pela empresa. Após este estudo, foi proposta uma solução para o problema em questão, utilizando Elasticsearch como base. Esta solução foi validada em um ambiente de testes com geradores de dados fictícios. Além disso, por se tratar de dados de IoT, foi também proposto um componente de alertas para identificar anomalias nos dados recolhidos. |
publishDate |
2024 |
dc.date.none.fl_str_mv |
2024-12-02T11:36:07Z 2024-07-11T00:00:00Z 2024-07-11 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
http://hdl.handle.net/10773/43001 |
url |
http://hdl.handle.net/10773/43001 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.source.none.fl_str_mv |
reponame:Repositórios Científicos de Acesso Aberto de Portugal (RCAAP) instname:FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologia instacron:RCAAP |
instname_str |
FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologia |
instacron_str |
RCAAP |
institution |
RCAAP |
reponame_str |
Repositórios Científicos de Acesso Aberto de Portugal (RCAAP) |
collection |
Repositórios Científicos de Acesso Aberto de Portugal (RCAAP) |
repository.name.fl_str_mv |
Repositórios Científicos de Acesso Aberto de Portugal (RCAAP) - FCCN, serviços digitais da FCT – Fundação para a Ciência e a Tecnologia |
repository.mail.fl_str_mv |
info@rcaap.pt |
_version_ |
1833598001220681728 |