Modelos mistos com classes diferentes de distribuições para os erros e efeitos aleatórios

Detalhes bibliográficos
Autor(a) principal: Castro, Tuany de Paula
Data de Publicação: 2025
Tipo de documento: Tese
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da USP
Texto Completo: https://www.teses.usp.br/teses/disponiveis/45/45133/tde-20082025-105733/
Resumo: Em estudos longitudinais, há casos em que a assimetria é uma característica intrínseca da variável resposta e o modelo misto normal usual pode não capturar a heterogeneidade entre as unidades amostrais, invalidando a distribuição prevista dos efeitos aleatórios. Muitos autores tentaram resolver esta questão, mas sempre propondo novas distribuições para os efeitos aleatórios dentro da mesma classe de distribuição dos erros condicionais. Propomos uma nova abordagem em que a distribuição dos efeitos aleatórios e erros condicionais estão em classes diferentes. Com base num conjunto de dados real de um estudo de cicatrização de feridas, consideramos distribuição gama para os efeitos aleatórios e distribuição normal para os erros, construímos modelos com um, dois e três efeitos aleatórios independentes e apresentamos métodos para integração e otimização das funções de log-verossimilhança obtidas. Também calculamos o gradiente da função de log-verossimilhança e mostramos um método para predição dos efeitos aleatórios similar às Equações de Henderson. Em estudos de simulação e na aplicação aos dados reais, comparamos o modelo proposto com o modelo misto normal. Embora o modelo usual não apresente perdas em termos de estimação de curvas médias em problemas com assimetria, o modelo proposto tem menores erros-padrão para os efeitos fixos e melhor precisão na predição dos efeitos aleatórios e das curvas individuais. Por meio do método de bootstrap paramétrico, construímos um gráfico quantil-quantil com envelope simulado para validação da adequabilidade da suposição de distribuição gama para os efeitos aleatórios. Notavelmente, a distribuição gama se mostrou superior à distribuição gaussiana para os efeitos aleatórios em problemas de cicatrização de feridas, acomodando melhor as unidades amostrais que antes se apresentavam destoantes.
id USP_8387e00aacc1451cb9351f8bc0aa5b16
oai_identifier_str oai:teses.usp.br:tde-20082025-105733
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str 2721
spelling Modelos mistos com classes diferentes de distribuições para os erros e efeitos aleatóriosMixed models with different distribution classes for errors and random effectsDados longitudinaisEfeitos aleatórios não gaussianosLinear mixed modelsLongitudinal dataModelos lineares mistosNon-gaussian random effectsEm estudos longitudinais, há casos em que a assimetria é uma característica intrínseca da variável resposta e o modelo misto normal usual pode não capturar a heterogeneidade entre as unidades amostrais, invalidando a distribuição prevista dos efeitos aleatórios. Muitos autores tentaram resolver esta questão, mas sempre propondo novas distribuições para os efeitos aleatórios dentro da mesma classe de distribuição dos erros condicionais. Propomos uma nova abordagem em que a distribuição dos efeitos aleatórios e erros condicionais estão em classes diferentes. Com base num conjunto de dados real de um estudo de cicatrização de feridas, consideramos distribuição gama para os efeitos aleatórios e distribuição normal para os erros, construímos modelos com um, dois e três efeitos aleatórios independentes e apresentamos métodos para integração e otimização das funções de log-verossimilhança obtidas. Também calculamos o gradiente da função de log-verossimilhança e mostramos um método para predição dos efeitos aleatórios similar às Equações de Henderson. Em estudos de simulação e na aplicação aos dados reais, comparamos o modelo proposto com o modelo misto normal. Embora o modelo usual não apresente perdas em termos de estimação de curvas médias em problemas com assimetria, o modelo proposto tem menores erros-padrão para os efeitos fixos e melhor precisão na predição dos efeitos aleatórios e das curvas individuais. Por meio do método de bootstrap paramétrico, construímos um gráfico quantil-quantil com envelope simulado para validação da adequabilidade da suposição de distribuição gama para os efeitos aleatórios. Notavelmente, a distribuição gama se mostrou superior à distribuição gaussiana para os efeitos aleatórios em problemas de cicatrização de feridas, acomodando melhor as unidades amostrais que antes se apresentavam destoantes.In longitudinal studies, asymmetry often inherently characterizes the response variable, which may render traditional normal mixed models inadequate for capturing heterogeneity among sample units, thereby invalidating predicted distributions of random effects. Numerous researchers have sought to resolve this limitation; however, their proposals have consistently remained the random effects distribution within the same class of the conditional error distributions. This paper introduces a novel approach wherein random effects and conditional errors are modeled using distinct distributional classes. Utilizing a wound healing study dataset, we employ gamma distribution for random effects and normal distribution for errors, developing models with one, two, and three independent random terms. Our methodology encompasses integration and optimization techniques for obtained log-likelihood functions and incorporates a Henderson-style equation for predicting random effects. Comparative analyses between the proposed model and traditional normal mixed models are conducted via simulation studies and real-data application. Results indicate that while conventional models perform adequately in estimating mean curves for asymmetrical problems, our proposed model yields reduced standard errors for fixed effects and improved prediction accuracy for random effects and individual curves. Utilizing the parametric bootstrap approach, we generate a quantile-quantile plot accompanied by a simulated envelope to validate the suitability of assuming a gamma distribution for the random effects. Notably, gamma distribution for random effects proved to be superior to Gaussian distribution in accommodating outlying sample units in wound healing contexts.Biblioteca Digitais de Teses e Dissertações da USPRocha, Francisco Marcelo Monteiro daCastro, Tuany de Paula2025-03-10info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/45/45133/tde-20082025-105733/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesspor2025-08-20T16:19:02Zoai:teses.usp.br:tde-20082025-105733Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212025-08-20T16:19:02Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv Modelos mistos com classes diferentes de distribuições para os erros e efeitos aleatórios
Mixed models with different distribution classes for errors and random effects
title Modelos mistos com classes diferentes de distribuições para os erros e efeitos aleatórios
spellingShingle Modelos mistos com classes diferentes de distribuições para os erros e efeitos aleatórios
Castro, Tuany de Paula
Dados longitudinais
Efeitos aleatórios não gaussianos
Linear mixed models
Longitudinal data
Modelos lineares mistos
Non-gaussian random effects
title_short Modelos mistos com classes diferentes de distribuições para os erros e efeitos aleatórios
title_full Modelos mistos com classes diferentes de distribuições para os erros e efeitos aleatórios
title_fullStr Modelos mistos com classes diferentes de distribuições para os erros e efeitos aleatórios
title_full_unstemmed Modelos mistos com classes diferentes de distribuições para os erros e efeitos aleatórios
title_sort Modelos mistos com classes diferentes de distribuições para os erros e efeitos aleatórios
author Castro, Tuany de Paula
author_facet Castro, Tuany de Paula
author_role author
dc.contributor.none.fl_str_mv Rocha, Francisco Marcelo Monteiro da
dc.contributor.author.fl_str_mv Castro, Tuany de Paula
dc.subject.por.fl_str_mv Dados longitudinais
Efeitos aleatórios não gaussianos
Linear mixed models
Longitudinal data
Modelos lineares mistos
Non-gaussian random effects
topic Dados longitudinais
Efeitos aleatórios não gaussianos
Linear mixed models
Longitudinal data
Modelos lineares mistos
Non-gaussian random effects
description Em estudos longitudinais, há casos em que a assimetria é uma característica intrínseca da variável resposta e o modelo misto normal usual pode não capturar a heterogeneidade entre as unidades amostrais, invalidando a distribuição prevista dos efeitos aleatórios. Muitos autores tentaram resolver esta questão, mas sempre propondo novas distribuições para os efeitos aleatórios dentro da mesma classe de distribuição dos erros condicionais. Propomos uma nova abordagem em que a distribuição dos efeitos aleatórios e erros condicionais estão em classes diferentes. Com base num conjunto de dados real de um estudo de cicatrização de feridas, consideramos distribuição gama para os efeitos aleatórios e distribuição normal para os erros, construímos modelos com um, dois e três efeitos aleatórios independentes e apresentamos métodos para integração e otimização das funções de log-verossimilhança obtidas. Também calculamos o gradiente da função de log-verossimilhança e mostramos um método para predição dos efeitos aleatórios similar às Equações de Henderson. Em estudos de simulação e na aplicação aos dados reais, comparamos o modelo proposto com o modelo misto normal. Embora o modelo usual não apresente perdas em termos de estimação de curvas médias em problemas com assimetria, o modelo proposto tem menores erros-padrão para os efeitos fixos e melhor precisão na predição dos efeitos aleatórios e das curvas individuais. Por meio do método de bootstrap paramétrico, construímos um gráfico quantil-quantil com envelope simulado para validação da adequabilidade da suposição de distribuição gama para os efeitos aleatórios. Notavelmente, a distribuição gama se mostrou superior à distribuição gaussiana para os efeitos aleatórios em problemas de cicatrização de feridas, acomodando melhor as unidades amostrais que antes se apresentavam destoantes.
publishDate 2025
dc.date.none.fl_str_mv 2025-03-10
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://www.teses.usp.br/teses/disponiveis/45/45133/tde-20082025-105733/
url https://www.teses.usp.br/teses/disponiveis/45/45133/tde-20082025-105733/
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1848365147730477056