Técnicas de buscas heurísticas para otimização de parâmetros de máquinas de vetores suportes - SOUZA, Francisco Carlos Monteiro (2011)
Máquinas de Vetores Suporte (SVM) é uma poderosa técnica de Aprendizagem de Máquina (AM) fundamentada na teoria do aprendizado estatístico utilizada para problemas de classificação, reconhecimento de padrões, dentre outros. Em função de seu forte embasamento teórico e sua excelente capacidade de generalização, considerada superior diante de muitos algoritmos de aprendizagem, SVM tem atraído o interesse da comunidade de Aprendizagem de Máquina. Nesse contexto, apesar de possuir uma performance eficaz para maioria dos problemas de classificação e regressão, SVM é sensível a seleção adequada dos parâmetros, permitindo a aplicação de muitas estratégias para seleção e otimização do processo para esse tipo de problema, sendo normalmente realizado empiricamente ou através de experimentos por tentativa e erro. No entanto, existe um número significativo de combinações de parâmetros que podem ser utilizados, de forma que a utilização de um processo exaustivo como este se torna inviável, o qual é tratado como um problema de busca. Neste trabalho foi proposto um sistema híbrido para otimização da seleção do parâmetro de regularização do SVM e o parâmetro (gamma) do Kernel RBF utilizando os algoritmos de busca meta-heurísticas Subida da Encosta e Otimização por Enxame de Partículas. O processo de busca foi aplicado em uma grade de busca composta por 38 problemas de benchmark, contendo o valor de desempenho da combinação de 399 parâmetros distintos executados no SVM. As principais contribuições deste trabalho são os resultados da investigação dos algoritmos para o problema de seleção de parâmetros do SVM, comparando-o com a busca aleatória, bem como a realização de experimentos com versões otimizadas dos algoritmos, obtendo resultados mais satisfatórios. Por fim, este trabalho contribui também com a constatação da viabilidade dos algoritmos para o problema com um número fixo de iterações a fim de reduzir o número de execução de muitos parâmetros no SVM