OtimizaÃÃo Global em Redes Neurais Artificiais / Global Optimization in Artificial Neural Networks

AUTOR(ES)

Cleber Zanchettin

DATA DE PUBLICAÇÃO

2008

RESUMO

Esta tese apresenta um mÃtodo de otimizaÃÃo global e local, baseado na integraÃÃo das heurÃsticas das tÃcnicas Simulated Annealing, Tabu Search, Algoritmos GenÃticos e Backpropagation. O desempenho deste mÃtodo à investigado na otimizaÃÃo simultÃnea da topologia e dos valores dos pesos das conexÃes entre as unidades de processamento de redes neurais artificiais Multi-layer Perceptron, a fim de gerar topologias com poucas conexÃes e alto desempenho para qualquer conjunto de dados. A heurÃstica proposta realiza a busca de forma construtiva e baseada na poda das conexÃes entre as unidades de processamento da rede. Assim, sÃo geradas redes com arquitetura variÃvel e que podem ser ajustadas para cada problema de forma automÃtica. Experimentos demonstram que o mÃtodo pode tambÃm ser utilizado para a seleÃÃo de atributos relevantes. Durante a otimizaÃÃo da arquitetura da rede, unidades de processamento de entrada podem ser eliminadas de acordo com sua relevÃncia para o desempenho do modelo. Desta forma, à obtida uma seleÃÃo de atributos inerente ao processo de otimizaÃÃo das redes neurais artificiais. Os principais parÃmetros de configuraÃÃo do mÃtodo tiveram sua influÃncia estimada atravÃs da tÃcnica de planejamento fatorial de experimentos. Com base no planejamento fatorial de experimentos, foi possÃvel verificar a influÃncia, interaÃÃo e a inter-relaÃÃo entre os parÃmetros de configuraÃÃo do modelo. Estas anÃlises sÃo importantes para identificar a influÃncia de cada parÃmetro e possivelmente diminuir a quantidade de parÃmetros ajustÃveis no projeto deste mÃtodo. Nesta tese sÃo realizados experimentos com cinco diferentes bases de dados de classificaÃÃo e duas bases de dados de previsÃo. A tÃcnica proposta apresentou resultados estatisticamente relevantes em comparaÃÃo com outras tÃcnicas de otimizaÃÃo global e local

ASSUNTO(S)

seleÃÃo de atributos relevantes planejamento de experimentos artificial neural networks experimental design redes neurais artificiais ciencia da computacao global optimization otimizaÃÃo global relevant feature selection

Documentos Relacionados

• Optimization methods for the definition of MLP neural network architectures and weights
• Abordagem hÃbrida para otimizaÃÃo de redes neurais artificiais para previsÃo de sÃries temporais
• MÃtodos de otimizaÃÃo global para escolha do padrÃo de conectividade de redes neurais sem peso
• Extração de conhecimento de redes neurais artificiais.
• Uma metodologia para otimizaÃÃo de arquitetura e pesos de redes neurais