Análise de Desempenho de Redes Neurais LSTM com Técnicas de Pruning para Detecção de Falhas em Processos Industrias

  • Paulo Victor Correia Departamento de Engenharia de Computação e Automação, Universidade Federal do Rio Grande do Norte, Natal, RN
  • Lucileide Dantasy Instituto Federal de Educação, Ciência e Tecnologia do Rio Grande do Norte, Santa Cruz, RN
  • Luiz Affonso Guedes Departamento de Engenharia de Computação e Automação, Universidade Federal do Rio Grande do Norte, Natal, RN
  • Marcelo Fernandes Departamento de Engenharia de Computação e Automação, Universidade Federal do Rio Grande do Norte, Natal, RN
Keywords: Long Short-Term Memory, Anomaly Detection, Neural Network Compression, Pruning, Tennessee Eastman Process

Abstract

Na indústria, métodos de detecção e diagnóstico de falhas em tempo real são necessários para proteger processos, reduzir danos aos produtos e evitar possíveis falhas do sistema. Recentemente, as redes neurais LSTM (Long Short-Term Memory) têm sido usadas como uma abordagem para detecção e diagnóstico de falhas na operação de processos industriais por causa de sua excelente capacidade de processar dados sequenciais, como processamento de séries temporais. No entanto, as redes neurais LSTM exigem mais esforço computacional para inferir e treinar seus modelos quando comparadas a outros tipos de arquiteturas de rede neural. Então, considerando que os sistemas embarcados de IIoT (Industrial Internet of Things) têm capacidades limitadas de processamento, memória e fonte de energia, estratégias para acelerar a inferência em redes neurais LSTM e melhorar seu desempenho se tornaram bastante necessárias para viabilizarem sua aplicação em tais tipos de sistemas. Desta forma, este artigo se propõe a comprimir redes neurais LSTM com técnicas de poda. Nossa abordagem de poda remove os parâmetros redundantes da rede neural LSTM zerando os valores absolutos de pesos sinápticos abaixo de um limite. Em seguida, treinamos novamente o modelo podado para reajustar pesos diferentes de zero. Usamos o conhecido benchmark Tennessee Eastman Process para avaliar nossa abordagem e obtivemos resultados satisfatórios com baixa perda de desempenho e esparsidade acima de 70%.
Published
2021-10-20
Section
Articles