Introdução à interpretabilidade de redes neurais convolucionais.

Abstract

Nas últimas décadas, observamos um aumento significativo de estudos e aplicações que envolvem Inteligência Artificial (IA) nas mais diversas áreas. Entre as tecnologias mais difundidas da IA, citam-se os modelos de Redes Neurais Convolucionais (ou Convolutional Neural Networks - CNN). Esses modelos vêm sendo utilizados com êxito em problemas que envolvem o processamento de imagens e sinais. Com a popularização das CNNs, torna-se cada vez mais relevante entender e validar as decisões desses modelos, principalmente quando considera-se que muitos destes modelos estão sendo aplicados em problemas críticos. Na literatura, encontram-se métodos de interpretabilidade que nos permitem entender seu processo de tomada de decisão e produzir evidências que corroboram para a confiabilidade do modelo. Sendo assim, o objetivo deste trabalho é investigar a aplicação de métodos de interpretação presentes na literatura em modelos de CNNs. Utilizou-se como modelo de estudo uma CNN treinada para realizar a classificação de frutas. Na monografia, descrevem-se a arquitetura do modelo e a base de dados adotada e, em seguida, aplicam-se os métodos de interpretação. Inicialmente, realiza-se uma análise a partir da matriz de confusão e métricas tradicionais. Em seguida, é aplicado o método de ativações intermediárias, que nos permite visualizar as ativações dos filtros do modelo para uma determinada entrada. Por último, é aplicado o método de maximização de ativações, que é capaz de gerar entradas sintéticas que maximizam os níveis de ativação de um determinado filtro. Características importantes nas imagens foram identificados pelo modelo para sua classificação. Essas características podem justificar os erros e acertos do modelo. Essa compreensão mais profunda da tomada de decisão do modelo pode levar a melhorias na sua estrutura e aprimoramentos na sua aplicação em problemas reais.