XAI Web : aplicação web para explicar revisões realizadas por modelos de aprendizado de máquina.

Abstract

A explicabilidade e a interpretabilidade de modelos de inteligência artificial tem crescido em importância quanto mais a utilização desses modelos e suas aplicações ganham desta que na sociedade. Contudo, uma vez desenvolvido um modelo não interpretável, chamado de caixa-preta, essa interpretabilidade só poderá ser alcançada aplicando-se métodos de inteligência artificial explicável. Tais métodos, para serem utilizados, têm como requisito básico a programação, o que dificulta às diversas análises que podem ser feitas em cima de um modelo. Os modelos podem ser desenvolvidos para diferentes áreas de conhecimento e os seus resultados podem ser posteriormente avaliados por diferentes profissionais capacitados, afim de validar o modo como o modelo tratou as informações. Biólogos, economistas, publicitários e diversos outros profissionais ou estudantes podem eventualmente precisar de uma maior transparência ao avaliar e aplicar os resultados de modelos, mesmo que não possuam conhecimento em programação. Neste trabalho foi desenvolvida uma aplicação web: o XAI web, responsável por aplicar os métodos de interpretabilidade permutation, SHAP e LIME em modelos de aprendizado de máquina supervisionado com o objetivo de tornar esses métodos mais acessíveis para usuários não programadores. Ao final do trabalho, as informações disponibilizadas pela aplicação, através de visualizações gráficas e metadados, podem auxiliar os profissionais na detecção de vieses, permitindo auditoria aos modelos fornecendo melhor entendimento dos modelos de inteligência artificial e assim aumentando a confiança e responsabilidade em suas utilizações.