Por favor, use este identificador para citar o enlazar este ítem: http://www.monografias.ufop.br/handle/35400000/1834
Título : Avaliação de métodos de transferência de aprendizado aplicados a problemas de processamento de linguagem natural em textos da língua portuguesa.
Autor : Alvarenga, João Paulo Reis
metadata.dc.contributor.advisor: Ferreira, Anderson Almeida
metadata.dc.contributor.referee: Bianchi, Andrea Gomes Campos
Cámara Chávez, Guillermo
Ferreira, Anderson Almeida
Palabras clave : Transferência de aprendizado
Processamento de linguagem natural
Fecha de publicación : 2019
Citación : ALVARENGA, João Paulo Reis. Avaliação de métodos de transferência de aprendizado aplicados a problemas de processamento de linguagem natural em textos da língua portuguesa. 2019. 55 f. Monografia (Graduação em Ciência da Computação) - Instituto de Ciências Exatas e Biológicas, Universidade Federal de Ouro Preto, Ouro Preto, 2019.
Resumen : Este trabalho tem como objetivo avaliar estratégias baseadas em transferência de aprendizado e fine-tuning, para reduzir a quantidade de exemplos necessários para treinar modelos eficazes para análise de sentimentos na língua portuguesa, além de tentar entender o que é transferido entre os modelos. Os modelos avaliados são baseados em abordagens de pré-treinamento de modelos de língua em um córpus grande e genérico e o acoplamento de classificadores específicos a esses modelos de língua pré-treinados. Avaliando os modelos baseados em transferência de aprendizado, foi possível obter um F1 de 97,65% para a coleção Mercado Livre, 89,30% para a coleção Buscapé e 84,02% para a coleção de (Souza et al., 2016). Também foi a avaliado a performance dos modelos quanto a redução dos conjuntos de dados, obtendo 97,50% de F1 utilizando cerca de 45% da coleção Mercado Livre e 88,29% de F1 usando cerca de 71% da coleção Buscapé. Foi realizada uma análise das camadas interna dos modelos baseados em atenção, em que é possível observar que alguns padrões que contribuem para análise de sentimento são herdados do modelo sem fine-tuninig.
metadata.dc.description.abstracten: This work focus on evaluating strategies based on transfer learning and fine-tuning, searching for reducing the number of examples needed to train effective models for sentiment analysis in texts written in Portuguese language, as well as trying to understand what is transferred between the models. The models evaluated are based on pre-training approaches of language models in a large and generic corpus and the coupling of specific classifiers to these pre-trained language models. Evaluating the models based on learning transfer, we got an F1 of 97.65%, 89.30% and 84.02% for the Mercado Livre, Buscapé and Souza et al. (2016) datasets. It was also evaluated the performance of the models regarding the reduction of data sets, obtaining 97.50% F1 using about 45% of the Mercado Livre dataset and 88.29% F1 using about 71% of the Buscapé dataset. An analysis of the inner layers of attention-based models was performed, in which it is possible to observe that some patterns that contribute to sentiment analysis are inherited from the model without fine-tuning.
URI : http://www.monografias.ufop.br/handle/35400000/1834
Aparece en las colecciones: Ciência da Computação

Ficheros en este ítem:
Fichero Descripción Tamaño Formato  
MONOGRAFIA_AvaliaçãoMétodosTransferência.pdf2,67 MBAdobe PDFVisualizar/Abrir


Este ítem está sujeto a una licencia Creative Commons Licencia Creative Commons Creative Commons