Uma revisão narrativa sobre modelos de IA generativa com aplicação para o problema de visual paragraph generation.

Abstract

Este trabalho investiga a aplicação de modelos de Inteligência Artificial Generativa no problema de Visual Paragraph Generation, com ênfase na arquitetura Transformer, que se consolidou como a abordagem mais utilizada em razão de sua capacidade de lidar com dependências de longo alcance, escalabilidade e paralelização. O objetivo central foi analisar os principais modelos descritos na literatura e demonstrar, por meio de experimentos, a aplicação prática de um modelo pré-treinado baseado em Transformer para este contexto. A metodologia foi desenvolvida em cinco etapas complementares. Primeiramente, realizouse uma revisão da literatura sobre os fundamentos de Inteligência Artificial Generativa, abordando sua evolução, aplicações e implicações. Em seguida, foi estudada a arquitetura Transformer e apresentado como funciona o mecanismo de atenção e alguns modelos de referência. Na terceira etapa, analisaram-se os trabalhos relacionados ao problema de Visual Paragraph Generation, identificando avanços, pontos fortes e limitações. A quarta etapa consistiu na seleção do Vision Transformer como modelo pré-treinado para experimentação, justificando sua escolha pela relevância e viabilidade de aplicação. Por fim, conduziram-se experimentos para exemplificar o uso do modelo selecionado no problema, com análise quantitativa dos resultados. Os experimentos demonstraram desempenho estável em termos de acurácia, mas apresentaram limitações relevantes em métricas semânticas, tais como Bilingual Evaluation Understudy, revelando a dificuldade do modelo em produzir descrições ricas e diversificadas. Além disso, restrições técnicas, como a alta demanda de GPU e memória, limitaram a exploração de ajustes mais sofisticados e treinos de maior escala. Conclui-se que a arquitetura Transformer representa a abordagem mais promissora para Visual Paragraph Generation, justificando seu amplo uso em aplicações de Inteligência Artificial Generativa. Contudo, também se evidenciam desafios práticos que precisam ser superados para ampliar a qualidade e a aplicabilidade dessas soluções. O estudo contribui de forma exploratória ao consolidar a base teórica, discutir trabalhos relacionados e demonstrar um exemplo prático, abrindo caminhos para pesquisas futuras.