Apontamento e Configuração de um Tutor com Inteligência Artificial (TIA) : Uma Análise Comparativa entre o Uso Direto do LLM e RAG no Ensino de Cálculo I

Autor(es)

Orientado(es)
Doutor Carlos Alberto Severiano Junior

Título da Revista

ISSN da Revista

Título de Volume

Editor

Abstract

This work presents the development of an AI-powered tutor employing a Socratic approach to support the teaching of Calculus I, comparatively evaluating two implementation architectures: direct interaction with a Large Language Model (LLM) and integration of the LLM into a Retrieval-Augmented Generation (RAG) pipeline combined with prompt engineering. The objective was to analyze how these different approaches impact the tutor’s ability to adopt a contextualized Socratic pedagogical stance, guiding students in problem-solving without providing direct answers. The methodology encompassed the implementation of both solutions using the GPT-4 model (OpenAI), followed by simulations with a set of 27 Calculus I questions to evaluate each approach’s performance. The tutor’s interactions were recorded and analyzed for adherence to Socratic practices. The results showed that the RAG architecture with the few-shot learning technique achieved approximately 93% compliance with the expected Socratic style, whereas the RAG pipeline with one-shot achieved about 11%. Direct use of the LLM served as a comparative baseline, demonstrating that RAG combined with prompt engineering techniques provides an effective mechanism to regulate the LLM’s behavior, enabling the intelligent tutor to reliably replicate Socratic teaching strategies. The study demonstrates the feasibility and advantages of this approach for the development of virtual tutors in education, although future empirical evaluations with users are necessary to confirm the observed pedagogical gains.


Resumo

Este trabalho apresenta o desenvolvimento de um tutor com Inteligência Artificial de abordagem socrática para auxiliar o ensino de Cálculo I, avaliando comparativamente duas arquiteturas de implementação: interação direta com um Grande Modelo de Linguagem (LLM) e integração do LLM em um pipeline de Recuperação Aumentada por Geração (RAG) aliado à engenharia de prompt. Objetivou-se analisar como essas diferentes abordagens impactam a capacidade do tutor em adotar uma postura pedagógica socrática contextualizada, guiando o aluno na resolução de problemas sem fornecer respostas diretas. A metodologia abrangeu a implementação de ambas as soluções com uso do modelo GPT-4 (OpenAI), seguida de simulações em um conjunto de 27 questões de Cálculo I para avaliar o desempenho de cada abordagem. As interações do tutor foram registradas e analisadas quanto à aderência às práticas socráticas. Os resultados evidenciaram que a arquitetura RAG com a técnica de few-shot learning alcançou aproximadamente 93% de conformidade com o estilo socrático esperado, enquanto o pipeline RAG com one-shot obteve cerca de 11%. O uso direto do LLM serviu como linha de base comparativa, evidenciando que o uso de RAG associado a técnicas de engenharia de prompt oferece um mecanismo efetivo para regular o comportamento do LLM, permitindo ao tutor inteligente replicar de forma confiável estratégias socráticas de ensino. O estudo demonstra a viabilidade e as vantagens dessa abordagem para o desenvolvimento de tutores virtuais na educação, embora sejam necessárias avaliações empíricas futuras com usuários para confirmar os ganhos pedagógicos observados.

Palavras-chave

Citação

Avaliação

Revisão

Suplementado Por

Referenciado Por