O que é RAG e quando basta uma busca clássica

RAG (geração aumentada por recuperação) é uma técnica em que, antes de um modelo de linguagem responder, o sistema busca nos documentos da empresa os trechos relevantes para a pergunta e os passa ao modelo como contexto. O modelo redige a resposta a partir desses trechos e cita de onde ela vem. Serve quando as perguntas são variadas e a resposta está espalhada em muitos documentos; quando as perguntas são poucas e repetidas, uma página de perguntas frequentes ou um buscador clássico resolve o mesmo com menos custo e menos risco.

Um modelo de linguagem não sabe nada da sua empresa: nem sua tabela de preços, nem seu acordo coletivo, nem o manual do seu produto. RAG é a forma de dar isso a ele sem retreiná-lo. Nos meus projetos é a peça mais pedida e, ao mesmo tempo, a que mais vezes substituo por algo mais simples depois de medir.

Como funciona, passo a passo

1. Ingestão. Reúnem-se os documentos fonte: PDF, páginas web, planilhas, e-mails, fichas de um gerenciador documental. Eles são limpos (cabeçalhos repetidos, rodapés, tabelas quebradas) e de cada um se guarda origem, data e quem pode vê-lo.
2. Fragmentação. Cada documento é dividido em trechos de algumas centenas de palavras, idealmente respeitando seções e parágrafos. Um trecho grande demais mistura temas; um pequeno demais perde o contexto.
3. Indexação. Cada trecho é convertido em um vetor numérico (um embedding) que representa seu significado, e guardado em um índice. Muitos sistemas combinam esse índice semântico com um índice clássico de palavras-chave, porque cada um acerta onde o outro falha: o semântico entende sinônimos; o de palavras-chave acerta com códigos de produto, nomes próprios e siglas.
4. Recuperação. Quando chega uma pergunta, ela também é convertida em vetor e buscam-se os trechos mais próximos, filtrando pelas permissões do usuário. Recuperam-se mais do que o necessário (por exemplo, vinte).
5. Reordenação. Um segundo modelo, mais preciso e mais lento, reordena esses vinte e fica com os cinco melhores. Este passo melhora muito a qualidade e costuma ser omitido nas demonstrações.
6. Geração. Constrói-se uma instrução para o modelo: a pergunta, os trechos escolhidos e regras claras («responda só com a informação fornecida; se não estiver, diga; cite a fonte de cada afirmação»). O modelo redige a resposta.
7. Citação e registro. A resposta é exibida com links para os documentos usados, e guardam-se a pergunta, os trechos recuperados e a resposta para poder avaliar e corrigir depois.

Duas melhorias que fazem diferença na prática: adicionar a cada trecho uma frase de contexto gerada automaticamente («este trecho pertence à seção de garantias do contrato de manutenção de 2025»), o que a Anthropic descreve como recuperação contextual, e reescrever a pergunta do usuário antes de buscar quando ela vem incompleta ou depende da conversa anterior.

Quando basta uma busca clássica ou um FAQ

Antes de montar RAG, olhe os dados das consultas reais durante uma ou duas semanas (o modelo de medição de linha de base serve). A decisão costuma sair desta tabela:

Um exemplo concreto

Uma empresa de instalações tem 300 manuais técnicos de fabricantes, seus próprios procedimentos internos e o histórico de ordens de serviço. Os técnicos ligam para o escritório para perguntar «qual é o torque de aperto deste modelo?» ou «este erro do controlador já apareceu antes?». Aqui RAG se encaixa: corpus grande, perguntas variadas, resposta espalhada entre manual e ordens anteriores, e o técnico pode verificar a citação em segundos. O sistema é avaliado com cem perguntas reais dos últimos meses e suas respostas corretas, e a primeira versão é usada só pelo escritório técnico, não pelo técnico em campo.

Na mesma empresa, as perguntas dos clientes sobre horários, áreas de cobertura e formas de pagamento são vinte. Isso vai para uma página de perguntas frequentes, não para RAG.

Quanto custa

• Preparar os documentos. É o maior custo oculto. Documentos duplicados, versões antigas sem data, PDFs escaneados sem texto e tabelas quebradas fazem o sistema responder mal. Limpar e organizar o corpus costuma levar mais tempo do que montar o sistema.
• Indexar. Gerar embeddings é pago por volume de texto uma vez, e de novo cada vez que um documento muda. Para um corpus de PME é um custo baixo.
• Consultar. Cada pergunta gera chamadas ao modelo de embeddings, ao reordenador e ao modelo de linguagem. O custo por consulta depende do tamanho dos trechos e do modelo. É preciso medi-lo com consultas reais, não estimá-lo.
• Infraestrutura. Banco de dados vetorial, armazenamento e servidor. Pequeno comparado com o anterior.
• Manutenção. Reindexar quando os documentos mudam, revisar as perguntas sem resposta, repetir a avaliação quando o modelo muda. É um custo recorrente que precisa ser orçado desde o início.

Para números concretos do seu caso: [COMPLETAR: volume de documentos, consultas por mês e modelos escolhidos; com isso se calcula o custo por consulta].

Riscos e como limitá-los

Como avaliar se funciona

Uma demonstração com cinco perguntas escolhidas pelo fornecedor não é uma avaliação. Isto é:

1. Conjunto de perguntas reais. Entre 50 e 200 perguntas que as pessoas fizeram de verdade, com a resposta correta e o documento onde ela está. Quem escreve é quem conhece o negócio, não quem monta o sistema.
2. Recuperação. O trecho correto está entre os cinco recuperados? Se não está, o modelo não tem como acertar. Esta métrica isola o buscador do redator.
3. Fidelidade. Tudo o que a resposta diz está respaldado pelos trechos? Revisa-se uma amostra à mão ou com um segundo modelo como juiz, verificando depois uma parte manualmente.
4. Correção. Coincide com a resposta esperada? Fidelidade sem correção significa que o buscador trouxe o documento errado.
5. Abstenção. Inclua no conjunto perguntas sem resposta no corpus. O sistema deve dizer que não sabe. Meça quantas vezes ele faz isso.
6. Repetir. A avaliação é rodada de novo cada vez que o modelo, a fragmentação ou as instruções mudam. Sem isso, uma «melhoria» pode piorar o que já funcionava.

Se você não consegue dizer qual porcentagem das cem perguntas de teste é respondida corretamente, não sabe se funciona. Intui.

Quando passar de RAG para algo mais

RAG responde a perguntas. Se o que você precisa é que o sistema faça algo com a resposta (criar um ticket, preparar um orçamento, atualizar uma ficha), já está falando de um agente, com seus próprios riscos e controles. E se a maior parte das consultas exige dados ao vivo, a peça central não é o modelo, mas a integração com os seus sistemas.

Se você quiser saber se o seu caso é RAG, FAQ ou buscador, o serviço de implantação de IA começa com uma semana de análise de consultas reais e termina com uma recomendação, mesmo que a recomendação seja não montar nada com IA.