Instruções, RAG ou ajuste fino: quando cada um resolve

Nesta aula

Três ferramentas para três problemas diferentes. Quem usa ajuste fino para ensinar um fato está apertando parafuso com martelo.

Quando a IA local erra, a reação mais comum é "precisa treinar". Quase sempre está errado. Existem três jeitos de fazer um modelo se comportar melhor na sua empresa: instruções fixas, RAG e ajuste fino. Cada um resolve um tipo de problema, custa uma coisa diferente e quebra de um jeito diferente. Nesta aula eu te dou uma árvore de decisão simples e três casos resolvidos. Você vai sair sabendo dizer, para qualquer problema da sua IA, qual ferramenta tentar primeiro.

• Ao final, você vai saber o que cada uma das três ferramentas muda no modelo e o que ela não muda.
• Vai usar uma árvore de decisão para escolher pelo problema, não pela moda.
• Vai sair com um entregável: a decisão documentada para 3 casos reais do seu negócio.

Instruções fixas: mudam o comportamento

Instrução fixa (o que os técnicos chamam de "system prompt") é o texto que o modelo lê antes de qualquer pergunta. Você já escreveu uma na aula 5. Ela define tom, idioma, formato, regras, recusas e persona. É a ferramenta mais barata que existe: você edita o texto, e a próxima resposta já muda.

O que ela resolve

• Responde em inglês? "Responda sempre em português do Brasil."
• Fala demais? "Responda em até cinco linhas, salvo se eu pedir mais."
• Inventa? "Quando não souber, diga que não sabe. Nunca invente números, nomes ou leis."
• Tom errado? "Tom cordial e direto, como um colega experiente, sem gírias e sem emoji."
• Faz o que não deve? "Não faça diagnóstico. Não estime valor de imóvel. Não dê parecer jurídico."
• Formato? "Sempre em tabela com as colunas X, Y e Z."

O que ela não resolve

Instrução não ensina fato em volume. Você até consegue colocar a tabela de prazos dentro das instruções, mas o contexto tem limite, e cada pergunta passa a carregar tudo aquilo. Quando o conhecimento passa de uma página, é RAG.

RAG: muda o que o modelo tem na frente

RAG (aula 7) dá ao modelo conhecimento atualizado e citável. Ele não muda o jeito do modelo; muda o material que ele consulta antes de responder. O custo é preparar documentos (aula 8) e manter a coleção viva.

O que ele resolve

• Conhecimento que muda: preços, prazos, estoque, imóveis disponíveis, regras internas.
• Conhecimento que precisa de fonte: políticas, contratos-modelo, protocolos.
• Volume de conhecimento que não cabe nas instruções: manuais, catálogos, históricos.

O que ele não resolve

RAG não muda tom, formato nem regras: isso continua sendo instrução. E depende da busca: se o trecho certo não for encontrado, a resposta sai vazia ou errada. Pergunta ampla, documento bagunçado e versão velha são os inimigos. A tabela de sintomas da aula 7 cobre os casos mais comuns.

Instruções e RAG se combinam, e essa combinação é o padrão de partida para quase toda empresa: comportamento pelas instruções, conhecimento pelo RAG. Resolve a maioria dos casos e custa pouco.

Ajuste fino: muda o modelo em si

Ajuste fino (fine-tuning) é treinar o modelo com exemplos seus, de modo que os pesos mudem. Depois do ajuste, ele responde daquele jeito sem precisar de instrução longa nem de trechos na frente. É a ferramenta mais poderosa e a mais cara.

Quando ele faz sentido

• Formato muito específico, repetido milhares de vezes. Transformar laudos em um padrão normativo cheio de campos, em volume alto, onde cada erro de formato custa retrabalho.
• Vocabulário de domínio que os modelos gerais não dominam: termos técnicos de uma indústria, códigos internos.
• Modelo pequeno imitando um grande numa tarefa estreita, para ganhar velocidade e caber numa máquina menor.
• Estilo de escrita que instrução não alcança, com centenas de exemplos revisados por gente.

O que ele custa

Três coisas. Dados: muitos exemplos de entrada e saída, revisados por gente, sem dado pessoal, representativos do que a IA vai encontrar. Exemplo ruim ensina erro. Máquina: treinar pede mais do que rodar. A ficha do DGX Spark, por exemplo, fala em ajustar modelos de até 70 bilhões de parâmetros, contra rodar modelos de até 200 bilhões; a proporção dá a ideia. Gente e tempo: alguém precisa preparar os dados, rodar o treino, avaliar com a bateria da aula 6, e repetir quando o modelo base mudar.

O que ele não resolve

Fato que muda. Se você ajustou o modelo com a tabela de preços de setembro, em outubro ele responde setembro com convicção. Conhecimento que muda é RAG, sempre. E há um risco conhecido: ao aprender o seu formato, o modelo pode piorar em outras coisas que fazia bem. Por isso a bateria de testes antes e depois é obrigatória.

A árvore de decisão

Para qualquer problema da sua IA, faça estas perguntas em ordem:

1. O problema é de comportamento? Tom, idioma, formato, tamanho, recusas, invenção. Se sim: instruções fixas. Itere até dez versões antes de seguir.
2. O problema é de conhecimento? Ela não sabe, sabe errado, sabe desatualizado, não cita fonte. Se sim: RAG. Prepare os documentos antes de culpar o modelo.
3. Instruções e RAG esgotaram, o volume é alto, o formato é estreito, você tem muitos exemplos revisados e alguém para operar? Só com todos os "sim": ajuste fino, como projeto, com bateria antes e depois.
4. Nada disso resolveu? Volte à aula 6: pode ser o modelo. Teste outro da bateria antes de qualquer coisa mais cara.

Três casos resolvidos

Caso 1, clínica. "A IA responde certo, mas em tom frio, às vezes em inglês, e uma vez sugeriu um remédio." Comportamento. Instruções: português, tom, proibição de diagnóstico e de sugerir tratamento. Resolvido em uma tarde, com a bateria confirmando.

Caso 2, imobiliária. "Queremos que a IA responda sobre os 300 imóveis da carteira, que mudam toda semana." Conhecimento que muda. RAG: exportar a carteira como tabela limpa toda segunda, coleção "imóveis", instrução "cite o código do imóvel". Nada de treino.

Caso 3, escritório de engenharia. "Convertemos milhares de laudos por mês para um formato normativo com jargão; instruções e RAG chegaram a 80% de formato correto e pararam de melhorar; temos dois mil laudos revisados; a IA precisa rodar num computador modesto em campo." Aqui, e só aqui, ajuste fino de um modelo pequeno faz sentido, como projeto, com bateria antes e depois e alguém responsável.

Se quiser pensar com um assistente de nuvem, descreva o caso sem dado real: