Isaque Victor cursos gratuitosNesta aula
A máquina é a parte barata.
Quando alguém compara IA local com nuvem, quase sempre compara o preço da máquina com a fatura mensal da API. É a comparação errada. O custo da IA local é máquina, energia, gente, tempo de implantação e risco; o da nuvem é token, assinatura, gente também (menos, mas não zero) e um risco de outro tipo. Nesta aula você monta uma planilha que aguenta a pergunta de um sócio, com volume medido e não chutado, e com colunas que não são dinheiro, porque dado sensível e previsibilidade também entram na conta. O resultado pode ser "local custa mais e ainda assim é a decisão certa". O que não pode é fingir que custa menos.
- Ao final, você vai conhecer todas as linhas de custo da IA local e da nuvem, inclusive as escondidas.
- Vai medir o volume real de tokens da sua operação, em vez de estimar.
- Vai sair com um entregável: a planilha de custo total em três cenários (nuvem, local, híbrido), em 12 e 36 meses.
As linhas de custo da IA local
Não vou dar valores em moeda, porque eles mudam por região, por mês e por fornecedor. Vou dar as linhas e como calcular cada uma. Você preenche com os seus números.
| Linha | Como calcular | Onde as pessoas erram |
|---|---|---|
| Máquina | Preço de compra dividido pelos anos de vida útil que a sua contabilidade usa; ou o aluguel mensal, se for alugada | Contar o preço inteiro no primeiro ano, ou esquecer que ela vai ser trocada |
| Energia | Potência média da máquina em uso, vezes horas ligada por mês, vezes a tarifa da sua conta de luz | Esquecer que servidor fica ligado mesmo quando ninguém usa |
| Gente (operação) | Horas por semana da rotina da aula 13, vezes o custo-hora da pessoa (salário mais encargos, dividido pelas horas do mês) | Não contar, porque "a pessoa já é da empresa" |
| Gente (implantação) | Horas de projeto: instalação, documentos, testes, política, treinamento da equipe. Uma vez, diluída no primeiro ano | Esquecer as horas de quem preparou os documentos |
| Backup e armazenamento | Disco externo, armazenamento fora, tempo de teste de restauração | Contar como zero |
| Atualização e reteste | Horas por trimestre da bateria e das atualizações | Achar que instalou e acabou |
| Risco de parada | Custo de um dia sem a IA vezes a probabilidade estimada; ou o custo de uma máquina reserva | Fingir que a máquina não vai quebrar |
Some as linhas por mês e multiplique por 12 e por 36. Repare no que acontece: a máquina, que parecia o custo grande, vira uma fatia pequena depois de dividida pelos anos. A linha de gente, que ninguém contava, vira a maior. É exatamente o que as fontes dizem, e é por isso que a rotina da aula 13 é a linha mais importante da planilha.
Exemplo real
Uma clínica montou a planilha esperando que a máquina fosse o vilão. Em 36 meses, a máquina ficou em segundo lugar. O primeiro foi o tempo da pessoa responsável, que era a gerente administrativa, com algumas horas por semana. A decisão continuou sendo local (prontuário não ia para a nuvem), mas a clínica passou a tratar as horas da gerente como investimento e liberou parte da agenda dela, em vez de fingir que a operação era "de graça".
As linhas de custo da nuvem
A nuvem parece simples: uma fatura por mês. Mas ela também tem linhas escondidas.
| Linha | Como calcular | Onde as pessoas erram |
|---|---|---|
| Uso por token | Tokens de entrada e de saída por mês, vezes o preço de cada um, na página oficial do fornecedor, no dia da conta | Usar preço de seis meses atrás; esquecer que entrada e saída custam diferente |
| Assinaturas por pessoa | Número de contas pagas vezes o valor mensal (para uso pela interface do fornecedor) | Contas que ninguém usa continuam sendo cobradas |
| Gente (governança) | Horas para avaliar fornecedor, contrato, política de dados, revisar uso, atender titular | Achar que é zero porque "o fornecedor cuida" |
| Gente (implantação) | Menor que no local, mas existe: instruções, projetos, treinamento | Ignorar |
| Risco de dependência | Custo de migrar se o fornecedor mudar preço, regra ou aposentar o modelo | Assinar contrato longo preso a um único modelo fechado |
| Custo de não fazer | Valor das tarefas que não podem ir para a nuvem por causa do dado, e que ficam sem IA | Esquecer que "nuvem" às vezes significa "não fazer" |
Uma referência que ajuda a calibrar, vinda dos guias deste ano: abaixo de cerca de 5 milhões de tokens por dia, a API comercial ainda ganha em custo puro; muito acima disso, hospedar o próprio modelo fica mais barato. Cinco milhões de tokens por dia é muito texto. A maioria das empresas pequenas está bem abaixo, e é por isso que, em custo puro, a nuvem costuma ganhar para elas. A decisão pelo local, nesses casos, vem das colunas que não são dinheiro.
Medir o volume, não chutar
Todo o cálculo depende de uma pergunta: quantos tokens por dia? E aqui a maioria chuta. Não chute; meça.
- A API do Ollama (aula 12) devolve, em cada resposta, a contagem de tokens da entrada e da saída. Rode as tarefas reais por uma semana típica e some.
- Se a equipe usa pela interface, pegue uma amostra: dez conversas típicas, conte os tokens delas pela API (colando o mesmo texto) e multiplique pela quantidade de conversas por dia.
- Para integrações, multiplique os tokens de uma chamada pela quantidade de chamadas por dia (pedidos, mensagens, laudos).
- Some tudo e compare com a referência dos 5 milhões. Provavelmente você está longe, e isso é informação, não derrota.
Faça a mesma medição três meses depois. Volume de IA cresce quando a equipe aprende a usar, e uma decisão tomada com o volume do primeiro mês pode estar errada no sexto.
Dica
Se você ainda não tem a API ligada, uma aproximação honesta: conte as palavras de dez pedidos e dez respostas típicas e anote que tokens costumam ser um pouco mais numerosos que palavras em português. Marque como "estimado" na planilha e substitua pela medição assim que puder.
A planilha: três cenários, dois horizontes, colunas que não são dinheiro
A estrutura que eu uso tem três blocos.
Bloco 1: cenários
Nuvem
Todas as tarefas da aula 1 na API ou nas assinaturas. Inclui a linha "custo de não fazer" para as tarefas que o dado impede.
Local
Todas as tarefas na máquina da empresa. Inclui gente, energia, backup, risco.
Híbrido
O que a tabela da aula 1 mandou: sensível e volume dentro; raro e pesado fora. Costuma ser o mais barato e o mais realista.
Bloco 2: horizontes
Some cada cenário em 12 e em 36 meses. O primeiro ano carrega a implantação; o terceiro mostra o custo de cruzeiro. Uma decisão que só olha 12 meses favorece a nuvem; uma que só olha 36 esconde o esforço de começar. Olhe os dois.
Bloco 3: o que não é dinheiro
| Coluna | Pergunta | Nuvem | Local | Híbrido |
|---|---|---|---|---|
| Dado sensível | A tarefa pode sair da empresa? | Depende do fornecedor e do contrato | Não sai | Sensível não sai |
| Previsibilidade | O custo e o serviço podem mudar sem eu decidir? | Sim | Não | Parcial |
| Dependência | Quanto custa trocar? | Alto se preso a modelo fechado | Baixo (modelo aberto) | Baixo se a parte de fora usa modelo aberto |
| Qualidade de ponta | A tarefa exige o modelo mais forte? | Disponível | Limitado pela máquina | Disponível onde precisa |
| Gente disponível | Existe quem opere? | Pouco necessário | Obrigatório | Obrigatório |
Depois dos três blocos, faça duas perguntas de sensibilidade: e se a linha de gente dobrar? (a pessoa saiu, e a substituta é mais cara) E se o volume triplicar? (a equipe adotou). Se a decisão muda com uma dessas perguntas, ela está no fio da navalha, e vale um piloto (aula 15) antes de qualquer compra.
Um assistente de nuvem monta a estrutura da planilha para você, sem os seus valores se preferir:
A leitura honesta
Depois de preencher, três leituras são possíveis, e todas são respeitáveis.
- A nuvem ganha e o dado permite. Fique na nuvem. Use o que aprendeu aqui para escolher fornecedor com modelo aberto por trás e contrato curto, e volte à planilha quando o volume crescer.
- Local custa mais e ainda assim é a decisão. Porque o dado não pode sair, porque a operação não pode depender de conexão, porque a previsibilidade vale o prêmio. Ótimo: você sabe quanto está pagando por isso e por quê. É diferente de pagar sem saber.
- Híbrido resolve. É o mais comum. A parte sensível e de volume roda dentro, com a rotina da aula 13 dimensionada para ela; o resto fica na nuvem, sem gente para operar.
E a leitura que não vale: "compramos a máquina, então precisa ser local". Máquina comprada é custo passado; a decisão olha para frente. Se a planilha disser que a máquina foi um erro, a máquina vira estação de trabalho de alguém, e a empresa segue.
Cuidado
Preço de API muda a cada trimestre, e o Radar de setembro registra modelos abertos por API a uma fração do que se pagava há um ano por qualidade parecida. Data a planilha, anote de onde veio cada preço, e refaça a cada trimestre junto com a bateria. Planilha de custo sem data é uma opinião antiga.
Prática · 10 min
Monte a planilha de custo total
- Crie a planilha com a estrutura desta aula: linhas de custo local e de nuvem, três cenários, totais em 12 e 36 meses, bloco não financeiro.
- Preencha a linha de gente com as horas da rotina da aula 13 e o custo-hora real da pessoa responsável. Não deixe em zero.
- Preencha máquina (a que você já tem ou a que dimensionou na aula 3, dividida pela vida útil) e energia (potência, horas, tarifa da sua conta).
- Estime o volume de tokens por dia pela medição da API ou pela aproximação, e marque "medido" ou "estimado".
- Busque o preço atual por token na página oficial de pelo menos um fornecedor e anote a data.
- Preencha o bloco não financeiro para as suas tarefas da aula 1 e faça as duas perguntas de sensibilidade (gente dobra, volume triplica).
Resumo da aula
- Custo local: máquina dividida pela vida útil, energia, gente (operação e implantação), backup, reteste, risco de parada. Gente domina em 36 meses.
- Custo nuvem: tokens de entrada e saída, assinaturas, gente de governança, dependência e custo de não fazer.
- Referência: abaixo de cerca de 5 milhões de tokens por dia, a API tende a ganhar em custo puro.
- Volume se mede com os campos da API, numa semana típica, e se mede de novo em três meses.
- Três cenários, dois horizontes, colunas que não são dinheiro, e duas perguntas de sensibilidade.
- Local pode custar mais e ser a decisão certa; o erro é esconder o custo. Planilha com data e fonte, refeita a cada trimestre.
Quiz da aula
Quatro perguntas para fixar. A melhor nota fica guardada para o certificado.