Destilação de modelo IA: quando o menor resolve

Equipe Viver de IA · 2026-09-16

O modelo grande é o carro chefe da conta de IA. Boa parte das tarefas roda igual num modelo destilado que custa uma fração disso.

O modelo caro virou hábito, não decisão

A Medclinica Vacinas montou um sistema próprio em três dias na Lovable e chegou a R$ 80.000 de economia gerada. Não porque escolheram o modelo de IA mais potente do mercado. Porque escolheram o que resolvia a tarefa deles com o menor custo de operação. Essa é a decisão que a maioria das empresas não faz de propósito.

O padrão que a gente vê nas empresas é o contrário: escolhe-se o modelo mais forte disponível, liga no piloto automático, e ele passa a rodar TODAS as tarefas. Classificar um e-mail? Modelo topo de linha. Resumir uma ata? Modelo topo de linha. Responder "qual o horário de funcionamento?" pela centésima vez? Modelo topo de linha. É como contratar um advogado sênior pra carimbar protocolo.

Destilação de modelo IA é justamente o que resolve isso, e é sobre ela que este texto vai. Vale entender o conceito antes de decidir onde ele entra na sua operação.

O que é destilação de modelo, em português de gestor

Destilação é o processo de treinar um modelo pequeno pra imitar um modelo grande. O grande é o "professor": você mostra pra ele milhares de perguntas e guarda as respostas dele. Depois você usa esse conjunto de perguntas e respostas pra treinar um modelo menor, o "aluno", até ele responder quase igual ao professor naquele tipo de tarefa.

O resultado é um modelo enxuto que, dentro do escopo pra que foi destilado, entrega qualidade próxima do original gastando bem menos por resposta. Menos custo por chamada, resposta mais rápida, e às vezes até roda em infraestrutura mais barata.

A palavra importante aqui é escopo. O aluno não fica bom em tudo. Ele fica bom naquilo que o professor ensinou. Se você destilou um modelo pra classificar chamados de suporte, ele vai classificar chamado muito bem e custar pouco. Peça pra ele escrever uma proposta comercial e o resultado provavelmente decepciona. Isso não é defeito. É a natureza da coisa.

Modelo grande (professor) → Gera respostas de exemplo → Treina modelo menor (aluno) → Aluno imita na tarefa → Roda barato em produção

Na prática, a maioria das empresas não vai destilar um modelo do zero. Isso é trabalho de quem tem equipe técnica e volume. O que a maioria vai fazer é escolher entre modelos que já vêm em versões de tamanhos diferentes, e as versões menores geralmente já são destiladas ou otimizadas com técnica parecida. A decisão de gestão não é "como destilo", é "em quais tarefas eu troco o grande pelo menor sem o cliente perceber".

Onde o modelo menor cabe e onde não cabe: a taxonomia das tarefas

A pergunta certa não é "o modelo destilado é bom?". É "pra QUAL tarefa?". Toda tarefa que você joga na IA cai em uma de quatro categorias, e cada uma tem uma resposta diferente sobre trocar o modelo grande pelo menor.

1. Tarefa repetitiva e bem definida

Classificar, etiquetar, extrair um dado de um texto, decidir entre opções fixas. "Esse e-mail é reclamação, dúvida ou elogio?". "Qual o CNPJ nesse documento?". "Esse lead é quente ou frio?".

Aqui o modelo menor brilha. A tarefa é estreita, a resposta certa é clara, e o volume costuma ser alto. É exatamente onde o custo do modelo grande dói mais e onde ele menos se justifica. Se sua operação tem uma tarefa dessas rodando milhares de vezes por dia num modelo caro, é o primeiro lugar pra olhar.

2. Tarefa de geração com padrão repetido

Resumir reunião, gerar um rascunho de resposta de atendimento, transformar bullets em um parágrafo. Tem criação envolvida, mas dentro de um formato conhecido.

Zona cinzenta honesta. O modelo menor muitas vezes dá conta, mas você precisa testar com casos reais antes de confiar. Às vezes o resumo do menor perde uma nuance que o grande pegava. Se essa nuance importa pro seu negócio, fica com o grande naquela tarefa específica. Se não importa, troque e economize.

3. Tarefa de raciocínio aberto

Analisar um cenário complexo, montar uma estratégia, cruzar informações que exigem "pensar". Escrever um parecer, planejar uma campanha, resolver um problema que não tem gabarito.

Aqui o modelo grande ainda ganha, e por margem larga. Modelo destilado tende a tropeçar em raciocínio de várias etapas, principalmente quando a tarefa foge do que ele viu no treino. Economizar nessas tarefas costuma sair caro pelo erro, não pela conta da API.

4. Tarefa de cara com o cliente e alto risco

Resposta que vai direto pro cliente sem revisão humana, decisão que mexe em dinheiro, informação que se estiver errada gera processo ou perda de contrato.

Aqui o critério não é só qualidade, é risco. Mesmo que o modelo menor acerte 9 em 10, a décima resposta errada num contexto crítico pode custar mais do que toda a economia do ano. Nessas, ou você fica no modelo forte, ou coloca revisão humana antes de sair. Não é lugar pra economizar por reflexo.

R$ 80.000: economia gerada pela Medclinica Vacinas com sistema próprio em 3 dias

As três opções na mesa quando a conta de IA aperta

Quando o custo de IA começa a incomodar, o dono tem três caminhos reais. Vale conhecer os três antes de decidir, porque a maioria só enxerga os dois primeiros.

Opção A: continuar no modelo grande em tudo. Simples de operar, uma decisão a menos. O preço é a conta que só cresce conforme o uso aumenta. Funciona enquanto o volume é baixo. Vira problema quando a IA pega escala e você percebe que está pagando preço de raciocínio complexo pra fazer trabalho de triagem.

Opção B: trocar tudo por modelo menor. Economia agressiva e imediata. O risco é derrubar a qualidade em tarefas que precisavam do modelo forte e nem perceber até o cliente reclamar. É a troca que parece esperta na planilha e machuca na operação.

Opção C: modelo certo pra cada tipo de tarefa. Você mapeia as tarefas nas categorias acima e roteia cada uma pro modelo adequado. Triagem no menor, raciocínio no grande. Mais trabalho de montar, e exige que alguém dentro da empresa entenda a lógica pra manter. Em troca, você fica com a conta enxuta e a qualidade onde importa.

Na nossa leitura, a opção C é a que quase sempre vence pra quem já tem IA rodando com algum volume. Não é a mais fácil de montar. É a que sobrevive ao crescimento sem obrigar você a escolher entre economia e qualidade. E aqui a gente é teimoso: montar isso por dentro, com método e alguém do time dono da lógica, vale mais do que terceirizar num projeto que entrega o roteamento pronto e vai embora sem deixar ninguém sabendo mexer. Quando o modelo do mês muda (e muda), a capacidade de reavaliar precisa estar dentro de casa. Essa é a diferença entre comprar uma configuração e construir a competência: se você quer o caminho do meio, dá pra ver como a gente estrutura isso nas soluções prontas e adaptar ao seu volume.

O erro mais comum: decidir pelo preço da API, não pelo custo do erro

O tropeço que mais aparece é olhar só a etiqueta de preço por chamada e concluir "o menor é mais barato, então uso o menor". Isso ignora a metade da conta que não vem na fatura.

Modelo menor que erra mais gera retrabalho. Alguém tem que revisar, corrigir, reprocessar. Se o erro escapa pro cliente, gera reclamação, e reclamação tem custo que não aparece em nenhuma fatura de API: é o gestor parando o dia pra apagar incêndio, é o time no grupo do WhatsApp às sete da noite refazendo o que a IA entregou torto.

A conta que importa não é quanto custa cada chamada. É quanto custa cada resultado correto. Um modelo que custa metade mas erra o dobro pode sair mais caro no fim do mês. Você trocou o custo visível da API pelo custo do retrabalho acumulado em cada ciclo, e achou que economizou.

O outro erro, no sentido oposto, é o medo de trocar. "E se piorar?". Aí a empresa fica pagando modelo caro em tarefa boba por anos, com medo de um teste que levaria uma tarde. Os dois extremos custam. O primeiro custa em qualidade, o segundo em dinheiro parado.

Como testar antes de trocar, sem apostar às cegas

A troca se decide com evidência, e dá pra montar essa evidência em poucos dias.

1. Separe casos reais: pegue de 30 a 50 exemplos verdadeiros da tarefa, com a resposta que você considera certa
2. Rode nos dois modelos: passe os mesmos casos pelo grande e pelo menor, sem mudar mais nada
3. Compare acerto: conte em quantos o menor bateu com a resposta certa e onde ele tropeçou
4. Some o custo real: preço por chamada mais o tempo de revisão que cada erro do menor gera
5. Decida por tarefa: troque só onde o menor mantém qualidade aceitável com custo menor de verdade

O segredo está no passo de separar casos reais. Não use exemplos inventados nem fáceis. Use os casos que a sua operação realmente enfrenta, incluindo os difíceis e os de borda. É neles que o modelo menor mostra se aguenta ou não. Testar só com o fácil gera uma falsa confiança que estoura depois.

E guarde esses casos. Quando surgir um modelo novo (surge toda hora), você roda o mesmo teste em uma tarde e sabe na hora se vale migrar. Sem esse conjunto guardado, cada troca de modelo vira uma decisão no escuro de novo.

Por que isso ainda não é uma ciência exata

Uma honestidade que a gente precisa colocar: não existe um número mágico que diga "modelo menor serve pra tarefas até tal complexidade". A fronteira entre o que o destilado dá conta e o que exige o modelo grande depende da tarefa, da sua tolerância a erro e do modelo específico que você está comparando. Muda de caso pra caso.

O que a gente sabe é o método: teste com casos reais, meça acerto e custo do erro, decida por tarefa. Quem te vender uma tabela universal que dispensa o teste está vendendo confiança que os dados não sustentam.

Outra coisa que muda rápido é o preço e o nome dos modelos. Não vale decorar a spec do mês. Vale entender a lógica: tarefa estreita e repetitiva tende ao menor, raciocínio aberto e risco alto tendem ao maior. Essa lógica não expira. A tabela de preços da semana que vem, sim.

A régua pra decidir cada tarefa

A decisão cabe numa régua simples que você aplica tarefa por tarefa. Não é uma decisão única pra empresa inteira. É uma por tipo de trabalho.

• Volume alto e tarefa estreita (milhares de vezes ao dia, resposta bem definida): teste o modelo menor primeiro. É aqui que a economia é maior e o risco, menor. Se passar no teste com casos reais, troque.
• Volume médio e alguma criação (dezenas a centenas ao dia, formato conhecido): teste, mas com atenção à nuance. Troque só se o menor mantiver a qualidade que o cliente percebe.
• Raciocínio aberto ou risco alto (parecer, estratégia, resposta direta ao cliente sem revisão): fique no modelo grande até ter prova sólida do contrário. Economizar aqui costuma custar mais do que economiza.

O ponto de corte prático: se a tarefa erra e o custo do erro é pequeno, roteie pro menor e economize. Se a tarefa erra e o custo do erro é grande, o modelo caro se paga sozinho. Custo do erro alto pede modelo forte, custo do erro baixo libera o modelo enxuto.

Se você nem sabe hoje quanto de IA está rodando em qual modelo, e onde está queimando conta à toa, começa por aí: mapear as tarefas antes de escolher modelo. Dá pra fazer esse levantamento com o diagnóstico de IA e enxergar onde o modelo menor cabe sem risco.

A maioria das empresas não precisa do modelo mais potente em tudo. Precisa parar de pagar por raciocínio complexo pra fazer trabalho de triagem. Essa economia não aparece em nenhuma linha da fatura. Está distribuída em cada chamada que usou o modelo errado pra tarefa certa.

Relacionados

IA para empresas: o guia completo

Soluções de IA prontas para empresas

Mais de 500 cases reais de IA

Claude conecta 400 apps: por que integração não é adoção

IA generativa cria conteúdo, mas quem revisa continua sendo você