Os cortes de custo silenciosos que partem os teus fluxos depois do lançamento

Toda a gente anda doida com o Opus 4.6 e o GPT-5.3 Codex.Ninguém fala dos cortes de custo silenciosos que partem os teus fluxos de trabalho.

Já vi este padrão antes.

Quando o Gemini 3.0 saiu, a qualidade deixou-me de boca aberta.Raciocínio claro, output forte, superou todas as expectativas.

Duas semanas depois:

• erros estranhos
• raciocínio mais fraco
• outputs que não conseguia reproduzir

O meu primeiro pensamento: “Estraguei os meus prompts?”Depois: “Estava tão entusiasmado que ignorei os erros?”

Até que me surgiu outra ideia. Eis uma explicação possível de que quase ninguém fala.

Depois do lançamento, quando o entusiasmo baixa, as equipas de backend ficam sob enorme pressão para reduzir o custo por pedido.

Com faturas de compute de milhares de milhões e investidores a exigir rentabilidade, o incentivo para otimizar é impossível de ignorar.

Uma das alavancas chama-se “quantização”.

A quantização converte os pesos do modelo de floats de 32 bits em inteiros de 8 ou 4 bits, trocando uma perda subtil de precisão por ganhos enormes de velocidade e memória.

Na prática:• corres o modelo com menor precisão numérica• como comprimir um vídeo 4K para 1080p• cortas o consumo de memória e energia em 50–75%

No papel, a perda de qualidade é “mínima”.Na realidade, os cenários complexos que mais importam para o teu negócio são os primeiros a falhar.

Outra alavanca é encaminhar as tarefas mais simples para modelos mais pequenos.

Sabemos que o GPT-5 já encaminha tarefas de forma dinâmica, consoante o nível de qualidade que ele próprio considera necessário.

Não controlas que nível de qualidade serve o teu pedido. Quem controla é o modelo.

O problema é que o modelo pertence a um fornecedor cujos incentivos não passam por te ajudar a atingir os teus objetivos.

O teu dashboard da API nunca mostra isto.Nenhum log te diz o que o modelo escolheu.O nome do modelo continua igual.A configuração por trás dele não.

Fase de lançamento:• qualidade máxima• ganhar benchmarks• inundar as redes sociais com demos impressionantes

A partir da semana 4:• meter mais pedidos em cada GPU• deslocar recursos nos picos de tráfego• empurrar a economia unitária para números que agradem ao conselho de administração

Os resultados para a tua organização:

Os fluxos de trabalho falham em produção.

Em consequência, as equipas têm de gastar tempo a corrigir prompts ou a mudar a arquitetura, em vez de desenvolverem o próximo sistema.

Os setores regulados ficam com outputs não determinísticos que não conseguem defender.

A análise de causa raiz passa a ser adivinhação e a confiança desaba.

A minha resposta para fluxos críticos: LLM open source alojados por ti, em cloud privada ou on-premise.

Controlas:• a configuração do modelo e o hardware• a arquitetura de serving e o comportamento sob carga• a monitorização da qualidade e os logs de auditoria ao longo do tempo

Segunda-feira às 13:00 é igual a quarta-feira às 2:00.

Nada de “umas vezes brilhante, outras vezes estranho”.

Para empresas médias que automatizam controlo de qualidade, documentação ou operações de clientes, soberania significa controlar tanto os dados como a consistência da qualidade.

Ainda assim, estou muito entusiasmado por continuar a testar o Opus 4.6 e levá-lo ao limite.

Em produção, porém, importa-me mais o comportamento no terceiro mês do que o desempenho na primeira semana.

Sou só eu, ou também estás a ver isto?