Los recortes de costes silenciosos que rompen tus flujos de IA tras el lanzamiento

Todo el mundo se está volviendo loco con Opus 4.6 y GPT-5.3 Codex.Nadie habla de los recortes de costes silenciosos que rompen tus flujos de trabajo.

Ya he visto este patrón antes.

Cuando salió Gemini 3.0, la calidad me dejó impresionado.Razonamiento claro, resultados sólidos, superaba todas las expectativas.

Dos semanas después:

• errores extraños
• razonamiento más flojo
• resultados que no conseguía reproducir

Mi primer pensamiento: «¿He roto mis prompts?»Después: «¿Estaba tan entusiasmado que pasé por alto los errores?»

Luego me vino otra idea. Es una posible explicación de la que casi nadie habla.

Tras el lanzamiento, cuando baja el ruido, los equipos de backend sufren una presión enorme para reducir el coste por petición.

Con facturas de compute de miles de millones de dólares e inversores que exigen rentabilidad, el incentivo para optimizar es imposible de ignorar.

Una de las palancas se llama «cuantización».

La cuantización convierte los pesos del modelo de números en coma flotante de 32 bits a enteros de 8 o 4 bits: sacrifica algo de precisión a cambio de grandes ganancias en velocidad y memoria.

En la práctica:• ejecutas el modelo con menos precisión numérica• como comprimir un vídeo 4K a 1080p• reduces el uso de memoria y energía en un 50–75%

Sobre el papel, la pérdida de calidad es «mínima».En la realidad, los escenarios complejos que más importan a tu negocio son los primeros en fallar.

Otra palanca es derivar las tareas más sencillas a modelos más pequeños.

Sabemos que GPT-5 ya enruta las tareas de forma dinámica según el requisito de calidad que él mismo determina.

Tú no controlas qué nivel de calidad atiende tu petición. Lo controla el modelo.

El problema es que el modelo pertenece a un proveedor cuyos incentivos no pasan por ayudarte a conseguir tus objetivos.

Tu panel de la API nunca lo muestra.Ningún log te dice qué eligió el modelo.El nombre del modelo sigue siendo el mismo.La configuración que hay detrás, no.

Fase de lanzamiento:• calidad máxima• ganar benchmarks• inundar las redes sociales con demos espectaculares

De la semana 4 en adelante:• meter más peticiones en cada GPU• reasignar recursos en las horas punta• llevar la economía unitaria a un terreno que guste al consejo

Las consecuencias para tu organización:

Los flujos de trabajo fallan en producción.

Como resultado, los equipos tienen que dedicar su tiempo a arreglar prompts o cambiar la arquitectura, en lugar de desarrollar el siguiente sistema.

Los sectores regulados se enfrentan a resultados no deterministas que no pueden defender.

El análisis de la causa raíz se convierte en conjeturas y la confianza se desploma.

Mi respuesta para los flujos de trabajo críticos: LLM open source autoalojados, en nube privada o on-premise.

Tú controlas:• la configuración del modelo y el hardware• la arquitectura de servicio y el comportamiento bajo carga• la monitorización de la calidad y los logs de auditoría a lo largo del tiempo

El lunes a la 1:00 pm el modelo responde igual que el miércoles a las 2:00 am.

No «a veces brillante, a veces extraño».

Para las empresas medianas que automatizan el control de calidad, la documentación o la atención al cliente, soberanía significa controlar tanto los datos como la constancia de la calidad.

Aun así, tengo muchísimas ganas de seguir probando Opus 4.6 y llevarlo al límite.

Pero en producción me importa más cómo se comporta en el tercer mes que cómo rinde la primera semana.

¿Soy solo yo o tú también lo estás viendo?