AI Bloat: el desperdicio que se paga en cada llamada

Qué es el AI Bloat

AI Bloat es todo el contenido que enviamos a un sistema de IA y que consume presupuesto sin cambiar el resultado. La definición amplia abarca muchas cosas —contexto recuperado de más, historial que ya no hace falta, herramientas declaradas que nunca se usan—, pero una definición que abarca todo no se puede medir.

Así que trabajamos con una definición estrecha, que es la que sí se puede comprobar: el texto que se puede quitar de un prompt sin alterar lo que pide. Todo lo que decimos a continuación se refiere a esa, y cuando digamos una cifra estará medida sobre ella.

El nombre viene del «software bloat», el mismo fenómeno en programas que crecen sin que nadie decida que crezcan. Un prompt engorda igual: alguien añade una frase porque el modelo falló una vez, la frase funciona, y ahí se queda para siempre.

Por qué importa: se multiplica

El desperdicio en un prompt no se paga una vez. La parte fija —el prompt de sistema, las instrucciones que siempre viajan— se envía en todas y cada una de las llamadas que hace tu producto.

Mil tokens sobrantes en un producto que hace diez mil llamadas al día son diez millones de tokens diarios que no dependen de lo que haga ningún usuario. Recortar un 30 % de esa parte fija no ahorra el 30 % de una llamada: ahorra tres millones de tokens al día, todos los días, sin tocar la calidad de una sola respuesta.

Y si no pagas por API, sigue costándote. Cada token ocupa ventana de contexto y acerca el momento en que la conversación se corta o el modelo empieza a olvidar el principio. Es el mismo desperdicio cobrado en otra moneda.

Cómo se mide

La medida básica es la tasa de bloat: la proporción de tokens que se pueden quitar sin cambiar lo que el prompt pide.

Se calcula contando los tokens del texto original, aplicando un conjunto de reglas conocido y contando los tokens del resultado. La diferencia, dividida entre el original, es la tasa. Nada más.

Lo que hace que esa cifra sirva para algo es que sea determinista: el mismo prompt da el mismo número hoy y dentro de un año, y cualquiera puede repetir la operación y obtener lo mismo. Una herramienta que reescribe llamando a un modelo no puede darte eso, porque su respuesta cambia entre ejecuciones — y si el resultado cambia, no hay forma de saber cuánto has ahorrado.

• ·Se mide sobre el texto sin el código, las URL ni las variables: eso no es desperdicio ni instrucción, así que queda fuera del cálculo en lugar de contaminarlo.
• ·El conteo exacto lo da el tokenizador del propio modelo. Una estimación por caracteres sirve para el orden de magnitud, no para decidir.
• ·Las tasas se comparan dentro de un mismo idioma. El castellano fragmenta peor y arrastra más perífrasis que el inglés, así que comparar entre idiomas no dice nada.

De qué está hecho el desperdicio

No todo el texto que sobra sobra igual, y distinguirlo importa porque el riesgo de quitarlo no es el mismo. Estas seis categorías van de menos a más invasivas.

• ·Cortesía: saludos, «por favor», agradecimientos y despedidas. El modelo no obedece mejor por educación. Es la categoría más grande en prompts escritos por personas.
• ·Relleno: muletillas y refuerzos como «es muy importante que» o «recuerda siempre». Si la instrucción ya está en imperativo, el refuerzo no añade obediencia.
• ·Verbosidad: perífrasis que se pueden decir más corto. «Con el fin de» por «para», «en el caso de que» por «si». Cambia la longitud, no el significado.
• ·Redundancia: la misma regla dicha dos veces con otras palabras. Es el residuo típico de meses de parches y suele ser lo que más ocupa en un prompt de sistema veterano.
• ·Estructura: definiciones de rol infladas. «Eres un analista financiero» hace lo mismo que cuatro líneas describiendo su experiencia.
• ·Formato: separadores decorativos, sangrías profundas y espaciado sobrante. Parece organización y se factura como texto.

Lo que esta medida todavía no ve

Conviene decirlo antes que nadie, porque es lo que decide si una medida se puede usar para tomar decisiones o solo para enseñarla.

La tasa mide el texto que un conjunto de reglas puede reconocer y quitar. No detecta que dos párrafos digan lo mismo con palabras distintas: «responde en español» y «recuerda que tienes que contestar en castellano» son, para una comparación literal, dos frases diferentes. Un prompt de sistema muy inflado por repetición reformulada puede dar una tasa baja y estar lleno de desperdicio.

Tampoco mide calidad. Una tasa de cero no significa que el prompt sea bueno: significa que no tiene grasa reconocible. Se puede escribir un prompt pésimo y perfectamente compacto.

Y las reglas las decide alguien. Es la crítica más razonable que se le puede hacer a cualquier medida de este tipo, y la única respuesta válida es publicar las reglas para que se puedan discutir una a una.

Por qué no es prompt engineering ni «optimizar tokens»

El prompt engineering es un oficio: busca que el modelo haga lo que quieres. El AI Bloat es una medida: dice cuánto te cuesta pedírselo. Son ejes independientes, y por eso un prompt puede estar excelentemente diseñado y ser enorme al mismo tiempo.

«Optimizar tokens» nombra la solución, que es lo que hace un proveedor cuando describe su producto. AI Bloat nombra el problema, que es lo que hace quien lo sufre. La diferencia no es de estilo: nadie compró nunca «refactorización», se compra porque se tiene deuda técnica.