Tokens: cómo lee un modelo (y por qué te cobra así)

Todos los servicios de IA cobran «por token», y casi nadie sabe qué es un token. No es un detalle técnico: entenderlo te ayuda a estimar costos, a escribir mejores instrucciones y a entender por qué a veces el modelo se equivoca con cosas que parecen tontas, como contar letras.

Pedazos, no palabras

Antes de leer tu texto, el modelo lo corta en pedazos llamados tokens. Las palabras comunes suelen ser un solo token; las largas o poco frecuentes se parten en dos o tres; los signos de puntuación van aparte; los números se cortan en grupos. En español, como regla práctica, un token equivale a unos cuatro caracteres.

Escribí lo que quieras y mirá cómo se corta. Con «Leer como el modelo», el marco recorre el texto de a un pedazo, en el orden en que lo procesa la máquina:

Por qué te importa

El costo. Las APIs cobran por tokens de entrada (lo que mandás: instrucciones, historial, documentos) y de salida (lo que responde). Un asistente que manda todo el catálogo en cada mensaje gasta diez veces más que uno que manda solo lo relevante.

El límite. Cada modelo tiene una ventana máxima de tokens. Si una conversación larga la llena, lo primero que se pierde es el principio: las instrucciones que le diste.

Los errores raros. Como el modelo ve pedazos y no letras, contar cuántas «r» tiene una palabra o escribirla al revés le cuesta más de lo que parece. No es que sea tonto: nunca vio las letras sueltas.

Tres hábitos que bajan la cuenta

1. Escribí instrucciones cortas y concretas. Cada palabra de más se paga en cada mensaje.
2. No mandes el historial completo: mandá un resumen de lo importante.
3. Buscá antes de preguntar. En vez de pegar todos tus documentos, mandá solo los fragmentos que responden la pregunta. Eso tiene nombre, RAG, y es el tema de la próxima nota.