Token

Un token es la unidad básica con la que un modelo de lenguaje (LLM) lee y produce texto. No es exactamente una palabra ni una letra: es un fragmento, que puede ser una palabra corta entera ("casa"), parte de una palabra larga ("inter" + "nacional"), un espacio, un número o un signo de puntuación. Antes de procesar cualquier instrucción, el modelo descompone el texto en tokens mediante un proceso llamado tokenización, y trabaja siempre sobre esa lista de unidades.

La importancia práctica del token es doble. Primero, define los límites técnicos: cada modelo tiene una ventana de contexto medida en tokens, que es el máximo de texto (entrada más salida) que puede manejar en una sola interacción. Segundo, define los costos: los proveedores de IA cobran por cantidad de tokens de entrada y de salida, no por palabras. Entender esta unidad es clave para diseñar agentes de IA y automatizaciones que sean a la vez precisos y rentables.

Una regla práctica útil para el español: 1 token equivale aproximadamente a 0,75 palabras, o dicho al revés, unas 100 palabras suelen ocupar entre 130 y 150 tokens. El español tiende a usar algo más de tokens que el inglés por sus tildes y palabras más largas.

Cómo se forma un token

El token nace de un proceso llamado tokenización, donde un algoritmo (típicamente BPE, por las siglas en inglés de Byte Pair Encoding) divide el texto en las unidades más frecuentes de un vocabulario fijo aprendido durante el entrenamiento. Las palabras comunes suelen ser un solo token; las raras, los nombres propios o los términos técnicos se parten en varias piezas. Por ejemplo, "WhatsApp" puede convertirse en dos o tres tokens, mientras que "el" es uno solo. Cada token se traduce luego a un número (un ID del vocabulario), que es lo que el modelo realmente procesa al calcular embeddings y predecir el siguiente token.

Esto explica una característica central de los LLM: generan texto token por token. El modelo no escribe una respuesta completa de golpe, sino que predice el token más probable, lo agrega y vuelve a predecir el siguiente, repitiendo el ciclo hasta terminar. Por eso las respuestas aparecen "escribiéndose" en pantalla y por eso una respuesta larga tarda y cuesta más que una corta.

Por qué el token importa para tu negocio

Para cualquier proyecto de IA aplicada, el token es la unidad económica y operativa. Hay tres motivos concretos:

• Costo: la factura de un modelo se calcula multiplicando los tokens consumidos por su precio unitario, con tarifas distintas para entrada y salida (la salida suele ser más cara). Un prompt verboso o un historial de conversación largo inflan el gasto sin que el usuario lo perciba.
• Límite de contexto: si la suma de tokens de entrada y salida supera la ventana de contexto del modelo, el texto se trunca o la llamada falla. Esto obliga a resumir, recortar o usar técnicas como RAG para no exceder el límite.
• Latencia: más tokens de salida significan más tiempo de generación. Un agente que responde por WhatsApp con párrafos enormes se siente lento; uno conciso responde rápido.

Un ejemplo concreto

Pensemos en una empresa de Consumo Masivo en Argentina que despliega un agente de atención en WhatsApp. Cada conversación incluye: las instrucciones del sistema (unos 800 tokens fijos), el historial de los últimos mensajes (otros 1.200), la consulta del cliente (50) y la respuesta generada (200). Eso da unos 2.250 tokens por interacción. Si el agente atiende 10.000 conversaciones por mes, son 22,5 millones de tokens mensuales. Reducir el prompt del sistema de 800 a 400 tokens y acortar el historial puede bajar el costo a la mitad sin perder calidad de respuesta, simplemente diseñando con conciencia del token.

Errores comunes

El primero es confundir tokens con palabras o caracteres: estimar costos suponiendo "1 palabra = 1 token" subestima el gasto en español hasta en un 30%. El segundo es ignorar el historial acumulado: en una conversación larga, cada turno reenvía todo lo anterior, así que el consumo de tokens crece de forma no lineal. El tercero es abusar del few-shot: agregar muchos ejemplos al prompt mejora la precisión pero multiplica los tokens de entrada en cada llamada. La ingeniería de prompts bien hecha equilibra precisión y economía de tokens.

Token frente a otras unidades

Es habitual mezclar el token con conceptos vecinos. Esta tabla los separa:

La conclusión práctica: cuando planifiques una automatización con IA, estimá siempre en tokens, no en palabras. Calcular el promedio de tokens por interacción y proyectarlo al volumen mensual te da un costo realista y te permite optimizar el diseño antes de poner el agente en producción.