La Burbuja de los Tokens

Primero, lo básico: qué es un token

Antes de hablar de dinero, hay que entender una palabra: token. Un token es la unidad mínima con la que trabaja la IA. No es exactamente una palabra, ni una letra. Es un fragmento de texto de aproximadamente cuatro caracteres, más o menos tres cuartas partes de una palabra en inglés. «Hello, world!» son unos cuatro tokens. Una conversación larga puede ser decenas de miles.

Cada vez que le escribes algo a Claude, a ChatGPT o a cualquier modelo, estás enviando tokens. Cada vez que el modelo te responde, genera más tokens. Y cada token tiene un coste computacional real, medido en operaciones que una máquina tiene que ejecutar.

La máquina detrás de la respuesta

Aquí entra el hardware. Cuando preguntas algo a una IA, la respuesta no aparece por arte de magia. Hay una GPU procesándola.

Una CPU, el procesador tradicional de cualquier ordenador, está diseñada para hacer pocas cosas muy rápido y de forma secuencial. Es buena en tareas complejas que requieren lógica, una detrás de otra. Una GPU, en cambio, fue diseñada originalmente para videojuegos: tiene miles de núcleos pequeños que hacen muchas operaciones simples en paralelo al mismo tiempo. Esa arquitectura resulta ser perfecta para la IA, que necesita multiplicar matrices enormes de números millones de veces por segundo.

Una GPU de gama alta como la NVIDIA H100, el estándar actual en centros de datos de IA, puede procesar miles de tokens por segundo. Suena a mucho. El problema es que no sirve a un único usuario. Sirve a decenas, a veces cientos de usuarios simultáneamente, repartiendo su capacidad entre todos. Y cuando los modelos son más grandes, o las conversaciones más largas, o el usuario está usando un agente que hace múltiples llamadas encadenadas, el consumo se dispara.

Un agente de IA no hace una sola pregunta al modelo. Hace varias: una para planificar, otra para ejecutar, otra para revisar, otra si hay error y hay que reintentar. Cada una consume tokens. Cada token consume cómputo. Y el cómputo tiene un coste real, medido en electricidad, en hardware y en tiempo de GPU.

Hablaría aquí de todo el problema de los centros de datos de IA, la infraestructura que hace posible todo esto y lo que está costando construirla, pero daría para un artículo entero. Lo escribiré en otro momento.

El negocio que no cuadra

Durante años, Anthropic, OpenAI y GitHub han operado con un modelo que en cualquier otra industria levantaría cejas: cobrar menos de lo que cuesta el servicio y asumir la diferencia con capital de inversores.

Los números son llamativos. Según análisis publicados por Forbes, un usuario del plan Max de Claude a 200 dólares al mes puede llegar a consumir hasta 5.000 dólares en cómputo real. La suscripción cubre el 4% del coste. El resto lo paga Anthropic con dinero de inversores.

GitHub Copilot opera con una lógica similar. Bajo su sistema actual, un usuario puede consumir hasta ocho veces el valor de su suscripción en recursos computacionales. Una persona pagando 10 dólares al mes puede estar usando 80 dólares en cómputo. GitHub absorbe la diferencia en silencio. Esto no es sostenible. El paso a facturación por tokens no es una posibilidad, es una cuestión de tiempo. Cuando una empresa subsidia hasta ocho veces el coste real de cada usuario, el modelo tiene fecha de caducidad.

La lógica detrás de todo esto era sencilla: crecer primero, cobrar después. Primero consigues usuarios, luego ya encontrarás la forma de que el negocio sea rentable. Es la misma lógica que usó Uber, que usó Netflix, que usaron muchas plataformas digitales en sus primeros años.

El problema es que con la IA, el coste no baja con la escala. Al contrario.

Lo que viene

El paso a la facturación por tokens no es solo un cambio de modelo de negocio. Es el momento en que el coste real de la IA empieza a ser visible para el usuario final.

Hasta ahora, la subvención ocultaba ese coste. Un desarrollador que usaba Claude Code ocho horas al día no veía lo que realmente consumía. Una empresa que desplegaba agentes para automatizar procesos tampoco. Cuando ese coste aparezca en la factura, las decisiones cambiarán. Se elegirá el modelo más barato para tareas simples. Se optimizarán los prompts para consumir menos tokens. Se cuestionará si determinada automatización realmente vale lo que cuesta.

Eso es sano. Pero también es el fin de una época en la que usar IA parecía casi gratis porque alguien más pagaba la diferencia.

La pregunta que queda es si, cuando el precio sea real, la propuesta de valor seguirá siendo suficiente. Para algunos usos, casi seguro que sí. Para otros, la respuesta será menos clara de lo que parecía cuando todo estaba subvencionado.