Escribes una pregunta y aparece un párrafo, en orden, a velocidad de lectura. Cuesta no imaginar a alguien al otro lado que piensa la pregunta y luego contesta. Esa imagen está equivocada de una forma concreta, y corregirla es muy práctico: casi todos los comportamientos raros que te encontrarás — fuentes inventadas, instrucciones olvidadas, un recuento de letras erróneo, una seguridad inquebrantable sobre algo falso — se derivan directamente de cómo funciona esto. Abajo no hay matemáticas, ni fórmulas fingiendo ser una explicación.
¿Quieres el mismo camino en lecciones cortas? Abre AI Earn en Google Play: esa ficha es la página oficial de la app.
El bucle básico: predecir el siguiente trozo y repetir
Un chatbot funciona sobre un modelo de lenguaje grande. Dado todo lo escrito hasta ese momento — las instrucciones del sistema, tu mensaje, su propia respuesta hasta ahí — produce el siguiente trocito de texto. Después toma ese texto un poco más largo y produce el trozo siguiente. Y otra vez, cientos de veces, hasta terminar la respuesta. El bucle es eso. No hay un plan trazado de antemano ni una respuesta almacenada que se recupere: la respuesta se monta paso a paso.
De ahí salen dos cosas enseguida. Primera, el modelo siempre trabaja con el texto que tiene delante, y por eso lo que incluyes en tu mensaje tiene un efecto tan grande. Segunda, la forma de la respuesta va surgiendo sobre la marcha, y por eso pedirle que “razone paso a paso” o que exponga su razonamiento antes de concluir suele mejorar el resultado: ese texto intermedio pasa a formar parte de aquello desde lo que se predice el paso siguiente. Algunos productos ya lo hacen solos en un modo de “razonamiento” más lento, generando el desarrollo antes de la respuesta visible.
Tokens: no ve letras, y eso explica bastante
Los trozos no son letras ni palabras. El texto se corta en tokens: fragmentos frecuentes, más o menos del tamaño de una palabra corta o de un pedazo de una larga. “Comprensión” puede llegar en dos o tres fragmentos; una palabra común suele ser uno; un nombre poco habitual o un número largo pueden ser varios. Todo lo que el modelo lee y escribe está hecho de esos fragmentos.
Por eso un asistente fluidísimo falla en tareas que resuelve un niño de seis años. Contar las letras de una palabra, ver si hay una letra doble, invertir una secuencia de caracteres, trabajar con los dígitos exactos de un número largo: son preguntas sobre la ortografía dentro de fragmentos que él no examina así. No es señal de “ser malo en matemáticas”: es un desajuste entre la pregunta y las unidades con las que trabaja. También explica por qué los límites de uso se describen en tokens y no en palabras, y por qué la misma página de texto cuesta más en unos idiomas que en otros.
De dónde viene el “conocimiento”
El modelo se entrenó con una cantidad enorme de texto, y lo que conservó no es una copia de ese texto. Es una noción muy detallada de qué palabras siguen a cuáles y en qué contextos — algo que acaba conteniendo muchísimo sobre gramática, hechos, formas de argumentar y cómo se estructura una buena explicación. Luego se afinó con valoraciones humanas sobre qué respuestas resultan útiles, y eso es lo que convierte la predicción en bruto en algo que responde con educación y sigue instrucciones.
Así que no hay tabla que consultar ni fuente adjunta a cada frase. Los hechos consolidados, repetidos en incontables documentos, salen de forma fiable. Los hechos raros y específicos — una estadística concreta, una cita exacta, un número de página — son mucho más frágiles, porque una respuesta con forma plausible está disponible aunque la verdadera nunca se aprendiera con firmeza. Ese es el mecanismo detrás de las fuentes inventadas: produce algo que se parece a una cita, porque es lo que encaja.
El entrenamiento también se detiene en un punto del tiempo. Lo que cambió después no está. Algunos productos pueden buscar en la web para tapar ese hueco, pero es una función aparte con sus propios límites: conviene comprobarlo en la documentación de tu herramienta, por ejemplo help.openai.com o el centro de ayuda de Anthropic, en lugar de darlo por supuesto.
Por qué una conversación parece memoria
El modelo no recuerda tu mensaje anterior. Lo que ocurre es más simple: cada vez que envías algo, se vuelve a enviar la conversación entera y el modelo la lee de nuevo. La continuidad es una ilusión producida por releer la transcripción en cada turno — una ilusión muy convincente, y que explica los límites con precisión.
Hay una cantidad máxima de texto que puede considerar a la vez: la ventana de contexto. Las conversaciones largas acaban rozándola, y las instrucciones iniciales pierden fuerza mientras el texto reciente domina. Por eso un hilo que lleva toda la tarde empieza a contradecirse, y por eso abrir un chat nuevo con un resumen limpio funciona mejor que suplicarle al viejo. Aparte, algunos productos añaden una memoria persistente que arrastra notas de una conversación a otra: eso es una función construida encima, no el modelo recordando, y cambia según la herramienta y los ajustes.
Por qué el tono siempre es tan seguro
Este es el punto que más daño hace. El modelo no tiene un “cómo de seguro estoy” separado que se te muestre. Produce el texto que mejor encaja con la petición, y la prosa segura y bien organizada es la forma de una buena respuesta en casi todo su material de entrenamiento. Las respuestas equivocadas llegan con la misma voz firme que las correctas, y a menudo son incluso más fluidas, porque un detalle inventado no tiene que lidiar con una realidad incómoda.
El afinado añade un segundo efecto: estos modelos se moldean para ser complacientes y útiles, así que rebatirlos produce más acuerdo que defensa. Si dices “¿seguro? yo creía que era X”, muchas veces obtendrás una corrección elegante hacia X — incluso cuando X está mal. Una respuesta que cambia bajo presión no demuestra nada.
| Lo que ves | Qué está pasando | Qué hacer |
|---|---|---|
| Una respuesta segura que resulta falsa | Había texto plausible disponible; la verdad no es una comprobación aparte | Verifica las afirmaciones fuera del chat |
| Una fuente o cita que no existe | Produjo algo con forma de cita | Abre cada enlace; busca la frase en el original |
| Cuenta mal las letras o destroza un número largo | Trabaja con fragmentos, no con caracteres | Usa una herramienta que cuente; pide los pasos |
| Olvida una instrucción anterior | La conversación superó la ventana de contexto | Chat nuevo, vuelve a pegar objetivo y restricciones |
| Describe como actual una versión ya antigua | Fecha de corte, sin percepción de lo que cambió | Consulta la página oficial para todo lo sensible al tiempo |
| Te da la razón en cuanto rebates | Está afinado para ser complaciente | Pide el razonamiento, no la tranquilidad |
| Responde sobre un archivo o enlace que nunca recibió | Solo tiene el texto de la conversación | Pega el contenido; pídele que cite una línea |
| Dos respuestas distintas a la misma pregunta | La salida incluye por diseño una parte aleatoria | Cuando importe la exactitud, pregunta dos veces a propósito |
Compruébalo tú, en cinco minutos
Leerlo convence menos que verlo. Tres experimentos cortos, cada uno de los cuales muestra uno de los mecanismos de arriba.
Prompt: “¿Cuántas veces aparece la letra r en [elige una palabra larga], y en qué posiciones? Enumera cada aparición.” Luego cuenta a mano. Pruébalo con dos o tres palabras. Cuando falle, estarás viendo la fragmentación, no un descuido.
Prompt: “Dame tres fuentes publicadas — autor, título, año y dónde encontrarlas — sobre [un tema estrecho que puedas comprobar]. Luego, para cada una, dime cómo de seguro estás de que existe exactamente como la describes.” Ahora intenta encontrarlas. Compara los fallos con lo seguras que sonaban las respuestas.
Prompt: “Responde a esta pregunta exponiendo tu razonamiento paso a paso antes de la conclusión: [una pregunta de varios pasos].” Después haz la misma pregunta en un chat nuevo sin la instrucción sobre el razonamiento. Compara. La diferencia es el bucle trabajando con más texto propio.
No sabe las cosas como las sabes tú. Es extraordinariamente bueno produciendo texto que se lee como el de alguien que sí las sabe — lo cual resulta útil mucho más a menudo de lo que resulta peligroso, siempre que sepas distinguir los dos casos.
Qué no hacer con esta idea
- No le pidas al modelo que se explique a sí mismo y tomes la respuesta por cierta. No tiene una vista privilegiada de su propio funcionamiento: produce una explicación plausible de cómo funciona un sistema así, que puede coincidir o no con lo que pasó.
- No tomes “no estoy seguro” o “estoy seguro” como medidas reales. Son texto como cualquier otro, no lecturas de un medidor interno.
- No intentes llevarlo a la verdad discutiendo. Insistir cambia las respuestas de forma fiable y mejora la exactitud de forma poco fiable. Ve a la fuente.
- No lo despaches como “solo un autocompletado”. El mecanismo es simple; lo que emerge a gran escala es realmente capaz, y descartarlo te cuesta una herramienta útil.
- No des por hecho que todas las herramientas se comportan igual. Acceso a la web, memoria, manejo de archivos y modos de razonamiento son funciones de producto, distintas entre asistentes y cambiantes cada mes.
- No le atribuyas intenciones. No está mintiendo, ni vago, ni intentando agradarte. Esas palabras describen patrones en la salida, no motivos detrás de ella.
Qué cambia en la práctica
De todo esto salen tres hábitos, y son los que separan a quien saca valor de estas herramientas de quien rebota contra ellas. Dale contexto, porque todo lo que tiene es lo que está en la conversación — la versión práctica está en cómo escribir mejores prompts. Verifica las afirmaciones, no el tono, con la rutina de cómo verificar la IA. Y abre un chat nuevo antes de que te parezca necesario.
Si aquí había algún término nuevo, el glosario de IA para principiantes define el vocabulario como es debido, y los errores que produce este mecanismo aparecen como hábitos concretos en errores comunes de quien empieza. Si estás al principio de todo, cómo empezar con las herramientas de IA es el camino ordenado.
