¿Qué es el Contexto en IA?

El Contexto en IA es toda la información que un modelo tiene disponible al generar una respuesta: la consulta actual, el historial de la conversación, las instrucciones del sistema, los documentos adjuntos y cualquier dato de fondo relevante. Es lo que permite al modelo entender no solo qué se le pregunta, sino en qué circunstancias, y por tanto responder de forma pertinente en lugar de genérica.

En un modelo de lenguaje, todo ese contexto se convierte en tokens que el modelo procesa de una vez. El límite de cuántos tokens caben se llama ventana de contexto, y es una de las características más decisivas de un modelo: determina cuánto puede "leer" y "recordar" en una misma interacción.

El contexto eleva la calidad de las respuestas porque convierte una pregunta abstracta en una situación concreta. Con buen contexto, un asistente puede:

• Resolver referencias ambiguas ("envíaselo a ella" sabe a quién apunta por la conversación previa).
• Adaptar el tono y el detalle al usuario y a la tarea.
• Apoyarse en datos específicos (un contrato, un informe, un historial) en lugar de en conocimiento general.
• Mantener coherencia a lo largo de un diálogo largo.

No todo el contexto es igual. En sistemas de IA conviven varias capas:

• Contexto de instrucción (system prompt): las reglas y el rol que se fijan antes de la conversación. Es donde se definen comportamiento y guardrails.
• Contexto de conversación: el historial de mensajes intercambiados, que da continuidad al diálogo.
• Contexto del usuario: preferencias, perfil, idioma o configuración que personalizan la respuesta.
• Contexto recuperado: información traída en tiempo real desde fuentes externas, típico de arquitecturas RAG.
• Contexto situacional: señales del entorno como fecha, ubicación o estado del sistema.

La calidad del prompt consiste, en buena parte, en decidir qué meter en el contexto y en qué orden, porque el espacio es limitado.

Cuando la respuesta requiere datos que el modelo no tiene memorizados (documentación interna, normativa actualizada, catálogo de productos), se usa Retrieval-Augmented Generation. En RAG, un buscador recupera los fragmentos más relevantes (a menudo mediante embeddings) y los inyecta en el contexto justo antes de generar la respuesta. Así el modelo razona sobre información fresca y verificable sin necesidad de reentrenarlo.

El reto es que la ventana de contexto es finita: hay que seleccionar y ordenar bien lo recuperado, porque meter demasiado texto irrelevante diluye la atención del modelo y empeora la respuesta.

Si le preguntas a un asistente "¿Qué me pongo hoy?", la respuesta útil depende del contexto: tu ubicación (para el clima), tu calendario (¿reunión formal o día libre?), tus preferencias de estilo y la estación del año. Sin ese contexto, el modelo solo puede dar una respuesta vaga. Con él, recomienda algo concreto y apropiado.

Lo mismo ocurre en soporte técnico: un agente que ve tu historial de pedidos y tu ticket anterior resuelve el problema en un mensaje; uno sin contexto te hace repetirlo todo.

• Ventana finita: superado el límite de la ventana de contexto, el modelo "olvida" lo más antiguo o trunca la entrada.
• Pérdida en el medio (lost in the middle): los modelos tienden a prestar más atención al principio y al final del contexto que a lo que está en mitad de un texto largo.
• Ruido: añadir información irrelevante no ayuda, distrae. Más contexto no es siempre mejor contexto.
• Coste: cada token de contexto se procesa y se paga; ventanas enormes encarecen cada respuesta.

El contexto se enmarca en conceptos como la ventana de contexto, los tokens que lo componen, las arquitecturas RAG que lo enriquecen y los embeddings que permiten recuperar lo relevante. Su buen uso depende del prompt engineering, se puede evaluar mediante benchmarks de IA y los guardrails ayudan a que se utilice de forma segura.