Imagina que una empresa tiene todos sus documentos en un repositorio interno: catálogos, políticas comerciales, manuales, listas de productos y procedimientos.
Construyen un agente de IA, conectan esos documentos y hacen una pregunta sencilla:
«¿Cuál es el precio del producto X?»
El agente responde:
«El precio es $149.99.»
Suena bien.
El problema es que el precio real es $129.99.
«¿Cuál es el precio del producto X?»
$149.99
Producto X
$129.99
Entonces aparece la pregunta inevitable:
¿Por qué se equivoca mi agente si ya le dimos la información?
Y lo más incómodo: probablemente nadie pueda decirte por qué. Sin trazabilidad, $149.99 es un número que apareció. No sabemos si salió de un PDF viejo, de otro producto o de una alucinación. Si el agente no tiene observabilidad, tampoco se puede gobernar.
La respuesta empieza por entender qué es realmente un Large Language Model (LLM), o en español, un modelo de lenguaje —yo diría— gigante.
Y visualizar esto, te puedo ayudar mucho porque la clave es lenguaje. Un LLM no es el tipo de modelo al que estábamos acostumbrados. Un modelo estadístico o matemático suele estimar una relación en los datos. Un modelo de lenguaje estima qué texto sigue. Por eso puede sonar correcto sin estar consultando el precio.
Un LLM no es una base de datos
Un LLM es extraordinariamente bueno procesando lenguaje: puede resumir, clasificar, explicar, transformar información y generar respuestas.
Pero no funciona como una tabla de Excel o una base de datos.
Cuando un sistema de base de datos almacena:
Producto X → $129.99
existe una relación explícita que puede ser consultada.
Un LLM, en cambio, genera una respuesta a partir de patrones aprendidos, probabilidades y del contexto que recibe. Además, al generar y compartir su respuesta, puede hacerlo con exceso de confianza.
Por eso puede producir una respuesta que suena correcta sin que necesariamente sea correcta. Y por eso mismo, la respuesta que le dio a Ana ayer puede ser diferente a la que le dio a Luis hoy. Ante una misma pregunta, un LLM puede generar respuestas diferentes dependiendo del contexto que recibe y de cómo esté configurado el sistema.
Producto X → $129.99
Existe una relación explícita que puede ser consultada.
Patrones → probabilidad → texto
Genera una respuesta a partir de patrones aprendidos y del contexto que recibe.
Hay una idea de la biología que puede ayudarnos a pensar en esto.
Genotipo contiene la información de base. Pero lo que finalmente observamos, el fenotipo, es el resultado de esa información en interacción con su ambiente.
Cuando hablamos de LLM, el modelo no es la respuesta.
Modelo + Contexto → Respuesta
La respuesta emerge de la interacción entre el modelo y el contexto que recibe: el prompt, la información recuperada, las herramientas disponibles, las instrucciones del sistema y la forma en que hemos diseñado el sistema alrededor del modelo.
Esta diferencia es fundamental cuando empezamos a utilizar LLMs dentro de procesos empresariales.
Pero que el agente pueda leer el documento no significa que pueda responder correctamente cualquier pregunta sobre él.
¿Cuál es la fuente de verdad?
Aquí aparece una pregunta más importante que "¿puede el modelo encontrar el dato?":
¿Cuál es la fuente de verdad para esta pregunta?
No toda la información de una empresa vive en el mismo lugar, ni debería consultarse de la misma manera.
Para conocer un procedimiento, un documento puede ser la fuente adecuada.
Para una política comercial, probablemente también.
Para entender las características de un producto, un catálogo puede ser suficiente.
Pero si preguntamos:
«¿Cuál es el precio actual del producto X para este cliente?»
la respuesta probablemente no debería depender únicamente de un PDF.
Puede requerir consultar el ERP, una base de datos de precios o una capa de datos gobernada que concentre la información relevante y sus reglas de negocio.
La diferencia es importante.
RAG puede ayudar al modelo a encontrar información. Pero recuperar información no significa que esa información sea la fuente autorizada para responder la pregunta.
Por eso, una arquitectura empresarial puede combinar distintas fuentes:
El reto, entonces, no es simplemente conectar un LLM a todos los documentos de la empresa.
Es diseñar un sistema que pueda determinar qué fuente debe utilizar para cada tipo de pregunta.
Leer un documento no es lo mismo que consultar un sistema
Supongamos que tenemos un PDF con información de productos.
Podemos pedirle a un modelo:
«¿Qué características tiene este producto XYZ?»
Es una tarea donde un LLM puede aportar muchísimo valor.
Podemos utilizar Retrieval-Augmented Generation (RAG) para recuperar la información relevante del documento y entregársela al modelo antes de generar la respuesta.
Pero ahora cambiemos la pregunta:
«¿Cuál es el precio actual del producto XYZ?»
Aquí aparece otro problema.
- El PDF muestra precios por códigos, no por nombre comercial. ¿A cuál código pertenece el producto XYZ?
- ¿Es el precio que aparece en el PDF? ¿Es el producto XYZ 0 km o el 2 km?
- ¿Es el precio vigente en el ERP?
- ¿El documento está actualizado?
- ¿Existe una lista de precios más reciente?
- ¿El precio depende del cliente o del mercado?
Esa pregunta no es de lenguaje.
Es una pregunta sobre datos y su significado dentro de tu empresa, es decir, sobre ontología o semántica.
Ahí es donde los agentes empiezan a ser interesantes
Un agente de IA puede utilizar un LLM para interpretar la intención del usuario y decidir qué necesita hacer.
Por ejemplo:
Usuario: «¿Cuál es el precio del producto X para este cliente?»
El LLM puede determinar que necesita:
- identificar el producto;
- identificar al cliente;
- consultar el sistema de precios o, preferiblemente, una base de datos que se construya para este propósito y que además tenga una capa semántica;
- aplicar las reglas correspondientes;
- obtener el resultado;
- explicárselo al usuario.
El LLM no tiene que ir al PDF a buscar el precio. Esa consulta puede ser determinística: una herramienta que pregunta al sistema que realmente lo tiene.
Esta combinación entre modelos de lenguaje y herramientas externas es precisamente una de las ideas fundamentales detrás de los sistemas agénticos: el modelo puede razonar sobre qué acción necesita realizar, o podemos programar que, en determinados casos, consulte un sistema específico y utilice herramientas externas para obtener información o ejecutar acciones.
No permitimos que el modelo razone el precio. Que lo pida.
La arquitectura correcta puede combinar ambos
Un agente empresarial podría hacer algo como esto:
Usuario
LLM
identifica intención
Fuente adecuada
ERP · precios · reglas
Validación
determinista
LLM
comunica
Respuesta
«El precio actual para el producto X es $129.99. Este precio corresponde a la lista vigente para el cliente seleccionado.»
fuente: lista de precios vigente · validado
El LLM se encargó de entender y comunicar.
El sistema fuente se encargó de proporcionar el dato.
La diferencia parece pequeña, pero arquitectónicamente es enorme.
La pregunta no debería ser "¿qué tan inteligente es mi agente?"
Cuando una empresa evalúa un agente de IA, es lógico preguntar:
«¿Qué tan inteligente es el modelo? ¿Qué tan bueno es?»
Para aplicaciones empresariales hay preguntas más importantes:
- 01
¿De dónde obtiene la información?
- 02
¿Qué fuente tiene autoridad?
- 03
¿Qué información es estructurada?
- 04
¿Qué información es documental?
- 05
¿Qué operaciones requieren determinismo?
- 06
¿Qué puede consultar el agente?
- 07
¿Qué puede modificar?
- 08
¿Cómo valida los resultados?
- 09
¿Cuándo debe decir "no tengo suficiente información"?
- 10
¿Cuándo debe escalar a una persona?
- 11
¿Podemos ver por qué respondió eso?
La calidad de un agente no depende únicamente del modelo. Depende de cómo está diseñado el sistema alrededor del modelo.
Transparencia: En Entrópica usamos IA como parte de nuestro proceso de investigación y edición. El contenido refleja nuestro conocimiento, experiencia y criterio.