RAG: cómo un asistente encuentra la respuesta en tus documentos
Un asistente que responde con tus datos no los memoriza: los busca en cada pregunta. Elegí una consulta y mirá qué fragmentos llegan al modelo.
- RAG
- Asistentes
- Documentos
Cuando armo un asistente para un negocio, la primera pregunta suele ser «¿hay que entrenar a la IA con nuestros datos?». Casi nunca. Lo que se hace es más simple y más confiable: en cada pregunta, el sistema busca en tus documentos los fragmentos que sirven y se los pasa al modelo junto con la consulta. Se llama RAG (generación aumentada por recuperación) y es la diferencia entre un bot que inventa y uno que responde con tus políticas reales.
Cómo funciona, en tres pasos
- Cortar. Tus documentos (preguntas frecuentes, políticas, catálogo) se parten en fragmentos cortos, de un tema cada uno.
- Buscar. Cuando llega una pregunta, se compara su significado con el de cada fragmento y se le da a cada uno un puntaje de parecido. No busca palabras iguales: «¿en cuánto me llega?» encuentra el fragmento de plazos aunque no comparta ninguna palabra con él.
- Responder. Los mejores tres fragmentos van al modelo con una instrucción clara: «respondé solo con esta información».
Probalo con una tienda de ejemplo. Elegí una consulta y mirá cómo se reordenan los fragmentos:
Cliente«¿Hacen envíos a Córdoba?»
- Envíos: llegamos a todo el país por correo; en AMBA, con moto propia. 0,91 Va al modelo
- Plazos: en AMBA entregamos en 24 a 48 h hábiles; al interior, de 3 a 6 días. 0,62 Va al modelo
- Retiro en el local: sin cargo, desde 2 h después de la compra. 0,55 Va al modelo
- Cambios: tenés 30 días para cambiar cualquier producto sin uso. 0,21 Va al modelo
- Pagos: tarjeta de crédito hasta en 6 cuotas, débito, transferencia y Mercado Pago. 0,12 Va al modelo
- Horario: lunes a viernes de 9 a 18; sábados de 10 a 14. 0,09 Va al modelo
Respuesta del asistente
¡Sí! Enviamos a todo el país por correo y, en AMBA, con moto propia. Si te queda cómodo, también podés retirar sin cargo en el local.
Puntajes de parecido de ejemplo. Los tres mejores fragmentos viajan al modelo junto con la pregunta.
Dónde se rompe
Casi todos los problemas de un RAG están en el primer paso, no en el modelo:
- Fragmentos que mezclan temas. Si envíos y pagos están en el mismo párrafo, el puntaje se confunde y al modelo le llega información que no pidió.
- Información vieja. El asistente repite con total confianza lo que diga el documento, aunque los precios hayan cambiado hace dos meses.
- Preguntas sin respuesta. Si ningún fragmento tiene buen puntaje, lo correcto es decir «no lo sé, te paso con alguien», no improvisar. Eso se configura, y es lo primero que configuro.
Lo que necesitás para empezar
Menos de lo que parece: un documento ordenado con las preguntas que más te hacen y sus respuestas reales. Con eso ya se arma una primera versión. Lo demás (conectarlo al stock, a la agenda, a WhatsApp) se suma después, cuando la base responde bien.
Más del blog
- Tokens: cómo lee un modelo (y por qué te cobra así) Los modelos no leen letras ni palabras: leen pedazos. Escribí algo y mirá cómo lo corta, cuánto pesa y cuánto cuesta.
- Temperatura: la perilla que decide si la IA inventa Un modelo de lenguaje no elige palabras: tira dados cargados. Girá la perilla y mirá cómo cambia la apuesta.
- Cuánto te cuesta no automatizar (hacé la cuenta) Las tareas repetitivas no aparecen en ninguna factura, pero se pagan todos los meses. Mové los números y mirá cuánto se lleva la tuya.
¿Tenés algo parecido en mente?
Hablemos