← Volver a proyectos2025-02-20
Chatbot RAG en Azure
Chatbot especializado para un corpus regulado usando Azure OpenAI, Cognitive Search y vectores optimizados para latencia.
RAGAzurePrompt Engineering
Impacto
Redujo un 90% la latencia de recuperación y mejoró la precisión.
Stack
Azure OpenAICognitive SearchAzure FunctionsRedis Vector DBApplication Insights
Servicio relacionado
Sistemas RAG
Sistemas de retrieval enterprise, asistentes de conocimiento y trabajo de calidad/latencia para respuestas con grounding.
Ver Sistemas RAG →Problema
Los expertos necesitaban respuestas bilingües con referencia a PDFs de políticas, artículos de Confluence y tablas SQL. Los bots anteriores expiraban o alucinaban bajo carga.
Solución
- Workers en Azure Functions normalizan la data y generan embeddings almacenados en Redis.
- Prompts con plantillas y pruebas automáticas garantizan paridad ES/EN y cuentan con cadenas de fallback cuando falta contexto.
- Telemetría con Application Insights y dashboards que trazan el costo por conversación.
Resultado
El tiempo de respuesta pasó de ~12 segundos a menos de uno, con mayor confianza gracias a reranking adaptativo y citas automáticas.
Proyectos
¿Necesitas un sistema así en tu equipo?
Ayudo a equipos a llevar agentes documentales, copilotos RAG, pipelines de visión artificial y automatizaciones operativas a producción sin quedarse en prototipos.