Asistentes de IA con Documentación Propia
Un asistente de IA ajustado a medida es un modelo de lenguaje adaptado a la documentación, los datos de producto o la base de conocimiento interna de una empresa, a diferencia de un chatbot genérico que solo responde con datos públicos. Sirve a equipos de soporte, preventa o personal interno que consultan constantemente manuales, tickets, políticas o código para responder preguntas que un modelo genérico respondería mal o de forma vaga. FreyreSoft parte de un modelo base de pesos abiertos y aplica fine-tuning con LoRA o QLoRA sobre un conjunto curado de textos propios de la empresa, normalmente combinado con una capa de recuperación de información que trae los documentos vigentes en cada consulta, para que las respuestas se mantengan precisas aunque el material cambie. El resultado se despliega como herramienta interna o como asistente de cara al cliente, ajustando el equilibrio entre fine-tuning y recuperación según la frecuencia de cambio de la documentación.
¿Por qué no alcanza con un chatbot genérico?
Los chatbots genéricos responden con datos de entrenamiento públicos, así que o bien no pueden contestar preguntas específicas de la empresa o, peor aún, responden con seguridad información desactualizada o simplemente incorrecta. Los equipos de soporte terminan resolviendo las mismas consultas una y otra vez porque el bot no puede consultar manuales internos, reglas de precios, fichas de producto ni el historial de tickets resueltos. Los equipos internos enfrentan el mismo problema al revés: ingenieros, personal comercial u operaciones pierden tiempo buscando en wikis y carpetas compartidas respuestas que ya existen en algún documento de la empresa. Llamar a un modelo público por API no resuelve esto, porque el modelo nunca vio ese material durante su entrenamiento y no tiene forma confiable de recuperarlo al momento de responder sin ingeniería adicional.
¿Cómo lo construye FreyreSoft?
El punto de partida es un modelo base de pesos abiertos de tamaño adecuado para la carga de trabajo, porque un modelo más chico ajustado con los datos correctos suele rendir mejor en un dominio específico que un modelo mucho más grande usado tal cual. FreyreSoft aplica LoRA o QLoRA para adaptar los pesos del modelo al tono, la terminología y los patrones de preguntas típicos de la empresa, usando un dataset curado y limpio construido a partir de documentación existente, transcripciones de soporte o contenido de producto, en vez de exportaciones sin filtrar. El fine-tuning rara vez es toda la solución: la mayoría de los proyectos lo combinan con una capa de recuperación que indexa los documentos vigentes e inyecta los pasajes relevantes en cada consulta, para que el asistente refleje material publicado después del último entrenamiento sin necesidad de reentrenar. Cuando el uso es de cara al cliente, esto suele correr detrás de una API con registro y evaluación para medir la calidad de las respuestas y actualizar el fine-tuning o el índice de recuperación según cambie la documentación.
Tecnología que solemos usar
- Modelos base de pesos abiertos
- Fine-tuning con LoRA / QLoRA
- Pipelines de entrenamiento en PyTorch
- Modelos de Hugging Face
- Generación aumentada por recuperación (RAG)
- Bases de datos vectoriales
- Pipeline de evaluación y logging
Qué suele incluir un proyecto así
- Curar y limpiar documentación para armar el dataset de fine-tuning
- Elegir y ajustar un modelo de pesos abiertos del tamaño adecuado
- Construir una capa de recuperación para mantener las respuestas actualizadas
- Definir evaluación con preguntas reales de soporte o uso interno
- Desplegar detrás de una API con logging para control de calidad continuo
¿Tienes en mente algo parecido a esto?
Contáctanos