El objetivo de customizar los modelos es mejorar aspectos de su performance, calidad y/o seguridad de sus respuestas.
Data Grounding
Proceso de enriquecer una respuesta generada por IA con datos externos o específicos para mejorar su calidad y/o seguridad de sus respuestas. Asegura que el output del modelo está alineado con datos factuales, contextuales y que son confiables.
Data Grounding no es una técnica, es el objetivo.
Para responder al prompt la IA no se basará sólo y únicamente en los datos de su entrenamiento, si no que se le proporciona información adicional de una fuente externqa (documentos, BBDD, APIs, etc.) para que sus respuestas estén basadas en datos reales y actualizados y no se los invente ni alucine.
RAG (Retrieval Augmented Generation)
Técnica de data grounding. Enriquece el conocimiento de un modelo conectándolo a bases de conocimiento externas.
En lugar de confiar solo en el conocimiento entrenado del modelo, busca datos relevantes en tiempo real y los usa como contexto para generar la respuesta.
Por ej: BBDD propietarias, documentos internos de la compañía…
Casos de uso
- Cuando necesites respuestas basadas en información muy reciente (hoy, news, current stock prices)
- Cuando necesites información de fuentes de datos privadas o propietarias (documentos, internal company policies, support logs)
- Cuando quieras que la IA cite sus fuentes
Ejemplo
Si le pregunto a un asistente cualquiera ¿Cuánto dinero puedo pedir en gastos de desplazamiento? Seguramente me responderá que varía según mi empresa y sus políticas
Si al mismo modelo le aporto la documentación de la empresa como RAG y le pregunto lo mismo, el modelo irá al apartado correspondiente y lo consultará por mí, dándome como respuesta puedes pedir hasta x, según las fuentes y
Fine-tuning
Fine tuning es coger un modelo pre-entrenado y especializarlo todavía más con datasets específicos. Esto adapta el modelo para un caso o dominio concreto.
Cuando usar Fine-tuning
- Cuando necesites que el LLM adopte un estilo, tono o persona específica (ej: hablar como Shakespeare).
- Cuando necesites que el LLM se profesionalice y responda con jargon de un dominio muy específico (dar soporte médico o legal).
RAG vs Fine-Tuning
¿Necesitas datos up-to-the-minute o acceso a datos privados? - Comenzar con RAG. Es más rápido de implementar y necesita menos datos que fine-tuning.
¿Necesitas que la IA hable/escriba en un estilo muy específico o que entienda un nicho de manera profunda? - Hacer fine-tuning. Ayuda al modelo a aprender patrones y estilos que solamente con RAG son muy difíciles de capturar.
¿Necesitas hacer tareas muy complejas que requieren datos específicos / actualizados y un conocimiento profundo? - Hacer ambos (Fine-tuning+RAG).