Este bloque se centra en la fase de puesta en producción, despliegue y mantenimiento de los modelos de IA. Aquí el objetivo no es solo que el modelo sea preciso, sino también eficiente en el consumo de recursos de computación (VRAM, CPU, almacenamiento) y capaz de trabajar con datos actualizados.
1. Sobreajuste (Overfitting) e Infraajuste (Underfitting)
Son los dos problemas fundamentales durante la fase de entrenamiento que determinan la capacidad de generalización de un modelo (su habilidad para acertar con datos nuevos que nunca ha visto).
Infraajuste (Underfitting): Ocurre cuando el modelo es demasiado simple o no ha entrenado lo suficiente. No es capaz de capturar las tendencias ni siquiera en los datos de entrenamiento. El error es alto tanto en el entrenamiento como en las pruebas.
Sobreajuste (Overfitting): Ocurre cuando el modelo entrena en exceso y "memoriza" los datos de entrenamiento, incluyendo el ruido y los detalles irrelevantes. Funciona de forma perfecta en el entorno de desarrollo, pero falla drásticamente al recibir datos reales en producción.
2. Ajuste Fino (Fine-Tuning)
Es el proceso de tomar un modelo base que ya ha sido preentrenado con un volumen masivo de datos genéricos (como un LLM fundacional) y entrenarlo de nuevo con un conjunto de datos mucho más pequeño, específico y especializado.
Cómo funciona: Durante este reentrenamiento, los pesos matemáticos de las capas internas del modelo se modifican ligeramente para adaptarse al nuevo dominio.
Caso de uso: Coger un modelo lingüístico general y hacerle fine-tuning con un histórico de logs de sistemas y documentación de Cisco para convertirlo en un experto en diagnóstico de redes corporativas.
3. RAG (Generación Aumentada por Recuperación)
A diferencia del Fine-Tuning, RAG no modifica los pesos del modelo ni requiere reentrenamiento. Es una arquitectura de sistemas que optimiza las respuestas de un LLM conectándolo en tiempo real a una base de datos externa (normalmente una base de datos vectorial).
Cómo funciona: 1. El usuario introduce una consulta.
2. El sistema busca de forma semántica en la base de datos documental los fragmentos de información relevantes.
3. El sistema inyecta esos fragmentos directamente en el prompt del LLM como contexto.
4. El LLM redacta la respuesta basándose únicamente en la información verídica proporcionada.
Caso de uso: Permitir que una IA responda preguntas sobre normativas internas de una empresa que cambian cada semana, garantizando que la información es actual y reduciendo las alucinaciones a cero.
4. Inferencia y Cuantización (Quantization)
La Inferencia es el proceso operativo donde el modelo ya entrenado se ejecuta en producción para recibir entradas del usuario y devolver predicciones o respuestas. En entornos de producción, la inferencia debe ser rápida y consumir el menor número de recursos posible. Aquí entra la Cuantización:
Cómo funciona la Cuantización: Los modelos de IA guardan sus parámetros en formatos de alta precisión flotante (habitualmente FP32 o FP16, que consumen 4 o 2 bytes por parámetro). La cuantización reduce la precisión de estos números a formatos de enteros (como INT8 o INT4, de 1 byte o medio byte).
Impacto: Reduce drásticamente el tamaño del archivo del modelo y el consumo de VRAM en la GPU (hasta un 75%), permitiendo ejecutar modelos grandes en hardware comercial o de menor coste con una pérdida de precisión casi imperceptible.
Tabla comparativa de estrategias de optimización
| Estrategia | Enfoque Principal | Ventaja Principal | Mayor Desventaja |
| Fine-Tuning | Modificar el conocimiento interno del modelo (pesos). | Adapta el tono, formato y estilo de respuesta de forma profunda a un dominio cerrado. | Requiere hardware dedicado para el entrenamiento y es propenso al olvido catastrófico de habilidades generales. |
| RAG | Inyectar contexto externo en tiempo real a través del prompt. | Garantiza datos actualizados al instante y permite auditar las fuentes de la respuesta de forma sencilla. | Aumenta la latencia por la búsqueda previa en la base de datos y consume más tokens en cada consulta. |
| Cuantización | Optimizar la carga de hardware reduciendo la precisión numérica. | Permite desplegar modelos avanzados en servidores con restricciones severas de GPU/VRAM. | Si se reduce demasiado la precisión (ej. de FP32 a INT2), el modelo pierde coherencia y degrada su rendimiento. |