Inteligencia artificial
Model Deployment
AI essentials / GenAI - CCAI / Improve Agent Productivity using LLMs / Agent Summarization (Custom)
Procedimiento histórico del curso: requiere los Colabs «Model Management» y el flujo «From Saved Model» de esa versión. No copiar este recorrido como despliegue vigente sin verificar versión, permisos y artefactos.
Apuntes sobre el despliegue del modelo
Mover un modelo a producción requiere identificar la versión, el consumidor y cómo revertir. Que aparezca en una consola es un checkpoint de despliegue, no una prueba de calidad del resumen.
- Propósito: Una vez que el modelo personalizado ha sido entrenado y validado, el objetivo es moverlo al entorno de producción del cliente para que pueda ser utilizado.
- Pasos clave del despliegue:
- Creación del modelo (
Model Creation):- Se copia el modelo, una vez entrenado y evaluado en el entorno de desarrollo, al "Entorno del cliente" (
Client Tenant Environment). - Se puede usar la sección
From Saved ModeldelModel Management Colabpara realizar esta acción. - El modelo ahora estará visible en la consola de Agent Assist del cliente.
- Se copia el modelo, una vez entrenado y evaluado en el entorno de desarrollo, al "Entorno del cliente" (
- Despliegue del modelo (
Deploying the Model):- El despliegue se puede hacer de dos maneras:
- Directamente a través de la consola de la UI.
- Usando el backend con el
Model Management Colab.
- El despliegue se puede hacer de dos maneras:
- Vinculación del modelo con el perfil de conversación (
Linking the Model to the Conversation Profile):- Este es el paso final para que el modelo esté operativo.
- Se integra el modelo a un perfil de conversación existente o se crea uno nuevo.
- Esta acción se realiza a través de la consola de Agent Assist.
- El
integration iddel perfil de conversación se usa para hacer llamadas a las APIs de Agent Assist.
- Creación del modelo (
- Consideraciones:
- Cada uno de estos pasos es crucial para asegurar que el modelo pueda activarse con trazabilidad. Completar estos pasos no demuestra optimización ni calidad en producción.
Navegación del módulo
- Anterior: 04 Building a Custom Model
- Siguiente: 06 Model Evaluation
Referencia: creación, entrenamiento y despliegue de resumen personalizado. La guía distingue modelo desplegado y perfil de conversación; confirmar el nombre de recurso usado por cada API.
+----------------------------------------+
| Floure & |
| Tachibana's guild |
| [Hikari · Nozomi · Iona] |
| SEAL: sha256/12: 7665f1c4f2c4 |
| STATUS: LITURGY_IN_PROGRESS |
+----------------------------------------+