floure.ARCHIVO / Inteligencia artificial
← Volver a la colección2 MIN DE LECTURA

Inteligencia artificial

Model Deployment

AI essentials / GenAI - CCAI / Improve Agent Productivity using LLMs / Agent Summarization (Custom)

Procedimiento histórico del curso: requiere los Colabs «Model Management» y el flujo «From Saved Model» de esa versión. No copiar este recorrido como despliegue vigente sin verificar versión, permisos y artefactos.

Apuntes sobre el despliegue del modelo

Mover un modelo a producción requiere identificar la versión, el consumidor y cómo revertir. Que aparezca en una consola es un checkpoint de despliegue, no una prueba de calidad del resumen.

  • Propósito: Una vez que el modelo personalizado ha sido entrenado y validado, el objetivo es moverlo al entorno de producción del cliente para que pueda ser utilizado.
  • Pasos clave del despliegue:
    1. Creación del modelo (Model Creation):
      • Se copia el modelo, una vez entrenado y evaluado en el entorno de desarrollo, al "Entorno del cliente" (Client Tenant Environment).
      • Se puede usar la sección From Saved Model del Model Management Colab para realizar esta acción.
      • El modelo ahora estará visible en la consola de Agent Assist del cliente.
    2. Despliegue del modelo (Deploying the Model):
      • El despliegue se puede hacer de dos maneras:
        • Directamente a través de la consola de la UI.
        • Usando el backend con el Model Management Colab.
    3. Vinculación del modelo con el perfil de conversación (Linking the Model to the Conversation Profile):
      • Este es el paso final para que el modelo esté operativo.
      • Se integra el modelo a un perfil de conversación existente o se crea uno nuevo.
      • Esta acción se realiza a través de la consola de Agent Assist.
      • El integration id del perfil de conversación se usa para hacer llamadas a las APIs de Agent Assist.
  • Consideraciones:
    • Cada uno de estos pasos es crucial para asegurar que el modelo pueda activarse con trazabilidad. Completar estos pasos no demuestra optimización ni calidad en producción.

Referencia: creación, entrenamiento y despliegue de resumen personalizado. La guía distingue modelo desplegado y perfil de conversación; confirmar el nombre de recurso usado por cada API.

+----------------------------------------+
| Floure &                               |
| Tachibana's guild                      |
| [Hikari · Nozomi · Iona]               |
| SEAL: sha256/12: 7665f1c4f2c4          |
| STATUS: LITURGY_IN_PROGRESS            |
+----------------------------------------+

Conexiones

Abrir red completa ↗
✳

Fin del apunte

Seguir explorando ↗