Generators

El generador introduce una respuesta variable dentro del recorrido. Podemos controlar cuándo se llama sin asumir que cada texto que produzca será correcto; hay que evaluar ambas cosas.

Índice

Generadores en agentes conversacionales Parámetros y selección de modelo Ejemplos Cómo configurar y desplegar generadores Respuestas basadas en código

Generadores en agentes conversacionales

Los generadores son una función que permite a los agentes conversacionales usar los modelos de lenguaje de Google para crear respuestas dinámicas en tiempo real. Esto los hace una herramienta poderosa que integra la IA generativa en flujos estructurados y determinísticos.

Capacidades de los generadores

Respuestas dinámicas: Pueden generar respuestas que no son estáticas, utilizando conocimiento general o el contexto de la conversación.
Uso del contexto: Capturan el contexto de la conversación, como un resumen de lo que se ha dicho, para crear respuestas más personalizadas.
Integración con webhooks: El texto generado puede usarse como entrada para un webhook o para pre-establecer parámetros en el flujo.
Encadenamiento de llamadas: Permiten encadenar múltiples llamadas a modelos de lenguaje (LLM) para crear flujos híbridos más complejos.
Controles de IA responsable: Cuentan con configuraciones que te permiten establecer "barreras de seguridad" para bloquear respuestas dañinas u ofensivas.

Funciones de los generadores

Los generadores se pueden usar en múltiples casos prácticos:

Resúmenes: Resumir artículos o la conversación en curso.
Análisis de sentimiento: Evaluar el sentimiento del cliente en tiempo real.
Actualización de datos: Convertir la información de la conversación en formatos de datos estructurados, como JSON.
Toma de decisiones: Evaluar la elegibilidad de un usuario basándose en el contexto y el conocimiento, para luego dirigir la conversación de manera apropiada.

Parámetros y selección de modelo

Personalización de Generadores

Los generadores permiten crear respuestas dinámicas en tiempo real a través de la personalización de prompts, parámetros y la selección del modelo.

**1. Prompts personalizados**

Qué son: Un prompt es una instrucción o pregunta en lenguaje natural que se envía a un modelo de lenguaje para obtener una respuesta. Pueden incluir preguntas, instrucciones, contexto, ejemplos, etc.
Instrucciones claras: Para obtener una respuesta satisfactoria, el prompt debe ser una pregunta o solicitud clara. Se puede instruir al modelo sobre cómo comportarse, por ejemplo, "sé un experto en resumen de texto".
Marcadores de posición (placeholders): Puedes hacer los prompts contextuales usando marcadores de posición ($nombre-del-marcador). Estos se asocian con parámetros de la sesión y se reemplazan por los valores capturados durante la conversación.
Marcadores de posición integrados: Existen marcadores especiales que no necesitan ser asociados manualmente, como:
- $conversation: Contiene la conversación excluyendo la última intervención del usuario y las intervenciones posteriores del agente; $last-user-utterance aporta esa entrada.
- $last-user-utterance: Contiene la última frase del usuario.

2. Parámetros del modelo

Elegir entre los modelos admitidos por la función, región y versión. La mención histórica de Pro/Flash/Ultra no es un catálogo vigente.
Se pueden ajustar los parámetros del LLM, como Temperature, Top P y Top K, para controlar la aleatoriedad de la respuesta.

Generadores vs. API de Vertex AI

La funcionalidad de los generadores es muy similar a la API de Vertex AI, ya que utilizan el mismo backend. Sin embargo, hay algunas diferencias clave:

Integración de parámetros: La principal diferencia es que en los generadores de Conversational Agents los parámetros se sustituyen automáticamente en el prompt dentro de la herramienta. En la API de Vertex AI, el desarrollador tendría que analizar y enviar la respuesta completa.
Funciones adicionales: Las opciones de la API y de la integración CX dependen del modelo y versión; comparar la documentación actual antes de asumir una diferencia o prometer soporte futuro.

Ejemplos

Los generadores se pueden personalizar con prompts específicos para realizar diversas tareas, lo que los hace muy versátiles en un agente conversacional.

Resumir contenido

Prompt: Para resumir texto, primero das una instrucción general sobre el objetivo (ej., "sé un experto en resumen de texto"). Luego, defines un marcador de posición para el texto de entrada (ej., $text) y describes el formato de salida deseado (ej., "un resumen conciso de 1 o 2 frases").
Ejemplo de uso: El agente puede resumir una conversación completa entre el humano y la IA. En este caso, el prompt incluirá el marcador $conversation y el marcador $last-user-utterance para incluir el contexto previsto; eso no garantiza un resumen preciso.

Responder preguntas con conocimiento

Prompt: Puedes instruir al generador para que responda preguntas de forma cortés.
Fuentes de conocimiento:
1. Conocimiento interno: El generador usará la información de sus datos de entrenamiento. Sin embargo, no hay garantía de que la información sea actual o veraz.
2. Información externa: Para respuestas precisas y actualizadas, puedes conectar el generador a un sistema de búsqueda (como una base de datos) para recuperar información dinámicamente. El generador se instruye para responder basándose solo en la información proporcionada.

Manejar la escalada a un agente humano

Prompt: El generador se configura para actuar como un agente de servicio al cliente que transfiere llamadas.
Instrucciones: Se le pide que responda de manera cortés y que asegure al usuario que hará lo posible por ayudarlo. Para evitar respuestas demasiado extensas o innecesarias, puedes incluir instrucciones como "No hagas preguntas" y "No preguntes si hay algo más en lo que puedas ayudar".

Optimizar una búsqueda en Google

Prompt: Se le indica al generador que actúe como un experto en búsquedas en Google. La tarea es convertir la frase del usuario en un término de búsqueda conciso y de alta calidad.
Ejemplo: El prompt puede incluir un ejemplo de entrada (query del usuario) y salida (query optimizado) para guiar al modelo sobre el comportamiento esperado. Esto le permite al agente transformar una frase compleja en una búsqueda efectiva.

Cómo configurar y desplegar generadores

Para empezar, debes crear un generador en la consola de agentes conversacionales y luego asociarlo a tus flujos.

1. Crear el generador

En la consola, ve a la pestaña Manage y selecciona Generators.
Haz clic en Create New.
Asigna un nombre al generador y configura el prompt, el modelo y los controles.
Varios generadores en un mismo fulfillment se ejecutan en paralelo. Para que B consuma la salida de A, diseñar pasos separados y verificar cuándo queda disponible el parámetro; no asumir encadenamiento dentro del mismo fulfillment.

2. Usar el generador en un flujo

En la configuración de una ruta, en la sección Fulfillment, activa la opción Generators.
Selecciona el generador que creaste.
Asocia los marcadores de posición del prompt con los parámetros de sesión que hayas definido. Si tu prompt solo usa marcadores de posición incorporados (como $conversation), no necesitas hacer esta asociación.

3. Usar la salida del generador

A la salida de un generador se le asigna un nombre de variable único (ej., request generative destination).
Esta variable se puede usar como cualquier otro parámetro de sesión. Puedes usarla en la respuesta del agente, en webhooks o para pre-establecer otros parámetros.

Respuestas basadas en código

La función de generadores en agentes conversacionales te permite crear código dinámicamente a partir de descripciones en lenguaje natural. Los modelos de Gemini están capacitados en una gran cantidad de datos de código para responder preguntas y generar soluciones en varios lenguajes de programación (como Go, SQL, Java, Javascript, Python y Typescript).

Casos de uso para la generación de código

Los generadores pueden ser útiles para varias tareas relacionadas con el código:

Generación de código: Escribir código desde cero.
Generación de pruebas unitarias: Crear pruebas para el código existente.
Corrección de código: Encontrar y solucionar errores.
Optimización de código: Mejorar la eficiencia del código.
Traducción de código: Convertir código de un lenguaje a otro.

Consideraciones de seguridad

Es crucial informar a los usuarios sobre las limitaciones del código generado:

No reemplaza a un humano: La generación de código no sustituye el trabajo de un desarrollador.
Requiere pruebas: El código debe ser exhaustivamente probado antes de usarse en un entorno de producción.
Uso sensible: evaluar riesgo, controles y revisión según el caso. No se establece aquí una prohibición general de usar generación de código en ciberseguridad.

Cómo configurar un generador para código

Para que un generador cree código, el prompt debe ser claro y estructurado:

Define el objetivo: Indica al generador que su tarea es escribir código para resolver un problema.
Usa marcadores de posición: Incluye marcadores de posición para el problema ($problem) y el lenguaje de programación ($programming_language).
Solicita la solución: Termina el prompt pidiendo al generador que proporcione el código.

Esto permite al generador tomar los datos del usuario (el problema y el lenguaje) y generar una solución de código en consecuencia.

Navegación del módulo

Siguiente: 02 Generative Fallbacks

Referencia: generadores, placeholders y ejecución paralela. Generar JSON no valida su esquema ni actualiza una base de datos; la persistencia, elegibilidad y autorización deben comprobarse fuera de la respuesta libre del modelo.

+----------------------------------------+
| Floure &                               |
| Tachibana's guild                      |
| [Hikari · Nozomi · Iona]               |
| SEAL: sha256/12: 116dde76b937          |
| STATUS: LITURGY_IN_PROGRESS            |
+----------------------------------------+