GenAI w Cloud

Conviene separar plataforma, producto y modelo antes de diseñar. Los nombres comerciales cambian; la arquitectura debe dejar claro qué servicio recibe datos y qué responsabilidad queda de nuestro lado.

Contexto del curso: los nombres Vertex AI Conversation, Agent Builder y GenAI Support se conservan como vocabulario histórico. Las páginas actuales pueden redirigir a Agent Search o Gemini Enterprise Agent Platform; no son garantías de equivalencia entre todos los productos.

Une modelos fundacionales con Vertex AI Agent builder para las organizaciones.

Vertex AI Conversation es un tipo de AI que simula conversación humana. Usa NL processing. Puede combinar diálogo, recuperación y llamadas a herramientas según configuración. Conservar contexto en varios turnos no equivale a actualizar los pesos del modelo; las transacciones necesitan integración, permisos y validaciones

Vertex AI Search es un servicio Cloud que permite construir rápidamente buscadores con GenAI.

Vertex AI es una plataforma end-to-end de ML que permite manejar modelos fundacionales según criterios del usuario. Vertex AI Agent Builder permite el desarrollo.

---

Casos de Uso

Externo para servir clientes externos a la empresa como eCommerce, Media Serving, Customer Service Support.

Funcional para servir aplicaciones internas y soluciones verticales como intranets, bases de conocimiento, repositorios de documentos, etc.

Técnico para servir información generada por máquina y automatización de sistemas (Logging, reportes, etc).

---

Tipos de producto

Hay dos tipos principales de productos: De consumo y para empresas.

Consumo

• Google AI Studio (Maker Suite), Gemini app (bard)
• No usar «los datos pasan a ser propiedad de Google» como resumen de sus términos. Google AI Studio/Gemini API distinguen servicios de pago y gratuitos, además de excepciones regionales; sus usos de prompts y respuestas deben leerse en el contrato correspondiente. La app Gemini tiene términos propios.
• Usan modelos entrenados en volúmenes grandes de datos, por lo que podrían no ser compatibles con lo que necesita una empresa.

Empresas

• La restricción de entrenamiento no significa ausencia de procesamiento o retención. Verificar producto, contrato, configuración y excepciones; no extender una promesa comercial a toda la marca Gemini.
• Puedes elegir el tamaño del modelo y sus características

---

Diferencias

GenAI Support in Vertex AI

Entrega APIs que proveen soporte end-to-end Model Garden Entrega variedad de APIs, modelos fundacionales y modelos Open Source que llaman a modelos pre-entrenados para resolver problemas rápidamente Prompt design y prompt tuning Ajuste de parámetros y deployment de modelos fundacionales usando interfaz web simple Se pueden entrenar y ajustar los modelos fundacionales

Vertex AI Agent Builder

Provee rápidamente el deployment de agentes con modelos listos, multimodales y ajustables. Search:

• Google out-of-the-box search
• ajustable
• multimodal
• conversacional Conversación:
• Single turn
• Multi turn
• Busca información
• Transaccional
• Control de flujo

Si se puede solucionar rápidamente con una solución pre-hecha, usar Agent builder. Si no, y se necesita ajustar y refinar una solución ajustada: usar GenAI Support.

---

Vertex AI Agent Builder

Para búsquedas y recomendaciones.

Tiene tres elementos principales:

• Search
  • Para construir un search engine con tus propios datos e integrar una barra de búsqueda en la aplicación o página
• Personalized self-serve customer experience
  • Como construir un engine de recomendaciones basado en el usuario y tus propios datos
• Agents
  • complementan DialogflowCX con un chatbot basado en LLM, con recuperación sobre enlaces o documentos para conversar sobre su contenido. Indexarlos no implica necesariamente entrenar ni ajustar el modelo.

Hay 4 aplicaciones clave:

• Genérico:
  • búsqueda, recomendar sitios web, datos estructurados y no-estructurados (como documentos)
  • ayuda a entender mejor lo que el usuario pretend buscar. su utilidad frente a keywords se evalúa con consultas y datos representativos; usar NLP no demuestra superioridad universal.
• Media:
  • buscar y recomendar contenido multimedia como música, podcast y videos.
  • optimizado para algoritmos según popularidad, engagement, duración, puntaje, etc.
• Retail:
  • capacidades de búsqueda para tiendas online
  • El objetivo de optimización y las funciones dependen del producto y configuración. No se afirma que toda búsqueda retail optimice ingresos en lugar de clics o conversión. además de integrar recomendaciones, búsqueda personalizada, etc.
• Healthcare:
  • buscar información en el formato FHIR (Fast healthcare interoperability resources)
  • a través de FHIR y la API de healthcare, integra recursos relacionados a salud, medicamentos, estudios, observaciones, procedimientos a pacientes, etc. El uso con datos sanitarios requiere permisos, contrato y controles adecuados. El mero hecho de ser un usuario final no demuestra violación de HIPAA
  • destinado a resumir y buscar información, para nada más, dada la naturaleza de los LLM y GenAI.

Navegación del módulo

• Siguiente: 02 Use cases and positioning

Contraste: términos de Gemini API/AI Studio, gobernanza de datos y uso previsto de búsqueda sanitaria. El servicio sanitario recupera y resume información existente; sus respuestas requieren revisión y sus condiciones restringen usos clínicos.

+----------------------------------------+
| Floure &                               |
| Tachibana's guild                      |
| [Hikari · Nozomi · Iona]               |
| SEAL: sha256/12: abbfd4655b1d          |
| STATUS: LITURGY_IN_PROGRESS            |
+----------------------------------------+