Sistema de IA con múltiples agentes en Google Cloud

En este documento, se proporciona una arquitectura de referencia para ayudarte a diseñar sistemas de IA multiagente sólidos en Google Cloud. Un sistema de IA de agentes multiagente optimiza procesos complejos y dinámicos segmentándolos en tareas discretas que varios agentes de IA especializados ejecutan de forma colaborativa.

El público objetivo de este documento incluye arquitectos, desarrolladores y administradores que compilan y administran infraestructura y aplicaciones de IA en la nube. En este documento, se supone que tienes conocimientos básicos sobre los agentes y modelos de IA. En el documento, no se proporciona orientación específica para diseñar y programar agentes de IA.

En la sección Implementación de este documento, se enumeran muestras de código que puedes usar para aprender a compilar e implementar sistemas de IA de agentes múltiples.

Arquitectura

En el siguiente diagrama, se muestra la arquitectura de un ejemplo de un sistema de IA multiagente implementado en Google Cloud.

Componentes de la arquitectura

La arquitectura de ejemplo de la sección anterior contiene los siguientes componentes:

Frontend

Los usuarios interactúan con el sistema multiagente a través de un frontend, como una interfaz de chat, que se ejecuta como un servicio de Cloud Run sin servidores.

Agentes

En este ejemplo, un agente coordinador controla el sistema de IA de agentes. El agente coordinador invoca un subagente adecuado para activar el flujo agentic. Los agentes pueden comunicarse entre sí con el protocolo Agent2Agent (A2A), que permite la interoperabilidad entre agentes independientemente de su lenguaje de programación y tiempo de ejecución. La arquitectura de ejemplo muestra agentes en un patrón secuencial y un patrón de perfeccionamiento iterativo.

Para obtener más información sobre los subagentes de este ejemplo, consulta la sección Flujo agentic.

Agent Runtime

Los agentes de IA se pueden implementar como servicios sin servidores de Cloud Run, como apps alojadas en contenedores en Google Kubernetes Engine (GKE) o en Agent Runtime en Gemini Enterprise Agent Platform.

ADK

El Kit de desarrollo de agentes (ADK) proporciona herramientas y un framework para desarrollar, probar e implementar agentes. El ADK abstrae la complejidad de la creación de agentes y permite que los desarrolladores de IA se enfoquen en la lógica y las capacidades del agente.

Modelo de IA y tiempos de ejecución del modelo

Para la publicación de inferencias, los agentes de esta arquitectura de ejemplo usan un modelo de IA en Gemini Enterprise Agent Platform. La arquitectura muestra Cloud Run y GKE como tiempos de ejecución alternativos para el modelo de IA que elijas usar.

Model Armor

Model Armor permite inspeccionar y limpiar las entradas y respuestas de los modelos implementados en Agent Platform y GKE. Model Armor también se puede usar para el tráfico de agentes y herramientas que se enruta a través de Agent Gateway. Para obtener más información, consulta Integración de Model Armor con servicios de Google Cloud .

Clientes, servidores y herramientas de MCP

El Protocolo de contexto del modelo (MCP) facilita el acceso a las herramientas estandarizando la interacción entre los agentes y las herramientas. Para cada par agente-herramienta, un cliente de MCP envía solicitudes a un servidor de MCP a través del cual el agente accede a una herramienta, como una base de datos, un sistema de archivos o una API.

Flujo de agentes

El sistema multiagente de ejemplo en la arquitectura anterior tiene el siguiente flujo:

1. Un usuario ingresa una instrucción a través de un frontend, como una interfaz de chat, que se ejecuta como un servicio de Cloud Run sin servidores.
2. El frontend reenvía la instrucción a un agente coordinador.

3. El agente coordinador inicia uno de los siguientes flujos de agentes según la intención expresada en la instrucción.

   • Secuencial:
     1. El subagente de tarea A realiza una tarea.
     2. El subagente de la tarea A invoca al subagente de la tarea A.1.

   • Refinamiento iterativo:

     1. El subagente de la tarea B realiza una tarea.
     2. El subagente de evaluación de calidad revisa el resultado del subagente de tarea B.
     3. Si el resultado no es satisfactorio, el evaluador de calidad invoca al subagente de mejora de instrucciones para perfeccionar la instrucción.
     4. El subagente de la tarea B vuelve a realizar su tarea con la instrucción mejorada.

     Este ciclo continúa hasta que el resultado es satisfactorio o se alcanza la cantidad máxima de iteraciones.

   La arquitectura de ejemplo incluye una ruta human-in-the-loop para permitir que los usuarios humanos intervengan en el flujo de agentes cuando sea necesario.

4. El subagente de tarea A.1 y el subagente de evaluación de calidad invocan de forma independiente al subagente de generación de respuestas.

5. El subagente de generación de respuestas genera una respuesta, realiza validaciones y verificaciones de fundamentación, y, luego, envía la respuesta final al usuario a través del agente coordinador.

Productos y herramientas utilizados

En esta arquitectura de referencia, se usan los siguientes productos y herramientas de Google Cloud y terceros:

• Cloud Run: Es una plataforma de computación sin servidores que te permite ejecutar contenedores directamente sobre la infraestructura escalable de Google.
• Gemini Enterprise Agent Platform: Una plataforma integral que te permite crear, escalar, administrar y optimizar agentes de IA de nivel empresarial.
• Google Kubernetes Engine (GKE): Un servicio de Kubernetes que puedes usar para implementar y operar aplicaciones en contenedores a gran escala con la infraestructura de Google.
• Model Armor: Es un servicio que brinda protección para tus recursos de IA generativa y de agentes contra la inyección de instrucciones, las filtraciones de datos sensibles y el contenido dañino.
• Kit de desarrollo de agentes (ADK): Es un conjunto de herramientas y bibliotecas para desarrollar, probar e implementar agentes de IA.
• Protocolo Agent2Agent (A2A): Es un protocolo abierto que permite la comunicación y la interoperabilidad entre agentes, independientemente de su lenguaje de programación y tiempo de ejecución.
• Protocolo de contexto del modelo (MCP): Es un estándar de código abierto para conectar aplicaciones de IA a sistemas externos.

Casos de uso

Los sistemas de IA de agentes múltiples son adecuados para casos de uso complejos que requieren colaboración y coordinación en múltiples conjuntos de habilidades especializadas para lograr un objetivo comercial. Para identificar los casos de uso para los que son adecuados los sistemas de IA de agentes múltiples, analiza tus procesos comerciales e identifica las tareas específicas que la IA puede mejorar. Enfócate en los resultados comerciales tangibles, como la reducción de costos y la aceleración del procesamiento. Este enfoque te ayuda a alinear tus inversiones en IA con el valor comercial.

A continuación, se muestran ejemplos de casos de uso para sistemas de IA multiagente.

Asesor financiero

Proporcionar recomendaciones personalizadas para el comercio de acciones y ejecutar operaciones En el siguiente diagrama, se muestra un ejemplo de un flujo de trabajo basado en agentes para este caso de uso. En este ejemplo, se usa un patrón secuencial.

En el diagrama, se muestra el siguiente flujo:

1. Un agente recuperador de datos recupera precios de acciones históricos y en tiempo real, informes financieros de empresas y otros datos relevantes de fuentes confiables.
2. Un agente de análisis financiero aplica técnicas de análisis y gráficos adecuadas a los datos, identifica patrones de movimiento de precios y realiza predicciones.
3. Un agente de recomendación de acciones usa el análisis y los gráficos para generar recomendaciones personalizadas para comprar y vender acciones específicas según el perfil de riesgo y los objetivos de inversión del usuario.
4. Un agente de ejecución de operaciones compra y vende acciones en nombre del usuario.

Asistente de investigación

Crear un plan de investigación, recopilar información, evaluar y perfeccionar la investigación, y, luego, redactar un informe En el siguiente diagrama, se muestra un ejemplo de un flujo de trabajo con agentes para este caso de uso. El flujo principal de este ejemplo usa un patrón secuencial. El ejemplo también incluye un patrón de perfeccionamiento iterativo.

En el diagrama, se muestra el siguiente flujo:

1. Un agente de planificación crea un plan de investigación detallado.

2. Un agente de investigación completa las siguientes tareas:

   1. Usa el plan de investigación para identificar las fuentes de datos internas y externas adecuadas.
   2. Recopila y analiza los datos necesarios.
   3. Prepara un resumen de la investigación y se lo proporciona a un agente evaluador.

   El agente de investigación repite estas tareas hasta que el agente evaluador aprueba la investigación.

3. Un agente de redacción de informes crea el informe de investigación final.

Optimizador de la cadena de suministro

Optimizar el inventario, hacer un seguimiento de los envíos y comunicarse con los socios de la cadena de suministro En el siguiente diagrama, se muestra un ejemplo de flujo de trabajo de un agente para este caso de uso. En este ejemplo, se usa un patrón secuencial.

1. Un agente de administración de almacenes garantiza niveles de stock óptimos creando pedidos de reabastecimiento según el inventario, las previsiones de demanda y los plazos de entrega de los proveedores.

   • El agente interactúa con el agente de seguimiento de envíos para hacer un seguimiento de las entregas.
   • El agente interactúa con el agente de comunicación con proveedores para notificarles sobre los cambios en los pedidos.

2. Un agente de seguimiento de envíos garantiza el cumplimiento eficiente y oportuno de los pedidos, ya que se integra con las plataformas de logística y los sistemas de transporte de los proveedores.

3. Un agente de comunicación con proveedores se comunica con proveedores externos en nombre de los demás agentes del sistema.

Alternativas de diseño

Según tus requisitos de administración, control y flexibilidad, puedes elegir entre una variedad de opciones de tiempo de ejecución en Google Cloud para tus agentes y modelos de IA. Para obtener más información, consulta Elige los componentes de la arquitectura de IA de agentes.

Consideraciones del diseño

En esta sección, se describen los factores de diseño, las prácticas recomendadas y las recomendaciones que debes tener en cuenta cuando usas esta arquitectura de referencia para desarrollar una topología que cumpla con tus requisitos específicos de seguridad, confiabilidad, costo y rendimiento.

La guía de esta sección no está completa. Según los requisitos de tu carga de trabajo y los productos y funciones de Google Cloud y de terceros que uses, puede haber factores de diseño y compensaciones adicionales que deberías considerar.

Diseño de sistemas

En esta sección, se proporciona orientación para que puedas elegir las Google Cloud regiones para tu implementación y seleccionar los Google Cloud productos y herramientas adecuados.

Selección de región

Cuando selecciones Google Cloud regiones para tus aplicaciones de IA, ten en cuenta los siguientes factores:

• Disponibilidad de los Google Cloud servicios en cada región.
• Requisitos de latencia del usuario final.
• Costo de los recursos de Google Cloud
• Requisitos reglamentarios

Para seleccionar ubicaciones Google Cloud adecuadas para tus aplicaciones, usa las siguientes herramientas:

• Google Cloud Selector de regiones: Es una herramienta interactiva basada en la Web para seleccionar la región Google Cloud óptima para tus aplicaciones y datos según factores como la huella de carbono, el costo y la latencia.
• API de Cloud Location Finder: Es una API pública que proporciona una forma programática de encontrar ubicaciones de implementación en Google Cloud, Google Distributed Cloud y otros proveedores de servicios en la nube.

Diseño de agentes

En esta sección, se proporcionan recomendaciones generales para diseñar agentes de IA. La orientación detallada sobre cómo escribir código y lógica del agente no se incluye en este documento.

• Definición y diseño del agente:
  • Define claramente el objetivo comercial del sistema de IA de agentes y la tarea que realiza cada agente.
  • Elige un patrón de diseño de agentes que satisfaga mejor tus requisitos.
  • Usa el ADK para crear, implementar y administrar de manera eficiente tu arquitectura de agentes.
• Interacciones con el agente:
  • Diseña los agentes orientados al usuario en la arquitectura para admitir interacciones en lenguaje natural.
  • Asegúrate de que cada agente comunique claramente sus acciones y su estado a sus clientes dependientes.
  • Diseña los agentes para que detecten y manejen consultas ambiguas e interacciones matizadas.
• Contexto, herramientas y datos:
  • Asegúrate de que los agentes tengan suficiente contexto para hacer un seguimiento de las interacciones de varios turnos y los parámetros de sesión.
  • Describe con claridad el propósito, los argumentos y el uso de las herramientas que pueden usar los agentes.
  • Garantizar que las respuestas de los agentes se fundamenten en fuentes de datos confiables para reducir las alucinaciones
  • Implementa lógica para controlar situaciones de no coincidencia, como cuando una instrucción está fuera de tema.

Seguridad

En esta sección, se describen las consideraciones y recomendaciones de diseño para crear una topología en Google Cloud que cumpla con los requisitos de seguridad de tu carga de trabajo.

Consideraciones de seguridad para los agentes

Los agentes de IA introducen ciertos riesgos de seguridad únicos y críticos que las prácticas de seguridad convencionales y determinísticas tal vez no puedan mitigar de manera adecuada. Google recomienda un enfoque que combine las fortalezas de los controles de seguridad determinísticos con las defensas dinámicas basadas en el razonamiento. Este enfoque se basa en tres principios fundamentales: supervisión humana, autonomía del agente definida con cuidado y observabilidad. A continuación, se incluyen recomendaciones específicas que se alinean con estos principios fundamentales.

• Supervisión humana: En ocasiones, un sistema de IA de agentes puede fallar o no funcionar según lo previsto. Por ejemplo, el modelo podría generar contenido impreciso o un agente podría seleccionar herramientas inadecuadas. En los sistemas de IA de agentes que son fundamentales para la empresa, incorpora un flujo con intervención humana para permitir que los supervisores humanos monitoreen, anulen y pausen a los agentes. Por ejemplo, los usuarios humanos pueden revisar el resultado de los agentes, aprobarlo o rechazarlo, y brindar más orientación para corregir errores o tomar decisiones estratégicas. Este enfoque combina la eficiencia de los sistemas de IA de agentes con el pensamiento crítico y la experiencia en el dominio de los usuarios humanos.
• Identidad del agente y acceso con privilegio mínimo:
  • Proporciona a cada agente una identidad basada en SPIFFE vinculada a la carga de trabajo con Agent Identity. Puedes usar la identidad del agente cuando implementes agentes en Agent Runtime o en Cloud Run.
  • Configura permisos por agente con las políticas de acceso de Identity and Access Management (IAM) y el control de acceso de la Plataforma de agentes con IAM. Otorga a cada agente solo los permisos que necesita para realizar sus tareas y comunicarse con herramientas y otros agentes. Para aislar aún más a cada agente y limitar el impacto potencial de una violación de seguridad, vincula las políticas de límite de acceso de la entidad principal (PAB) a la identidad del agente.
  • Cuando los agentes necesiten autenticarse en herramientas externas o APIs de terceros, usa el administrador de autenticación de identidad del agente. Con este enfoque, puedes controlar de forma centralizada los tokens de OAuth y las claves de API, en lugar de tener que incorporar credenciales en el código o las instrucciones del agente.
• Administración del tráfico de entrada y salida: Enruta el tráfico de agentes a través de Agent Gateway para aplicar políticas de seguridad de tiempo de ejecución en los límites de entrada y salida. Para obtener información sobre las plataformas de Agent Runtime que admiten Agent Gateway, consulta Agent Runtimes compatibles.
  • De cliente a agente (entrada): Implementa Agent Gateway delante de tu Agent Runtime. La puerta de enlace ayuda a autenticar a los llamadores y a inspeccionar las instrucciones entrantes en tiempo real con Model Armor.
  • Agent-to-Anywhere (salida):
    • Enruta las solicitudes salientes de agente a agente (A2A) y de agente a herramienta (MCP) a través de Agent Gateway en modo de salida.
    • Aplica políticas de acceso de denegación predeterminada con políticas de acceso de IAM y Identity-Aware Proxy (IAP).
    • Verifica que los agentes y las herramientas de destino estén registrados en Agent Registry.
    • Inspeccionar las invocaciones y respuestas de herramientas salientes con Model Armor para ayudar a evitar el robo de datos, la inyección indirecta de instrucciones y el uso inadecuado de herramientas
• Supervisión: Supervisa el comportamiento del agente con capacidades de seguimiento integrales que te brindan visibilidad de cada acción que realiza un agente, incluidos su proceso de razonamiento, la selección de herramientas y las rutas de ejecución. Para obtener más información, consulta Cómo registrar un agente en Agent Runtime y Cómo registrarse en el ADK.

Para obtener más información sobre la seguridad de los agentes de IA, consulta Seguridad de los agentes de IA.

Consideraciones de seguridad de Agent Platform

Para asegurarte de que la configuración y el uso de tu Plataforma de agentes cumplan con tus requisitos de seguridad, ten en cuenta las siguientes recomendaciones:

• Responsabilidad compartida: La seguridad es una responsabilidad compartida. Agent Platform protege la infraestructura subyacente y proporciona herramientas y controles de seguridad para ayudarte a proteger tus datos, código y modelos. Eres responsable de configurar correctamente tus servicios, administrar los controles de acceso y proteger tus aplicaciones. Para obtener más información, consulta Responsabilidad compartida de la Plataforma de agentes.
• Controles de seguridad: Agent Platform admite controles de seguridad de Google Cloud que puedes usar para cumplir con tus requisitos de residencia de datos, claves de encriptación administradas por el cliente (CMEK), seguridad de red con Controles del servicio de VPC y Transparencia de acceso. Para obtener más información, consulta la siguiente documentación:
  • Controles de seguridad para Agent Platform
  • Controles de seguridad para la IA generativa
  • Agent Platform y retención cero de datos
• Seguridad: Los modelos de IA pueden producir respuestas dañinas, a veces en respuesta a instrucciones maliciosas.
  • Para mejorar la seguridad y mitigar el posible uso inadecuado del sistema de IA de agentes, puedes configurar filtros de contenido que actúen como barreras para las entradas y respuestas dañinas. Para obtener más información, consulta Filtros de seguridad y contenido.
  • Para inspeccionar y limpiar las solicitudes de inferencia, las instrucciones del agente, las llamadas a herramientas y las respuestas en busca de amenazas como la inyección de instrucciones y el contenido dañino, puedes usar Model Armor para las llamadas directas a la API del modelo y para las solicitudes que se enrutan a través de Agent Gateway. Model Armor te ayuda a evitar entradas maliciosas, verificar la seguridad del contenido, proteger datos sensibles, mantener el cumplimiento y aplicar políticas de seguridad de manera coherente.
• Acceso a modelos: Puedes configurar políticas de la organización para limitar el tipo y las versiones de los modelos de IA que se pueden usar en un proyecto de Google Cloud . Para obtener más información, consulta Cómo controlar el acceso a los modelos de Model Garden.
• Protección de datos: Para descubrir y desidentificar datos sensibles en las instrucciones y respuestas, y en los datos de registro, usa la API de Cloud Data Loss Prevention. Para obtener más información, mira este video: Cómo proteger los datos sensibles en las apps de IA.

Consideraciones de seguridad del MCP

Para asegurarte de que tu implementación del MCP cumpla con tus requisitos de seguridad, ten en cuenta las siguientes recomendaciones:

• Registro y descubrimiento de herramientas: Registra servidores de MCP y herramientas en el Agent Registry para que los agentes solo se conecten a extremos de MCP inventariados y aprobados por el administrador.
• Control de acceso y supervisión del tráfico: Dirige el tráfico del agente al MCP a través de Agent Gateway en el modo Agente a cualquier lugar (salida) y protege los servidores del MCP (como los servidores del MCP alojados en Cloud Run) con IAP y políticas de acceso de IAM. Configura Model Armor o políticas de administración semántica en Agent Gateway para inspeccionar las entradas y salidas de las herramientas de MCP en busca de exposición de datos sensibles y de inyección indirecta de instrucciones.
• Seguridad general del MCP: Cuando configures tus agentes para que usen el MCP, asegúrate de que se autorice el acceso a datos y herramientas externos, implementa controles de privacidad, como la encriptación, aplica filtros para proteger los datos sensibles y supervisa las interacciones de los agentes. Para obtener más información, consulta MCP y seguridad.

Consideraciones de seguridad de A2A

Para asegurarte de que tu implementación de A2A cumpla con tus requisitos de seguridad, ten en cuenta las siguientes recomendaciones:

• Seguridad del transporte: El protocolo A2A exige HTTPS para toda la comunicación A2A en entornos de producción y recomienda las versiones 1.2 o posteriores de la seguridad de la capa de transporte (TLS).
• Autenticación: El protocolo A2A delega la autenticación a mecanismos web estándar, como los encabezados HTTP, y a estándares como OAuth2 y OpenID Connect. Cada agente anuncia los requisitos de autenticación en su tarjeta de agente. Para obtener más información, consulta Autenticación de A2A.
• Administración entre agentes: Registra agentes A2A en Agent Registry y enruta las solicitudes entre agentes a través de Agent Gateway. Si combinas Agent Gateway con Agent Identity, IAP y políticas de acceso de IAM, puedes verificar de forma criptográfica la identidad del agente que llama, aplicar una autorización detallada entre los agentes coordinadores y los subagentes, y, además, inspeccionar las cargas útiles entre agentes con Model Armor.

Consideraciones de seguridad de Cloud Run

Para asegurarte de que tu implementación de Cloud Run cumpla con tus requisitos de seguridad, ten en cuenta las siguientes recomendaciones:

• Seguridad de entrada (para el servicio de frontend): Para controlar el acceso a la aplicación, inhabilita la URL predeterminada de run.app del servicio de Cloud Run de frontend y configura un balanceador de cargas de aplicaciones externo regional. Además de balancear la carga del tráfico entrante a la aplicación, el balanceador de cargas controla la administración de certificados SSL. Para mayor protección, puedes usar las políticas de seguridad de Google Cloud Armor para proporcionar filtrado de solicitudes, protección DSD y límite de frecuencia para el servicio.

• Autenticación de usuarios:

  • Usuarios dentro de tu organización: Para autenticar el acceso de usuarios internos al servicio de Cloud Run de frontend, usa IAP. Cuando un usuario intenta acceder a un recurso protegido por IAP, IAP realiza verificaciones de autenticación y autorización.
  • Usuarios fuera de tu organización: Para autenticar el acceso de usuarios externos al servicio de frontend, usa Identity Platform o Firebase Authentication. Para administrar el acceso de usuarios externos, configura tu aplicación para que controle un flujo de acceso y realice llamadas a la API autenticadas al servicio de Cloud Run.

  Para obtener más información, consulta Cómo autenticar usuarios.

• Seguridad del agente y del servidor de MCP: Cuando alojas agentes o servidores de MCP en Cloud Run, configura las funciones de Agent Platform para Cloud Run para asignar una identidad de agente administrada al servicio y usa IAP con Agent Gateway para autenticar y autorizar las solicitudes entrantes de agentes y herramientas.

• Seguridad de imágenes de contenedor: Para garantizar que solo se implementen imágenes de contenedor autorizadas en Cloud Run, puedes usar la Autorización Binaria. Para identificar y mitigar los riesgos de seguridad en las imágenes de contenedor, usa Artifact Analysis para ejecutar automáticamente análisis de vulnerabilidades. Para obtener más información, consulta Descripción general del análisis de contenedores.

• Residencia de datos: Cloud Run te ayuda a cumplir con los requisitos de residencia de datos. Tus servicios de Cloud Run se ejecutan dentro de la región seleccionada.

Para obtener más orientación sobre la seguridad de los contenedores, consulta Sugerencias generales para el desarrollo de Cloud Run.

Consideraciones de seguridad para todos los Google Cloud productos de la arquitectura

Para asegurarte de que tu arquitectura cumpla con tus requisitos de seguridad, ten en cuenta las siguientes recomendaciones generales:

• Encriptación de datos: De forma predeterminada, Google Cloud encripta los datos en reposo con Google-owned and Google-managed encryption keys. Para proteger los datos de tus agentes con claves de encriptación que controlas, puedes usar CMEK que creas y administras en Cloud KMS. Para obtener información sobre los Google Cloud servicios que son compatibles con Cloud KMS, consulta Servicios compatibles.
• Mitiga el riesgo de robo de datos: Para reducir el riesgo de robo de datos, crea un perímetro de Controles del servicio de VPC alrededor de la infraestructura. Los Controles del servicio de VPC admiten todos los servicios deGoogle Cloud que usa esta arquitectura de referencia.
• Control de acceso: Cuando configures los permisos para los recursos de tu topología, sigue el principio de privilegio mínimo.
• Seguridad del entorno de nube: Usa las herramientas de Security Command Center para detectar vulnerabilidades, identificar y mitigar amenazas, definir e implementar una postura de seguridad, y exportar datos para un análisis más detallado.
• Optimización posterior a la implementación: Después de implementar tu aplicación enGoogle Cloud, obtén recomendaciones para optimizar aún más la seguridad con Active Assist. Revisa las recomendaciones y aplícalas según corresponda a tu entorno. Para obtener más información, consulta Cómo encontrar recomendaciones en Active Assist.

Más recomendaciones de seguridad

• Google Cloud Well-Architected Framework, perspectiva de IA y AA: Seguridad
• Enfoque de Google para los agentes de IA seguros: Introducción

Confiabilidad

En esta sección, se describen las consideraciones y recomendaciones de diseño para compilar y operar una infraestructura confiable para tu implementación en Google Cloud.

Consideraciones de confiabilidad para los agentes

Para asegurarte de que la configuración de tu agente cumpla con tus requisitos de confiabilidad, ten en cuenta las siguientes recomendaciones:

• Tolerancia a errores: Diseña el sistema de agentes para que tolere o maneje las fallas a nivel del agente. Cuando sea posible, usa un enfoque descentralizado en el que los agentes puedan operar de forma independiente.
• Simula fallas: Antes de implementar el sistema de IA de agentes en producción, valídalo simulando un entorno de producción. Identifica y corrige problemas de coordinación entre agentes y comportamientos inesperados.
• Manejo de errores: Para permitir el diagnóstico y la solución de problemas de errores, implementa mecanismos de registro, manejo de excepciones y reintentos.

Consideraciones de confiabilidad de Agent Platform

Para asegurarte de que la configuración y el uso de tu Plataforma de agentes cumplan con tus requisitos de confiabilidad, ten en cuenta las siguientes recomendaciones:

• Planificación de capacidad: Si la cantidad de solicitudes supera la capacidad asignada, se devuelve el código de error 429. Para las cargas de trabajo que son fundamentales para la empresa y requieren constantemente una capacidad de procesamiento alta, puedes reservar capacidad de procesamiento con la capacidad de procesamiento aprovisionada.
• Disponibilidad del extremo del modelo: Si los datos se pueden compartir en varias regiones o países, puedes usar un extremo global para el modelo.

Solidez de Cloud Run ante interrupciones zonales y regionales

Cloud Run es un servicio regional. Almacena datos de forma síncrona en varias zonas dentro de una región y balancea automáticamente la carga del tráfico entre las zonas. Si se produce una interrupción zonal, Cloud Run seguirá ejecutándose y no se perderán datos. Si se produce una interrupción regional, el servicio deja de ejecutarse hasta que Google resuelva la interrupción.

Consideraciones de confiabilidad para todos los productos Google Cloud de la arquitectura

Después de implementar tu aplicación en Google Cloud, obtén recomendaciones para optimizar aún más la confiabilidad con Active Assist. Revisa las recomendaciones y aplícalas según corresponda a tu entorno. Para obtener más información, consulta Cómo encontrar recomendaciones en Active Assist.

Para conocer los principios y las recomendaciones de confiabilidad específicos de las cargas de trabajo de IA y AA, consulta la perspectiva de IA y AA: Confiabilidad en Well-Architected Framework.

Operaciones

En esta sección, se describen los factores que debes tener en cuenta cuando usas esta arquitectura de referencia para diseñar una topología de Google Cloud que puedas operar de manera eficiente.

Consideraciones sobre las operaciones de Agent Platform

Para asegurarte de que la configuración y el uso de tu Plataforma de agentes cumplan con tus requisitos operativos, ten en cuenta las siguientes recomendaciones:

• Supervisión con registros: De forma predeterminada, los registros de agentes que se escriben en las transmisiones stdout y stderr se enrutan a Cloud Logging. Para el registro avanzado, puedes integrar el registrador de Python en Cloud Logging. Si necesitas un control total sobre el registro y los registros estructurados, usa el cliente de Cloud Logging. Para obtener más información, consulta Cómo registrar un agente y Cómo registrarse en el ADK.
• Evaluación continua: Realiza periódicamente una evaluación cualitativa del resultado de los agentes y la trayectoria o los pasos que siguieron los agentes para producir el resultado. Para implementar la evaluación de agentes, puedes usar el servicio de evaluación de IA generativa o los métodos de evaluación que admite el ADK.

Consideraciones sobre las operaciones de MCP

Para asegurarte de que tu implementación del MCP cumpla con tus requisitos operativos, ten en cuenta las siguientes recomendaciones:

• Herramientas de bases de datos: Para administrar de manera eficiente las herramientas de bases de datos de tus agentes de IA y garantizar que los agentes manejen de forma segura complejidades como la agrupación de conexiones y la autenticación, usa MCP Toolbox para bases de datos. Proporciona una ubicación centralizada para almacenar y actualizar herramientas de bases de datos. Puedes compartir las herramientas entre los agentes y actualizarlas sin volver a implementarlos. La caja de herramientas incluye una amplia variedad de herramientas para Google Cloud bases de datos como AlloyDB para PostgreSQL y para bases de datos de terceros, como MongoDB.
• Modelos de IA generativa: Para permitir que los agentes de IA usen modelos de IA generativa de Google, como Imagen y Veo, puedes usar servidores de MCP para Google Cloud las APIs de contenido multimedia generativo.
• Productos y herramientas de seguridad de Google: Para permitir que tus agentes de IA accedan a los productos y herramientas de seguridad de Google, como Google Security Operations, Google Threat Intelligence y Security Command Center, usa servidores de MCP para los productos de seguridad de Google.

Consideraciones operativas para todos los productos de Google Cloud en la arquitectura

Recopila y analiza datos de seguimiento de forma continua con Cloud Trace. Los datos de seguimiento te permiten identificar y diagnosticar rápidamente errores en flujos de trabajo complejos de agentes. Puedes realizar análisis detallados a través de visualizaciones en la herramienta Explorador de seguimiento. Para obtener más información, consulta Cómo ver los registros del agente.

Para conocer los principios y las recomendaciones de excelencia operativa específicos de las cargas de trabajo de IA y AA, consulta Perspectiva de IA y AA: excelencia operativa en Well-Architected Framework.

Optimización de costos

En esta sección, se proporciona orientación para optimizar el costo de configurar y operar una topología de Google Cloud que compilas a través de esta arquitectura de referencia.

Consideraciones sobre los costos de Agent Platform

Para asegurarte de que la configuración y el uso de Agent Platform cumplan con tus requisitos de costos, ten en cuenta las siguientes recomendaciones:

• Análisis de costos y administración: Para analizar y administrar los costos de la Agent Platform, te recomendamos que crees métricas de referencia para las consultas por segundo (QPS) y los tokens por segundo (TPS). Luego, supervisa estas métricas después de la implementación. La referencia también ayuda con la planificación de la capacidad. Por ejemplo, el valor de referencia te ayuda a determinar cuándo podría ser necesaria la Capacidad de procesamiento aprovisionada.
• Selección del modelo: El modelo que selecciones para tu aplicación de IA afecta directamente los costos y el rendimiento. Para identificar el modelo que proporciona un equilibrio óptimo entre el rendimiento y el costo para tu caso de uso específico, prueba los modelos de forma iterativa. Te recomendamos que comiences con el modelo más rentable y que avances gradualmente hacia opciones más potentes.
• Instrucciones rentables: La longitud de tus instrucciones (entrada) y las respuestas generadas (salida) afectan directamente el rendimiento y el costo. Escribe instrucciones que sean breves, directas y proporcionen suficiente contexto. Diseña tus instrucciones para obtener respuestas concisas del modelo. Por ejemplo, incluye frases como "resume en 2 oraciones" o "enumera 3 puntos clave". Para obtener más información, consulta las prácticas recomendadas para el diseño de instrucciones.
• Caché de contexto: Para reducir el costo de las solicitudes que contienen contenido repetido con altos recuentos de tokens de entrada, usa el caché de contexto.
• Solicitudes por lotes: Cuando sea pertinente, considera la predicción por lotes. Las solicitudes por lotes generan un costo menor que las solicitudes estándar.

Consideraciones sobre los costos de Cloud Run

Para asegurarte de que tu implementación de Cloud Run cumpla con tus requisitos de costos, ten en cuenta las siguientes recomendaciones:

• Asignación de recursos: Cuando creas un servicio de Cloud Run, puedes especificar la cantidad de memoria y CPU que se asignarán. Comienza con las asignaciones de CPU y asignación de memoria predeterminadas. Observa el uso y el costo de los recursos a lo largo del tiempo, y ajusta la asignación según sea necesario. Para obtener más información, consulta Configura límites de memoria para los servicios y Configura límites de CPU para los servicios.
• Optimización de tarifas: Si puedes predecir los requisitos de CPU y memoria, puedes ahorrar dinero con los descuentos por compromiso de uso (CUD).

Consideraciones de costos para todos los productos de Google Cloud en la arquitectura

Después de implementar tu aplicación en Google Cloud, obtén recomendaciones para optimizar aún más los costos con Active Assist. Revisa las recomendaciones y aplícalas según corresponda a tu entorno. Para obtener más información, consulta Cómo encontrar recomendaciones en Active Assist.

Para estimar el costo de tus recursos de Google Cloud , usa la calculadora de precios deGoogle Cloud .

Para conocer los principios y las recomendaciones de optimización de costos específicos para las cargas de trabajo de IA y AA, consulta Perspectiva de IA y AA: Optimización de costos en el Well-Architected Framework.

Optimización del rendimiento

En esta sección, se describen las consideraciones y recomendaciones de diseño para crear una topología en Google Cloud que cumpla con los requisitos de rendimiento de tus cargas de trabajo.

Consideraciones de rendimiento para los agentes

Para asegurarte de que la configuración de tu agente cumpla con tus requisitos de rendimiento, ten en cuenta las siguientes recomendaciones:

• Selección del modelo: Cuando selecciones modelos para tu sistema de IA de agentes, ten en cuenta las capacidades que se requieren para las tareas que los agentes deben realizar.
• Optimización de instrucciones: Para mejorar y optimizar rápidamente el rendimiento de las instrucciones a gran escala y eliminar la necesidad de reescribirlas manualmente, usa el optimizador de instrucciones de la Plataforma de agentes. El optimizador te ayuda a adaptar las instrucciones de manera eficiente en diferentes modelos.

Consideraciones sobre el rendimiento de Agent Platform

Para garantizar que la configuración y el uso de tu Plataforma de agentes cumplan con tus requisitos de rendimiento, ten en cuenta las siguientes recomendaciones:

• Selección del modelo: El modelo que selecciones para tu aplicación de IA afecta directamente los costos y el rendimiento. Para identificar el modelo que proporciona un equilibrio óptimo entre el rendimiento y el costo para tu caso de uso específico, prueba los modelos de forma iterativa. Te recomendamos que comiences con el modelo más rentable y que avances gradualmente hacia opciones más potentes.
• Ingeniería de instrucciones: La longitud de tus instrucciones (entrada) y las respuestas generadas (salida) afectan directamente el rendimiento y el costo. Escribe instrucciones que sean breves, directas y proporcionen contexto suficiente. Diseña tus instrucciones para obtener respuestas concisas del modelo. Por ejemplo, incluye frases como "resume en 2 oraciones" o "enumera 3 puntos clave". Para obtener más información, consulta las prácticas recomendadas para el diseño de instrucciones.
• Caché de contexto: Para reducir la latencia de las solicitudes que contienen contenido repetido con altos recuentos de tokens de entrada, usa el caché de contexto.

Consideraciones sobre el rendimiento de Cloud Run

Según tus requisitos de rendimiento, configura la memoria y la CPU que se asignarán al servicio de Cloud Run. Para obtener más información, consulta Configura límites de memoria para los servicios y Configura límites de CPU para los servicios.

Para obtener más orientación sobre la optimización del rendimiento, consulta Sugerencias generales para el desarrollo de Cloud Run.

Consideraciones de rendimiento para todos los productos de Google Cloud en la arquitectura

Después de implementar tu aplicación en Google Cloud, obtén recomendaciones para optimizar aún más el rendimiento con Active Assist. Revisa las recomendaciones y aplícalas según corresponda a tu entorno. Para obtener más información, consulta Cómo encontrar recomendaciones en Active Assist.

Si deseas conocer los principios y las recomendaciones de optimización del rendimiento específicos para las cargas de trabajo de IA y AA, consulta Perspectiva de IA y AA: Optimización del rendimiento en Well-Architected Framework.

Implementación

Para aprender a compilar e implementar sistemas de IA multiagente, usa los siguientes ejemplos de código. Estas muestras de código son puntos de partida completamente funcionales para el aprendizaje y la experimentación. Para un funcionamiento óptimo en entornos de producción, debes personalizar la base de código según tus requisitos técnicos y comerciales específicos.

• Creador de cursos: Crea cursos educativos estructurados.
  • Uso de modelos de Gemini y Gemma
  • Cómo usar un modelo de Gemini
• Asesor financiero: Analiza datos del mercado de valores, crea estrategias comerciales, define planes de ejecución y evalúa riesgos.
• Asistente de investigación: Planifica y realiza investigaciones, evalúa los hallazgos y redacta un informe de investigación.
• Optimizador de la Búsqueda: Encuentra palabras clave de la Búsqueda, analiza páginas web y proporciona sugerencias para optimizar la búsqueda.
• Planificador de Airbnb (con A2A y MCP): Para una ubicación y hora determinadas, busca anuncios de Airbnb y obtén información del clima.

¿Qué sigue?

• Elige un patrón de diseño para tu sistema de agente de IA.
• Explora agentes y herramientas de ejemplo en Agent Garden.
• Crea agentes con el ADK.
• Implementa agentes en Google Cloud.
• Aloja agentes de A2A en Cloud Run.
• Aloja servidores de MCP en Cloud Run.
• Para obtener una descripción general de los principios y las recomendaciones de arquitectura específicos para las cargas de trabajo de IA y AA en Google Cloud, consulta la perspectiva de IA y AA en Well-Architected Framework.
• Para obtener más información sobre las arquitecturas de referencia, los diagramas y las prácticas recomendadas, explora Cloud Architecture Center.

Colaboradores

Autor: Kumar Dhanagopal | Desarrollador de soluciones entre productos

Otros colaboradores:

• Alan Blount | Gerente de producto
• Ali Arsanjani, PhD | Director, Applied AI Engineering
• Filipe Gracio, PhD | Ingeniero de Atención al cliente y especialista en IA/AA
• Holt Skinner | Developer Advocate
• Jack Wotherspoon | Developer Advocate
• Joe Shirey | Gerente de Relaciones con Desarrolladores de Cloud
• Megan O'Keefe | Developer Advocate
• Samantha He | Escritora técnica
• Sara Ford | Ingeniera sénior de relaciones con desarrolladores
• Shir Meir Lador | Administrador de Ingeniería de Relaciones con Desarrolladores
• Victor Dantas | Arquitecto de soluciones de campo de IA generativa
• Vlad Kolesnikov | Ingeniero de relaciones con desarrolladores