En este documento, se explica cómo planificar y diseñar tu clúster o instancias de GPU con Compute Advisor, una interfaz potenciada por IA que funciona con Gemini. Para obtener más información sobre los componentes que debes configurar antes de crear un clúster o cuando lo creas, consulta Planifica y crea tu infraestructura de IA.
Compute Advisor te ayuda a evaluar las opciones de hardware, estimar los costos de implementación y ver las configuraciones recomendadas para tus clústeres. Para adaptar sus recomendaciones, Compute Advisor evalúa tu Google Cloud proyecto verificando los límites de cuota, las reservas existentes, los descuentos por compromiso de uso (CUD), la región y la zona predeterminadas, y cualquier restricción de ubicación de recursos. Si usas Compute Advisor para ayudarte con la planificación, puedes alcanzar una configuración óptima para tu carga de trabajo antes de crear o modificar un clúster.
Limitaciones
Cuando le pides a Compute Advisor en la Google Cloud consola, no puedes crear, modificar ni borrar recursos directamente.
Antes de comenzar
Cuando usas la Google Cloud consola de para acceder a los Google Cloud servicios y las APIs, no necesitas configurar la autenticación.
Roles obligatorios
Para obtener los permisos que
necesitas para acceder a Gemini y solicitarle información,
pídele a tu administrador que te otorgue el
rol de IAM de visualizador de Cluster Director (roles/hypercomputecluster.viewer) en el proyecto.
Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.
Este rol predefinido contiene los permisos necesarios para acceder a Gemini y solicitarle información. Para ver los permisos exactos que son necesarios, expande la sección Permisos requeridos:
Permisos necesarios
Se requieren los siguientes permisos para acceder a Gemini y solicitarle información:
-
Para ver una lista de clústeres:
hypercomputecluster.clusters.list
También puedes obtener estos permisos con roles personalizados o otros roles predefinidos.
Accede a Compute Advisor en la Google Cloud consola de
Para acceder a Compute Advisor en la Google Cloud consola de, completa los siguientes pasos:
En la Google Cloud consola de, ve a la página Compute Advisor.
Cuando la página esté lista, podrás ver lo siguiente:
Los elementos de la IU que se muestran en la captura de pantalla anterior son los siguientes:
Panel lateral del historial de conversaciones: Muestra tus chats recientes. Puedes interactuar con este panel de la siguiente manera:
Para iniciar una conversación nueva, haz clic en Nuevo chat.
Para reanudar una conversación reciente, en la sección Chats recientes , haz clic en la conversación.
Para ver una lista de todas tus conversaciones, haz clic en Ver todos. En la página Mi historial, puedes ver los detalles de una conversación anterior y reanudarla, o borrar conversaciones si ya no las necesitas.
Tarjetas de instrucciones de acción rápida: Es un conjunto de tarjetas que contienen una instrucción de muestra. Si haces clic en una tarjeta, la Google Cloud consola completa automáticamente el cuadro de instrucciones con la instrucción de muestra.
Cuadro de instrucciones: Este campo te permite ingresar y enviar instrucciones. Para enviar una instrucción, haz clic en Enviar instrucción.
Solicita información a Compute Advisor
Después de enviar una instrucción, Compute Advisor comienza a generar una respuesta. Aparece un panel y Google Cloud la consola de muestra la respuesta a tu instrucción en el panel, como se muestra en la siguiente captura de pantalla:
Según tu instrucción, el panel de respuestas incluye los siguientes elementos:
Fundamentación contextual: Compute Advisor evalúa automáticamente el contexto de tu proyecto para ofrecer recomendaciones altamente personalizadas, incluidos los límites de cuota, las reservas existentes, los CUD, la región y la zona predeterminadas, y cualquier restricción de ubicación de recursos.
Fragmentos de código interactivos: Compute Advisor genera comandos de gcloud, métodos de la API de REST o recursos de Terraform. Puedes copiar y pegar estos fragmentos de código o ejecutarlos en Cloud Shell.
Canvas visual: Compute Advisor organiza las recomendaciones en tablas estructuradas y comparaciones en paralelo. Esta vista te ayuda a evaluar las funciones del producto y los enfoques arquitectónicos. También proporciona un plan de implementación para tu caso de uso.
En las siguientes secciones, se describen las prácticas recomendadas para escribir instrucciones y ejemplos de instrucciones que puedes usar antes de crear o modificar un clúster.
Prácticas recomendadas para escribir prompts
Para obtener las recomendaciones más precisas y prácticas de Compute Advisor, te recomendamos que estructures tus instrucciones de la misma manera que lo harías con un bloque de código. Este enfoque guía la IA generativa mediante el uso de declaraciones de parámetros claras, definiciones de roles, instrucciones específicas y formatos de salida explícitos.
Cuando le pidas información a Compute Advisor, ten en cuenta las siguientes prácticas recomendadas:
Enfócate en el diseño y la planificación: Te recomendamos que no le pidas a Compute Advisor que solucione errores del clúster. Para resolver estos errores, consulta Soluciona problemas relacionados con la creación, actualización y eliminación de instancias de Compute.
Especifica una persona o un rol: declara un rol o una persona objetivo, como un administrador de TI, un investigador de IA o un ingeniero de plataformas, para que Compute Advisor lo adopte. Este enfoque guía el tono, la profundidad y el nivel de experiencia de las recomendaciones resultantes.
Proporciona instrucciones explícitas y numeradas: Divide tu objetivo en preguntas o tareas concretas paso a paso. Este enfoque estructura el proceso de razonamiento de Compute Advisor y ayuda a garantizar que Compute Advisor aborde todos tus requisitos.
Define un formato de salida específico: Indica explícitamente cómo quieres que se formatee la recomendación, como una explicación detallada, una tabla de comparación de Markdown o un bloque de código de gcloud listo para usar.
Aprovecha la fundamentación automática del contexto: No necesitas incluir en tu instrucción la región o zona predeterminada, las cuotas disponibles, los CUD ni las restricciones de ubicación de recursos. Compute Advisor puede acceder a esta información en tu Google Cloud proyecto.
Refina tus diseños de forma iterativa: Puedes modificar o expandir la respuesta que generó Compute Advisor enviando instrucciones nuevas. Por ejemplo, puedes pedirle al asistente que agregue recomendaciones de redes a tu plan de implementación o que modifique los requisitos de almacenamiento sin iniciar una conversación nueva.
Ejemplos de instrucciones
Los siguientes son ejemplos de instrucciones que puedes usar para ayudarte a diseñar y optimizar tu clúster:
Topología del clúster y estrategia de ubicación: Para determinar el modelo de implementación y la política de ubicación óptimos para una carga de trabajo de IA de alto rendimiento, usa una instrucción como la siguiente:
Act as an AI researcher. I need to design a GPU cluster topology in Cluster Director to train a foundation large language model that maximizes ML goodput and secures accelerator capacity. Please provide the following: 1. A comparison of clustered GPU machine series across available regions. 2. An explanation of how compact placement policies and workload policies reduce network latency and boost goodput. 3. The optimal configuration for future reservations in AI Hypercomputer to secure capacity for this workload. Format the comparison as a Markdown table, and provide the deployment steps as a ready-to-use gcloud code block.Modelo de aprovisionamiento y optimización de costos: Para evaluar los modelos de aprovisionamiento y reducir los costos de procesamiento por lotes, usa una instrucción como la siguiente:
Act as an IT administrator. I need to select the most cost-effective consumption option to run large fault-tolerant AI batch jobs on clusters in Cluster Director without data loss. Please provide the following: 1. A cost and availability comparison of Flex-start VMs against Spot VMs for AI workloads. 2. An explanation of how atomic allocation in Flex-start VMs provisions all accelerator nodes at the exact same time. 3. A cluster configuration with checkpoint storage to save model state before Compute Engine reclaims a Spot VM. Format the comparison as a Markdown table, and provide the configuration steps to complete in the Google Cloud console.
¿Qué sigue?
Para revisar cómo obtener capacidad y cuota en AI Hypercomputer, consulta Descripción general de la capacidad.
Para comparar las opciones de aceleradores y seleccionar la serie de GPU adecuada, consulta Elige entre GPUs generales y GPUs agrupadas en clústeres.
Para seleccionar herramientas y crear tu clúster, consulta Descripción general de las opciones de implementación.