Les clusters d'entraînement Gemini Enterprise Agent Platform sont un service géré provisionné en tant qu'instance Compute Engine dans votre VPC. Google CloudCe modèle de déploiement permet au service de se connecter de manière sécurisée à d'autres charges de travail au sein de votre VPC, à des services gérés par Google ou à des réseaux multicloud.
Exigence concernant la MTU du réseau
Pour obtenir des performances réseau optimales pour l'infrastructure d'entraînement, vous devez configurer l'unité de transmission maximale (MTU) de votre réseau VPC.
Paramètres MTU recommandés
La valeur MTU recommandée dépend du type de machine GPU de votre cluster :
- Pour les nœuds A3 Ultra et A4 : utilisez une MTU de 8896.
- Pour les nœuds A3 Mega : utilisez une MTU de 8244.
Vous pouvez créer un VPC ou en utiliser un existant.
Déployer des clusters d'entraînement dans un nouveau VPC (recommandé)
L'approche recommandée consiste à déployer le cluster d'entraînement dans un nouveau réseau VPC préconfiguré. Cela garantit que le paramètre MTU correct est appliqué automatiquement et évite d'avoir un impact sur les charges de travail existantes.
Pour déployer des clusters d'entraînement dans un nouveau VPC, vous devez suivre deux étapes principales :
Créez le réseau VPC : créez un réseau VPC. Pour activer les trames géantes, définissez sa MTU sur 8896.
Déployez le cluster : déployez le cluster d'entraînement dans ce réseau nouvellement configuré.
En suivant cet ordre, les instances de VM du cluster hériteront automatiquement du paramètre MTU correct lors de leur démarrage initial.
Créer et configurer un VPC
- Créez le réseau VPC. Pour activer les trames géantes, définissez NETWORK_MTU
sur 8896.
# create VPC network gcloud compute networks create NETWORK \ --project=PROJECT_ID \ --subnet-mode=custom \ --mtu=NETWORK_MTU - Créez le sous-réseau utilisé pour déployer le
cluster d'entraînement et
mettez à jour la plage en fonction des exigences de votre environnement. Dans cet exemple,
le sous-réseau 192.168.0.0/19 est utilisé pour le
déploiement du cluster d'entraînement.
# create VPC subnet gcloud compute networks subnets create SUBNETWORK \ --project=PROJECT_ID \ --network=NETWORK \ --region=REGION \ --enable-private-ip-google-access \ --range=192.168.0.0/19
- Créez une règle de pare-feu IAP qui autorise la connectivité SSH au
cluster d'entraînement.
gcloud compute firewall-rules create allow-ssh-ingress-from-iap \ --direction=INGRESS --action=allow --rules=tcp:22 \ --source-ranges=35.235.240.0/20 --network NETWORK - Créez une règle de pare-feu d'entrée qui autorise tous les ports et protocoles vers le
sous-réseau du cluster d'entraînement.
gcloud compute --project=PROJECT_ID firewall-rules create allow-internal \ --direction=INGRESS --priority=1000 --network=NETWORK \ --action=ALLOW --rules=tcp:1-65535,udp:1-65535,icmp \ --source-ranges=192.168.0.0/19 --enable-logging
Déployer des clusters d'entraînement dans un VPC existant
Si vous déployez le cluster d'entraînement dans un réseau existant avec des instances Cloud Storage, nous vous recommandons vivement d'utiliser des trames géantes (MTU 8896) pour garantir des performances optimales. Avant de commencer, vérifiez que les systèmes d'exploitation et les applications de vos VM existantes peuvent prendre en charge cette modification.
L'implémentation de trames géantes nécessite la mise à jour de la MTU de votre VPC, ce qui doit être effectué pendant une fenêtre de maintenance planifiée pour éviter l'instabilité du réseau.
La seule procédure sûre consiste à arrêter d'abord toutes les instances de VM en cours d'exécution dans ce réseau. La modification de la MTU lorsque les VM sont actives entraîne des paramètres incompatibles et une connectivité non fiable.
Une fois toutes les VM arrêtées, vous pouvez procéder comme suit :
- Modifiez la MTU du réseau en définissant le paramètre de votre choix (par exemple, 8896).
- Redémarrez toutes les VM une fois la mise à jour du réseau terminée.
- Mettez à jour manuellement les VM non Linux. Sachez que ce redémarrage ne suffit pas pour tous les systèmes d'exploitation. Bien que les VM issues d'images Linux publiques adoptent automatiquement la nouvelle MTU, vous devez mettre à jour manuellement le paramètre MTU dans l'OS pour toutes les VM Windows et toutes les VM d'image personnalisée qui n'utilisent pas le protocole DHCP pour la configuration de la MTU.
Autres exigences :
- Activez l'accès privé à Google dans le sous-réseau utilisé pour déployer le cluster.
- Créez une règle de pare-feu d'entrée pour accorder l'accès IAP au cluster.
- Créez une règle de pare-feu d'entrée pour autoriser tout le trafic vers le cluster.
Étape suivante
Après avoir préparé le réseau VPC avec les paramètres MTU et les règles de pare-feu appropriés, vous devez créer et sécuriser le cluster d'entraînement.
- Vérifiez la configuration de votre réseau : avant de créer votre cluster, exécutez un test de connectivité pour vérifier votre réseau VPC et les paramètres MTU, en particulier si vous avez modifié un VPC existant.
- Sécurisez votre cluster avec un périmètre de service : pour renforcer la sécurité des données, utilisez VPC Service Controls afin de créer un périmètre de service autour de vos ressources Gemini Enterprise Agent Platform. Cela permet d'éviter l'exfiltration de données.
- Connectez-vous à partir d'un environnement hybride ou multicloud : pour accéder à votre cluster d'entraînement à partir d'un centre de données sur site ou d'un cloud public, utilisez Google Cloud's options de connectivité hybride.