Les GPU permettent d'accélérer les charges de travail, et Cloud Workstations permet de rattacher des GPU aux postes de travail. Cloud Workstations est compatible avec de nombreux modèles de GPU pouvant être associés aux VM Compute Engine. Le modèle et la quantité de GPU à rattacher à chaque station de travail sont spécifiés dans la configuration de la station de travail. Cloud Workstations gère l'association des GPU et l'installation de leurs pilotes d'appareils.
L'association de GPU aux stations de travail aura une incidence sur les coûts, comme décrit dans la présentation des tarifs de Cloud Workstations.
Limites
Une configuration de station de travail peut spécifier des GPU, sous réserve des limitations suivantes:
- La virtualisation imbriquée ne peut pas être activée sur une configuration de station de travail utilisant des GPU.
- Cloud Workstations n'est compatible avec les GPU que pour les configurations spécifiant des types de machines dans les séries de machines N1 ou A2. Pour en savoir plus, consultez la section Modèles de GPU compatibles.
- La configuration doit spécifier les zones d'instances répliquées dans lesquelles le modèle de GPU choisi est disponible.
- Il n'est pas possible de configurer des stations de travail pour qu'elles soient associées à plusieurs modèles de GPU à la fois.
Modèles de GPU compatibles
Cloud Workstations est compatible avec de nombreux modèles de GPU mis à disposition par Compute Engine. Les modèles compatibles dépendent de la série de machines choisie pour la configuration de la station de travail, comme résumé dans le tableau suivant.
Série de machines N1
La série de machines à usage général N1 accepte plusieurs modèles de GPU. Les configurations de station de travail qui spécifient l'un des types de machines N1 peuvent également spécifier l'un des modèles de GPU suivants. Pour le modèle de GPU choisi, la configuration peut spécifier le nombre de cartes GPU à rattacher à chaque station de travail.
Modèle GPU | Nombre de GPU |
---|---|
NVIDIA T4 (nvidia-tesla-t4 ) |
1, 2 ou 4 GPU |
NVIDIA P4 (nvidia-tesla-p4 ) |
1, 2 ou 4 GPU |
NVIDIA V100 (nvidia-tesla-v100 ) |
1, 2, 4 ou 8 GPU |
NVIDIA P100 (nvidia-tesla-p100 ) |
1, 2 ou 4 GPU |
Série de machines A2
La série de machines standards A2 optimisées pour les accélérateurs est associée à un nombre fixe de GPU NVIDIA A100, uniquement basé sur le type de machine choisi.
Le tableau suivant montre le mappage entre le type de machine et le nombre de cartes qui seront associées.
Modèle GPU | Type de machine | Nombre de GPU |
---|---|---|
NVIDIA A100 40 Go (nvidia-tesla-a100 ) |
a2-highgpu-1g |
1 GPU |
a2-highgpu-2g |
2 GPU | |
a2-highgpu-4g |
4 GPU | |
a2-highgpu-8g |
8 GPU | |
a2-megagpu-16g |
16 GPU |
Cloud Workstations n'est pas compatible avec les types de machines A2 Ultra.
Ajouter des GPU à une configuration de station de travail existante
Pour ajouter des GPU à une configuration de station de travail, suivez la procédure décrite dans l'un des onglets suivants.
Avant de commencer
Sélectionnez l'onglet correspondant à la façon dont vous prévoyez d'utiliser les exemples de cette page :
Console
Lorsque vous utilisez la console Google Cloud pour accéder aux services et aux API Google Cloud, vous n'avez pas besoin de configurer l'authentification.
gcloud
Installez Google Cloud CLI, puis initialisez-la en exécutant la commande suivante :
gcloud init
Consultez la présentation des tarifs de Cloud Workstations pour comprendre comment vos coûts seront affectés par la configuration des GPU. Notez que les GPU sont associés aux machines virtuelles (VM) prédémarrées, spécifiées par la taille du pool de démarrage rapide d'une configuration.
Mettre à jour votre configuration existante
Console
Configurez des GPU sur une configuration de station de travail existante à partir de la console Google Cloud en procédant comme suit:
Dans la console Google Cloud, accédez à la page Configurations de stations de travail.
Dans la liste Workstation configurations (Configurations de stations de travail), cliquez sur le nom de la configuration à laquelle ajouter des GPU.
Sur la page Workstation configuration details (Détails de la configuration de la station de travail), cliquez sur edit Edit (Modifier).
Sur la page Modifier la configuration de la station de travail, cliquez sur Paramètres de la machine dans le menu de navigation.
Cliquez sur le bouton d'activation pour sélectionner GPU au lieu de la famille de machines à usage général.
Dans le champ Type de GPU, sélectionnez le modèle de GPU que vous souhaitez utiliser.
Dans le champ Nombre de GPU, sélectionnez le nombre de cartes GPU que vous souhaitez associer à chaque station de travail.
Dans le champ Type de machine, sélectionnez le type de machine que vous souhaitez utiliser.
Cliquez sur Enregistrer pour mettre à jour la configuration.
gcloud
Configurez les GPU sur une configuration de station de travail existante en exécutant la commande gcloud workstations configs update
.
Cependant, commencez par collecter des informations pour voir quels modèles de GPU sont disponibles et en choisir un pour votre configuration:
Vérifiez les zones d'instances dupliquées spécifiées par la configuration en exécutant la commande CLI
gcloud
suivante:gcloud workstations configs describe \ --format="table(name.scope(workstationConfigs),replicaZones.list())" \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID
Remplacez les éléments suivants :
PROJECT_ID
: ID du projet contenant la configuration de la station de travail.LOCATION
: emplacement du cluster de stations de travail.WORKSTATION_CLUSTER_ID
: nom du cluster de stations de travail contenant la configuration de station de travail.WORKSTATION_CONFIG_ID
: nom de la configuration de station de travail.
Choisissez un modèle de GPU compatible disponible dans les deux zones d'instances répliquées de la configuration en exécutant la commande
gcloud compute accelerator-types list
:gcloud compute accelerator-types list \ --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \ --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \ --project=PROJECT_ID
Remplacez
ZONES
par la liste des zones d'instances dupliquées déterminées à l'étape précédente, séparées par une virgule (par exemple,us-central1-a,us-central1-c
).Choisissez un modèle de GPU répertorié deux fois dans le tableau, indiquant qu'il est disponible dans les deux zones d'instances répliquées.
Notez le nombre maximal de cartes que vous pouvez joindre pour le modèle de GPU choisi.
Déterminez quels types de machines compatibles sont disponibles dans les deux zones d'instances répliquées de la configuration à l'aide de la commande
gcloud compute machine-types list
.Si vous avez choisi le modèle de GPU NVIDIA A100 40 Go à l'étape précédente, votre configuration doit utiliser la série de machines A2:
gcloud compute machine-types list \ --format="table(name,zone,guestCpus:sort=1)" \ --filter="name:a2-highgpu- OR name:a2-megagpu-" \ --zones=ZONES \ --project=PROJECT_ID
Si vous avez choisi un autre modèle de GPU à l'étape précédente, votre configuration doit utiliser la série de machines N1:
gcloud compute machine-types list \ --format="table(name,zone,guestCpus:sort=1)" \ --filter="name:n1-standard-" \ --zones=ZONES \ --project=PROJECT_ID
Choisissez un type de machine répertorié deux fois dans le tableau, indiquant qu'il est disponible dans les deux zones d'instances dupliquées.
Maintenant que vous avez sélectionné un modèle de GPU et un type de machine compatible, mettez à jour la configuration:
Pour les GPU NVIDIA A100 40 Go, exécutez la commande suivante afin de mettre à jour votre configuration:
gcloud beta workstations configs update \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --machine-type=A2_MACHINE_TYPE
Remplacez
A2_MACHINE_TYPE
par le type de machine A2 choisi, déterminé à l'étape précédente (par exemple,a2-highgpu-1g
).Pour tous les autres modèles de GPU, exécutez la commande suivante:
gcloud beta workstations configs update \ --project=PROJECT_ID \ --region=LOCATION \ß --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --machine-type=N1_MACHINE_TYPE \ --accelerator-type=ACCELERATOR_TYPE \ --accelerator-count=ACCELERATOR_COUNT
Remplacez les éléments suivants :
N1_MACHINE_TYPE
: type de machine choisi dans la série N1 (par exemple,n1-standard-2
).ACCELERATOR_TYPE
: nom du modèle de GPU choisi (par exemple,nvidia-tesla-t4
).ACCELERATOR_COUNT
: nombre de GPU à rattacher à chaque station de travail (par exemple,1
,2
,4
). La puissance doit être inférieure à la valeur maximale pour le modèle de GPU.
Créer une configuration de station de travail avec des GPU
Pour créer une configuration de station de travail qui associe des GPU aux stations de travail basées sur celle-ci, suivez la procédure décrite dans l'un des onglets suivants.
Avant de commencer
Sélectionnez l'onglet correspondant à la façon dont vous prévoyez d'utiliser les exemples de cette page :
Console
Lorsque vous utilisez la console Google Cloud pour accéder aux services et aux API Google Cloud, vous n'avez pas besoin de configurer l'authentification.
gcloud
Installez Google Cloud CLI, puis initialisez-la en exécutant la commande suivante :
gcloud init
REST
Pour utiliser les exemples d'API REST de cette page dans un environnement de développement local, vous devez utiliser les identifiants que vous fournissez à gcloud CLI.
Installez Google Cloud CLI, puis initialisez-la en exécutant la commande suivante :
gcloud init
Choisissez un modèle de GPU et consultez le tableau de disponibilité des GPU pour sélectionner une région dans laquelle le modèle de GPU choisi est disponible dans au moins deux zones.
Si vous ne disposez pas encore d'un cluster dans la région choisie où vous pouvez créer une configuration, suivez les étapes pour créer un cluster de stations de travail dans la région.
Consultez la présentation des tarifs de Cloud Workstations pour comprendre comment vos coûts seront affectés par la configuration des GPU. Notez que les GPU sont associés aux machines virtuelles (VM) prédémarrées, spécifiées par la taille du pool de démarrage rapide d'une configuration.
Créer une configuration
Console
Créez une configuration de station de travail avec des GPU à partir de la console Google Cloud en procédant comme suit:
Dans la console Google Cloud, accédez à la page Configurations de stations de travail.
Sur la page Workstation configurations (Configurations de stations de travail), cliquez sur add_box Create (Créer).
À l'étape Informations générales de la page Créer une configuration de station de travail, spécifiez un nom pour votre configuration dans le champ Nom.
Dans le champ Cluster de stations de travail, sélectionnez un cluster dans la région choisie.
Cliquez sur Continuer pour passer à l'étape Paramètres de la machine.
À l'étape Paramètres de la machine de la page Créer une configuration de station de travail, commencez par cliquer sur le bouton d'activation pour sélectionner GPU plutôt que la famille de machines à usage général.
Ensuite, dans le champ Zones, cochez les cases en regard des deux zones où le modèle de GPU que vous avez choisi est disponible (consultez le tableau sur la disponibilité des GPU).
Dans le champ Type de GPU, sélectionnez le modèle de GPU que vous souhaitez utiliser.
Dans le champ Nombre de GPU, sélectionnez le nombre de cartes GPU que vous souhaitez rattacher à chaque station de travail.
Dans le champ Type de machine, sélectionnez un type de machine compatible.
Cliquez sur Continuer pour configurer les paramètres de l'environnement et la stratégie IAM, puis sur Créer pour provisionner la nouvelle configuration de station de travail.
gcloud
Créez une configuration de station de travail avec des GPU à l'aide de la CLI gcloud
en exécutant la commande gcloud workstations configs create
.
Pour les GPU NVIDIA A100 40 Go, exécutez la commande suivante afin de créer votre configuration:
gcloud beta workstations configs create \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --replica-zones=REPLICA_ZONES \ --machine-type=A2_MACHINE_TYPE
Remplacez les éléments suivants :
PROJECT_ID
: ID du projet qui contiendra la nouvelle configuration de station de travail.LOCATION
: emplacement du cluster de stations de travail où la configuration sera contenue.WORKSTATION_CLUSTER_ID
: nom du cluster de stations de travail qui contiendra la nouvelle configuration de station de travail.WORKSTATION_CONFIG_ID
: nom de la nouvelle configuration de station de travail.REPLICA_ZONES
: exactement deux zones de la région du cluster où le modèle de GPU choisi est disponible (par exemple,us-central1-a,us-central1-c
).A2_MACHINE_TYPE
: type de machine de la série A2 choisi (par exemple,a2-highgpu-1g
)
Pour tous les autres modèles de GPU, exécutez la commande suivante afin de créer votre configuration:
gcloud beta workstations configs create \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --replica-zones=REPLICA_ZONES \ --machine-type=N1_MACHINE_TYPE \ --accelerator-type=ACCELERATOR_TYPE \ --accelerator-count=ACCELERATOR_COUNT
Remplacez les éléments suivants :
PROJECT_ID
: ID du projet qui contiendra la nouvelle configuration de station de travail.LOCATION
: emplacement du cluster de stations de travail où la configuration sera contenue.WORKSTATION_CLUSTER_ID
: nom du cluster de stations de travail qui contiendra la nouvelle configuration de station de travail.WORKSTATION_CONFIG_ID
: nom de la nouvelle configuration de station de travail.REPLICA_ZONES
: exactement deux zones de la région du cluster où le modèle de GPU choisi est disponible (par exemple,us-central1-a,us-central1-c
).N1_MACHINE_TYPE
: type de machine de la série N1 choisi (par exemple,n1-standard-2
)ACCELERATOR_TYPE
: nom du modèle de GPU choisi (par exemple,nvidia-tesla-t4
).ACCELERATOR_COUNT
: nombre de GPU à rattacher à chaque station de travail (par exemple,1
,2
,4
).
Pilotes de périphériques GPU NVIDIA
Cloud Workstations installe les pilotes d'appareils NVIDIA sur les VM hôtes des stations de travail lors du démarrage des VM.
Pour déterminer la version du pilote d'appareil installé sur une station de travail, exécutez la commande suivante:
nvidia-smi --query-gpu=name,driver_version --format=csv
Disponibilité des GPU par région et par zone
Vous pouvez effectuer une recherche par localisation ou par modèle de GPU, ou une combinaison des deux.
zones | Emplacement | Plates-formes de GPU | ||||||
---|---|---|---|---|---|---|---|---|
asia-east1-a |
Comté de Changhua, Taïwan, APAC | T4, P100 | ||||||
asia-east1-b |
Comté de Changhua, Taïwan, APAC | |||||||
asia-east1-c |
Comté de Changhua, Taïwan, APAC | T4, V100, P100 | ||||||
asia-east2-a |
Hong Kong, APAC | T4 | ||||||
asia-east2-b |
Hong Kong, APAC | |||||||
asia-east2-c |
Hong Kong, APAC | T4 | ||||||
asia-northeast1-a |
Tokyo, Japon, APAC | A100 40 Go, T4 | ||||||
asia-northeast1-b |
Tokyo, Japon, APAC | |||||||
asia-northeast1-c |
Tokyo, Japon, APAC | A100 40 Go, T4 | ||||||
asia-northeast3-a |
Séoul, Corée du Sud, APAC | A100 40 Go | ||||||
asia-northeast3-b |
Séoul, Corée du Sud, APAC | A100 40 Go, T4 | ||||||
asia-northeast3-c |
Séoul, Corée du Sud, APAC | T4 | ||||||
asia-south1-a |
Mumbai, Inde, APAC | T4 | ||||||
asia-south1-b |
Mumbai, Inde, APAC | T4 | ||||||
asia-south1-c |
Mumbai, Inde, APAC | T4 | ||||||
asia-southeast1-a |
Jurong West, Singapour, APAC | T4 | ||||||
asia-southeast1-b |
Jurong West, Singapour, APAC | A100 40 Go, T4, P4 | ||||||
asia-southeast1-c |
Jurong West, Singapour, APAC | A100 40 Go, T4, P4 | ||||||
australia-southeast1-a |
Sydney, Australie, APAC | T4, P4 | ||||||
australia-southeast1-b |
Sydney, Australie, APAC | P4 | ||||||
australia-southeast1-c |
Sydney, Australie, APAC | T4, P100 | ||||||
europe-north1-a europe-north1-b europe-north1-c |
Hamina, Finlande, Europe | |||||||
europe-west1-b |
Saint-Ghislain, Belgique, Europe | T4, P100 | ||||||
europe-west1-c |
Saint-Ghislain, Belgique, Europe | T4 | ||||||
europe-west1-d |
Saint-Ghislain, Belgique, Europe | P100, T4 | ||||||
europe-west2-a |
Londres, Angleterre, Europe | T4 | ||||||
europe-west2-c |
Londres, Angleterre, Europe | |||||||
europe-west3-a |
Francfort, Allemagne, Europe | |||||||
europe-west3-b |
Francfort, Allemagne, Europe | T4 | ||||||
europe-west3-c |
Francfort, Allemagne, Europe | |||||||
europe-west4-a |
Eemshaven, Pays-Bas, Europe | A100 40 Go, T4, V100, P100 | ||||||
europe-west4-b |
Eemshaven, Pays-Bas, Europe | A100 40 Go, T4, P4, V100 | ||||||
europe-west4-c |
Eemshaven, Pays-Bas, Europe | T4, P4, V100 | ||||||
europe-west6-a europe-west6-b europe-west6-c |
Zurich, Suisse, Europe | |||||||
europe-west8-a europe-west8-b europe-west8-c |
Milan, Italie, Europe | |||||||
europe-west9-a europe-west9-b europe-west9-c |
Paris, France, Europe | |||||||
europe-west12-a europe-west12-b europe-west12-c |
Turin, Italie, Europe | |||||||
europe-southwest1-a europe-southwest1-b europe-southwest1-c |
Madrid, Espagne, Europe | |||||||
me-west1-a |
Tel-Aviv, Israël, Moyen-Orient | |||||||
me-west1-b |
Tel-Aviv, Israël, Moyen-Orient | A100 40 Go, T4 | ||||||
me-west1-c |
Tel-Aviv, Israël, Moyen-Orient | A100 40 Go, T4 | ||||||
northamerica-northeast1-a |
Montréal, Québec, Amérique du Nord | P4 | ||||||
northamerica-northeast1-b |
Montréal, Québec, Amérique du Nord | P4 | ||||||
northamerica-northeast1-c |
Montréal, Québec, Amérique du Nord | T4, P4 | ||||||
southamerica-east1-a |
Osasco, São Paulo, Brésil, Amérique du Sud | T4 | ||||||
southamerica-east1-c |
Osasco, São Paulo, Brésil, Amérique du Sud | T4 | ||||||
southamerica-west1-a southamerica-west1-b southamerica-west1-c |
Santiago, Chili, Amérique du Sud | |||||||
us-central1-a |
Council Bluffs, Iowa, Amérique du Nord | A100 40 Go, T4, P4, V100 | ||||||
us-central1-b |
Council Bluffs, Iowa, Amérique du Nord | A100 40 Go, T4, V100 | ||||||
us-central1-c |
Council Bluffs, Iowa, Amérique du Nord | A100 40 Go, T4, P4, V100, P100 | ||||||
us-central1-f |
Council Bluffs, Iowa, Amérique du Nord | A100 40 Go, T4, V100, P100 | ||||||
us-east1-b |
Moncks Corner, Caroline du Sud, Amérique du Nord | A100 40 Go, P100 | ||||||
us-east1-c |
Moncks Corner, Caroline du Sud, Amérique du Nord | T4, V100, P100 | ||||||
us-east1-d |
Moncks Corner, Caroline du Sud, Amérique du Nord | T4 | ||||||
us-east4-a |
Ashburn, Virginie, Amérique du Nord | T4, P4 | ||||||
us-east4-b |
Ashburn, Virginie, Amérique du Nord | T4, P4 | ||||||
us-east4-c |
Ashburn, Virginie, Amérique du Nord | T4, P4 | ||||||
us-east5-a |
Columbus, Ohio, Amérique du Nord | H100 80 Go | us-east5-b |
Columbus, Ohio, Amérique du Nord | A100 80 Go | us-east5-c |
Columbus, Ohio, Amérique du Nord | |
us-west1-a |
The Dalles, Oregon, Amérique du Nord | T4, V100, P100 | ||||||
us-west1-b |
The Dalles, Oregon, Amérique du Nord | A100 40 Go, T4, V100, P100 | ||||||
us-west1-c |
The Dalles, Oregon, Amérique du Nord |
Étapes suivantes
Spécifiez des GPU à l'aide de l'API Cloud Workstations.
Découvrez comment exécuter des instances Compute Engine avec des accélérateurs GPU.
Consultez la liste complète des types de machines Compute Engine.