Larghezze di rete e GPU

Una maggiore larghezza di banda di rete può migliorare le prestazioni dei carichi di lavoro distribuiti in esecuzione su istanze di macchine virtuali (VM) Compute Engine.

Panoramica

La larghezza di banda di rete massima disponibile per le VM con GPU collegate su Compute Engine è la seguente:

  • Per le VM per uso generico N1 con GPU P100 e P4 collegate, è disponibile una larghezza di banda di rete massima di 32 Gbps. È simile alla tariffa massima disponibile per le VM N1 a cui non sono collegate GPU. Per ulteriori informazioni sulle larghezze di banda di rete, consulta la pagina relativa alla velocità massima dei dati in uscita.
  • Per le VM per uso generico N1 con GPU T4 e V100 collegate, puoi ottenere una larghezza di banda di rete massima di 100 Gbps, in base alla combinazione di numero di GPU e vCPU.
  • Per le VM ottimizzate per l'acceleratore A2 e G2, puoi ottenere una larghezza di banda di rete massima fino a 100 Gbps, in base al tipo di macchina.
  • Per le VM ottimizzate per l'acceleratore A3, puoi ottenere una larghezza di banda di rete massima fino a 1800 Gbps.

Larghezza di banda della rete e NIC virtuale Google (gVNIC)

Per ottenere le velocità di larghezza di banda della rete più elevate (50 Gbps o superiori) applicate alle VM GPU, ti consigliamo di utilizzare Google Virtual NIC (gVNIC). Per ulteriori informazioni sulla creazione di VM GPU che utilizzano gVNIC, consulta Creazione di VM GPU che utilizzano larghezze di banda più elevate.

VM ottimizzate per l'acceleratore

Questa sezione illustra la larghezza di banda di rete massima disponibile per le VM ottimizzate per l'acceleratore di A3, A2 e G2.

VM A3

Ogni tipo di macchina A3 ha un numero fisso di GPU NVIDIA H100 da 80 GB collegate, un numero di vCPU fisso e una dimensione di memoria VM fissa.

Le VM A3 hanno anche più schede di interfaccia di rete fisica (NIC) collegate. Ognuna di queste NIC ha una larghezza di banda massima di 200 Gbps. Per ogni tipo di macchina A3, le NIC sono disposte come segue su un bus Peripheral Component Interconnect Express (PCIe):
  • Per il tipo di macchina a3-highgpu-8g: è disponibile una disposizione NIC di 4+1. Con questo accordo, 4 NIC condividono lo stesso bus PCIe e 1 NIC risiede su un bus PCIe separato.
  • Per il tipo di macchina a3-megagpu-8g: è disponibile una disposizione NIC di 8+1. Con questo accordo, 8 NIC condividono lo stesso bus PCIe e 1 NIC risiede su un bus PCIe separato.

Le NIC che condividono lo stesso bus PCIe hanno un allineamento NUMA (Non-Uniform Memory Access) di un NIC per due GPU NVIDIA H100 da 80 GB. Queste NIC sono ideali per la comunicazione tra GPU dedicate a larghezza di banda elevata e GPU. Il NIC fisico che risiede su un bus PCIe separato è ideale per altre esigenze di networking.

Tipo di macchina Conteggio GPU Conteggio vCPU Memoria VM (GB) Larghezza di banda massima di rete (Gbps)
VM Cluster GPU
a3-megagpu-8g 8 208 1.872 200 1.600
a3-highgpu-8g 8 208 1.872 200 800

VM A2

A ogni tipo di macchina A2 è collegato un numero fisso di GPU NVIDIA A100 da 40 GB o NVIDIA A100 da 80 GB. Ogni tipo di macchina ha anche un conteggio di vCPU e una dimensione di memoria fissi.

Le serie di macchine A2 sono disponibili in due tipi:

  • A2 Ultra: questi tipi di macchine hanno GPU A100 da 80 GB e SSD locale collegato.
  • A2 Standard: a questi tipi di macchina sono collegate GPU A100 da 40 GB.

A2 Ultra

Tipo di macchina Conteggio GPU Conteggio vCPU Memoria VM (GB) Larghezza di banda massima di rete (Gbps)
a2-ultragpu-1g 1 12 170 24
a2-ultragpu-2g 2 24 340 32
a2-ultragpu-4g 4 48 680 50
a2-ultragpu-8g 8 96 1.360 100

Standard A2

Tipo di macchina Conteggio GPU Conteggio vCPU Memoria VM (GB) Larghezza di banda massima di rete (Gbps)
a2-highgpu-1g 1 12 85 24
a2-highgpu-2g 2 24 170 32
a2-highgpu-4g 4 48 340 50
a2-highgpu-8g 8 96 680 100
a2-highgpu-16g 16 96 1.360 100

Configurazione VM G2

A ogni tipo di macchina G2 è collegato un numero fisso di GPU NVIDIA L4 e vCPU. Ogni tipo di macchina G2 ha anche una memoria predefinita e un intervallo di memoria personalizzato. L'intervallo di memoria personalizzato definisce la quantità di memoria che puoi allocare alla VM per ogni tipo di macchina. Puoi specificare la memoria personalizzata durante la creazione della VM.

Tipo di macchina Conteggio GPU Conteggio vCPU Memoria VM predefinita (GB) Intervallo di memoria VM personalizzata (GB) Larghezza di banda di rete massima(Gbps)
g2-standard-4 1 4 16 Da 16 a 32 10
g2-standard-8 1 8 32 Da 32 a 54 16
g2-standard-12 1 12 48 Da 48 a 54 16
g2-standard-16 1 16 64 Da 54 a 64 32
g2-standard-24 2 24 96 Da 96 a 108 32
g2-standard-32 1 32 128 Da 96 a 128 32
g2-standard-48 4 48 192 Da 192 a 216 50
g2-standard-96 8 96 384 Da 384 a 432 100

VM GPU N1

Per le VM per uso generico N1 con GPU T4 e V100 collegate, puoi ottenere una larghezza di banda di rete massima di 100 Gbps, in base alla combinazione di numero di GPU e vCPU. Per tutte le altre VM GPU N1, consulta Panoramica.

Esamina la sezione seguente per calcolare la larghezza di banda di rete massima disponibile per le VM T4 e V100 in base al numero di GPU, modello di GPU e vCPU.

Meno di 5 vCPU

Per le VM T4 e V100 con 5 vCPU o meno, è disponibile una larghezza di banda di rete massima di 10 Gbps.

Più di 5 vCPU

Per le VM T4 e V100 con più di 5 vCPU, la larghezza di banda di rete massima viene calcolata in base al numero di vCPU e GPU per quella VM.

Modello GPU Numero di GPU Calcolo della larghezza di banda massima di rete
NVIDIA V100 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 32)
4 min(vcpu_count * 2, 50)
8 min(vcpu_count * 2, 100)
NVIDIA T4 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 50)
4 min(vcpu_count * 2, 100)

Creare VM con larghezza di banda elevata

Per creare VM che utilizzano larghezze di banda di rete più elevate, consulta Utilizzare una larghezza di banda di rete superiore.

Per testare o verificare la velocità della larghezza di banda per qualsiasi configurazione, puoi utilizzare il test di benchmark. Per ulteriori informazioni, consulta la sezione Verifica della larghezza di banda di rete.

Che cosa succede dopo?