Panoramica dell'ottenimento di previsioni su Vertex AI

Una previsione è l'output di un modello addestrato di machine learning. Questa pagina fornisce una panoramica del flusso di lavoro per ottenere previsioni dai tuoi modelli su Vertex AI.

Vertex AI offre due metodi per ottenere previsioni:

• Le previsioni online sono richieste sincrone effettuate a un modello di cui è stato eseguito il deployment in una endpoint. Pertanto, prima di inviare una richiesta, devi eseguire il deployment della risorsa Model in un endpoint. Ciò associa le risorse di calcolo al modello in modo che possa fornire previsioni online con bassa latenza. Utilizza le previsioni online quando effettui richieste in risposta all'input dell'applicazione o in situazioni che richiedono un'inferenza tempestiva.

• Le previsioni batch sono richieste asincrone effettuate a un modello di cui non è stato eseguito il deployment in un endpoint. Invii la richiesta (come risorsa BatchPredictionsJob) direttamente alla risorsa Model. Utilizza le previsioni batch quando non hai bisogno di una risposta immediata e vuoi elaborare i dati accumulati attraverso un'unica richiesta.

Ricevi previsioni da modelli addestrati personalizzati

Per ottenere previsioni, devi prima importare il modello. Dopo l'importazione, diventa una risorsa Model visibile in Vertex AI Model Registry.

Quindi, leggi la seguente documentazione per scoprire come ottenere previsioni:

• Ottenere previsioni batch

  Oppure

• Eseguire il deployment del modello nell'endpoint e ottenere le previsioni online.

Ricevi previsioni dai modelli AutoML

A differenza dei modelli addestrati personalizzati, i modelli AutoML vengono importati automaticamente in Vertex AI Model Registry dopo l'addestramento.

A parte questo, il flusso di lavoro per i modelli AutoML è simile, ma varia leggermente in base al tipo di dati e all'obiettivo del modello. La documentazione per ottenere le previsioni AutoML si trova insieme all'altra documentazione di AutoML. Ecco i link alla documentazione:

Immagine

Scopri come ottenere previsioni dai seguenti tipi di modelli AutoML di immagini:

• Modelli di classificazione delle immagini
• Modelli di rilevamento di oggetti immagine

Tabulari

Scopri come ottenere previsioni dai seguenti tipi di modelli AutoML tabulari:

• Modelli tabulari di classificazione/regressione

  • Previsioni online
  • Previsioni batch

• Modelli di previsione tabulari (solo previsioni di gruppo)

Testo

Scopri come ottenere previsioni dai seguenti tipi di modelli di testo AutoML:

• Modelli di classificazione del testo
• Modelli di estrazione delle entità di testo
• Modelli di analisi del sentiment del testo

Video

Scopri come ottenere previsioni dai seguenti tipi di modelli AutoML video:

• Modelli di riconoscimento delle azioni video (solo previsioni batch)
• Modelli di classificazione di video (solo previsioni batch)
• Modelli di monitoraggio di oggetti video (solo previsioni batch)