Visualizzare lo stato del servizio e gli endpoint

Vertex AI nell'appliance Google Distributed Cloud (GDC) con air gap fornisce endpoint API preaddestrati che ti consentono di interagire con i servizi AI in modo programmatico dall'interfaccia a riga di comando. Controllare lo stato del servizio e gli endpoint ti aiuta a verificare i deployment e a risolvere i problemi di integrazione tra le tue applicazioni.

Segui questi passaggi per visualizzare lo stato e gli endpoint delle API preaddestrate di riconoscimento ottico dei caratteri (OCR), Speech-to-Text e Vertex AI Translation:

1. Accedi alla console GDC.
2. Nel menu di navigazione, fai clic su Vertex AI > API preaddestrate.

3. Nella pagina API preaddestrate, puoi esaminare le seguenti informazioni:

   • Visualizza lo stato di ogni API preaddestrata nel riquadro centrale. Lo stato è Attivato o Non attivato. Se lo stato è Non abilitata, puoi abilitare l'API corrispondente. Per saperne di più, consulta Esegui il provisioning delle GPU e abilita le API preaddestrate di Vertex AI.

   • Se lo stato di un'API è Abilitata, puoi visualizzare il relativo endpoint nel riquadro centrale. Per utilizzare questo endpoint per interagire in modo programmatico con il servizio Vertex AI, fai clic su Copia per copiarlo negli appunti.

Se il sistema non riesce ad abilitare l'API, la pagina visualizza informazioni per aiutarti a risolvere i problemi.

Attenzione: l'appliance GDC con air gap include una singola GPU NVIDIA A100 da 80 GB. In questo modo, il dispositivo può eseguire una sola API Vertex AI pre-addestrata dipendente dalla GPU alla volta. Se provi ad attivare sia Vertex AI Translation sia OCR, l'attivazione della seconda API non andrà a buon fine e verrà visualizzato un messaggio di errore che indica risorse GPU insufficienti. Tuttavia, puoi eseguire Speech-to-Text insieme a Vertex AI Translation o OCR, poiché Speech-to-Text richiede solo risorse della CPU.