Importare modelli in Gemini Enterprise Agent Platform

Questa guida descrive come importare i modelli in Model Registry di Gemini Enterprise Agent Platform. Dopo aver importato il modello, questo sarà visibile in Model Registry. Da Model Registry, puoi eseguire il deployment del modello importato su un endpoint ed eseguire inferenze.

Ruoli obbligatori

Per ottenere le autorizzazioni necessarie per importare i modelli, chiedi all'amministratore di concederti il ruolo IAM Utente di Agent Platform (roles/aiplatform.user) nel progetto. Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.

Potresti anche riuscire a ottenere le autorizzazioni richieste tramite i ruoli personalizzati o altri ruoli predefiniti.

Container predefiniti o personalizzati

Quando importi un modello, lo associ a un container per Agent Platform per eseguire le richieste di inferenza. Puoi utilizzare i container predefiniti forniti da Agent Platform o utilizzare i tuoi container personalizzati che crei e di cui esegui il push in Artifact Registry.

Puoi utilizzare un container predefinito se il modello soddisfa i seguenti requisiti:

Se stai importando un modello AutoML tabulare che hai esportato in precedenza, devi utilizzare un container personalizzato specifico fornito da Agent Platform.

In caso contrario, crea un nuovo container personalizzato o utilizza un container personalizzato esistente in Artifact Registry.

Caricare gli artefatti del modello in Cloud Storage

Devi archiviare gli artefatti del modello in un bucket Cloud Storage, dove la regione del bucket corrisponde all'endpoint regionale che stai utilizzando.

Se il bucket Cloud Storage si trova in un progetto diverso Google Cloud, devi concedere ad Agent Platform l'accesso in lettura agli artefatti del modello.

Se utilizzi un container predefinito, assicurati che i nomi dei file degli artefatti del modello corrispondano esattamente ai seguenti esempi:

  • SavedModel TensorFlow: saved_model.pb
  • PyTorch: model.mar
  • scikit-learn: model.joblib
  • XGBoost: model.bst o model.joblib

Scopri di più su esportazione degli artefatti del modello per l'inferenza.

Importare un modello utilizzando Google Cloud console

Per importare un modello utilizzando Google Cloud console:

  1. Nella Google Cloud console, vai alla pagina Modelli di Agent Platform.

    Vai alla pagina Modelli

  2. Fai clic su Importa.

  3. Seleziona Importa come nuovo modello per importare un nuovo modello.

  4. Seleziona Importa come nuova versione per importare un modello come versione di un modello esistente. Per scoprire di più sul controllo delle versioni dei modelli, consulta Controllo delle versioni dei modelli.

  5. Nome e regione: inserisci un nome per il modello. Seleziona la regione che corrisponde sia alla regione del bucket sia all'endpoint regionale di Agent Platform che stai utilizzando. Fai clic su Continua.

  6. Se espandi Opzioni avanzate, puoi facoltativamente decidere di aggiungere una chiave di crittografia gestita dal cliente.

A seconda del tipo di container che stai utilizzando, seleziona la scheda appropriata di seguito.

Container predefinito

  1. Seleziona Importa gli artefatti del modello in un nuovo container predefinito.

  2. Seleziona il framework del modello e la versione del framework del modello che hai utilizzato per addestrare il modello.

  3. Se vuoi utilizzare le GPU per la gestione delle inferenze, imposta il tipo di acceleratore su GPU.

    Selezionerai il tipo di GPU in un secondo momento, quando eseguirai il deployment del modello su un endpoint.

  4. Specifica il percorso Cloud Storage della directory che contiene gli artefatti del modello.

    Ad esempio, gs://BUCKET_NAME/models/.

  5. Lascia vuoto il campo Schemi di previsione.

  6. Per importare il modello senza le impostazioni di Vertex Explainable AI, fai clic su Importa.

    Al termine dell'importazione, il modello viene visualizzato nella pagina Modelli.

    In caso contrario, continua a configurare il modello inserendo le impostazioni di spiegabilità nella scheda Spiegabilità. Scopri di più sulle impostazioni di spiegabilità.

Container personalizzato

  1. Seleziona Importa un container personalizzato esistente.

  2. Imposta l'URI dell'immagine container.

  3. Se vuoi fornire gli artefatti del modello oltre a un'immagine container image, specifica il percorso Cloud Storage della directory che contiene gli artefatti del modello.

    Ad esempio, gs://BUCKET_NAME/models/.

  4. Specifica i valori per gli altri campi.

    Scopri di più su questi campi facoltativi.

  5. Per importare il modello senza le impostazioni di Vertex Explainable AI, fai clic su Importa.

    Al termine dell'importazione, il modello viene visualizzato nella pagina Modelli.

    In caso contrario, continua a configurare il modello inserendo le impostazioni di spiegabilità nella scheda Spiegabilità. Scopri di più sulle impostazioni di spiegabilità.

Container tabulare AutoML

  1. Seleziona Importa un container personalizzato esistente.

  2. Nel campo Immagine container, inserisci MULTI_REGION-docker.pkg.dev/vertex-ai/automl-tabular/prediction-server-v1:latest.

    Sostituisci MULTI_REGION con us, europe, o asia per selezionare il repository Docker da cui vuoi eseguire il pull dell'immagine Docker da. Ogni repository fornisce la stessa immagine Docker, ma la scelta della regione multipla di Artifact Registry più vicina alla macchina su cui esegui Docker potrebbe ridurre la latenza.

  3. Nel campo Percorso del pacchetto, specifica il percorso Cloud Storage della directory che contiene gli artefatti del modello.

    Il percorso è simile all'esempio seguente:

    gs://BUCKET_NAME/models-MODEL_ID/tf-saved-model/TIMESTAMP/

  4. Lascia vuoti tutti gli altri campi.

  5. Fai clic su Importa.

    Al termine dell'importazione, il modello viene visualizzato nella pagina Modelli. Puoi utilizzare questo modello come gli altri modelli tabulari AutoML, tranne per il fatto che i modelli tabulari AutoML importati non supportano Vertex Explainable AI.

Importare un modello in modo programmatico

Gli esempi seguenti mostrano come importare un modello utilizzando vari strumenti: