Man mano che i modelli di AI generativa e machine learning (ML) diventano più comuni nelle attività e nei processi aziendali, le aziende hanno sempre più bisogno di indicazioni sullo sviluppo dei modelli per garantire coerenza, ripetibilità, sicurezza e protezione. Per aiutare le grandi aziende a creare e implementare modelli di AI generativa e ML, abbiamo creato il progetto base di AI generativa e machine learning per le aziende. Questo progetto fornisce una guida completa all'intero ciclo di vita dello sviluppo dell'AI, dall'esplorazione e sperimentazione preliminare dei dati all'addestramento, al deployment e al monitoraggio del modello.
Il progetto di AI generativa e ML aziendale offre molti vantaggi, tra cui:
- Indicazioni prescrittive: indicazioni chiare su come creare, configurare ed eseguire il deployment di un ambiente di sviluppo di AI generativa e ML basato su Vertex AI. Puoi utilizzare Vertex AI per sviluppare i tuoi modelli.
- Maggiore efficienza: automazione estesa per contribuire a ridurre il lavoro ripetitivo derivante dal deployment dell'infrastruttura e dallo sviluppo di modelli di AI generativa e ML. L'Automation ti consente di concentrarti su attività a valore aggiunto come la progettazione e la sperimentazione dei modelli.
- Governance e controllabilità migliorate: la riproducibilità, la tracciabilità e il deployment controllato dei modelli sono incorporati nella progettazione di questo progetto. Questo vantaggio ti consente di gestire meglio il ciclo di vita dei modelli di AI generativa e ML e ti aiuta a garantire la possibilità di riaddestrare e valutare i modelli in modo coerente, con tracce di audit chiare.
- Sicurezza: il progetto è progettato per essere in linea con i requisiti del framework del National Institute of Standards and Technology (NIST) e del framework del Cyber Risk Institute (CRI).
Il progetto di ML e AI generativa aziendale include quanto segue:
Un repository GitHub che contiene un insieme di configurazioni Terraform, un blocco note Jupyter, una definizione di Vertex AI Pipelines, un grafo diretto aciclico (DAG) di Managed Service for Apache Airflow e script accessori. I componenti nel repository completano quanto segue:
- La configurazione Terraform configura una piattaforma di sviluppo di modelli Vertex AI che può supportare più team di sviluppo di modelli.
- Il notebook Jupyter ti consente di sviluppare un modello in modo interattivo.
- Il DAG Managed Airflow fornisce il framework di orchestrazione principale per il tuo notebook Jupyter negli ambienti di produzione.
- La definizione di Vertex AI Pipelines fornisce un'alternativa per orchestrare attività di machine learning specializzate per workflow basati su container e job di addestramento contenuti interamente nell'ecosistema Vertex AI.
- Gli script accessori aiutano a eseguire il deployment del codice e delle pipeline Terraform.
Una guida all'architettura, alla progettazione, ai controlli di sicurezza e ai processi operativi che utilizzi per implementare questo progetto (questo documento).
Il progetto di ML e AI generativa per le aziende è progettato per essere compatibile con il progetto di fondazione di un'azienda. Il progetto di base per le aziende fornisce una serie di servizi di base su cui si basa questo progetto, come le reti VPC. Puoi eseguire il deployment del progetto iniziale di AI generativa e ML aziendale senza eseguire il deployment del progetto iniziale delle basi aziendali se il tuo ambiente Google Cloud fornisce le funzionalità necessarie per supportare il progetto iniziale di AI generativa e ML aziendale.
Questo documento è rivolto a cloud architect, data scientist e data engineer che possono utilizzare il progetto per creare ed eseguire il deployment di nuovi modelli di AI generativa o ML su Google Cloud. Questo documento presuppone che tu abbia familiarità con lo sviluppo di modelli di AI generativa e ML e con la piattaforma di machine learning Vertex AI.
Per una panoramica dei principi e dei suggerimenti di architettura specifici per i workload di AI e ML in Google Cloud, consulta la prospettiva di AI e ML nel Well-Architected Framework.
Panoramica del progetto di AI generativa e ML per le aziende
Il progetto di AI generativa e ML aziendale adotta un approccio a livelli per fornire le funzionalità che consentono l'addestramento dei modelli di AI generativa e ML. Il progetto è destinato a essere implementato e controllato tramite un flusso di lavoro di operazioni di machine learning (MLOps). Il seguente diagramma mostra la relazione tra il livello MLOps di cui questo progetto esegue il deployment e altri livelli del tuo ambiente.
Questo diagramma include quanto segue:
- L'infrastrutturaGoogle Cloud ti fornisce funzionalità di sicurezza come la crittografia at-rest e la crittografia in transito, oltre a componenti di base come computing e archiviazione.
- La base aziendale ti fornisce una serie di risorse di base, come sistemi di identità, networking, logging, monitoraggio e deployment, che ti consentono di adottare Google Cloud per i tuoi workload di AI.
- Il livello dati è un livello facoltativo dello stack di sviluppo che offre varie funzionalità, come l'importazione dati, l'archiviazione dei dati, il controllo degli accessi ai dati, la governance dei dati, il monitoraggio dei dati e la condivisione dei dati.
- Il livello di AI generativa e ML (questo progetto) consente di creare e implementare modelli. Puoi utilizzare questo livello per l'esplorazione e la sperimentazione preliminare dei dati, l'addestramento del modello, l'erogazione del modello e il monitoraggio.
- CI/CD ti fornisce gli strumenti per automatizzare il provisioning, la configurazione, la gestione e il deployment di infrastrutture, workflow e componenti software. Questi componenti ti aiutano a garantire deployment coerenti, affidabili e controllabili, a ridurre al minimo gli errori manuali e ad accelerare il ciclo di sviluppo complessivo.
Per mostrare come viene utilizzato l'ambiente di AI generativa e ML, il progetto include uno sviluppo di modello ML di esempio. Lo sviluppo del modello di esempio ti guida nella creazione di un modello, nella creazione di pipeline operative, nell'addestramento del modello, nel test del modello e nel deployment del modello.
Architettura
Il progetto di AI generativa e ML aziendale ti offre la possibilità di lavorare direttamente con i dati. Puoi creare modelli in un ambiente interattivo (di sviluppo) e promuoverli in un ambiente operativo (di produzione o non di produzione).
Nell'ambiente interattivo, sviluppi modelli ML utilizzando Vertex AI Workbench, un servizio Jupyter Notebook gestito da Google. Puoi creare funzionalità di estrazione dati, trasformazione dati e ottimizzazione dei modelli nell'ambiente interattivo e promuoverle nell'ambiente operativo.
Nell'ambiente operativo (non di produzione), utilizzi le pipeline per creare e testare i modelli in modo ripetibile e controllabile. Quando le prestazioni del modello ti soddisfano, puoi eseguirne il deployment nell'ambiente operativo (di produzione). Il seguente diagramma mostra i vari componenti degli ambienti interattivi e operativi.
Questo diagramma include quanto segue:
- Sistemi di deployment: servizi come catalogo dei servizi e Cloud Build eseguono il deployment delle risorse Google Cloud nell'ambiente interattivo. Cloud Build esegue anche il deployment delle risorse Google Cloud e dei flussi di lavoro di creazione dei modelli nell'ambiente operativo.
- Origini dati: i servizi come BigQuery, Cloud Storage, Spanner e AlloyDB per PostgreSQL ospitano i tuoi dati. Il progetto fornisce dati di esempio in BigQuery e Cloud Storage.
- Ambiente interattivo: un ambiente in cui puoi interagire direttamente con i dati, sperimentare sui modelli e creare pipeline da utilizzare nell'ambiente operativo.
- Ambiente operativo: un ambiente in cui puoi creare e testare i tuoi modelli in modo ripetibile, per poi eseguirne il deployment in produzione.
- Servizi per i modelli: i seguenti servizi supportano varie attività MLOps:
- Vertex AI Feature Store fornisce i dati delle caratteristiche al modello.
- Model Garden include una libreria di modelli ML che ti consente di utilizzare i modelli di Google e selezionare modelli open source.
- Vertex AI Model Registry gestisce il ciclo di vita dei modelli ML.
- Archiviazione degli artefatti: questi servizi archiviano il codice e i container per lo sviluppo e le pipeline dei modelli. Questi servizi includono:
- Artifact Registry archivia i container utilizzati dalle pipeline nell'ambiente operativo per controllare le varie fasi dello sviluppo del modello.
- Il repository Git archivia la codebase dei vari componenti utilizzati nello sviluppo del modello.
Utenti tipo della piattaforma
Quando esegui il deployment del progetto, crei quattro tipi di gruppi di utenti: un gruppo di ingegneri MLOps, un gruppo di ingegneri DevOps, un gruppo di data scientist e un gruppo di data engineer. I gruppi hanno le seguenti responsabilità:
- Il gruppo di MLOps engineer sviluppa i template Terraform utilizzati dal catalogo dei servizi. Questo team fornisce i template utilizzati da molti modelli.
- Il gruppo di DevOps Engineer approva i template Terraform creati dal gruppo di sviluppatori MLOps.
- Il gruppo di data scientist sviluppa modelli, pipeline e container utilizzati dalle pipeline. In genere, un singolo team si occupa della creazione di un singolo modello.
- Il gruppo Data engineer approva l'utilizzo degli artefatti creati dal gruppo di data science.
Struttura dell'organizzazione
Questo progetto utilizza la struttura organizzativa del progetto delle fondamenta aziendali come base per il deployment dei workload di AI e ML. Il seguente diagramma mostra i progetti aggiunti alla base per abilitare i workload di AI e ML.
La tabella seguente descrive i progetti utilizzati dal progetto di AI generativa e ML.
| Cartella | Progetto | Descrizione |
|---|---|---|
|
|
Contiene la pipeline di deployment utilizzata per creare i componenti di AI generativa e ML del progetto. Per saperne di più, consulta la pipeline dell'infrastruttura nel progetto delle fondamenta aziendali. |
|
Contiene l'infrastruttura utilizzata dal catalogo dei servizi per eseguire il deployment delle risorse nell'ambiente interattivo. | |
|
|
Contiene i componenti per lo sviluppo di un caso d'uso di AI e ML in modalità interattiva. |
|
|
Contiene i componenti per testare e valutare un caso d'uso di AI e ML di cui è possibile eseguire il deployment in produzione. |
|
|
Contiene i componenti per il deployment di un caso d'uso di AI e ML in produzione. |
Networking
Il progetto utilizza la rete VPC condiviso creata nel progetto base della fondazione aziendale. Nell'ambiente interattivo (di sviluppo), i notebook di Vertex AI Workbench vengono distribuiti nei progetti di servizio. Gli utenti on-premise possono accedere ai progetti utilizzando lo spazio di indirizzi IP privati nella rete VPC condiviso. Gli utenti on-premise possono accedere alle API Google Cloud, come Cloud Storage, tramite Private Service Connect. Ogni rete VPC condivisa (sviluppo, non di produzione e di produzione) ha un endpoint Private Service Connect distinto.
L'ambiente operativo (non di produzione e di produzione) ha due reti VPC condiviso separate a cui le risorse on-premise possono accedere tramite indirizzi IP privati. Gli ambienti interattivi e operativi sono protetti utilizzando i Controlli di servizio VPC.
Cloud Logging
Questo progetto utilizza le funzionalità di Cloud Logging fornite dal progetto di base per le aziende.
Cloud Monitoring
Per monitorare i job di addestramento personalizzato, il blueprint include una dashboard che ti consente di monitorare le seguenti metriche:
- Utilizzo della CPU di ogni nodo di addestramento
- Utilizzo della memoria di ogni nodo di addestramento
- Utilizzo della rete
Se un job di addestramento personalizzato non è riuscito, il progetto utilizza Cloud Monitoring per fornirti un meccanismo di avviso via email che ti informa dell'errore. Per il monitoraggio dei modelli di cui è stato eseguito il deployment che utilizzano l'endpoint Vertex AI, il progetto include una dashboard con le seguenti metriche:
- Metriche sul rendimento:
- Previsioni al secondo
- Latenza del modello
- Utilizzo delle risorse:
- Utilizzo CPU
- Memoria utilizzata
Configurazione delle policy dell'organizzazione
Oltre alle policy dell'organizzazione create dal progetto di base aziendale, questo progetto aggiunge le policy dell'organizzazione elencate nella postura predefinita per l'AI sicura, estesa.
Operazioni
Questa sezione descrive gli ambienti inclusi nel progetto di base.
Ambiente interattivo
Per consentirti di esplorare i dati e sviluppare modelli mantenendo la security posture della tua organizzazione, l'ambiente interattivo ti fornisce un insieme controllato di azioni che puoi eseguire. Puoi eseguire il deployment delle risorse Google Cloudutilizzando uno dei seguenti metodi:
- Utilizzando il catalogo dei servizi, preconfigurato tramite l'automazione con i modelli di risorse
- Creazione di artefatti di codice e commit nei repository Git utilizzando i notebook di Vertex AI Workbench
Il seguente diagramma illustra l'ambiente interattivo.
Un tipico flusso interattivo prevede i seguenti passaggi e componenti associati:
- Il catalogo dei servizi fornisce un elenco selezionato di risorseGoogle Cloud che i data scientist possono implementare nell'ambiente interattivo. Il data scientist esegue il deployment della risorsa del blocco note di Vertex AI Workbench dal catalogo dei servizi.
- I blocchi note di Vertex AI Workbench sono l'interfaccia principale che i data scientist utilizzano per lavorare con le risorse Google Cloud di cui è stato eseguito il deployment nell'ambiente interattivo. I notebook consentono ai data scientist di estrarre il codice da Git e aggiornarlo in base alle esigenze.
- I dati di origine vengono archiviati al di fuori dell'ambiente interattivo e gestiti separatamente da questo progetto. L'accesso ai dati è controllato da un proprietario dei dati. I data scientist possono richiedere l'accesso in lettura ai dati di origine, ma non possono scrivere in questi dati.
- I data scientist possono trasferire i dati di origine nell'ambiente interattivo in risorse create tramite il catalogo dei servizi. Nell'ambiente interattivo, i data scientist possono leggere, scrivere e manipolare i dati. Tuttavia, i data scientist non possono trasferire dati dall'ambiente interattivo o concedere l'accesso alle risorse create dal catalogo dei servizi. BigQuery archivia i dati strutturati e semistrutturati, mentre Cloud Storage archivia i dati non strutturati.
- Feature Store fornisce ai data scientist un accesso a bassa latenza alle caratteristiche per l'addestramento dei modelli.
I data scientist addestrano i modelli utilizzando i job di addestramento personalizzato di Vertex AI. Il progetto utilizza Vertex AI anche per l'ottimizzazione degli iperparametri.
I data scientist valutano i modelli utilizzando Vertex AI Experiments e Vertex AI TensorBoard. Vertex AI Experiments ti consente di eseguire più addestramenti su un modello utilizzando parametri, tecniche di modellazione, architetture e input diversi. Vertex AI TensorBoard ti consente di monitorare, visualizzare e confrontare i vari esperimenti che hai eseguito, quindi di scegliere il modello con le migliori caratteristiche osservate da convalidare.
I data scientist convalidano i loro modelli con la valutazione di Vertex AI. Per convalidare i modelli, i data scientist suddividono i dati di origine in un set di dati di addestramento e un set di dati di convalida ed eseguono una valutazione Vertex AI sul modello.
I data scientist creano container utilizzando Cloud Build, li archiviano in Artifact Registry e li utilizzano nelle pipeline che si trovano nell'ambiente operativo.
Ambiente operativo
L'ambiente operativo utilizza un repository Git e pipeline. Questo ambiente include l'ambiente di produzione e l'ambiente non di produzione del progetto di base aziendale. Nell'ambiente non di produzione, il data scientist seleziona una pipeline tra quelle sviluppate nell'ambiente interattivo. Il data scientist può eseguire la pipeline nell'ambiente non di produzione, valutare i risultati e quindi determinare quale modello promuovere nell'ambiente di produzione.
Il progetto include una pipeline di esempio creata utilizzando Managed Airflow e una pipeline di esempio creata utilizzando Vertex AI Pipelines. Il diagramma seguente mostra l'ambiente operativo.
Un flusso operativo tipico prevede i seguenti passaggi:
- Un data scientist unisce correttamente un branch di sviluppo a un branch di deployment.
- L'unione nel branch di deployment attiva una pipeline di Cloud Build.
- Si verifica uno dei seguenti eventi:
- Se un data scientist utilizza Managed Airflow come orchestratore, la pipeline di Cloud Build sposta un DAG in Cloud Storage.
- Se il data scientist utilizza Vertex AI Pipelines come orchestratore, la pipeline sposta un file Python in Cloud Storage.
- La pipeline di Cloud Build attiva l'orchestratore (Managed Airflow o Vertex AI Pipelines).
- L'orchestratore estrae la definizione della pipeline da Cloud Storage e inizia a eseguirla.
- La pipeline estrae un container da Artifact Registry che viene utilizzato da tutte le fasi della pipeline per attivare i servizi Vertex AI.
- La pipeline, utilizzando il container, attiva un trasferimento di dati dal progetto di dati di origine all'ambiente operativo.
- I dati vengono trasformati, convalidati, suddivisi e preparati per l'addestramento e la convalida del modello dalla pipeline.
- Se necessario, la pipeline sposta i dati in Vertex AI Feature Store per un facile accesso durante l'addestramento del modello.
- La pipeline utilizza l'addestramento di modelli personalizzati di Vertex AI per addestrare il modello.
- La pipeline utilizza la valutazione di Vertex AI per convalidare il modello.
- Un modello convalidato viene importato nel Model Registry dalla pipeline.
- Il modello importato viene quindi utilizzato per generare previsioni tramite previsioni online o previsioni in batch.
- Dopo il deployment del modello nell'ambiente di produzione, la pipeline utilizza Vertex AI Model Monitoring per rilevare se le prestazioni del modello peggiorano monitorando il disallineamento addestramento/erogazione e la deviazione della previsione.
Deployment
Il progetto utilizza una serie di pipeline di Cloud Build per eseguire il provisioning dell'infrastruttura del progetto, della pipeline nell'ambiente operativo e dei container utilizzati per creare modelli di AI generativa e ML. Le pipeline utilizzate e le risorse di cui è stato eseguito il provisioning sono le seguenti:
- Pipeline dell'infrastruttura: questa pipeline fa parte del progetto della piattaforma aziendale. Questa pipeline esegue il provisioning delle risorse Google Cloud associate all'ambiente interattivo e all'ambiente operativo.
- Pipeline interattiva: la pipeline interattiva fa parte dell'ambiente interattivo. Questa pipeline copia i template Terraform da un repository Git a un bucket Cloud Storage che il catalogo dei servizi può leggere. La pipeline interattiva viene attivata quando viene effettuata una richiesta di pull per l'unione con il branch principale.
- Pipeline dei container: il progetto include una pipeline di Cloud Build per creare i container utilizzati nella pipeline operativa. I container di cui viene eseguito il deployment in più ambienti sono immagini container immutabili. Le immagini container immutabili contribuiscono a garantire che la stessa immagine venga distribuita in tutti gli ambienti e non possa essere modificata durante l'esecuzione. Se devi modificare l'applicazione, devi ricreare l'immagine e rifarne il deployment. Le immagini container utilizzate nel progetto sono archiviate in Artifact Registry e sono indicate nei file di configurazione utilizzati nella pipeline operativa.
- Pipeline operativa: la pipeline operativa fa parte dell'ambiente operativo. Questa pipeline copia i DAG per Managed Airflow o Vertex AI Pipelines, che vengono poi utilizzati per creare, testare ed eseguire il deployment dei modelli.
Catalogo dei servizi
Catalogo dei servizi consente agli sviluppatori e agli amministratori del cloud di rendere le loro soluzioni utilizzabili dagli utenti aziendali interni. I moduli Terraform in catalogo dei servizi vengono creati e pubblicati come artefatti nel bucket Cloud Storage con la pipeline CI/CD di Cloud Build. Dopo aver copiato i moduli nel bucket, gli sviluppatori possono utilizzarli per creare soluzioni Terraform nella pagina Amministrazione di Service Catalog, aggiungerle a catalogo dei servizi e condividerle con i progetti dell'ambiente interattivo in modo che gli utenti possano eseguire il deployment delle risorse.
L'ambiente interattivo utilizza catalogo dei servizi per consentire ai data scientist di eseguire il deployment delle risorse Google Cloud in modo conforme alla security posture della loro azienda. Quando sviluppa un modello che richiede risorseGoogle Cloud , ad esempio un bucket Cloud Storage, il data scientist seleziona la risorsa da catalogo dei servizi, la configura e ne esegue il deployment nell'ambiente interattivo. Il catalogo dei servizi contiene modelli preconfigurati per varie risorse Google Cloud di cui il data scientist può eseguire il deployment nell'ambiente interattivo. Il data scientist non può modificare i template delle risorse, ma può configurare le risorse tramite le variabili di configurazione esposte dal template. Il seguente diagramma mostra la struttura della relazione tra catalogo dei servizi e l'ambiente interattivo.
I data scientist eseguono il deployment delle risorse utilizzando il catalogo dei servizi, come descritto nei seguenti passaggi:
- L'MLOps Engineer inserisce un modello di risorsa Terraform perGoogle Cloud in un repository Git.
- Il commit su Git attiva una pipeline di Cloud Build.
- Cloud Build copia il template e tutti i file di configurazione associati in Cloud Storage.
- L'MLOps Engineer configura manualmente le soluzioni di catalogo dei servizi e catalogo dei servizi. L'engineer condivide poi il catalogo dei servizi con un progetto di servizio nell'ambiente interattivo.
- Il data scientist seleziona una risorsa dal catalogo dei servizi.
- Catalogo dei servizi esegue il deployment del template nell'ambiente interattivo.
- La risorsa estrae gli script di configurazione necessari.
- Il data scientist interagisce con le risorse.
Repository
Le pipeline descritte in Deployment vengono attivate dalle modifiche nel repository corrispondente. Per garantire che nessuno possa apportare modifiche indipendenti all'ambiente di produzione, esiste una separazione delle responsabilità tra gli utenti che possono inviare il codice e quelli che possono approvare le modifiche al codice. La tabella seguente descrive i repository di progetti, i relativi utenti che li inviano e quelli che li approvano.
| Repository | Pipeline | Descrizione | Mittente | Approvatore |
|---|---|---|---|---|
|
Infrastruttura |
Contiene il codice Terraform per il progetto di AI generativa e ML che crea gli ambienti interattivi e operativi. | MLOps engineer | Ingegnere DevOps |
|
Interattiva | Contiene i template per le risorse di cui il catalogo dei servizi può eseguire il deployment. | MLOps engineer | Ingegnere DevOps |
|
Container | Contiene i container che possono essere utilizzati dalle pipeline nell'ambiente operativo. | Data scientist | Data engineer |
|
Operativo | Contiene il codice sorgente che le pipeline nell'ambiente operativo possono utilizzare. | Data scientist | Data engineer |
Strategia di branching
Il progetto utilizza il branching permanente per eseguire il deployment del codice nell'ambiente associato. Il progetto utilizza tre rami (sviluppo, non di produzione e produzione) che riflettono gli ambienti corrispondenti.
Controlli di sicurezza
Il progetto di AI generativa e ML aziendale utilizza un modello di sicurezza di difesa in profondità a più livelli che utilizza le funzionalità predefinite di Google Cloud , i serviziGoogle Cloud e le funzionalità di sicurezza configurate tramite il progetto di base aziendale. Il seguente diagramma mostra la stratificazione dei vari controlli di sicurezza per il progetto.
Le funzioni dei livelli sono le seguenti:
- Interfaccia: fornisce ai data scientist servizi che consentono loro di interagire con il progetto in modo controllato.
- Deployment: fornisce una serie di pipeline che eseguono il deployment dell'infrastruttura, creano container e modelli. L'utilizzo delle pipeline consente la verificabilità, la tracciabilità e la ripetibilità.
- Networking: fornisce protezioni contro l'esfiltrazione di dati attorno alle risorse del progetto di base a livello di API e di IP.
- Gestione degli accessi: controlla chi può accedere a quali risorse e aiuta a prevenire l'utilizzo non autorizzato delle tue risorse.
- Crittografia: ti consente di controllare le chiavi di crittografia e i secret e di proteggere i tuoi dati tramite la crittografia at-rest e in transito predefinita.
- Detective: ti aiuta a rilevare errori di configurazione e attività dannose.
- Preventivi: ti forniscono i mezzi per controllare e limitare il modo in cui viene eseguito il deployment della tua infrastruttura.
La tabella seguente descrive i controlli di sicurezza associati a ogni livello.
| incorporato | Risorsa | Controllo di sicurezza |
|---|---|---|
| Interfaccia | Vertex AI Workbench | Fornisce un'esperienza di blocco note gestito che incorpora il controllo dell'accesso degli utenti, controllo dell'accesso alla rete, il controllo dell'accesso IAM e i download di file disabilitati. Queste funzionalità consentono un'esperienza utente più sicura. |
| Repository Git | Fornisce controllo dell'accesso degli utenti per proteggere i repository. | |
| Catalogo dei servizi | Fornisce ai data scientist un elenco selezionato di risorse di cui è possibile eseguire il deployment solo in configurazioni approvate. | |
| Deployment | Pipeline dell'infrastruttura | Fornisce un flusso protetto per eseguire il deployment dell'infrastruttura del progetto tramite l'utilizzo di Terraform. |
| Pipeline interattiva | Fornisce un flusso protetto per trasferire i modelli da un repository Git a un bucket all'interno della tua organizzazione Google Cloud . | |
| Pipeline di container | Fornisce un flusso protetto per creare container utilizzati dalla pipeline operativa. | |
| Pipeline operativa | Fornisce un flusso controllato per addestrare, testare, convalidare ed eseguire il deployment dei modelli. | |
| Artifact Registry | Archivia le immagini container in modo sicuro utilizzando il controllo degli accessi alle risorse | |
| Rete | Private Service Connect | Ti consente di comunicare con le API Google Cloud utilizzando indirizzi IP privati, in modo da evitare di esporre il traffico a internet. |
| VPC con indirizzi IP privati | Il progetto utilizza VPC con indirizzi IP privati per contribuire a rimuovere l'esposizione alle minacce rivolte a internet. | |
| Controlli di servizio VPC | Contribuisce a proteggere le risorse protette dall'esfiltrazione di dati. | |
| Firewall | Aiuta a proteggere la rete VPC da accessi non autorizzati. | |
| Gestione degli accessi | Cloud Identity | Fornisce una gestione centralizzata degli utenti, riducendo il rischio di accessi non autorizzati. |
| IAM | Fornisce un controllo granulare su chi può fare cosa e su quali risorse, consentendo così di applicare il principio del privilegio minimo nella gestione degli accessi. | |
| Crittografia | Cloud KMS | Ti consente di controllare le chiavi di crittografia utilizzate all'interno della tua organizzazioneGoogle Cloud . |
| Secret Manager | Fornisce un archivio di secret per i tuoi modelli controllato da IAM. | |
| Crittografia at-rest | Per impostazione predefinita, Google Cloud cripta i dati at-rest. | |
| Crittografia dei dati in transito | Per impostazione predefinita, Google Cloud cripta i dati in transito. | |
| Rilevamento | Security Command Center | Fornisce rilevatori di minacce che aiutano a proteggere la tua organizzazione Google Cloud. |
| Architettura continua | Controlla continuamente la tua organizzazione Google Cloud rispetto a una serie di policy Open Policy Agent (OPA) che hai definito. | |
| Motore per suggerimenti IAM | Analizza le autorizzazioni dell'utente e fornisce suggerimenti su come ridurle per applicare il principio del privilegio minimo. | |
| Firewall Insights | Analizza le regole firewall, identifica quelle troppo permissive e suggerisce firewall più restrittivi per contribuire a rafforzare la tua security posture complessiva. | |
| Cloud Logging | Fornisce visibilità sull'attività del sistema e aiuta a rilevare anomalie e attività dannose. | |
| Cloud Monitoring | Monitora gli indicatori e gli eventi chiave che possono aiutare a identificare attività sospette. | |
| Preventiva | Servizio Policy dell'organizzazione | Ti consente di limitare le azioni all'interno della tua organizzazione Google Cloud. |
Passaggi successivi
- Esegui il deployment di Terraform associato a questo progetto.
- Scopri di più sul progetto delle fondamenta aziendali.
- Scopri di più su Vertex AI.
- Scopri di più su MLOps su Google Cloud:
- MLOps su Vertex AI
- Practitioners guide to MLOps: A framework for continuous delivery and automation of machine learning (PDF)
- MLOps: pipeline di distribuzione continua e automazione nel machine learning
- Architettura per MLOps utilizzando TensorFlow Extended, Vertex AI Pipelines e Cloud Build
- Codice campione di Vertex AI Pipelines
- Codice campione di Vertex AI Notebooks
- Per una panoramica dei principi e dei suggerimenti di architettura specifici per i workload di AI e ML in Google Cloud, consulta la prospettiva di AI e ML nel Well-Architected Framework.
- Per ulteriori architetture di riferimento, diagrammi e best practice, esplora Cloud Architecture Center.