Seiring dengan semakin umumnya model AI generatif dan machine learning (ML) dalam aktivitas bisnis dan proses bisnis perusahaan, perusahaan semakin membutuhkan panduan tentang pengembangan model untuk memastikan konsistensi, pengulangan, keamanan, dan keselamatan. Untuk membantu perusahaan besar membangun dan men-deploy model ML dan AI generatif, kami membuat blueprint AI generatif dan machine learning perusahaan. Blueprint ini memberi Anda panduan komprehensif untuk seluruh siklus proses pengembangan AI, mulai dari eksplorasi dan eksperimen data awal hingga pelatihan, deployment, dan pemantauan model.
Blueprint AI dan ML generatif perusahaan memberi Anda banyak manfaat, termasuk:
- Panduan preskriptif: Panduan yang jelas tentang cara membuat, mengonfigurasi, dan men-deploy lingkungan pengembangan AI generatif dan ML yang berbasis Vertex AI. Anda dapat menggunakan Vertex AI untuk mengembangkan model Anda sendiri.
- Peningkatan efisiensi: Otomatisasi ekstensif untuk membantu mengurangi pekerjaan berat dari men-deploy infrastruktur dan mengembangkan model AI generatif dan ML. Otomatisasi memungkinkan Anda berfokus pada tugas-tugas bernilai tambah seperti desain dan eksperimen model.
- Tata kelola dan auditabilitas yang ditingkatkan: Reproduksibilitas, keterlacakan, dan deployment model yang terkontrol disertakan dalam desain blueprint ini. Manfaat ini memungkinkan Anda mengelola siklus proses model AI generatif dan ML dengan lebih baik, serta membantu memastikan Anda dapat melatih ulang dan mengevaluasi model secara konsisten, dengan jejak audit yang jelas.
- Keamanan: Blueprint ini dirancang agar selaras dengan persyaratan framework National Institute of Standards and Technology (NIST) dan framework Cyber Risk Institute (CRI).
Blueprint AI generatif dan ML perusahaan mencakup hal berikut:
Sebuah Repositori GitHub yang berisi kumpulan konfigurasi Terraform, Jupyter notebook, definisi Vertex AI Pipelines, directed acyclic graph (DAG) Managed Service untuk Apache Airflow, dan skrip tambahan. Komponen dalam repositori menyelesaikan hal berikut:
- Konfigurasi Terraform menyiapkan platform pengembangan model Vertex AI yang dapat mendukung beberapa tim pengembangan model.
- Notebook Jupyter memungkinkan Anda mengembangkan model secara interaktif.
- Managed Airflow DAG menyediakan framework orkestrasi utama untuk notebook Jupyter Anda di lingkungan produksi.
- Definisi Vertex AI Pipelines memberikan alternatif untuk mengorkestrasi tugas machine learning khusus untuk alur kerja berbasis container dan tugas pelatihan yang sepenuhnya berada dalam ekosistem Vertex AI.
- Skrip tambahan membantu men-deploy kode dan pipeline Terraform.
Panduan untuk arsitektur, desain, kontrol keamanan, dan proses operasional yang akan Anda terapkan menggunakan blueprint ini (dokumen ini).
Blueprint AI generatif dan ML perusahaan dirancang agar kompatibel dengan blueprint fondasi perusahaan. Blueprint fondasi perusahaan menyediakan sejumlah layanan tingkat dasar yang diandalkan oleh blueprint ini, seperti jaringan VPC. Anda dapat men-deploy blueprint AI generatif dan ML perusahaan tanpa men-deploy blueprint fondasi perusahaan jika lingkungan Google Cloud Anda menyediakan fungsi yang diperlukan untuk mendukung blueprint AI generatif dan ML perusahaan.
Dokumen ini ditujukan untuk cloud architect, data scientist, dan data engineer yang dapat menggunakan blueprint untuk membangun dan men-deploy model AI generatif atau ML baru di Google Cloud. Dokumen ini mengasumsikan bahwa Anda sudah memahami pengembangan model ML dan AI generatif serta platform machine learning Vertex AI.
Untuk ringkasan prinsip dan rekomendasi arsitektur yang khusus untuk workload AI dan ML di Google Cloud, lihat Perspektif AI dan ML dalam Framework Arsitektur yang Baik.
Ringkasan blueprint ML dan AI generatif perusahaan
Blueprint AI generatif dan ML perusahaan menggunakan pendekatan berlapis untuk memberikan kemampuan yang memungkinkan pelatihan model AI generatif dan ML. Blueprint ini dimaksudkan untuk di-deploy dan dikontrol melalui alur kerja operasi ML (MLOps). Diagram berikut menunjukkan hubungan lapisan MLOps yang di-deploy oleh blueprint ini dengan lapisan lain di lingkungan Anda.
Diagram ini mencakup hal berikut:
- InfrastrukturGoogle Cloud memberi Anda kemampuan keamanan seperti enkripsi dalam penyimpanan dan enkripsi dalam pengiriman, serta elemen penyusun dasar seperti komputasi dan penyimpanan.
- Fondasi perusahaan memberi Anda dasar pengukuran resource seperti identitas, jaringan, logging, pemantauan, dan sistem deployment yang memungkinkan Anda mengadopsi Google Cloud untuk workload AI Anda.
- Lapisan data adalah lapisan opsional dalam development stack yang memberi Anda berbagai kapabilitas seperti penyerapan data, penyimpanan data, kontrol akses data, tata kelola data, pemantauan data, dan berbagi data.
- Lapisan AI generatif dan ML (blueprint ini) memungkinkan Anda membangun dan men-deploy model. Anda dapat menggunakan lapisan ini untuk eksplorasi dan eksperimen data awal, pelatihan model, penyajian model, dan pemantauan.
- CI/CD memberi Anda alat untuk mengotomatiskan penyediaan, konfigurasi, pengelolaan, dan deployment infrastruktur, alur kerja, dan komponen software. Komponen ini membantu Anda memastikan deployment yang konsisten, andal, dan dapat diaudit; meminimalkan error manual; dan mempercepat siklus pengembangan secara keseluruhan.
Untuk menunjukkan cara penggunaan lingkungan AI generatif dan ML, blueprint ini menyertakan contoh pengembangan model ML. Pengembangan model contoh akan memandu Anda membangun model, membuat pipeline operasional, melatih model, menguji model, dan men-deploy model.
Arsitektur
Blueprint AI generatif dan ML perusahaan memberi Anda kemampuan untuk bekerja langsung dengan data. Anda dapat membuat model di lingkungan interaktif (pengembangan) dan mempromosikan model tersebut ke lingkungan operasional (produksi atau non-produksi).
Di lingkungan interaktif, Anda mengembangkan model ML menggunakan Vertex AI Workbench, yang merupakan layanan Jupyter Notebook yang dikelola oleh Google. Anda membangun kemampuan ekstraksi data, transformasi data, dan penyesuaian model di lingkungan interaktif dan mempromosikannya ke lingkungan operasional.
Di lingkungan operasional (non-produksi), Anda menggunakan pipeline untuk membangun dan menguji model mereka dengan cara yang dapat diulang dan dikontrol. Setelah puas dengan performa model, Anda dapat men-deploy model ke lingkungan operasional (produksi). Diagram berikut menunjukkan berbagai komponen lingkungan interaktif dan operasional.
Diagram ini mencakup hal berikut:
- Sistem deployment: Layanan seperti Katalog Layanan dan Cloud Build men-deploy resource Google Cloud ke dalam lingkungan interaktif. Cloud Build juga men-deploy resource Google Cloud dan alur kerja pembuatan model ke dalam lingkungan operasional.
- Sumber data: Layanan seperti BigQuery, Cloud Storage, Spanner, dan AlloyDB untuk PostgreSQL menghosting data Anda. Blueprint ini menyediakan contoh data di BigQuery dan Cloud Storage.
- Lingkungan interaktif: Lingkungan tempat Anda dapat berinteraksi langsung dengan data, bereksperimen pada model, dan membangun pipeline untuk digunakan di lingkungan operasional.
- Lingkungan operasional: Lingkungan tempat Anda dapat membangun dan menguji model secara berulang, lalu men-deploy model ke lingkungan produksi.
- Layanan model: Layanan berikut mendukung berbagai aktivitas MLOps:
- Vertex AI Feature Store menyajikan data fitur ke model Anda.
- Model Garden mencakup library model ML yang memungkinkan Anda menggunakan model Google dan memilih model open source.
- Vertex AI Model Registry mengelola siklus proses model ML Anda.
- Penyimpanan artefak: Layanan ini menyimpan kode dan container serta
untuk pengembangan model dan pipeline Anda. Layanan ini mencakup hal berikut:
- Artifact Registry menyimpan container yang digunakan oleh pipeline di lingkungan operasional untuk mengontrol berbagai tahap pengembangan model.
- Repositori Git menyimpan code base berbagai komponen yang digunakan dalam pengembangan model.
Persona platform
Saat men-deploy blueprint, Anda membuat empat jenis grup pengguna: grup engineer MLOps, grup engineer DevOps, grup data scientist, dan grup data engineer. Grup memiliki tanggung jawab berikut:
- Grup MLOps engineer mengembangkan template Terraform yang digunakan oleh Katalog Layanan. Tim ini menyediakan template yang digunakan oleh banyak model.
- Grup DevOps engineer menyetujui template Terraform yang dibuat oleh grup developer MLOps.
- Grup data scientist mengembangkan model, pipeline, dan container yang digunakan oleh pipeline. Biasanya, satu tim didedikasikan untuk membangun satu model.
- Grup Data engineer menyetujui penggunaan artefak yang dibuat oleh grup data science.
Struktur organisasi
Blueprint ini menggunakan struktur organisasi blueprint fondasi perusahaan sebagai dasar untuk men-deploy workload AI dan ML. Diagram berikut menunjukkan project yang ditambahkan ke fondasi untuk mengaktifkan workload AI dan ML.
Tabel berikut menjelaskan project yang digunakan oleh blueprint AI generatif dan ML.
| Folder | Project | Deskripsi |
|---|---|---|
|
|
Berisi pipeline deployment yang digunakan untuk membangun komponen AI generatif dan ML dari blueprint. Untuk mengetahui informasi selengkapnya, lihat pipeline infrastruktur dalam blueprint fondasi perusahaan. |
|
Berisi infrastruktur yang digunakan oleh Katalog Layanan untuk men-deploy resource di lingkungan interaktif. | |
|
|
Berisi komponen untuk mengembangkan kasus penggunaan AI dan ML dalam mode interaktif. |
|
|
Berisi komponen untuk menguji dan mengevaluasi kasus penggunaan AI dan ML yang dapat di-deploy ke produksi. |
|
|
Berisi komponen untuk men-deploy kasus penggunaan AI dan ML ke produksi. |
Jaringan
Blueprint ini menggunakan jaringan VPC Bersama yang dibuat dalam blueprint fondasi perusahaan. Dalam lingkungan interaktif (pengembangan), notebook Vertex AI Workbench di-deploy dalam project layanan. Pengguna lokal dapat mengakses project menggunakan ruang alamat IP pribadi di jaringan VPC Bersama. Pengguna lokal dapat mengakses Google Cloud API, seperti Cloud Storage, melalui Private Service Connect. Setiap jaringan VPC Bersama (pengembangan, non-produksi, dan produksi) memiliki endpoint Private Service Connect yang berbeda.
Lingkungan operasional (non-produksi dan produksi) memiliki dua jaringan VPC Bersama terpisah yang dapat diakses oleh resource lokal melalui alamat IP pribadi. Lingkungan interaktif dan operasional dilindungi menggunakan Kontrol Layanan VPC.
Cloud Logging
Blueprint ini menggunakan kemampuan Cloud Logging yang disediakan oleh blueprint dasar-dasar perusahaan.
Cloud Monitoring
Untuk memantau tugas pelatihan kustom, blueprint ini menyertakan dasbor yang memungkinkan Anda memantau metrik berikut:
- Pemakaian CPU setiap node pelatihan
- Penggunaan memori setiap node pelatihan
- Penggunaan jaringan
Jika tugas pelatihan kustom gagal, blueprint akan menggunakan Cloud Monitoring untuk memberi Anda mekanisme pemberitahuan email guna memberi tahu Anda tentang kegagalan tersebut. Untuk memantau model yang di-deploy yang menggunakan endpoint Vertex AI, blueprint ini dilengkapi dengan dasbor yang memiliki metrik berikut:
- Metrik performa:
- Prediksi per detik
- Latensi model
- Penggunaan resource:
- Penggunaan CPU
- Penggunaan memori
Penyiapan kebijakan organisasi
Selain kebijakan organisasi yang dibuat oleh blueprint fondasi perusahaan, blueprint ini menambahkan kebijakan organisasi yang tercantum dalam postur yang telah ditentukan sebelumnya untuk AI yang aman, diperluas.
Operasi
Bagian ini menjelaskan lingkungan yang disertakan dalam blueprint.
Lingkungan interaktif
Untuk memungkinkan Anda menjelajahi data dan mengembangkan model sekaligus mempertahankan postur keamanan organisasi, lingkungan interaktif menyediakan serangkaian tindakan terkontrol yang dapat Anda lakukan. Anda dapat men-deploy resource Google Cloud menggunakan salah satu metode berikut:
- Menggunakan Katalog Layanan, yang telah dikonfigurasi sebelumnya melalui otomatisasi dengan template resource
- Membangun artefak kode dan meng-commit-nya ke repositori Git menggunakan notebook Vertex AI Workbench
Diagram berikut menggambarkan lingkungan interaktif.
Alur interaktif standar memiliki langkah-langkah dan komponen berikut yang terkait dengannya:
- Katalog Layanan menyediakan daftar resourceGoogle Cloud yang diseleksi, yang dapat di-deploy oleh data scientist ke dalam lingkungan interaktif. Data scientist men-deploy resource notebook Vertex AI Workbench dari Katalog Layanan.
- Notebook Vertex AI Workbench adalah antarmuka utama yang digunakan data scientist untuk menggunakan resource Google Cloud yang di-deploy di lingkungan interaktif. Notebook memungkinkan data scientist mengambil kode dari Git dan memperbarui kode sesuai kebutuhan.
- Data sumber disimpan di luar lingkungan interaktif dan dikelola secara terpisah dari blueprint ini. Akses ke data dikontrol oleh pemilik data. Data scientist dapat meminta akses baca ke data sumber, tetapi data scientist tidak dapat menulis ke data sumber.
- Data scientist dapat mentransfer data sumber ke lingkungan interaktif menjadi resource yang dibuat melalui Katalog Layanan. Dalam lingkungan interaktif, data scientist dapat membaca, menulis, dan memanipulasi data. Namun, data scientist tidak dapat mentransfer data keluar dari lingkungan interaktif atau memberikan akses ke resource yang dibuat oleh Katalog Layanan. BigQuery menyimpan data terstruktur dan data semi-terstruktur, sedangkan Cloud Storage menyimpan data tidak terstruktur.
- Feature Store memberi data scientist akses latensi rendah ke fitur untuk pelatihan model.
Data scientist melatih model menggunakan tugas pelatihan kustom Vertex AI. Blueprint ini juga menggunakan Vertex AI untuk penyesuaian hyperparameter.
Data scientist mengevaluasi model menggunakan Vertex AI Experiments dan Vertex AI TensorBoard. Dengan Vertex AI Experiments, Anda dapat menjalankan beberapa pelatihan terhadap model menggunakan berbagai parameter, teknik pemodelan, arsitektur, dan input. Dengan Vertex AI TensorBoard, Anda dapat melacak, memvisualisasikan, dan membandingkan berbagai eksperimen yang Anda jalankan, lalu memilih model dengan karakteristik terbaik yang diamati untuk divalidasi.
Data scientist memvalidasi model mereka dengan evaluasi Vertex AI. Untuk memvalidasi model, data scientist membagi data sumber menjadi set data pelatihan dan set data validasi, lalu menjalankan evaluasi Vertex AI terhadap model Anda.
Data scientist membangun container menggunakan Cloud Build, menyimpan container di Artifact Registry, dan menggunakan container dalam pipeline yang berada di lingkungan operasional.
Lingkungan operasional
Lingkungan operasional menggunakan repositori Git dan pipeline. Lingkungan ini mencakup lingkungan produksi dan lingkungan non-produksi dari blueprint fondasi perusahaan. Di lingkungan non-produksi, data scientist memilih pipeline dari salah satu pipeline yang dikembangkan di lingkungan interaktif. Data scientist dapat menjalankan pipeline di lingkungan non-produksi, mengevaluasi hasilnya, lalu menentukan model mana yang akan dipromosikan ke lingkungan produksi.
Blueprint ini mencakup contoh pipeline yang dibuat menggunakan Managed Airflow dan contoh pipeline yang dibuat menggunakan Vertex AI Pipelines. Diagram di bawah menunjukkan lingkungan operasional.
Alur operasional umum memiliki langkah-langkah berikut:
- Data scientist berhasil menggabungkan cabang pengembangan ke cabang deployment.
- Penggabungan ke dalam cabang deployment memicu pipeline Cloud Build.
- Salah satu item berikut terjadi:
- Jika data scientist menggunakan Managed Airflow sebagai orchestrator, pipeline Cloud Build akan memindahkan DAG ke Cloud Storage.
- Jika data scientist menggunakan Vertex AI Pipelines sebagai orchestrator, pipeline akan memindahkan file Python ke Cloud Storage.
- Pipeline Cloud Build memicu orchestrator (Managed Airflow atau Vertex AI Pipelines).
- Orchestrator mengambil definisi pipeline-nya dari Cloud Storage dan mulai menjalankan pipeline.
- Pipeline mengambil container dari Artifact Registry yang digunakan oleh semua tahap pipeline untuk memicu layanan Vertex AI.
- Pipeline, menggunakan container, memicu transfer data dari project data sumber ke lingkungan operasional.
- Data ditransformasi, divalidasi, dibagi, dan disiapkan untuk pelatihan dan validasi model oleh pipeline.
- Jika diperlukan, pipeline akan memindahkan data ke Vertex AI Feature Store untuk memudahkan akses selama pelatihan model.
- Pipeline ini menggunakan pelatihan model kustom Vertex AI untuk melatih model.
- Pipeline menggunakan evaluasi Vertex AI untuk memvalidasi model.
- Model yang divalidasi diimpor ke Model Registry oleh pipeline.
- Model yang diimpor kemudian digunakan untuk menghasilkan prediksi melalui prediksi online atau prediksi batch.
- Setelah model di-deploy ke lingkungan produksi, pipeline menggunakan Vertex AI Model Monitoring untuk mendeteksi apakah performa model menurun dengan memantau diferensiasi performa pelatihan dan penayangan serta penyimpangan prediksi.
Deployment
Blueprint ini menggunakan serangkaian pipeline Cloud Build untuk menyediakan infrastruktur blueprint, pipeline di lingkungan operasional, dan container yang digunakan untuk membuat model AI generatif dan ML. Pipeline yang digunakan dan resource yang disediakan adalah sebagai berikut:
- Pipeline infrastruktur: Pipeline ini adalah bagian dari blueprint fondasi perusahaan. Pipeline ini menyediakan resource Google Cloud yang terkait dengan lingkungan interaktif dan lingkungan operasional.
- Pipeline interaktif: Pipeline interaktif adalah bagian dari lingkungan interaktif. Pipeline ini menyalin template Terraform dari repositori Git ke bucket Cloud Storage yang dapat dibaca oleh Katalog Layanan. Pipeline interaktif dipicu saat permintaan pull dibuat untuk digabungkan dengan cabang utama.
- Pipeline container: Blueprint ini mencakup pipeline Cloud Build untuk membangun container yang digunakan dalam pipeline operasional. Container yang di-deploy di seluruh lingkungan adalah image container yang tidak dapat diubah. Image container yang tidak dapat diubah membantu memastikan bahwa image yang sama di-deploy di semua lingkungan dan tidak dapat diubah saat sedang berjalan. Jika perlu mengubah aplikasi, Anda harus membangun ulang dan men-deploy ulang image. Image container yang digunakan dalam blueprint disimpan di Artifact Registry dan direferensikan oleh file konfigurasi yang digunakan dalam pipeline operasional.
- Pipeline operasional: Pipeline operasional adalah bagian dari lingkungan operasional. Pipeline ini menyalin DAG untuk Managed Airflow atau Vertex AI Pipelines, yang kemudian digunakan untuk membangun, menguji, dan men-deploy model.
Katalog Layanan
Dengan Katalog Layanan, developer dan administrator cloud dapat membuat solusi mereka dapat digunakan oleh pengguna internal perusahaan. Modul Terraform di Katalog Layanan dibuat dan dipublikasikan sebagai artefak ke bucket Cloud Storage dengan pipeline CI/CD Cloud Build. Setelah modul disalin ke bucket, developer dapat menggunakan modul tersebut untuk membuat solusi Terraform di halaman Service Catalog Admin, menambahkan solusi ke Katalog Layanan, dan membagikan solusi tersebut ke project lingkungan interaktif sehingga pengguna dapat men-deploy resource.
Lingkungan interaktif menggunakan Katalog Layanan untuk memungkinkan data scientist men-deploy resource Google Cloud dengan cara yang sesuai dengan postur keamanan perusahaan mereka. Saat mengembangkan model yang memerlukan resourceGoogle Cloud , seperti bucket Cloud Storage, data scientist memilih resource dari Katalog Layanan, mengonfigurasi resource, dan men-deploy resource di lingkungan interaktif. Katalog Layanan berisi template yang telah dikonfigurasi sebelumnya untuk berbagai resource Google Cloud yang dapat di-deploy oleh data scientist di lingkungan interaktif. Data scientist tidak dapat mengubah template resource, tetapi dapat mengonfigurasi resource melalui variabel konfigurasi yang diekspos oleh template. Diagram berikut menunjukkan struktur hubungan antara Katalog Layanan dan lingkungan interaktif.
Data scientist men-deploy resource menggunakan Katalog Layanan, seperti yang dijelaskan dalam langkah-langkah berikut:
- Engineer MLOps menempatkan template resource Terraform untukGoogle Cloud ke dalam repositori Git.
- Commit ke Git memicu pipeline Cloud Build.
- Cloud Build menyalin template dan file konfigurasi terkait ke Cloud Storage.
- Engineer MLOps menyiapkan solusi Katalog Layanan dan Katalog Layanan secara manual. Engineer tersebut kemudian membagikan Katalog Layanan dengan project layanan di lingkungan interaktif.
- Data scientist memilih resource dari Katalog Layanan.
- Katalog Layanan men-deploy template ke dalam lingkungan interaktif.
- Resource akan mengambil skrip konfigurasi yang diperlukan.
- Data scientist berinteraksi dengan resource.
Repositori
Pipeline yang dijelaskan dalam Deployment dipicu oleh perubahan di repositori yang sesuai. Untuk membantu memastikan bahwa tidak ada yang dapat membuat perubahan independen pada lingkungan produksi, ada pemisahan tanggung jawab antara pengguna yang dapat mengirimkan kode dan pengguna yang dapat menyetujui perubahan kode. Tabel berikut menjelaskan repositori blueprint beserta pengirim dan pemberi persetujuannya.
| Repositori | Pipeline | Deskripsi | Pengirim | Pemberi Persetujuan |
|---|---|---|---|---|
|
Infrastruktur |
Berisi kode Terraform untuk blueprint AI generatif dan ML yang membuat lingkungan interaktif dan operasional. | MLOps engineer | DevOps engineer |
|
Interaktif | Berisi template untuk resource yang dapat di-deploy oleh Katalog Layanan. | MLOps engineer | DevOps engineer |
|
Container | Berisi container yang dapat digunakan oleh pipeline di lingkungan operasional. | Data scientist | Data engineer |
|
Operasional | Berisi kode sumber yang dapat digunakan oleh pipeline di lingkungan operasional. | Data scientist | Data engineer |
Strategi percabangan
Blueprint ini menggunakan percabangan persisten untuk men-deploy kode ke lingkungan terkait. Blueprint ini menggunakan tiga cabang (pengembangan, non-produksi, dan produksi) yang mencerminkan lingkungan yang sesuai.
Kontrol keamanan
Blueprint AI dan ML generatif perusahaan menggunakan model keamanan defense in depth berlapis yang menggunakan kemampuan Google Cloud default, layananGoogle Cloud , dan kemampuan keamanan yang dikonfigurasi melalui blueprint fondasi perusahaan. Diagram berikut menunjukkan pelapisan berbagai kontrol keamanan untuk blueprint.
Fungsi lapisan adalah sebagai berikut:
- Antarmuka: menyediakan layanan bagi data scientist yang memungkinkan mereka berinteraksi dengan blueprint secara terkontrol.
- Deployment: menyediakan serangkaian pipeline yang men-deploy infrastruktur, membangun container, dan membuat model. Penggunaan pipeline memungkinkan audit, keterlacakan, dan pengulangan.
- Networking: memberikan perlindungan pemindahan data yang tidak sah di sekitar resource blueprint pada lapisan API dan lapisan IP.
- Pengelolaan akses: mengontrol siapa yang dapat mengakses resource apa dan membantu mencegah penggunaan resource Anda yang tidak sah.
- Enkripsi: memungkinkan Anda mengontrol kunci enkripsi, secret, dan membantu melindungi data Anda melalui enkripsi dalam penyimpanan dan enkripsi dalam pengiriman default.
- Detektif: membantu Anda mendeteksi kesalahan konfigurasi dan aktivitas berbahaya.
- Preventif: memberi Anda sarana untuk mengontrol dan membatasi cara infrastruktur Anda di-deploy.
Tabel berikut menjelaskan kontrol keamanan yang terkait dengan setiap lapisan.
| Lapisan | Resource | Kontrol keamanan |
|---|---|---|
| Antarmuka | Vertex AI Workbench | Menyediakan pengalaman notebook terkelola yang menggabungkan kontrol akses pengguna, kontrol akses jaringan, kontrol akses IAM, dan download file yang dinonaktifkan. Fitur ini memungkinkan pengalaman pengguna yang lebih aman. |
| Repositori Git | Menyediakan kontrol akses pengguna untuk melindungi repositori Anda. | |
| Katalog Layanan | Memberi data scientist daftar resource pilihan yang hanya dapat di-deploy dalam konfigurasi yang disetujui. | |
| Deployment | Pipeline infrastruktur | Menyediakan alur yang aman untuk men-deploy infrastruktur blueprint melalui penggunaan Terraform. |
| Pipeline interaktif | Menyediakan alur yang aman untuk mentransfer template dari repositori Git ke bucket dalam organisasi Google Cloud Anda. | |
| Pipeline container | Menyediakan alur yang aman untuk membangun container yang digunakan oleh pipeline operasional. | |
| Pipeline operasional | Menyediakan alur terkontrol untuk melatih, menguji, memvalidasi, dan men-deploy model. | |
| Artifact Registry | Menyimpan image container dengan cara yang aman menggunakan kontrol akses resource | |
| Jaringan | Private Service Connect | Memungkinkan Anda berkomunikasi dengan Google Cloud API menggunakan alamat IP pribadi sehingga Anda dapat menghindari eksposur traffic ke internet. |
| VPC dengan alamat IP pribadi | Blueprint ini menggunakan VPC dengan alamat IP pribadi untuk membantu menghilangkan eksposur terhadap ancaman yang dihadapi internet. | |
| Kontrol Layanan VPC | Membantu melindungi resource yang dilindungi dari pemindahan data yang tidak sah. | |
| Firewall | Membantu melindungi jaringan VPC dari akses yang tidak sah. | |
| Pengelolaan Akses | Cloud Identity | Menyediakan pengelolaan pengguna terpusat, sehingga mengurangi risiko akses yang tidak sah. |
| IAM | Memberikan kontrol terperinci tentang siapa yang dapat melakukan apa pada resource mana, sehingga memungkinkan hak istimewa terendah dalam pengelolaan akses. | |
| Enkripsi | Cloud KMS | Memungkinkan Anda mengontrol kunci enkripsi yang digunakan dalam organisasiGoogle Cloud Anda. |
| Secret Manager | Menyediakan penyimpanan secret untuk model Anda yang dikontrol oleh IAM. | |
| Enkripsi dalam penyimpanan | Secara default, Google Cloud mengenkripsi data dalam penyimpanan. | |
| Enkripsi dalam pengiriman | Secara default, Google Cloud mengenkripsi data dalam pengiriman. | |
| Detektif | Security Command Center | Menyediakan pendeteksi ancaman yang membantu melindungi organisasi Google Cloud Anda. |
| Arsitektur berkelanjutan | Terus memeriksa organisasi Google Cloud Anda berdasarkan serangkaian kebijakan Open Policy Agent (OPA) yang telah Anda tentukan. | |
| Pemberi Rekomendasi IAM | Menganalisis izin pengguna dan memberikan saran tentang pengurangan izin untuk membantu menerapkan prinsip hak istimewa terendah. | |
| Analisis Firewall | Menganalisis aturan firewall, mengidentifikasi aturan firewall yang terlalu permisif, dan menyarankan firewall yang lebih ketat untuk membantu memperkuat postur keamanan Anda secara keseluruhan. | |
| Cloud Logging | Memberikan visibilitas ke aktivitas sistem dan membantu memungkinkan deteksi anomali dan aktivitas berbahaya. | |
| Cloud Monitoring | Melacak sinyal dan peristiwa penting yang dapat membantu mengidentifikasi aktivitas mencurigakan. | |
| Pencegahan | Organization Policy Service | Memungkinkan Anda membatasi tindakan dalam organisasi Google Cloud Anda. |
Langkah berikutnya
- Deploy Terraform yang terkait dengan blueprint ini.
- Pelajari lebih lanjut blueprint fondasi perusahaan.
- Pelajari Vertex AI lebih lanjut.
- Pelajari lebih lanjut MLOps di Google Cloud:
- MLOps di Vertex AI
- Panduan praktisi untuk MLOps: Framework untuk continuous delivery dan otomatisasi machine learning (PDF)
- MLOps: Pipeline otomatisasi dan continuous delivery di machine learning
- Arsitektur untuk MLOps menggunakan TensorFlow Extended, Vertex AI Pipelines, dan Cloud Build
- Kode contoh Vertex AI Pipelines
- Kode contoh notebook Vertex AI
- Untuk ringkasan prinsip dan rekomendasi arsitektur yang khusus untuk workload AI dan ML di Google Cloud, lihat Perspektif AI dan ML dalam Framework Arsitektur yang Baik.
- Untuk mengetahui lebih banyak tentang arsitektur referensi, diagram, dan praktik terbaik lainnya, jelajahi Pusat Arsitektur Cloud.