Ringkasan solusi untuk GDC dengan air gap

Panduan solusi Google Distributed Cloud (GDC) dengan air gap menjembatani kesenjangan antara kemampuan produk siap pakai dan arsitektur perusahaan yang siap produksi. Panduan ini membekali administrator platform dan operator aplikasi dengan framework konseptual, arsitektur referensi, dan langkah-langkah implementasi praktis untuk menjalankan workload penting di lingkungan GDC dengan air gap.

Panduan solusi mematuhi persyaratan ketat untuk performa, keamanan, dan kedaulatan data.

Jenis dokumen

Solusi didokumentasikan dalam tiga jenis dokumen pelengkap:

  • Arsitektur referensi: Blueprint arsitektur yang menguraikan prinsip desain, topologi sistem, interaksi komponen, dan kontrol keamanan untuk men-deploy solusi.
  • Implementasi referensi: Panduan langkah demi langkah untuk menginstal, mengonfigurasi, dan memverifikasi infrastruktur, dependensi, dan deployment software di cluster GDC.
  • Panduan pengguna: Panduan operasional hari ke-2 yang mencakup administrasi praktis, konfigurasi layanan, pemantauan, penskalaan, dan pemeliharaan berkelanjutan.

Solusi yang tersedia

Bagian berikut mencantumkan panduan solusi yang tersedia untuk GDC dengan air gap, yang diatur berdasarkan domain teknis yang cocok dengan Google Cloud Architecture Center.

AI dan machine learning

  • Gateway AI
    • Arsitektur referensi: Pemilihan rute terpusat, mediasi protokol, dan pengelolaan traffic untuk model bahasa besar (LLM).
    • Envoy
  • Elastic Stack
    • Arsitektur referensi: Arsitektur untuk men-deploy Elastic Stack dan mengintegrasikannya dengan layanan LLM untuk mengaktifkan fitur AI generatif Elastic.
    • Implementasi referensi: Deploy Elastic Stack dan integrasikan dengan layanan LLM untuk mengevaluasi fitur AI generatif Elastic.
  • Model bobot terbuka
    • Arsitektur referensi: Arsitektur untuk men-deploy dan menyajikan model bahasa besar (LLM) dengan bobot terbuka.
    • Ollama
      • Implementasi referensi: Deploy Ollama untuk menyajikan model bobot terbuka di cluster standar.
      • Model Gemma: Penyajian model Gemma 4 menggunakan Ollama; pilih model dan opsi GPU dalam satu panduan.
    • vLLM
      • Implementasi referensi: Deploy vLLM untuk menyajikan inferensi model dengan throughput tinggi di cluster standar dengan GPU.
      • Model Gemma: Penyajian model Gemma 4 menggunakan vLLM; pilih model dan opsi GPU dalam satu panduan.
      • Model Mistral: Sajikan Mistral 7B, Mistral NeMo 12B, Mistral Small 3.2 24B, Ministral 8B, Mixtral 8x7B, atau Magistral Small 1.2 menggunakan vLLM; pilih model dan opsi GPU dalam satu panduan.
    • Open WebUI: Men-deploy dan mengonfigurasi Open WebUI untuk berinteraksi dengan model yang disajikan oleh Ollama dan vLLM.

Database

Jaringan

Keamanan dan IAM

  • Keyfactor EJBCA