Panduan memulai: Membangun dan men-deploy aplikasi web Python (LangChain) ke Cloud Run

Panduan memulai: Membangun dan men-deploy aplikasi web Python (LangChain) ke Cloud Run

Pelajari cara membangun dan men-deploy aplikasi LangChain menggunakan Cloud Run dan Gemini untuk merespons kueri tentang ibu kota.

Dengan mengikuti langkah-langkah dalam panduan memulai ini, Cloud Run akan otomatis mem-build Dockerfile untuk Anda saat Anda men-deploy dari kode sumber.

Sebelum memulai

Login ke akun Anda. Google Cloud Jika Anda baru menggunakan Google Cloud, buat akun untuk mengevaluasi performa produk kami dalam skenario dunia nyata. Pelanggan baru juga mendapatkan kredit gratis senilai $300 untuk menjalankan, menguji, dan men-deploy workload.

Instal Google Cloud CLI.

Catatan: Jika Anda telah menginstal gcloud CLI sebelumnya, pastikan Anda memiliki versi baru dengan menjalankan gcloud components update.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk melakukan inisialisasi gcloud CLI, jalankan perintah berikut:

gcloud init

Buat atau pilih Google Cloud project.

Peran yang diperlukan untuk memilih atau membuat project

• Memilih project: Memilih project tidak memerlukan peran IAM tertentu Anda dapat memilih project mana pun yang telah diberi peran.
• Membuat project: Untuk membuat project, Anda memerlukan peran Pembuat Project (roles/resourcemanager.projectCreator), yang berisi izin resourcemanager.projects.create. Pelajari cara memberikan peran.

Catatan: Jika tidak berencana untuk menyimpan resource yang Anda buat dalam prosedur ini, buatlah project, bukan memilih project yang ada. Setelah menyelesaikan langkah ini, Anda dapat menghapus project, yang menghapus semua resource yang terkait dengan project ini.

• Buat Google Cloud project:

  gcloud projects create PROJECT_ID

  Ganti PROJECT_ID dengan nama untuk Google Cloud project yang Anda buat.

• Pilih Google Cloud project yang Anda buat:

  gcloud config set project PROJECT_ID

  Ganti PROJECT_ID dengan nama Google Cloud project Anda.

Jika Anda menggunakan project yang sudah ada untuk panduan ini, pastikan Anda memiliki izin yang diperlukan untuk menyelesaikan panduan ini. Jika berhasil membuat project baru, berarti Anda sudah memiliki izin yang diperlukan.

Pastikan penagihan diaktifkan untuk Google Cloud project Anda.

Instal Google Cloud CLI.

Catatan: Jika Anda telah menginstal gcloud CLI sebelumnya, pastikan Anda memiliki versi baru dengan menjalankan gcloud components update.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk melakukan inisialisasi gcloud CLI, jalankan perintah berikut:

gcloud init

Buat atau pilih Google Cloud project.

Peran yang diperlukan untuk memilih atau membuat project

• Memilih project: Memilih project tidak memerlukan peran IAM tertentu Anda dapat memilih project mana pun yang telah diberi peran.
• Membuat project: Untuk membuat project, Anda memerlukan peran Pembuat Project (roles/resourcemanager.projectCreator), yang berisi izin resourcemanager.projects.create. Pelajari cara memberikan peran.

Catatan: Jika tidak berencana untuk menyimpan resource yang Anda buat dalam prosedur ini, buatlah project, bukan memilih project yang ada. Setelah menyelesaikan langkah ini, Anda dapat menghapus project, yang menghapus semua resource yang terkait dengan project ini.

• Buat Google Cloud project:

  gcloud projects create PROJECT_ID

  Ganti PROJECT_ID dengan nama untuk Google Cloud project yang Anda buat.

• Pilih Google Cloud project yang Anda buat:

  gcloud config set project PROJECT_ID

  Ganti PROJECT_ID dengan nama Google Cloud project Anda.

Jika Anda menggunakan project yang sudah ada untuk panduan ini, pastikan Anda memiliki izin yang diperlukan untuk menyelesaikan panduan ini. Jika berhasil membuat project baru, berarti Anda sudah memiliki izin yang diperlukan.

Pastikan penagihan diaktifkan untuk Google Cloud project Anda.

1. Jika Anda dikenai kebijakan organisasi pembatasan domain yang membatasi pemanggilan yang tidak diautentikasi untuk project, Anda perlu mengakses layanan yang di-deploy seperti yang dijelaskan di bagian Menguji layanan pribadi.

2. Aktifkan Cloud Run Admin API dan Cloud Build API:

   Peran yang diperlukan untuk mengaktifkan API

   Untuk mengaktifkan API, Anda memerlukan peran IAM Service Usage Admin (roles/serviceusage.serviceUsageAdmin), yang berisi izin serviceusage.services.enable. Pelajari cara memberikan peran.

   gcloud services enable run.googleapis.com cloudbuild.googleapis.com

   Setelah Cloud Run Admin API diaktifkan, akun layanan default Compute Engine akan otomatis dibuat.

3. Tinjau harga Cloud Run atau perkirakan biaya dengan kalkulator harga.
4. Anda memerlukan kunci API dari Google AI Studio untuk men-deploy aplikasi LangChain dengan model Gemini. Untuk membuat kunci API menggunakan Google AI Studio, lihat Menggunakan kunci Gemini API dalam dokumentasi Gemini API. Anda akan mereferensikan kunci ini saat men-deploy layanan.

Peran yang diperlukan

Untuk mendapatkan izin yang Anda perlukan untuk menyelesaikan panduan memulai ini, minta administrator untuk memberi Anda peran IAM berikut:

• Cloud Run Admin (roles/run.admin) di project
• Cloud Run Source Developer (roles/run.sourceDeveloper) di project
• Pengguna Akun Layanan (roles/iam.serviceAccountUser) di identitas layanan
• Logs Viewer (roles/logging.viewer) di project

Untuk mengetahui informasi selengkapnya tentang pemberian peran, lihat Mengelola akses ke project, folder, dan organisasi.

Anda mungkin juga bisa mendapatkan izin yang diperlukan melalui peran khusus atau peran bawaan lainnya.

Memberikan akses akun layanan Cloud Build ke project Anda

Cloud Build otomatis menggunakan akun layanan default Compute Engine sebagai akun layanan Cloud Build default untuk mem-build kode sumber dan resource Cloud Run Anda, kecuali jika Anda mengganti perilaku ini.

Agar Cloud Build dapat mem-build sumber Anda, berikan peran Cloud Run Builder (roles/run.builder) ke akun layanan Cloud Build di project Anda:

gcloud projects add-iam-policy-binding PROJECT_ID \
    --member=serviceAccount:SERVICE_ACCOUNT_EMAIL_ADDRESS \
    --role=roles/run.builder

Ganti PROJECT_ID dengan Google Cloudproject ID Anda dan SERVICE_ACCOUNT_EMAIL_ADDRESS dengan alamat email akun layanan Cloud Build. Jika Anda menggunakan akun layanan default Compute Engine sebagai akun layanan Cloud Build, gunakan format berikut untuk alamat email akun layanan:

[e-mail]

Ganti PROJECT_NUMBER dengan nomor Google Cloud project Anda.

Untuk mengetahui petunjuk mendetail tentang cara menemukan project ID dan nomor project Anda, lihat Membuat dan mengelola project.

Pemberian peran Cloud Run Builder memerlukan waktu beberapa menit untuk diterapkan.

Menulis aplikasi contoh

Untuk menulis aplikasi di Python:

1. Buat direktori baru bernama langchain-gemini-fastapi-app dan ubah ke direktori tersebut:

   mkdir langchain-gemini-fastapi-app
   cd langchain-gemini-fastapi-app
   

2. Buat file bernama main.py lalu tempelkan kode berikut ke dalamnya:

   import os
   import uvicorn
   from fastapi import FastAPI, HTTPException
   from pydantic import BaseModel
   from langchain_google_genai import ChatGoogleGenerativeAI
   from langchain_core.prompts import ChatPromptTemplate
   from langchain_core.output_parsers import StrOutputParser
   
   # Initialize FastAPI
   app = FastAPI(title="LangChain Gemini Cloud Run App")
   
   # 1. Setup Gemini Model
   # We expect GOOGLE_API_KEY to be set in the environment variables
   llm = ChatGoogleGenerativeAI(
     model="gemini-2.5-flash",
     temperature=0.7
   )
   
   # 2. Define the Chain
   prompt = ChatPromptTemplate.from_template("You are a helpful assistant. Answer the following question concisely: {topic}")
   output_parser = StrOutputParser()
   
   # Chain: Prompt -> Model -> String Parser
   chain = prompt | llm | output_parser
   
   # 3. Define Request Model
   class QueryRequest(BaseModel):
     topic: str
   
   # 4. Define Endpoint
   @app.post("/chat")
   async def chat(request: QueryRequest):
     try:
         response = await chain.ainvoke({"topic": request.topic})
         return {"response": response}
     except Exception as e:
         raise HTTPException(status_code=500, detail=str(e))
   
   @app.get("/")
   def health_check():
     return {"status": "ok", "service": "Gemini-FastAPI"}
   

3. Buat file bernama requirements.txt lalu tempelkan kode berikut ke dalamnya:

   fastapi
   uvicorn
   langchain
   langchain-google-genai
   python-dotenv
   

Men-deploy ke Cloud Run dari sumber

Men-deploy dari sumber secara otomatis akan mem-build image container dari kode sumber dan men-deploy-nya.

Untuk men-deploy dari sumber menggunakan perintah berikut:

  gcloud run deploy gemini-fastapi-service \
    --source . \
    --region us-central1 \
    --no-allow-unauthenticated \
    --set-env-vars GEMINI_API_KEY=API_KEY

Ganti API_KEY dengan kunci API Google AI Studio Anda. Untuk produksi, sebaiknya gunakan Secret Manager untuk menangani kunci API, bukan variabel lingkungan biasa.

Cloud Run menampilkan URL layanan, seperti https://gemini-fastapi-service-xyz-uc.a.run.app, setelah Anda berhasil men-deploy aplikasi.

Berhasil: Anda telah men-deploy aplikasi web LangChain ke Cloud Run.

Menguji layanan Cloud Run

Uji layanan Anda dengan mengirimkan kueri ke agen menggunakan perintah curl berikut:

  curl -X POST YOUR-SERVICE-URL/chat \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $(gcloud auth print-identity-token)" \
    -d '{"topic": "What is the capital of France?"}'

Ganti YOUR-SERVICE-URL dengan URL layanan Anda.

Agen akan mengirimkan respons berikut:

  {
  "response": "Paris"
  }

Untuk memverifikasi bahwa layanan Anda berfungsi dengan benar, periksa tab Logslayanan Cloud Run.

Pembersihan

Agar akun Anda tidak dikenai biaya untuk resource yang digunakan pada halaman ini, hapus project yang berisi resource tersebut. Google Cloud Google Cloud

Untuk menghindari biaya tambahan pada Google Cloud akun Anda, hapus semua resource yang Anda deploy dengan panduan memulai ini.

Menghapus repositori

Cloud Run tidak mengenakan biaya saat layanan yang di-deploy tidak digunakan. Namun, Anda mungkin masih dikenai biaya untuk menyimpan image container di Artifact Registry. Untuk menghapus repositori Artifact Registry, ikuti langkah-langkah di Menghapus repositori dalam dokumentasi Artifact Registry.

Menghapus layanan

Layanan Cloud Run tidak dikenai biaya hingga menerima permintaan. Untuk menghapus layanan Cloud Run, ikuti salah satu langkah berikut:

Konsol

Untuk menghapus layanan:

1. Di Google Cloud konsol, buka halaman Services Cloud Run:

   Buka Cloud Run

2. Temukan layanan yang ingin Anda hapus dalam daftar layanan, lalu klik kotak centang layanan tersebut untuk memilihnya.

3. Klik Hapus. Tindakan ini akan menghapus semua revisi layanan.

gcloud

Untuk menghapus layanan, jalankan perintah berikut:

gcloud run services delete SERVICE --region REGION

Ganti kode berikut:

• SERVICE: nama layanan Anda.
• REGION: Google Cloud region layanan.

Menghapus project pengujian Anda

Menghapus project Anda akan menghentikan penagihan untuk semua resource dalam project tersebut. Google Cloud Untuk melepaskan semua Google Cloud resource dalam project Anda, ikuti langkah-langkah berikut:

Perhatian: Menghapus project memiliki efek berikut:
• Semua hal dalam project akan dihapus. Jika menggunakan project yang sudah ada untuk tugas dalam dokumen ini, saat Anda menghapusnya, pekerjaan lain yang telah Anda lakukan dalam project tersebut juga akan terhapus.
• Project ID kustom hilang. Saat membuat project ini, Anda mungkin telah membuat project ID kustom yang ingin digunakan di masa mendatang. Untuk mempertahankan URL yang menggunakan project ID, seperti URL appspot.com , hapus resource yang dipilih di dalam project, bukan menghapus seluruh project.

Hapus a Google Cloud project:

gcloud projects delete PROJECT_ID

Langkah berikutnya

Untuk informasi lebih lanjut dalam mem-build container dari kode sumber dan penerapan untuk repositori, lihat:

• Mengembangkan layanan Cloud Run
• Mem-build Container
• Menguji layanan Cloud Run secara lokal
• Men-deploy dari kode sumber