Dokumen ini menjelaskan cara menyesuaikan model LLM Translation menggunakan supervised fine-tuning.
Sebelum memulai
Sebelum memulai, Anda harus menyiapkan set data supervised fine-tuning. Bergantung pada kasus penggunaan Anda, ada persyaratan yang berbeda.
- Menyiapkan set data teks untuk penyesuaian: Penyesuaian teks
Model yang didukung
translation-llm-002(Hanya mendukung penyesuaian teks)
Membuat tugas penyesuaian
Anda dapat membuat tugas supervised fine-tuning menggunakan REST API atau Google Gen AI SDK.
REST
Untuk membuat tugas penyesuaian model, kirim permintaan POST menggunakan metode
tuningJobs.create. Beberapa parameter tidak didukung oleh semua model. Pastikan Anda hanya menyertakan parameter yang berlaku untuk model yang sedang disesuaikan.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- TUNING_JOB_REGION: Region tempat tugas penyesuaian berjalan. Region ini juga merupakan region default tempat model yang telah disesuaikan diupload. Wilayah yang didukung:
us-central1. - BASE_MODEL: Nama
model terjemahan yang akan disesuaikan. Nilai yang didukung:
translation-llm-002. - TRAINING_DATASET_URI: Cloud Storage URI set data pelatihan Anda. Set data harus diformat sebagai file JSONL. Untuk hasil terbaik, berikan minimal 100 hingga 500 contoh. Untuk mengetahui informasi selengkapnya, lihat Tentang set data penyesuaian yang diawasi.
- VALIDATION_DATASET_URI Opsional: Cloud Storage URI file set data validasi Anda.
- TUNED_MODEL_DISPLAYNAME Opsional: Nama tampilan untuk model yang disesuaikan. Jika tidak ditetapkan, nama acak akan dibuat.
Metode HTTP dan URL:
POST https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs
Meminta isi JSON:
{
"baseModel": "BASE_MODEL",
"supervisedTuningSpec" : {
"trainingDatasetUri": "TRAINING_DATASET_URI",
"validationDatasetUri": "VALIDATION_DATASET_URI"
},
"tunedModelDisplayName": "TUNED_MODEL_DISPLAYNAME"
}
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs"
PowerShell
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs" | Select-Object -Expand Content
Anda akan melihat respons JSON yang mirip seperti berikut:
Contoh perintah curl
PROJECT_ID=PROJECT_ID
LOCATION=us-central1
curl \
-X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
"https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/tuningJobs" \
-d \
$'{
"baseModel": "translation-llm-002",
"supervisedTuningSpec" : {
"trainingDatasetUri": "gs://cloud-samples-data/ai-platform/generative_ai/gemini-2_0/text/sft_train_data.jsonl",
"validationDatasetUri": "gs://cloud-samples-data/ai-platform/generative_ai/gemini-2_0/text/sft_validation_data.jsonl"
},
"tunedModelDisplayName": "tuned_translation_llm"
}'
Python
Melihat daftar tugas penyesuaian
Anda dapat melihat daftar tugas penyesuaian dalam project saat ini menggunakan konsol Google Cloud ,
Google Gen AI SDK, atau dengan mengirimkan permintaan GET menggunakan metode tuningJobs.list.
REST
Untuk melihat daftar tugas penyesuaian model, kirim permintaan GET menggunakan metode
tuningJobs.list.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- TUNING_JOB_REGION: Region tempat tugas penyesuaian berjalan. Region ini juga merupakan region default tempat model yang telah disesuaikan diupload.
Metode HTTP dan URL:
GET https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Jalankan perintah berikut:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs"
PowerShell
Jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan berikut ini.
Python
Konsol
Untuk melihat tugas penyesuaian di konsol Google Cloud , buka halaman Agent Studio.
Tugas penyesuaian Translation LLM Anda tercantum dalam tabel di bagian Translation LLM tuned models.
Mendapatkan detail tugas penyesuaian
Anda bisa mendapatkan detail tugas penyesuaian dalam project saat ini
menggunakan konsol Google Cloud , Google Gen AI SDK, atau dengan mengirimkan permintaan GET
menggunakan metode tuningJobs.get.
REST
Untuk melihat detail tugas penyesuaian model, kirim permintaan GET menggunakan metode
tuningJobs.get
dan tentukan TUNING_JOB_ID.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- TUNING_JOB_REGION: Region tempat tugas penyesuaian berjalan. Region ini juga merupakan region default tempat model yang telah disesuaikan diupload.
- TUNING_JOB_ID: ID tugas penyesuaian.
Metode HTTP dan URL:
GET https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Jalankan perintah berikut:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID"
PowerShell
Jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan berikut ini.
Python
Konsol
Untuk melihat detail model yang disesuaikan di konsol Google Cloud , buka halaman Agent Studio.
Di tabel Translation LLM tuned models, temukan model Anda, lalu klik Details.
Detail model Anda akan ditampilkan.
Membatalkan tugas penyesuaian
Anda dapat membatalkan tugas penyesuaian dalam project saat ini menggunakan konsol Google Cloud ,
Google Gen AI SDK, atau dengan mengirimkan permintaan POST menggunakan metode tuningJobs.cancel.
REST
Untuk membatalkan tugas penyesuaian model, kirim permintaan POST menggunakan metode
tuningJobs.cancel
dan tentukan TUNING_JOB_ID.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- TUNING_JOB_REGION: Region tempat tugas penyesuaian berjalan. Region ini juga merupakan region default tempat model yang telah disesuaikan diupload.
- TUNING_JOB_ID: ID tugas penyesuaian.
Metode HTTP dan URL:
POST https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID:cancel
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Jalankan perintah berikut:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d "" \
"https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID:cancel"
PowerShell
Jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-Uri "https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID:cancel" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan berikut ini.
Python
Konsol
Untuk membatalkan tugas penyesuaian di konsol Google Cloud , buka halaman Agent Studio.
Di tabel Translation LLM tuned models, klik Manage run.
Klik Cancel.
Menguji model yang telah disesuaikan dengan perintah
Anda dapat menguji model yang telah disesuaikan dalam project saat ini menggunakan
Google Gen AI SDK atau dengan mengirimkan permintaan POST menggunakan metode
generateContent.
Contoh berikut meminta model untuk menerjemahkan "Hello" dari bahasa Inggris ke bahasa Spanyol.
REST
Untuk menguji model yang telah disesuaikan dengan perintah, kirim permintaan POST dan
tentukan ENDPOINT_ID.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- TUNING_JOB_REGION: Region tempat tugas penyesuaian dijalankan. Region ini juga merupakan region default tempat model yang telah disesuaikan diupload.
- ENDPOINT_ID: ID endpoint model yang disesuaikan dari GET API.
Metode HTTP dan URL:
POST https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/endpoints/ENDPOINT_ID:generateContent
Meminta isi JSON:
{
"contents": [
{
"role": "USER",
"parts": [
{
"text": "English: Hello. Spanish:"
}
]
}
]
}
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/endpoints/ENDPOINT_ID:generateContent"
PowerShell
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/endpoints/ENDPOINT_ID:generateContent" | Select-Object -Expand Content
Anda akan melihat respons JSON yang mirip seperti berikut:
Python
Metrik penyesuaian dan validasi
Anda dapat mengonfigurasi tugas penyesuaian model untuk mengumpulkan dan melaporkan metrik penyesuaian model dan evaluasi model, yang kemudian dapat divisualisasikan di Agent Studio.
Untuk melihat detail model yang telah disesuaikan di konsol Google Cloud , buka halaman Agent Studio.
Di tabel Tune and Distill, klik nama model yang telah disesuaikan yang ingin Anda lihat metriknya.
Metrik penyesuaian akan muncul di tab Monitor.
Metrik penyesuaian model
Tugas penyesuaian model secara otomatis mengumpulkan metrik penyesuaian berikut
untuk translation-llm-002.
/train_total_loss: Kerugian untuk set data penyesuaian pada langkah pelatihan./train_fraction_of_correct_next_step_preds: Akurasi token pada langkah pelatihan. Satu inferensi terdiri dari serangkaian token yang diprediksi. Metrik ini mengukur akurasi token yang diprediksi jika dibandingkan dengan kebenaran nyata dalam set data penyesuaian./train_num_predictions: Jumlah token yang diprediksi pada langkah pelatihan.
Metrik validasi model
Anda dapat mengonfigurasi tugas penyesuaian model untuk mengumpulkan metrik validasi berikut
untuk translation-llm-002.
/eval_total_loss: Kerugian untuk set data validasi pada langkah validasi./eval_fraction_of_correct_next_step_preds: Akurasi token pada langkah validasi. Satu inferensi terdiri dari serangkaian token yang diprediksi. Metrik ini mengukur akurasi token yang diprediksi jika dibandingkan dengan kebenaran nyata dalam set data validasi./eval_num_predictions: Jumlah token yang diprediksi pada langkah validasi.
Visualisasi metrik tersedia setelah tugas penyesuaian mulai berjalan. Nilai ini akan diperbarui secara real time seiring progres penyesuaian. Jika Anda tidak menentukan set data validasi saat membuat tugas penyesuaian, hanya visualisasi untuk metrik penyesuaian yang tersedia.
Langkah berikutnya
- Untuk mempelajari cara supervised fine-tuning dapat digunakan dalam solusi yang membangun pusat informasi AI generatif, lihat Solusi Praktis: Pusat informasi AI generatif.