Anda dapat menambahkan dokumen (file PDF dan TXT) ke permintaan Gemini untuk melakukan tugas yang melibatkan pemahaman isi dokumen yang disertakan. Halaman ini menunjukkan cara menambahkan PDF ke permintaan Anda ke Gemini di Vertex AI menggunakan konsol Google Cloud dan Vertex AI API.
Model yang didukung
Tabel berikut mencantumkan model yang mendukung pemahaman dokumen:
| Model | Detail media | Jenis MIME |
|---|---|---|
| Gemini 2.5 Flash (Pratinjau) |
|
|
| Gemini 2.5 Flash-Lite (Pratinjau) |
|
|
| Gambar Gemini 2.5 Flash |
|
|
| Gemini 2.5 Flash-Lite |
|
|
| Gemini 2.0 Flash dengan pembuatan gambar (Pratinjau) |
|
|
| Gemini 2.5 Pro |
|
|
| Gemini 2.5 Flash |
|
|
| Gemini 2.0 Flash |
|
|
| Gemini 2.0 Flash-Lite |
|
|
1Ini adalah TPM maksimum dari input dokumen di semua permintaan project. Gunakan juga TPM maksimum untuk modalitas lainnya.
Metrik kuota adalah
generate_content_document_input_per_base_model_id_and_resolution.
Untuk mengetahui daftar bahasa yang didukung oleh model Gemini, lihat informasi model Model Google. Untuk mempelajari lebih lanjut cara mendesain perintah multimodal, lihat Mendesain perintah multimodal. Jika Anda mencari cara untuk menggunakan Gemini langsung dari aplikasi seluler dan web, lihat SDK klien Firebase AI Logic untuk aplikasi Swift, Android, Web, Flutter, dan Unity.
Menambahkan dokumen ke permintaan
Contoh kode berikut menunjukkan cara menyertakan PDF dalam permintaan perintah. Contoh PDF ini kompatibel dengan semua model multimodal Gemini.
Python
Instal
pip install --upgrade google-genai
Untuk mempelajari lebih lanjut, lihat dokumentasi referensi SDK.
Tetapkan variabel lingkungan untuk menggunakan Gen AI SDK dengan Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
Go
Pelajari cara menginstal atau mengupdate Go.
Untuk mempelajari lebih lanjut, lihat dokumentasi referensi SDK.
Tetapkan variabel lingkungan untuk menggunakan Gen AI SDK dengan Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
Java
Pelajari cara menginstal atau mengupdate Java.
Untuk mempelajari lebih lanjut, lihat dokumentasi referensi SDK.
Tetapkan variabel lingkungan untuk menggunakan Gen AI SDK dengan Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
Node.js
Instal
npm install @google/genai
Untuk mempelajari lebih lanjut, lihat dokumentasi referensi SDK.
Tetapkan variabel lingkungan untuk menggunakan Gen AI SDK dengan Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
REST
Setelah Anda menyiapkan lingkungan, Anda dapat menggunakan REST untuk menguji perintah teks. Contoh berikut mengirim permintaan ke endpoint model penayang.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
PROJECT_ID: Project ID Anda.FILE_URI: URI atau URL file yang akan disertakan dalam perintah. Nilai yang dapat diterima mencakup hal berikut:- URI bucket Cloud Storage: Objek harus dapat dibaca secara publik atau berada di project Google Cloud yang sama dengan project yang mengirim permintaan. Untuk
gemini-2.0-flashdangemini-2.0-flash-lite, batas ukuran adalah 2 GB. - URL HTTP: URL file harus dapat dibaca secara publik. Anda dapat menentukan satu file video, satu file audio, dan hingga 10 file gambar per permintaan. Ukuran file audio, file video, dan dokumen tidak boleh lebih dari 15 MB.
- URL video YouTube:Video YouTube harus dimiliki oleh akun yang Anda gunakan untuk login ke konsol Google Cloud atau bersifat publik. Hanya satu URL video YouTube yang didukung per permintaan.
Saat menentukan
fileURI, Anda juga harus menentukan jenis media (mimeType) file. Jika Kontrol Layanan VPC diaktifkan, penentuan URL file media untukfileURItidak didukung.Jika tidak memiliki file PDF di Cloud Storage, Anda dapat menggunakan file yang tersedia secara publik berikut:
gs://cloud-samples-data/generative-ai/pdf/2403.05530.pdfdengan jenis MIMEapplication/pdf. Untuk melihat PDF ini, buka file PDF contoh.- URI bucket Cloud Storage: Objek harus dapat dibaca secara publik atau berada di project Google Cloud yang sama dengan project yang mengirim permintaan. Untuk
MIME_TYPE: Jenis media file yang ditentukan dalam kolomdataataufileUri. Nilai yang dapat diterima mencakup hal berikut:Klik untuk meluaskan jenis MIME
application/pdfaudio/mpegaudio/mp3audio/wavimage/pngimage/jpegimage/webptext/plainvideo/movvideo/mpegvideo/mp4video/mpgvideo/avivideo/wmvvideo/mpegpsvideo/flv
TEXT: Petunjuk teks yang akan disertakan dalam perintah. Misalnya,You are a very professional document summarization specialist. Please summarize the given document.
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Simpan isi permintaan dalam file bernama request.json.
Jalankan perintah berikut di terminal untuk membuat atau menimpa file ini di direktori saat ini:
cat > request.json << 'EOF'
{
"contents": {
"role": "USER",
"parts": [
{
"fileData": {
"fileUri": "FILE_URI",
"mimeType": "MIME_TYPE"
}
},
{
"text": "TEXT"
}
]
}
}
EOFKemudian, jalankan perintah berikut untuk mengirim permintaan REST Anda:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/gemini-2.0-flash:generateContent"
PowerShell
Simpan isi permintaan dalam file bernama request.json.
Jalankan perintah berikut di terminal untuk membuat atau menimpa file ini di direktori saat ini:
@'
{
"contents": {
"role": "USER",
"parts": [
{
"fileData": {
"fileUri": "FILE_URI",
"mimeType": "MIME_TYPE"
}
},
{
"text": "TEXT"
}
]
}
}
'@ | Out-File -FilePath request.json -Encoding utf8Kemudian, jalankan perintah berikut untuk mengirim permintaan REST Anda:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/gemini-2.0-flash:generateContent" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan berikut ini.
Perhatikan hal berikut di URL untuk sampel ini:- Gunakan metode
generateContentuntuk meminta agar respons ditampilkan setelah dibuat sepenuhnya. Untuk mengurangi persepsi latensi bagi audiens manusia, streaming respons saat respons dibuat menggunakan metodestreamGenerateContent. - ID model multimodal terletak di akhir URL sebelum metode
(misalnya,
gemini-2.0-flash). Contoh ini mungkin mendukung model lain juga.
Konsol
Untuk mengirim perintah multimodal menggunakan konsol Google Cloud , lakukan hal berikut:Di bagian Vertex AI pada konsol Google Cloud , buka halaman Vertex AI Studio.
Klik Buat perintah.
Opsional: Konfigurasikan model dan parameter:
- Model: Pilih model.
Opsional: Untuk mengonfigurasi parameter lanjutan, klik Lanjutan dan konfigurasikan sebagai berikut:
Klik untuk meluaskan konfigurasi lanjutan
Top-K: Gunakan penggeser atau kotak teks untuk memasukkan nilai untuk top-K.
Top-K mengubah cara model memilih token untuk output. Top-K1berarti token yang dipilih berikutnya adalah yang paling mungkin di antara semua token dalam kosakata model (juga disebut decoding greedy), sedangkan top-K3berarti token berikutnya dipilih di antara tiga token yang paling mungkin dengan menggunakan suhu.Untuk setiap langkah pemilihan token, token top-K dengan probabilitas tertinggi akan diambil sampelnya. Kemudian token akan difilter lebih lanjut berdasarkan top-P dengan token akhir yang dipilih menggunakan pengambilan sampel suhu.
Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak.
- Top-P: Gunakan penggeser atau kotak teks untuk memasukkan nilai untuk top-P.
Token dipilih dari yang paling mungkin hingga yang paling tidak mungkin sampai jumlah probabilitasnya sama dengan nilai top-P. Untuk hasil yang paling sedikit variabelnya, tetapkan top-P ke
0. - Respons maks: Gunakan penggeser atau kotak teks untuk memasukkan nilai jumlah respons yang akan dibuat.
- Respons streaming: Aktifkan untuk mencetak respons saat respons tersebut dihasilkan.
- Nilai minimum filter keamanan: Pilih nilai minimum seberapa besar kemungkinan Anda melihat respons yang dapat berbahaya.
- Aktifkan Perujukan: Perujukan tidak didukung untuk perintah multimodal.
- Region: Pilih region yang ingin Anda gunakan.
- Suhu: Gunakan penggeser atau kotak teks untuk memasukkan nilai suhu.
The temperature is used for sampling during response generation, which occurs whenandtopPtopKare applied. Temperature controls the degree of randomness in token selection. Lower temperatures are good for prompts that require a less open-ended or creative response, while higher temperatures can lead to more diverse or creative results. A temperature of0means that the highest probability tokens are always selected. In this case, responses for a given prompt are mostly deterministic, but a small amount of variation is still possible.If the model returns a response that's too generic, too short, or the model gives a fallback response, try increasing the temperature.
</li> <li>**Output token limit**: Use the slider or textbox to enter a value for the max output limit. Maximum number of tokens that can be generated in the response. A token is approximately four characters. 100 tokens correspond to roughly 60-80 words.Specify a lower value for shorter responses and a higher value for potentially longer responses.
</li> <li>**Add stop sequence**: Optional. Enter a stop sequence, which is a series of characters that includes spaces. If the model encounters a stop sequence, the response generation stops. The stop sequence isn't included in the response, and you can add up to five stop sequences.</li> </ul>
Klik Sisipkan Media, lalu pilih sumber untuk file Anda.
Upload
Pilih file yang ingin Anda upload, lalu klik Buka.
Melalui URL
Masukkan URL file yang ingin Anda gunakan, lalu klik Sisipkan.
Cloud Storage
Pilih bucket, lalu pilih file dari bucket yang ingin Anda impor, lalu klik Pilih.
Google Drive
- Pilih akun dan berikan izin kepada Vertex AI Studio untuk mengakses akun Anda saat pertama kali Anda memilih opsi ini. Anda dapat mengupload beberapa file yang memiliki total ukuran hingga 10 MB. Satu file tidak boleh melebihi 7 MB.
- Klik file yang ingin Anda tambahkan.
Klik Pilih.
Thumbnail file ditampilkan di panel Perintah. Jumlah total token juga ditampilkan. Jika data perintah Anda melebihi batas token, token akan terpotong dan tidak disertakan dalam pemrosesan data Anda.
Masukkan perintah teks Anda di panel Perintah.
Opsional: Untuk melihat ID token ke teks dan ID token, klik jumlah token di panel Perintah.
Klik Kirim.
Opsional: Untuk menyimpan perintah Anda ke Perintah saya, klik Simpan.
Opsional: Untuk mendapatkan kode Python atau perintah curl untuk perintah Anda, klik Build with code > Get code.
Menetapkan parameter model opsional
Setiap model memiliki serangkaian parameter opsional yang dapat Anda tetapkan. Untuk mengetahui informasi selengkapnya, lihat Parameter pembuatan konten.
Tokenisasi dokumen
Tokenisasi PDF
PDF diperlakukan sebagai gambar, sehingga setiap halaman PDF di-tokenisasi dengan cara yang sama seperti gambar.
Selain itu, biaya untuk PDF mengikuti harga gambar Gemini. Misalnya, jika Anda menyertakan PDF dua halaman dalam panggilan Gemini API, Anda akan dikenai biaya input untuk memproses dua gambar.
Praktik terbaik PDF
Saat menggunakan PDF, gunakan praktik terbaik dan informasi berikut untuk mendapatkan hasil terbaik:
- Jika perintah Anda berisi satu PDF, tempatkan PDF sebelum perintah teks dalam permintaan Anda.
- Jika Anda memiliki dokumen yang panjang, pertimbangkan untuk membaginya menjadi beberapa PDF untuk memprosesnya.
- Gunakan PDF yang dibuat dengan teks yang dirender sebagai teks, bukan menggunakan teks dalam gambar yang dipindai. Format ini memastikan teks dapat dibaca oleh mesin sehingga model lebih mudah mengedit, menelusuri, dan memanipulasi teks dibandingkan dengan PDF gambar yang dipindai. Praktik ini memberikan hasil yang optimal saat bekerja dengan dokumen yang berisi banyak teks seperti kontrak.
Batasan
Meskipun model multimodal Gemini sangat efektif dalam banyak kasus penggunaan multimodal, penting untuk memahami batasan model ini:
- Penalaran spasial: Model tidak akurat dalam menemukan teks atau objek dalam PDF. Objek tersebut hanya dapat menampilkan perkiraan jumlah objek.
- Akurasi: Model mungkin berhalusinasi saat menafsirkan teks tulisan tangan dalam dokumen PDF.
Langkah berikutnya
- Mulai membangun dengan model multimodal Gemini - pelanggan baru mendapatkan kredit gratis senilai $300 Google Cloud untuk menjelajahi kemampuan Gemini.
- Pelajari cara mengirim permintaan prompt chat.
- Pelajari praktik terbaik responsible AI dan filter keamanan Vertex AI.