אפשר לראות את השעה שבה נוצר מטמון ההקשר, השעה שבה הוא עודכן לאחרונה והשעה שבה הוא יפוג. כדי לקבל מידע על כל מטמון הקשר שמשויך לפרויקט Google Cloud , כולל מזהי המטמון, משתמשים בפקודה להצגת רשימת מטמוני ההקשר. אם אתם יודעים את מזהה המטמון של מטמון הקשר, תוכלו לקבל מידע רק על מטמון הקשר הזה.
איך מקבלים רשימה של מטמוני הקשר
כדי לקבל רשימה של מטמוני ההקשר שמשויכים לפרויקט Google Cloud , צריך את האזור שבו יצרתם את הפרויקט ואת המזהה של הפרויקט Google Cloud . בדוגמה הבאה מוצגות הוראות לקבלת רשימה של מטמוני הקשר עבור פרויקט Google Cloud .
Python
התקנה
pip install --upgrade google-genai
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
Go
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
Java
כך מתקינים או מעדכנים את Java.
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
Node.js
התקנה
npm install @google/genai
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
REST
בדוגמה הבאה מוצג אופן השימוש ב-REST כדי להציג רשימה של מטמוני ההקשר שמשויכים לפרויקט Google Cloud , על ידי שליחת בקשת GET לנקודת הקצה של מודל בעל התוכן הדיגיטלי.
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
- PROJECT_ID: מזהה הפרויקט.
- LOCATION: האזור שבו הבקשות ליצירת מטמוני ההקשר עובדו.
ה-method של ה-HTTP וכתובת ה-URL:
GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents
כדי לשלוח את הבקשה אתם צריכים לבחור אחת מהאפשרויות הבאות:
curl
מריצים את הפקודה הבאה:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents"
PowerShell
מריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents" | Select-Object -Expand Content
אתם אמורים לקבל תגובת JSON שדומה לזו:
דוגמה לפקודת curl
LOCATION="us-central1"
PROJECT_ID="PROJECT_ID"
curl \
-X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents
קבלת מידע על מטמון הקשר
כדי לקבל מידע על מטמון הקשר מסוים, צריך את מזהה המטמון, אתGoogle Cloud מזהה הפרויקט שאליו משויך מטמון ההקשר ואת האזור שבו הבקשה ליצירת מטמון ההקשר עובדה. מזהה המטמון של מטמון ההקשר מוחזר כשיוצרים את מטמון ההקשר. אפשר גם לאתר את מזהה המטמון של כל מטמון הקשר שמשויך לפרויקט באמצעות הפקודה context cache list.
בדוגמה הבאה אפשר לראות איך מקבלים מידע על מטמון הקשר אחד.
Go
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Go במאמר Vertex AI quickstart. למידע נוסף, תוכלו לקרוא את מאמרי העזרה בנושא Vertex AI Go SDK for Gemini.
כדי לבצע אימות ב-Vertex AI, צריך להגדיר את Application Default Credentials. מידע נוסף זמין במאמר הגדרת ADC לסביבת פיתוח מקומית.
תשובות שמוצגות באופן שוטף ותשובות שלא מוצגות באופן שוטף
אתם יכולים לבחור אם המודל ייצור תשובות בסטרימינג או תשובות לא בסטרימינג. כשמפעילים את הצגת התשובות באופן שוטף, מקבלים כל תשובה ברגע שנוצר טוקן הפלט שלה. בתשובות שלא מוצגות באופן שוטף, מקבלים את כל התשובות אחרי שכל טוקני הפלט נוצרים.
כדי לקבל תשובה בסטרימינג, משתמשים בשיטה
GenerateContentStream.
iter := model.GenerateContentStream(ctx, genai.Text("Tell me a story about a lumberjack and his giant ox. Keep it very short."))
כדי לקבל תשובה שלא מועברת בסטרימינג, משתמשים בשיטה GenerateContent.
resp, err := model.GenerateContent(ctx, genai.Text("What is the average size of a swallow?"))
קוד לדוגמה
REST
בדוגמה הבאה מוצג אופן השימוש ב-REST כדי להציג רשימה של מטמוני ההקשר שמשויכים לפרויקט Google Cloud , על ידי שליחת בקשת GET לנקודת הקצה של מודל בעל התוכן הדיגיטלי.
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
- PROJECT_ID: .
- LOCATION: האזור שבו הבקשה ליצירת מטמון ההקשר עובדה.
- CACHE_ID: המזהה של מטמון ההקשר. מזהה מטמון ההקשר מוחזר כשיוצרים את מטמון ההקשר. אפשר גם למצוא מזהים של מטמון הקשר על ידי הצגת רשימת מטמון ההקשר של פרויקט Google Cloud . מידע נוסף זמין במאמרים בנושא יצירת מטמון הקשר ורשימת מטמוני הקשר.
ה-method של ה-HTTP וכתובת ה-URL:
GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents/CACHE_ID
כדי לשלוח את הבקשה אתם צריכים לבחור אחת מהאפשרויות הבאות:
curl
מריצים את הפקודה הבאה:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents/CACHE_ID"
PowerShell
מריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents/CACHE_ID" | Select-Object -Expand Content
אתם אמורים לקבל תגובת JSON שדומה לזו:
דוגמה לפקודת curl
LOCATION="us-central1"
PROJECT_ID="PROJECT_ID"
CACHE_ID="CACHE_ID"
curl \
-X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/${CACHE_ID}