אפשר לראות את השעה שבה נוצר מטמון ההקשר, השעה שבה הוא עודכן לאחרונה והשעה שבה הוא יפוג. כדי לקבל מידע על כל מטמון הקשר שמשויך לפרויקט Google Cloud , כולל מזהי המטמון, משתמשים בפקודה להצגת רשימה של מטמוני הקשר. אם אתם יודעים את מזהה המטמון של מטמון הקשר, תוכלו לקבל מידע רק על מטמון ההקשר הזה.
קבלת רשימה של מטמוני הקשר
כדי לקבל רשימה של מטמוני ההקשר שמשויכים לפרויקט Google Cloud , צריך את האזור שבו יצרתם את הפרויקט Google Cloud ואת המזהה שלו. בדוגמה הבאה מוצגות הוראות לאחזור רשימה של מטמוני הקשר עבור Google Cloud פרויקט.
Python
התקנה
pip install --upgrade google-genai
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Go
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Java
כך מתקינים או מעדכנים את Java.
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Node.js
התקנה
npm install @google/genai
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
REST
בדוגמה הבאה מוצג אופן השימוש ב-REST כדי להציג רשימה של מטמוני ההקשר שמשויכים לפרויקט Google Cloud , על ידי שליחת בקשת GET לנקודת הקצה של מודל בעל תוכן דיגיטלי.
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
- PROJECT_ID: [מזהה הפרויקט](/resource-manager/docs/creating-managing-projects#identifiers). .
- LOCATION: האזור שבו הבקשות ליצירת מטמוני ההקשר עובדו.
ה-method של ה-HTTP וכתובת ה-URL:
GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents
כדי לשלוח את הבקשה אתם צריכים לבחור אחת מהאפשרויות הבאות:
curl
מריצים את הפקודה הבאה:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents"
PowerShell
מריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents" | Select-Object -Expand Content
אתם אמורים לקבל תגובת JSON שדומה לזו:
דוגמה לפקודת curl
LOCATION="us-central1"
PROJECT_ID="PROJECT_ID"
curl \
-X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents
קבלת מידע על מטמון הקשר
כדי לקבל מידע על מטמון הקשר מסוים, צריך את מזהה המטמון, אתGoogle Cloud מזהה הפרויקט שאליו משויך מטמון ההקשר ואת האזור שבו טופלה הבקשה ליצירת מטמון ההקשר. מזהה המטמון של מטמון ההקשר מוחזר כשיוצרים את מטמון ההקשר. אפשר גם לאתר את מזהה המטמון של כל מטמון הקשר שמשויך לפרויקט באמצעות הפקודה context cache list.
בדוגמה הבאה אפשר לראות איך מקבלים מידע על מטמון הקשר אחד.
Go
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Go במדריך לתחילת העבודה עם Gemini Enterprise Agent Platform. מידע נוסף זמין במאמרי העזרה של Go SDK for Gemini בנושא Gemini Enterprise Agent Platform.
כדי לבצע אימות ב-Gemini Enterprise Agent Platform, צריך להגדיר את Application Default Credentials. מידע נוסף זמין במאמר הגדרת ADC לסביבת פיתוח מקומית.
תשובות שמוצגות באופן שוטף ותשובות שלא מוצגות באופן שוטף
אתם יכולים לבחור אם המודל ייצור תשובות בשידור חי או תשובות לא בשידור חי. במקרה של הצגת תשובות באופן שוטף, מקבלים כל תשובה ברגע שנוצר טוקן הפלט שלה. בתשובות שלא מוצגות באופן שוטף, מקבלים את כל התשובות אחרי שכל טוקני הפלט נוצרים.
כדי לקבל תשובה בסטרימינג, משתמשים בשיטה
GenerateContentStream.
iter := model.GenerateContentStream(ctx, genai.Text("Tell me a story about a lumberjack and his giant ox. Keep it very short."))
כדי לקבל תשובה שלא מועברת בסטרימינג, משתמשים בשיטה GenerateContent.
resp, err := model.GenerateContent(ctx, genai.Text("What is the average size of a swallow?"))
קוד לדוגמה
REST
בדוגמה הבאה מוצג אופן השימוש ב-REST כדי להציג רשימה של מטמוני ההקשר שמשויכים לפרויקט Google Cloud , על ידי שליחת בקשת GET לנקודת הקצה של מודל בעל תוכן דיגיטלי.
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
- PROJECT_ID: .
- LOCATION: האזור שבו הבקשה ליצירת מטמון ההקשר עובדה.
- CACHE_ID: המזהה של מטמון ההקשר. מזהה מטמון ההקשר מוחזר כשיוצרים את מטמון ההקשר. אפשר גם למצוא מזהים של מטמון הקשר על ידי הצגת רשימת מטמון ההקשר של פרויקט Google Cloud . מידע נוסף זמין במאמרים בנושא יצירת מטמון הקשר ורשימת מטמוני הקשר.
ה-method של ה-HTTP וכתובת ה-URL:
GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents/CACHE_ID
כדי לשלוח את הבקשה אתם צריכים לבחור אחת מהאפשרויות הבאות:
curl
מריצים את הפקודה הבאה:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents/CACHE_ID"
PowerShell
מריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/cachedContents/CACHE_ID" | Select-Object -Expand Content
אתם אמורים לקבל תגובת JSON שדומה לזו:
דוגמה לפקודת curl
LOCATION="us-central1"
PROJECT_ID="PROJECT_ID"
CACHE_ID="CACHE_ID"
curl \
-X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/${CACHE_ID}