תשלום לפי שימוש בעדיפות גבוהה

תשלום לפי שימוש עם עדיפות (Priority PayGo) הוא אפשרות צריכה שמספקת ביצועים עקביים יותר מאשר תשלום לפי שימוש רגיל (Standard PayGo), בלי ההתחייבות מראש של הקצאת משאבים לפי התפוקה שנקבעה.

כשמשתמשים בשיטת התשלום 'תשלום לפי שימוש' עם עדיפות, החיוב הוא לפי השימוש בטוקנים, והתעריף גבוה יותר מאשר בשיטת התשלום הרגילה 'תשלום לפי שימוש'. מידע על התמחור זמין בדף המחירון של Gemini Enterprise Agent Platform.

מתי כדאי להשתמש ב-PayGo בעדיפות גבוהה

תשלום לפי שימוש בעדיפות מתאים במיוחד לעומסי עבודה קריטיים לעסק עם דפוסי תנועה משתנים או בלתי צפויים. הנה כמה תרחישים לדוגמה:

  • עוזרים וירטואליים שפונים ללקוחות
  • תהליכי עבודה מבוססי-סוכנים ואינטראקציות בין סוכנים
  • סימולציות מחקר

מודלים ומיקומים נתמכים

המודלים הבאים תומכים בתשלום לפי שימוש בעדיפות רק בנקודת הקצה global. תשלום לפי שימוש עם עדיפות לא תומך בנקודות קצה אזוריות או רב-אזוריות.

שימוש ב-Priority PayGo

כדי לשלוח בקשות ל-Gemini API באמצעות תשלום לפי שימוש עם עדיפות, צריך לכלול את הכותרת X-Vertex-AI-LLM-Shared-Request-Type בבקשה. יש שתי דרכים להשתמש ב-Priority PayGo:

  • שימוש במכסת התפוקה שהוקצתה (אם זמינה) ומעבר לשיטת התשלום לפי שימוש עם עדיפות.

  • שימוש רק ב-Priority PayGo.

שימוש ב-Priority PayGo כש-Provisioned Throughput מוגדר כברירת מחדל

כדי לנצל את מכסת הקצאת המשאבים לפי התפוקה שנקבעה הזמינה לפני השימוש ב-Priority PayGo, צריך לכלול את הכותרת X-Vertex-AI-LLM-Shared-Request-Type: priority בבקשות, כמו בדוגמאות הבאות.

Python

התקנה

pip install --upgrade google-genai

מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.

מגדירים משתני סביבה כדי להשתמש ב-Google Gen AI SDK עם Vertex AI: 

# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values
# with appropriate values for your project.
export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT
export GOOGLE_CLOUD_LOCATION=global
export GOOGLE_GENAI_USE_ENTERPRISE=True

מאותחלים את לקוח ה-AI הגנרטיבי כדי להשתמש בתשלום לפי שימוש עם עדיפות. אחרי שמבצעים את השלב הזה, לא צריך לבצע התאמות נוספות בקוד כדי ליצור אינטראקציה עם Gemini API באמצעות תשלום לפי שימוש עם עדיפות באותו לקוח.

from google import genai
from google.genai.types import HttpOptions
client = genai.Client(
  vertexai=True, project='your_project_id', location='global',
  http_options=HttpOptions(
    api_version="v1",
      headers={
        "X-Vertex-AI-LLM-Shared-Request-Type": "priority"
      },
  )
)

REST

אחרי שמגדירים את הסביבה, אפשר להשתמש ב-REST כדי לבדוק פרומפט טקסטואלי. הדוגמה הבאה שולחת בקשה לנקודת הקצה של מודל בעל התוכן הדיגיטלי.

לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:

  • ‫PROJECT_ID: [מזהה הפרויקט](/resource-manager/docs/creating-managing-projects#identifiers). .
  • ‫MODEL_ID: מזהה המודל של המודל שרוצים להפעיל עבורו את התשלום לפי שימוש עם עדיפות. רשימת הדגמים שתומכים בתשלום לפי שימוש עם עדיפות זמינה במאמר גרסאות של מודלים.
  • PROMPT_TEXT: ההנחיות לטקסט שצריך לכלול בהנחיה. ‫JSON.
curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json; charset=utf-8" \
  -H "X-Vertex-AI-LLM-Shared-Request-Type: priority" \
  "https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/MODEL_ID:generateContent" -d \
  $'{
      "contents": {
        "role": "model",
        "parts": { "text": "PROMPT_TEXT" }
    }
  }'

אתם אמורים לקבל תגובת JSON שדומה לזו:

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "Response to sample request."
          }
        ]
      },
      "finishReason": "STOP"
    }
  ],
  "usageMetadata": {
    "promptTokenCount": 3,
    "candidatesTokenCount": 900,
    "totalTokenCount": 1957,
    "trafficType": "ON_DEMAND_PRIORITY",
    "thoughtsTokenCount": 1054
  }
}
  • משתמשים בשיטה generateContent כדי לבקש שהתשובה תוחזר אחרי שהיא נוצרה במלואה. כדי לצמצם את תפיסת זמן האחזור בקרב קהל אנושי, אפשר להזרים את התשובה בזמן שהיא נוצרת באמצעות השיטה streamGenerateContent.
  • מזהה המודל הרב-אופני מופיע בסוף כתובת ה-URL לפני השיטה (לדוגמה, gemini-3.5-flash). יכול להיות שהדוגמה הזו תתמוך גם במודלים אחרים.

שימוש רק ב-Priority PayGo

כדי להשתמש רק בשיטת התשלום PayGo עם עדיפות, צריך לכלול בבקשות את הכותרות X-Vertex-AI-LLM-Request-Type: shared ו-X-Vertex-AI-LLM-Shared-Request-Type: priority, כמו בדוגמאות הבאות.

Python

התקנה

pip install --upgrade google-genai

מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.

מגדירים משתני סביבה כדי להשתמש ב-Google Gen AI SDK עם Vertex AI: 

# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values
# with appropriate values for your project.
export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT
export GOOGLE_CLOUD_LOCATION=global
export GOOGLE_GENAI_USE_ENTERPRISE=True

מאותחלים את לקוח ה-AI הגנרטיבי כדי להשתמש בתשלום לפי שימוש עם עדיפות. אחרי שמבצעים את השלב הזה, לא צריך לבצע התאמות נוספות בקוד כדי ליצור אינטראקציה עם Gemini API באמצעות תשלום לפי שימוש עם עדיפות באותו לקוח.

from google import genai
from google.genai.types import HttpOptions
client = genai.Client(
  vertexai=True, project='your_project_id', location='global',
  http_options=HttpOptions(
    api_version="v1",
      headers={
        "X-Vertex-AI-LLM-Request-Type": "shared",
        "X-Vertex-AI-LLM-Shared-Request-Type": "priority"
      },
  )
)

REST

לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:

  • ‫PROJECT_ID: [מזהה הפרויקט](/resource-manager/docs/creating-managing-projects#identifiers). .
  • ‫MODEL_ID: מזהה המודל של המודל שרוצים להפעיל עבורו את התשלום לפי שימוש עם עדיפות. רשימת הדגמים שתומכים בתשלום לפי שימוש עם עדיפות זמינה במאמר גרסאות של מודלים.
  • PROMPT_TEXT: ההנחיות לטקסט שצריך לכלול בהנחיה. ‫JSON.
curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json; charset=utf-8" \
  -H "X-Vertex-AI-LLM-Request-Type: shared" \
  -H "X-Vertex-AI-LLM-Shared-Request-Type: priority" \
  "https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/MODEL_ID:generateContent" -d \
  $'{
      "contents": {
        "role": "model",
        "parts": { "text": "PROMPT_TEXT" }
    }
  }'

אתם אמורים לקבל תגובת JSON שדומה לזו:

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "Response to sample request."
          }
        ]
      },
      "finishReason": "STOP"
    }
  ],
  "usageMetadata": {
    "promptTokenCount": 3,
    "candidatesTokenCount": 900,
    "totalTokenCount": 1957,
    "trafficType": "ON_DEMAND_PRIORITY",
    "thoughtsTokenCount": 1054
  }
}
  • משתמשים בשיטה generateContent כדי לבקש שהתשובה תוחזר אחרי שהיא נוצרה במלואה. כדי לצמצם את תפיסת זמן האחזור בקרב קהל אנושי, אפשר להזרים את התשובה בזמן שהיא נוצרת באמצעות השיטה streamGenerateContent.
  • מזהה המודל הרב-אופני מופיע בסוף כתובת ה-URL לפני השיטה (לדוגמה, gemini-3.5-flash). יכול להיות שהדוגמה הזו תתמוך גם במודלים אחרים.

אימות השימוש ב-PayGo בעדיפות גבוהה

כדי לבדוק אם הבקשה השתמשה בתשלום לפי שימוש עם עדיפות, אפשר לעיין בתשובה ולחפש את סוג התנועה, כמו בדוגמאות הבאות.

Python

אפשר לבדוק אם נעשה שימוש ב-Priority PayGo לבקשה מהשדה traffic_type בתשובה. אם הבקשה שלכם עובדה באמצעות PayGo עם עדיפות, הערך של השדה traffic_type הוא ON_DEMAND_PRIORITY.

sdk_http_response=HttpResponse(
  headers=<dict len=9>
) candidates=[Candidate(
  avg_logprobs=-0.539712212302468,
  content=Content(
    parts=[
      Part(
        text="""Response to sample request.
        """
      ),
    ],
    role='model'
  ),
  finish_reason=<FinishReason.STOP: 'STOP'>
)] create_time=datetime.datetime(2025, 12, 3, 20, 32, 55, 916498, tzinfo=TzInfo(0)) model_version='gemini-2.5-flash' prompt_feedback=None response_id='response_id' usage_metadata=GenerateContentResponseUsageMetadata(
  candidates_token_count=1408,
  candidates_tokens_details=[
    ModalityTokenCount(
      modality=<MediaModality.TEXT: 'TEXT'>,
      token_count=1408
    ),
  ],
  prompt_token_count=5,
  prompt_tokens_details=[
    ModalityTokenCount(
      modality=<MediaModality.TEXT: 'TEXT'>,
      token_count=5
    ),
  ],
  thoughts_token_count=1356,
  total_token_count=2769,
  traffic_type=<TrafficType.ON_DEMAND_PRIORITY: 'ON_DEMAND_PRIORITY'>
) automatic_function_calling_history=[] parsed=None

REST

אפשר לבדוק אם נעשה שימוש ב-Priority PayGo לבקשה מהשדה trafficType בתשובה. אם הבקשה שלכם עובדה באמצעות PayGo עם עדיפות, הערך של השדה trafficType הוא ON_DEMAND_PRIORITY.

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "Response to sample request."
          }
        ]
      },
      "finishReason": "STOP"
    }
  ],
  "usageMetadata": {
    "promptTokenCount": 3,
    "candidatesTokenCount": 900,
    "totalTokenCount": 1957,
    "trafficType": "ON_DEMAND_PRIORITY",
    "thoughtsTokenCount": 1054
  }
}

מגבלות על העלאת נפח התנועה

ב-Priority PayGo, מגבלות ההגדלה מוגדרות ברמת הארגון. הגבלות על תקופת ההרצה עוזרות לספק ביצועים צפויים ועקביים. המגבלה ההתחלתית תלויה במודל, באופן הבא:

  • ‫Gemini Flash ו-Flash-Lite: 4 מיליון טוקנים בדקה.
  • מודלים של Gemini Pro: מיליון טוקנים לדקה.

מגבלת העלייה ההדרגתית גדלה ב-50% לכל 10 דקות של שימוש רציף.

אם בקשה חורגת ממגבלת ההדרגה או שהמערכת חורגת זמנית מהקיבולת שלה בגלל עומסי תנועה גבוהים, יכול להיות שהבקשה תסווג מחדש כבקשת Standard PayGo ותחויב לפי התעריפים של Standard PayGo.

כדי למזער את השדרוגים לאחור, מומלץ להגדיל את השימוש בהדרגה כדי לא לחרוג מהמגבלה. אם אתם עדיין צריכים ביצועים טובים יותר, כדאי לקנות מכסת Provisioned Throughput נוספת.

אפשר לבדוק אם הבקשה שודרגה מהתשובה. בבקשות ששודרגו לאחור לשיטת התשלום הרגילה לפי שימוש, סוג התנועה מוגדר כ-ON_DEMAND. מידע נוסף זמין במאמר אימות השימוש ב-PayGo עם עדיפות.

המאמרים הבאים