‫Gemini Enterprise Agent Platform ושמירת נתונים אפס

‫Google הייתה הראשונה בתחום שפרסמה התחייבות לשמירה על פרטיות ב-AI/ML, שבה מפורטת האמונה שלנו שללקוחות צריכה להיות רמת האבטחה והשליטה הגבוהה ביותר בנתונים שלהם שמאוחסנים בענן. המחויבות הזו חלה גם על מוצרי ה-AI הגנרטיבי של Google Cloud. ‫Google מוודאת שהצוותים שלה פועלים בהתאם להתחייבויות האלה באמצעות שיטות קפדניות של משילות מידע (data governance), שכוללות בדיקות של הנתונים ש- Google Cloud משתמשת בהם בפיתוח המוצרים שלה. פרטים נוספים על האופן שבו Google מעבדת נתונים זמינים גם בנספח לעיבוד נתונים ב-Cloud ‏(CDPA) של Google.

הגבלות אימון

כמו שמפורט בקטע "הגבלת אימון" בתנאי השירות הספציפיים לשירות, Google לא תשתמש בנתונים שלכם כדי לאמן או לשפר מודלים של AI או ML בלי לקבל אישור מראש או הוראה מכם. ההגדרה הזו חלה על כל המודלים המנוהלים ב-Gemini Enterprise Agent Platform, כולל מודלים בגרסת GA ובגרסת טרום-GA.

שמירת נתוני לקוחות והשגת אפס שמירת נתונים

נתוני הלקוחות נשמרים ב-Gemini Enterprise Agent Platform למודלים כשירות (MaaS) לפרקי זמן מוגבלים בתרחישים ובתנאים הבאים. כדי להגיע למצב של אפס שמירת נתונים, הלקוחות צריכים לבצע פעולות ספציפיות בכל אחד מהתחומים הבאים:

  • רישום הנחיות ביומן למעקב אחרי ניצול לרעה במודלים של Google: כמו שמפורט בסעיף 4.3 "בטיחות וניצול לרעה ב-AI גנרטיבי" בתנאים ובהגבלות של Google Cloud Platform, ‏Google עשויה לתעד הנחיות ביומן כדי לזהות ניצול לרעה והפרות של מדיניות השימוש המקובל והמדיניות בנושא שימוש אסור, כחלק מהשירותים של AI גנרטיבי שהיא מספקת ללקוחות. רק לקוחות שהשימוש שלהם ב- Google Cloud כפוף לתנאים ולהגבלות של Google Cloud Platform, כפופים לרישום הנחיות ביומן לצורך מעקב אחרי ניצול לרעה.

  • רישום ביומן של הנחיות ותשובות לצורך מעקב אחרי ניצול לרעה במודלים מתקדמים של AI: יכול להיות שגם מודלים או תכונות מסוימים יהיו כפופים לרישום נוסף ביומן של הנחיות ותשובות כדי למנוע ניצול לרעה, כפי שמתואר בנספח הבטיחות של Advanced AI. יכול להיות שלא תהיה אפשרות להגדיר אפס שמירת נתונים כשמשתמשים בתכונות מסוימות של Advanced AI. לקבלת הבהרות, אפשר לפנות לצוות ניהול החשבון. מידע נוסף זמין במאמר מעקב אחרי התנהלות פוגעת.

  • ביסוס בעזרת חיפוש Google: כמו שמפורט בסעיף 20, "שירותי AI גנרטיבי: ביסוס בעזרת חיפוש Google", בתנאים הספציפיים לשירות, Google אוספת ושומרת יומנים שמכילים את נתוני הלקוחות הבאים: שאילתות שנגזרות מהנחיות של משתמשי קצה ומידע לפי הקשר שהלקוח עשוי לספק יחד עם ההנחיות, שלא משויכות לאף לקוח או למשתמשי הקצה שלו, למשך עד שלושה (3) ימים. המידע השמור הזה עשוי לשמש לניפוי באגים במערכות שתומכות בביסוס בעזרת חיפוש Google. אם אתם משתמשים ב"עיגון באמצעות חיפוש Google", אין דרך להשבית את אחסון המידע הזה. אם אתם צריכים אפס שמירת נתונים, מומלץ להשתמש ב-Web Grounding for Enterprise.

  • עיגון בעזרת מפות Google: כמו שמפורט בסעיף 20 "שירותי AI גנרטיבי: עיגון בעזרת מפות Google" בתנאים הספציפיים לשירות, Google שומרת למשך שלושים (30) ימים הנחיות ומידע לפי הקשר שהלקוחות מספקים, וגם פלט שנוצר, כדי ליצור תוצאות מעוגנות. המידע השמור הזה משמש רק להנדסת אמינות, כמו ניפוי באגים במקרה של בעיות בשירות, של מערכות שתומכות בעיגון בעזרת מפות Google. אין דרך להשבית את אחסון המידע הזה אם משתמשים בעיגון בעזרת מפות Google.

  • רישום ביומן של בקשות ותגובות: התכונה הזו מושבתת כברירת מחדל. אפשר להפעיל אותה באמצעות הגדרה אישית לכל מודל ולכל פרויקט. הפעלת הרישום ביומן גורמת לכתיבה של בקשות ותשובות מסוימות למודל שצוין בטבלה ייעודית ב-BigQuery. כדי לא לשמור נתונים בכלל, אל תפעילו את התכונה הזו. במאמר רישום בקשות ותגובות ביומן מוסבר איך להפעיל או להשבית את התכונה הזו, ואיך לקרוא את הגדרת התצורה הנוכחית.

  • ‫Interactions API: כשמשתמשים ב-Interactions API עם store = true, Google שומרת את נתוני המשתמשים (כמו הנחיות, תשובות ומצב השיחה) כדי לאפשר שיחות בכמה שלבים ואחזור בשלב מאוחר יותר. אם לא מציינים ערך ל-store, ברירת המחדל היא true לכל המודלים. כדי להגדיר אפס שמירת נתונים, צריך להגדיר במפורש את store = false בבקשות ה-API.

ההגדרה הזו חלה על כל המודלים המנוהלים ב-Gemini Enterprise Agent Platform, כולל מודלים בגרסת GA ובגרסת טרום-GA.

מוצרים של סוכנים

כדי להגיע למצב שבו לא נשמרים נתונים במוצרי הסוכן, הלקוחות צריכים לעמוד בתנאים ובלוחות הזמנים הבאים לשמירת נתונים בכל מוצר:

  • נתוני הסשן של CodeMender – כדי לאפשר המשך של סריקות ארוכות לאיתור ותיקון, CodeMender שומר את מצב הסשן ב-Spanner. בזמן שהסריקה מתבצעת, נתוני הסשן – כולל קטעי קוד מקור של היעד, הבדלים, הגדרות ונקודות ביקורת של ניתוח – נשמרים בצורה מוצפנת למשך עד שבעה (7) ימים ממועד יצירת הסשן. כשהסשן מגיע למצב סיום, קוד המקור והתוכן שקשור אליו נמחקים תוך כמה שניות. רשומת הסשן שנותרה נמחקת באופן אוטומטי אחרי 7 ימים. הלקוחות יכולים למחוק סשן (ולהסיר את כל הנתונים שמשויכים אליו) לפני שתוקף ה-TTL פג.

  • נתוני סשן של סוכן Deep Research – Google שומרת הנחיות ונתוני סשן, כולל תוצאות חיפוש ותמונות שנוצרו, באמצעות Interactions API למשך שבעה (7) ימים. נתוני הסשן מוצפנים במנוחה ונמחקים אוטומטית בסוף תקופת ה-TTL של שבעה ימים. הלקוחות יכולים למחוק סשן (ולהסיר את כל הנתונים שמשויכים אליו) לפני שתוקף ה-TTL פג. אי אפשר להשבית את התכונה הזו כשמשתמשים בסוכן Deep Research.

  • תמונות מצב של Agent Platform Sandbox: אם אתם משתמשים ב-Snapshot API כדי לשמור את המצב של Sandbox, תמונות המצב האלה נשמרות רק למשך הזמן של Sandbox TTL. כדי להגיע למצב של אפס שמירת נתונים, אל תשתמשו ב-Sandbox API.

המודלים של Google

כדי להגיע למצב שבו לא נשמרים נתונים במודלים שאומנו על ידי Google, הלקוחות צריכים לבצע פעולות ספציפיות נוספות בכל אחד מהתחומים הבאים:

המשך סשן ב-Gemini Live API

המשך הסשן ב-Gemini Live API מושבת כברירת מחדל. המשתמש צריך להפעיל אותה בכל פעם שהוא שולח קריאה ל-API, על ידי ציון השדה בבקשת ה-API. בנוסף, הפרטיות ברמת הפרויקט נאכפת על נתונים שנשמרו במטמון. הפעלת התכונה "המשך הסשן" מאפשרת למשתמש להתחבר מחדש לסשן קודם תוך 24 שעות. לשם כך, המערכת שומרת נתונים במטמון, כולל נתוני הנחיות בטקסט, בווידאו ובאודיו ופלט מהמודל, למשך עד 24 שעות. כדי להגיע למצב של אפס שמירת נתונים, אל תפעילו את התכונה הזו. מידע נוסף על התכונה הזו, כולל איך להפעיל אותה, זמין במאמר Gemini Live API.

שמירת נתונים במטמון באופן מרומז

כברירת מחדל, מודלי Gemini ש-Google מפרסמת שומרים במטמון את נתוני הלקוחות כדי לצמצם את זמן האחזור ולהאיץ את התגובות. שמירה במטמון באופן משתמע משתמשת בשתי רמות אחסון:

  • שמירה במטמון בזיכרון: מופעלת כברירת מחדל במודלים נתמכים של Gemini.
  • שמירה במטמון לטווח ארוך: מופעלת כברירת מחדל במודלים נתמכים של Gemini. רשימת המודלים הנתמכים מופיעה במאמר סקירה כללית על שמירת הקשר במטמון.

שמירת נתונים במטמון בזיכרון

במטמון משתמע, נתוני הלקוחות (קלט, פלט ונתונים נגזרים) נשמרים בזיכרון. לנתונים ששמורים במטמון בזיכרון יש את המאפיינים הבאים:

  • הוא מאוחסן רק בזיכרון, לא במצב מנוחה.
  • הוא מוגבל לפרויקט שלכם ואף פעם לא מועבר לפרויקט אחר.
  • הוא נמחק תוך 24 שעות מרגע הכתיבה.
  • הוא מעובד באזור שבו הבקשה מטופלת.
  • הוא משמש רק כדי לטפל בבקשות שלכם מהר יותר, ואף פעם לא משמש לאימון או לכוונון של מודלים.

שמירת נתונים במטמון לטווח ארוך

במודלים שתומכים בשמירה במטמון עמיד, כשקיבולת המטמון בזיכרון נגמרת, Google שומרת את נתוני המטמון הנגזרים (ייצוגים של ערכי מפתח שמחושבים מהקלט שלכם) באחסון עמיד בסביבת השירות של פלטפורמת הסוכנים. לנתונים שנשמרו במטמון עמיד יש את המאפיינים הבאים:

  • הוא מאוחסן במנוחה ומוצפן באמצעות הצפנת ברירת המחדל של Google.
  • הוא מוגבל לפרויקט שלכם ואף פעם לא מועבר לפרויקט אחר.
  • הוא נמחק תוך 24 שעות מרגע הכתיבה, ולעיתים קרובות עוד לפני כן.
  • כשמשתמשים בנקודת קצה אזורית או במספר אזורים, הנתונים נשארים במיקום שנבחר ועומדים בדרישות של מיקום אחסון הנתונים. כשמשתמשים בנקודת הקצה הגלובלית, אפשר להעביר בקשות ואת הנתונים שלהן שנשמרו במטמון מכל אזור.
  • הוא משמש רק כדי לטפל בבקשות שלכם מהר יותר, ואף פעם לא משמש לאימון או לכוונון של מודלים.

מפתחות הצפנה בניהול הלקוח (CMEK) לא נתמכים בשמירה במטמון לטווח ארוך.

שליטה בשמירת נתונים במטמון

אם המדיניות של הארגון לא מאפשרת לאחסן נתוני לקוחות במצב מנוחה, אתם יכולים להשבית את השמירה במטמון לטווח ארוך בכל פרויקט בנפרד ולהמשיך לשמור במטמון בזיכרון. אפשר גם להשבית את השמירה במטמון לחלוטין. כדי להשבית את השמירה במטמון לטווח ארוך בכל הארגון ולא ברמת הפרויקט, פנו לצוות ניהול החשבון.

הפעלה והשבתה של שמירת נתונים במטמון

אתם יכולים להשתמש בפקודות ה-curl הבאות כדי לקבל את סטטוס השמירה במטמון, להשבית את השמירה במטמון, להפעיל מחדש את השמירה במטמון או להשבית ולהפעיל את השמירה במטמון לטווח ארוך. השבתת השמירה במטמון משביתה גם את השמירה במטמון בזיכרון וגם את השמירה במטמון עמיד. כשמשביתים או מפעילים מחדש את השמירה במטמון, השינוי חל על כל האזורים של Google Cloud . במאמר בקרת גישה באמצעות IAM ב-Gemini Enterprise Agent Platform מוסבר איך משתמשים בניהול זהויות והרשאות גישה כדי לתת את ההרשאות שנדרשות להפעלה או להשבתה של השמירה במטמון. הרחיבו את הקטעים הבאים כדי ללמוד איך לקבל את הגדרת המטמון הנוכחית, להשבית את השמירה במטמון, להפעיל את השמירה במטמון ולהשבית ולהפעיל את השמירה במטמון העמיד.

קבלת הגדרת השמירה הנוכחית במטמון

מריצים את הפקודה הבאה כדי לבדוק אם האפשרויות "שמירה במטמון בזיכרון" ו"שמירה במטמון עמיד" מופעלות בפרויקט. כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את אחד מהתפקידים הבאים: roles/aiplatform.viewer,‏ roles/aiplatform.user או roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# GetCacheConfig
$ curl -X GET \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig

# Response if durable caching and in-memory caching are enabled (default).
{
  "name": "projects/PROJECT_ID/cacheConfig",
  "retentionConfig": {
    "retentionType": "DURABLE"
  }
}

# Response if durable caching is turned off and in-memory caching is enabled.
{
  "name": "projects/PROJECT_ID/cacheConfig",
  "retentionConfig": {
    "retentionType": "EPHEMERAL"
  }
}

# Response if all caching is turned off.
{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": true
}

השבתת השמירה במטמון

מריצים את פקודת ה-curl הבאה כדי להשבית את כל השמירה במטמון בפרויקטGoogle Cloud . הפעולה הזו משביתה את השמירה במטמון בזיכרון ואת השמירה במטמון עמיד, ולא נשמרים נתונים במטמון. כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את תפקיד האדמין ב-Gemini Enterprise Agent Platform, ‏roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# Turn off all caching.
$ curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": true
    }'

# A successful response confirms that caching is turned off for the project.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

כדי להשאיר את השמירה במטמון בזיכרון ולהשבית רק את השמירה במטמון עמיד, עיינו בקטע השבתת השמירה במטמון עמיד.

הפעלת השמירה במטמון

אם השבתתם את השמירה במטמון בפרויקט ב- Google Cloud ואתם רוצים להפעיל אותה מחדש, הריצו את פקודת ה-curl הבאה. כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את תפקיד האדמין ב-Gemini Enterprise Agent Platform, ‏roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
LOCATION_ID="us-central1"
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt in to caching.
$ curl -X PATCH     -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig -d '{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": false
}'

# A successful response confirms that caching is turned on for the project.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_NUMBER}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

השבתת השמירה במטמון עמיד

מריצים את פקודת ה-curl הבאה כדי להשבית את השמירה במטמון לטווח ארוך ולהשאיר את השמירה במטמון בזיכרון בפרויקט Google Cloud . כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את תפקיד האדמין ב-Gemini Enterprise Agent Platform, ‏roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
gcloud config set project PROJECT_ID

# Turn off durable caching.
curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": false,
      "retentionConfig": {
        "retentionType": "EPHEMERAL"
      }
    }'

# A successful response confirms that durable caching is turned off and in-memory caching stays on.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

הפעלת שמירה במטמון עמיד

אם השבתתם את השמירה במטמון לטווח ארוך בפרויקט Google Cloud ואתם רוצים להפעיל אותה מחדש, הריצו את פקודת ה-curl הבאה. כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את תפקיד האדמין ב-Gemini Enterprise Agent Platform, ‏roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
gcloud config set project PROJECT_ID

# Turn on durable caching.
curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": false,
      "retentionConfig": {
        "retentionType": "DURABLE"
      }
    }'

# A successful response confirms that durable caching is turned on for the project.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

המאמרים הבאים

סקירה כללית

כאן מפורטות חלק מהמגבלות של AI גנרטיבי ושיטות מומלצות לשימוש ב-AI גנרטיבי.

סקירה כללית

איך Gemini ל-Google Cloud עומד בהתחייבות של Google לשמירה על הפרטיות בטכנולוגיות של AI גנרטיבי.