‫Gemini Enterprise Agent Platform ושמירת נתונים אפס

‫Google הייתה הראשונה בתעשייה שפרסמה התחייבות לפרטיות בנושא AI/ML, שבה אנחנו מצהירים על האמונה שלנו שלקוחות צריכים ליהנות מרמת האבטחה הגבוהה ביותר ומאמצעי הבקרה הטובים ביותר על הנתונים שלהם שמאוחסנים בענן. המחויבות הזו חלה גם על מוצרי ה-AI הגנרטיבי של Google Cloud. ‫Google מוודאת שהצוותים שלה פועלים בהתאם להתחייבויות האלה באמצעות שיטות חזקות ל<term ref="משילות מידע (data governance)">משילות מידע</term>, שכוללות בדיקות של הנתונים ש- Google Cloud משתמשת בהם בפיתוח המוצרים שלה. פרטים נוספים על האופן שבו Google מעבדת נתונים זמינים גם בנספח לעיבוד נתונים ב-Cloud (CDPA) של Google.

הגבלת אימון

כפי שמפורט בקטע 'הגבלות על אימון' בתנאי השירות של השירותים הספציפיים, Google לא תשתמש בנתונים שלכם כדי לאמן או לשפר מודלים של AI/ML בלי לקבל אישור מראש או הוראה מכם. ההגבלה הזו רלוונטית לכל המודלים המנוהלים ב-Gemini Enterprise Agent Platform, כולל מודלים בגרסת GA ומודלים בגרסת טרום-GA.

שמירת נתוני לקוחות והשגת מצב של אפס שמירת נתונים

נתוני הלקוחות נשמרים ב-Gemini Enterprise Agent Platform for Models as a Service (MaaS) למשך תקופות מוגבלות בתרחישים ובתנאים הבאים. כדי להשיג אפס שמירת נתונים, הלקוחות צריכים לבצע פעולות ספציפיות בכל אחד מהתחומים הבאים:

  • רישום בפרוטוקול של הנחיות לצורך מעקב אחר שימוש לרעה במודלים של Google: כפי שמפורט בסעיף 4.3 'בטיחות ושימוש לרעה ב-AI גנרטיבי' בתנאים ובהגבלות של Google Cloud Platform, ‏ Google עשויה לרשום בפרוטוקול הנחיות כדי לזהות שימוש לרעה פוטנציאלי והפרות של מדיניות השימוש המקובל והמדיניות בנושא שימוש אסור כחלק מהשירותים של AI גנרטיבי שהיא מספקת ללקוחות. רק לקוחות שהשימוש שלהם ב- Google Cloud כפוף לתנאים ולהגבלות של Google Cloud Platform כפופים לרישום ביומן של ההנחיות לצורך מעקב אחר שימוש לרעה. אם אתם עומדים בדרישות לרישום ביומן של הנחיות לצורך מעקב אחרי התנהלות פוגעת ואתם רוצים אפס שמירת נתונים, אתם יכולים לבקש חריגה לצורך מעקב אחרי התנהלות פוגעת. מידע נוסף על מעקב אחרי התנהלות פוגעת

  • רישום של הנחיות ותשובות לצורך מעקב אחרי התנהלות פוגעת במודלים מתקדמים של AI: יכול להיות שגם מודלים או תכונות מסוימים יהיו כפופים לרישום נוסף של הנחיות ותשובות כדי למנוע התנהלות פוגעת, כמו שמתואר בנספח בנושא בטיחות מתקדמת של AI. יכול להיות שלא תהיה אפשרות להגדיר שמירת נתונים למשך אפס ימים כשמשתמשים בתכונות מתקדמות של AI. לפרטים נוספים, אפשר לפנות לצוות ניהול החשבון. מידע נוסף זמין במאמר בנושא מעקב אחר שימוש לרעה.

  • עיגון באמצעות חיפוש Google: כמו שמתואר בקטע 20 'שירותי AI גנרטיבי: עיגון באמצעות חיפוש Google' בתנאים הספציפיים לשירות,‏ Google אוספת ושומרת יומנים שמכילים את נתוני הלקוח הבאים: שאילתות שנגזרות מפרומפטים של משתמשי קצה ומידע הקשרי שהלקוח עשוי לספק יחד עם הפרומפטים שלא משויכים ללקוח או למשתמשי הקצה שלו למשך שלושה (3) ימים לכל היותר. יכול להיות שהמידע השמור הזה ישמש לניפוי באגים במערכות שתומכות בעיגון באמצעות חיפוש Google. אם משתמשים ב-עיגון באמצעות חיפוש Google, אין אפשרות להשבית את האחסון של המידע הזה. אם אתם צריכים אפס שמירת נתונים, מומלץ להשתמש ב-Web Grounding for Enterprise.

  • עיגון בעזרת מפות Google: כפי שמתואר בסעיף 20 'שירותי AI גנרטיבי: עיגון בעזרת מפות Google' בתנאים הספציפיים לשירות, Google מאחסנת פרומפטים ומידע הקשרי שהלקוחות עשויים לספק, ופלט שנוצר למשך שלושים (30) ימים למטרות יצירת תוצאות מעוגנות בנתונים. המידע המאוחסן הזה יכול לשמש רק להנדסת מהימנות, כמו ניפוי באגים במקרה של בעיות בשירות, של מערכות שתומכות בעיגון בעזרת מפות Google. אם משתמשים ב-עיגון בעזרת מפות Google, אין אפשרות להשבית את האחסון של המידע הזה.

  • רישום ביומן של בקשות ותגובות: התכונה הזו מושבתת כברירת מחדל. אפשר להפעיל אותו באמצעות הגדרת תצורה לכל מודל ולכל פרויקט. הפעלת הרישום ביומן גורמת לכך שבקשות ותשובות מסוימות למודל שצוין ייכתבו בטבלה ב-BigQuery ייעודית. כדי להגיע לאפס שמירת נתונים, אל תפעילו את התכונה הזו. מידע נוסף על התכונה הזו, כולל הסברים איך להפעיל או להשבית אותה או לקרוא את הגדרת התצורה הנוכחית, זמין במאמר רישום בקשות ותגובות ביומן.

  • ‫Interactions API: כשמשתמשים ב-Interactions API עם store = true,‏ Google מאחסנת נתוני משתמשים (כמו הנחיות, תשובות ומצב השיחה) כדי לאפשר שיחות רב-שלביות ואחזור מאוחר יותר. אם לא מציינים ערך למאפיין store, ברירת המחדל היא true לכל הדגמים. כדי להשיג אפס שמירת נתונים, צריך להגדיר במפורש את store = false בבקשות ה-API.

ההגבלה הזו רלוונטית לכל המודלים המנוהלים ב-Gemini Enterprise Agent Platform, כולל מודלים ב-GA ומודלים טרום-GA.

מוצרים של סוכנים

כדי להשיג אפס שמירת נתונים במוצרים של Agent, הלקוחות צריכים לפעול בהתאם לתנאים וללוחות הזמנים הבאים לשמירת נתונים עבור כל מוצר:

  • נתוני סשן של CodeMender – כדי לאפשר חידוש של סריקות ארוכות של חיפוש ותיקון, CodeMender מאחסן את מצב הסשן ב-Spanner. במהלך הסריקה, נתוני הסשן – כולל קטעי קוד של מקור היעד, הבדלים, הגדרות ונקודות ביקורת של הניתוח – מאוחסנים בצורה מוצפנת למשך עד שבעה (7) ימים ממועד יצירת הסשן. כשסשן מגיע למצב סופי, קוד המקור והתוכן שקשור אליו נמחקים תוך שניות. רשומת הסשן שנותרה נמחקת אוטומטית אחרי 7 ימים. הלקוחות יכולים למחוק סשן (ולהסיר את כל הנתונים שמשויכים אליו) לפני שתוקף ה-TTL יפוג.

  • נתוני סשן של סוכן Deep Research – Google מאחסנת פרומפטים ונתוני סשן – כולל תוצאות חיפוש ותמונות שנוצרו – באמצעות Interactions API למשך שבעה (7) ימים. נתוני הסשן האלה מוצפנים במצב מנוחה ונמחקים אוטומטית בסוף תקופת ה-TTL של שבעה ימים. הלקוחות יכולים למחוק סשן (ולהסיר את כל הנתונים שמשויכים אליו) לפני שתוקף ה-TTL יפוג. אי אפשר להשבית את התכונה הזו כשמשתמשים בסוכן Deep Research.

  • תמונות מצב של ארגז החול של Agent Platform: אם אתם משתמשים ב-Snapshot API כדי לשמור את מצב ארגז החול, תמונות המצב האלה נשמרות רק למשך הזמן שמוגדר כ-TTL של ארגז החול. כדי להשיג אפס שמירת נתונים, אל תשתמשו ב-Sandbox API.

המודלים של Google

כדי להשיג אפס שמירת נתונים במודלים שאומנו על ידי Google, הלקוחות צריכים לבצע פעולות ספציפיות נוספות בכל אחד מהתחומים הבאים:

חידוש סשן ב-Gemini Live API

כברירת מחדל, השהייה והמשך של סשן ב-Gemini Live API מושבתים. המשתמשים צריכים להפעיל אותו בכל פעם שהם קוראים ל-API על ידי ציון השדה בבקשת ה-API, והפרטיות ברמת הפרויקט נאכפת על נתונים שנשמרו במטמון. הפעלת התכונה 'חידוש סשן' מאפשרת למשתמש להתחבר מחדש לסשן קודם תוך 24 שעות, על ידי אחסון נתונים במטמון, כולל נתונים של הנחיות טקסט, וידאו ואודיו ופלט של מודלים, למשך עד 24 שעות. כדי להשיג אפס שמירת נתונים, אל תפעילו את התכונה הזו. מידע נוסף על התכונה הזו, כולל הוראות להפעלה שלה, זמין במאמר Gemini Live API.

שמירת נתונים במטמון בזיכרון

כברירת מחדל, מודלים של Gemini שפורסמו על ידי Google שומרים במטמון נתוני לקוחות (קלט, פלט ונתונים נגזרים) בזיכרון כדי לצמצם את זמן האחזור ולזרז את התגובות. הנתונים האלה מאוחסנים רק בזיכרון (לא במצב מנוחה), הם מבודדים ברמת הפרויקט ויש להם TTL של 24 שעות. הנתונים שנשמרים במטמון משמשים רק לשיפור הביצועים של השירות, ועומדים בכל הדרישות בנוגע למיקום הנתונים שנבחר, ולא מפרים את מדיניות אפס שמירת הנתונים. אפשר להשבית את התכונה הזו ברמת הפרויקט.

הפעלה והשבתה של שמירת נתונים במטמון

אפשר להשתמש בפקודות curl הבאות כדי לקבל את סטטוס הקאשינג, להשבית את הקאשינג או להפעיל מחדש את הקאשינג. כשמשביתים את השמירה במטמון או מפעילים אותה מחדש, השינוי חל על כל האזורים Google Cloud . מידע נוסף על שימוש בניהול זהויות והרשאות גישה (IAM) כדי להעניק את ההרשאות שנדרשות להפעלה או להשבתה של שמירת נתונים במטמון זמין במאמר בקרת גישה באמצעות IAM בפלטפורמת הסוכנים של Gemini Enterprise. כדי לדעת איך מקבלים את הגדרת המטמון הנוכחית, איך משביתים את השמירה במטמון ואיך מפעילים אותה, אפשר להרחיב את הקטעים הבאים.

קבלת הגדרות ה-caching הנוכחיות

מריצים את הפקודה הבאה כדי לבדוק אם השמירה במטמון מופעלת או מושבתת בפרויקט. כדי להריץ את הפקודה הזו, למשתמש צריכים להיות אחד מהתפקידים הבאים: roles/aiplatform.viewer,‏ roles/aiplatform.user או roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# GetCacheConfig
$ curl -X GET \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig

# Response if caching is enabled (caching is enabled by default).
{
  "name": "projects/PROJECT_ID/cacheConfig"
}

# Response if caching is turned off.
{
  "name": "projects/PROJECT_ID/cacheConfig"
  "disableCache": true
}

השבתת השמירה במטמון

מריצים את פקודת ה-curl הבאה כדי להשבית את הקירור בפרויקט Google Cloud . כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את תפקיד האדמין ב-Gemini Enterprise Agent Platform‏, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt-out of caching.
$ curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": true
    }'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

הפעלת שמירה במטמון

אם השבתתם את השמירה במטמון עבור פרויקט Google Cloud ואתם רוצים להפעיל אותה מחדש, מריצים את פקודת ה-curl הבאה. כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את תפקיד האדמין ב-Gemini Enterprise Agent Platform‏, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
LOCATION_ID="us-central1"
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt in to caching.
$ curl -X PATCH     -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig -d '{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": false
}'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_NUMBER}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

המאמרים הבאים

סקירה כללית

כאן אפשר לקרוא על חלק מהמגבלות של AI גנרטיבי ועל שיטות מומלצות לשימוש ב-AI גנרטיבי.

סקירה כללית

איך Gemini ל-Google Cloud עומד במחויבות של Google לפרטיות באמצעות טכנולוגיות של AI גנרטיבי.