‫Gemini Enterprise Agent Platform ושמירת נתונים אפס

‫Google הייתה הראשונה בתעשייה שפרסמה התחייבות לפרטיות ב-AI/ML, שבה אנחנו מצהירים על האמונה שלנו שלקוחות צריכים ליהנות מרמת האבטחה הגבוהה ביותר ומבקרה מלא על הנתונים שלהם שמאוחסנים בענן. המחויבות הזו חלה גם על מוצרי ה-AI הגנרטיבי של Google Cloud. ‫Google מוודאת שהצוותים שלה פועלים בהתאם להתחייבויות האלה באמצעות שיטות חזקות של משילות מידע, שכוללות בדיקות של הנתונים ש- Google Cloud משתמשת בהם בפיתוח המוצרים שלה. פרטים נוספים על האופן שבו Google מעבדת נתונים מופיעים גם בנספח לעיבוד נתונים ב-Cloud (CDPA) של Google.

הגבלת אימון

כפי שמפורט בקטע 'הגבלות על אימון' בתנאי השירות של השירותים הספציפיים, Google לא תשתמש בנתונים שלכם כדי לאמן או לשפר מודלים של AI/ML בלי לקבל אישור מראש או הוראה מכם. ההגדרה הזו חלה על כל המודלים המנוהלים ב-Gemini Enterprise Agent Platform, כולל מודלים בגרסת GA ומודלים טרום-GA.

שמירת נתוני לקוחות והשגת מצב של אפס שמירת נתונים

נתוני לקוחות נשמרים ב-Gemini Enterprise Agent Platform for Models as a Service (MaaS) לתקופות מוגבלות בתרחישים ובתנאים הבאים. כדי להגיע למצב של אפס נתונים, הלקוחות צריכים לבצע פעולות ספציפיות בכל אחד מהתחומים הבאים:

  • רישום בפרוטוקול של הנחיות לצורך מעקב אחר שימוש לרעה במודלים של Google: כמו שמתואר בסעיף 4.3 'בטיחות ושימוש לרעה ב-AI גנרטיבי' בתנאים ובהגבלות של Google Cloud Platform, ‏ Google עשויה לרשום בפרוטוקול הנחיות כדי לזהות שימוש לרעה פוטנציאלי והפרות של מדיניות השימוש המקובל והמדיניות בנושא שימוש אסור כחלק מהשירותים של AI גנרטיבי שהיא מספקת ללקוחות. רק לקוחות שהשימוש שלהם ב- Google Cloud כפוף לתנאים ולהגבלות של Google Cloud Platform כפופים לרישום ביומן של הנחיות לצורך מעקב אחר שימוש לרעה. אם אתם עומדים בדרישות לרישום ביומן של הנחיות לצורך מעקב אחר התנהלות פוגעת, ואתם רוצים שלא תהיה שמירה של נתונים, אתם יכולים לבקש חריגה לצורך מעקב אחר התנהלות פוגעת. מידע נוסף על מעקב אחרי התנהלות פוגעת

  • רישום של הנחיות ותשובות לצורך מעקב אחרי התנהלות פוגעת במודלים מתקדמים של AI: יכול להיות שגם מודלים או תכונות מסוימים יהיו כפופים לרישום נוסף של הנחיות ותשובות כדי למנוע התנהלות פוגעת, כמו שמתואר בנספח בנושא בטיחות מתקדמת של AI. יכול להיות שלא תהיה אפשרות להגדיר שמירה של אפס נתונים כשמשתמשים בתכונות מתקדמות של AI. לפרטים נוספים, אפשר לפנות לצוות ניהול החשבון. מידע נוסף זמין במאמר בנושא מעקב אחר שימוש לרעה.

  • עיגון באמצעות חיפוש Google: כמו שמתואר בקטע 20 'שירותי AI גנרטיבי: עיגון באמצעות חיפוש Google' בתנאים הספציפיים לשירות,‏ Google אוספת ושומרת יומנים שמכילים את נתוני הלקוח הבאים: שאילתות שנגזרות מפרומפטים של משתמשי קצה ומידע הקשרי שהלקוח עשוי לספק יחד עם הפרומפטים שלא משויכים ללקוח או למשתמשי הקצה שלו למשך שלושה (3) ימים לכל היותר. יכול להיות שהמידע השמור הזה ישמש לניפוי באגים במערכות שתומכות בעיגון באמצעות חיפוש Google. אם משתמשים ב-עיגון באמצעות חיפוש Google, אין אפשרות להשבית את השמירה של המידע הזה. אם אתם צריכים אפס שמירת נתונים, מומלץ להשתמש ב-Web Grounding for Enterprise.

  • עיגון בעזרת מפות Google: כפי שמפורט בסעיף 20 'שירותי AI גנרטיבי: עיגון בעזרת מפות Google' בתנאים הספציפיים לשירות,‏ Google מאחסנת הנחיות ומידע הקשרי שהלקוחות עשויים לספק, ופלט שנוצר למשך שלושים (30) ימים לצורך יצירת תוצאות מעוגנות. המידע המאוחסן הזה עשוי לשמש רק להנדסת אמינות, למשל לניפוי באגים במקרה של בעיות בשירות, של מערכות שתומכות בעיגון בעזרת מפות Google. אם משתמשים ב-עיגון בעזרת מפות Google, אין אפשרות להשבית את האחסון של המידע הזה.

  • רישום ביומן של בקשות ותגובות: התכונה הזו מושבתת כברירת מחדל. אפשר להפעיל אותו באמצעות הגדרת תצורה לכל מודל ולכל פרויקט. הפעלת הרישום ביומן גורמת לכך שבקשות ותשובות מסוימות למודל שצוין ייכתבו בטבלה ב-BigQuery ייעודית. כדי להשיג אפס שמירת נתונים, אל תפעילו את התכונה הזו. מידע נוסף על התכונה הזו, כולל הסברים איך להפעיל או להשבית אותה או לקרוא את הגדרת התצורה הנוכחית, זמין במאמר רישום בקשות ותגובות ביומן.

  • ‫Interactions API: כשמשתמשים ב-Interactions API עם store = true,‏ Google מאחסנת נתוני משתמשים (כמו הנחיות, תשובות ומצב השיחה) כדי לאפשר שיחות רב-שלביות ואחזור מאוחר יותר. אם לא מציינים ערך למאפיין store, ברירת המחדל היא true לכל הדגמים. כדי להשיג אפס שמירת נתונים, צריך להגדיר במפורש store = false בבקשות ה-API.

ההגבלה הזו רלוונטית לכל המודלים המנוהלים ב-Gemini Enterprise Agent Platform, כולל מודלים בגרסת GA ומודלים בגרסת טרום-GA.

מוצרים של סוכנים

כדי להשיג אפס שמירת נתונים במוצרי Agent, הלקוחות צריכים לפעול בהתאם לתנאים וללוחות הזמנים הבאים לשמירת נתונים עבור כל מוצר:

  • נתוני סשן של CodeMender – כדי לאפשר חידוש של סריקות ארוכות של חיפוש ותיקון, CodeMender מאחסן את מצב הסשן ב-Spanner. במהלך סריקה, נתוני הסשן – כולל קטעי קוד של מקור היעד, הבדלים, הגדרות ונקודות ביקורת של ניתוח – מאוחסנים בצורה מוצפנת למשך עד שבעה (7) ימים ממועד יצירת הסשן. כשסשן מגיע למצב סופי, קוד המקור והתוכן שקשור אליו נמחקים תוך שניות. רשומת הסשן שנותרה נמחקת אוטומטית אחרי 7 ימים (TTL). הלקוחות יכולים למחוק סשן (ולהסיר את כל הנתונים שמשויכים אליו) לפני שתוקף ה-TTL יפוג.

המודלים של Google

כדי להשיג אפס שמירת נתונים במודלים שאומנו על ידי Google, הלקוחות צריכים לבצע פעולות ספציפיות נוספות בכל אחד מהתחומים הבאים:

חידוש סשן ב-Gemini Live API

כברירת מחדל, השהייה והמשך של סשן ב-Gemini Live API מושבתים. המשתמשים צריכים להפעיל אותו בכל פעם שהם קוראים ל-API על ידי ציון השדה בבקשת ה-API, והפרטיות ברמת הפרויקט נאכפת על נתונים שנשמרו במטמון. הפעלת התכונה 'חידוש סשן' מאפשרת למשתמש להתחבר מחדש לסשן קודם תוך 24 שעות. לשם כך, המערכת שומרת נתונים במטמון, כולל נתונים של הנחיות טקסט, וידאו ואודיו, ופלט של מודלים, למשך עד 24 שעות. כדי להשיג אפס שמירת נתונים, אל תפעילו את התכונה הזו. מידע נוסף על התכונה הזו, כולל הוראות להפעלה שלה, זמין במאמר Gemini Live API.

שמירת נתונים במטמון בזיכרון

כברירת מחדל, מודלי Gemini שפורסמו על ידי Google שומרים במטמון נתוני לקוחות (קלט, פלט ונתונים נגזרים) בזיכרון כדי לצמצם את זמן האחזור ולזרז את התשובות. הנתונים האלה מאוחסנים רק בזיכרון (לא במצב מנוחה), הם מבודדים ברמת הפרויקט ויש להם TTL של 24 שעות. הנתונים שנשמרים במטמון משמשים רק לשיפור הביצועים של השירות, הם עומדים בכל הדרישות בנוגע למיקום הנתונים שנבחר, והם לא מפרים את מדיניות אפס שמירת נתונים. אפשר להשבית את התכונה הזו ברמת הפרויקט.

הפעלה והשבתה של שמירת נתונים במטמון

אפשר להשתמש בפקודות curl הבאות כדי לקבל את סטטוס הקאשינג, להשבית את הקאשינג או להפעיל מחדש את הקאשינג. כשמשביתים את השמירה במטמון או מפעילים אותה מחדש, השינוי חל על כל האזורים של Google Cloud . מידע נוסף על שימוש בניהול זהויות וגישה (IAM) כדי להעניק את ההרשאות הנדרשות להפעלה או להשבתה של שמירת נתונים במטמון זמין במאמר בקרת גישה באמצעות IAM ל-Gemini Enterprise Agent Platform. כדי לדעת איך מקבלים את הגדרת המטמון הנוכחית, משביתים את השמירה במטמון ומפעילים אותה, אפשר להרחיב את הקטעים הבאים.

קבלת הגדרת ה-caching הנוכחית

מריצים את הפקודה הבאה כדי לקבוע אם השמירה במטמון מופעלת או מושבתת בפרויקט. כדי להריץ את הפקודה הזו, למשתמש צריכה להיות אחת מההרשאות הבאות: roles/aiplatform.viewer, roles/aiplatform.user או roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# GetCacheConfig
$ curl -X GET \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig

# Response if caching is enabled (caching is enabled by default).
{
  "name": "projects/PROJECT_ID/cacheConfig"
}

# Response if caching is turned off.
{
  "name": "projects/PROJECT_ID/cacheConfig"
  "disableCache": true
}

השבתת השמירה במטמון

מריצים את פקודת ה-curl הבאה כדי להשבית את הקירור בפרויקט Google Cloud . כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את תפקיד האדמין של Gemini Enterprise Agent Platform‏, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt-out of caching.
$ curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": true
    }'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

הפעלת שמירה במטמון

אם השבתתם את השמירה במטמון עבור פרויקט Google Cloud ואתם רוצים להפעיל אותה מחדש, מריצים את פקודת ה-curl הבאה. כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את תפקיד האדמין של Gemini Enterprise Agent Platform‏, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
LOCATION_ID="us-central1"
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt in to caching.
$ curl -X PATCH     -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig -d '{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": false
}'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_NUMBER}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

המאמרים הבאים

סקירה כללית

כאן אפשר לקרוא על חלק מהמגבלות של AI גנרטיבי ועל שיטות מומלצות לשימוש ב-AI גנרטיבי.

סקירה כללית

איך Gemini ל-Google Cloud עומד במחויבות של Google לפרטיות באמצעות טכנולוגיות של AI גנרטיבי.