‫Gemini Enterprise Agent Platform ושמירת נתונים אפס

‫Google הייתה הראשונה בתעשייה שפרסמה התחייבות לפרטיות ב-AI/ML, שבה אנחנו מצהירים על האמונה שלנו שללקוחות צריכה להיות רמת האבטחה הגבוהה ביותר ושליטה מלאה בנתונים שלהם שמאוחסנים בענן. המחויבות הזו חלה גם על מוצרי ה-AI הגנרטיבי של Google Cloud. ‫Google מוודאת שהצוותים שלה פועלים בהתאם להתחייבויות האלה באמצעות שיטות חזקות לניהול נתונים, שכוללות בדיקות של הנתונים ש- Google Cloud משתמשת בהם בפיתוח המוצרים שלה. פרטים נוספים על האופן שבו Google מעבדת נתונים מופיעים גם בנספח לעיבוד נתונים ב-Cloud (CDPA) של Google.

הגבלת אימון

כפי שמפורט בקטע 'הגבלות על אימון' בתנאי השירות הספציפיים, Google לא תשתמש בנתונים שלכם כדי לאמן או לשפר מודלים של AI/ML בלי לקבל מכם אישור מראש או הוראה. ההגדרה הזו חלה על כל המודלים המנוהלים ב-Gemini Enterprise Agent Platform, כולל מודלים בגרסת GA ומודלים שלפני גרסת GA.

שמירת נתוני לקוחות והשגת מצב של אפס שמירת נתונים

נתוני לקוחות נשמרים ב-Gemini Enterprise Agent Platform for Models as a Service (MaaS) לתקופות מוגבלות בתרחישים ובתנאים הבאים. כדי להגיע למצב של אפס נתונים שנשמרים, הלקוחות צריכים לבצע פעולות ספציפיות בכל אחד מהתחומים הבאים:

  • רישום בפרוטוקול של הנחיות לצורך מעקב אחר שימוש לרעה במודלים של Google: כמו שמתואר בסעיף 4.3 'בטיחות ושימוש לרעה ב-AI גנרטיבי' בתנאים ובהגבלות של Google Cloud Platform,‏ Google עשויה לרשום בפרוטוקול הנחיות כדי לזהות שימוש לרעה פוטנציאלי והפרות של מדיניות השימוש המקובל ושל המדיניות בנושא שימוש אסור, כחלק מהשירותים של AI גנרטיבי שהיא מספקת ללקוחות. רק לקוחות שהשימוש שלהם ב- Google Cloud כפוף לתנאים ולהגבלות של Google Cloud Platform כפופים לרישום ביומן של ההנחיות לצורך מעקב אחר שימוש לרעה. אם אתם עומדים בדרישות לרישום ביומן של הנחיות לצורך מעקב אחר התנהלות פוגעת, ואתם רוצים שלא תהיה שמירה של נתונים, אתם יכולים לבקש חריגה לצורך מעקב אחר התנהלות פוגעת. מידע נוסף על מעקב אחרי התנהלות פוגעת

  • רישום של הנחיות ותשובות לצורך מעקב אחרי התנהלות פוגעת במודלים מתקדמים של AI: יכול להיות שגם מודלים או תכונות מסוימים יהיו כפופים לרישום נוסף של הנחיות ותשובות כדי למנוע התנהלות פוגעת, כמו שמתואר בנספח בנושא בטיחות מתקדמת של AI. יכול להיות שלא תהיה אפשרות להגדיר שמירה של אפס נתונים כשמשתמשים בתכונות מתקדמות של AI. לפרטים נוספים, אפשר לפנות לצוות ניהול החשבון. מידע נוסף זמין במאמר בנושא מעקב אחר שימוש לרעה.

  • הארקה באמצעות חיפוש Google: כמו שמתואר בקטע 20 'שירותי AI גנרטיבי: הארקה באמצעות חיפוש Google' בתנאים הספציפיים לשירות,‏ Google אוספת ושומרת יומנים שמכילים את נתוני הלקוח הבאים: שאילתות שנגזרות מהנחיות של משתמשי קצה ומידע הקשרי שהלקוח עשוי לספק יחד עם ההנחיות שלא משויכות ללקוח או למשתמשי הקצה שלו למשך שלושה (3) ימים לכל היותר. יכול להיות שהמידע השמור הזה ישמש לניפוי באגים במערכות שתומכות בהארקה באמצעות חיפוש Google. אם משתמשים ב-Grounding עם חיפוש Google, אין אפשרות להשבית את השמירה של המידע הזה. אם אתם צריכים אפס שמירת נתונים, מומלץ להשתמש ב-Web Grounding for Enterprise.

  • הצמדה לקרקע באמצעות מפות Google: כפי שמפורט בסעיף 20 'שירותי AI גנרטיבי: הצמדה לקרקע באמצעות מפות Google' בתנאים הספציפיים לשירות,‏ Google מאחסנת הנחיות ומידע הקשרי שהלקוחות עשויים לספק, ופלט שנוצר למשך שלושים (30) ימים לצורך יצירת תוצאות מוצמדות לקרקע. המידע המאוחסן הזה עשוי לשמש רק להנדסת אמינות, למשל לניפוי באגים במקרה של בעיות בשירות, של מערכות שתומכות בהצמדה לקרקע באמצעות מפות Google. אם משתמשים ב-Grounding עם מפות Google, אין אפשרות להשבית את האחסון של המידע הזה.

  • רישום ביומן של בקשות ותגובות: התכונה הזו מושבתת כברירת מחדל. אפשר להפעיל אותו באמצעות הגדרת תצורה לכל מודל ולכל פרויקט. הפעלת הרישום ביומן גורמת לכך שבקשות ותשובות מסוימות למודל שצוין ייכתבו בטבלה ייעודית ב-BigQuery. כדי להשיג אפס שמירת נתונים, אל תפעילו את התכונה הזו. מידע נוסף על התכונה הזו, כולל הסברים איך להפעיל או להשבית אותה או לקרוא את הגדרת התצורה הנוכחית, זמין במאמר רישום בקשות ותגובות ביומן.

ההגבלה הזו רלוונטית לכל המודלים המנוהלים ב-Gemini Enterprise Agent Platform, כולל מודלים בגרסת GA ומודלים בגרסת טרום-GA.

המודלים של Google

כדי להשיג אפס שמירת נתונים במודלים שאומנו על ידי Google, הלקוחות צריכים לבצע פעולות ספציפיות נוספות בכל אחד מהתחומים הבאים:

חידוש סשן ב-Gemini Live API

כברירת מחדל, השהייה והמשך של סשן ב-Gemini Live API מושבתים. המשתמשים צריכים להפעיל אותו בכל פעם שהם קוראים ל-API על ידי ציון השדה בבקשת ה-API, והפרטיות ברמת הפרויקט נאכפת על נתונים שנשמרו במטמון. הפעלת התכונה 'חידוש סשן' מאפשרת למשתמש להתחבר מחדש לסשן קודם תוך 24 שעות. לשם כך, המערכת שומרת נתונים במטמון, כולל נתונים של הנחיות טקסט, וידאו ואודיו, ופלט של מודלים, למשך עד 24 שעות. כדי להשיג אפס שמירת נתונים, אל תפעילו את התכונה הזו. מידע נוסף על התכונה הזו, כולל הוראות להפעלה שלה, זמין במאמר Gemini Live API.

שמירת נתונים במטמון בזיכרון

כברירת מחדל, מודלי Gemini שפורסמו על ידי Google שומרים במטמון נתוני לקוחות (קלט, פלט ונתונים נגזרים) בזיכרון כדי לצמצם את זמן האחזור ולזרז את התגובות. הנתונים האלה מאוחסנים רק בזיכרון (לא במצב מנוחה), הם מבודדים ברמת הפרויקט ויש להם TTL של 24 שעות. הנתונים שנשמרים במטמון משמשים רק לשיפור הביצועים של השירות, הם עומדים בכל הדרישות בנוגע למיקום הנתונים שנבחר, והם לא מפרים את מדיניות אפס שמירת נתונים. אפשר להשבית את התכונה הזו ברמת הפרויקט.

הפעלה והשבתה של שמירת נתונים במטמון

אפשר להשתמש בפקודות curl הבאות כדי לקבל את סטטוס הקאשינג, להשבית את הקאשינג או להפעיל אותו מחדש. כשמשביתים את השמירה במטמון או מפעילים אותה מחדש, השינוי חל על כל האזורים Google Cloud . מידע נוסף על שימוש בניהול זהויות וגישה (IAM) כדי להעניק את ההרשאות הנדרשות להפעלה או להשבתה של שמירת נתונים במטמון זמין במאמר בקרת גישה באמצעות IAM ל-Gemini Enterprise Agent Platform. כדי לדעת איך מקבלים את הגדרת המטמון הנוכחית, משביתים את השמירה במטמון ומפעילים אותה, אפשר להרחיב את הקטעים הבאים.

קבלת הגדרת ה-caching הנוכחית

מריצים את הפקודה הבאה כדי לבדוק אם השמירה במטמון מופעלת או מושבתת בפרויקט. כדי להריץ את הפקודה הזו, למשתמש צריכה להיות אחת מההרשאות הבאות: roles/aiplatform.viewer, roles/aiplatform.user או roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# GetCacheConfig
$ curl -X GET \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig

# Response if caching is enabled (caching is enabled by default).
{
  "name": "projects/PROJECT_ID/cacheConfig"
}

# Response if caching is turned off.
{
  "name": "projects/PROJECT_ID/cacheConfig"
  "disableCache": true
}

השבתת השמירה במטמון

מריצים את פקודת ה-curl הבאה כדי להשבית את הקירור בפרויקט Google Cloud . כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את תפקיד האדמין ב-Gemini Enterprise Agent Platform‏, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt-out of caching.
$ curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": true
    }'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

הפעלת שמירה במטמון

אם השבתתם את השמירה במטמון עבור פרויקט Google Cloud ואתם רוצים להפעיל אותה מחדש, מריצים את פקודת ה-curl הבאה. כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את תפקיד האדמין בפלטפורמת הסוכנים של Gemini Enterprise‏, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
LOCATION_ID="us-central1"
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt in to caching.
$ curl -X PATCH     -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig -d '{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": false
}'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_NUMBER}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

המאמרים הבאים

סקירה כללית

כאן אפשר לקרוא על חלק מהמגבלות של AI גנרטיבי ועל שיטות מומלצות לשימוש ב-AI גנרטיבי.

סקירה כללית

איך Gemini for Google Cloud עומד במחויבות של Google לפרטיות באמצעות טכנולוגיות של AI גנרטיבי.