Google הייתה הראשונה בתחום שפרסמה התחייבות לשמירה על פרטיות ב-AI/ML, שמתארת את האמונה שלנו שללקוחות צריכה להיות רמת האבטחה והשליטה הגבוהה ביותר בנתונים שלהם שמאוחסנים בענן. המחויבות הזו חלה גם על מוצרי ה-AI הגנרטיבי של Google Cloud. Google מוודאת שהצוותים שלה עומדים בהתחייבויות האלה באמצעות שיטות קפדניות של משילות מידע (data governance), שכוללות בדיקות של הנתונים ש- Google Cloud משתמשת בהם בפיתוח המוצרים שלה. פרטים נוספים על האופן שבו Google מעבדת נתונים זמינים גם בנספח לעיבוד נתונים ב-Cloud (CDPA) של Google.
הגבלת אימון
כמו שמפורט בקטע "הגבלת אימון" בתנאי השירות הספציפיים לשירות, Google לא תשתמש בנתונים שלכם כדי לאמן או לשפר מודלים של AI או למידת מכונה בלי לקבל מכם אישור או הוראה מראש. ההגדרה הזו חלה על כל המודלים המנוהלים ב-Gemini Enterprise Agent Platform, כולל מודלים בגרסת GA ובגרסת טרום-GA.
שמירת נתוני לקוחות והשגת אפס שמירת נתונים
נתוני הלקוחות נשמרים ב-Gemini Enterprise Agent Platform למודלים כשירות (MaaS) לפרקי זמן מוגבלים בתרחישים ובתנאים הבאים. כדי להגיע למצב של אפס שמירת נתונים, הלקוחות צריכים לבצע פעולות ספציפיות בכל אחד מהתחומים הבאים:
רישום הנחיות ביומן למעקב אחרי התנהלות פוגעת במודלים של Google: כמו שמפורט בסעיף 4.3 "בטיחות והתנהלות פוגעת ב-AI גנרטיבי" בתנאים ובהגבלות של Google Cloud Platform, Google עשויה לתעד הנחיות ביומן כדי לזהות התנהלות פוגעת והפרות של מדיניות השימוש המקובל ושל המדיניות בנושא שימוש אסור, כחלק מהשירותים של AI גנרטיבי שהיא מספקת ללקוחות. רק לקוחות שהשימוש שלהם ב- Google Cloud כפוף לתנאים ולהגבלות של Google Cloud Platform, כפופים לרישום הנחיות ביומן לצורך מעקב אחרי ניצול לרעה.
תיעוד הנחיות ותשובות לצורך מעקב אחרי ניצול לרעה במודלים של Advanced AI: יכול להיות שגם הנחיות ותשובות במודלים או בתכונות מסוימים יתועדו כדי למנוע ניצול לרעה, כמו שמתואר בנספח בנושא בטיחות ב-Advanced AI. יכול להיות שלא תהיה אפשרות להגדיר אפס שמירת נתונים כשמשתמשים בתכונות מסוימות של Advanced AI. לקבלת הבהרות, אפשר לפנות לצוות ניהול החשבון. מידע נוסף זמין במאמר מעקב אחרי התנהלות פוגעת.
ביסוס בעזרת חיפוש Google: כמו שמפורט בסעיף 20, "שירותי AI גנרטיבי: ביסוס בעזרת חיפוש Google", בתנאים הספציפיים לשירות, Google אוספת ושומרת יומנים שמכילים את נתוני הלקוחות הבאים: שאילתות שנגזרות מהנחיות של משתמשי קצה ומידע לפי הקשר שהלקוח עשוי לספק יחד עם ההנחיות, שלא משויכות לאף לקוח או למשתמשי הקצה שלו, למשך עד שלושה (3) ימים. המידע המאוחסן הזה עשוי לשמש לניפוי באגים במערכות שתומכות בביסוס בעזרת חיפוש Google. אם אתם משתמשים ב"עיגון באמצעות חיפוש Google", אין דרך להשבית את האחסון של המידע הזה. אם אתם צריכים אפס שמירת נתונים, מומלץ להשתמש ב-Web Grounding for Enterprise.
עיגון בעזרת מפות Google: כמו שמפורט בסעיף 20 "שירותי AI גנרטיבי: עיגון בעזרת מפות Google" בתנאים הספציפיים לשירות, Google מאחסנת הנחיות ומידע לפי הקשר שהלקוחות עשויים לספק, ופלט שנוצר במשך שלושים (30) ימים למטרות יצירת תוצאות מעוגנות. המידע המאוחסן הזה עשוי לשמש רק להנדסת אמינות, כמו ניפוי באגים במקרה של בעיות בשירות, של מערכות שתומכות בעיגון בעזרת מפות Google. אין דרך להשבית את אחסון המידע הזה אם משתמשים בעיגון בעזרת מפות Google.
רישום ביומן של בקשות ותגובות: התכונה הזו מושבתת כברירת מחדל. אפשר להפעיל אותה באמצעות הגדרה אישית לכל מודל ולכל פרויקט. הפעלת הרישום ביומן גורמת לכתיבה של בקשות ותשובות מסוימות למודל שצוין בטבלה ייעודית ב-BigQuery. כדי לא לשמור נתונים בכלל, אל תפעילו את התכונה הזו. למידע נוסף על התכונה הזו, כולל איך להפעיל או להשבית אותה, או לקרוא את הגדרת התצורה הנוכחית, ראו רישום בקשות ותגובות ביומן.
Interactions API: כשמשתמשים ב-Interactions API עם
store = true, Google שומרת את נתוני המשתמשים (כמו הנחיות, תשובות ומצב השיחה) כדי לאפשר שיחות בכמה שלבים ושליפה של הנתונים בשלב מאוחר יותר. אם לא מציינים ערך ל-store, ברירת המחדל היאtrueלכל המודלים. כדי להגדיר אפס שמירת נתונים, צריך להגדיר במפורש אתstore = falseבבקשות ה-API.
ההגדרה הזו חלה על כל המודלים המנוהלים ב-Gemini Enterprise Agent Platform, כולל מודלים בגרסת GA ובגרסת טרום-GA.
מוצרים של סוכנים
כדי שנתונים של מוצרי סוכנים לא יישמרו, הלקוחות צריכים לעמוד בתנאים הבאים ובלוחות הזמנים לשמירת נתונים של כל מוצר:
נתוני הסשן של CodeMender – כדי לאפשר המשך של סריקות ארוכות לאיתור ותיקון, CodeMender שומר את מצב הסשן ב-Spanner. בזמן שהסריקה מתבצעת, נתוני הסשן – כולל קטעי קוד מקור של היעד, הבדלים, הגדרות ונקודות ביקורת של ניתוח – נשמרים בצורה מוצפנת למשך עד שבעה (7) ימים ממועד יצירת הסשן. כשהסשן מגיע למצב סיום, קוד המקור והתוכן שקשור אליו נמחקים תוך כמה שניות. רשומת הסשן שנותרה נמחקת באופן אוטומטי אחרי 7 ימים. הלקוחות יכולים למחוק סשן (ולהסיר את כל הנתונים שמשויכים אליו) לפני שתוקף ה-TTL פג.
נתוני סשן של סוכן Deep Research – Google שומרת הנחיות ונתוני סשן, כולל תוצאות חיפוש ותמונות שנוצרו, באמצעות Interactions API למשך שבעה (7) ימים. נתוני הסשן מוצפנים במנוחה ונמחקים באופן אוטומטי בסוף תקופת ה-TTL של שבעה ימים. הלקוחות יכולים למחוק סשן (ולהסיר את כל הנתונים שמשויכים אליו) לפני שתוקף ה-TTL פג. אי אפשר להשבית את התכונה הזו כשמשתמשים בסוכן Deep Research.
תמונות מצב של Agent Platform Sandbox: אם אתם משתמשים ב-Snapshot API כדי לשמור את המצב של Sandbox, תמונות המצב האלה נשמרות רק למשך הזמן של Sandbox TTL. כדי להשיג אפס שמירת נתונים, אל תשתמשו ב-Sandbox API.
המודלים של Google
כדי להגיע למצב של אפס שמירת נתונים במודלים שאומנו על ידי Google, הלקוחות צריכים לבצע פעולות ספציפיות נוספות בכל אחד מהתחומים הבאים:
המשך סשן ב-Gemini Live API
המשך הסשן ב-Gemini Live API מושבת כברירת מחדל. המשתמש צריך להפעיל את התכונה בכל פעם שהוא שולח קריאה ל-API, על ידי ציון השדה בבקשת ה-API. בנוסף, הפרטיות ברמת הפרויקט נאכפת על נתונים שנשמרו במטמון. כשהתכונה "המשך הסשן" מופעלת, המשתמשים יכולים להתחבר מחדש לסשן קודם תוך 24 שעות. כדי לאפשר את זה, המערכת שומרת נתונים במטמון, כולל נתוני הנחיות בטקסט, בווידאו ובאודיו ופלט מהמודל, למשך עד 24 שעות. כדי להגיע למצב של אפס שמירת נתונים, אל תפעילו את התכונה הזו. מידע נוסף על התכונה הזו, כולל איך להפעיל אותה, זמין במאמר Gemini Live API.
שמירת נתונים במטמון באופן מרומז
כברירת מחדל, מודלי Gemini ש-Google מפרסמת שומרים במטמון את נתוני הלקוחות כדי לצמצם את זמן האחזור ולהאיץ את התגובות. שמירה במטמון באופן משתמע משתמשת בשתי רמות אחסון:
- שמירה במטמון בזיכרון: מופעלת כברירת מחדל במודלים נתמכים של Gemini.
- שמירה במטמון לטווח ארוך: מופעלת כברירת מחדל במודלים נתמכים של Gemini. רשימת המודלים הנתמכים מופיעה בסקירה הכללית על שמירת הקשר במטמון.
שמירת נתונים במטמון בזיכרון
במטמון משתמע, נתוני הלקוחות (קלט, פלט ונתונים נגזרים) נשמרים בזיכרון. לנתונים ששמורים במטמון בזיכרון יש את המאפיינים הבאים:
- הוא מאוחסן רק בזיכרון, לא במצב מנוחה.
- הוא מוגבל לפרויקט שלכם ואף פעם לא מועבר לפרויקט אחר.
- הוא נמחק תוך 24 שעות מרגע הכתיבה.
- הוא מעובד באזור שבו הבקשה מטופלת.
- הוא משמש רק כדי לטפל בבקשות שלכם מהר יותר, ואף פעם לא משמש לאימון או לכוונון של מודלים.
שמירת נתונים במטמון לטווח ארוך
במודלים שתומכים בשמירה במטמון עמיד, כשקיבולת המטמון בזיכרון נגמרת, Google שומרת את נתוני המטמון הנגזרים (ייצוגים של ערכי מפתח שמחושבים מהקלט שלכם) באחסון עמיד בסביבת השירות של פלטפורמת הסוכנים. לנתונים שנשמרו במטמון עמיד יש את המאפיינים הבאים:
- הוא מאוחסן במנוחה ומוצפן באמצעות הצפנת ברירת המחדל של Google.
- הוא מוגבל לפרויקט שלכם ואף פעם לא מועבר לפרויקט אחר.
- הוא נמחק תוך 24 שעות לכל היותר מרגע הכתיבה, ולעיתים קרובות הוא נמחק עוד קודם.
- הוא נשאר במיקום שנבחר ועומד בדרישות של מיקום אחסון הנתונים כשמשתמשים בנקודת קצה אזורית או במספר אזורים. כשמשתמשים בנקודת הקצה הגלובלית, אפשר להעביר בקשות ואת הנתונים שלהן שנשמרו במטמון מכל אזור.
- הוא משמש רק כדי לטפל בבקשות שלכם מהר יותר, ואף פעם לא משמש לאימון או לכוונון של מודלים.
מפתחות הצפנה בניהול הלקוח (CMEK) לא נתמכים בשמירה במטמון לטווח ארוך.
שליטה בשמירת נתונים במטמון
אם המדיניות של הארגון לא מאפשרת לאחסן נתוני לקוחות במצב מנוחה, אתם יכולים להשבית את השמירה במטמון לטווח ארוך בכל פרויקט בנפרד ולהמשיך לשמור במטמון בזיכרון. אפשר גם להשבית את השמירה במטמון לחלוטין. כדי להשבית את השמירה במטמון לטווח ארוך בכל הארגון ולא רק ברמת הפרויקט, פנו לצוות ניהול החשבון.
הפעלה והשבתה של שמירת נתונים במטמון
אתם יכולים להשתמש בפקודות ה-curl הבאות כדי לקבל את סטטוס השמירה במטמון, להשבית את השמירה במטמון, להפעיל מחדש את השמירה במטמון או להשבית ולהפעיל את השמירה במטמון עמיד. השבתת השמירה במטמון משביתה גם את השמירה במטמון בזיכרון וגם את השמירה במטמון עמיד. כשמשביתים או מפעילים מחדש את השמירה במטמון, השינוי חל על כל האזורים של Google Cloud . במאמר בקרת גישה באמצעות IAM ב-Gemini Enterprise Agent Platform מוסבר איך משתמשים בניהול זהויות והרשאות גישה (IAM) כדי לתת את ההרשאות שנדרשות להפעלה או להשבתה של השמירה במטמון. כדי ללמוד איך לקבל את הגדרת המטמון הנוכחית, להשבית את השמירה במטמון, להפעיל את השמירה במטמון ולהשבית ולהפעיל את השמירה במטמון העמיד, הרחיבו את הקטעים הבאים.
קבלת הגדרת השמירה הנוכחית במטמון
מריצים את הפקודה הבאה כדי לבדוק אם השמירה במטמון בזיכרון והשמירה במטמון לטווח ארוך מופעלות בפרויקט. כדי להריץ את הפקודה הזו, צריך להקצות למשתמש אחד מהתפקידים הבאים: roles/aiplatform.viewer, roles/aiplatform.user או roles/aiplatform.admin.
PROJECT_ID=PROJECT_ID # Setup project_id $ gcloud config set project PROJECT_ID # GetCacheConfig $ curl -X GET \ -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \ -H "Content-Type: application/json" \ https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig # Response if durable caching and in-memory caching are enabled (default). { "name": "projects/PROJECT_ID/cacheConfig", "retentionConfig": { "retentionType": "DURABLE" } } # Response if durable caching is turned off and in-memory caching is enabled. { "name": "projects/PROJECT_ID/cacheConfig", "retentionConfig": { "retentionType": "EPHEMERAL" } } # Response if all caching is turned off. { "name": "projects/PROJECT_ID/cacheConfig", "disableCache": true }
השבתת השמירה במטמון
מריצים את פקודת ה-curl הבאה כדי להשבית את כל השמירה במטמון בפרויקטGoogle Cloud . הפעולה הזו משביתה את השמירה במטמון בזיכרון ואת השמירה במטמון עמיד, ולא נשמרים נתונים במטמון. כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את התפקיד "אדמין של פלטפורמת הסוכנים", roles/aiplatform.admin.
PROJECT_ID=PROJECT_ID # Setup project_id $ gcloud config set project PROJECT_ID # Turn off all caching. $ curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \ -H "Content-Type: application/json" \ https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \ -d '{ "name": "projects/PROJECT_ID/cacheConfig", "disableCache": true }' # A successful response confirms that caching is turned off for the project. { "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}", "done": true, "response": { "@type": "type.googleapis.com/google.protobuf.Empty" } }
כדי להשאיר את השמירה במטמון בזיכרון ולהשבית רק את השמירה במטמון עמיד, ראו השבתת השמירה במטמון עמיד.
הפעלת השמירה במטמון
אם השבתתם את השמירה במטמון בפרויקט ב- Google Cloud ואתם רוצים להפעיל אותה מחדש, הריצו את פקודת ה-curl הבאה. כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את התפקיד "אדמין של פלטפורמת הסוכנים", roles/aiplatform.admin.
PROJECT_ID=PROJECT_ID LOCATION_ID="us-central1" # Setup project_id $ gcloud config set project PROJECT_ID # Setup project_id. $ gcloud config set project ${PROJECT_ID} # Opt in to caching. $ curl -X PATCH -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig -d '{ "name": "projects/PROJECT_ID/cacheConfig", "disableCache": false }' # A successful response confirms that caching is turned on for the project. { "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_NUMBER}", "done": true, "response": { "@type": "type.googleapis.com/google.protobuf.Empty" } }
השבתת השמירה במטמון עמיד
מריצים את פקודת ה-curl הבאה כדי להשבית את השמירה במטמון לטווח ארוך ולהשאיר את השמירה במטמון בזיכרון בפרויקט Google Cloud . כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את התפקיד "אדמין של פלטפורמת הסוכנים" (roles/aiplatform.admin).
PROJECT_ID=PROJECT_ID # Setup project_id gcloud config set project PROJECT_ID # Turn off durable caching. curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \ -H "Content-Type: application/json" \ https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \ -d '{ "name": "projects/PROJECT_ID/cacheConfig", "disableCache": false, "retentionConfig": { "retentionType": "EPHEMERAL" } }' # A successful response confirms that durable caching is turned off and in-memory caching stays on. { "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}", "done": true, "response": { "@type": "type.googleapis.com/google.protobuf.Empty" } }
הפעלת שמירה במטמון עמיד
אם השבתתם את השמירה במטמון לטווח ארוך בפרויקט Google Cloud ואתם רוצים להפעיל אותה מחדש, הריצו את פקודת ה-curl הבאה. כדי להריץ את הפקודה הזו, צריך להקצות למשתמש את התפקיד "אדמין של פלטפורמת הסוכנים" (roles/aiplatform.admin).
PROJECT_ID=PROJECT_ID # Setup project_id gcloud config set project PROJECT_ID # Turn on durable caching. curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \ -H "Content-Type: application/json" \ https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \ -d '{ "name": "projects/PROJECT_ID/cacheConfig", "disableCache": false, "retentionConfig": { "retentionType": "DURABLE" } }' # A successful response confirms that durable caching is turned on for the project. { "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}", "done": true, "response": { "@type": "type.googleapis.com/google.protobuf.Empty" } }
מודלים של השותפים
אתם יכולים לבקש שלא יישמרו נתונים במודלים נתמכים של שותפים ב-Agent Platform.
המודלים המובילים של OpenAI
אפשר להשתמש ב-ZDR במודלים המובילים של OpenAI על בסיס פרויקטים שאושרו, אבל התכונה מושבתת כברירת מחדל. המודלים המובילים של OpenAI ממשפחות GPT Astra, Sol, Terra ו-Luna מוגדרים כ-AI מתקדם במסגרת הנספח בנושא בטיחות ב-AI מתקדם. מידע נוסף על בטיחות ומעקב אחרי ניצול לרעה במודלים האלה זמין במאמר מודלים מתקדמים של AI שלא שייכים ל-Google.
הנקודות הבאות מסכמות את התנהגות ברירת המחדל של הרישום ביומן ואת אופן הפעולה של ZDR כשהוא מופעל:
- מצב ברירת המחדל (ZDR מושבת): כברירת מחדל, ZDR מושבת במודלים המובילים של OpenAI ומוגדר ברמת הפרויקט ב- Google Cloud .
אישורים קיימים של ZDR ל-API הישיר של OpenAI לא חלים על Agent Platform, והגדרה של
store: falseבבקשות של Responses API לא מפעילה את ZDR ב-Agent Platform. כברירת מחדל,Google Cloud שומר הנחיות, קובצי קלט ותשובות למשך עד 30 ימים באחסון בבעלות Google במספר אזורים ב-us, לצורך מעקב אחרי בטיחות וניצול לרעה. נתוני הלקוחות אף פעם לא משמשים לאימון או לכוונון של מודלים. - איך ZDR פועל כשהוא מאושר: כש-ZDR מופעל בGoogle Cloud פרויקט Google Cloud מאושר, הוא מעבד בקשות בזמן אמת בלי לכתוב הנחיות, קובצי קלט או תשובות לדיסק אחסון מתמיד (persistent disk). ההנחיות, הקבצים שהלקוחות מזינים והתשובות של המודל לא נשמרים ביומני מעקב אחרי ניצול לרעה למשך 30 יום. כדי לצמצם את זמן האחזור, פלטפורמת Agent משתמשת בשמירת הנחיות במטמון בזיכרון נדיף (RAM בלבד), והנתונים שנשמרים במטמון נמחקים באופן אוטומטי תוך 24 שעות. Google Cloud ממשיכה לתעד מטא-נתונים תפעוליים ומטא-נתונים שקשורים לחיוב (כמו ספירת טוקנים ונתוני טלמטריה של זמן אחזור).
בקשה ואימות של ZDR
כדי לבקש ולאמת את ה-ZDR במודלים המובילים של OpenAI, פועלים לפי השלבים הבאים:
פונים ל Google Cloud צוות ניהול החשבון ומספקים את מזהי הפרויקטים ומספרי הפרויקטים שבהם נדרש ZDR. Google Cloud
צוות ניהול החשבון שלכם שולח את בקשת ה-ZDR ל-OpenAI לבדיקה ולאישור. אחרי ש-OpenAI מאשרת את הבקשה, Google Cloud מפעילה את הגדרת ה-ZDR בפרויקטים שאושרו, והיא מופצת לכל התשתית להצגת מודעות תוך 24 שעות.
במסוף Google Cloud , פותחים את Model Garden ועוברים לדף המודל של מודל OpenAI שמופעל בפרויקט שאושר, כדי לוודא ש-ZDR פעיל.
בודקים אם בכרטיס המודל מופיע באנר האישור Zero Data Retention active. בפרויקט ZDR פעיל, מושבתת האפשרות לתעד ביומן הבטיחות את ההנחיות, הקבצים שהוזנו והתשובות שנוצרו ב-30 הימים האחרונים, ואין יותר צורך לאשר את הנספח בנושא בטיחות מתקדמת ב-AI.
המאמרים הבאים
איך Gemini ל-Google Cloud משתמש בנתונים שלכם
איך Gemini ל-Google Cloud עומד בהתחייבות של Google לשמירה על הפרטיות בטכנולוגיות של AI גנרטיבי.