תוכנית אימות סייבר ל-Claude

חברת Anthropic מיישמת אמצעי הגנה מפני איומי סייבר בזמן אמת במודלים המתקדמים של Claude כדי למנוע שימוש לרעה בפעולות סייבר זדוניות. התוכנית לאימות סייבר (CVP) של Anthropic היא מסגרת מהימנה שמאפשרת לארגונים מאומתים להשתמש במודלים של Claude למשימות לגיטימיות של הגנה על הסייבר, בלי הגבלות ברירת המחדל על שימוש כפול.

במאמר הזה מוסבר איך CVP פועל ב-Gemini Enterprise Agent Platform, אילו מודלים נתמכים ואיך נרשמים ומגדירים מודלים לפרויקט.

איך פועלות אמצעי הגנה מפני איומי סייבר

מסווגי ההערכה בזמן אמת של Anthropic בודקים הנחיות והשלמות כדי להגן מפני סיכונים שקשורים לאבטחת סייבר. אמצעי ההגנה האלה מסווגים את הפעילויות לשתי רמות:

  • שימוש אסור: פעילויות זדוניות בסיכון גבוה שאין להן שימוש הגנתי לגיטימי, או שיש להן שימוש כזה במידה מועטה בלבד, כמו פיתוח תוכנות כופר, יצירת תשתית של שליטה ובקרה (C2), יצירת תוכנות זדוניות או חילוץ אוטומטי של נתונים בכמות גדולה. פעילויות אסורות נחסמות לצמיתות לכל המשתמשים. תוכנית האימות של סייבר אף פעם לא מסירה הגבלות על פעילויות אסורות.
  • שימוש כפול בסיכון גבוה: פעילויות שחיוניות לפעולות אבטחה מורשות, אבל ששחקנים זדוניים יכולים גם לנצל לרעה. דוגמאות: גילוי פגיעויות, ניתוח של ניצול לרעה, אימות של ניצול לרעה של הוכחת היתכנות, בדיקות חדירה וסימולציה של נתיבי תקיפה של יריבים. פעילויות לשימוש כפול חסומות כברירת מחדל, אבל ארגונים מאומתים יכולים לשנות את אמצעי ההגנה האלה באמצעות תוכנית האימות הקיברנטי.

מידע נוסף על מדיניות השימוש של Anthropic זמין במאמר בנושא אמצעי הגנה מפני איובר סייבר בזמן אמת ב-Claude.

מודלים נתמכים

תוכנית האימות של סייבר ב-Agent Platform תומכת במודלים הבאים של Anthropic:

  • ‫Claude Opus 4.7,‏ Claude Opus 4.8 ו-Claude Sonnet 5: נדרש להפעיל תכונות מתקדמות מבוססות-AI (advancedAiEnabled: true).
  • ‫Claude Opus 5 ו-Claude Opus 5.5: נדרשת הפעלה של תכונות מתקדמות מבוססות-AI (advancedAiEnabled: true) ושיתוף נתונים עם Anthropic (dataSharingEnabledProvider: ANTHROPIC).

לפני שמתחילים

לפני ההרשמה לתוכנית האימות של סייבר, חשוב לוודא שאתם עומדים בדרישות המוקדמות הבאות:

  • Google Cloud פרויקט שבו מופעל Agent Platform API.

  • הרשאות ניהול הזהויות והרשאות הגישה (IAM) הבאות בפרויקט:

    • כדי לאשר את נספח הבטיחות המתקדם של AI: aiplatform.consents.update, שכלול בתפקיד Agent Platform Administrator (roles/aiplatform.admin).
    • כדי להגדיר את ההגדרות של מודל בעל האפליקציה: aiplatform.endpoints.setPublisherModelConfig, שכלול בתפקיד אדמין של Agent Platform (roles/aiplatform.admin).

  • הסבר על שמירת נתונים: רישום מודל ל-CVP מסמן את המודל כ-"AI מתקדם" במסגרת הנספח של Google בנושא בטיחות AI מתקדם. בהתאם למדיניות הבטיחות של Anthropic, הנחיות ותשובות שנשלחות למודלים עם CVP נשמרות למטרות מעקב אחר ניצול לרעה למשך עד 30 ימים. מידע נוסף זמין במאמר בנושא בטיחות מתקדמת של AI.

  • הסכמה לשיתוף נתונים (Claude Opus 5 ו-Claude Opus 5.5 בלבד): כדי להשתמש ב-Claude Opus 5 וב-Claude Opus 5.5 עם CVP, ‏ Anthropic דורשת להפעיל שיתוף נתונים לצורך מעקב אחר שימוש לרעה. כדי להירשם לשימוש במודלים האלה, צריך להסכים לשמירת נתונים ולהגדיר שיתוף נתונים עם Anthropic. מידע נוסף זמין במאמר בנושא רישום ושיתוף של בקשות ותגובות.

איך נרשמים

ההרשמה לתוכנית אימות הסייבר ב-Agent Platform היא תהליך שכולל שלושה שלבים:

  1. מאשרים את הנספח בנושא בטיחות AI מתקדם במסוףGoogle Cloud .
  2. ממלאים את טופס הבקשה של Anthropic לתרחיש שימוש בסייבר.
  3. מפעילים AI מתקדם בכל מודל יעד ובכל מיקום באמצעות setPublisherModelConfig API. אם משתמשים ב-Claude Opus 5 או ב-Claude Opus 5.5, צריך להפעיל שיתוף נתונים.

שלב 1: אישור הנספח בנושא בטיחות מתקדמת של AI

אדמין מורשה צריך לאשר את הנספח בנושא בטיחות מתקדמת של AI פעם אחת Google Cloud לכל פרויקט.

כדי לאשר את הנספח:

  1. במסוף Google Cloud , עוברים אל Model Garden.

    כניסה ל-Model Garden

  2. בוחרים מודל Claude שעומד בדרישות. רשימת המודלים הנתמכים

  3. בדף פרטי המודל, מאתרים את הכרטיס Cyber Verification Program (Optional).

  4. לוחצים על שלבים להרשמה כדי להרחיב את רשימת המשימות להרשמה.

  5. בשלב 1: אישור הנספח בנושא בטיחות מתקדמת של AI, קוראים את הנספח ומסמנים את תיבת האישור כדי לציין שיש לכם הרשאה לחייב את הארגון שלכם בנספח.

  6. לוחצים על Accept.

שלב 2: ממלאים את הטופס של Anthropic לתרחיש שימוש בסייבר

נציג מורשה מצוות האבטחה שלכם צריך לשלוח בקשה ישירות אל Anthropic:

  1. עוברים אל הטופס של Anthropic בנושא מקרה שימוש בסייבר.
  2. בקטע Surface, בוחרים באפשרות Google Cloud.
  3. מזינים את המידע הנדרש.
  4. תארו את תהליכי העבודה שלכם בתחום אבטחת המידע ואת תרחישי השימוש (לדוגמה, בדיקות חדירה מורשות, מחקר פגיעויות או פעולות אבטחה).
  5. שולחים את הטופס.

שלב 3: מפעילים AI מתקדם במודל

אחרי שתאשרו את הנספח בנושא בטיחות מתקדמת של AI ותקבלו אישור מ-Anthropic, תצטרכו להגדיר את ההגדרות הנדרשות בכל מודל Claude שבו אתם רוצים להשתמש לצורך עבודה בתחום הסייבר ההגנתי. ההגדרה צריכה לחול על כל פרויקט, מיקום, מוציא לאור ומודל.

‫Claude Opus 4.7,‏ Claude Opus 4.8 ו-Claude Sonnet 5

מתקשרים אל נקודת הקצה setPublisherModelConfig ב-v1beta1 כדי להפעיל את: advancedAiEnabled

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      }
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled"
  }'

מחליפים את מה שכתוב בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט ב- Google Cloud .
  • ‫MODEL_ID: מזהה מודל Claude (לדוגמה, claude-opus-4-8 או claude-sonnet-5).

‫Claude Opus 5 ו-Claude Opus 5.5

כדי להשתמש ב-Claude Opus 5 וב-Claude Opus 5.5, ‏ Anthropic דורשת להפעיל גם את advancedAiEnabled וגם את שיתוף הנתונים עם Anthropic‏ (dataSharingEnabledProvider):

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      },
      "dataSharingEnabledProvider": "ANTHROPIC"
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled,dataSharingEnabledProvider"
  }'

מחליפים את מה שכתוב בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט ב- Google Cloud .
  • ‫MODEL_ID: מזהה מודל Claude ‏ (claude-opus-5 או claude-opus-5-5).

שיקולים חשובים לשימוש ב-API

  • שימוש ב-v1beta1: השיטה setPublisherModelConfig נתמכת בממשק v1beta1 API.
  • תמיד צריך לכלול את updateMask: השדה updateMask הוא חובה. אם לא מציינים את updateMask, הקריאה מחליפה את כל האובייקט PublisherModelConfig, וכך מנקה בטעות הגדרות אחרות כמו loggingConfig או dataSharingEnabledProvider.
  • פעולה ממושכת: השיטה הזו מחזירה google.longrunning.Operation. דוגמים את הפעולה עד שמוחזר הערך done: true.
  • היקף ההגדרה: ההגדרות של מודלים של בעלי תוכן דיגיטלי מוגדרות לפי פרויקט, מיקום, בעל תוכן דיגיטלי ומודל. אם אתם משתמשים במודלים בכמה אזורים, אתם צריכים להגדיר כל נקודת קצה.

אימות הגדרת המודל

כדי לוודא שה-AI המתקדם מופעל במודל ספציפי, קוראים לשיטה fetchPublisherModelConfig:

curl -X GET \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:fetchPublisherModelConfig"

אם מופעלת בינה מלאכותית מתקדמת עבור Claude Opus 4.7,‏ Claude Opus 4.8 ו-Claude Sonnet 5, התשובה היא:

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  }
}

אם מופעל AI מתקדם ב-Claude Opus 5 או ב-Claude Opus 5.5, התשובה תהיה כדלקמן:

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  },
  "dataSharingEnabledProvider": "ANTHROPIC"
}

פתרון בעיות

בקטע הזה מוסבר איך לפתור בעיות נפוצות שאתם עשויים להיתקל בהן במהלך ההרשמה לתוכנית לאימות סייבר או במהלך השימוש בה.

הבקשות עדיין חסומות במשימות שקשורות לאבטחת סייבר

אם ההנחיות שלכם ממשיכות להפעיל דחיות של אמצעי ההגנה:

  1. מאשרים את קטגוריית הפעילות: מוודאים שהמשימה היא משימה לגיטימית לשימוש כפול ולא מקרה שימוש אסור. פעילויות אסורות (כמו כתיבת קוד של תוכנת כופר או פיתוח תוכנות זדוניות) נחסמות לצמיתות לכל המשתמשים, ואי אפשר לבטל את החסימה במסגרת CVP.
  2. אימות האישור של Anthropic: מוודאים ש-Anthropic שלחה אישור באימייל לבקשת ה-CVP של הארגון.
  3. בדיקת ההתאמה של הפרויקט: צריך לוודא שבקשות ההסקה מגיעות מאותו מזהה פרויקט Google Cloud שצוין בבקשה ל-Anthropic ושבגינו אושר התיקון.
  4. אישור ההגדרה ברמת המודל: מתקשרים אל fetchPublisherModelConfig עם מזהה המודל המדויק והאזור שאליו מתקשרים כדי לאשר ש-advancedAiEnabled: true פעיל (ו-dataSharingEnabledProvider: ANTHROPIC עבור Claude Opus 5 ו-Claude Opus 5.5). הגדרות המודל מוגבלות לכל מודל, לכל מיקום ולכל פרויקט.
  5. שליחת ערעור על תוצאת סיווג שגויה: אם לדעתכם הנחיה לגיטימית להגנה נחסמת בטעות, אתם יכולים לשלוח ערעור באמצעות הטופס של Anthropic לדיווח על חסימה וערעור.

ההרשאה נדחתה כשאישרתם את הנספח

אם אתם מקבלים שגיאת הרשאה כשאתם מנסים לאשר את התיקון ב-Model Garden, אתם צריכים לוודא שיש לחשבון שלכם הרשאה מסוג aiplatform.consents.update. צריך לפנות לאדמין של הפרויקט כדי להקצות את התפקיד Agent Platform Administrator ‏ (roles/aiplatform.admin).

שדות חסרים בתגובות של API

אם הקריאה ל-fetchPublisherModelConfig מחזירה אובייקט ריק ({}), לא הוחלו על המודל הזה הגדרות מותאמות אישית של מודל לבעלי תוכן דיגיטלי. מריצים מחדש את הפקודה setPublisherModelConfig עם updateMask המתאים.

המאמרים הבאים