监控滥用行为

如 Google Cloud Platform 服务条款的第 4.3 条“生成式 AI 安全和滥用”中所述，Google 在向客户提供生成式 AI 服务时，会使用以下流程来检测潜在的滥用行为以及违反其使用限制政策和限制使用政策的行为。

  • 自动检测：Google 使用自动安全分类器来检测潜在的滥用行为和违规行为。如需详细了解安全分类器的工作原理，请参阅配置安全过滤条件。
  • 提示日志记录：如果自动安全分类器检测到可疑活动，需要进一步调查客户是否违反了我们的政策，Google 可能会记录客户提示，但仅用于检查是否违反了《使用限制政策》或《限制使用政策》。这些数据不会用于训练或微调任何 AI/机器学习模型。这些数据会安全地存储在客户为其项目选择的同一单区域或多区域中，最长存储期限为 30 天，并遵循诸如数据驻留、Access Transparency 和 VPC Service Controls 等 Google Cloud 保障措施。客户也可以选择申请停用滥用行为日志记录功能（请参阅下文）。
  • 操作：获得授权的 Google 员工可能会评估被标记的提示，并且可能会与客户联系以确认问题。如果未能解决此类行为（或者此类行为反复出现亦或属于严重滥用行为），可能会导致客户对 Vertex AI 或 Google Cloud 服务的访问权限被暂停或终止。
  • 适用服务：Vertex AI API（当用于调用 Google 大语言模型时）。
  • 适用客户：只有使用 Google Cloud 受 Google Cloud Platform 服务条款约束且没有 Cloud Billing 账单结算账号（离线）的客户才需要记录提示以监控滥用行为。
  • 客户选择停用：客户可以填写此表单来申请豁免。若申请获批，Google 将不会存储与获批的Google Cloud 账号相关联的任何提示。

后续步骤