AI Protection 提供多种工具，可用于直观呈现组织的 AI 资产清单、调查安全发现，以及查看针对风险和威胁提出的缓解措施。本指南介绍了如何使用 AI 安全信息中心和“素材资源”页面管理 AI 安全。
准备工作
- 配置 AI Protection。
- 向访问 AI Security 信息中心和资产 > AI 资源标签页的用户授予所需的 Identity and Access Management (IAM) 角色。如需了解详情，请参阅必需的角色。
使用 AI Security 信息中心
借助 AI Security 信息中心，您可以直观呈现组织的 AI 资产清单，并查看针对风险和威胁提出的缓解措施。
访问 AI Security 信息中心
如需访问 AI 安全信息中心，请在 Google Cloud 控制台中前往风险概览 > AI 安全页面：
如需了解详情，请参阅 AI Security 信息中心。
了解 AI 系统的风险管理
本部分会识别 AI 系统的潜在风险，并显示 AI 资源中的最高风险。
如需查看特定问题的可视化图表和详细信息，请点击相应问题。
查看 AI 威胁
此部分重点展示了您的 AI 资源最近面临的威胁。
在本部分中，您可以执行以下操作：
- 如需查看 AI 资源面临的所有威胁，请点击查看全部。
- 如需查看特定威胁的详细信息，请点击相应威胁。
直观呈现您的 AI 清单
此部分直观地汇总了您的 AI 资产清单，包括使用生成式 AI 的项目、正在使用的第一方和第三方模型，以及用于训练第三方模型的数据集。
在本部分中，您可以执行以下操作：
- 如需查看有关媒体资源的详细信息，请点击可视化图表中的任意节点。
- 如需查看各个资产（例如 Gemini 模型和自定义构建的模型）的详细列表，请点击相应提示。
- 如需查看模型的详细信息，请点击相应模型。此视图会显示详细信息，例如模型托管的端点以及训练数据集。如果启用了 Sensitive Data Protection，数据集视图还会显示数据集是否包含敏感数据。
查看 AI 框架发现结果摘要
本部分可帮助您评估由 AI 安全政策和数据安全政策生成的发现结果。它包含以下卡片：
发现结果：此部分会显示 AI 安全政策和数据安全政策生成的发现结果摘要，例如
Gemini model detected和Gemini model not protected by Model Armor。- 如需查看所有发现结果，请点击查看所有发现结果。
- 如需查看特定类别的发现结果，请点击相应类别旁边的发现结果数量。
- 如需查看单个发现结果的详细信息，请点击相应发现结果。
Vertex AI 数据集中的敏感数据：显示 Sensitive Data Protection 报告的与数据集中的敏感数据相关的发现结果摘要。如需了解详情，请参阅 Gemini Enterprise Agent Platform 简介。
检查 Model Armor 发现结果
此部分会显示一个图表，其中包含 Model Armor 扫描的提示和回答总数，以及检测到的问题数量。该图表还提供特定问题类型的汇总统计信息，例如提示注入、越狱尝试和敏感数据暴露。
对于代理型工作负载，您可以在 Agent Gateway（预览版）上配置 Model Armor，以过滤发送给代理和从代理收到的提示和回答。
此图表使用 Model Armor 发布到 Cloud Monitoring 的指标。如需了解详情，请参阅 Model Armor 概览。
检查 AI 生成的资源
除了 AI 安全信息中心之外，您还可以使用Google Cloud 控制台中的资产页面上的 AI 资源标签页，检查和查询组织的 AI 资产清单。
AI 资源标签页提供了一个可过滤的详细视图，其中包含您发现的 AI 系统和资产，包括：
您可以使用 AI 资源标签页来获得以下方面的帮助：
- 了解 AI 清单：查看组织中所有有效 AI 资产的完整列表，并按项目、位置或资源类型进行过滤。
- 执行安全调查：检查特定 AI 资产的完整元数据、更改历史记录和关联的 IAM 政策。
- 检查相关发现结果：快速查看与特定 AI 资产相关的所有安全发现结果，以评估其风险敞口并确定必要的补救措施。
如需详细了解如何在控制台中查看和过滤 AI 资产，请参阅检查受 Security Command Center 监控的资产。
后续步骤
- 详细了解 AI Protection。
- 了解如何配置 AI Protection。
- 如需评估风险，请访问信息中心数据。