모니터링 대시보드 보기

Model Armor는 AI 애플리케이션의 프롬프트와 대답을 검사합니다. 모니터링 대시보드는 이 스크리닝 프로세스에서 생성된 데이터, 측정항목, 시각화를 제공합니다. 이러한 통계를 사용하여 Model Armor가 AI 애플리케이션을 보호하고, 시도된 프롬프트 인젝션 또는 기타 악성 활동을 식별하는 방법을 파악하세요.

시작하기 전에

Model Armor 사용 설정

필요한 역할

모니터링 대시보드에 액세스하는 데 필요한 권한을 얻으려면 관리자에게 프로젝트에 대한 Monitoring 뷰어 (roles/monitoring.viewer) IAM 역할을 부여해 달라고 요청하세요. 역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

이 사전 정의된 역할에는 모니터링 대시보드에 액세스하는 데 필요한 권한이 포함되어 있습니다. 필요한 정확한 권한을 보려면 필수 권한 섹션을 펼치세요.

필수 권한

모니터링 대시보드에 액세스하려면 다음 권한이 필요합니다.

  • monitoring.monitoredResourceDescriptors.list
  • monitoring.metricDescriptors.list

커스텀 역할이나 다른 사전 정의된 역할을 사용하여 이 권한을 부여받을 수도 있습니다.

모니터링 대시보드 보기

  1. Google Cloud 콘솔에서 Model Armor 페이지로 이동합니다.

    Model Armor로 이동

  2. Model Armor를 활성화한 프로젝트가 표시되었는지 확인합니다.

  3. Monitoring 탭으로 이동합니다.

신고되거나 차단된 상호작용 수 보기

모니터링 대시보드에서 신고된 상호작용과 차단된 상호작용을 포함한 상호작용 수를 확인합니다. 모니터링 대시보드에는 다음 측정항목이 표시됩니다.

  • 총 상호작용: Model Armor에서 분석한 프롬프트와 대답의 총개수입니다.
  • 플래그가 지정된 상호작용: Model Armor 템플릿 또는 최소 기준 설정에서 구성된 정책을 위반한 상호작용 수입니다.
  • 차단된 상호작용: INSPECT_AND_BLOCK 모드에서 Model Armor를 구성한 경우 차단된 상호작용 수입니다. 차단된 상호작용은 플로어 설정 또는 템플릿을 위반했습니다.

콘텐츠 보안 위반 모니터링

시간 경과에 따른 위반 차트에서 시간 경과에 따라 감지된 위반 수를 모니터링합니다.

감지된 위반사항은 다음 영역으로 분류됩니다.

이러한 감지기에 대한 자세한 내용은 Model Armor 필터를 참고하세요.

보기에 필터 적용

모니터링 대시보드에 이러한 필터를 적용하면 모니터링 대시보드의 모든 뷰가 선택한 기준에 따라 필터링됩니다.

  • 템플릿/최소 기준 설정: 연결된 템플릿 또는 최소 기준 설정을 기반으로 뷰를 필터링합니다.
  • 통합 지점: Model Armor 통합을 기반으로 뷰를 필터링합니다.
  • 위치: 상호작용이 처리된 위치를 기준으로 보기를 필터링합니다.
  • 입력 유형: 평가된 입력 유형(프롬프트 또는 대답)을 기준으로 뷰를 필터링합니다.

모니터링 대시보드의 데이터와 관련된 로그 항목을 살펴보려면 템플릿과 최소 기준 설정에서 로깅을 사용 설정하세요. 로그를 보기 위해 필요한 IAM 역할이 있어야 합니다.

선택한 기간의 로그를 검사하려면 모니터링 대시보드에서 차트 옵션 더보기 > 관련 로그 검사를 클릭합니다.

위반 데이터를 PNG 또는 CSV 파일로 다운로드

위반 데이터를 PNG 또는 CSV 파일로 다운로드하려면 다음 단계를 따르세요.

  1. 모니터링 대시보드의 시간별 위반사항 뷰에서 데이터를 다운로드할 기간을 선택합니다.
  2. 차트 옵션 더보기 > 다운로드를 클릭합니다.
  3. PNG 다운로드 또는 CSV 다운로드를 클릭하여 원하는 형식으로 데이터를 다운로드합니다.

다음 단계