모니터링 대시보드 보기

Model Armor는 LLM 애플리케이션의 프롬프트와 대답을 검사합니다. 모니터링 대시보드는 이 스크리닝 프로세스에서 생성된 데이터, 측정항목, 시각화를 제공합니다. 이러한 통계를 사용하여 Model Armor가 AI 애플리케이션을 보호하고, 시도된 프롬프트 인젝션 또는 기타 악성 활동을 식별하는 방법을 파악하세요.

시작하기 전에

Model Armor 사용 설정

필수 권한

모니터링 대시보드에 액세스하는 데 필요한 권한을 얻으려면 관리자에게 프로젝트에 대한 IAM 역할을 부여해 달라고 요청하세요. 역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

이 사전 정의된 역할에는 모니터링 대시보드에 액세스하는 데 필요한 권한이 포함되어 있습니다. 필요한 정확한 권한을 보려면 필수 권한 섹션을 펼치세요.

필수 권한

모니터링 대시보드에 액세스하려면 다음 권한이 필요합니다.

  • monitoring.monitoredResourceDescriptors.list
  • monitoring.metricDescriptors.list

커스텀 역할이나 다른 사전 정의된 역할을 사용하여 이 권한을 부여받을 수도 있습니다.

모니터링 대시보드에 액세스

  1. Google Cloud 콘솔에서 Model Armor 페이지로 이동합니다.

    Model Armor로 이동

  2. Model Armor를 활성화한 프로젝트가 표시되었는지 확인합니다.

  3. Monitoring 탭으로 이동합니다.

이 페이지에서 다음을 수행할 수 있습니다.

  • 선택한 날짜 및 시간의 상호작용을 확인합니다.
  • 연결된 템플릿 또는 플로어 설정, 위치, 통합 지점, 입력 유형을 기반으로 상호작용을 필터링합니다.
  • 데이터를 PNG 또는 CSV 파일로 다운로드합니다.
  • 동향 차트를 사용하여 시간 경과에 따른 위반을 추적합니다.
  • 프로젝트 전반에서 사용되는 템플릿을 확인합니다.

  • 선택한 날짜 및 시간의 관련 로그를 검사합니다. 이렇게 하려면 차트 옵션 더보기 > 관련 로그 검사를 클릭합니다.

    관련 로그를 검사하려면 템플릿과 최소 기준 설정에서 로깅을 사용 설정해야 하며 로그를 볼 수 있는 IAM 권한이 있어야 합니다.

주요 측정항목

모니터링 대시보드의 주요 측정항목은 다음과 같습니다.

  • 스캔된 총 상호작용: Model Armor에서 분석한 프롬프트와 대답의 총량입니다.
  • 플래그가 지정된 상호작용: Model Armor 템플릿 또는 최소 기준 설정에서 구성된 정책을 하나 이상 위반한 상호작용 수입니다.
  • 차단된 상호작용: 차단된 상호작용 수입니다(검사 및 차단 모드에서 Model Armor를 구성한 경우).
  • 카테고리별 위반:
    • 모든 감지기: 모든 감지기에 의해 위반된 콘텐츠입니다.
    • 민감한 정보 위반: 개인 식별 정보(PII), 금융 데이터 또는 정의한 커스텀 데이터 유형이 있습니다.
    • 책임감 있는 AI: 증오심 표현, 위험한 콘텐츠, 괴롭힘, 음란물 등 안전 필터를 위반하는 콘텐츠입니다.

다음 단계