AI 보안 검토

AI 보호는 조직의 AI 애셋 인벤토리를 시각화하고, 보안 발견 항목을 조사하고, 위험 및 위협에 대한 제안된 완화 방법을 검토하는 도구를 제공합니다. 이 가이드에서는 AI 보안 대시보드와 애셋 페이지를 사용하여 AI 보안을 관리하는 방법을 설명합니다.

시작하기 전에

  • AI 보호를 구성합니다.
  • AI 보안 대시보드 및 애셋 > AI 리소스 탭에 액세스하는 사용자에게 필요한 Identity and Access Management (IAM) 역할을 부여합니다. 자세한 내용은 필요한 역할을 참조하세요.

AI 보안 대시보드 사용

AI 보안 대시보드를 사용하면 조직의 AI 애셋 인벤토리를 시각화하고 위험 및 위협에 대한 제안된 완화 방법을 검토할 수 있습니다.

AI 보안 대시보드 액세스

AI 보안 대시보드에 액세스하려면 Google Cloud 콘솔에서 위험 개요 > AI 보안 페이지로 이동합니다.

AI 보안으로 이동

자세한 내용은 AI 보안 대시보드를 참조하세요.

AI 시스템의 위험 관리 이해

이 섹션에서는 AI 시스템의 잠재적 위험을 식별하고 AI 인벤토리의 주요 위험을 표시합니다.

특정 문제의 시각화 및 세부정보를 보려면 문제를 클릭합니다.

AI 위협 보기

이 섹션에서는 AI 리소스에 대한 최신 위협을 강조표시합니다.

이 섹션에서는 다음 작업을 할 수 있습니다.

  • AI 리소스에 대한 모든 위협을 보려면 모두 보기 를 클릭합니다.
  • 특정 위협에 대한 자세한 정보를 보려면 위협을 클릭합니다.

AI 인벤토리 시각화

이 섹션에서는 생성형 AI를 사용하는 프로젝트, 활성 퍼스트 파티 및 서드 파티 모델, 서드 파티 모델 학습에 사용되는 데이터 세트를 비롯한 AI 애셋 인벤토리의 시각적 요약을 제공합니다.

이 섹션에서는 다음 작업을 할 수 있습니다.

  • 인벤토리에 대한 세부정보를 보려면 시각화에서 노드를 클릭합니다.
  • 개별 애셋 (예: Gemini 모델, 커스텀 빌드 모델)의 자세한 목록을 보려면 도움말을 클릭합니다.
  • 모델에 대한 세부정보를 보려면 모델을 클릭합니다. 여기에는 모델이 호스팅되는 엔드포인트 및 학습 데이터 세트와 같은 세부정보가 표시됩니다. Sensitive Data Protection이 사용 설정된 경우 데이터 세트 보기에도 데이터 세트에 민감한 정보가 포함되어 있는지 표시됩니다.

AI 프레임워크 발견 사항 요약 검토

이 섹션에서는 AI 보안 정책 및 데이터 보안 정책에서 생성된 발견 사항을 평가하는 데 도움이 됩니다. 다음 카드가 포함되어 있습니다.

  • 발견 사항: 이 섹션에는 AI 보안 정책 및 데이터 보안 정책에서 생성된 발견 사항 요약(예: Gemini model detected, Gemini model not protected by Model Armor)이 표시됩니다.

    • 모든 발견 사항을 보려면 모든 발견 사항 보기 를 클릭합니다.
    • 특정 카테고리의 발견 사항을 보려면 해당 카테고리 옆에 있는 발견 사항 수를 클릭합니다.
    • 개별 발견 항목의 세부정보를 보려면 발견 항목을 클릭합니다.

  • Vertex AI 데이터 세트의 민감한 정보: Sensitive Data Protection에서 보고한 대로 데이터 세트의 민감한 정보와 관련된 발견 사항 요약을 표시합니다. 자세한 내용은 Gemini Enterprise 에이전트 플랫폼 소개를 참조하세요.

Model Armor 발견 사항 검토

이 섹션에는 Model Armor에서 스캔한 프롬프트 및 응답의 총 개수와 감지된 문제 수가 그래프로 표시됩니다. 그래프에는 프롬프트 인젝션, 탈옥 시도, 민감한 정보 노출과 같은 특정 문제 유형에 대한 요약 통계도 제공됩니다.

에이전트 워크로드의 경우 에이전트 게이트웨이 (미리보기)에서 Model Armor를 구성하여 에이전트 간의 프롬프트와 응답을 검사할 수 있습니다.

이 그래프는 Model Armor가 Cloud Monitoring에 게시하는 측정항목을 사용합니다. 자세한 내용은 Model Armor 개요를 참조하세요.

AI 리소스 검사

AI 보안 대시보드 외에도 콘솔의 애셋 페이지에서 Google Cloud AI 리소스 탭을 사용하여 조직의 AI 애셋 인벤토리를 검사하고 쿼리할 수 있습니다.

AI 리소스 탭은 다음과 같은 검색된 AI 시스템 및 애셋의 필터링 가능한 세부 뷰를 제공합니다.

  • 모델
  • 엔드포인트
  • 데이터 소스
  • 파이프라인
  • 에이전트 (미리보기)
  • 모델 컨텍스트 프로토콜 (MCP) 서버 (미리보기)
  • Notebooks

AI 리소스 탭을 사용하여 다음 작업을 할 수 있습니다.

  • AI 인벤토리 파악: 프로젝트, 위치 또는 리소스 유형별로 필터링된 조직 전체의 활성 AI 애셋의 포괄적인 목록을 확인합니다.
  • 보안 조사 수행: 특정 AI 애셋의 전체 메타데이터, 변경 내역, 연결된 IAM 정책을 검토합니다.
  • 관련 발견 항목 검토: 특정 AI 애셋과 연결된 모든 보안 발견 항목을 빠르게 확인하여 위험 노출을 평가하고 필요한 수정 단계를 결정합니다.

콘솔에서 AI 애셋을 보고 필터링하는 방법에 대한 자세한 내용은 Security Command Center에서 모니터링하는 애셋 검사를 참조하세요.

다음 단계