AI 보호는 조직 또는 프로젝트의 AI 애셋 인벤토리를 시각화하고, 보안 발견 사항을 조사하고, 위험 및 위협에 대한 제안된 완화 방법을 검토하는 도구를 제공합니다. 이 가이드에서는 AI 보안 대시보드와 애셋 페이지를 사용하여 AI 보안을 관리하는 방법을 설명합니다.
Security Command Center 서비스 등급은 AI 보안 대시보드와 애셋 페이지의 AI 리소스 탭에서 사용할 수 있는 기능을 결정합니다. 각 서비스 등급에서 사용할 수 있는 기능에 대한 자세한 내용은 AI 보호 개요를 참고하세요.
시작하기 전에
- AI 보호 구성
- AI 보안 대시보드 및 애셋 > AI 리소스 탭에 액세스하는 사용자에게 필요한 ID 및 액세스 관리 (IAM) 역할을 부여합니다. 자세한 내용은 필요한 역할을 참조하세요.
AI 보안 대시보드 사용
AI 보안 대시보드를 사용하면 조직 또는 프로젝트의 AI 애셋 인벤토리를 시각화하고 위험 및 위협에 대한 제안된 완화 방법을 검토할 수 있습니다.
AI 보안 대시보드 액세스
AI 보안 대시보드에 액세스하려면 Google Cloud 콘솔에서 위험 개요 > AI 보안 페이지로 이동합니다.
자세한 내용은 AI 보안 대시보드를 참조하세요.
AI 시스템의 위험 관리 이해
이 섹션에서는 AI 시스템의 잠재적 위험을 식별하고 AI 인벤토리의 주요 위험을 표시합니다.
특정 문제의 시각화 및 세부정보를 보려면 문제를 클릭합니다.
AI 위협 보기
이 섹션에서는 AI 리소스에 대한 최신 위협을 강조표시합니다.
이 섹션에서는 다음 작업을 할 수 있습니다.
- AI 리소스에 대한 모든 위협을 보려면 모두 보기 를 클릭합니다.
- 특정 위협에 대한 세부정보를 보려면 위협을 클릭합니다.
AI 인벤토리 시각화
이 섹션에서는 생성형 AI를 사용하는 프로젝트, 활성 커스텀 모델 (프리미엄 및 엔터프라이즈 (지원 중단) 서비스 등급의 Gemini 모델), 서드 파티 모델 학습에 사용되는 데이터 세트를 비롯한 AI 애셋 인벤토리의 시각적 요약을 제공합니다.
이 섹션에서는 다음 작업을 할 수 있습니다.
- 인벤토리에 대한 세부정보를 보려면 시각화에서 노드를 클릭합니다.
- 개별 애셋의 세부 목록을 보려면 도움말을 클릭합니다. 이 목록에는 커스텀 빌드 모델 또는 Gemini 모델 (프리미엄 및 엔터프라이즈 (지원 중단) 서비스 등급에서 사용 가능)이 포함됩니다.
- 모델에 대한 세부정보를 보려면 모델을 클릭합니다. 여기에는 모델이 호스팅되는 엔드포인트 및 학습 데이터 세트와 같은 세부정보가 표시됩니다. Sensitive Data Protection이 사용 설정된 경우 데이터 세트 보기에 해당 데이터 세트가 민감한 정보를 포함하는지도 표시됩니다.
AI 프레임워크 발견 사항 요약 검토
이 섹션은 AI 보안 정책 및 데이터 보안 정책에서 생성된 발견 사항을 평가하는 데 도움이 됩니다. 여기에는 다음 카드가 포함됩니다.
발견 사항: 이 섹션에는 AI 보안 정책 및 데이터 보안 정책에서 생성된 발견 사항 요약이 표시됩니다 (예:
Gemini model detected및Gemini model not protected by Model Armor). Gemini 모델과 관련된 발견 사항은 프리미엄 및 엔터프라이즈 (지원 중단) 서비스 등급에서 사용할 수 있습니다.- 모든 발견 사항을 보려면 모든 발견 사항 보기 를 클릭합니다.
- 특정 카테고리의 발견 사항을 보려면 해당 카테고리 옆에 있는 발견 사항 수를 클릭합니다.
- 개별 발견 사항에 대한 세부정보를 보려면 발견 사항을 클릭합니다.
Vertex AI 데이터 세트의 민감한 정보: Sensitive Data Protection에서 보고한 대로 데이터 세트의 민감한 정보와 관련된 발견 사항 요약을 표시합니다. 자세한 내용은 Introduction to Gemini Enterprise Agent Platform을 참고하세요.
Model Armor 발견 사항 검토
이 섹션에는 Model Armor에서 스캔한 프롬프트 및 응답의 총 개수와 감지된 문제 수가 그래프로 표시됩니다. 그래프에는 프롬프트 인젝션, 탈옥 시도, 민감한 정보 노출과 같은 특정 문제 유형에 대한 요약 통계도 제공됩니다.
에이전트 워크로드의 경우 에이전트 게이트웨이에서 Model Armor를 구성하여 에이전트 간의 프롬프트와 응답을 검사할 수 있습니다.
이 그래프는 Model Armor가 Cloud Monitoring에 게시하는 측정항목을 사용합니다. 자세한 내용은 Model Armor 개요를 참조하세요.
Agent Platform 취약점 평가 발견 사항 검토
Agent Platform 취약점 평가에서 생성된 발견 사항에는 보안 비밀의 위치와 유형에 대한 정보가 포함되지만 보안 비밀 값은 포함되지 않습니다.
Agent Platform 취약점 평가에서 생성된 발견 사항을 검토하려면 다음 단계를 따르세요.
-
Google Cloud 콘솔에서 Security Command Center의 발견 사항 페이지로 이동합니다.
- 프로젝트 Google Cloud 또는 조직을 선택합니다.
- 빠른 필터 섹션의 클래스 하위 섹션에서 보안 비밀 을 선택합니다. 일치하는 발견 사항만 표시되도록 쿼리 결과가 업데이트됩니다.
- 특정 발견 사항의 세부정보를 보려면 카테고리 열에서 발견 사항 이름을 클릭합니다. 발견 사항의 세부정보 패널이 열리고 요약 탭이 표시됩니다.
- 요약 탭의 감지됨 섹션에서
설명을 확인한 후 다음 링크를 클릭하여 자세한 내용을 확인합니다.
- 파일: 보안 비밀이 발견된 위치에 대한 정보를 확인합니다.
- 보안 비밀 세부정보 보기: 식별된 보안 비밀의 유형을 확인합니다.
AI 리소스 검사
AI 보안 대시보드 외에도 콘솔의 Google Cloud 애셋 페이지에서 AI 리소스 탭을 사용하여 조직 또는 프로젝트의 AI 애셋 인벤토리를 검사하고 쿼리할 수 있습니다.
AI 리소스 탭은 다음과 같은 검색된 AI 시스템 및 애셋의 필터링 가능한 세부 뷰를 제공합니다.
- 모델
- 엔드포인트
- 데이터 소스
- 파이프라인
- 에이전트
- 모델 컨텍스트 프로토콜 (MCP) 서버
- 노트북
AI 리소스 탭을 사용하여 다음 작업을 할 수 있습니다.
- AI 인벤토리 파악: 조직 또는 프로젝트 전반에서 활성 AI 애셋의 포괄적인 목록을 프로젝트, 위치 또는 리소스 유형별로 필터링하여 확인합니다.
- 보안 조사 수행: 특정 AI 애셋의 전체 메타데이터, 변경 내역, 연결된 IAM 정책을 검토합니다.
- 관련 발견 사항 검토: 특정 AI 애셋과 연결된 모든 보안 발견 사항을 빠르게 확인하여 위험 노출을 평가하고 필요한 수정 단계를 결정합니다.
콘솔에서 AI 애셋을 보고 필터링하는 방법에 대한 자세한 내용은 Security Command Center에서 모니터링하는 애셋 검사를 참고하세요.