AI Protection은 조직 또는 프로젝트의 AI 애셋 인벤토리를 시각화하고, 보안 결과를 조사하고, 위험 및 위협에 대한 제안된 완화 방법을 검토하는 도구를 제공합니다. 이 가이드에서는 AI 보안 대시보드와 애셋 페이지를 사용하여 AI 보안을 관리하는 방법을 설명합니다.
Security Command Center 서비스 등급에 따라 AI 보안 대시보드와 애셋 페이지의 AI 리소스 탭에서 사용할 수 있는 기능이 결정됩니다. 각 서비스 등급에서 사용할 수 있는 기능에 대한 자세한 내용은 AI 보호 개요를 참고하세요.
시작하기 전에
- AI 보호 구성
- AI 보안 대시보드 및 애셋 > AI 리소스 탭에 액세스하는 사용자에게 필요한 Identity and Access Management (IAM) 역할을 부여합니다. 자세한 내용은 필요한 역할을 참고하세요.
AI 보안 대시보드 사용
AI 보안 대시보드를 사용하면 조직 또는 프로젝트의 AI 애셋 인벤토리를 시각화하고 위험 및 위협에 대한 제안된 완화 방법을 검토할 수 있습니다.
AI 보안 대시보드 액세스
AI 보안 대시보드에 액세스하려면 Google Cloud 콘솔에서 위험 개요 > AI 보안 페이지로 이동합니다.
자세한 내용은 AI 보안 대시보드를 참조하세요.
AI 시스템의 위험 관리 이해
이 섹션에서는 AI 시스템의 잠재적 위험을 식별하고 AI 인벤토리의 주요 위험을 표시합니다.
특정 문제의 시각화 및 세부정보를 보려면 문제를 클릭합니다.
AI 위협 보기
이 섹션에서는 AI 리소스에 대한 최신 위협을 강조합니다.
이 섹션에서는 다음 작업을 할 수 있습니다.
- AI 리소스에 대한 모든 위협을 보려면 모두 보기를 클릭합니다.
- 특정 위협에 대한 자세한 정보를 보려면 위협을 클릭합니다.
AI 인벤토리 시각화
이 섹션에서는 생성형 AI를 사용하는 프로젝트, 활성 상태의 맞춤 모델 (Premium 및 Enterprise (지원 중단) 서비스 등급의 경우 Gemini 모델) 및 서드 파티 모델을 학습하는 데 사용되는 데이터 세트를 비롯한 AI 애셋 인벤토리를 시각적으로 요약하여 보여줍니다.
이 섹션에서는 다음 작업을 할 수 있습니다.
- 인벤토리에 관한 세부정보를 보려면 시각화에서 노드를 클릭합니다.
- 도움말을 클릭하면 개별 애셋의 자세한 목록을 볼 수 있습니다. 이 목록에는 맞춤 모델 또는 Gemini 모델 (프리미엄 및 엔터프라이즈 (지원 중단됨) 서비스 등급에서 사용 가능)이 포함됩니다.
- 모델에 대한 세부정보를 보려면 모델을 클릭합니다. 이 뷰에는 모델이 호스팅되는 엔드포인트 및 학습 데이터 세트와 같은 세부정보가 표시됩니다. Sensitive Data Protection이 사용 설정된 경우 데이터 세트 보기에 데이터 세트에 민감한 정보가 포함되어 있는지도 표시됩니다.
AI 프레임워크 발견 사항 요약 검토
이 섹션에서는 AI 보안 정책 및 데이터 보안 정책에서 생성된 발견 사항을 평가하는 방법을 설명합니다. 여기에는 다음 카드가 포함됩니다.
발견 사항: 이 섹션에는 AI 보안 정책 및 데이터 보안 정책에서 생성된 발견 사항 요약이 표시됩니다 (예:
Gemini model detected및Gemini model not protected by Model Armor. Gemini 모델과 관련된 발견 사항은 프리미엄 및 엔터프라이즈 (지원 중단됨) 서비스 등급에서 사용할 수 있음).- 모든 발견 사항을 보려면 모든 발견 사항 보기를 클릭합니다.
- 특정 카테고리의 발견 항목을 보려면 해당 카테고리 옆에 있는 발견 항목 수를 클릭합니다.
- 개별 발견 항목의 세부정보를 보려면 발견 항목을 클릭합니다.
Vertex AI 데이터 세트의 민감한 정보: Sensitive Data Protection에서 보고한 데이터 세트의 민감한 정보와 관련된 발견 사항의 요약을 표시합니다. 자세한 내용은 Gemini Enterprise Agent Platform 소개를 참고하세요.
Model Armor 발견 사항 검토
이 섹션에는 Model Armor에서 스캔한 프롬프트 및 대답의 총 개수와 감지된 문제 수가 그래프로 표시됩니다. 그래프에는 프롬프트 인젝션, 탈옥 시도, 민감한 정보 노출과 같은 특정 문제 유형에 대한 요약 통계도 표시됩니다.
에이전트형 워크로드의 경우 에이전트 게이트웨이에서 Model Armor를 구성하여 에이전트 간 프롬프트와 응답을 검사할 수 있습니다.
이 그래프는 Model Armor가 Cloud Monitoring에 게시하는 측정항목을 사용합니다. 자세한 내용은 Model Armor 개요를 참고하세요.
Agent Platform 취약점 평가 발견 항목 검토
에이전트 플랫폼 취약점 평가에서 생성된 발견 항목에는 보안 비밀의 위치와 유형에 관한 정보가 포함되지만 보안 비밀 값은 포함되지 않습니다.
Agent Platform Vulnerability Assessment에서 생성된 발견 항목을 검토하려면 다음 단계를 따르세요.
-
Google Cloud 콘솔에서 Security Command Center의 발견 사항 페이지로 이동합니다.
- Google Cloud 프로젝트 또는 조직을 선택합니다.
- 빠른 필터 섹션의 클래스 하위 섹션에서 Secrets를 선택합니다. 일치하는 발견 항목만 표시되도록 쿼리 결과가 업데이트됩니다.
- 특정 발견 항목의 세부정보를 보려면 카테고리 열에서 발견 항목 이름을 클릭합니다. 발견 항목의 세부정보 패널이 열리고 요약 탭이 표시됩니다.
- 요약 탭의 감지됨 섹션에서 설명을 확인한 후 다음 링크를 클릭하여 자세한 내용을 확인합니다.
- 파일: 보안 비밀이 발견된 위치에 관한 정보를 확인합니다.
- 보안 비밀 세부정보 보기: 식별된 보안 비밀의 유형을 확인합니다.
AI 리소스 검사
AI 보안 대시보드 외에도Google Cloud 콘솔의 애셋 페이지에서 AI 리소스 탭을 사용하여 조직 또는 프로젝트의 AI 애셋 인벤토리를 검사하고 쿼리할 수 있습니다.
AI 리소스 탭에는 다음과 같은 검색된 AI 시스템 및 애셋에 대한 자세한 필터링 가능한 보기가 표시됩니다.
- 모델
- 엔드포인트
- 데이터 소스
- 파이프라인
- 에이전트
- 모델 컨텍스트 프로토콜(MCP) 서버
- Notebooks
AI 리소스 탭을 사용하여 다음 작업을 할 수 있습니다.
- AI 인벤토리 파악: 조직 또는 프로젝트 전반의 활성 AI 애셋의 포괄적인 목록을 프로젝트, 위치 또는 리소스 유형별로 필터링하여 확인합니다.
- 보안 조사 수행: 특정 AI 애셋의 전체 메타데이터, 변경 내역, 연결된 IAM 정책을 검토합니다.
- 관련 발견 사항 검토: 특정 AI 애셋과 관련된 모든 보안 발견 사항을 빠르게 확인하여 위험 노출을 평가하고 필요한 수정 단계를 결정합니다.
콘솔에서 AI 애셋을 보고 필터링하는 방법에 대한 자세한 내용은 Security Command Center에서 모니터링하는 애셋 검사를 참고하세요.