Model Garden에서 모델 기능 테스트

Model Garden은 모델 기능을 빠르게 확인하고 테스트할 수 있는 여러 옵션을 제공합니다. 지원되는 모델의 경우 데모 플레이그라운드를 사용해 보거나 다른 사용자와 공유하여 모델의 기능을 선보일 수 있는 Model Garden Spaces라는 데모 애플리케이션을 실행할 수 있습니다.

플레이그라운드는 사전 배포된 Gemini Enterprise 에이전트 플랫폼 온라인 예측 엔드포인트를 기반으로 하며 요금이 청구되지 않습니다. 지원되는 모델의 모델 카드를 열면 사용해 보기 패널을 사용하여 텍스트 프롬프트를 전송하여 모델의 기능을 빠르게 테스트할 수 있습니다. 온도, 출력 토큰 수와 같은 가장 일반적인 파라미터를 설정할 수도 있습니다. 플레이그라운드는 텍스트 입력 및 출력으로만 제한됩니다.

Spaces를 실행하면 모델을 배포하고 모델의 엔드포인트를 사용하는 앱을 빌드하는 것보다 훨씬 적은 수동 작업으로 즉시 사용할 수 있는 작동하는 웹 애플리케이션이 제공됩니다. Model Garden은 선택한 모델을 Gemini Enterprise Agent Platform에 배포하고 배포된 모델의 엔드포인트를 사용하는 Cloud Run 인스턴스에 샘플 앱을 배포합니다. 애플리케이션은 기존 엔드포인트나 MaaS 엔드포인트를 사용할 수도 있습니다.

시작하기 전에

이 튜토리얼에서는 Google Cloud 프로젝트를 설정하고 Agent Platform API를 사용 설정해야 합니다.

Google Cloud 계정에 로그인합니다. Google Cloud를 처음 사용하는 경우 계정을 만들고 Google 제품의 실제 성능을 평가해 보세요. 신규 고객에게는 워크로드를 실행, 테스트, 배포하는 데 사용할 수 있는 $300의 무료 크레딧이 제공됩니다.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

If you're using an existing project for this guide, verify that you have the permissions required to complete this guide. If you created a new project, then you already have the required permissions.

Verify that billing is enabled for your Google Cloud project.

Enable the Gemini Enterprise Agent Platform, Artifact Registry, Cloud Build, Cloud Logging, and Cloud Run Admin APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

If you're using an existing project for this guide, verify that you have the permissions required to complete this guide. If you created a new project, then you already have the required permissions.

Verify that billing is enabled for your Google Cloud project.

Enable the Gemini Enterprise Agent Platform, Artifact Registry, Cloud Build, Cloud Logging, and Cloud Run Admin APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

1. Model Garden Spaces를 사용해 보려면 Compute Engine 기본 서비스 계정에 Spaces를 실행하는 데 필요한 권한이 있는지 확인하세요.

필요한 역할

Model Garden에서 모델 기능을 테스트하려면 사용자와 Compute Engine 기본 서비스 계정 모두 필요한 IAM 역할이 있어야 합니다.

사용자에게 필요한 역할

Model Garden에서 모델 기능을 테스트하는 데 필요한 권한을 얻으려면 관리자에게 Google Cloud 프로젝트에 대한 다음 IAM 역할을 부여해 달라고 요청하세요.

• 서비스 사용량 관리자(roles/serviceusage.serviceUsageAdmin)
• Artifact Registry 관리자(roles/artifactregistry.admin)
• Cloud Run 관리자 (roles/run.admin)
• 스토리지 관리자(roles/storage.admin)
• 에이전트 플랫폼 사용자 (roles/aiplatform.user)

역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

커스텀 역할이나 다른 사전 정의된 역할을 통해 필요한 권한을 얻을 수도 있습니다.

Compute Engine 기본 서비스 계정에 필요한 역할

Compute Engine 기본 서비스 계정은 스페이스를 실행하는 데 사용됩니다.

Compute Engine 기본 서비스 계정에 스페이스를 실행하는 데 필요한 권한이 있는지 확인하려면 관리자에게 Google Cloud 프로젝트의 Compute Engine 기본 서비스 계정에 다음 IAM 역할을 부여해 달라고 요청하세요.

중요: 이러한 역할을 사용자 계정이 아닌 Compute Engine 기본 서비스 계정에 부여해야 합니다. 올바른 주체에 역할을 부여하지 않으면 권한 오류가 발생할 수 있습니다.

• Agent Platform 서비스 에이전트 (roles/aiplatform.serviceAgent)
• Cloud Build 서비스 계정 (roles/cloudbuild.builds.builder)

역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

관리자는 커스텀 역할이나 다른 사전 정의된 역할을 통해 Compute Engine 기본 서비스 계정에 필요한 권한을 부여할 수도 있습니다.

플레이그라운드 사용해 보기

1. Google Cloud 콘솔에서 지원되는 모델의 모델 카드(예: Gemma 2 모델 카드)로 이동합니다.

   Gemma 2로 이동

2. 사용해 보기 패널에서 다음을 수행합니다.

   1. 리전에서 기본값을 수락하거나 리전을 선택합니다.
   2. 엔드포인트에서 데모 플레이그라운드를 선택합니다.
   3. 프롬프트 상자에 Why is the sky blue?를 입력합니다.
   4. 고급 옵션 섹션을 펼치고 기본 파라미터를 확인합니다.

   

3. 제출을 클릭합니다. 출력은 '제출' 버튼 아래에 표시됩니다.

Spaces 사용해 보기

참고: Spaces는 조직에서 상위로 지정되지 않은 프로젝트에서만 사용할 수 있습니다. 조직 없이 프로젝트를 만드는 방법을 알아보려면 프로젝트 만들기를 참고하세요.

모델을 실행하려면 지원되는 모델의 모델 카드를 열고 Spaces 사용해 보기 패널에서 Spaces를 클릭하여 실행합니다. 배포에 사용되는 머신과 앱을 호스팅하는 Cloud Run 인스턴스에 대해 요금이 청구됩니다.

Gemini, Gemma, Llama, Stable Diffusion과 같은 모델로 Spaces를 실행할 수 있습니다.

Spaces 실행

Spaces를 실행하여 샘플 Gradio 애플리케이션에서 모델을 테스트하고 실험하세요.

1. Google Cloud 콘솔에서 Model Garden으로 이동하여 모델의 모델 카드를 확인합니다.

   Model Garden으로 이동

2. 사용할 모델을 선택합니다. 지원되는 모델에는 Gemma 3 모델 카드와 같은 Spaces 사용해 보기 패널이 있습니다.

   Gemma 3로 이동

3. rocket_launch 실행을 클릭하여 Spaces를 실행합니다.

   1. 인증 필요(Identity Aware Proxy를 통해) 또는 공개 액세스 허용을 선택할 수 있습니다. 자세한 내용은 첫 번째 배포를 위해 API 사용 설정 및 권한 부여를 참조하세요.
   중요: 앱을 사용할 때 프롬프트에 민감한 정보나 개인 식별 정보를 포함하지 마세요.
   1. 새 서비스 만들기를 클릭하여 배포를 시작합니다. 모델 카드에서 배포 상태를 모니터링할 수 있습니다.

4. Spaces 상태가 준비됨으로 변경되면 클릭하여 배포에 관한 세부정보를 확인합니다.

   기본적인 보호를 위해 프롬프트를 제출할 때 웹 애플리케이션에서 URL에 추가해야 하는 보안 비밀 키를 요구합니다. 이 보안 비밀 키는 보안 비밀 키 필드에 제공됩니다.

   1. 열기를 클릭하여 앱을 사용합니다. 앱 내에서 모델에 프롬프트를 보내고 모델의 대답을 볼 수 있습니다.

   다른 사용자가 앱을 사용해 볼 수 있도록 URL을 공유할 수 있습니다.

   1. 앱에 대한 액세스를 종료하려면 액세스 제어 필드에서 수정을 클릭합니다.

   Cloud Run 애플리케이션의 보안 탭에서 인증 필요를 선택한 후 저장을 클릭합니다. 애플리케이션을 더 이상 URL을 통해 사용할 수 없게 됩니다. URL을 방문하면 403 오류(금지됨)가 발생합니다.

삭제

이 페이지에서 사용한 리소스 비용이 Google Cloud 계정에 청구되지 않도록 하려면 다음 단계를 수행합니다.

Spaces 삭제

Spaces를 정리하려면 Cloud Run에서 모델의 리소스와 샘플 애플리케이션의 리소스를 모두 삭제해야 합니다.

모델 리소스 삭제

Gradio 앱 내에서 모델 엔드포인트를 삭제하여 Gemini Enterprise Agent Platform 리소스를 정리할 수 있습니다. 그런 다음 Cloud Run 서비스를 삭제하여 Gradio 앱을 중지하고 삭제해야 합니다.

Gemini Enterprise Agent Platform 리소스를 수동으로 삭제하려면 모델 배포 취소 및 리소스 삭제를 참고하세요.

Cloud Run 서비스 삭제

서비스의 모든 버전을 포함하여 서비스와 관련된 리소스를 삭제합니다. 서비스를 삭제해도 Artifact Registry의 컨테이너 이미지와 같은 항목은 삭제되지 않습니다. 자세한 내용은 Cloud Run 문서의 서비스 관리를 참조하세요.

1. Google Cloud 콘솔에서 Cloud Run 서비스 목록을 확인합니다.

   Cloud Run으로 이동

2. 삭제할 서비스를 찾아 선택합니다.

3. delete 삭제를 클릭합니다. 이렇게 하면 서비스의 모든 버전이 삭제됩니다.

프로젝트 삭제

비용이 청구되지 않도록 하는 가장 쉬운 방법은 튜토리얼에서 만든 프로젝트를 삭제하는 것입니다.

프로젝트를 삭제하는 방법은 다음과 같습니다.

주의: 프로젝트를 삭제하면 다음과 같은 결과가 발생합니다.

• 프로젝트의 모든 항목이 삭제됩니다. 이 문서의 태스크에 기존 프로젝트를 사용한 경우 프로젝트를 삭제하면 프로젝트에서 수행한 다른 작업도 삭제됩니다.
• 커스텀 프로젝트 ID가 손실됩니다. 이 프로젝트를 만들 때 앞으로 사용할 커스텀 프로젝트 ID를 만들었을 수 있습니다. appspot.com URL과 같이 프로젝트 ID를 사용하는 URL을 보존하려면 전체 프로젝트를 삭제하는 대신 프로젝트 내에서 선택한 리소스만 삭제합니다.

여러 아키텍처, 튜토리얼 또는 빠른 시작을 살펴보려는 경우 프로젝트를 재사용하면 프로젝트 할당량 한도 초과를 방지할 수 있습니다.

1. Google Cloud 콘솔에서 리소스 관리 페이지로 이동합니다.

   리소스 관리로 이동

2. 프로젝트 목록에서 삭제할 프로젝트를 선택하고 삭제를 클릭합니다.
3. 대화상자에서 프로젝트 ID를 입력한 후 종료를 클릭하여 프로젝트를 삭제합니다.

다음 단계

Model Garden 개요를 참조하세요.