xAI Grok 모델

xAI Grok 모델은 Gemini Enterprise Agent Platform에서 관리 API로 사용할 수 있습니다. 대답을 스트리밍하여 최종 사용자의 지연 시간 인식을 줄일 수 있습니다. 스트리밍된 응답은 서버 전송 이벤트 (SSE)를 사용하여 응답을 점진적으로 스트리밍합니다.

관리형 xAI 모델

Gemini Enterprise Agent Platform에서 사용할 수 있는 xAI 모델은 다음과 같습니다. xAI 모델에 액세스하려면 Model Garden 모델 카드로 이동합니다.

Grok 4.7 코딩 및 지식 작업을 위해 구축된 xAI의 고성능 모델입니다. 어려운 작업에서 더 오래 작동하고 자체 작업을 확인합니다.
Grok 4.6 코딩, 에이전트 작업, 지식 작업을 위해 구축된 xAI의 고성능 모델입니다.
Grok 4.3 xAI의 고성능 모델입니다.
Grok 4.20 (추론) 할루시네이션 비율이 낮은 xAI의 고성능 모델입니다. 문서 이해 작업과 장기 에이전트 도구 호출에 탁월합니다.
Grok 4.20 (비사고) 낮은 할루시네이션 비율을 제공하는 xAI의 고성능 비사고 모델입니다. 고객 지원 및 분류와 같은 지연 시간에 민감한 사용 사례에 탁월합니다.
Grok 4.1 Fast (추론) (지원 중단됨) 강력한 도구 호출 기능과 효율적인 기술 자료 합성을 제공하는 xAI의 비용 효율적인 모델입니다. 웹 데이터 및 내부 기술 자료 도구와 관련된 검색 작업에 능숙합니다.
Grok 4.1 Fast (비추론) (지원 중단됨) 지연 시간이 짧은 성능에 최적화된 xAI의 비용 효율적인 비사고 모델입니다. 요약 및 분류와 같은 대량 작업에 탁월합니다.

xAI 모델 사용

xAI 모델에 스트리밍 및 비스트리밍 호출을 수행하는 방법을 알아보려면 개방형 모델 API 호출을 참고하세요.

관리형 모델의 경우 curl 명령어를 사용하여 다음 모델 이름으로 Gemini Enterprise Agent Platform 엔드포인트에 요청을 보낼 수 있습니다.

  • Grok 4.7의 경우 grok-4.7 사용
  • Grok 4.6의 경우 grok-4.6 사용
  • Grok 4.3의 경우 grok-4.3 사용
  • Grok 4.20 (추론)의 경우 grok-4.20-reasoning 사용
  • Grok 4.20 (추론 없음)의 경우 grok-4.20-non-reasoning을 사용합니다.
  • Grok 4.1 Fast (Reasoning)의 경우 grok-4.1-fast-reasoning 사용
  • Grok 4.1 Fast (Non-reasoning)의 경우 grok-4.1-fast-non-reasoning 사용

Grok 할당량

Grok 모델에는 엔드포인트별이 아닌 기본 모델별로 적용되는 단일 전역 할당량이 있습니다. 전역 엔드포인트와 미국 멀티 리전 엔드포인트에 대한 요청은 동일한 기본 한도를 사용합니다. 할당량은 분당 쿼리 수(QPM) 및 분당 토큰 수 (TPM)로 지정되며, TPM에는 입력 및 출력 토큰이 모두 포함됩니다.

전반적인 서비스 성능과 서비스이용(정책)을 유지하기 위해 최대 할당량은 계정에 따라 다를 수 있으며 경우에 따라 액세스가 제한될 수도 있습니다. Google Cloud 콘솔의 할당량 및 시스템 한도 페이지에서 프로젝트 할당량을 봅니다. 또한 다음 할당량을 사용할 수 있어야 합니다.

  • global_generate_content_requests_per_minute_per_project_per_base_model은 QPM 할당량을 정의합니다.

  • TPM의 경우 특정 모델에 적용되는 할당량 값 2개가 있습니다. global_generate_content_input_tokens_per_minute_per_base_model는 입력 TPM 할당량을 정의하고 global_generate_content_output_tokens_per_minute_per_base_model는 출력 TPM 할당량을 정의합니다.

입력 토큰과 출력 토큰을 별도로 집계하는 모델을 확인하려면 특정 모델 페이지를 참고하세요.

다음 단계