フルマネージド Llama モデル


Llama モデルは、Gemini Enterprise Agent Platform でマネージド API とセルフデプロイ モデルとして使用できます。レスポンスをストリーミングして、エンドユーザーのレイテンシを軽減できます。ストリーミング レスポンスでは、サーバー送信イベント（SSE）を使用してレスポンスを段階的にストリーミングします。

マネージド Llama モデル

Llama モデルは、API としてフルマネージド モデルとサーバーレス モデルを提供します。Agent Platform で Llama モデルを使用するには、Agent Platform API エンドポイントにリクエストを直接送信します。Llama モデルをマネージド API として使用する場合、インフラストラクチャのプロビジョニングや管理は不要です。

Gemini Enterprise Agent Platform で使用できる Llama のモデルは次のとおりです。Llama モデルにアクセスするには、Model Garden のモデルカードに移動します。

Llama 4 Maverick 17B-128E 最大かつ最も高性能なマルチモーダル Llama 4 モデル（MoE 17B アクティブ / 400B 合計）。コーディング、深い推論、高度なチャット、高精度の画像理解に最適化されています。
Llama 4 Scout 17B-16E 長大なコンテキストの検索、ドキュメントの要約、大規模なコードベース全体をまたいだ推論で最先端の結果を提供する高効率の MoE モデル（17B アクティブ / 109B 合計）。
Llama 3.3 70B テキストのみの 70B 指示用にチューニングされたモデル。テキストのみのアプリケーションで Llama 3.1 70B と Llama 3.2 90B と比較してパフォーマンスが向上します。

Llama モデルを使用する

マネージド モデルの場合は、curl コマンドを使用して、次のモデル名を使用して Gemini Enterprise Agent Platform エンドポイントにリクエストを送信できます。Llama モデルにストリーミング呼び出しと非ストリーミング呼び出しを行う方法については、オープンモデル API を呼び出すをご覧ください。

セルフデプロイされた Gemini Enterprise Agent Platform モデルを使用するには:

  1. Model Garden コンソールに移動します。
  2. 関連する Gemini Enterprise Agent Platform モデルを見つけます。
  3. [有効にする] をクリックし、表示されたフォームに記入して必要な商用利用ライセンスを取得します。

パートナー モデルのデプロイと使用の詳細については、パートナー モデルをデプロイして予測リクエストを行うをご覧ください。

次のステップ

Llama モデルの使用方法を確認する。