Servicio de destilación de Gemini

El Servicio de destilación de Gemini (destilación) permite a los usuarios entrenar un modelo "estudiante" más pequeño y eficiente que utiliza los resultados y los patrones de razonamiento de un modelo "profesor" más grande y capaz. Si bien los modelos de vanguardia definen la vanguardia de la IA, pueden estar sobreaprovisionados para casos de uso empresariales específicos. La destilación salva esta brecha, ya que permite una eficiencia de nivel de producción (menor latencia y costo) y, al mismo tiempo, permite que los modelos más pequeños alcancen un nivel de razonamiento más profundo.

A diferencia del ajuste fino supervisado (SFT) estándar, que solo usa el resultado de texto final, la destilación aprovecha lo siguiente:

  • Respuestas del profesor: Es el resultado textual final.
  • Pensamientos sin procesar: Son las rutas de razonamiento internas que genera el modelo profesor.

Modelos compatibles

Los siguientes modelos son compatibles con la destilación durante el acceso anticipado:

  • Modelo de profesor: gemini-3.1-pro
  • Modelo estudiante: gemini-2.5-flash

Un diagrama de flujo que ilustra un proceso de destilación de modelos de IA de 5 pasos. Paso 1: El conjunto de datos de entrada (GCS) toma un conjunto de datos de instrucciones (JSONL) y un conjunto de datos de validación opcional. El paso 2, Transferencia y preparación de datos, incluye la validación del formato y la fragmentación para el procesamiento paralelo. Paso 3: La inferencia del modelo profesor usa el modelo profesor (Gemini 3.1 Pro) para generar un conjunto de datos etiquetado de alta calidad que consta de respuestas detalladas y rutas de razonamiento internas. Paso 4: El entrenamiento de destilación usa el modelo estudiante (Gemini 2.5 Flash), que aprende a imitar el proceso de pensamiento del profesor con respuestas, patrones de razonamiento y distribuciones. Paso 5: Salida: La creación del modelo destilado produce tres elementos: un modelo destilado final registrado en Model Registry, 10 puntos de control intermedios registrados para la evaluación y extremos de predicción de Agent Platform creados automáticamente para los puntos de control.

Fig. 1 Ilustración del sistema que muestra cómo funciona el servicio de destilación de Gemini.

Casos de uso adecuados

Se recomienda la destilación en lugar de las instrucciones estándar o el ajuste fino supervisado (SFT) en los siguientes casos:

  • Aplicaciones de alto volumen y sensibles a la latencia: Cuando tu aplicación requiere las capacidades de razonamiento de un modelo de nivel Pro, pero debe cumplir con estrictos ANS de latencia o restricciones de presupuesto que exigen un modelo de nivel Flash.
  • Falta de datos de verdad fundamental (la SFT no es factible): Cuando tienes un conjunto de datos grande de instrucciones o preguntas del usuario, pero no tienes los recursos para etiquetar o generar manualmente respuestas de verdad fundamental de alta calidad que se requieren para la SFT estándar.
  • Tareas de razonamiento complejas: Tareas que implican lógica de varios pasos, resumen de documentos muy técnicos o tareas de programación complejas en las que el modelo Flash básico tiene dificultades, pero el modelo Pro tiene éxito.
  • Brechas de rendimiento significativas: Cuando el modelo de profesor supera sustancialmente al modelo de estudiante base en tu tarea específica, lo que proporciona un margen claro de conocimiento para transferir durante la destilación.

Requisitos previos y configuración del proyecto

Antes de iniciar un trabajo de destilación, asegúrate de que tu entorno de Google Cloud esté configurado correctamente:

  1. Solicita acceso a la lista de entidades permitidas: Asegúrate de que tu ID de proyecto Google Cloud se haya agregado a la lista de entidades permitidas para el acceso anticipado al servicio de destilación de Gemini. Comunícate con tu representante de ventas de Google para que agregue tu proyecto a la lista de entidades permitidas.
  2. Habilita la API: Habilita la API de Agent Platform en tu Google Cloud proyecto.
  3. Establece permisos de roles de IAM: Debes tener el rol de IAM de administrador de la plataforma de agentes (roles/aiplatform.admin).
  4. Establece la región: Los trabajos de destilación deben ejecutarse en la región us-central1.

Preparación del conjunto de datos

Una característica clave de este servicio es el uso de conjuntos de datos solo con instrucciones. Dado que el modelo docente genera los resultados objetivo durante el proceso de destilación, no es necesario que proporciones las respuestas esperadas.

Requisitos del conjunto de datos

Los conjuntos de datos deben estar en formato de líneas JSON (JSONL) y almacenarse en un bucket de Cloud Storage. Cada entrada debe cumplir con el formato del conjunto de datos de ajuste de Gemini, además de lo siguiente:

  • Instrucciones del sistema: Puedes incluir un campo systemInstruction opcional (con un rol de "sistema") para definir instrucciones del sistema.
  • Entrada: El campo de contenido (con un rol de "usuario") es obligatorio para la entrada principal.

  • Instrucciones de varios turnos: Puedes alternar entre los roles de "usuario" y "modelo", siempre y cuando la entrada final de la secuencia sea "usuario".

A continuación, se muestran dos archivos dataset.jsonl de ejemplo:

{
  "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "You're the artist here. Choose as many strands of thread as you like, as long as you're using three or more. Go for color combinations that you think would make a pretty pattern. Get creative! If you only use one color of thread, you won't be able to create a pattern.\n\nProvide a summary of the article in two or three sentences:\n\n"
        }
      ]
    }
  ]
},

{
  "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "You're the artist here. Choose as many strands of thread as you like, as long as you're using three or more. Go for color combinations that you think would make a pretty pattern. Get creative! If you only use one color of thread, you won't be able to create a pattern.\n\nProvide a summary of the article in two or three sentences:\n\n"
        }
      ]
    },
    {
      "role": "model",
      "parts": [
        {
          "text": "Choose several strands of embroidery thread in a variety of colors."
        }
      ]
    },
    {
      "role": "user",
      "parts": [
        {
          "text": "You will need one egg (raw or hard boiled but hard boiled is best) and one spoon for each person participating in the race. You might even like to use dyed Easter eggs as something special for Easter. It's best to have this race on grass or some other soft surface, to give dropped eggs a chance!"
        }
      ]
    }
  ]
}

Prácticas recomendadas

Usa los siguientes lineamientos cuando crees tu conjunto de datos:

  • Tamaño: Se recomienda un mínimo de 1,000 ejemplos para lograr una mejora notable en la calidad.
  • Diversidad: Asegúrate de que tus instrucciones abarquen los casos extremos y las longitudes variables que se esperan en tu tráfico de producción.

Configura la solicitud de destilación

Un trabajo de destilación requiere configurar tanto el comportamiento de generación del modelo maestro como los hiperparámetros de entrenamiento del modelo estudiante.

Configura el comportamiento de generación del modelo de profesor

Debes definir cómo responde el modelo docente a tu conjunto de datos. La calidad del modelo estudiante está directamente vinculada a la calidad del resultado del modelo docente. Para configurar el comportamiento de generación del modelo docente, establece el candidateCount:

  • candidateCount: Es la cantidad de variaciones de respuesta que se generarán. (Ejemplo: 4. Rango [1, 5]). Si no se especifica en la solicitud, se usará un valor predeterminado de 4.

Configura los hiperparámetros de destilación

Los hiperparámetros de destilación controlan el proceso de entrenamiento del modelo estudiante. Para obtener más información sobre los hiperparámetros en la plataforma de agentes de Gemini Enterprise, consulta la sección"Crea un trabajo de ajuste" de la guía de ajuste fino supervisado.

Se deben establecer los siguientes hiperparámetros cuando se crea un trabajo de destilación:

  • epochCount: Es la cantidad de veces que el modelo estudiante iterará sobre el conjunto de datos (por ejemplo, 20; rango [1, 100]). Si no se especifica, se usa el valor predeterminado 4.
  • learningRateMultiplier: Modifica la tasa de aprendizaje base del modelo estudiante. (Ejemplo: 2.0. Rango [0.25, 4]). Si no se especifica, se usa un valor predeterminado de 1.

Inicia el trabajo de destilación

Durante el período de acceso anticipado, puedes enviar y supervisar trabajos de destilación con la versión de REST de la API de Agent Platform. Puedes iniciar un nuevo trabajo de destilación o realizar un ajuste continuo en un punto de control del modelo ya destilado.

Crea un trabajo de destilación nuevo

Crea un archivo JSON llamado request.json que contenga la configuración del trabajo. En el siguiente ejemplo, la configuración de generación del profesor está anidada dentro del campo hyperParameters:

{
    "description": "Distillation testing job.",
    "baseModel": "gemini-2.5-flash",
    "tunedModelDisplayName": "flash-distillation-run-1",
    "distillationSpec": {
        "promptDatasetUri": "gs://your-bucket/path/to/prompt_dataset.jsonl",
        "validationDatasetUri": "",
        "base_teacher_model": "gemini-3.1-pro-preview",
        "hyperParameters": {
            "epochCount": "20",
            "learningRateMultiplier": 2.0,
            "generation_config": {
              "candidateCount": 5
            }
        }
    }
}

Envía el trabajo con curl:

curl -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  https://us-central1-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/us-central1/tuningJobs \
  -d @request.json

Realiza ajustes continuos

Si deseas reanudar el ajuste a partir de un punto de control del modelo destilado previamente, incluye el bloque preTunedModel en tu archivo request.json. El ajuste continuo solo es compatible con los puntos de control de modelos destilados previamente, con el mismo modelo base de estudiante. No se admiten los puntos de control de modelos ajustados previamente de forma supervisada (incluso con el mismo modelo base de estudiante).

A continuación, se muestra un ejemplo de cómo configurar el ajuste continuo para un punto de control del modelo destilado previamente:

{
    "description": "Continuous distillation testing job.",
    "preTunedModel": {
      "tunedModelName": "projects/YOUR_PROJECT_ID/locations/us-central1/models/PRETUNED_MODEL_ID@1",
      "checkpointId": "1",
      "baseModel": "gemini-2.5-flash"
    },
    "tunedModelDisplayName": "flash-distillation-continuous",
    "distillationSpec": {
        "promptDatasetUri": "gs://your-bucket/path/to/prompt_dataset.jsonl",
        "validationDatasetUri": "",
        "base_teacher_model": "gemini-3.1-pro-preview",
        "hyperParameters": {
            "epochCount": "20",
            "learningRateMultiplier": 2.0,
            "generation_config": {
              "candidateCount": 5,
            }
        }
    }
}

Envía la carga útil con curl:

curl -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  https://us-central1-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/us-central1/tuningJobs \
  -d @request.json

Supervisa el trabajo de destilación

La respuesta de envío mostrará un nombre de trabajo que contiene tu JOB_ID. Puedes verificar el estado de tu trabajo (state, errores y los hiperparámetros finales) enviando una solicitud GET:

curl -X GET \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json; charset=utf-8" \
  https://us-central1-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/us-central1/tuningJobs/JOB_ID

También puedes supervisar el progreso visualmente en la consola de Google Cloud . Para ello, navega a Agent Platform > Tuning y elige la regiónus-central1.

En esta versión de acceso anticipado, la IU de la consola de Agent Platform tiene las siguientes limitaciones conocidas:

  • Progreso del muestreo del modelo profesor: No hay un widget de progreso para el proceso de muestreo del modelo profesor. Si bien el estado puede mostrar "Ejecutando la preparación para el ajuste", el trabajo continúa normalmente en segundo plano.
  • Gráficos de ajuste del estudiante: Durante la etapa de ajuste del modelo de estudiante, la IU proporciona gráficos para la curva de pérdida y los tokens de texto de entrenamiento totales.
  • Tabla de puntos de control: La IU muestra una tabla de puntos de control intermedios y vínculos al extremo de predicción de Agent Platform generado para la evaluación. La columna "Época" de esta tabla muestra "0" debido a un problema conocido.

Cancela el trabajo de destilación

Para cancelar un trabajo de destilación en curso, realiza una de las siguientes acciones:

  • Usa la consola de Google Cloud y cambia la siguiente URL:

    https://console.cloud.google.com/agent-platform/tuning/managed?project=YOUR_PROJECT_ID&vertex_ai_region=us-central1

    Reemplaza YOUR_PROJECT_ID con el ID del proyecto.

  • Usa curl para enviar una solicitud POST para cancelar el trabajo:

    curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json; charset=utf-8" \
  https://us-central1-aiplatform.googleapis.com/v1beta1/projects/YOUR_PROJECT_ID/locations/us-central1/tuningJobs/YOUR_JOB_ID:cancel

    Reemplaza lo siguiente:

    • YOUR_PROJECT_ID por el ID del proyecto
    • YOUR_JOB_ID por el ID de tu trabajo.

Cómo evaluar el resultado

Una vez que se completa correctamente el trabajo de síntesis, el nuevo modelo estudiante se registra automáticamente en el Model Registry de Gemini Enterprise Agent Platform y se crean uno o más endpoints dedicados para entregar predicciones. Para evaluar el resultado, debes ubicar el endpoint, enviar una solicitud de predicción y, por último, realizar la evaluación.

Para evaluar el resultado, haz lo siguiente:

  1. Envía la siguiente solicitud GET para ver el estado del trabajo de ajuste.

    curl -X GET \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json; charset=utf-8" \
  https://us-central1-aiplatform.googleapis.com/v1beta1/projects/YOUR_PROJECT_ID/locations/us-central1/tuningJobs/YOUR_JOB_ID

    Reemplaza lo siguiente:

    • YOUR_PROJECT_ID por el ID del proyecto
    • YOUR_JOB_ID por el ID de tu trabajo.

  2. Los trabajos completados muestran un campo endpoint anidado dentro del objeto tunedModel. Extrae el ENDPOINT_ID del final de la cadena de ruta de acceso que se devolvió (por ejemplo, projects/.../endpoints/YOUR_ENDPOINT_ID). Toma nota del ID del extremo.

    Asegúrate de que el trabajo de ajuste se haya completado correctamente, ya que el extremo no está disponible mientras el trabajo de ajuste aún se está ejecutando o falló. Si falta el campo endpoint, depura el trabajo de ajuste visualizando las claves state o error del trabajo.

  3. Crea una solicitud de carga útil JSON llamada generate_content_request.json que contenga tu instrucción:

    {
  "contents": {
    "role": "user",
    "parts": [
      {
        "text": "hi, say something"
      }
    ]
  }
}

  4. Usa el siguiente ejemplo de POST para enviar una solicitud de predicción:

    curl -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  https://us-central1-aiplatform.googleapis.com/v1beta1/projects/YOUR_PROJECT_ID/locations/us-central1/endpoints/YOUR_ENDPOINT_ID:generateContent \
  -d @generate_content_request.json

    Reemplaza lo siguiente:

    • YOUR_PROJECT_ID: el ID de tu proyecto
    • YOUR_JOB_ID: Es el ID de tu trabajo.
    • ENDPOINT_ID: Es el ID de tu extremo.

  5. Para evaluar los resultados, haz lo siguiente:

    1. Ejecuta un conjunto de pruebas de datos de exclusión, con instrucciones que no se incluyan en los datos de entrenamiento, en tu modelo recién destilado.

    2. Compara los resultados con el modelo gemini-2.5-flash base para medir las mejoras en la calidad.

    3. Compara los resultados con el modelo gemini-3.1-pro para determinar qué tan cerca se encuentra el razonamiento del estudiante del del profesor.

Limitaciones

En la siguiente tabla, se describen las limitaciones de la destilación:

La destilación está sujeta a las siguientes limitaciones:

  • Limitaciones del modelo:
  • Restricciones del conjunto de datos:
    • Límites de volumen:
      • La capacidad máxima del conjunto de entrenamiento es de 50,000 ejemplos.
      • El tamaño del archivo JSONL de origen no debe superar 1 GB.
    • Especificaciones de la ventana de contexto:
      • El servicio admite un máximo de 8,000 tokens de entrada por entrada. Los trabajos de destilación se finalizan si más del 10% de las entradas proporcionadas superan este umbral establecido.
      • El muestreo del modelo de profesor se limita a una salida máxima de 24,000 tokens. En los casos en que el modelo del profesor genera más de 24,000 tokens, el contenido se trunca en este límite, lo que puede afectar el rendimiento del modelo del estudiante.
    • Modalidad: Se limita a los datos basados en texto. No se admiten entradas multimodales, como videos, imágenes o llamadas a funciones.
  • Limitaciones de configuración y de hiperparámetros
    • Cuando definas el objeto distillationSpec y sus hiperparámetros asociados, respeta los siguientes límites:
      • Encriptación: La CMEK no está disponible para las tareas de destilación que involucran modelos propios de Google.
      • epochCount: Se restringe a un valor entero entre 1 y 100.
      • learningRateMultiplier: Los valores deben estar dentro del rango de punto flotante de 0.25 a 4.0.
  • Destilación de un solo paso: El muestreo del modelo de profesor y el ajuste del modelo de estudiante se ejecutan en una sola llamada a la API. Si tienes una gran cantidad de datos para muestrear, los mismos datos se deben muestrear nuevamente en el siguiente ajuste.

Obtén acceso

Si te interesa experimentar con el servicio de destilación de Gemini, comunícate con nuestro equipo de servicios de ajuste en cloud-ai-tuning-service-support@google.com para solicitar acceso y que se agregue tu proyecto a la lista de entidades permitidas.

Para garantizar un rendimiento y una administración de recursos óptimos, te recomendamos que crees un proyecto Google Cloud dedicado para tus tareas de destilación. Cuando te comuniques con nuestro equipo, proporciona el ID o el número de tu proyecto para acelerar el proceso de inclusión en la lista de entidades permitidas.

Políticas de cuotas y acceso

Se aplican las siguientes políticas de cuotas y acceso:

  • Capacidad: Los proyectos que se agregaron recientemente a nuestra lista de entidades permitidas se aprovisionan con una cuota simultánea predeterminada de 4. Para evitar la contención de recursos, te recomendamos que uses un proyecto independiente en lugar de uno que ya esté ejecutando otros trabajos de ajuste de Gemini.

  • Período de acceso: El acceso se otorga por un período inicial de 30 días.