En esta página, se muestran los parámetros de muestreo opcionales que puedes establecer en una solicitud a un modelo. Los parámetros disponibles para cada modelo pueden variar. Para obtener más información, consulta la documentación de referencia.
Parámetros de muestreo de tokens
Los parámetros de esta sección influyen en la forma en que el modelo selecciona el siguiente token de su vocabulario. Si ajustas estos parámetros, puedes controlar la aleatoriedad y la diversidad del texto generado.
Top-K
El parámetro Top-K cambia la manera en la que el modelo selecciona los tokens para el resultado. K superior a 1 significa que el siguiente token seleccionado es el más probable entre todos los tokens en el vocabulario del modelo (también llamado decodificación voraz), mientras que el K superior a 3 significa que el siguiente token se selecciona de los tres tokens más probables mediante la temperatura.
Para cada paso de selección de tokens, se muestran los tokens de K superior con las probabilidades más altas. Luego, los tokens se filtran según el superior con el token final seleccionado mediante el muestreo de temperatura.
Especifica un valor más bajo para respuestas menos aleatorias y un valor más alto para respuestas más aleatorias.
Para obtener más información, consultatopK.
Top-P
Top-P cambia la manera en la que el modelo selecciona los tokens para el resultado. Los tokens se seleccionan del más probable al menos probable hasta que la suma de sus probabilidades sea igual al valor de Top-P. Por ejemplo, si los tokens A, B y C tienen una probabilidad de 0.3, 0.2 y 0.1, y el valor P superior es 0.5, el modelo elegirá A o B como el siguiente token mediante la temperatura y excluirá a C como candidato.
Especifica un valor más bajo para respuestas menos aleatorias y un valor más alto para respuestas más aleatorias.
Para obtener más información, consultatopP.
Temperatura
La temperatura se usa para las muestras durante la generación de respuesta, que se genera cuando se aplican topP y topK. La temperatura controla el grado de aleatorización en la selección de tokens.
Las temperaturas más bajas son buenas para los mensajes que requieren una respuesta menos abierta o de creativa, mientras que
las temperaturas más altas pueden generar resultados más diversos o creativos. Una temperatura de 0
significa que siempre se seleccionan los tokens de probabilidad más alta. En este caso, las respuestas para un mensaje determinado
son, en su mayoría, deterministas, pero es posible que haya una pequeña cantidad de variación.
Si el modelo muestra una respuesta demasiado genérica, demasiado corta o el modelo proporciona una respuesta
de resguardo, intenta aumentar la temperatura. Si el modelo entra en una generación infinita, aumentar la temperatura a al menos 0.1 puede mejorar los resultados.
1.0 es el valor inicial recomendado para la temperatura.
Las temperaturas más bajas generan resultados predecibles (pero no completamente determinísticos). Para obtener más información, consulta temperature.
Parámetros de detención
Los parámetros de esta sección te permiten controlar con precisión la longitud y el contenido del resultado generado por el modelo, ya que definen las condiciones en las que debe detenerse el proceso de generación.
Cantidad máxima de tokens de salida
Establece maxOutputTokens para limitar la cantidad de tokens que se generan en la respuesta. Un token tiene aproximadamente cuatro caracteres, por lo que 100 tokens corresponden a casi 60 u 80 palabras. Establece un valor bajo para limitar la longitud de la respuesta.
Secuencias de detención
Define cadenas en stopSequences para indicarle al modelo que deje de generar texto si se encuentra una de las cadenas en la respuesta. Si una cadena aparece varias veces en la respuesta, la respuesta se trunca en el lugar en que se encontró por primera vez. Las cadenas distinguen entre mayúsculas y minúsculas.
Parámetros de penalización de tokens
Los parámetros de esta sección te permiten controlar la probabilidad de que se generen tokens según su frecuencia y presencia en el resultado.
Penalización de frecuencia
Los valores positivos penalizan los tokens que aparecen repetidamente en el texto generado, lo que disminuye la probabilidad de repetir contenido. El valor mínimo es -2.0. El valor máximo es hasta 2.0, no inclusive.
Para obtener más información, consulta frequencyPenalty en la GenerationConfig documentación.
Penalización por presencia
Los valores positivos penalizan los tokens que ya aparecen en el texto generado, lo que aumenta la probabilidad de generar contenido más diverso. El valor mínimo es -2.0. El valor máximo es hasta 2.0, no inclusive.
Para obtener más información, consulta presencePenalty en la GenerationConfig documentación.
Parámetros de formato de respuesta
Los parámetros de esta sección te permiten configurar el formato del resultado generado por el modelo.
Tipo de MIME de respuesta
Establece responseMimeType para especificar el tipo de MIME de la respuesta de salida del texto candidato generado. Entre los valores admitidos, se incluyen los siguientes:
text/plain(predeterminado): Salida de texto sin formato.application/json: la respuesta JSON en los candidatos.text/x.enum: Para las tareas de clasificación, muestra un valor de enumeración como se define en el esquema de respuesta.
Especifica el tipo de respuesta adecuado para evitar comportamientos no deseados. Por ejemplo, si necesitas una respuesta con formato JSON, especifica application/json y no text/plain.
Para obtener más información, consulta responseMimeType y Salida estructurada.
Parámetros avanzados
Usa estos parámetros para devolver más información sobre los tokens en la respuesta o para controlar la variabilidad de la respuesta.
Recuento de candidatos
La cantidad de variaciones de respuesta que se mostrarán. Por cada solicitud, se te cobra por los tokens de salida de todos los candidatos, pero solo se te cobra una vez por los tokens de entrada.
Especificar varios candidatos es una función de vista previa que funciona con generateContent
(no se admite streamGenerateContent).
candidateCount.
Semilla
Cuando el valor semilla se fija en un valor específico, el modelo hace su mejor esfuerzo para proporcionar la misma respuesta para las solicitudes repetidas. No se garantiza un resultado determinístico.
Además, cambiar la configuración del modelo o del parámetro, como la temperatura, puede causar variaciones en la respuesta, incluso cuando usas el mismo valor semilla. Según la configuración predeterminada, se usa un valor semilla aleatorio.
Para obtener más información, consulta seed.
Ejemplo
Este es un ejemplo que usa parámetros para ajustar la respuesta de un modelo.
Python
Instalar
pip install --upgrade google-genai
Para obtener más información, consulta la documentación de referencia del SDK.
Establece variables de entorno para usar el SDK de IA generativa de Google con Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Go
Obtén información para instalar o actualizar Go.
Para obtener más información, consulta la documentación de referencia del SDK.
Establece variables de entorno para usar el SDK de IA generativa de Google con Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Node.js
Instalar
npm install @google/genai
Para obtener más información, consulta la documentación de referencia del SDK.
Establece variables de entorno para usar el SDK de IA generativa de Google con Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Java
Obtén información para instalar o actualizar Java.
Para obtener más información, consulta la documentación de referencia del SDK.
Establece variables de entorno para usar el SDK de IA generativa de Google con Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
¿Qué sigue?
- Obtén información sobre las prácticas recomendadas de IA responsable y los filtros de seguridad de Agent Platform.
- Obtén más información sobre las instrucciones del sistema para la seguridad.
- Obtén más información sobre la supervisión del abuso.
- Obtén más información sobre la IA responsable.