Los productos de Gemini en Google Cloud, como Gemini Code Assist, incorporan principios de diseño de IA responsable para ayudarte a comprender las capacidades, las limitaciones y los riesgos de la IA generativa. Comprender estos controles de seguridad y límites operativos te permite evaluar y, luego, implementar la asistencia de IA en tus flujos de trabajo.
Capacidades y riesgos de los modelos de lenguaje grandes
Los modelos de lenguaje grandes (LLM) pueden realizar muchas tareas útiles, como las siguientes:
- Idioma de traducción.
- Resumir texto
- Generar código y escritura creativa
- Potenciar chatbots y asistentes virtuales
- Complementar los motores de búsqueda y los sistemas de recomendación
Al mismo tiempo, las capacidades técnicas en evolución de los LLMs generan el potencial de aplicaciones incorrectas, usos inadecuados y consecuencias no deseadas o imprevistas.
Los LLM pueden generar resultados que no se esperan, incluido un texto que sea ofensivo, insensible o incorrecto desde el punto de vista fáctico. Debido a que los LLMs son increíblemente versátiles, puede ser difícil predecir exactamente qué tipos de resultados no deseados o imprevistos podrían producir.
Debido a estos riesgos y complejidades, los productos como Gemini Code Assist se diseñaron teniendo en cuenta los principios de la IA de Google. Sin embargo, es importante que los usuarios comprendan algunas de las limitaciones de los productos de Gemini para trabajar de forma segura y responsable.
Limitaciones de los productos con Gemini en Google Cloud
Algunas de las limitaciones que podrías encontrar al usar los productos de Gemini en Google Cloud incluyen las siguientes (sin limitarse a ellas):
Casos extremos: Los casos extremos se refieren a situaciones inusuales, excepcionales o excepcionales que no están bien representadas en los datos de entrenamiento. Estos casos pueden generar limitaciones en el resultado de los modelos de Gemini, como un exceso de confianza del modelo, una interpretación errónea del contexto o resultados inapropiados.
Alucinaciones, fundamentación y facticidad del modelo. Es posible que los modelos de Gemini no tengan conocimientos básicos y un hecho en lo que respecta a los conocimientos, las propiedades físicas o la comprensión precisa en el mundo real. Esta limitación puede generar alucinaciones del modelo, en las que Gemini podría generar resultados que suenan posibles, pero que son incorrectos, irrelevantes, inapropiados o no tienen sentido. Las alucinaciones también pueden incluir la fabricación de vínculos a páginas web que no existen y nunca existieron. Para obtener más información, consulta Escribe mejores instrucciones para Gemini en Google Cloud.
Calidad y ajuste de los datos. La calidad, la precisión y el sesgo de los datos de la instrucción que se ingresan en los productos de Gemini en Google Cloud pueden tener un impacto significativo en su rendimiento. Si los usuarios ingresan instrucciones incorrectas o imprecisas, Gemini podría devolver respuestas deficientes o falsas.
Amplificación del sesgo: Los modelos de lenguaje pueden amplificar de forma involuntaria el sesgo existente en los datos de entrenamiento, lo que genera resultados que pueden reforzar aún más los prejuicios sociales y el tratamiento desigual de ciertos grupos.
Calidad del idioma: Si bien los productos de Gemini en Google Cloudproducen capacidades impresionantes multilingües en las comparativas con las que evaluamos, la mayoría de nuestras comparativas (incluidas todas las evaluaciones de equidad) están en inglés estadounidense.
Los modelos de lenguaje pueden proporcionar una calidad de servicio incoherente a diferentes usuarios. Por ejemplo, es posible que la generación de texto no sea tan eficaz para algunos dialectos o variedades de idioma porque están subrepresentados en los datos de entrenamiento. El rendimiento puede ser peor para los idiomas que no son inglés o las variedades de idioma inglés con menos representación.
Parámetros de referencia y subgrupos de equidad. Los análisis de equidad de Google Research de los modelos de Gemini no proporcionan una cuenta exhaustiva de los diversos riesgos potenciales. Por ejemplo, nos enfocamos en los sesgos de género, raza, etnia y religión, pero realizamos el análisis solo en los datos de inglés (EE.UU.) y las salidas de modelos.
Conocimiento limitado del dominio. Los modelos de Gemini se entrenaron en Google Cloud tecnología, pero es posible que no tengan la profundidad de conocimiento necesaria para proporcionar respuestas precisas y detalladas sobre temas altamente especializados o técnicos, lo que lleva a información superficial o incorrecta.
Cuando usas el panel de Gemini en la consola de Google Cloud , Gemini no tiene contexto sobre tu entorno específico, por lo que no puede responder preguntas como "¿Cuándo fue la última vez que creé una VM?".
En algunos casos, los productos de Gemini en Google Cloud envían un segmento específico de tu contexto al modelo para recibir una respuesta específica del contexto, por ejemplo, cuando haces clic en el botón Sugerencias para solucionar problemas en la página de servicio de Error Reporting.
Filtros de seguridad y toxicidad de Gemini
Las instrucciones y respuestas de los productos de Gemini en Google Cloud, como Gemini Code Assist, se verifican en función de una lista integral de atributos de seguridad, según corresponda a cada caso de uso. Estos atributos de seguridad tienen como objetivo filtrar el contenido que incumple nuestra Política de Uso Aceptable. Si se considera que un resultado es dañino, se bloqueará la respuesta.
¿Qué sigue?
- Obtén más información sobre cómo Gemini cita fuentes cuando te ayuda a generar código.