Compila aplicaciones de IA generativa con AlloyDB AI

Selecciona una versión de la documentación:

AlloyDB AI es un conjunto de funciones incluidas en AlloyDB para PostgreSQL y AlloyDB Omni que te permiten aplicar las capacidades semánticas y predictivas de los modelos de aprendizaje automático (AA) a tus datos. En esta página, se proporciona una descripción general de las funciones de IA basadas en AA que están disponibles a través de AlloyDB.

Almacena, indexa y consulta vectores

La extensión pgvector de PostgreSQL se personaliza para AlloyDB y se conoce como vector. Admite el almacenamiento de embeddings generados en una columna de vectores. La extensión también agrega compatibilidad con la función de cuantización escalar para crear índices IVF. También puedes crear un índice IVFFlat o un índice HSNW que estén disponibles con pgvector.

Para obtener más información sobre el almacenamiento de vectores, consulta Almacena vectores.

Además de la extensión personalizada vector, AlloyDB incluye la extensión alloydb_scann que implementa un índice de vecinos más cercanos altamente eficiente con tecnología del algoritmo ScaNN.

Para obtener más información sobre la creación de índices y la consulta de vectores, consulta Crea índices y consulta vectores.

Ajusta el rendimiento de las consultas vectoriales

Puedes ajustar tus índices para lograr un equilibrio entre las consultas por segundo (QPS) y la recuperación con tus consultas. Para obtener más información sobre el ajuste de tus índices, consulta Ajusta el rendimiento de las consultas vectoriales.

Genera embeddings y predicciones de texto

AlloyDB AI extiende la sintaxis de PostgreSQL con dos funciones para consultar modelos con la extensión google_ml_integration:

  • Invoca predicciones para llamar a un modelo a través de SQL dentro de una transacción.

  • Genera embeddings para que un LLM traduzca mensajes de texto en vectores numéricos.

    Puedes usar la embedding() función para consultar modelos de Vertex AI, mientras que la google_ml.embedding() función se puede usar para consultar modelos registrados de Vertex AI, alojados y de terceros.

    Luego, puedes aplicar estos embeddings de vectores como entrada a las funciones pgvector. Esto incluye métodos para comparar y ordenar muestras de texto según su distancia semántica relativa.

Usa modelos en la nube con Vertex AI

Puedes configurar AlloyDB Omni para que funcione con Vertex AI.

Esto brinda a tus aplicaciones los siguientes beneficios:

¿Qué sigue?