Instala AlloyDB Omni con AlloyDB AI

Selecciona una versión de la documentación:

En esta página, se muestra cómo instalar AlloyDB Omni y cómo integrar AlloyDB AI en él.

AlloyDB AI es un conjunto de funciones incluidas en AlloyDB Omni que te permiten compilar aplicaciones de IA generativa empresarial. Para obtener más información sobre la funcionalidad de AA de AlloyDB, consulta Compila aplicaciones de IA generativa.

AlloyDB Omni con AlloyDB AI te permite consultar modelos de AA remotos para trabajar con predicciones en línea y embeddings de texto generados a partir de modelos de AA. AlloyDB Omni con AlloyDB AI también puede procesar embeddings de vectores de otro contenido, como una imagen, por ejemplo, si usas la interfaz google_ml.predict_row y realizas la traducción tú mismo en la consulta.

Según dónde quieras instalar AlloyDB Omni con AlloyDB AI, selecciona una de las siguientes opciones:

Configura tu instancia de AlloyDB Omni para consultar modelos remotos

Para configurar AlloyDB Omni para consultar modelos remotos modelos, sigue estos pasos:

  1. Crea una cuenta de servicio con Google Cloud.

  2. Crea una clave de cuenta de servicio en formato JSON y descárgala.

  3. Almacena la clave en una ubicación permanente en tu sistema de archivos. Reside en esta ubicación durante la vida útil de tu servidor de AlloyDB Omni.

    Toma nota de su ubicación en tu sistema de archivos; la necesitarás para el siguiente paso.

  4. Agrega permisos de Identity and Access Management (IAM) de Vertex AI al proyecto y a la cuenta de servicio adecuados.

       gcloud projects add-iam-policy-binding PROJECT_ID \
       --member="serviceAccount:SERVICE_ACCOUNT_ID" \
       --role="roles/aiplatform.user"

    Reemplaza lo siguiente:

    • PROJECT_ID: Es el ID de tu Google Cloud proyecto.

    • SERVICE_ACCOUNT_ID: Es el ID de la cuenta de servicio que creaste en el paso anterior. Esto incluye el sufijo completo @PROJECT_ID.iam.gserviceaccount.com, por ejemplo, my-service@my-project.iam.gserviceaccount.com.

Instala AlloyDB Omni con AlloyDB AI

Para instalar AlloyDB Omni y, luego, integrar AlloyDB AI, sigue estos pasos:

  1. Asegúrate de haber completado todos los pasos que se indican en Configura AlloyDB Omni para consultar modelos basados en la nube.

  2. Crea una copia local del archivo de configuración predeterminado de AlloyDB Omni:

       docker run -i --rm google/alloydbomni:15.5.4 cat /usr/share/postgresql/postgresql.conf.sample > my-postgres.conf

  3. Edita la copia del archivo de configuración para agregar directivas para la integración de AlloyDB AI:

       echo "omni_enable_ml_agent_process = 'on'" >> my-postgres.conf
   echo "omni_google_cloud_private_key_file_path = '/etc/postgresql/private-key.json'" >> my-postgres.conf

  4. Ajusta los permisos del sistema de archivos de la clave y los archivos de configuración:

       sudo chmod +r my-postgres.conf
   sudo chmod +r KEY_PATH

    Reemplaza KEY_PATH por la ruta de acceso al archivo de claves privadas de la cuenta de servicio en tu sistema de archivos host. Esta es la clave que creaste y descargaste anteriormente en este procedimiento.

  5. Instala la clave y los archivos de configuración activados en el contenedor:

       docker run --name CONTAINER_NAME -e POSTGRES_PASSWORD=NEW_PASSWORD -p HOST_PORT:5432 -v "$PWD/my-postgres.conf":/etc/postgresql/postgresql.conf -v "FULL_KEY_PATH":/etc/postgresql/private-key.json -d google/alloydbomni:15.5.4 -c 'config_file=/etc/postgresql/postgresql.conf'

    Reemplaza lo siguiente:

    • CONTAINER_NAME: Es el nombre que se asignará a este nuevo contenedor simplificado del método de instalación de AlloyDB Omni en el registro de contenedores de tu máquina anfitrión, por ejemplo, my-omni-1.

    • NEW_PASSWORD: Es la contraseña asignada al usuario postgres del contenedor nuevo después de su creación.

    • HOST_PORT: Es el puerto TCP en la máquina anfitrión al que el contenedor debe publicar su propio puerto 5432. Para usar el puerto predeterminado de PostgreSQL en la máquina anfitrión, especifica 5432.

    • FULL_KEY_PATH: Es la ruta de acceso completa del sistema de archivos al archivo de claves privadas de la cuenta de servicio en tu sistema host.

Verifica la instalación de AlloyDB Omni con AlloyDB AI

Para verificar que la instalación se realizó correctamente y que usa la predicción de modelos, ingresa lo siguiente:

   CREATE EXTENSION google_ml_integration CASCADE;

   SELECT array_dims(embedding( 'textembedding-gecko@001', 'AlloyDB AI')::real[]);
   array_dims

El resultado es similar al siguiente:

    [1:768]
    (1 row)

En la consulta anterior, la llamada embedding() genera embeddings para el texto de entrada AlloyDB AI. array_dims muestra las dimensiones del array que muestra embedding(). Dado que el modelo textembedding-gecko pre registrado muestra un resultado con 768 dimensiones, el resultado es [768].

¿Qué sigue?