Instala AlloyDB Omni con AlloyDB AI

Selecciona una versión de la documentación:

En esta página, se muestra cómo instalar AlloyDB Omni y cómo integrar AlloyDB AI en él.

AlloyDB AI es un paquete de funciones incluidas en AlloyDB Omni que te permiten crear aplicaciones de IA generativa empresarial. Para obtener más información sobre la funcionalidad de AA de AlloyDB, consulta Compila aplicaciones de IA generativa.

AlloyDB Omni con AlloyDB AI te permite consultar modelos de AA remotos para trabajar con predicciones en línea y embeddings de texto generados a partir de modelos de AA. AlloyDB Omni con AlloyDB AI también puede procesar embeddings de vectores de otro contenido, como una imagen, por ejemplo, si usas la interfaz de google_ml.predict_row y realizas la traducción por tu cuenta en la consulta.

Según dónde quieras instalar AlloyDB Omni con AlloyDB AI, selecciona una de las siguientes opciones:

Configura tu instancia de AlloyDB Omni para consultar modelos remotos

Para configurar AlloyDB Omni para consultar modelos remotos, sigue estos pasos:

  1. Crea una cuenta de servicio con Google Cloud.

  2. Crea una clave de cuenta de servicio en formato JSON y descárgala.

  3. Almacena la clave en una ubicación permanente en tu sistema de archivos. Se encuentra en esta ubicación durante toda la vida útil de tu servidor de AlloyDB Omni.

    Anota su ubicación en el sistema de archivos, ya que la necesitarás para el siguiente paso.

  4. Agrega permisos de Identity and Access Management (IAM) de Vertex AI al proyecto y a la cuenta de servicio correspondientes.

       gcloud projects add-iam-policy-binding PROJECT_ID \
       --member="serviceAccount:SERVICE_ACCOUNT_ID" \
       --role="roles/aiplatform.user"

    Reemplaza lo siguiente:

    • PROJECT_ID: Es el ID de tu proyecto de Google Cloud .

    • SERVICE_ACCOUNT_ID: Es el ID de la cuenta de servicio que creaste en el paso anterior. Esto incluye el sufijo @PROJECT_ID.iam.gserviceaccount.com completo, por ejemplo, my-service@my-project.iam.gserviceaccount.com.

Instala AlloyDB Omni con AlloyDB AI

Para instalar AlloyDB Omni y, luego, integrar AlloyDB AI, sigue estos pasos:

  1. Asegúrate de haber completado todos los pasos que se indican en Configura tu instancia de AlloyDB Omni para consultar modelos basados en la nube.

  2. Haz una copia local del archivo de configuración predeterminado de AlloyDB Omni:

       docker run -i --rm google/alloydbomni:15.5.4 cat /usr/share/postgresql/postgresql.conf.sample > my-postgres.conf

  3. Edita la copia del archivo de configuración para agregar directivas para la integración de AlloyDB AI:

       echo "omni_enable_ml_agent_process = 'on'" >> my-postgres.conf
   echo "omni_google_cloud_private_key_file_path = '/etc/postgresql/private-key.json'" >> my-postgres.conf

  4. Ajusta los permisos del sistema de archivos de los archivos de configuración y de claves:

       sudo chmod +r my-postgres.conf
   sudo chmod +r KEY_PATH

    Reemplaza KEY_PATH por la ruta de acceso al archivo de claves privadas de la cuenta de servicio en el sistema de archivos del host. Esta es la clave que creaste y descargaste anteriormente en este procedimiento.

  5. Instala los archivos de configuración y de claves activados en el contenedor:

       docker run --name CONTAINER_NAME -e POSTGRES_PASSWORD=NEW_PASSWORD -p HOST_PORT:5432 -v "$PWD/my-postgres.conf":/etc/postgresql/postgresql.conf -v "FULL_KEY_PATH":/etc/postgresql/private-key.json -d google/alloydbomni:15.5.4 -c 'config_file=/etc/postgresql/postgresql.conf'

    Reemplaza lo siguiente:

    • CONTAINER_NAME: Es el nombre que se asignará a este nuevo contenedor del método de instalación simplificado de AlloyDB Omni en el registro de contenedores de tu máquina anfitrión, por ejemplo, my-omni-1.

    • NEW_PASSWORD: Es la contraseña asignada al usuario postgres del contenedor nuevo después de su creación.

    • HOST_PORT: Es el puerto TCP en la máquina anfitrión al que el contenedor debe publicar su propio puerto 5432. Para usar el puerto predeterminado de PostgreSQL en la máquina anfitrión, especifica 5432.

    • FULL_KEY_PATH: Es la ruta de acceso completa del sistema de archivos al archivo de claves privadas de la cuenta de servicio en tu sistema host.

Verifica la instalación de AlloyDB Omni con AlloyDB AI

Para verificar que la instalación se realizó correctamente y que se usa la predicción del modelo, ingresa lo siguiente:

   CREATE EXTENSION google_ml_integration CASCADE;

   SELECT array_dims(embedding( 'textembedding-gecko@001', 'AlloyDB AI')::real[]);
   array_dims

El resultado es similar al siguiente:

    [1:768]
    (1 row)

En la consulta anterior, la llamada a embedding() genera incorporaciones para el texto de entrada AlloyDB AI. array_dims devuelve las dimensiones del array que devuelve embedding(). Dado que el modelo textembedding-gecko registrado previamente devuelve un resultado con 768 dimensiones, el resultado es [768].

¿Qué sigue?