Carga datos de Salesforce en BigQuery
Puedes cargar datos de Salesforce en BigQuery con el conector del Servicio de transferencia de datos de BigQuery para Salesforce. Con el Servicio de transferencia de datos de BigQuery, puedes programar trabajos de transferencia recurrentes que agreguen tus datos más recientes de Salesforce a BigQuery.
Limitaciones
Las transferencias de datos de Salesforce están sujetas a las siguientes limitaciones:
- El Servicio de transferencia de datos de BigQuery para Salesforce solo admite la API masiva de Salesforce para conectarse a la instancia de Salesforce y solo admite la transferencia de entidades compatibles con la API masiva de Salesforce. Para obtener más información sobre qué entidades son compatibles, consulta “La entidad no es compatible con el error de la API masiva”.
- El tiempo de intervalo mínimo entre transferencias de datos recurrentes es de 15 minutos. El intervalo predeterminado para una transferencia recurrente es de 24 horas.
- El Servicio de transferencia de datos de BigQuery usa la API de Salesforce Bulk v1 para conectarse al extremo de Salesforce y recuperar datos.
- Debido a los límites de procesamiento de Salesforce, programar demasiadas transferencias de datos a la vez puede provocar demoras o errores. Te recomendamos que limites las transferencias de datos de Salesforce a lo siguiente:
- No tener más de 10 recursos por configuración de transferencia
- No ejecutes más de 10 transferencias simultáneas a la vez en tus diferentes configuraciones de transferencia.
- Una sola configuración de transferencia solo puede admitir una ejecución de transferencia de datos en un momento determinado. En el caso de que se programe una segunda transferencia de datos para que se ejecute antes de que se complete la primera, solo se completará la primera transferencia de datos, mientras que se omitirán las demás transferencias de datos que se superpongan con la primera.
- Para evitar que se omitan transferencias dentro de una misma configuración de transferencia, te recomendamos que aumentes la duración del tiempo entre las transferencias de datos grandes configurando la Frecuencia de repetición.
- Si la conexión de red configurada y la instancia de máquina virtual (VM) se encuentran en regiones diferentes, es posible que haya movimiento de datos entre regiones cuando transfieras datos desde Salesforce.
Antes de comenzar
En las siguientes secciones, se describen los pasos que debes seguir antes de crear una transferencia de datos de Salesforce.
Crea una app conectada de Salesforce
Debes crear una app conectada de Salesforce con los siguientes parámetros de configuración obligatorios:
- Configura la información básica en la aplicación conectada. Los campos Nombre de la aplicación conectada y Correo electrónico de contacto son obligatorios para una transferencia de Salesforce.
- Habilita la configuración de OAuth con la siguiente configuración:
- Selecciona la casilla de verificación Habilitar configuración de OAuth.
- En el campo URL, ingresa lo siguiente:
- Para un entorno de producción, ingresa
https://login.salesforce.com/services/oauth2/token
. - Para un entorno de zona de pruebas, ingresa
https://test.salesforce.com/services/oauth2/token
.
- Para un entorno de producción, ingresa
- En la sección Permisos de OAuth seleccionados, selecciona Gestionar datos de usuario mediante APIs (api).
- Desmarca la casilla de verificación Required Proof Key for Code Exchange (PKCE) Extension for Supported Authorization Flows.
- Selecciona Habilitar el flujo de credenciales del cliente y, luego, haz clic en Aceptar en el aviso que aparece.
Una vez que hayas configurado la app conectada con los parámetros de configuración necesarios, haz clic en Guardar. Se te redireccionará a la página de detalles de la app conectada que acabas de crear.
Una vez que hayas creado la aplicación conectada, también debes configurar el flujo de credenciales del cliente de la siguiente manera:
- Haz clic en Configuración.
- En la barra de búsqueda, busca Apps conectadas.
- Haz clic en Administrar apps > Apps conectadas. Si usas Salesforce Lightning Experience, haz clic en Administrar apps conectadas.
- En la app conectada que creaste, haz clic en Editar.
- Aparecerá la página Detalles de la app. En la sección Flujo de credenciales del cliente, ingresa tu nombre de usuario en el campo Ejecutar como. Puedes usar la herramienta de búsqueda en este campo para asegurarte de haber seleccionado el usuario correcto.
- Haz clic en Guardar.
Información obligatoria de Salesforce
Cuando crees una transferencia de datos de Salesforce, debes tener la siguiente información de Salesforce:
Nombre del parámetro | Descripción |
---|---|
myDomain |
Tu Mi dominio en Salesforce. |
clientId |
Clave de consumidor de la aplicación conectada de Salesforce. |
clientSecret |
Secreto del cliente de OAuth o secreto del consumidor de la aplicación conectada de Salesforce. |
Para obtener los valores de myDomain
, clientID
y clientSecret
, selecciona una de las siguientes opciones:
Salesforce Classic
Recupera los detalles de myDomain
Para encontrar tu myDomain
, haz lo siguiente:
- Accede a la plataforma de Salesforce.
- Haz clic en Configuración.
- En la barra de búsqueda, busca Mi dominio.
- En los resultados de la búsqueda, haz clic en Administración de dominios > Mi dominio.
En la sección My Domain Details, tu myDomain
aparece como prefijo en Current My Domain URL. Por ejemplo, si la URL de Mi dominio es example.my.salesforce.com
, el valor de myDomain
que se debe usar es example
.
Recupera detalles de ClientId
y ClientSecret
Para encontrar tus valores de ClientId
y ClientSecret
, haz lo siguiente:
- Accede a la plataforma de Salesforce.
- Haz clic en Configuración.
- En la barra de búsqueda, busca Apps.
- En la sección Compilar de los resultados de la búsqueda, haz clic en Crear > Apps.
- Haz clic en un Nombre de la app conectada.
- En la página de detalles de Apps conectadas, haz clic en Administrar detalles del consumidor.
- Verifica tu identidad con uno de los métodos registrados. Puedes ver la página de detalles del consumidor durante un máximo de cinco minutos antes de que se te solicite que vuelvas a verificar tu identidad.
- En la página Detalles del consumidor, la clave del consumidor es tu valor de
ClientId
. El secreto del cliente es tu valor deClientSecret
.
Experiencia de Salesforce Lightning
Recupera los detalles de myDomain
Para encontrar tu myDomain
, haz lo siguiente:
- Accede a la plataforma de Salesforce.
- Haz clic en Configuración.
- En la barra de búsqueda, busca Mi dominio.
- En los resultados de la búsqueda, haz clic en Configuración de la empresa > Mi dominio.
En la sección My Domain Details, tu myDomain
aparece como prefijo en Current My Domain URL. Por ejemplo, si la URL de Mi dominio es example.my.salesforce.com
, el valor de myDomain
que se debe usar es example
.
Recupera detalles de ClientId
y ClientSecret
- Accede a la plataforma de Salesforce.
- Haz clic en Configuración.
- En la barra de búsqueda, busca Apps.
- En los resultados de la búsqueda, haz clic en Apps > Administrador de apps.
- Busca una app conectada y, luego, haz clic en Ver.
- Haz clic en Administrar detalles del consumidor.
- Verifica tu identidad con uno de los métodos registrados. Puedes ver la página de detalles del consumidor durante un máximo de cinco minutos antes de que se te solicite que vuelvas a verificar tu identidad.
- En la página Detalles del consumidor, la clave del consumidor es tu valor de
ClientId
. El secreto del cliente es tu valor deClientSecret
.
Requisitos previos de BigQuery
- Verifica si completaste todas las acciones necesarias para habilitar el Servicio de transferencia de datos de BigQuery
- Crea un conjunto de datos de BigQuery para almacenar tus datos.
- Si quieres configurar las notificaciones de ejecución de transferencias para Pub/Sub, asegúrate de tener el permiso
pubsub.topics.setIamPolicy
de Identity and Access Management (IAM). Los permisos de Pub/Sub no son necesarios si solo configuras las notificaciones por correo electrónico. Para obtener más información, consulta la sección sobre notificaciones de ejecución del Servicio de transferencia de datos de BigQuery.
Roles de BigQuery requeridos
Para obtener los permisos que necesitas para crear una transferencia de datos de Servicio de transferencia de datos de BigQuery,
pídele a tu administrador que te otorgue el
rol de IAM de administrador de BigQuery (roles/bigquery.admin
)
en tu proyecto.
Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.
Este rol predefinido contiene los permisos necesarios para crear una transferencia de datos del Servicio de transferencia de datos de BigQuery. Para ver los permisos exactos que son necesarios, expande la sección Permisos requeridos:
Permisos necesarios
Se requieren los siguientes permisos para crear una transferencia de datos del Servicio de transferencia de datos de BigQuery:
-
Permisos del Servicio de transferencia de datos de BigQuery:
-
bigquery.transfers.update
-
bigquery.transfers.get
-
-
Permisos de BigQuery:
-
bigquery.datasets.get
-
bigquery.datasets.getIamPolicy
-
bigquery.datasets.update
-
bigquery.datasets.setIamPolicy
-
bigquery.jobs.create
-
También puedes obtener estos permisos con roles personalizados o con otros roles predefinidos.
Para obtener más información, consulta Cómo otorgar acceso a bigquery.admin
.
Configura una transferencia de datos de Salesforce
Agrega datos de Salesforce a BigQuery configurando una transferencia con una de las siguientes opciones:
Console
Ve a la página Transferencia de datos en la Google Cloud consola.
Haz clic en
Crear transferencia.En la sección Tipo de fuente, en Fuente, elige Salesforce.
En la sección Detalles de fuente de datos, haz lo siguiente:
- En Mi dominio, ingresa el Mi dominio de Salesforce.
- En ID de cliente, ingresa la clave de consumidor de la aplicación conectada de Salesforce.
- En Secreto del cliente, ingresa el secreto del consumidor de la aplicación conectada de Salesforce.
En Objetos de Salesforce para transferir, haz clic en Explorar para seleccionar los objetos que se transferirán al conjunto de datos de destino de BigQuery. También puedes ingresar de forma manual cualquier objeto que quieras incluir en la transferencia de datos en este campo.
En la sección Configuración de destino, en Conjunto de datos, elige el conjunto de datos que creaste para almacenar tus datos.
En la sección Nombre de configuración de la transferencia (Transfer config name), en Nombre visible (Display name), ingresa el nombre de la transferencia de datos.
En la sección Opciones de programación, haz lo siguiente:
- En la lista Frecuencia de repetición, selecciona una opción para especificar la frecuencia con la que se ejecuta esta transferencia de datos. Para especificar una frecuencia de repetición personalizada, selecciona Personalizado. Si seleccionas Según demanda, esta transferencia se ejecuta cuando activas la transferencia de forma manual.
- Si corresponde, selecciona Comenzar ahora o Comenzar a la hora definida y detalla una fecha de inicio y una hora de ejecución.
Opcional: En la sección Opciones de notificación, haz lo siguiente:
- Para habilitar las notificaciones por correo electrónico, haz clic en el botón de activar o desactivar Notificación por correo electrónico. Si habilitas esta opción, el administrador de transferencias recibirá una notificación por correo electrónico cuando falle la ejecución de una transferencia.
- Si quieres habilitar las notificaciones de ejecución de transferencias de Pub/Sub para esta transferencia, haz clic en el botón de activar Notificaciones de Pub/Sub. Puedes seleccionar el nombre del tema o hacer clic en Crear un tema para crear uno.
Haz clic en Guardar.
bq
Ingresa el comando bq mk
y suministra la marca de creación de transferencias --transfer_config
.
bq mk --transfer_config --project_id=PROJECT_ID --data_source=DATA_SOURCE --display_name=NAME --target_dataset=DATASET --params='PARAMETERS'
Aquí:
- PROJECT_ID (opcional): Tu ID del proyecto de Google Cloud .
Si no se proporciona
--project_id
para especificar un proyecto en particular, se usa el proyecto predeterminado. - DATA_SOURCE: La fuente de datos:
salesforce
. - NAME: el nombre visible de la configuración de transferencia de datos. El nombre de la transferencia puede ser cualquier valor que te permita identificarla con facilidad si es necesario hacerle modificaciones más tarde.
- DATASET es el conjunto de datos de destino para la configuración de transferencia.
PARAMETERS son los parámetros de la configuración de transferencia creada en formato JSON. Por ejemplo:
--params='{"param":"param_value"}'
Los siguientes son los parámetros para una transferencia de datos de Salesforce:connector.authentication.oauth.clientId
: Es la clave de consumidor de la aplicación conectada de Salesforce.connector.authentication.oauth.clientSecret
: El secreto del cliente de OAuth o el secreto del consumidor de la aplicación conectada de Salesforce.connector.authentication.oauth.myDomain
: El Mi dominio de Salesforce. Por ejemplo, si la URL de tu dominio esexample.my.salesforce.com
, el valor esexample
.assets
: la ruta de acceso a los objetos de Salesforce que se transferirán a BigQuery.
Por ejemplo, el siguiente comando crea una transferencia de datos de Salesforce en el proyecto predeterminado con todos los parámetros obligatorios:
bq mk --transfer_config --target_dataset=mydataset --data_source=salesforce --display_name='My Transfer' --params='{"assets":["Account"], "connector.authentication.oauth.clientId": "1234567890", "connector.authentication.oauth.clientSecret":"ABC12345", "connector.authentication.oauth.myDomain":"MyDomainName",}'
API
Usa el método projects.locations.transferConfigs.create
y suministra una instancia del recurso TransferConfig
.
Para ejecutar manualmente una transferencia de datos fuera de tu programa habitual, puedes iniciar una ejecución de reabastecimiento.
Asignación de tipos de datos
En la siguiente tabla, se asignan los tipos de datos de Salesforce a los tipos de datos de BigQuery correspondientes:
Tipo de datos de Salesforce | Tipo de datos de BigQuery |
---|---|
_bool |
BOOLEAN |
_int |
INTEGER |
_long |
INTEGER |
_double |
FLOAT |
currency |
FLOAT |
percent |
FLOAT |
geolocation (latitude) |
FLOAT |
geolocation (longitude) |
FLOAT |
date |
DATE |
datetime |
TIMESTAMP |
time |
TIME |
picklist |
STRING |
multipicklist |
STRING |
combobox |
STRING |
reference |
STRING |
base64 |
STRING |
textarea |
STRING |
phone |
STRING |
id |
STRING |
url |
STRING |
email |
STRING |
encryptedstring |
STRING |
datacategorygroupreference |
STRING |
location |
STRING |
address |
STRING |
anyType |
STRING |
Precios
No se aplican costos por transferir datos de Salesforce a BigQuery mientras esta función está en vista previa.
Soluciona problemas con la configuración de una transferencia
Si tienes problemas para configurar tu transferencia de datos, consulta Problemas de transferencia de Salesforce.
¿Qué sigue?
- Si deseas obtener una descripción general del Servicio de transferencia de datos de BigQuery, consulta la página sobre la introducción al Servicio de transferencia de datos de BigQuery.
- Para obtener información sobre el uso de las transferencias (por ejemplo, cómo obtener información sobre una configuración de transferencia, mostrar distintas configuraciones o visualizar su historial de ejecuciones), consulta Trabaja con transferencias.
- Obtén más información sobre cómo cargar datos con operaciones entre nubes.