使用客户端扇出搜索多区域沿袭

使用扇出方法跨多个 Google Cloud 区域提取数据沿袭链接。您可以使用 Data Lineage API 从所有可用区域检索和汇总沿袭数据。

为何要使用客户端扇出？

当您的数据资产分布在不同位置，并且您需要统一查看其谱系时，客户端扇出方法非常有用。

如需了解详情，请参阅多区域沿袭搜索简介。

分步伪代码

该过程会向每个区域中的 projects.locations.searchLinks 端点发出并行请求。您收集结果、处理跨区域的分页，并汇总找到的链接。为了确保后续调用的一致分页，请管理 regionalPageToken。这考虑了无法访问的区域。

以下伪代码概述了一个流程，您可以使用 Data Lineage API 按照该流程从所有可用区域提取数据沿袭链接。

  1. 输入设置：
    • linksToFetch = 5（要从所有区域提取的链接的数量）
    • regionalPageToken = ""（用于分页的上次收到的区域页面令牌）
  2. 创建：
    1. 要扇出的所有区域的列表，名为 regions。
    2. 无法访问的区域列表，名为 unreachable。
    3. 发现的空链接列表，名为 foundLinks。
    4. 空变量 nextPageToken 和 nextRegionalPageToken。
    5. 空变量 lastRegion。
    6. 空变量 lastRegionLinksCount。
  3. 按字母顺序排序 regions。
  4. 解析 regionalPageToken
    1. 如果为空，请继续执行第 5 步
    2. 如果不为空，请执行以下操作：
      1. 通过按第一个点拆分为两个段来解析 regionalPageToken
      2. 通过仅获取解析后的 regionalPageToken 中第一个段之后的（按字母顺序）区域来过滤掉区域。
      3. 存储第二个段以便在所有 projects.locations.searchLinks 调用中使用。
  5. 并行调用 regions 列表中的每个区域的 projects.locations.searchLinks。
  6. 等待所有请求完成。
  7. 过滤掉成功响应，并将失败的区域名称存储在 unreachable 列表中。
  8. 对于每个响应（从按字母顺序排列的第一个区域开始）
    1. 如果没有返回链接，但返回了非空的页面令牌
      1. 将区域名称存储在 lastRegion 中。
      2. 将收到的 pageToken 保存到 nextPageToken 中。
      3. 忽略其余响应。
    2. 否则
      1. 将区域名称存储在 lastRegion 中。
      2. 将收到的链接保存到 foundLinks 中（最多 linksToFetch 个）。
      3. 将收到的 pageToken 保存到 nextPageToken 中。
      4. 将响应中已访问链接的数量存储在 lastRegionLinksCount 中。
      5. 如果 foundLinks 小于 linksToFetch
        1. 继续按字母顺序处理下一个收到的响应。
      6. 如果 foundLinks 等于 linksToFetch
        1. 在同一区域中向 projects.locations.searchLinks 端点发出另一项请求，但将 pageSize 参数设置为 lastRegionLinksCount 的值。
        2. 将收到的 pageToken 存储在 nextPageToken 中。
        3. 继续执行第 9 步
  9. 在 nextPageToken 前面加上 lastRegion（即 [region].[receivedNextPageToken]），以创建 nextRegionalPageToken 来处理连续调用中的分页。

后续步骤