本页面提供了将非结构化数据集、对象存储区和文件共享转移到 Google Cloud上的 Cloud Storage 的架构指南和迁移策略。
如果您是云架构师、数据工程师或存储管理员,请使用本页面上的信息来评估数据转移方法、选择在线或离线转移工具、确保数据完整性,以及在迁移期间优化网络带宽。
在阅读本页内容之前,您应该了解源数据集的总大小、可用网络传输带宽以及目标迁移时间轴。
选择数据传输方法
在规划数据传输时,请使用下表根据数据集大小和网络带宽选择传输方法:
| 场景 | 数据集大小 | 推荐的解决方案 | 注意事项 |
|---|---|---|---|
| 通过高带宽网络进行在线数据传输 | TB 级到 PB 级 | Storage Transfer Service | 通过校验和验证进行自动化、持续的在线传输。 |
| 在带宽有限的情况下进行线下数据传输 | 数 PB | Transfer Appliance | 安全地寄送实体设备,以绕过网络限制。 |
使用 Storage Transfer Service 进行在线数据传输
Storage Transfer Service 可自动将在线数据从本地存储、POSIX 文件系统或第三方云服务提供商转移到 Cloud Storage。
Storage Transfer Service 的关键功能
Storage Transfer Service 提供以下功能:
- 托管式可伸缩性:自动扩缩转移作业,无需预配或管理本地服务器。
- 数据完整性验证:在传输过程中使用端到端 MD5 校验和自动验证数据准确性。
- 持续增量同步:持续同步修改后的文件,以最大限度地缩短割接停机时间。
如需了解端到端转移工作流,请参阅创建转移作业。
使用 Transfer Appliance 进行线下数据传输
对于网络带宽受限的大型数据集,请使用 Transfer Appliance 将数据实际发送到 Google Cloud。