数据加载简介
本文档介绍了如何将数据加载到 BigQuery 中。数据集成的两种常见方法是提取、加载和转换 (ELT) 数据,或提取、转换和加载 (ETL) 数据。
如需简要了解 ELT 和 ETL 方法,请参阅加载、转换和导出数据简介。
加载或访问外部数据的方法
在 BigQuery 页面上的添加数据对话框中,您可以查看所有可用于将数据加载到 BigQuery 中或从 BigQuery 访问数据的方法。根据您的应用场景和数据源,选择以下选项之一:
| 加载方法 | 说明 |
|---|---|
| 批量加载 | 此方法适用于从各种来源批量加载大量数据。 如需从 Cloud Storage 和其他受支持数据源批量或增量加载数据,我们建议您使用 BigQuery Data Transfer Service。 借助 BigQuery Data Transfer Service,您可以安排加载作业,以自动执行将数据加载到 BigQuery 的流水线。您可以定期安排一次性或批量数据转移(例如每天或每月)。为确保您的 BigQuery 数据始终是最新的,您可以监控和记录转移作业。 如需查看 BigQuery Data Transfer Service 支持的数据源列表,请参阅支持的数据源。 |
| 流式传输负载 | 此方法可让您近乎实时地从消息传递系统加载数据。 如需将数据流式传输到 BigQuery,您可以使用 Pub/Sub 中的 BigQuery 订阅。Pub/Sub 可以处理高吞吐量的数据加载到 BigQuery 中。它支持实时数据流,并在生成数据时加载数据。如需了解详情,请参阅 BigQuery 订阅。 |
| 变更数据捕获 (CDC) | 此方法可让您近乎实时地将数据从数据库复制到 BigQuery。 Datastream 可以通过近乎实时的复制将数据从数据库流式传输到 BigQuery 数据。Datastream 利用 CDC 功能来跟踪和复制数据源中的行级更改。 如需查看 Datastream 支持的数据源列表,请参阅来源。 |
| 与外部数据源联合 | 此方法可让您在不将外部数据加载到 BigQuery 中的情况下访问外部数据。 BigQuery 支持通过 Cloud Storage 和联合查询访问部分外部数据源。这种方法的优势在于,您无需先加载数据,然后再对其进行转换以供后续使用。您可以通过对外部数据运行 SELECT 语句来执行转换。 |
您还可以使用以下程序化方法来加载数据:
| 加载方法 | 说明 |
|---|---|