数据加载简介

本文档介绍了如何将数据加载到 BigQuery 中。数据集成的两种常见方法是提取、加载和转换 (ELT) 数据,或提取、转换和加载 (ETL) 数据。

如需简要了解 ELT 和 ETL 方法,请参阅加载、转换和导出数据简介

加载或访问外部数据的方法

在 BigQuery 页面上的添加数据对话框中,您可以查看所有可用于将数据加载到 BigQuery 中或从 BigQuery 访问数据的方法。根据您的应用场景和数据源,选择以下选项之一:

加载方法 说明
批量加载 此方法适用于从各种来源批量加载大量数据。

如需从 Cloud Storage 和其他受支持数据源批量或增量加载数据,我们建议您使用 BigQuery Data Transfer Service

借助 BigQuery Data Transfer Service,您可以安排加载作业,以自动执行将数据加载到 BigQuery 的流水线。您可以定期安排一次性或批量数据转移(例如每天或每月)。为确保您的 BigQuery 数据始终是最新的,您可以监控和记录转移作业。

如需查看 BigQuery Data Transfer Service 支持的数据源列表,请参阅支持的数据源
流式传输负载 此方法可让您近乎实时地从消息传递系统加载数据。

如需将数据流式传输到 BigQuery,您可以使用 Pub/Sub 中的 BigQuery 订阅。Pub/Sub 可以处理高吞吐量的数据加载到 BigQuery 中。它支持实时数据流,并在生成数据时加载数据。如需了解详情,请参阅 BigQuery 订阅
变更数据捕获 (CDC) 此方法可让您近乎实时地将数据从数据库复制到 BigQuery。

Datastream 可以通过近乎实时的复制将数据从数据库流式传输到 BigQuery 数据。Datastream 利用 CDC 功能来跟踪和复制数据源中的行级更改。

如需查看 Datastream 支持的数据源列表,请参阅来源
与外部数据源联合 此方法可让您在不将外部数据加载到 BigQuery 中的情况下访问外部数据。

BigQuery 支持通过 Cloud Storage 和联合查询访问部分外部数据源。这种方法的优势在于,您无需先加载数据,然后再对其进行转换以供后续使用。您可以通过对外部数据运行 SELECT 语句来执行转换。

您还可以使用以下程序化方法来加载数据:

加载方法 说明