本教程介绍了如何使用适用于 Cloud DLP 的 Cloud Data Fusion 插件遮盖敏感数据。
场景
考虑以下必须隐去某些敏感客户信息的场景:
您的支持团队会在支持服务工单中记录他们处理的每个支持案例的详细信息。支持服务工单中的所有信息都会被拉取到 CSV 文件中。支持技术人员不应记录任何被视为敏感信息的客户信息,但有时他们会错误地记录这些信息。您会发现 CSV 文件中显示了一些客户的电话号码。
您想查看 CSV 文件并隐藏所有电话号码。您可以使用 Cloud DLP 插件创建一个 Cloud Data Fusion 流水线,以遮盖敏感客户数据。
在本教程中,您将创建一个执行以下操作的流水线:
- 使用
#字符遮盖客户的手机号码。 - 将经过遮盖的敏感数据和非敏感数据存储至 Cloud Storage 存储桶。
目标
- 将 Cloud Data Fusion 连接到 Cloud Storage 来源。
- 部署 Cloud DLP 插件。
- 创建自定义 Cloud DLP 模板。
- 使用遮盖转换插件来遮盖敏感客户数据。
- 将输出数据写入 Cloud Storage。
费用
在本文档中,您将使用 Google Cloud的以下收费组件:
如需根据您的预计使用量来估算费用,请使用价格计算器。
准备工作
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
Roles required to select or create a project
- Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
-
Create a project: To create a project, you need the Project Creator role
(
roles/resourcemanager.projectCreator), which contains theresourcemanager.projects.createpermission. Learn how to grant roles.
-
Verify that billing is enabled for your Google Cloud project.
启用 Cloud Data Fusion、BigQuery、Cloud Storage 和 Dataproc API(如果尚未启用)。
启用 API 所需的角色
如需启用 API,您需要拥有
serviceusage.services.enable权限。如果您创建了项目,则可能已经通过 Owner 角色 (roles/owner) 拥有此权限。否则,您可以通过 Service Usage Admin 角色 (roles/serviceusage.serviceUsageAdmin) 获取此权限。 了解如何授予角色。- 创建 Cloud Data Fusion 实例。
获取 Cloud DLP 权限
在 Google Cloud 控制台中,前往 IAM 页面。
在权限表的主账号列中,找到与
service-project-number@gcp-sa-datafusion.格式匹配的服务账号。
点击 edit 修改。
点击添加其他角色。
使用搜索栏进行搜索,然后选择DLP 管理员。
点击保存。
检查 DLP 管理员是否显示在角色列中。
导航到 Cloud Data Fusion 界面
使用 Cloud Data Fusion 时,您将同时使用 Google Cloud 控制台和单独的 Cloud Data Fusion 界面。在 Google Cloud 控制台中,您可以创建 Google Cloud 控制台项目,以及创建和删除 Cloud Data Fusion 实例。在 Cloud Data Fusion 界面中,您可以通过各种页面(例如 Studio 或 Wrangler)来使用 Cloud Data Fusion 功能。
在 Google Cloud 控制台中,打开实例页面。
在实例的操作列中,点击查看实例链接。Cloud Data Fusion 界面将在新的浏览器标签页中打开。
创建流水线
创建流水线以遮盖敏感客户数据。您构建的流水线将执行以下操作:
- 使用 Cloud Storage 源插件读取输入数据。
- 从 Hub 部署 Cloud DLP 插件。
- 使用 Cloud Storage 接收器插件写入输出数据。
加载客户数据
本教程使用公开提供的 Cloud Storage 存储桶中的输入数据集 CallCenterRecords.csv。
打开 Cloud Data Fusion 实例,然后依次点击 menu 菜单 > Studio。
在来源菜单中,点击 Cloud Storage 插件。

在