创建具有 GPU 的 AI 优化型 N1 MIG

本文档介绍如何创建使用 N1 系列并挂接 GPU 的代管式实例组 (MIG)。如需详细了解这些机器类型，请参阅 N1 系列。

创建 MIG 后，您可以将多个虚拟机 (VM) 作为单个实体进行管理。MIG 中的每个虚拟机均基于实例模板。通过自动管理实例组中的虚拟机，MIG 可提供高可用性和可伸缩性。如需详细了解 MIG，请参阅 Compute Engine 文档中的托管式实例组。

如需了解创建虚拟机或集群的其他方法，请参阅部署选项概览。

限制

创建具有搭载 GPU 的 N1 虚拟机的 MIG 时，请考虑机器类型和 MIG 的限制。

具有 GPU 的 N1 虚拟机的限制

如需了解适用于搭载了 GPU 的 N1 机器类型的限制，请参阅以下所有内容：

MIG 的限制

准备工作

在创建 MIG 之前，如果您尚未完成以下步骤，请先完成这些步骤：

  1. 选择使用选项：您选择的使用选项决定了您如何获取和使用 GPU 资源。如需了解详情，请参阅选择消费选项。
  2. 获取容量：每种使用选项的容量获取流程各不相同。如需了解为所选使用选项获取容量的流程，请参阅容量概览。

所需的角色

如需获得创建 MIG 所需的权限，请让您的管理员为您授予项目的 Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) IAM 角色。 如需详细了解如何授予角色，请参阅管理对项目、文件夹和组织的访问权限。

此预定义角色包含创建 MIG 所需的权限。如需查看所需的确切权限，请展开所需权限部分：

所需权限

您需要具备以下权限才能创建 MIG：

  • 如需创建 MIG：针对项目的 compute.instanceGroupManagers.create 权限

您也可以使用自定义角色或其他预定义角色来获取这些权限。

概览

创建具有 N1（含 T4 或 V100 GPU）机器类型的 MIG 包括以下步骤：

  1. 创建实例模板
  2. 创建 MIG
  3. 安装 GPU 驱动程序

创建实例模板

通过创建实例模板来指定 MIG 的虚拟机属性。

如需创建实例模板，请选择以下选项之一：

以下命令还会设置实例的访问权限范围。为简化权限管理，Google 建议您将实例的访问权限范围设置为 cloud-platform 访问权限，然后使用 IAM 角色定义实例可以访问哪些服务。如需了解详情，请参阅范围最佳实践。

gcloud

如需创建区域级实例模板，请使用 gcloud compute instance-templates create 命令。

您需要指定的参数取决于您为此部署使用的使用选项。选择与您的使用选项对应的标签页。

预留

配备 T4 或 V100 GPU 的 N1 实例支持以下类型的预留：

  • 按需预留
  • 标准未来预留

如需使用这些类型的预留，实例必须使用标准预配模型。例如，使用以下创建参数。

在运行命令之前，请查看以下所有步骤，以确定是否要添加其他标志。

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=