了解如何选择计算配置

选择过程包括选择配置、使用模板图像创建该配置的实例,然后运行性能测试。

关于 Oracle Cloud Infrastructure Compute 环境

如果您是 Oracle Cloud Infrastructure 的新用户,则您应该了解如何访问计算实例的位置。

以下段落简要概述了 Oracle Cloud Infrastructure Compute。有关详细信息,请参阅 Oracle Cloud Infrastructure 文档。

Oracle Cloud Infrastructure Compute 提供对在裸金属硬件或虚拟机中运行的 Oracle Cloud 中的操作系统的命令行访问。可用的操作系统图像包括 Oracle Linux、CentOS、Ubuntu 和 Windows。您可以基于内置图像创建自己的定制图像,也可以进行排列以便上载自己的图像并用于创建实例。

在创建计算实例之前,必须先创建虚拟云网络(VCN)。创建网络后,您可以设置一个安全列表,通过只允许您指定的网络流量来控制对网络的访问。可以修改现有的默认安全列表,也可以创建新的安全列表。设置安全列表后,可以使用 SSH 登录到实例。

内置映像默认情况下启用 SSH 和 SSH 端口。同样,对于默认安全列表,该列表也允许所有端口上端口 22 和出站流量上的入站流量。因此,在预配实例后,您可以立即使用 SSH 登录,使用 scp 复制文件到该实例,使用 curlwget 从 Internet 下载内容。但是,如果要设置 Web 服务器或其他软件(如 Jupyter Notebook),则需要修改实例使用的虚拟云网络的安全列表。

除了允许流量到达您实例上的端口外,还必须设置实例上的防火墙规则,以允许流量通过这些端口。

预配非 Gpu 模板实例

创建在创建测试实例时要使用的模板映像。您可能需要先从此模板创建多达四个实例,然后再找到正确的计算配置。

创建实例只需要几分钟时间,但将该实例加载到软件,而数据可能比较耗时。如果您创建一个模板映像并在该模板上安装软件和数据,则可以更快地确定所需的正确配置。

  1. 登录到 Oracle Cloud 控制台并打开导航菜单。
  2. 计算下,单击实例
  3. 单击创建实例
  4. 创建实例页上,修改以下字段:
    • 命名您的实例: 输入适当的名称 , 例如 ML-Template-Image
    • 选择操作系统或映像源: 如果不使用 Oracle Linux, 请单击更改映像源
  5. 单击显示形状、网络和存储选项并确保选择了分配公共 IP 地址
  6. 接受其他字段的默认值。实例类型应为虚拟机 , 实例配置应为低能力的非 GPU 配置。
  7. 添加 SSH 密钥字段中,添加 SSH 密钥信息。
  8. 单击创建
  9. 创建实例之后,使用将用于基准测试的软件和数据加载该实例。

创建定制图像

在安装了预期使用的软件和数据之后,创建实例的自定义映像。如果有已安装所有软件和数据的定制映像,设置后续环境更快更轻松。

  1. 登录到 Oracle Cloud 控制台并打开导航菜单。
  2. 计算下,单击实例
  3. 单击模板图像的名称。
  4. 在“操作 ”按钮下的“实例详细信息 ”页上,单击创建定制映像
  5. 输入诸如 ML-custom-Image 等名称,后单击创建自定义图像

选择最佳计算配置

机器学习需求的最佳计算配置是提供最佳平衡速度和成本的配置。

注 :

系统会定期更新产品以满足需求,并反映对硬件价格和可用性的更改。因此,此处的图表可能不会反映在读取此文档时可用的形状。在这种情况下,您可以使用相同的过程,但请记住,您需要进行调整以反映出随后可用的内容。

首先,为测试工作量选择一个目标时间。您可能希望在少于 30 秒内完成 , 或者两个小时可能正常。

接下来,决定要使用的图表。对于培训神经网络,几乎需要 GPU 形状。对于不涉及神经网络的机器学习培训,通常可以使用非 Gpu 配置,除非您有大量数据或者如果您使用 NVIDIA 的 RAPIDS 工具包。对于推断任务,几乎可以使用非 Gpu 配置。

如果您决定不需要 GPU 形状,请确定是需要标准形状还是 DenseIO 形状。DenseIO 形状非常适合需要高性能本地存储的大型数据密集型工作加载。它们使用本地非波动内存 Express (NVMe) Solid-State Drive 存储。由于有少数DenseIO形状可供选择,因此不会在此处介绍。

如果您使用自己的数据而不是基准,请考虑使用代表性子集,然后将结果外推到完整集。例如,如果您需要处理一百万个图像,请在评估中使用 10,000 个图像,并将该结果提取到一百万个项目数据集。

如果需要 GPU 配置,请使用以下图表:

后面是选择器-gpu-shape.png 的说明
插图 selector -gpu-shape.png 的说明

如果您不需要 GPU 配置,请使用以下图表:

后面是选择器-std-shape.png 的说明
插图 selections -std-shape.png 的说明

要选择最佳计算配置,请执行以下操作:

  1. 决定要使用的图表。有关如何选择的指导,请参阅以前的文本。
  2. 从树顶部的形状开始。
  3. 从先前创建的定制图像创建该配置的实例。
  4. 对实例运行测试。
  5. 评估测试的结果。
    • 如果性能与您的目标匹配,则选择该形状。
    • 如果测试运行速度慢于所需值,请按照左侧的分支继续执行步骤 3。
    • 如果测试运行速度快于所需运行,请按照右侧的分支重复步骤 3。