GPU计算型实例必须安装GPU驱动才可以使用。您可以在创建实例时自动安装GPU驱动，也可以在实例创建后手动安装GPU驱动。本文介绍如何创建GPU计算型实例并自动安装驱动。

背景信息

gn5优惠活动详情请参见异构计算GPU实例活动页。

如果您使用了自动安装GPU驱动功能，请注意：
  • 自动安装只支持Linux公共镜像。
  • 自动安装脚本已更新到v2.1版本，支持自动安装不同版本的GPU驱动、CUDA、cuDNN库。
  • 自动安装过程受不同实例规格的内网带宽和CPU核数的影响，安装时间约10～15分钟，在安装过程中无法使用GPU，请勿对实例进行任何操作，也不要安装其它GPU相关软件，以防自动安装失败，导致实例不可用。
  • 如果您在创建完成后更换操作系统 ，请确保使用同一镜像或者为可自动安装CUDA和GPU驱动的镜像，以防自动安装失败。详情请参见支持自动安装CUDA和GPU驱动的镜像。
  • 您可以远程连接实例，通过安装日志查看安装进程和结果：
    • 如果正在安装，您可以看到安装进度条。
    • 如果已经安装成功，您可以看到安装结果提示NVIDIA INSTALL OK。
    • 如果安装失败，您将看到安装结果提示NVIDIA INSTALL FAIL。
    • 详细安装日志位于/root/nvidia/nvidia_install.log。

操作步骤

本步骤重点介绍GPU计算型实例相关的配置，如果您想了解其他通用配置，请参见创建ECS实例。

  1. 前往ECS售卖页。
  2. 完成基础配置。在选择配置时，请注意：
    • 地域：请根据下表选择地域和可用区。如果售卖页显示的地域和可用区和表格不一致，以售卖页为准。
      提供各GPU计算型实例规格族的地域和可用区如下表所示：
      实例规格 地域和可用区
      gn4
      • 华北2（北京）可用区A，华东2（上海）可用区B
      • 华南1（深圳）可用区C、B
      gn5
      • 华北2（北京）可用区D、G、C，华北3（张家口）可用区A、B，华北5（呼和浩特）可用区A
      • 华东1（杭州）可用区I、G、F，华东2（上海）可用区F、D、B、E
      • 华南1（深圳）可用区A、B、C、D、E
      • 中国（香港）可用区C、B
      • 新加坡可用区B、A，澳大利亚（悉尼）可用区B、A，马来西亚（吉隆坡）可用区B、A，印度尼西亚（雅加达）可用区A
      • 日本（东京）可用区B、A
      • 美国（硅谷）可用区B、A，美国（弗吉尼亚）可用区B、A
      • 德国（法兰克福）可用区B、A
      • 印度（孟买）可用区A
      gn5i
      • 华北2（北京）可用区G、C、E，华北3（张家口）可用区A、B
      • 华东1（杭州）可用区G、B，华东2（上海）可用区D、E
      • 华南1（深圳）可用区A、C、D、E
      gn6v
      • 华北2（北京）可用区H、G，华北3（张家口）可用区A、B
      • 华东1（杭州）可用区H、I，华东2（上海）可用区F
      • 华南1（深圳）可用区E
      • 美国（硅谷）可用区B
      gn6i
      • 华东1（杭州）可用区H，华东2（上海）可用区F、G
      • 华南1（深圳）可用区E
      • 新加坡可用区C
    • 实例：定位到异构计算GPU/FPGA > GPU计算型，然后根据需求选择实例规格。
    • 镜像：部分公共镜像支持自动安装GPU驱动，您也可以在镜像市场选择预装了GPU驱动和相关软件的镜像。
      说明 如果您使用共享镜像和自定义镜像，需要自行保证安装了需要的GPU驱动和相关软件。
      • 公共镜像是由阿里云官方或第三方合作商家提供的系统基础镜像，支持自动安装GPU驱动的公共镜像如下：
        • CentOS 64位（目前提供的所有自营版本均支持）
        • Ubuntu16.04 64位镜像
        • Ubuntu18.04 64位镜像
        • SUSE Linux Enterprise Server 12 SP2 64位镜像

        如果您选择的镜像支持自动安装GPU驱动，勾选自动安装GPU驱动，并选择GPU驱动、CUDA、cuDNN库版本。如果是新业务系统，建议选择最新的版本。

        对于支持自动安装GPU驱动的镜像，如果您不勾选自动安装GPU驱动，可以在实例自定义数据模块下配置安装脚本，安装脚本请参见自动安装脚本v2.1。

        如果您不使用自动安装GPU驱动功能，或者镜像不支持自动安装GPU驱动，您可以在创建实例后手动安装GPU驱动。具体操作，请参见手动安装GPU驱动。

        说明 如果调用RunInstances接口创建GPU计算型实例，必须通过UserData参数上传安装脚本，脚本内容需要采用Base64方式编码。
        创建GPU计算型实例_GPU计算型_选择实例规格_实例_云服务器 ECS 阿里云技术文档 第1张
      • 镜像市场提供经严格审核的优质镜像，预装操作系统、应用环境和各类软件，无需配置即可一键部署云服务器。目前镜像市场提供了支持深度学习和机器学习的镜像：
        • 如果GPU计算型实例用于深度学习，您可以选择预装深度学习框架的镜像。在镜像市场搜索关键字深度学习并选择可用的镜像，目前仅支持CentOS 7.3。
        • 如果GPU计算型实例用于机器学习，您可以选择预装RAPIDS加速库的镜像，在镜像市场搜索关键字RAPIDS并选择可用的镜像。目前仅支持Ubuntu16.04。更多信息，请参见在GPU实例上使用RAPIDS加速图像搜索任务。
          说明 镜像中预装了NVIDIA RAPIDS机器学习加速库以及TensorFlow、Keras开源深度学习框架，您可以快速使用RAPIDS加速数据准备、机器学习和图像分析任务，并结合深度学习框架进行深度学习训练和推理。
        • NVIDIA GPU Cloud VM Image（虚拟机镜像）是运行针对NVIDIA GPU优化的深度学习框架和HPC应用程序容器的优化环境。gn5、gn5i、gn6v、gn6i均支持NGC，更多信息，请参见在gn5实例上部署NGC环境。
  3. 完成网络和安全组配置。在选择配置时，请注意：
    • 网络：选择专有网络。
    • 公网带宽：请根据您的业务需要选择带宽。
      注意 如果您在基础配置中选用了Windows 2008 R2及以下版本的镜像，在GPU驱动安装生效后，您将无法通过管理终端连接GPU计算型实例，远程连接时会始终显示黑屏或停留在启动界面。您需要在此处勾选分配公网IP地址，或者在创建实例后绑定弹性公网IP，以便通过其他协议连接实例，例如RDP（Windows自带的远程连接）、PCOIP、XenDeskop HDX 3D等。其中RDP不支持DirectX、OpenGL等应用，您需要自行安装VNC服务和客户端。
  4. 完成系统配置。在选择配置时，请注意：
    • 登录凭证：建议选择密钥对或自定义密码。如果您选择创建后设置，通过管理终端登录实例时必须绑定SSH密钥对或者重置密码，然后重启实例使修改生效。如果此时GPU驱动尚未安装完成，重启操作会导致安装失败。
    • 实例自定义数据：
      • 如果您在基础配置页面的镜像中选择了自动安装GPU驱动，此处会显示自动安装CUDA和GPU驱动的注意事项和Shell脚本内容。创建GPU计算型实例_GPU计算型_选择实例规格_实例_云服务器 ECS 阿里云技术文档 第2张
      • 如果您未选择自动安装GPU驱动，可以在实例自定义数据处配置安装脚本，脚本示例请参见自动安装脚本v2.1。
  5. 根据需要完成分组设置并确认订单，完成创建GPU计算型实例。
    说明
    • 如果您配置了自动安装脚本，实例启动后会自动安装GPU驱动。安装完成后实例会自动重启，重启过后GPU驱动才能正常工作。
    • GPU驱动在Persistence Mode下工作更稳定。安装脚本会自动开启GPU驱动的Persistence Mode，并将该设置添加到Linux系统服务中，开机自动启动服务，确保实例重启后还能默认开启Persistence Mode。

自动安装GPU驱动脚本

实例首次启动时，cloud-init会自动执行Shell脚本安装GPU驱动、CUDA、cuDNN库。

  • 如果您勾选了自动安装GPU驱动，可选的GPU驱动、CUDA、cuDNN库版本如下：
    CUDA GPU驱动 cuDNN 支持的实例规格 支持的公共镜像版本（仅支持自营镜像）
    10.1.168 418.67 7.5.0
    • gn5
    • gn5i
    • gn6v
    • gn4
    • gn6i
    • Ubuntu18.04
    • Ubuntu16.04
    • Centos7.x
    • Centos6.x
    10.0.130
    • 418.67
    • 410.104
    • 7.5.0
    • 7.4.2
    • 7.3.1
    • gn5
    • gn5i
    • gn6v
    • gn4
    • gn6i
    • Ubuntu18.04
    • Ubuntu16.04
    • Centos7.x
    • Centos6.x
    9.2.148
    • 418.67
    • 410.104
    • 7.5.0
    • 7.4.2
    • 7.3.1
    • 7.1.4
    • gn5
    • gn5i
    • gn4
    • gn6v
    • Ubuntu16.04
    • Centos7.x
    • Centos6.x
    9.0.176
    • 418.67
    • 410.104
    • 390.116
    • 7.5.0
    • 7.4.2
    • 7.3.1
    • 7.1.4
    • 7.0.5
    • gn5
    • gn5i
    • gn4
    • gn6v
    • Ubuntu16.04
    • Centos7.x
    • Centos6.x
    • SUSE 12sp2
    8.0.61
    • 418.67
    • 410.104
    • 390.116
    • 7.1.3
    • 7.0.5
    • gn5
    • gn5i
    • gn4
    • Ubuntu16.04
    • Centos7.x
    • Centos6.x
  • 如果您在实例自定义数据配置安装脚本，脚本内容请参见自动安装脚本v2.1。
    自动安装脚本v2.1具有以下优势：
    • 提供最新版本的CUDA、GPU驱动和cuDNN库。
    • 登录实例后，如果正在安装驱动，您可以看到安装进度条。如果已经安装成功，您可以看到安装结果提示NVIDIA INSTALL OK；如果安装失败，您将看到安装结果提示NVIDIA INSTALL FAIL。
    使用自动安装脚本v2.1时，您需要修改安装脚本的以下参数，指定GPU驱动、CUDA、cuDNN版本号，例如： 
    DRIVER_VERSION="410.104"
CUDA_VERSION="10.0.130"
CUDNN_VERSION="7.5.0"
    说明 如果镜像是CentOS或SUSE操作系统，安装脚本使用.run安装包进行安装，如果镜像是Ubuntu操作系统，安装脚本使用.deb安装包进行安装。

自动安装脚本v2.1

#!/bin/sh

#Please input version to install
DRIVER_VERSION=""
CUDA_VERSION=""
CUDNN_VERSION=""

INSTALL_DIR="/root/nvidia"
log=${INSTALL_DIR}/nvidia_install.log

#using .deb to install driver and cuda on ubuntu OS
#using .run to install driver and cuda on ubuntu OS
nvidia_script="nvidia_install.sh"
script_download_url=$(curl http://100.100.100.200/latest/meta-data/source-address | head -1)"/opsx/ecs/linux/binary/nvidia/script/${nvidia_script}"
echo $script_download_url

mkdir $INSTALL_DIR && cd $INSTALL_DIR
wget -t 10 --timeout=10 $script_download_url && sh ${INSTALL_DIR}/${nvidia_script} $DRIVER_VERSION $CUDA_VERSION $CUDNN_VERSION