在Azure虚拟机上搭建GPU PyTorch环境的完整指南

你好!欢迎来到本教程,我们将一步一步教你如何在Azure虚拟机上搭建一个强大的GPU PyTorch环境,以便进行深度学习任务。在这个教程中,我们将涵盖以下主题:

1. 引言

在深度学习和机器学习中,GPU是必不可少的工具,它可以大大加速训练过程。在Azure虚拟机上搭建GPU PyTorch环境可以让你利用云计算的强大性能来进行深度学习任务,而不必购买昂贵的硬件。

2. 想定的硬件和操作系统环境

在开始之前,让我们先了解一下我们的想定硬件和操作系统环境:

  • 虚拟机型号:Standard_NC4as_T4_v3
  • 操作系统:Ubuntu 20.04 x64 Gen2
  • GPU:NVIDIA Tesla T4
  • CUDA版本:11.6

请注意,本教程中的步骤是针对上述硬件和环境进行的,如果你的环境不同,可能需要做一些调整。

3. 使用之前检查GPU信息

在开始安装之前,让我们首先检查一下你的GPU信息,确保你的虚拟机中有NVIDIA GPU。

$ lspci | grep -i nvidia

如果一切正常,你应该会看到类似以下的输出:

0001:00:00.0 3D controller: NVIDIA Corporation TU104GL [Tesla T4] (rev a1)

接下来,我们可以检查当前系统中是否已经安装了NVIDIA驱动和CUDA。

$ dpkg -l | grep nvidia
$ dpkg -l | grep cuda

如果已经安装了其他版本的驱动或CUDA,我们将在后面的步骤中进行卸载。

4. 卸载现有的CUDA和NVIDIA驱动

为了避免版本冲突,我们需要卸载当前系统中可能存在的CUDA和NVIDIA驱动。

$ sudo apt-get --purge remove nvidia-*
$ sudo apt-get --purge remove cuda-*

这将卸载系统中的所有NVIDIA驱动和CUDA版本。

5. 安装NVIDIA驱动

接下来,我们将安装适用于我们的GPU的NVIDIA驱动。首先,让我们查找适合的驱动版本。

$ sudo apt install ubuntu-drivers-common
$ sudo ubuntu-drivers devices

从输出中,找到标记为“recommended”的NVIDIA驱动版本,例如“nvidia-driver-525”,然后进行安装。

$ sudo add-apt-repository ppa:graphics-drivers/ppa
$ sudo apt update
$ sudo apt install nvidia-driver-525

完成安装后,重新启动虚拟机。

$ sudo reboot

重新登录后,你可以使用以下命令来验证NVIDIA驱动是否成功安装。

$ nvidia-smi

如果一切正常,你将看到与你的GPU相关的信息。

6. 安装CUDA

现在,让我们安装CUDA,这是深度学习中必不可少的库。首先,我们需要从NVIDIA官网获取适合我们的CUDA安装命令。选择正确的CUDA版本和操作系统,然后执行以下命令。

$ wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin
$ sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600
$ wget https://developer.download.nvidia.com/compute/cuda/11.6.0/local_installers/cuda-repo-ubuntu2004-11-6-local_11.6.0-510.39.01-1_amd64.deb
$ sudo dpkg -i cuda-repo-ubuntu2004-11-6-local_11.6.0-510.39.01-1_amd64.deb
$ sudo apt-key add /var/cuda-repo-ubuntu2004-11-6-local/7fa2af80.pub
$ sudo apt-get update
$ sudo apt-get -y install cuda-11-6

完成安装后,需要将CUDA的路径添加到环境变量中。编辑你的.bashrc文件并添加以下行:

export PATH="/usr/local/cuda/bin:$PATH"
export LD_LIBRARY_PATH="/usr/local/cuda/lib64:$LD_LIBRARY_PATH"

然后使用以下命令使更改生效:

$ source ~/.bashrc

7. 安装cuDNN

cuDNN是一个用于深度学习的GPU加速库,让我们来安装它。首先,你需要从NVIDIA官方网站下载cuDNN的安装包。你需要注册并登录以获取下载权限。

下载完安装包后,将它传输到你的虚拟机上,然后执行以下步骤:

$ sudo dpkg -i cudnn-local-repo-ubuntu2004-8.7.0.84_1.0-1_amd64.deb
$ sudo cp /var/cudnn-local-repo-ubuntu2004-8.7.0.84/cudnn-local-A3837CDF-keyring.gpg /usr/share/keyrings/
$ cd /var/cudnn-local-repo-ubuntu2004-8.7.0.84/
$ sudo dpkg -i libcudnn8_8.7.0.84-1+cuda11.8_amd64.deb
$ sudo dpkg -i libcudnn8-dev_8.7.0.84-1+cuda11.8_amd64.deb
$ sudo dpkg -i libcudnn8-samples_8.7.0.84-1+cuda11.8_amd64.deb

请确保按照上述顺序执行所有

步骤,以防止出现错误。

8. 验证cuDNN

现在,让我们验证cuDNN是否已经成功安装。首先,重新启动你的虚拟机以确保所有更改生效。

$ sudo reboot

再次登录虚拟机并激活之前创建的conda环境(如果你使用的是conda)。

$ conda activate torch

接下来,运行Python并执行以下命令来验证cuDNN:

import torch
torch.cuda.is_available()  # 检查CUDA是否可用
torch.cuda.device_count()    # 查看可用的GPU数量

如果一切正常,你将看到CUDA可用,并且你的GPU数量。

9. 安装PyTorch

最后,让我们安装PyTorch,这是深度学习的核心库之一。你可以根据你的需求选择不同的PyTorch版本和安装命令。你可以在PyTorch官方网站上获取适合你的版本和命令。

执行以下命令来安装PyTorch(请注意,这是一个示例命令,你应该根据你的需求选择正确的版本):

$ pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu116

10. 结束语

恭喜你,你已经成功在Azure虚拟机上搭建了一个强大的GPU PyTorch环境!现在你可以开始进行深度学习任务了。请记住,本教程中的步骤是根据特定硬件和环境定制的,如果你的环境有所不同,可能需要做一些适应性调整。

希望这个教程对你有所帮助,祝你在深度学习的旅程中取得成功!

本文由作者 王大神 原创发布于 大神网的AI博客。

转载请注明作者:王大神

原文出处:在Azure虚拟机上搭建GPU PyTorch环境的完整指南

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 2023年9月17日
下一篇 2023年9月17日

相关推荐

  • 深度解析GPT:一窥AI大模型的崭新世界

    在当今科技领域,GPT(Generative Pre-trained Transformer)已经成为了一个备受关注的话题。它是一种生成型预训练变换模型,其中的ChatGPT作为一个智能聊天机器人,引发了广泛的讨论和研究。本文将深入探讨GPT的定…

    2023年9月12日
    00
  • 一键部署 AutoBangumi 脚本:打造完美二次元动漫追踪器

    你是否是一位热爱追番追剧的二次元爱好者?是否曾为找不到一个完美的动漫追踪工具而苦恼?不用担心,AutoBangumi(AB)是你的不二选择!AB是一款功能强大的动漫追踪器,支持自动更新番剧信息、自定义追踪进度、自动…

    2023年10月31日
    00
  • 用audioFlux进行音频和音乐分析的深度学习工具教程

    故事开始于一个寂静的夜晚,你坐在电脑前,渴望探索音频和音乐的奥秘。你听说了一款强大的工具,名为audioFlux,它是一个深度学习工具库,专为音频和音乐分析以及特征提取而设计。在这篇教程中,我们将一起探索如何…

    2023年9月19日
    00
  • 如何在你的计算机上安装 PyTorch 以及 CUDA 11.0

    嗨,大家好!你是否曾经想要深入学习机器学习和人工智能,但却在安装PyTorch和CUDA方面感到困惑?别担心,我将带你一步一步完成这个过程。 在过去的几年里,PyTorch已经成为了深度学习领域的瑰宝。而CUDA,NVIDIA的…

    2023年9月17日
    00
  • 在Ubuntu上安装和配置CUDA以及PyTorch的完整指南

    近年来,深度学习已经成为人工智能领域的重要分支,而CUDA和PyTorch则是在深度学习领域中应用广泛的工具。CUDA是NVIDIA开发的并行计算平台和API,用于利用GPU的强大计算能力。PyTorch是一个基于Python的深度学习框…

    2023年12月17日
    00
  • 分布式深度学习:PyTorch中的多GPU训练策略

    引言 在深度学习领域,随着数据集和模型的不断扩大,单个GPU的计算能力逐渐无法满足训练的需求。为了充分利用多个GPU的并行计算能力,PyTorch提供了多种多GPU训练的方法,其中包括nn.DataParallel和DistributedData…

    2023年9月5日
    00
  • 在 Ubuntu 20.04 上一键安装 Docker 的教程

    在 Ubuntu 20.04 上一键安装 Docker 的教程 Docker 是一款开源的应用容器引擎,允许开发者将应用及其依赖打包到一个容器中,确保应用在任何环境中都能够一致性和可靠地运行。在本教程中,我们将向您展示如何编写一…

    2023年9月10日
    00
  • AI续写文章的原理:解密文本生成技术

    在当今数字化时代,人工智能(AI)的应用已经深刻地渗透到我们的生活中。其中一个令人印象深刻的AI技术就是文本生成,它使计算机能够自动续写文章,甚至创作小说、新闻、博客等各种文本内容。你是否曾好奇AI是如何…

    2023年10月6日
    00
  • Ubuntu 20.04上配置机器学习环境:CUDA和NVIDIA驱动

    在当今世界,机器学习已经成为了一个炙手可热的领域,它正在不断地改变着我们的生活和工作方式。如果你是一名机器学习爱好者或专业从业者,那么你一定会需要一个强大的计算机来运行深度学习模型。本文将介绍如何在U…

    2023年10月19日
    00
  • NVIDIA推出首款搭载HBM3e内存的GPU:引领AI和科学计算的未来

    随着人工智能和高性能计算的不断发展,GPU(图形处理单元)的角色变得愈发重要。在这个领域,NVIDIA一直是领先的创新者之一。最近,NVIDIA再次引领潮流,宣布推出了首款搭载HBM3e内存的GPU,这一消息在科技界掀起了…

    2023年11月14日
    00