在Azure虚拟机上搭建GPU PyTorch环境的完整指南

你好!欢迎来到本教程,我们将一步一步教你如何在Azure虚拟机上搭建一个强大的GPU PyTorch环境,以便进行深度学习任务。在这个教程中,我们将涵盖以下主题:

1. 引言

在深度学习和机器学习中,GPU是必不可少的工具,它可以大大加速训练过程。在Azure虚拟机上搭建GPU PyTorch环境可以让你利用云计算的强大性能来进行深度学习任务,而不必购买昂贵的硬件。

2. 想定的硬件和操作系统环境

在开始之前,让我们先了解一下我们的想定硬件和操作系统环境:

  • 虚拟机型号:Standard_NC4as_T4_v3
  • 操作系统:Ubuntu 20.04 x64 Gen2
  • GPU:NVIDIA Tesla T4
  • CUDA版本:11.6

请注意,本教程中的步骤是针对上述硬件和环境进行的,如果你的环境不同,可能需要做一些调整。

3. 使用之前检查GPU信息

在开始安装之前,让我们首先检查一下你的GPU信息,确保你的虚拟机中有NVIDIA GPU。

$ lspci | grep -i nvidia

如果一切正常,你应该会看到类似以下的输出:

0001:00:00.0 3D controller: NVIDIA Corporation TU104GL [Tesla T4] (rev a1)

接下来,我们可以检查当前系统中是否已经安装了NVIDIA驱动和CUDA。

$ dpkg -l | grep nvidia
$ dpkg -l | grep cuda

如果已经安装了其他版本的驱动或CUDA,我们将在后面的步骤中进行卸载。

4. 卸载现有的CUDA和NVIDIA驱动

为了避免版本冲突,我们需要卸载当前系统中可能存在的CUDA和NVIDIA驱动。

$ sudo apt-get --purge remove nvidia-*
$ sudo apt-get --purge remove cuda-*

这将卸载系统中的所有NVIDIA驱动和CUDA版本。

5. 安装NVIDIA驱动

接下来,我们将安装适用于我们的GPU的NVIDIA驱动。首先,让我们查找适合的驱动版本。

$ sudo apt install ubuntu-drivers-common
$ sudo ubuntu-drivers devices

从输出中,找到标记为“recommended”的NVIDIA驱动版本,例如“nvidia-driver-525”,然后进行安装。

$ sudo add-apt-repository ppa:graphics-drivers/ppa
$ sudo apt update
$ sudo apt install nvidia-driver-525

完成安装后,重新启动虚拟机。

$ sudo reboot

重新登录后,你可以使用以下命令来验证NVIDIA驱动是否成功安装。

$ nvidia-smi

如果一切正常,你将看到与你的GPU相关的信息。

6. 安装CUDA

现在,让我们安装CUDA,这是深度学习中必不可少的库。首先,我们需要从NVIDIA官网获取适合我们的CUDA安装命令。选择正确的CUDA版本和操作系统,然后执行以下命令。

$ wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin
$ sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600
$ wget https://developer.download.nvidia.com/compute/cuda/11.6.0/local_installers/cuda-repo-ubuntu2004-11-6-local_11.6.0-510.39.01-1_amd64.deb
$ sudo dpkg -i cuda-repo-ubuntu2004-11-6-local_11.6.0-510.39.01-1_amd64.deb
$ sudo apt-key add /var/cuda-repo-ubuntu2004-11-6-local/7fa2af80.pub
$ sudo apt-get update
$ sudo apt-get -y install cuda-11-6

完成安装后,需要将CUDA的路径添加到环境变量中。编辑你的.bashrc文件并添加以下行:

export PATH="/usr/local/cuda/bin:$PATH"
export LD_LIBRARY_PATH="/usr/local/cuda/lib64:$LD_LIBRARY_PATH"

然后使用以下命令使更改生效:

$ source ~/.bashrc

7. 安装cuDNN

cuDNN是一个用于深度学习的GPU加速库,让我们来安装它。首先,你需要从NVIDIA官方网站下载cuDNN的安装包。你需要注册并登录以获取下载权限。

下载完安装包后,将它传输到你的虚拟机上,然后执行以下步骤:

$ sudo dpkg -i cudnn-local-repo-ubuntu2004-8.7.0.84_1.0-1_amd64.deb
$ sudo cp /var/cudnn-local-repo-ubuntu2004-8.7.0.84/cudnn-local-A3837CDF-keyring.gpg /usr/share/keyrings/
$ cd /var/cudnn-local-repo-ubuntu2004-8.7.0.84/
$ sudo dpkg -i libcudnn8_8.7.0.84-1+cuda11.8_amd64.deb
$ sudo dpkg -i libcudnn8-dev_8.7.0.84-1+cuda11.8_amd64.deb
$ sudo dpkg -i libcudnn8-samples_8.7.0.84-1+cuda11.8_amd64.deb

请确保按照上述顺序执行所有

步骤,以防止出现错误。

8. 验证cuDNN

现在,让我们验证cuDNN是否已经成功安装。首先,重新启动你的虚拟机以确保所有更改生效。

$ sudo reboot

再次登录虚拟机并激活之前创建的conda环境(如果你使用的是conda)。

$ conda activate torch

接下来,运行Python并执行以下命令来验证cuDNN:

import torch
torch.cuda.is_available()  # 检查CUDA是否可用
torch.cuda.device_count()    # 查看可用的GPU数量

如果一切正常,你将看到CUDA可用,并且你的GPU数量。

9. 安装PyTorch

最后,让我们安装PyTorch,这是深度学习的核心库之一。你可以根据你的需求选择不同的PyTorch版本和安装命令。你可以在PyTorch官方网站上获取适合你的版本和命令。

执行以下命令来安装PyTorch(请注意,这是一个示例命令,你应该根据你的需求选择正确的版本):

$ pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu116

10. 结束语

恭喜你,你已经成功在Azure虚拟机上搭建了一个强大的GPU PyTorch环境!现在你可以开始进行深度学习任务了。请记住,本教程中的步骤是根据特定硬件和环境定制的,如果你的环境有所不同,可能需要做一些适应性调整。

希望这个教程对你有所帮助,祝你在深度学习的旅程中取得成功!

本文由作者 王大神 原创发布于 大神网的AI博客。

转载请注明作者:王大神

原文出处:在Azure虚拟机上搭建GPU PyTorch环境的完整指南

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 2023年9月17日
下一篇 2023年9月17日

相关推荐

  • 优化深度学习训练流程:使用PyTorch Lightning教程

    在深度学习领域,优化训练流程是提高模型性能和训练效率的关键。PyTorch Lightning是一个强大的工具,可以帮助您更轻松地管理和优化深度学习训练。本教程将介绍PyTorch Lightning的核心组件和一些强大的插件,以及…

    2023年10月20日
    00
  • 深度学习聊天机器人引发隐私泄露担忧

    深度学习技术的发展已经让人们大开眼界,特别是在人工智能领域。聊天机器人是其中一项引人注目的应用之一,然而,最近的研究发现,使用 ChatGPT 进行重复单词的技术可能会导致意外泄露私人信息。本文将深入探讨这一…

    2023年12月6日
    00
  • 探索Stable-Diffusion-WebUI的Dreambooth扩展

    嗨,各位AI技术热爱者!今天,我将为你带来一个令人兴奋的故事,将带你进入一个不同寻常的世界——Dreambooth扩展,这是Stable-Diffusion-WebUI中的一个强大工具。让我们开始吧! 开场故事 一天,当你坐在电脑前,想…

    2023年9月25日
    00
  • 使用Shell脚本和CLI界面在Ubuntu 20.04上管理防火墙

    在今天的数字化世界中,保护计算机和服务器免受网络威胁的侵害至关重要。Ubuntu 20.04是一种广泛使用的Linux操作系统,为了确保计算机的安全性,我们需要学会管理防火墙。本教程将教您如何使用Shell脚本和CLI界面在…

    2023年10月13日
    00
  • 深度揭秘:AI巨变背后的故事

    曾几何时,人工智能在科技领域掀起一场风暴,众多先进的模型如GPT-4和Gemini引领潮流。然而,新的爆料显示,AI领域正迎来一次前所未有的巨变。在本文中,我们将揭示DeepMind的最新计划和OpenAI的神秘动向,以及这些…

    2023年10月14日
    00
  • 因为chatgpt,我选择Ubuntu 20.04作为开发环境。

    在现代软件开发领域,选择一个合适的开发环境至关重要。这不仅会影响您的工作效率,还会直接影响到项目的稳定性和成功。在这篇教程中,我们将介绍为什么选择Ubuntu 20.04作为开发环境,并提供详细的步骤和建议,以…

    2023年4月15日
    00
  • 在Ubuntu 20.04上探索Steam Play:游戏世界的大门

    引言 Ubuntu 20.04是一款备受欢迎的Linux操作系统,但对于游戏爱好者来说,一直以来都有一个问题:如何在这个开源的世界里畅玩Windows上的游戏?Steam Play似乎提供了一个解决方案。本文将分享我在Ubuntu 20.04上使…

    2023年9月7日
    00
  • Ubuntu 20.04配置静态IP地址

    在现代网络环境中,大多数设备都是通过动态主机配置协议(DHCP)自动获取IP地址的。然而,在某些情况下,如需要进行端口转发、运行媒体服务器或需要稳定的本地网络连接时,配置静态IP地址是必不可少的。本教程将向…

    2023年8月25日
    00
  • 《Alan Wake 2》:Nvidia早期测试报告

    经过漫长的等待,《Alan Wake 2》终于在玩家们的眼前展开。这款备受期待的续作将让我们回顾一段经典的恐怖冒险,并带来了全新的视觉和技术升级。在本文中,我们将深入探讨游戏的性能和图形效果,以及Nvidia的DLSS和…

    2023年10月28日
    00
  • 深入了解CUDA、cuDNN以及解决CUDA Out of Memory问题

    当我们探索深度学习、科学计算和图形处理等领域时,我们经常会遇到诸如CUDA、cuDNN、AMD显卡和CUDA Out of Memory等术语和问题。在本文中,我们将深入探讨这些话题,帮助您更好地理解它们,并提供解决CUDA Out of M…

    2023年10月17日
    00