1. 为什么需要专门配置CUDA 12.2的PyTorch环境最近在帮实验室新来的研究生配置深度学习环境时发现很多同学卡在了CUDA和PyTorch版本匹配这个环节。特别是当你的显卡驱动支持的是CUDA 12.2这种较新版本时直接按照PyTorch官网的默认命令安装经常会遇到各种奇怪的问题。我自己的RTX 4090显卡就遇到过这种情况——明明显卡驱动显示支持CUDA 12.2但用conda安装PyTorch时要么找不到对应版本要么安装后无法调用GPU。后来发现这是因为PyTorch官方发布的稳定版本往往会有一定的滞后性特别是对于最新CUDA版本的支持。这种情况下的解决方案其实很简单要么降级CUDA版本不推荐要么找到正确的PyTorch安装渠道和配置方法推荐。本文要介绍的就是第二种方案而且会重点解决国内开发者最头疼的下载速度问题。2. 环境准备从零开始的正确姿势2.1 检查你的CUDA环境在开始之前我们需要确认两件事显卡驱动版本和CUDA Toolkit版本。这两个概念经常被混淆但其实它们是不一样的显卡驱动版本决定了你的显卡能支持的最高CUDA版本CUDA Toolkit版本实际安装的开发工具包版本检查方法很简单在命令行输入nvidia-smi你会看到类似这样的输出--------------------------------------------------------------------------------------- | NVIDIA-SMI 535.54.03 Driver Version: 535.54.03 CUDA Version: 12.2 | |------------------------------------------------------------------------------------- | GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. | | | | MIG M. | || | 0 NVIDIA GeForce RTX 4090 On | 00000000:01:00.0 On | Off | | 0% 42C P8 18W / 450W | 689MiB / 24564MiB | 0% Default | | | | N/A | -------------------------------------------------------------------------------------这里的关键信息是CUDA Version: 12.2这表示你的显卡驱动支持的最高CUDA版本是12.2。2.2 创建专用的conda环境我强烈建议为每个项目创建独立的conda环境这样可以避免各种依赖冲突。下面是创建环境的正确姿势conda create -n pytorch_cuda12 python3.10 -y conda activate pytorch_cuda12这里有几个细节需要注意环境名称要有意义比如我这里用pytorch_cuda12表示这是为PyTorch CUDA 12准备的环境Python版本建议选择3.8-3.10之间的稳定版本加上-y参数可以跳过确认步骤3. 镜像源配置国内开发者的救星3.1 为什么要换源PyTorch的官方源在国外直接安装经常会遇到下载速度慢经常只有几十KB/s安装过程卡在solving environment阶段依赖解析失败我在清华大学校园网环境下测试过使用官方源的安装时间可能长达数小时而换成国内镜像源后通常只需要几分钟。3.2 配置阿里云镜像源的正确方法很多教程会教你直接添加镜像源但其实这可能会引入新的问题。正确的做法应该是先清理现有配置conda config --remove-key channels添加阿里云镜像源conda config --add channels https://mirrors.aliyun.com/anaconda/pkgs/main conda config --add channels https://mirrors.aliyun.com/anaconda/pkgs/r conda config --add channels https://mirrors.aliyun.com/anaconda/pkgs/msys2 conda config --set show_channel_urls yes关键一步修改.condarc文件 打开C:\Users\你的用户名.condarc文件确保内容如下channels: - https://mirrors.aliyun.com/anaconda/pkgs/main - https://mirrors.aliyun.com/anaconda/pkgs/r - https://mirrors.aliyun.com/anaconda/pkgs/msys2 ssl_verify: true show_channel_urls: true特别注意不要保留任何带有-default的配置项4. PyTorch与CUDA 12.2的版本匹配4.1 为什么CUDA 12.2需要特殊处理截至我写这篇文章时PyTorch官方稳定版(Stable)还没有提供对CUDA 12.2的完整支持。但这不代表我们不能在CUDA 12.2环境下使用PyTorch只是需要一些技巧。实际上PyTorch的Nightly版本通常已经支持最新的CUDA版本。不过Nightly版本稳定性可能稍差所以我们要找到一个平衡点。4.2 正确的安装命令经过多次测试我发现以下命令在CUDA 12.2环境下最稳定conda install pytorch torchvision torchaudio pytorch-cuda12.1 -c pytorch-nightly -c nvidia这里有几个关键点使用pytorch-nightly源而不是默认的pytorch源虽然CUDA是12.2但安装12.1版本的PyTorch CUDA支持这是兼容的包含了torchvision和torchaudio这两个常用扩展5. 验证安装结果安装完成后我们需要验证三件事PyTorch是否能正常导入是否能检测到CUDA实际计算是否能使用GPU5.1 基础验证启动Python解释器运行以下代码import torch print(torch.__version__) # 应该输出安装的版本号 print(torch.cuda.is_available()) # 应该输出True print(torch.cuda.get_device_name(0)) # 应该输出你的显卡型号5.2 性能测试为了确保GPU确实能加速计算可以运行一个小测试import torch import time device torch.device(cuda if torch.cuda.is_available() else cpu) x torch.randn(10000, 10000).to(device) start time.time() _ x x.T print(fElapsed time: {time.time()-start:.4f} seconds)在我的RTX 4090上这个矩阵乘法在GPU上只需要约0.5秒而在CPU上需要约15秒。6. 常见问题排查6.1 安装卡在solving environment怎么办这是最常见的问题通常有三个原因镜像源配置不正确网络连接不稳定之前的安装残留导致依赖冲突解决方法确保按照第3节正确配置了镜像源尝试清理conda缓存conda clean --all -y如果问题依旧可以尝试指定更严格的版本conda install pytorch2.1.0 torchvision0.16.0 torchaudio2.1.0 pytorch-cuda12.1 -c pytorch-nightly -c nvidia6.2 导入torch时报错CUDA not available这可能是因为显卡驱动版本不匹配PyTorch版本与CUDA版本不兼容系统环境变量有问题检查步骤确认nvidia-smi能正常显示显卡信息检查CUDA版本匹配import torch print(torch.version.cuda) # 应该显示12.1如果还是不行可以尝试重新安装显卡驱动7. 进阶技巧多版本CUDA共存有时候我们需要在同一台机器上支持不同CUDA版本的项目。这里分享一个实用技巧首先安装CUDA Toolkit 12.2这是主版本然后通过conda安装其他版本的CUDA运行时conda install cudatoolkit11.8 -c nvidia这样你就可以在同一个系统中支持多个CUDA版本只需要在不同的conda环境中安装对应的版本即可。8. 环境备份与迁移配置好的环境非常宝贵建议做好备份。conda提供了两种方式导出环境配置conda env export environment.yml创建完全可复制的环境包推荐conda pack -n pytorch_cuda12 -o pytorch_cuda12.tar.gz这样生成的压缩包可以解压到其他机器上直接使用无需重新安装。在实际项目中我通常会同时使用这两种方法environment.yml用于记录依赖关系conda pack用于快速部署。