以下是一篇关于使用CUDA进行环境搭建和代码执行的文章。
一、环境搭建
1. 安装CUDA,本文使用的是12.1版本,下载地址: https://developer.nvidia.com/cuda-12-1-1-download-archive
2. 安装conda3,下载地址: https://blog.csdn.net/m0_73634846/article/details/136378350
3. 准备代码环境,原文: https://mp.weixin.qq.com/s/PQVrlr5FoVb89Mivzi7pLA
顺序执行:
git clone https://github.com/Ucas-HaoranWei/GOT-OCR2.0.git
conda create -n got python=3.10 -y #创建虚拟环境
conda activate got #激活虚拟环境
pip install -e . # 使用项目里面pyproject.toml安装依赖
安装 Flash-Attention:
pip install ninja
pip install flash-attn --no-build-isolation
ps:以上是官方的安装教程,但是其实会遇到很多问题,以下进行逐一说明,不保证能解决所有问题,但是大部分问题都能解决
二、问题序列:
1. python安装CUDA出现错误提示:AssertionError: Torch not compiled with CUDA enabled
https://blog.csdn.net/qq_44750293/article/details/129685556
问题本质是PyTorch无法调用CUDA,原因是国内加速镜像默认会安装CPU版本,安装GPU版本即可。torch.cuda.is_available输出为false即代表安装的版本为CPU版本,安装GPU版本后即可输出为true。
...(以下内容省略)...