我是靠谱客的博主 标致西装,最近开发中收集的这篇文章主要介绍2021 年最新版 CentOS 7 配置 Caffe 深度学习环境前言一、准备工作:安装 EPEL 源和 ELRepo 源二、安装 NVIDIA 显卡驱动三、安装 CUDA 工具包四、安装 Caffe 框架必需的第三方库五、安装 Caffe 框架六、用 Caffe 训练 MNIST(手写体数字)数据集七、用自己的手写体数字图片检验训练成果,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

前言

本文写于 2021 年 7 月 4 日。若按本文的方法配置出现了错误,请留意是否距离写作时间过远。

请确保你的电脑显卡是 NVIDIA 显卡。本文不适用于 AMD 显卡和 Intel 集成显卡。

一、准备工作:安装 EPEL 源和 ELRepo 源

CentOS 7 官方源的软件包数量过少,很多依赖项需要借助第三方源才能安装。这里 ELRepo 源用于安装 NVIDIA 显卡驱动,EPEL 源用于安装 Caffe 框架所必需的依赖项。

# 安装 EPEL 源
sudo yum install -y epel-release

# 安装 ELRepo 源
sudo rpm --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.org
sudo yum install https://www.elrepo.org/elrepo-release-7.el7.elrepo.noarch.rpm

# 将系统内的软件更新到最新版本
sudo yum update -y

# 清除旧内核,只保留最新的内核,然后重新启动
# 注意这里的 count=1 选项,表示只保留最新的内核,旧的内核一个都不备份
# 这样做有风险,可以考虑改为 count=2。这样当新内核无法使用时,可以无损回滚到旧内核
sudo package-cleanup --oldkernels --count=1
reboot

二、安装 NVIDIA 显卡驱动

这里使用 yum 命令安装软件仓库里的 NVIDIA 驱动。这种方法不但简单,而且安装上的驱动也很稳定,不会导致系统崩溃。

首先安装显卡检测程序,检查自己需要装什么版本的 NVIDIA 驱动。

# 安装检测程序
sudo yum install nvidia-detect

# 安装完毕后,执行检测程序
nvidia-detect -v

注意看输出的内容,告知你应该装的是哪个版本的驱动。

我的机子上显示的是 This device requires the current 460.84 NVIDIA driver kmod-nvidia,所以可以直接装最新的 460.84 版本的驱动。如果被告知只能装 390.xx、340.xx 或 304.xx 版本的 legacy 驱动,则要注意别安装错。

# 大多数显卡可以直接安装最新版本的驱动
sudo yum install nvidia-x11-drv

# 如果显卡检测程序告知你只能装 390.xx 版本的驱动,则执行下面这行命令
sudo yum install nvidia-x11-drv-390xx

# 如果显卡检测程序告知你只能装 340.xx 版本的驱动,则执行下面这行命令
sudo yum install nvidia-x11-drv-340xx

# 如果显卡检测程序告知你只能装 304.xx 版本的驱动,则执行下面这行命令
sudo yum install nvidia-x11-drv-304xx

安装完毕后,输入 reboot 重启计算机。重启后,输入 nvidia-smi 命令,检查 NVIDIA 驱动和 CUDA 驱动是否被正确安装。如果有类似下面这样的输出,则说明安装成功。

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 460.84       Driver Version: 460.84       CUDA Version: 11.2     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  GeForce GT 720      Off  | 00000000:01:00.0 N/A |                  N/A |
| 40%   41C    P0    N/A /  N/A |    146MiB /   974MiB |     N/A      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

三、安装 CUDA 工具包

用浏览器打开 NVIDIA 开发者官网 NVIDIA 开发者 | NVIDIA Developer,点击网页最下方【常用 SDK】里的【CUDA 开发工具包/SDK】,进入 CUDA 专区。点击【立即下载】后,按下述顺序配置下载选项:

Operating System: Linux

Architecture: x86_64

Distribution: CentOS

Version: 7

Installer Type: runfile (local)

此时网页显示如下图所示:

我们按照网页上的指示,在终端里键入下述命令,下载 CUDA 工具包:

# 切换到用户目录
cd ~

# 下载 CUDA 工具包的安装程序
wget https://developer.download.nvidia.com/compute/cuda
/11.4.0/local_installers/cuda_11.4.0_470.42.01_linux.run

# 运行安装程序
sudo sh cuda_11.4.0_470.42.01_linux.run

# 如果上述命令报错说 /tmp 目录空间不足
# 则需要在一个至少有 5GB 空间的分区里创建 CUDA 安装程序的临时目录
# 假设创建在自己的用户目录下 (~/cuda_temp)
rm -rf /tmp/*
mkdir cuda_temp
sudo sh cuda_11.4.0_470.42.01_linux.run --tmpdir=~/cuda_temp

进入安装程序以后,首先输入 accept 同意协议,然后进入选择要安装的组件的部分。这里安装程序默认会安装 CUDA 驱动,但因为 CUDA 驱动我们已经在第二步安装 NVIDIA 驱动时同步安装过了,所以不需要再安装一遍。

将光标定位到 CUDA Driver 处,然后按 Enter,取消其勾选,然后再将光标移动到最下方,输入 i 开始安装。

安装完毕后,根据安装程序的指示配置环境变量。

需要在 PATH 变量里追加 /usr/local/cuda-11.4/bin 目录。

需要在 LD_LIBRARY_PATH 变量里追加 /usr/local/cuda-11.4/lib64 目录。

# 用文本编辑器打开 /etc/profile 文件,用于编辑环境变量
sudo gedit /etc/profile

# 在文件的末尾,新增如下三行,然后保存
export PATH=/usr/local/cuda-11.4/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-11.4/lib64
${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

# 回到终端,重启计算机,使得环境变量配置生效
reboot

重启计算机后,我们来验证 CUDA 工具包是否安装成功。

# 切换到 CUDA Sample 目录
cd ~/NVIDIA_CUDA-11.4_Samples

# 将演示项目的源代码编译成可执行文件
make -j8

# 尝试运行演示项目
cd bin/x86_64/linux/release
./deviceQuery

如果终端里有类似如下的输出,说明 CUDA 工具包安装成功。

./deviceQuery Starting...

 CUDA Device Query (Runtime API) version (CUDART static linking)

Detected 1 CUDA Capable device(s)

Device 0: "GeForce GT 720"
  CUDA Driver Version / Runtime Version          11.2 / 11.4
  CUDA Capability Major/Minor version number:    3.5
  Total amount of global memory:                 974 MBytes (1021575168 bytes)
  (001) Multiprocessors, (192) CUDA Cores/MP:    192 CUDA Cores
  GPU Max Clock rate:                            797 MHz (0.80 GHz)
  Memory Clock rate:                             900 Mhz
  Memory Bus Width:                              64-bit
  L2 Cache Size:                                 524288 bytes
  Maximum Texture Dimension Size (x,y,z)         1D=(65536), 2D=(65536, 65536), 3D=(4096, 4096, 4096)
  Maximum Layered 1D Texture Size, (num) layers  1D=(16384), 2048 layers
  Maximum Layered 2D Texture Size, (num) layers  2D=(16384, 16384), 2048 layers
  Total amount of constant memory:               65536 bytes
  Total amount of shared memory per block:       49152 bytes
  Total shared memory per multiprocessor:        49152 bytes
  Total number of registers available per block: 65536
  Warp size:                                     32
  Maximum number of threads per multiprocessor:  2048
  Maximum number of threads per block:           1024
  Max dimension size of a thread block (x,y,z): (1024, 1024, 64)
  Max dimension size of a grid size    (x,y,z): (2147483647, 65535, 65535)
  Maximum memory pitch:                          2147483647 bytes
  Texture alignment:                             512 bytes
  Concurrent copy and kernel execution:          Yes with 1 copy engine(s)
  Run time limit on kernels:                     Yes
  Integrated GPU sharing Host Memory:            No
  Support host page-locked memory mapping:       Yes
  Alignment requirement for Surfaces:            Yes
  Device has ECC support:                        Disabled
  Device supports Unified Addressing (UVA):      Yes
  Device supports Managed Memory:                Yes
  Device supports Compute Preemption:            No
  Supports Cooperative Kernel Launch:            No
  Supports MultiDevice Co-op Kernel Launch:      No
  Device PCI Domain ID / Bus ID / location ID:   0 / 1 / 0
  Compute Mode:
     < Default (multiple host threads can use ::cudaSetDevice() with device simultaneously) >

deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 11.2, CUDA Runtime Version = 11.4, NumDevs = 1
Result = PASS

四、安装 Caffe 框架必需的第三方库

根据 Caffe 官网 Caffe | Deep Learning Framework (berkeleyvision.org) 的指示,执行如下命令安装依赖:

# 如果没有执行第一步里的安装 epel 源的步骤,那么此处会有部分依赖项无法安装
# 请确保执行下述代码之前已成功安装 epel 源

# 常规依赖
sudo yum install -y protobuf-devel leveldb-devel snappy-devel
sudo yum install -y opencv-devel boost-devel hdf5-devel
sudo yum install -y gflags-devel glog-devel lmdb-devel

# BLAS (线性代数库) 依赖
sudo yum install -y atlas-devel openblas-devel

# 注:以上依赖项可以写在一条命令里,不必分开写
# 这里分开写只是为了提高阅读体验

五、安装 Caffe 框架

首先从 GitHub 下载 Caffe 稳定版的源码:

# 切换到用户目录
cd ~

# 从 GitHub 下载 Caffe 1.0 的源码
wget https://github.com/BVLC/caffe/archive/refs/tags/1.0.zip

# 解压缩
unzip 1.0.zip

此时你的用户目录下会多出一个叫 caffe-1.0 的目录。这就是我们的 Caffe 框架所在目录。

在安装 Caffe 框架之前,我们需要做一些配置。1.0 版本的框架是 2017 年发布的,距离现在已有四年,其所依赖的各种第三方库的代码架构也产生了较大的改变。原先的默认配置文件已无法正确编译并安装 Caffe 框架,我们需要对配置文件做较大的改动。

# 进入 Caffe 框架目录
cd caffe-1.0

# 重命名 example 后缀的配置文件
mv Makefile.config.example Makefile.config

# 打开配置文件进行编辑
gedit Makefile.config

我们需要对配置文件做如下几处改动:

  • 让编译器按 C++11 标准来编译。2017 年时,Caffe 框架用到的第三方库都没有使用 C++11 标准,但现在有部分框架开始使用这个标准了。若不明确指定 C++11 标准,编译时会报错,要求强制指定该标准。
    # CUSTOM_CXX := g++
    # 找到上面这一行,在下面添加如下配置
    CXXFLAGS += -std=c++11
    LINKFLAGS += -std=c++11
    NVCCFLAGS += -std=c++11
  • CUDA 架构部分,只保留 3.5 以上的算力。CUDA 11.4 版本不再支持低于 3.5 的算力。保留低算力会导致编译时报出找不到低算力 API 的错误。
    # 原始配置:
    # CUDA_ARCH := -gencode arch=compute_20,code=sm_20 
    # 		-gencode arch=compute_20,code=sm_21 
    # 		-gencode arch=compute_30,code=sm_30 
    # 		-gencode arch=compute_35,code=sm_35 
    # 		-gencode arch=compute_50,code=sm_50 
    # 		-gencode arch=compute_52,code=sm_52 
    # 		-gencode arch=compute_60,code=sm_60 
    # 		-gencode arch=compute_61,code=sm_61 
    # 		-gencode arch=compute_61,code=compute_61
    #
    # 去掉前三行 20、21、30,变为下面的样子
    CUDA_ARCH := -gencode arch=compute_35,code=sm_35 
    		-gencode arch=compute_50,code=sm_50 
    		-gencode arch=compute_52,code=sm_52 
    		-gencode arch=compute_60,code=sm_60 
    		-gencode arch=compute_61,code=sm_61 
    		-gencode arch=compute_61,code=compute_61
  • 线性代数库部分,默认使用的是是 ATLAS,我们需要将其改为 OpenBLAS。在 CentOS 7 里,保持 ATLAS 会报出找不到 -lcblas 和 -latlas 的错误。查询 /usr/lib64 目录可以发现,和 ATLAS 相关的库名是 libsatlas.so 和 libtatlas.so,atlas 前面多了一个 s 和 t,所以会找不到 libatlas.so 这个库。
    # BLAS := atlas
    # 找到上面这一行,将 atlas 改为 open
    BLAS := open

完成以上配置后,我们保存该配置文件,然后在终端里完成如下一键三连,中途若无任何报错信息出现,则 Caffe 框架安装成功!

make all -j8 && make test -j8 && make runtest -j8

六、用 Caffe 训练 MNIST(手写体数字)数据集

MNIST 数据集是深度学习里非常常用的一个数据集,该数据集有包含 60000 张手写体数字图片的训练集,以及 10000 张手写体数字图片的测试集。其地位相当于各大编程语言的第一个程序 Hello World,以及图像处理领域的 Lena 图。配置 MNIST 训练集,并正确识别出手写体数字,是深度学习的入门课程。

深度学习,就是在大量的训练集图片里,自动寻找这些图片的共同特征,然后在测试的时候通过比对已经记住的各种特征,来推测每张测试图片最有可能的是训练时的哪类图片。

首先根据官网教程,获取 MNIST 数据集,并将原始数据转换成 Caffe 框架能识别的数据类型。

# 切换到 Caffe 目录
cd ~/caffe-1.0

# 获取 MNIST 数据集
./data/mnist/get_mnist.sh

# 转换成 Caffe 能识别的数据类型
./examples/mnist/create_mnist.sh

执行完以上代码后,你会在 ~/caffe-1.0/examples/mnist 目录下看到两个新的文件夹:mnist_train_lmdb 和 mnist_test_lmdb。这就是我们将要给 Caffe 框架训练的数据集。

然后我们开始用 MNIST 训练集里的数据训练手写体图像识别模型。

# 切换到 Caffe 目录
cd ~/caffe-1.0

# 开始训练模型
./examples/mnist/train_lenet.sh

训练的过程中,我们能看到终端里会不断输出训练的阶段性成果

I0704 22:35:39.620370  7089 solver.cpp:330] Iteration 0, Testing net (#0)
I0704 22:35:41.662818  7096 data_layer.cpp:73] Restarting data prefetching from start.
I0704 22:35:41.755663  7089 solver.cpp:397]     Test net output #0: accuracy = 0.0688
I0704 22:35:41.755774  7089 solver.cpp:397]     Test net output #1: loss = 2.33572 (* 1 = 2.33572 loss)
I0704 22:35:41.831012  7089 solver.cpp:218] Iteration 0 (-nan iter/s, 2.2116s/100 iters), loss = 2.2965
I0704 22:35:41.831136  7089 solver.cpp:237]     Train net output #0: loss = 2.2965 (* 1 = 2.2965 loss)
I0704 22:35:41.831241  7089 sgd_solver.cpp:105] Iteration 0, lr = 0.01
I0704 22:35:46.380082  7089 solver.cpp:218] Iteration 100 (21.9824 iter/s, 4.54909s/100 iters), loss = 0.19359
I0704 22:35:46.380213  7089 solver.cpp:237]     Train net output #0: loss = 0.19359 (* 1 = 0.19359 loss)
I0704 22:35:46.380260  7089 sgd_solver.cpp:105] Iteration 100, lr = 0.00992565
I0704 22:35:50.928442  7089 solver.cpp:218] Iteration 200 (21.9858 iter/s, 4.54839s/100 iters), loss = 0.167063
I0704 22:35:50.928577  7089 solver.cpp:237]     Train net output #0: loss = 0.167063 (* 1 = 0.167063 loss)
I0704 22:35:50.928629  7089 sgd_solver.cpp:105] Iteration 200, lr = 0.00985258
I0704 22:35:55.473757  7089 solver.cpp:218] Iteration 300 (22.0006 iter/s, 4.54534s/100 iters), loss = 0.21728
I0704 22:35:55.473884  7089 solver.cpp:237]     Train net output #0: loss = 0.21728 (* 1 = 0.21728 loss)
I0704 22:35:55.473948  7089 sgd_solver.cpp:105] Iteration 300, lr = 0.00978075
I0704 22:36:00.029469  7089 solver.cpp:218] Iteration 400 (21.9503 iter/s, 4.55574s/100 iters), loss = 0.091555
I0704 22:36:00.029603  7089 solver.cpp:237]     Train net output #0: loss = 0.091555 (* 1 = 0.091555 loss)
I0704 22:36:00.029650  7089 sgd_solver.cpp:105] Iteration 400, lr = 0.00971013
I0704 22:36:04.519203  7089 solver.cpp:330] Iteration 500, Testing net (#0)
I0704 22:36:06.570842  7096 data_layer.cpp:73] Restarting data prefetching from start.
I0704 22:36:06.663012  7089 solver.cpp:397]     Test net output #0: accuracy = 0.9719
I0704 22:36:06.663120  7089 solver.cpp:397]     Test net output #1: loss = 0.0895511 (* 1 = 0.0895511 loss)

可以看到,迭代 0 次(Iteration 0)时,测试的准确率(accuracy)低得可怜,只有 6%,总共 10 个数字,这个准确率已经和瞎蒙的期望准确率(10%)差不多了。

然而,迭代了 500 次(Iteration 500)后,测试准确率(accuracy)就提到了 97%。

迭代的过程中,通过观察终端的输出,我们不难发现,准确率或许偶尔会有上下波动,但整体趋势是在不断逼近 100% 的。

我们的这个示例训练程序最终会迭代 10000 次,最终的准确率能高达 99%。

训练完成后,你会在 ~/caffe-1.0/examples/mnist 文件夹下发现两个新文件:lenet_iter_5000.caffemodel 和 lenet_iter_10000.caffemodel。顾名思义,这两个文件分别是迭代了 5000 次和 10000 次的训练模型。

七、用自己的手写体数字图片检验训练成果

待续……

最后

以上就是标致西装为你收集整理的2021 年最新版 CentOS 7 配置 Caffe 深度学习环境前言一、准备工作:安装 EPEL 源和 ELRepo 源二、安装 NVIDIA 显卡驱动三、安装 CUDA 工具包四、安装 Caffe 框架必需的第三方库五、安装 Caffe 框架六、用 Caffe 训练 MNIST(手写体数字)数据集七、用自己的手写体数字图片检验训练成果的全部内容,希望文章能够帮你解决2021 年最新版 CentOS 7 配置 Caffe 深度学习环境前言一、准备工作:安装 EPEL 源和 ELRepo 源二、安装 NVIDIA 显卡驱动三、安装 CUDA 工具包四、安装 Caffe 框架必需的第三方库五、安装 Caffe 框架六、用 Caffe 训练 MNIST(手写体数字)数据集七、用自己的手写体数字图片检验训练成果所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(32)

评论列表共有 0 条评论

立即
投稿
返回
顶部