【机器学习】显卡、GPU、NVIDIA、CUDA、cuDNN
文章目录
- 一、显卡和GPU
- 1. 显卡是什么？
- 2. GPU是什么？
- （1）GPU和显卡的关系
- （2）GPU的由来与发展
- 二、CUDA
- 1. CUDA是什么？
- 2. 为什么推出CUDA？
- 三、cuDNN
- 1. 什么是cuDNN
- 2. CUDA与cuDNN的关系
- 四、NVIDIA
- 参考链接
一、显卡和GPU
1. 显卡是什么？
显卡是显示卡的简称，显卡是由GPU、显存等等组成的。
显卡（Video card，Graphics card）全称显示接口卡，又称显示适配器，是计算机最基本配置、最重要的配件之一。
就像电脑联网需要网卡，主机里的数据要显示在屏幕上就需要显卡。因此，显卡是电脑进行数模信号转换的设备，承担输出显示图形的任务。具体来说， 显卡接在电脑主板上，它将电脑的数字信号转换成模拟信号让显示器显示出来。
原始的显卡一般都是集成在主板上，只完成最基本的信号输出工作，并不用来处理数据。随着显卡的迅速发展，就出现了GPU的概念。
显卡分为独立显卡和集成显卡。
所谓集成，是指显卡集成在主板上，不能随意更换。而独立显卡是作为一个独立的器件插在主板的AGP接口上的，可以随时更换升级。另外，集成显卡使用物理内存，而独立显卡有自己的显存。
一般而言，同期推出的独立显卡的性能和速度要比集成显卡好、快。
值得一提的是，集成显卡和独立显卡都是有GPU的。
2. GPU是什么？
（1）GPU和显卡的关系
GPU（Graphic Processing Unit，图形处理单元）是图形处理器，一般GPU就是焊接在显卡上的。GPU是显卡上的一块芯片，就像CPU是主板上的一块芯片。
实际上，大部分情况下，我们所说GPU就等同于指显卡，但是实际情况是GPU是显示卡的“心脏”，是显卡的一个核心零部件，核心组成部分。
GPU本身并不能单独工作，只有配合上附属电路和接口，才能工作。这时候，它就变成了显卡。
（2）GPU的由来与发展
GPU这个概念是由 NVIDIA 公司于1999年提出的。那么1999年之前显卡上就没有GPU吗？当然有，只不过那时候没有人给它命名，也没有引起人们足够的重视，发展比较慢。
自Nvidia提出GPU这个概念后，GPU就进入了快速发展时期。简单来说，其经过了以下几个阶段的发展：
- 仅用于图形渲染，此功能是GPU的初衷，这一点从它的名字就可以看出：Graphic Processing Unit，图形处理单元。
- 后来人们发现，GPU这么一个强大的器件只用于图形处理太浪费了，它应该用来做更多的工作，例如浮点运算。怎么做呢？直接把浮点运算交给GPU是做不到的，因为它只能用于图形处理（那个时候）。最容易想到的，是把浮点运算做一些处理，包装成图形渲染任务，然后交给GPU来做。这就是 GPGPU（General Purpose GPU）的概念。不过这样做有一个缺点，就是你必须有一定的图形学知识，否则你不知道如何包装。
- 于是，为了让不懂图形学知识的人也能体验到GPU运算的强大，NVIDIA公司又提出了CUDA的概念。
CUDA(Compute Unified Device Architecture)，通用并行计算架构，是一种运算平台。它包含 CUDA 指令集架构以及 GPU 内部的并行计算引擎。你只要使用一种类似于C语言的 CUDA C 语言，就可以开发CUDA程序，从而可以更加方便的利用GPU强大的计算能力，而不是像以前那样先将计算任务包装成图形渲染任务，再交由GPU处理。
注意，并不是所有GPU都支持CUDA。（接下来详细介绍CUDA）
二、CUDA
1. CUDA是什么？
CUDA(Compute Unified Device Architecture)，是显卡厂商NVIDIA推出的运算平台。
CUDA™是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。 它包含了CUDA指令集架构(ISA)以及GPU内部的并行计算引擎。
2. 为什么推出CUDA？
随着显卡的发展，GPU越来越强大，而且GPU为显示图像做了优化。在计算上已经超越了通用的CPU。如此强大的芯片如果只是作为显卡就太浪费了，因此NVIDIA推出CUDA，让显卡可以用于图像计算以外的目的。
CUDA的优势？简单来讲，比如通过CUDA架构，视频播放软件可以充分挖掘NVIDIA系列显卡的GPU并行计算能力，轻松进行高清影片的播放，与软件高清解码相比，CPU占用可以下降一半以上。当然，CUDA的应用领域绝不仅仅是视频、图形、游戏，包括各种3D和建模，医疗、能源、科学研究等，到处都可见到这种技术架构的应用。
支持CUDA的硬件环境需要有NVidia GF8系列及以上型号的显卡，并且安装185版本以上的显卡驱动程序。
以QQ影音播放器来讲，要想开启CUDA硬件解码加速，可以打开QQ影音的“播放器设置”，进入“高清加速”面板，在“硬件优化”中选择“自定义优化模式”，然后在“滤镜配置”中的“视频解码器”中自定义选择相应的“QQ CUDA Video Decoder(CUDADecFilter.ax)”即可。而关闭CUDA加速，只需取消选择“QQ CUDA Video Decoder(CUDADecFilter.ax)”，或者切换到“智能高清模式”或“稳定兼容模式”通过这种高清解码定义的开启，并不是说你的画质能够提升多少，而是提升高清视频播放时的流畅以及降低CPU的占用。这个时候，节约下来的CPU空间，可以允许你再去做别的工作，这样就会大大提升你的工作效率，而不至于除了看视频，其他的什么都不能做了。
三、cuDNN
1. 什么是cuDNN
cuDNN是CUDA在深度学习方面的应用。使得CUDA能够应用于加速深度神经网络。
NVIDIA cuDNN是用于深度神经网络的GPU加速库。它强调性能、易用性和低内存开销。
NVIDIA cuDNN可以集成到更高级别的机器学习框架中，如谷歌的Tensorflow、加州大学伯克利分校的流行caffe软件。简单的插入式设计可以让开发人员专注于设计和实现神经网络模型，而不是简单调整性能，同时还可以在GPU上实现高性能现代并行计算。
2. CUDA与cuDNN的关系
CUDA可以看作是一个工作台，上面配有很多工具，如锤子、螺丝刀等。cuDNN就相当于是位于该工作台上的一把扳手。
cuDNN是基于CUDA的深度学习GPU加速库，有了它才能在GPU上完成深度学习的计算。它就相当于工作的工具，比如它就是个扳手。但是CUDA这个工作台买来的时候，并没有送扳手。想要在CUDA上运行深度神经网络，就要安装cuDNN，就像你想要拧个螺帽就要把扳手买回来。这样才能使GPU进行深度神经网络的工作，工作速度相较CPU快很多。
cuDNN是CUDA的扩展计算库。
只要把cuDNN文件复制到CUDA的对应文件夹里就可以，即是所谓插入式设计。把cuDNN数据库添加CUDA里，cuDNN是CUDA的扩展计算库，不会对CUDA造成其他影响。
CUDA已有的文件与cuDNN没有相同的文件，复制cuDNN的文件后，CUDA里的文件并不会被覆盖，所以CUDA中的其他文件并不会受影响。
四、NVIDIA
NVIDIA（英伟达）是一家人工智能计算公司。
公司创立于1993年，总部位于美国加利福尼亚州圣克拉拉市。美籍华人Jensen Huang（黄仁勋）是创始人兼CEO。
1999年，NVIDIA定义了GPU，这极大地推动了PC游戏市场的发展，重新定义了现代计算机图形技术，并彻底改变了并行计算。
计算行业正在从只使用CPU的“中央处理”向CPU与GPU并用的“协同处理”发展。为打造这一全新的计算典范，NVIDIA™（英伟达™）发明了CUDA（Compute Unified Device Architecture，统一计算设备架构）这一编程模型，是想在应用程序中充分利用CPU和GPU各自的优点。
2020年7月8日美股收盘后，英伟达首次在市值上实现对英特尔的超越，成为美国市值最高的芯片厂商，这也是2014年后再次有新面孔站上美国芯片企业市值第一的位置。
参考链接
- gpu是显卡吗_gpu,cpu与显卡的关系_有什么区别?
- 显卡、GPU和CUDA简介
- CUDA与cuDNN
【机器学习】显卡、GPU、NVIDIA、CUDA、cuDNN相关推荐
- 机器学习（1）一文带你看懂显卡，显卡驱动，CUDA,CUDNN（内含举例）
一文带你看懂显卡,显卡驱动,CUDA,CUDNN(内含举例) 显卡 显卡驱动 CUDA CUDNN 举一个生动形象的例子 显卡 显卡是硬件设备.(花钱购买的) (注:显卡不是GPU,显卡的核心组件包含 ...
- Ubuntu安装nvidia显卡驱动和CUDA CUDNN autoinstall
Ubuntu安装nvidia显卡驱动和CUDA CUDNN autoinstall 首先安装nvidia显卡驱动 打开终端输入: ubuntu-drivers devices 终端界面还显示可以安装的 ...
- DL之IDE：深度学习环境安装之CUDA的简介(显卡GPU/驱动/CUDA间的关系)、安装(根据本地电脑的NVIDIA显卡驱动版本去正确匹配CUDA版本)之详细攻略
DL之IDE:深度学习环境安装之CUDA的简介(显卡GPU/驱动/CUDA间的关系).安装(根据本地电脑的NVIDIA显卡驱动版本去正确匹配CUDA版本)之详细攻略 目录 CUDA的简介 1.显卡GP ...
- 深度学习环境配置超详细教程【Anaconda+PyTorch(GPU版)+CUDA+cuDNN】
深度学习环境配置 入门深度学习,首先要做的事情就是要搭建深度学习的环境.不管你是Windows用户,Mac用户还是Ubuntu用户,只要电脑配置允许,都可以做深度学习,毕竟Windows.Mac和Ub ...
- 阿里云服务器vgn6i配置NVIDIA CUDA+cuDNN
阿里云服务器vgn6i配NVIDIA CUDA+cuDNN 目录 阿里云服务器vgn6i配NVIDIA CUDA+cuDNN 前言 一.驱动安装 二.安装CUDA 三.cuDNN安装 总结 前言 本文 ...
- ubuntu 16.04安装nVidia显卡驱动和cuda/cudnn踩坑过程
推荐新版安装教程 http://blog.csdn.net/chenhaifeng2016/article/details/78874883 安装深度学习框架需要使用cuda/cudnn(GPU)来加 ...
- ubuntu16.04下安装GTX1080TI显卡驱动+安装CUDA+Cudnn+anaconda+GPU版tensorflow
参考博客:https://blog.csdn.net/weixin_40294256/article/details/79157838 先安装好GTX1080Ti 显卡驱动--安装CUDA--安装Cu ...
- Ubuntu16.04 安装配置深度学习配置：GPU加速 Cuda+cudnn+opencv+caffe
目录 一. 电脑配置: 二. 安装过程 1.安装相关依赖项 2.安装NVIDIA驱动 一,下载安装驱动法 二．终端直接下载安装驱动法. 3.安装CUDA 4.配置cuDNN 5.安装opencv3.1 ...
- 1660ti显卡、ubuntu16.04中安装显卡驱动，cuda, cudnn
ubutntu16.04 1660ti cuda cudnn安装 环境说明 Ubuntu安装 显卡驱动安装 主要代码 cuda9.0安装 小结: cudnn安装 后续1 小结: 后续2 环境说明 项目 ...
- Ubuntu18.04查看显卡信息并安装NVDIA显卡驱动driver + Cuda + Cudnn
环境搭建01--Ubuntu如何查看显卡信息及安装NVDIA显卡驱动 原来的贴子有点老了,这里更新一下,算是一个快速安装的笔记吧! https://blog.csdn.net/tanmx219/art ...
最新文章
- springmvc常用注解标签详解
- BCH升级在即，半路杀出个“中本聪”
- java set如何判断重复_set 怎么用iterator()方法来区分重复与否
- 设置安全性根据Folder关联的条目模板设置上传文档安全性
- spring：我是如何解决循环依赖的？
- python thread模块_【Python@Thread】thread模块
- opencv函数制作的秒针模型
- python读取指定字节_python读取指定字节及位置的文件内容
- Hyper-V 3.0网络虚拟化PART 3：内部交换机
- iOS 开发之玩转专场动画
- 和平精英官方网站静态页面制作与学习html+css保姆级教程
- CNS服务器（配合百度直连）游戏修复专栏
- DELL灵越笔记本插上耳机后，只有外放耳机无声音的解决方法。
- .net rar zip压缩包解压
- 欢迎使用CSDN-markdown反向跟单可持盈利探讨
- MySql delete多表关联删除的使用方法
- 帝国CMS模板，免费帝国CMS模板，帝国CMS建站教程
- Bzoj 3875 骑士游戏
- 使用 Redux 和 Axios 获取数据
- 在职读研是一条困难但正确的路——中国人民大学与加拿大女王大学金融硕士