1. 关于 CPU 的多核和超线程技术

CPU 的物理个数由主板上的插槽数量决定，每个 CPU 可以有多核心，每核心可能会有多线程。

多核 CPU 的每核(每核都是一个小芯片)，在 OS 看来都是一个独立的 CPU。

对于超线程 CPU 来说，每核 CPU 可以有多个线程(数量是两个，比如1核双线程，2核4线程，4核8线程)，每个线程都是一个虚拟的逻辑 CPU (比如 Windows 下是以逻辑处理器的名称称呼的)，而每个线程在 OS 看来也是独立的 CPU。.

这是欺骗操作系统的行为，在物理上仍然只有 1 核，只不过在超线程 CPU 的角度上看，它认为它的超线程会加速程序的运行。

CPU 的多线程和程序的多线程是不同的，CPU 的多线程是硬件多线程，程序的多线程是软件多线程，软件多线程定义的是多个并发执行的任务分支，硬件的多线程是可以被当作一个 CPU 核心来调度执行任务的 CPU 资源。

要发挥超线程优势，需要操作系统对超线程有专门的优化。

超线程的 CPU 在能力上，比非多线程的 CPU 核心要更强，但每个线程不足以与独立的 CPU 核心能力相比较。

每核上的多线程 CPU 都共享该核的 CPU 资源。例如，假设每核 CPU 都只有一个”发动机”资源，那么线程 1 这个虚拟 CPU 使用了这个”发动机”后，线程 2 就没法使用，只能等待。
所以，超线程技术的主要目的是为了增加流水线(参见前文对流水线的解释)上更多个独立的指令，这样线程 1 和线程 2 在流水线上就尽量不会争抢该核 CPU 资源。所以，超线程技术利用了 superscalar (超标量)架构的优点。
多线程意味着每核可以有多个线程的状态。比如某核的线程 1 空闲，线程 2 运行。

超线程没有提供完全意义上的并行处理，每核 CPU 在某一时刻仍然只能运行一个进程，因为线程 1 和线程 2 是共享某核 CPU 资源的。可以简单的认为每核 CPU 在独立执行进程的能力上，有一个资源是唯一的，线程 1 获取了该资源，线程 2 就没法获取。(稍后会深入解释超线程如何实现并行运行)
但是，线程 1 和线程 2 在很多方面上是可以并行执行的。比如可以并行取指、并行解码、并行执行指令等。所以虽然单核在同一时间只能执行一个进程，但线程 1 和线程 2 可以互相帮助，加速进程的执行。
并且，如果线程 1 在某一时刻获取了该核执行进程的能力，假设此刻该进程发出了 IO 请求，于是线程 1 掌握的执行进程的能力，就可以被线程 2 获取，即切换到线程 2 。这是在执行线程间的切换，是非常轻量级的。(WIKI: if resources for one process are not available, then another process can continue if its resources are available)

多线程可能会出现一种现象：假如 2 核 4 线程 CPU，有两个进程要被调度，那么只有两个线程会处于运行状态，如果这两个线程是在同一核上，则另一核完全空转，处于浪费状态。更期望的结果是每核上都有一个 CPU 分别调度这两个进程。

2. CPU多线程和程序多线程的关系和区别

程序的多线程，是软件多线程；多个软线程提供了多任务并发执行的可能性。

CPU 里的线程数是超线程，是硬件多线程。每个硬件多线程(超线程)可以看作是逻辑 cpu，但并非是完全意义上的 CPU。

CPU 核心中的超线程共享该核心中的部分功能单元，比如超线程 1 执行加法运算时，超线程 2 可以执行乘法运算，但超线程 2 不能同时执行加法运算，只是举个例子来说明，并非合理，不过也由此可知，超线程这种逻辑 CPU 是不能当作一个完整核心的物理 CPU 来看待的。此外，由于每个超线程都是 CPU 资源，可以独立运行任务，所以每个超线程都具有自己的执行状态，比如要有自己的寄存器，有自己的 PC。

另一方面，超线程因为都在核心内，它们共享该核心的 L1 和 L2 高速缓存，所以每个核心内的 L1 和 L2 需要有专门的缓存控制器，需要有专门的缓存策略。

再回头来说多进程以及软件多线程的调度问题。

无论是多进程还是软件多线程，它们所表示的含义都是可并发执行的多个任务分支，如果是在多处理器、多核、或超线程 CPU 下，这些并发任务就可以被并行执行，所以多进程、软件多线程都可以被调度分配到超线程上执行，因为超线程是可以独立执行任务的 CPU 资源。

3. 多颗CPU

对于多颗CPU的架构组织方式，有：

AMP(Asymmetric multiprocessing)： 非对称多处理器结构
SMP(Symmetric multiprocessing)： 对称多处理器结构
UMA(Uniform memory access)： 一致存储访问结构
NUMA(Non-uniform memory access)： 非一致存储访问结构
MPP(massively parallel processing)： 大规模(海量)并行处理结构
通常会拿来说明的是 SMP 和 NUMA，MPP 是海量并行处理结构。

4. SMP

对称多处理结构，认为所有 CPU 的角色是平等的，所有 CPU 都共享内存、总线等资源。其实单颗多核的 CPU 内部的多核组织方式也是 SMP 结构，所有的核心都共享内存、总线资源。

对于 SMP 结构来说，由于每颗 CPU 都需要操作共享存储：内存，所以需要保证内存数据的一致性(即缓存一致性)。比如 CPU1 里的 Core1 修改数据 A，假如采用 bus snooping 缓存一致性策略，需要在总线发送广播通知所有 CPU 的所有 Core 使它们对数据 A 的缓存失效。如果 CPU 数量较少，问题并不大，但是随着 CPU 数量增多，因缓存一致性和共享对象导致的总线流量会暴增。

所以 SMP 结构并不利于扩展更多 CPU ，比如 2-4 颗 CPU 可考虑 SMP 架构，但 4 颗 CPU 以上便不适合使用 SMP。

5. NUMA

NUMA(非一致存储访问结构)结构使得各个 CPU 有自己的内存资源，通过各 CPU 之间的互联模块，各 CPU 也可以访问其它 CPU 的内存资源。

因为 CPU 都有自己本地的内存，可以各自管理自己的内存保证自己的缓存一致性。但是，因为各 CPU 各自的内存分离开了，使得 CPU1 通过互联模块访问 CPU2 的内存速度很慢(因为通过中间数据传输介质且距离更远)，所以使用 NUMA 结构时，程序应尽量避免 CPU 之间的交互并行。

此外，CPU 数量越多，跨 CPU 访问内存的距离可能会越远，速度会越差，所以 NUMA 结构的性能并不能随 CPU 数量的增加而线性增长。

下图是 4 个 CPU 组成 NUMA 结构，总共 32 核，总共分配 32G 内存，每颗 CPU 分配 8G 内存作为自己的本地内存。

#原文地址

原文地址: https://www.junmajinlong.com/os/multi_cpu/

关于 CPU 的多核和超线程技术相关推荐

CPU单核多核区别【转载】
CPU个数.CPU核心数.CPU线程数我们在选购电脑的时候,CPU是一个需要考虑到核心因素,因为它决定了电脑的性能等级.CPU从早期的单核,发展到现在的双核,多核.CPU除了核心数之外,还有线程数之 ...
CPU，多核，多线程，并发，并行，计算效率
计算机原理:CPU.并发.并行.多核.多线程.多进程 0.计算机工作流程 0.0 基础概念:计算机组成 0.1 CPU(Central Processing Unit) (1)控制单元 (2)运算单元 ...
多CPU，多核，多进程，多线程以及进程和线程的简单理解以及区别
当面临这些问题的时候,有两个关键词无法绕开,那就是并行和并发. 首先,要先了解几个概念: 1.进程是程序的一次执行. 2.进程是资源分配的基本单位. 3.一个进程可以包括多个线程. 4.在单CPU计算 ...
多线程与单核cpu，多核cpu概念
1.多线程在单核和多核CPU上的执行效率问题的讨论 a1: 多线程在单cpu中其实也是顺序执行的,不过系统可以帮你切换那个执行而已,其实并没有快(反而慢) 多个cpu的话就可以在两个cpu中同时执 ...
对多线程程序，单核cpu与多核cpu如何工作相关的探讨
对多线程程序,单核cpu与多核cpu如何工作相关的探讨我们程序员在编码的时候,涉及到技术方案时,往往会忽略掉代码对性能方面的影响,或者没有足够的敏感度来帮助自己判断自己的技术方案对系统性能造成的影响 ...
对于多线程程序，单核cpu与多核cpu是怎么工作的
此文中的大部分资料来自于网络上,我只是觉得把有道理的整理一下,方便以后查阅. 1.多线程在单核和多核CPU上的执行效率问题的讨论 a1: 多线程在单cpu中其实也是顺序执行的,不过系统可以帮你切换那个 ...
单核CPU与多核CPU工作原理
单核CPU与多核CPU工作原理今天要介绍一下单核CPU和单核(超时间轴)CPU以及多核CPU的工作原理一.单核CPU 起源: CPU的起源是1971年英特尔公司推出,由此正式宣告计算机的诞生,可以 ...
服务器cpu最多核,英特尔10nm服务器CPU现身多核性能极强
英特尔10nm制程Ice Lake处理器已经发布,不过首批10nm主要应用于低功耗平台.而第二代10nm平台将于今年三或四季度发售,即早前CES公布的Tiger Lake平台. 不过近日,GeekBe ...
单核CPU与多核CPU的区别
1.单核CPU 1.1 工作原理工作原理:单核CPU较为死脑,在通电时该CPU就会执行存储块中的指定地址的指令,如果你想要执行内存块其他地方的代码必须调整总线位置才可以让其执行.单核CPU就相当于阻 ...

关于 CPU 的多核和超线程技术